Apple e Google falham em regular uso de deepfakes na plataforma X

Apple e Google enfrentam críticas por não remover geradores de deepfakes que exacerbam a exploração infantil, enquanto debatemos os limites da regulamentação na tecnologia.

09/01/2026, 19:07

Autor: Felipe Rocha

Recentemente, a ausência de ações concretas por parte das gigantes da tecnologia Apple e Google em relação ao conteúdo gerado na plataforma X levantou controvérsia e preocupação. O app Grok, um novo modelo de geração de conteúdo, foi destacado pelas suas permissões que facilitam a produção de material sexualmente explícito, tornando-se um dos primeiros a abrir a porta a tais conteúdos. A crítica focaliza não só a responsabilidade das plataformas em proibir a produção de conteúdo ilegítimo, mas também a capacidade real dessas empresas em implementar diretrizes que protejam os usuários, especialmente crianças, de conteúdos inapropriados.

Um dos pontos centrais deste debate é a natureza do próprio desenvolvimento da inteligência artificial. Com muitos modelos de IA sendo projetados para produzir conteúdo criativo, a preocupação é que, à medida que a tecnologia avança, esses modelos se tornem mais sofisticados e, inevitavelmente, também mais problemáticos. Alguns especialistas argumentam que o uso de IA para permitir a produção de material de natureza sexual - ainda que em um contexto de "arte" ou "criação" - gera um dilema ético. Para muitos, isso implica que a venda e distribuição de tecnologia que auxilia na produção de conteúdo sexualmente sugestivo são inaceitáveis.

Críticos têm sugerido que as empresas como Apple e Google não estão apenas negligenciando suas responsabilidades, mas também perpetuando a exploração ao não intervir. Um usuário questionou retoricamente se “as pessoas no poder de remover o conteúdo não gostariam de pornografia infantil” como substância a ser explorada. Essa ideia reflete uma frustração generalizada sobre a maneira como a indústria lida com questões relacionadas ao conteúdo gerado por usuários. Alguns até sugeriram que, se o algoritmo já autorizou alguém a gerar pornografia infantil, ele permitiria outras violações que decorrem da mesma lógica.

Ainda mais desafiador é o ambiente político que envolve essas discussões. A influência dos grupos políticos e as potenciais pressões de eleitores que apoiam ou se beneficiam desses conteúdos complicam ainda mais o cenário. Um comentarista expressou preocupação de que as regulamentações são imprecisas ou que nenhuma ação significativa será tomada até que as consequências diretas afetem aqueles que têm o poder de agir. Uma reflexão mais sombria sugere que talvez seja necessário um "fogo com fogo" onde, para combater essa produção indesejada, as pessoas criem conteúdo igualmente perturbador que exponha as falhas do sistema todo.

Um aspecto significativo que emerge neste debate é a necessidade de regulamentação da inteligência artificial. Com o crescimento exponencial do uso de IA em várias esferas da vida cotidiana, muitos acreditam que as estruturas existentes não são mais suficientes. Enquanto casos de material gerado por IA são, frequentemente, percebidos como uma ferramenta de entretenimento, eles também têm implicações financeiras enormes. As empresas de tecnologia estão desesperadas por engajamento e visualização, muitas vezes colocando lucro à frente da segurança e da ética. Isso faz surgir a pergunta: até onde os limites devem ser estendidos antes que a humanidade priorize a proteção de seus membros mais vulneráveis?

Para complicar ainda mais a situação, os críticos notam que a pressão por regulamentação não parece ser levada a sério pelas plataformas e suas lideranças. O presidente da Apple, Tim Cook, e o CEO do Google, Sundar Pichai, têm enfrentado acusações de covardia em suas atuações. Com muitas pessoas questionando sua falta de ação decisiva em cenários tão críticos, ressoa a comparação com outras plataformas onde crises semelhantes foram rapidamente contidas com a implementação drástica de políticas contra conteúdos impróprios. Assim, a pergunta que paira no ar é: por que a abordagem das duas maiores plataformas ainda é tão leniente?

Esse quadro revela um cenário assustador onde as pressões econômicas estão se sobrepondo à responsabilidade social. O desinteresse pelas implicações éticas e legais geradas pela tecnologia pode levar a uma sociedade cada vez mais permissiva com comportamentos prejudiciais. A batalha pela regulamentação da IA e pela proteção efetiva dos menores de idade se torna assim uma prioridade cada vez mais urgente, e a responsabilidade deve ser clara: as empresas precisam agir, mas a sociedade também deve se mobilizar para exigir mudanças.

Em suma, as reações e inquietações levantadas em torno das permissões de conteúdo gerado na plataforma X não apenas marcam um ponto crítico para os consumidores, mas também forçam um reexame da relação entre ser um ator responsável no cenário da tecnologia de alto impacto e a luta pelo lucro em um mundo digital em constante evolução. A intersecção destes fatores não pode ser ignorada se quisermos garantir um futuro seguro e ético para todos, especialmente para as vozes mais vulneráveis da nossa sociedade.

Fontes: The Verge, Wired, Folha de São Paulo, BBC, TechCrunch