Baltimore processa xAI de Musk por criação de deepfakes sexuais

A cidade de Baltimore entrou com uma ação judicial contra a xAI de Elon Musk, alegando que a plataforma Grok expõe usuários a deepfakes sexuais prejudiciais e vulneráveis.

25/03/2026, 04:24

Autor: Felipe Rocha

A cidade de Baltimore deu mais um passo em um cenário cada vez mais complexo de segurança digital ao processar a xAI, empresa de inteligência artificial fundada por Elon Musk. A ação, formalmente apresentada no Tribunal de Circuito da Cidade, alega que a plataforma Grok desenvolvida pela xAI está em violação das normas de privacidade e segurança ao permitir que os usuários sejam afetados por conteúdo sexualmente explícito e prejudicial, sem o seu conhecimento ou consentimento. A denúncia foca especialmente na preocupação de que o uso da plataforma não apenas amplifica a probabilidade de exposição a conteúdos indevidos, mas também gera uma atmosfera em que a privacidade dos usuários é facilmente desconsiderada.

De acordo com a reclamação, o Grok gerou um total alarmante de 3 milhões de imagens sexualizadas em um breve espaço de tempo, recordando uma análise feita pelo Centro para Combater o Ódio Digital, que detalhou que cerca de 20 mil dessas imagens foram identificadas como retratos de crianças. A denúncia destaca que, ao contrário de suas promessas de segurança, a xAI falhou em proteger seus usuários de tais ocorrências, o que não se alinha com sua imagem pública. O prefeito de Baltimore, Brandon M. Scott, citou as consequências traumáticas desses deepfakes, particularmente aqueles que envolvem menores, conforme as vítimas ficam desprovidas de qualquer meio para impedir a disseminação dessas imagens perturbadoras criadas sem seu consentimento.

Os comentários sobre o assunto abrangem uma ampla gama de reações, refletindo a indignação sobre a responsabilidade de plataformas digitais em moderar conteúdos e proteger os usuários. Um dos comentários sugere que a abordagem da xAI em relação à segurança e à privacidade pode estar significativamente desalinhada, insinuando que essa é uma preocupação que deveria ter sido resolvida há muito tempo, especialmente após a aquisição da plataforma por Musk. Outro usuário destaca a repetida natureza dos processos legais enfrentados por Musk, indicando uma tendência de imprudência no lançamento de novos produtos sem uma consideração cuidadosa dos potenciais riscos associados.

Além das preocupações apresentadas pela cidade de Baltimore, relatos surgiram sobre outras ações judiciais em curso contra Musk, com algumas pessoas afirmando que ele deveria ser responsabilizado por sua "imprudência" e sua aparente falta de consideração pelas repercussões sociais de suas inovações. A pressão sobre as práticas éticas de Musk é evidente, uma vez que seu nome tem estado em destaque em várias contendas públicas. Uma das questões levantadas em relação à segurança das plataformas sociais é o desenvolvimento e a disseminação de deepfakes, que têm o potencial de causar sérios danos à reputação e à privacidade dos indivíduos. A falta de regulamentações eficazes nesse espaço tem sido notada como uma lacuna que precisa ser abordada com urgência.

Por fim, há uma desconfiança crescente de que, à medida que as multas permanecem como a principal consequência por práticas ilegais, figuras ricas e poderosas como Musk possam continuar a operar dentro das fronteiras da legalidade com baixo risco de penalizações significativas. A busca por um sistema de justiça mais equilibrado e responsável é um tema de discussão fervente entre especialistas e defensores dos direitos civis, que clamam por fortes medidas que coíbam a impunidade entre os mais ricos. O escândalo atual envolvendo a xAI de Musk não só ressalta a fragilidade da privacidade digital, mas também a urgência de um debate mais amplo sobre as obrigações das empresas de tecnologia em garantir um ambiente seguro para todos os usuários.

Fontes: The New York Times, Washington Post, TechCrunch