União Europeia vota para proibir aplicativos de nudificação por IA

A proposta de banir aplicativos de nudificação usando inteligência artificial avança na União Europeia, levantando preocupações sobre monitoramento e aplicação das leis.

27/03/2026, 06:45

Autor: Felipe Rocha

A recente proposta da União Europeia para restringir o uso de aplicativos de nudificação utilizando inteligência artificial (IA) vem ganhando destaque, especialmente após uma série de incidentes envolvendo deepfakes explícitos que tem gerado debates sobre privacidade, consentimento e a responsabilidade das plataformas. A votação, que se concentra em banir aqueles que exploram imagens de nus não consensuais, reflete a necessidade emergente de regulamentações mais rigorosas em um setor em rápida evolução, marcado por inovações tecnológicas e questões éticas complexas.

Um dos principais focos da proposta é a crescente popularidade de aplicativos que permitem o que é conhecido como "nudificação" — a manipulação de fotos para criar versões nuas de indivíduos, frequentemente sem seu consentimento. Esses aplicativos, que utilizam modelos avançados de IA, têm se tornado acessíveis a uma ampla gama de usuários, o que levanta preocupações sérias sobre o impacto nas vítimas e a facilidade com que suas imagens podem ser manipuladas e exploradas sem autorização.

No entanto, vários especialistas e observadores têm questionado a viabilidade da proposta. Um dos pontos levantados é sobre como monitorar tais atividades em um cenário onde muitos dos geradores de imagem podem ser operados localmente. Isso significa que, mesmo ao proibir a comercialização de aplicativos de nudificação através de plataformas online, o uso privado pode continuar sem fiscalização. Algumas vozes ressaltam que, enquanto a IA pode criar imagens manipuladas, o verdadeiro desafio está em como compartilhar ou vender essas imagens, o que acarreta implicações legais e éticas.

A proposta da UE não apenas busca proibir aplicativos de nudificação, mas também está inserida em um contexto mais amplo de regulamentação sobre a utilização de IA. A criminalização do compartilhamento de deepfakes não consensuais é vista por muitos como uma abordagem mais prática e realista, já que indivíduos que exercem essa atividade ilegalmente ainda se depararão com riscos que refletem na sua atividade. A responsabilização de provedores de internet e plataformas de compartilhamento de conteúdo também é um aspecto crítico da discussão, à medida que as autoridades buscam formas de coibir comportamentos que marcam a exploração e a violação de privacidade.

Com a proposta em discussão, surgem preocupações adicionais sobre a aplicação dessa legislações. Alguns comentaristas afirmam que se a proposta avançar, poderia levar a um nível de controle que afetaria a inovação tecnológica. A ideia de restringir computadores pessoais apenas a programas aprovados pelo governo é considerada impraticável por muitos, que argumentam que técnicas de manipulação de imagens digitais não são exclusivas de aplicativos de nudificação, pois softwares de edição de imagem mais amplos já realizam tarefas semelhantes.

Outro ponto importante destacado em discussões sobre a regulamentação é a dificuldade de tornar essa aplicação efetiva em todos os níveis. Aplicativos que operam offline estão se espalhando rapidamente, e a ideia de que seria possível colocar "o gato de volta na caixa" parece até mesmo irreal para especialistas que trabalham com segurança digital e privacidade. A resposta de muitos é a aplicação de legislação que não se dirija apenas a tecnologias emergentes, mas que se concentre na proteção de indivíduos de danos online, reforçando uma cultura de respeito ao consentimento.

Por outro lado, a resposta do público a essa proposta tem sido mista. Muitos estão alarmados com a escala de manipulação que essas tecnologias podem proporcionar, considerando seu potencial para causar danos permanentes à reputação e vida pessoal das vítimas. A pornografia não consensual continua a ser um problema em larga escala na internet, e as consequências emocionais e sociais para as vítimas são profundamente perturbadoras.

Embora a proposta de regulamentação da UE esteja ainda em estágio inicial, ela já acendeu uma luz sobre a necessidade de discussões mais profundas sobre o uso de IA e suas muitas aplicações. À medida que a tecnologia avança, torna-se imprescindível um diálogo construtivo sobre os limites éticos e legais da manipulação de imagens, o que inclui a criação de normas que reflitam não apenas a proteção de dados, mas a proteção da dignidade humana. A preocupação com um futuro onde a IA seja usada irresponsavelmente para manipular a imagem de pessoas levanta a urgência de abordagens que possam equilibrar a inovação tecnológica com a ética e a responsabilidade.

A situação seguirá seus trâmites na UE, mas uma coisa é clara: à medida que as capacidades da tecnologia de IA continuam a evoluir, o mesmo deve ocorrer com os marcos legais que governam sua utilização. A luta para regulamentar essas tecnologias emergentes é apenas o começo de um longo caminho em busca de um ambiente digital mais seguro e justo para todos. Fica a expectativa de ver como a regulamentação proposta se desenvolverá e quais impactos trará para a sociedade no futuro próximo.

Fontes: Folha de São Paulo, The Guardian, TechCrunch