Inteligência artificial gera artigos acadêmicos falsos que são citados

O uso crescente da inteligência artificial na pesquisa acadêmica levanta preocupações sobre a veracidade das referências em artigos científicos, num fenômeno alarmante.

18/12/2025, 11:34

Autor: Laura Mendes

O advento da inteligência artificial tem conferido novas ferramentas aos acadêmicos, mas, ao mesmo tempo, traz à tona questões críticas sobre a veracidade e a integridade da produção científica. Recentemente, relatos indicam que sistemas de IA estão gerando artigos acadêmicos fictícios que, em vários casos, são citados em revistas e conferências de prestígio. Essa situação levanta sérias preocupações em relação à qualidade da pesquisa acadêmica e à confiança nos processos de publicação.

Alguns pesquisadores relatam que, ao utilizar ferramentas de IA como o Gemini para buscar referências, acabaram descobrindo que os artigos sugeridos não existiam. Isso indica que a IA, em suas tentativas de gerar conteúdo relevante, pode acabar criando citações e títulos que apenas misturam informações, levando pesquisadores a crer na autenticidade de material que, na verdade, não possui base factual. A necessidade de validação e verificação se torna, portanto, um passo essencial que não pode ser negligenciado.

A forte dependência da tecnologia no processo de pesquisa acadêmica revelou-se problemática. Em muitos casos, acadêmicos comentam que o tempo dispendido para verificar as referências sugeridas por IA se equipara, ou até supera, o tempo gasto para realizar a pesquisa de forma tradicional. Esse aspecto não apenas questiona a eficácia das ferramentas modernas, mas também provoca um debate sobre a responsabilidade do pesquisador no processo de verificação das informações.

Enquanto algumas instituições de ensino abordam o uso da IA como um método inovador para auxiliar na pesquisa, muitos acadêmicos expressam ceticismo e preocupação. A sensação de que as ferramentas não estão equipadas para lidar com a complexidade da pesquisa leva a um aumento nas críticas sobre a fragmentação de conhecimento e a qualidade das publicações. Há depoimentos preocupantes de alunos que, ao citarem livros de suas próprias aulas, frequentemente o fazem com erros em títulos e autores, sugerindo uma falta de rigor nas práticas educacionais que poderia ser exacerbada pela integração das tecnologias de IA.

Os editores de revistas acadêmicas enfrentam um desafio imenso para manter a credibilidade da literatura científica. A pressão para publicar e a vasta quantidade de artigos submetidos frequentemente dificultam uma revisão detalhada e minuciosa das referências citadas. Essa situação é agravada pela escassez de revisores qualificados e pagos, que muitas vezes são sobrecarregados de trabalho. Com a IA criando um ambiente onde o plágio pode ser facilitado, a preocupação é que assim se instale uma nova forma de "pseudociência", onde a produção acadêmica se torna mais um troféu do que um verdadeiro avanço do conhecimento.

Há uma discussão relevante sobre a crítica à falência de um sistema que não consegue lidar com tecnologias emergentes. A afirmação de que pesquisadores despreparados entregam trabalhos improdutivos que não fazem jus às normas acadêmicas é um ponto levantado em diversas áreas. Muitos acreditam que a responsabilidade recai sobre o próprio sistema educacional, que valoriza a quantidade em detrimento da qualidade.

Adicionalmente, a questão da ética na geração de conteúdo também é colocada em pauta. A possibilidade de que a IA possa ser programada por indivíduos com intenções maliciosas para distorcer a verdade ou alterá-la a favor de narrativas específicas mostra que a raça já não é apenas com máquinas, mas com a integridade da informação em si. O reflexo disso é uma desconfiança crescente no que se lê em publicações científicas, um bem essencial para a sociedade.

A crise da confiança gerada por esta situação não está restrita a acadêmicos ou a editoras, mas reverbera por toda a sociedade. O conhecimento, que antes era considerado um bem inegociável, se vê ameaçado pela desvalorização da verdade e pela proliferação de conteúdo impreciso. A urgência de um novo método de validação, que inclua a implementação de ferramentas tecnológicas para verificar referências, se torna cada vez mais evidente.

As universidades e centros de pesquisa devem assumir um papel ativo na formação de uma nova geração de acadêmicos capazes de trabalhar em sinergia com a tecnologia, mas sem deixar de lado os princípios éticos. Sem uma abordagem cuidadosa e crítica, o futuro da pesquisa acadêmica corre o risco de se tornar um terreno árido, onde a verdade é uma mera convenção e a busca pelo conhecimento se transforma em uma luta contra fantasmas gerados por algoritmos.

Fontes: The Guardian, Nature, Scientific American, Folha de São Paulo.