Google Health falha em diagnosticar e levanta preocupações sobre IA

Uma falha em um novo sistema de inteligência artificial da Google Health gerou apreensão entre médicos, expondo riscos de diagnósticos errôneos e a desvalorização do pensamento crítico na área da saúde.

14/05/2026, 21:46

Autor: Laura Mendes

Recentemente, o Google Health, braço da gigante da tecnologia voltado para inovações na saúde, se viu envolvido em uma polêmica após o lançamento de sua inteligência artificial, conhecida como Med-Gemini. Durante testes, a IA foi incapaz de distinguir entre os sintomas reais de doenças e informações enganosas, levando-a a “inventar” uma parte do corpo chamada “trumdlescence”. Essa falha não apenas suscita questões sobre a precisão das informações fornecidas pelas tecnologias emergentes, mas também lança luz sobre a dependência que médicos e profissionais de saúde podem desenvolver em relação a esses sistemas.

A questão central debatida por especialistas e profissionais da saúde gira em torno da confiabilidade das soluções baseadas em IA quando se lida com informações médicas cruciais. Um dos comentários mais contundentes destaca que “a IA está frequentemente errada, e não há expectativa de que ela acerte sempre.” Isso reflete uma preocupação com a tendência de aceitar o que a tecnologia produz sem a devida verificação ou reflexão crítica. A desconfiança em relação à IA surge da experiência acumulada quando, em um estudo anterior, radiologistas experientes que usavam sistemas de inteligência artificial para apurar diagnósticos apresentaram uma queda drástica na precisão quando se depararam com dados incorretos gerados pela máquina.

O impacto desse tipo de erro pode ser significativo e potencialmente perigoso. Ao lidar com o bem-estar humano, é imperativo que os resultados fornecidos por inteligência artificial sejam revisados por profissionais com experiência. Um comentário expressa isso de forma clara: “HITL (Humano no Loop) é absolutamente essencial. Tudo que for produzido deve, sem dúvida, ser revisado por um profissional de saúde.” A pressão por eficiência e redução de custos em sistemas de saúde pode incentivar a adoção de tecnologias sem a devida validação humana, levando a um cenário onde erros sutis se tornam comuns e graves.

O uso da inteligência artificial na medicina é uma aventura em que o potencial é imenso, mas os riscos também precisam ser cuidadosamente considerados. Médicos relatam que em algumas situações, a IA é utilizada apenas para transcrever notas sem cumprir com as regulações de proteção de dados, o que expõe um contexto preocupante: "Eu perguntei se o sistema estava em conformidade com a HIPAA", diz um profissional em referência à segurança de dados de saúde dos pacientes. Essa insegurança somente acentua as diversas falhas que a tecnologia pode apresentar.

Além disso, um incidente recente traz à luz a falta de vigilância crítica na pesquisa médica. Um grupo de pesquisadores publicou uma pesquisa falsa sobre uma condição ocular fictícia chamada “bixonimania” e a IA relevante não apenas reconheceu, mas também incorporou essa informação à sua base de dados, que foi publicada em literatura técnica. “Então me diga de novo como a IA vai realmente ajudar aqui...”, indaga um comentarista. Essa situação ilustra como a suposição de que a tecnologia está sempre correta pode ser não apenas ilusória, mas também prejudicial.

A pressão para a aceitação irrestrita da IA na área médica deve ser contornada com esforços para validar rigorosamente os dados e a terminologia gerados. Um estudo ressalta que a adoção de tecnologia deve ser apenas um apoio e não uma substituição à análise crítica que um profissional de saúde deve ter. A noção de que o pensamento crítico pode ser erodido pela utilização desenfreada do suporte tecnológico desperta questões sobre o futuro da prática médica.

Enquanto a comunidade médica debate esses problemas, a introdução de soluções tecnológicas que não requerem a validacão adequada decorre do preconceito pelas inovações e promessas de maior eficiência. “O problema é que os médicos não vão perceber por causa da IA,” expressa um comentador, refletindo a opinião de muitos sobre o risco de os profissionais deixarem de fazer análises rigorosas dos dados apresentados. A estrutura do sistema de saúde deve incluir um espaço significativo para a formação de profissionais, não apenas na capacidade de operar as ferramentas de IA, mas para entender suas limitações.

Por fim, a balança entre a tecnologia e a expertise humana no campo da saúde é delicada. À medida que a IA evolui e se integra mais aos serviços de saúde, as questões sobre sua capacidade e aplicação responsável devem ser debatidas com seriedade e rigor. O que está em risco é a saúde de milhões de pessoas que dependem de diagnósticos precisos e cuidados adequados, e a tecnologia deve, acima de tudo, servir para aprimorar e não substituir o aspecto humano do atendimento médico.

Fontes: Folha de São Paulo, Estadão, BBC News, The New England Journal of Medicine