Google Remove IA em Pesquisas Médicas Após Escândalo de Dados Falsos
Erros em Aconselhamento Médico Podem Aumentar Riscos para Pacientes
O Google está suspendendo temporariamente os resumos gerados por inteligência artificial (IA) em consultas médicas após investigações revelarem informações enganosas e potencialmente perigosas para usuários. A ação segue denúncias de que a plataforma apresentava conselhos contraditórios sobre tratamentos críticos.
Aconselhamento Contrário à Norma Médica
Em um caso específico, especialistas alertaram que a IA recomendava a pacientes com câncer de pâncreas que evitassem alimentos gordurosos, o que, segundo pesquisadores, pode aumentar o risco de mortalidade. A recomendação correta, segundo a literatura médica, é a ingestão de gorduras para manter a força em estágios avançados da doença.
Dados Falsos em Função Hepática
Outro exemplo aponta informações enganosas sobre a função hepática, indicando testes e procedimentos inexistentes em protocolos hospitalares. Esses erros, classificados como “alarming” por médicos revisores, colocam em risco a confiabilidade do algoritmo em tópicos de saúde crítica.
O anúncio foi feito após uma investigação da The Guardian, que mapeou 12 casos de falhas em respostas automatizadas. O Google não especificou prazos para revisão do sistema, mas confirmou que está isolando o módulo de IA até que sejam corrigidas as distorções.
