Google derruba IA em consultas médicas após escândalo
Investigação revela riscos de IA em respostas médicas
Google suspende funcionalidade de IA em consultas médicas
Em uma decisão marcante para o setor de IA, o Google anunciou na semana passada a suspensão imediata da funcionalidade AI Overviews para consultas relacionadas a saúde. A medida ocorre após uma análise interna confirmar que a ferramenta, alimentada por modelos de processamento de linguagem natural (PLN), fornecia informações potencialmente enganosas em até 37% dos casos analisados.
Riscos de IA generativa em contextos críticos
Segundo comunicado oficial, a IA foi desativada em 18 categorias médicas sensíveis, incluindo diagnósticos de câncer, doenças cardíacas e orientações de tratamento. A empresa destacou que o algoritmo, treinado com 120 petabytes de dados públicos, não passou por validação por especialistas médicos, violando os padrões da ISO/IEC 23894 para IA responsável.
O anúncio gerou debates no setor sobre a necessidade de regulamentação específica para modelos de IA em contextos de saúde, com especialistas alertando que até 80% das empresas não têm estrutura legal adequada para lidar com responsabilidades por danos causados por IA.
