Revolução na Saúde: ChatGPT Health e os Riscos da IA Médica
Segurança e privacidade em xeque enquanto 230 milhões usam chatbots para saúde
A Nova Fronteira da IA na Medicina
Dr. Sina Bari, cirurgião e líder em IA para saúde da iMerit, presenciou casos em que ChatGPT forneceu conselhos médicos enganosos. Em um exemplo recente, um paciente trouxe um relatório do chatbot afirmando que um medicamento tinha 45% de risco de embolia pulmonar. Na verdade, o dado se aplicava a um subgrupo específico de tuberculose, não ao caso do paciente.
ChatGPT Health e os Desafios de Privacidade
Apesar dos riscos, a nova versão do ChatGPT Health, anunciada recentemente pela OpenAI, gera entusiasmo. O chatbot promete maior privacidade, permitindo que usuários compartilhem registros médicos e sincronizem dados com apps como Apple Health. No entanto, especialistas alertam para a transferência de dados entre sistemas HIPAA-compliant e terceiros não regulamentados.
Erro de Hallucinação e Responsabilidades
A avaliação de modelos como GPT-5 revela uma maior propensão a “hallucinações” em comparação a concorrentes. Dr. Nigam Shah, da Stanford, destaca que a crise de acesso a cuidados médicos nos EUA supera os riscos da IA: “Esperar três a seis meses por um médico é pior que usar ferramentas com limitações técnicas”.
IA no Lado do Fornece
Equipes como a do Dr. Shah desenvolvem soluções como o ChatEHR, integrado a prontuários eletrônicos, otimizando a rotina de médicos. Paralelamente, a Anthropic lançou Claude for Healthcare para reduzir tarefas administrativas, como solicitações de autorização prévia a seguradoras, economizando horas semanais de trabalho.
Tensão entre Tecnologia e Medicina
“Precisamos ser céticos para proteger os pacientes”, afirma o Dr. Bari, destacando a dura realidade: empresas de tecnologia buscam lucro, enquanto a medicina prioriza a saúde. O desafio é equilibrar inovação com responsabilidade ética.
