Con los sistemas de salud bajo presión, muchas personas recurren a chatbots de IA como ChatGPT para obtener orientación médica. Una encuesta indica que uno de cada seis adultos en EE. UU. usa chatbots para consejos de salud mensualmente. Sin embargo, un estudio del Instituto de Internet de Oxford destaca que estas herramientas a menudo proporcionan consejos poco confiables debido a problemas de comunicación.
El estudio, que involucró a 1,300 participantes del Reino Unido, utilizó escenarios médicos diseñados por doctores. Los participantes identificaron condiciones de salud y decidieron acciones, como visitar a un médico, usando chatbots o métodos tradicionales como búsquedas en línea. Los modelos de IA probados incluyeron GPT-4o (el predeterminado de ChatGPT), Command R+ de Cohere y Llama 3 de Meta.
Adam Mahdi, coautor del estudio, dijo a TechCrunch: “El estudio reveló una falla de comunicación bidireccional”. Los usuarios a menudo omitían detalles clave en sus consultas, lo que resultaba en respuestas de chatbots que mezclaban consejos precisos y engañosos. Esto complicaba las decisiones de salud informadas. El estudio encontró que los usuarios de chatbots eran menos precisos al identificar condiciones y más propensos a subestimar su gravedad en comparación con quienes usaban otros métodos.
Los hallazgos muestran una brecha entre el potencial de la IA en la salud y sus limitaciones actuales. Empresas como Apple y Microsoft desarrollan IA para aplicaciones de salud, pero persiste el escepticismo entre médicos y pacientes sobre su fiabilidad en escenarios críticos. La Asociación Médica Estadounidense desaconseja usar chatbots como ChatGPT para decisiones clínicas, y OpenAI advierte contra confiar en sus herramientas para diagnósticos.
Mahdi destacó la necesidad de mejores pruebas, afirmando: “Los métodos actuales de evaluación de [chatbots] no reflejan la complejidad de interactuar con usuarios humanos”. A diferencia de los médicos, los chatbots no pueden hacer preguntas de seguimiento ni interpretar señales no verbales, cruciales en contextos médicos.
El estudio recomienda confiar en fuentes confiables para decisiones de salud, señaló Mahdi. Los hallazgos sugieren que, hasta que los chatbots manejen mejor las interacciones humanas, la orientación médica profesional sigue siendo más confiable que los consejos de IA, según los investigadores.