Un estudio internacional revela que hasta el 50 % de las respuestas de inteligencia artificial sobre salud pueden ser imprecisas o peligrosas, abriendo un debate urgente sobre regulación, educación digital y riesgos para la ciudadanía.
El uso de chatbots de inteligencia artificial como herramienta cotidiana para resolver dudas médicas está creciendo a gran velocidad. Sin embargo, esta tendencia podría estar generando más riesgos que beneficios. Un reciente estudio internacional advierte que la mitad de las respuestas ofrecidas por estas plataformas contienen información problemática, lo que podría afectar directamente la salud de millones de usuarios.
La expansión de la IA en la vida cotidiana
En los últimos años, sistemas como ChatGPT, Gemini o Meta AI han transformado la forma en que las personas acceden a la información. En muchos casos, han reemplazado a los motores de búsqueda tradicionales, especialmente en temas sensibles como la salud.
El problema es que estos sistemas no “comprenden” la información como lo haría un profesional médico. Funcionan prediciendo palabras a partir de grandes volúmenes de datos, lo que incluye tanto evidencia científica como contenido no verificado. Esta mezcla plantea un riesgo estructural: la dificultad para distinguir entre información confiable y desinformación.
Hallazgos clave del estudio
La investigación, publicada en la revista BMJ Open y liderada por el Instituto Lundquist para la Innovación Biomédica, evaluó cinco modelos de IA ampliamente utilizados: Gemini, DeepSeek, Meta AI, ChatGPT y Grok.
Para el análisis se diseñaron 250 preguntas sobre temas críticos como cáncer, vacunas, nutrición y células madre. Los resultados fueron contundentes: el 50 % de las respuestas fueron clasificadas como problemáticas, mientras que un 20 % resultó altamente peligroso, con el potencial de causar daño si se siguen las recomendaciones sin supervisión médica. Además, ningún modelo logró ofrecer referencias científicas completamente fiables.
Según el investigador Nicholas Tiller, uno de los autores del estudio, existe una percepción equivocada sobre estas tecnologías: “No poseen conocimiento en el sentido humano; no ‘saben’ cosas”. Esto significa que los chatbots no pueden evaluar críticamente la evidencia ni jerarquizar fuentes, lo que los hace especialmente vulnerables a reproducir errores.
El problema de la “falsa credibilidad”
Uno de los hallazgos más preocupantes no es solo la imprecisión, sino la forma en que se presenta la información. Las respuestas suelen tener un tono de seguridad absoluta, sin advertencias claras sobre sus limitaciones.
Además, el estudio detectó que el lenguaje utilizado es excesivamente técnico, equivalente al nivel universitario, lo que puede dificultar la comprensión en el público general. También se observó que las respuestas largas tienden a aumentar la confianza del usuario incluso cuando son incorrectas, y que las IA suelen generar citas falsas o inexistentes, un fenómeno conocido como “alucinaciones”.
Todo esto crea lo que los investigadores llaman una “falsa credibilidad académica”, donde la forma pesa más que el contenido.
Riesgos para la ciudadanía
El problema no es solo tecnológico, sino profundamente social.
En contextos donde el acceso a servicios de salud es limitado —como en zonas rurales o sectores con bajos ingresos—, muchas personas recurren a internet como primera fuente de orientación médica. Si esa información es errónea, las consecuencias pueden ser graves, ya que puede derivar en automedicación peligrosa, retrasos en diagnósticos, desconfianza en el sistema de salud y una mayor expansión de mitos y pseudociencias.
En América Latina, y particularmente en países como Colombia, donde existen brechas estructurales en el acceso a la salud, este fenómeno podría amplificar desigualdades existentes.
