Mal diagnóstico: un estudio encontró fallas graves en la mitad de las respuestas de cinco chatbots populares.

Un estudio sobre cinco chatbots populares mostró errores, omisiones y consejos riesgosos en consultas de salud. El problema crece cuando las preguntas son abiertas.

Una persona con una duda de salud puede hacer una consulta rápida en el celular y recibir una respuesta escrita con tono seguro, ordenada y aparentemente convincente. El problema aparece cuando esa respuesta parece útil, pero en realidad arrastra errores, omisiones o sugerencias que pueden empujar a una decisión equivocada. Eso es lo que volvió a mostrar un estudio reciente sobre chatbots de inteligencia artificial, que encontró un nivel de fallas mucho más serio de lo que muchos usuarios imaginan.

El trabajo, publicado en BMJ Open, evaluó el tipo de información médica que entregan cinco sistemas de uso público y concluyó que una porción importante del contenido ofrecido no resulta confiable para una persona sin formación específica. La advertencia central no apunta a un detalle técnico menor, sino al modo en que estas herramientas ya circulan como si pudieran reemplazar una consulta orientativa real. Para los investigadores, seguir expandiendo su uso sin educación pública ni supervisión puede ampliar la desinformación en salud.

Los modelos analizados fueron Gemini, DeepSeek, Meta AI, ChatGPT y Grok. A cada uno se le hicieron preguntas abiertas y cerradas dentro de cinco áreas sensibles: cáncer, vacunas, células madre, nutrición y rendimiento deportivo. El diseño del estudio intentó parecerse a consultas habituales que cualquier persona podría formular en busca de orientación médica.

El dato que más peso tuvo en los resultados fue que el 50 % de las respuestas terminó clasificado como problemático. De ese total, el 30 % fue considerado algo problemático y el 20 % muy problemático, una escala que no habla de simples matices, sino de contenido que podría inducir a seguir un tratamiento ineficaz o incluso dañino si alguien lo toma al pie de la letra. En otras palabras, una de cada dos respuestas quedó lejos de un estándar seguro para circular sin filtro profesional.

Dentro de esa comparación, Grok fue el sistema que acumuló más respuestas gravemente comprometidas. El estudio indica que generó “un número significativamente mayor” de respuestas muy problemáticas de lo esperable, con 29 sobre 50, es decir, un 58 % de ese grupo. En el otro extremo, Gemini fue el que mostró menos respuestas muy problemáticas y más respuestas no problemáticas, aunque eso no lo ubicó en una zona libre de fallas.

También quedó claro que no todas las preguntas exponen del mismo modo a estos sistemas. Las preguntas abiertasdispararon los peores resultados, con 40 respuestas muy problemáticas y menos respuestas aceptables de las esperadas. En cambio, las preguntas cerradas, donde suele haber una respuesta correcta más delimitada por el consenso científico, mostraron un rendimiento relativamente mejor.

OTRAS NOTICIAS:

Trump quiere tocar una ley que frenó el derroche de agua en millones de inodoros

Ese contraste importa porque se parece bastante a la forma en que consulta la mayoría de la gente. Un usuario no suele escribir una pregunta técnica acotada, sino plantear algo amplio, mezclado con miedo, dudas y poca información clínica. Justamente en ese terreno, donde la consulta necesita contexto y criterio, los modelos muestran más tendencia a derrapar.

Los investigadores observaron además que los chatbots rindieron mejor cuando hablaron de vacunas y cáncer, pero se comportaron peor en temas como células madre, nutrición y rendimiento deportivo. A eso se sumó otro problema menos visible, aunque igual de importante: la calidad de las referencias fue pobre, con una puntuación media de exhaustividad del 40 %. Incluso cuando la respuesta no era directamente riesgosa, muchas veces venía con una base débil para ser verificada o entendida por quien la recibía.

La dificultad no termina ahí, porque el modo en que esas respuestas están redactadas tampoco ayuda demasiado al público general. El estudio señaló que todos los sistemas fueron evaluados con niveles de legibilidad difíciles, comparables con la complejidad esperable para una persona con formación universitaria. Eso deja una escena complicada: respuestas médicas incompletas o confusas, con referencias flojas y escritas en un nivel que muchas veces no coincide con quien necesita entenderlas.

OTRAS NOTICIAS:

Santa Cruz llevó a Canadá su oro, Palermo Aike y una oferta fiscal para tentar capitales

Otro trabajo citado, publicado en JAMA Network Open, reforzó la advertencia desde otro ángulo. Después de evaluar 21 modelos avanzados en casos clínicos, concluyó que la IA todavía no está lista para tomar decisiones médicas de forma autónoma y que falla en más del 80 % de los casos al momento de elaborar diagnósticos diferenciales. Es decir, incluso cuando acierta en algunas respuestas, sigue mostrando una inconsistencia fuerte en etapas clave del razonamiento clínico.

Los propios autores subrayan que estas herramientas no razonan como un médico ni valoran pruebas del modo en que lo hace una práctica clínica real. Generan respuestas a partir de patrones estadísticos, no de juicio profesional, evaluación ética o lectura contextual de un paciente concreto. Por eso remarcan que su papel actual puede ser el de apoyo, pero no el de reemplazo de una consulta médica humana.

La cuestión de fondo ya no pasa solo por si la inteligencia artificial puede contestar rápido, sino por qué ocurre cuando esa velocidad se confunde con confiabilidad. Hoy millones de personas llegan antes a un chatbot que a un profesional, sobre todo cuando la duda es simple, urgente o incómoda. En ese desfasaje entre acceso instantáneo y calidad real de la respuesta aparece un límite muy concreto: la tecnología puede acompañar, pero todavía está lejos de cargar sola con la salud de una persona.