Noticia Estudio advierte fallas en los consejos médicos de los chatbots de inteligencia artificialDos estudios advierten que, aunque los modelos de lenguaje logran buenos resultados en diagnósticos finales, siguen fallando en razonamiento clínico.Los modelos de IA tienden a llegar de forma prematura a una única respuesta. Foto: iStockLink Angie Tatiana Rodríguez BernalPERIODISTA16.04.2026 07:49 Actualizado: 16.04.2026 07:49 Compartir Guardar Ingrese o regístrese acá para guardar los artículos en su zona de usuario y leerlos cuando quiera Reportar Resumen Cerrar Este resumen fue construido con ayuda de IA. Escuchar 00:0000:001X Comentar La url ha sido copiada en el portapapeles El avance de la inteligencia artificial en medicina avanza a gran velocidad, pero su uso en entornos clínicos y en la información dirigida al público aún enfrenta limitaciones. Así lo evidencian dos estudios que analizan el desempeño de modelos de lenguaje y chatbots en tareas médicas, desde el diagnóstico hasta la respuesta a preguntas de salud.Un uso responsable de la IA debe ser bajo supervisión médica. Foto:iStock El primero, publicado en JAMA Network Open, evaluó 21 modelos de lenguaje (LLM, por sus siglas en inglés) y estableció un nuevo marco de medición —PrIME-LLM— para analizar el razonamiento clínico a lo largo de todo el proceso médico. Los resultados muestran que, aunque estos sistemas alcanzan altos niveles de precisión en diagnósticos finales, presentan debilidades en etapas clave como la generación de diagnósticos diferenciales y el manejo de la incertidumbre.Mientras los médicos construyen y ajustan hipótesis de manera progresiva, los modelos tienden a llegar de forma prematura a una única respuesta. Según el estudio, el problema no es solo que puedan equivocarse, sino que su razonamiento resulta frágil precisamente en momentos donde el matiz clínico es más importante.Incluso los modelos optimizados para “razonar” mostraron solo una leve mejoría frente a versiones anteriores, sin resolver esa limitación estructural. Además, los avances en capacidades multimodales, como la integración de imágenes, siguen siendo inconsistentes, lo que evidencia que estas herramientas aún están lejos de manejar de forma confiable la complejidad de los datos clínicos reales.Los autores advierten que estos resultados cuestionan directamente las afirmaciones de algunos proveedores tecnológicos que presentan estos sistemas como listos para interactuar con pacientes. Su uso más responsable, señalan, sigue siendo bajo supervisión médica, especialmente en tareas de baja incertidumbre.Esta preocupación coincide con otro estudio reciente publicado en BMJ Open, que analizó cinco chatbots de uso público frente a preguntas médicas en áreas propensas a la desinformación. Allí, los hallazgos apuntan a problemas similares, pero desde la perspectiva de la información que recibe directamente el usuario.De acuerdo con el análisis, cerca de la mitad de las respuestas generadas por estos sistemas fueron clasificadas como “algo” o “muy” problemáticas, pese a que las preguntas tenían respuestas claras y basadas en evidencia. Además, se identificaron errores frecuentes, omisiones relevantes y, en algunos casos, contenido potencialmente engañoso.Los chatbots no acceden a información en tiempo real. Foto:iStock Uno de los aspectos más críticos es la forma en que estos sistemas construyen sus respuestas. Los chatbots no acceden a información en tiempo real ni evalúan evidencia como lo haría un especialista; en cambio, generan texto a partir de patrones estadísticos aprendidos durante su entrenamiento. Esto les permite sonar convincentes, incluso cuando la información es incorrecta o incompleta.A esto se suma la baja fiabilidad de las referencias. El estudio encontró que las citas incluidas en las respuestas eran, en muchos casos, incompletas, inexactas o incluso fabricadas. Ninguno de los modelos evaluados logró producir una lista de referencias completamente verificable.También se identificaron diferencias según el tipo de tema. Los chatbots tendieron a desempeñarse mejor en áreas con evidencia más estructurada, como vacunas o cáncer, pero fallaron con mayor frecuencia en temas como nutrición, rendimiento deportivo o terapias con células madre. Sin embargo, incluso en los temas mejor resueltos, persistieron respuestas "problemáticas" que podrían influir negativamente en decisiones de salud.Otro punto crítico es el lenguaje. Aunque las respuestas suelen ser extensas y detalladas, presentan niveles de complejidad equivalentes a educación universitaria, muy por encima de lo recomendado para información dirigida al público general. Esto puede dificultar la comprensión y, paradójicamente, aumentar la confianza del usuario en respuestas que no necesariamente son correctas.Ambos estudios coinciden en que el riesgo no es solo en errores puntuales, sino en la combinación de confianza aparente, razonamiento incompleto y falta de transparencia en las fuentes. En entornos clínicos, esto podría traducirse en decisiones mal fundamentadas y en la propagación de desinformación.Aunque los investigadores reconocen el potencial de estas tecnologías para apoyar la práctica médica, insisten en que aún no están listas para asumir roles autónomos en diagnóstico o atención directa. Por ahora, su integración debe ser cuidadosa, supervisada y limitada a contextos donde el margen de error sea bajo.Asimismo, advierten sobre la necesidad de mayor regulación, educación para usuarios y evaluaciones más rigurosas antes de ampliar su uso. Sin estos controles, concluyen, la implementación prematura de inteligencia artificial en salud podría terminar debilitando los sistemas que buscan proteger a los pacientes.REDACCIÓN VIDA DE HOY Sigue toda la información de Salud en Facebook y Twitter, o en nuestra newsletter semanal. Compartir Guardar Ingrese o regístrese acá para guardar los artículos en su zona de usuario y leerlos cuando quiera Reportar Resumen Cerrar Este resumen fue construido con ayuda de IA. Escuchar 00:0000:001X Comentar La url ha sido copiada en el portapapeles Conforme a los criterios de Saber más Temas relacionadosSaludInteligencia Artificial SugerenciasBOLETINES EL TIEMPORegístrate en nuestros boletines y recibe noticias en tu correo según tus intereses. Mantente informado con lo que realmente te importa.Registrate
