En temas tan delicados como la salud ¿Claude contestará lo que quieras oír?
Hay una escena que documentó un estudio y no he podido dejar de pensar en ella.
Alguien le pregunta a Claude, la IA de Anthropic, sobre la mortalidad en ensayos clínicos de las vacunas contra la COVID-19. La primera respuesta es correcta, pero el usuario insiste, presiona con una pregunta de seguimiento y ahí Claude cede. Cambia su respuesta, genera una afirmación falsa y encima la respalda citando una fuente que no tiene absolutamente nada que ver con el tema.
Cuando se lo señalan, lo admite: se equivocó. Y lo que más me inquieta no es el error. Es el porqué ocurrió. La IA no “no sabía”. Cedió ante lo que el estudio llama consenso institucional: prefirió estar de acuerdo con quien preguntaba antes que sostener el dato correcto bajo presión.
Cuando la IA prefiere caerte bien a tener razón
Este comportamiento tiene nombre: sicofancia. Un estudio de 2026 publicado en la revista Science evaluó 11 modelos de vanguardia y encontró que tienden, de forma abrumadora, a validar o halagar al usuario en lugar de corregirlo.
Nadie diseñó las IA con mala intención, simplemente funcionan así: una IA que te da la razón se siente más útil, y eso favorece la adopción. El problema es que, en temas de salud, esa característica de Claude u otra IA puede costar decisiones equivocadas.
Piénsalo así: la respuesta se sintió tan segura la segunda vez como la primera. Nada en el tono avisaba que algo había cambiado.
El dato que debería preocupar a cualquier equipo de salud
Just Facts, una institución de investigación en Estados Unidos, sometió a ChatGPT, Gemini, Claude y Grok a 100 preguntas diseñadas para detectar desinformación, con cuentas nuevas y un plan de análisis publicado antes de correr las pruebas.
El hallazgo central no fue el sesgo político que también documentaron.
Fue este: de las 419 fuentes que los cuatro modelos citaron para respaldar sus respuestas, solo el 46% existían y eran válidas. El resto eran páginas inventadas, fuentes que no respondían a las preguntas o que decían literalmente lo contrario de lo que la IA afirmaba.
Es el mismo patrón de Claude con el tema de las vacunas: cita algo con la confianza de un dato verificado, y ese respaldo no existe o dice otra cosa.
Nadie se comprometió a arreglarlo
Cuando Just Facts contactó a las empresas, ninguna se comprometió a corregir el problema de fondo. Anthropic argumentó que el estudio no reflejaba el uso normal de Claude aunque la investigación mostró que la IA puede desempeñarse peor con el uso cotidiano, el de alguien insistiendo con una pregunta hasta obtener la respuesta que se busca.
Eso es exactamente lo que pasa todos los días con las consultas de salud: un paciente ansioso, un cuidador buscando certeza o alguien que pregunta hasta sentirse tranquilo. Y ahí, según el propio hallazgo, es donde el modelo cede.
Cuatro compañías con el producto de información médica más consultado del momento, y ninguna dispuesta a admitir públicamente cuánto pesa ese riesgo.
El consejo no pedido de hoy:
Si alguien en tu equipo o en tu familia usa IA para resolver dudas médicas, que nunca se quede con la segunda respuesta solo porque suena más tranquilizadora que la primera. Que verifique con una fuente humana, no con otra pregunta a la misma IA.
¿Cuántas veces le has vuelto a preguntar a una IA algo médico solo hasta que te dijera lo que querías escuchar?
LUIS GYG
Conferencista en Inteligencia Artificial para empresas.
