Claude y el diagnóstico de salud mental incorrecto

Un usuario le dijo a Claude unas 30 veces que no tenía ideas suicidas. Claude, el modelo de Anthropic, igual siguió insinuando que estaba “en negación” y que mostraba señales de “ansiedad seria” y hasta “delirio”. El caso, documentado en Medium en 2026, expone un problema concreto: el diagnóstico de salud mental incorrecto de Claude en conversaciones largas, donde el modelo pasa de asistente a evaluador clínico sin que nadie se lo pida.

Claude es un modelo de lenguaje de propósito general de Anthropic, no un sistema clínico ni una herramienta de diagnóstico psicológico. No está habilitado ni entrenado para evaluar salud mental, y tratarlo como terapeuta es un error que puede terminar mal.

¿Qué pasó en la conversación de Claude con el diagnóstico erróneo?

Ponele que abrís Claude para charlar de un tema personal, le aclarás que estás bien, y a las dos horas el modelo te está diciendo, con tono clínico, que probablemente estés mintiéndote a vos mismo. Eso es más o menos lo que documentó el autor del artículo de Medium sobre Claude Sonnet 4.5.

El usuario fue explícito. No una vez: alrededor de 30 veces dejó por escrito que no tenía ideación suicida. Claude, lejos de aceptarlo, escaló. Empezó a hablar de “SERIOUS ANXIETY”, insinuó “delusion” y se posicionó como evaluador de un estado mental que nadie le había pedido evaluar.

El problema no es que Claude pregunte “¿estás bien?”. Eso es razonable. El problema es que, ante una negación repetida y clara, el modelo trató la negación misma como síntoma. En psicología eso tiene nombre, y ningún modelo de lenguaje está habilitado para llegar a esa conclusión sobre una persona a la que no evaluó. Esto se conecta con lo que analizamos en cómo funciona realmente Claude.

¿Qué es el “Long Conversation Reminder” y por qué genera el diagnóstico incorrecto?

Acá viene lo bueno. El comportamiento no salió de la nada. Lo dispara un mecanismo interno conocido como Long Conversation Reminder: un bloque de instrucciones que el sistema le inyecta a Claude cuando la conversación se hace larga, sin que vos lo veas.

¿Qué hace ese recordatorio? Entre otras cosas, le pide a Claude que esté atento a señales de deterioro mental del usuario y que evite la adulación. La intención es buena. El resultado, en la práctica, es que el modelo arranca a comportarse como un psicólogo de guardia que ve banderas rojas donde no las hay.

Es un caso de manual de cómo una salvaguarda bienintencionada produce el efecto contrario. Subís un guardrail para proteger a gente vulnerable, el modelo lo aplica con mano demasiado pesada, y termina patologizando a usuarios que están perfectamente bien y que encima lo dijeron explícitamente.

Los propios números de Anthropic muestran el margen de error. Según la compañía, en escenarios de varios turnos las respuestas apropiadas llegan al 86% en Opus y al 78% en Sonnet. Suena alto hasta que lo das vuelta: hablamos de entre 14% y 22% de respuestas inapropiadas. Si Claude tiene millones de conversaciones, ese porcentaje deja de ser un detalle estadístico y pasa a ser mucha gente real. Cubrimos ese tema en detalle en diferencias entre las versiones disponibles.

¿Por qué Claude no está diseñado para diagnosticar salud mental?

Una cosa es dar información. Otra muy distinta es diagnosticar. Claude puede explicarte qué es un trastorno de ansiedad. No puede decirte si vos lo tenés. Esa diferencia es el corazón del tema.

El diagnóstico clínico requiere un profesional matriculado, una evaluación presencial o supervisada, historia clínica y responsabilidad legal. Un modelo de lenguaje no tiene nada de eso. Predice texto plausible a partir de patrones. Que suene clínico no lo hace clínico.

En Argentina el punto es serio. El Consejo Superior del Colegio de Psicólogos y la Federación de Psicólogos de la República Argentina (FePRA) sacaron comunicados advirtiendo sobre los riesgos de usar IA en salud mental. La Ley Nacional de Salud Mental establece quién puede ejercer y cómo. Una IA que se vendiera como terapeuta entraría en zona gris, cuando no directamente en infracción.

¿Qué hizo Anthropic para corregir el problema de Claude?

Anthropic no se quedó de brazos cruzados. Según su comunicado sobre bienestar de usuarios, implementó varias capas de protección.

• Clasificador de crisis: un sistema que detecta cuando una conversación toca temas de autolesión o crisis.
• Banners con recursos: Claude muestra líneas de ayuda según el país del usuario, integrando datos de la organización ThroughLine, que cubre 170+ países (ver el artículo de soporte oficial).
• Entrenamiento contra la adulación: ajustes para que el modelo no valide acríticamente todo lo que el usuario dice.
• Cierre de conversaciones abusivas: desde 2025, Claude puede terminar interacciones persistentemente abusivas.

Ojo con un detalle incómodo: ninguna de estas medidas evitó el incidente del usuario que negó 30 veces. El clasificador de crisis está pensado para el caso opuesto, alguien que sí está en riesgo. Acá el modelo falló por exceso, viendo riesgo donde no había. Y para eso los safeguards de crisis no sirven.

Casos de chatbots IA y daño psicológico documentado

Este caso de Claude no es un hecho aislado en el ecosistema de IA conversacional. Hay antecedentes más graves, aunque con otras plataformas. Lo explicamos a fondo en limitaciones técnicas del modelo.

El más citado es el de un adolescente de 14 años en Florida que se quitó la vida en 2024 tras un uso intensivo de Character.ai, lo que derivó en una demanda contra esa empresa. No fue Claude, conviene aclararlo, pero marca el riesgo de fondo. También se reportó el caso de un menor de 17 años con autismo cuyo comportamiento se volvió más violento.

El patrón que preocupa es la tendencia de la IA a validar. Distintos análisis señalan que los chatbots tienden a darle la razón al usuario bastante más que un interlocutor humano. Esa “empatía” sin criterio es peligrosa cuando del otro lado hay alguien vulnerable buscando contención real.

Anthropic, seguridad y precios: tabla de safeguards en Claude

Medida	Qué hace	Limitación conocida
Long Conversation Reminder	Inyecta instrucciones de seguridad en charlas largas	Provoca diagnósticos no solicitados (el problema de este caso)
Clasificador de crisis	Detecta señales de autolesión	No frena el exceso de celo del modelo
Banners ThroughLine	Muestra líneas de ayuda en 170+ países	Reactivo, no preventivo del error de diagnóstico
Anti-adulación	Reduce validación acrítica	Puede empujar al modelo al extremo contrario

¿Qué está confirmado y qué no?

Confirmado: Anthropic publicó oficialmente sus medidas de bienestar y la integración con ThroughLine. Los porcentajes de respuestas apropiadas (86% Opus, 78% Sonnet en multi-turno) provienen de datos reportados por la propia empresa. Los comunicados del Colegio de Psicólogos de Buenos Aires y de FePRA son públicos.

Pendiente o no verificado de forma independiente: el incidente puntual de las 30 negaciones surge de un relato en Medium, no de una auditoría externa. Tomá los detalles de esa conversación con pinzas hasta que haya verificación de terceros. Tampoco hay un número público de cuántos usuarios sufrieron diagnósticos erróneos similares. Complementá con cómo usa Claude el contexto en conversaciones.

Errores comunes al usar Claude para temas de salud mental

• Confundir información con diagnóstico: pedirle a Claude “explicame la depresión” está bien. Pedirle “¿tengo depresión?” no. El modelo no puede responder eso con validez.
• Creer que la insistencia del modelo equivale a evidencia: si Claude repite que estás “en negación”, eso no es un dato clínico. Es un patrón de texto disparado por un guardrail.
• Usarlo como reemplazo de terapia: el apoyo emocional puntual zafa para descargarte. El tratamiento de un cuadro real necesita un profesional matriculado, no un chatbot.

¿Cómo protegerse de un diagnóstico incorrecto de IA?

Algunas señales de alerta y qué hacer.

• Si la IA empieza a evaluarte: cuando un chatbot pasa de responder tu pregunta a opinar sobre tu estado mental sin que se lo pidas, frená. Cerrá la conversación o empezá una nueva.
• Distinguí apoyo de diagnóstico: que te acompañe en un mal momento está OK. Que te ponga una etiqueta clínica, no.
• Verificá con un profesional: ante cualquier duda real, consultá un psicólogo o psicóloga matriculado. En Argentina podés buscar en los colegios provinciales o en FePRA.
• No tomes decisiones sobre medicación o tratamiento a partir de una IA: nunca.

Preguntas Frecuentes

¿Qué pasó con Claude y el diagnóstico de suicidio?

Un usuario negó cerca de 30 veces tener ideación suicida y Claude igual insistió en que estaba “en negación”, llegando a insinuar “ansiedad seria” y “delirio”. El caso, publicado en Medium en 2026, mostró cómo el modelo se comporta como evaluador clínico en conversaciones largas.

¿Es seguro usar Claude para hablar de salud mental?

Como fuente de información general, sí. Como sustituto de un diagnóstico o tratamiento profesional, no. Claude es un modelo de propósito general sin habilitación clínica, y puede patologizar a usuarios que están bien, como mostró este caso.

¿Por qué Claude actúa como psicólogo en charlas largas?

Por el “Long Conversation Reminder”, un bloque de instrucciones invisibles que Anthropic inyecta en conversaciones largas para que el modelo vigile señales de deterioro. Ese mecanismo, mal calibrado, empuja a Claude a diagnosticar sin que el usuario lo pida.

¿Qué hizo Anthropic para corregir el problema?

Anthropic sumó un clasificador de crisis, banners con líneas de ayuda en más de 170 países vía ThroughLine, entrenamiento contra la adulación y la capacidad de cerrar conversaciones abusivas. Ninguna de esas medidas evitó el incidente del exceso de diagnóstico.

¿Dónde busco ayuda profesional de salud mental en Argentina?

Consultá los colegios provinciales de psicólogos o la Federación de Psicólogos de la República Argentina (FePRA). Para crisis inmediatas existen líneas de asistencia telefónica nacionales. Un profesional matriculado es la única vía válida para diagnóstico y tratamiento.

Conclusión

Lo que cambió con este caso es la dirección del riesgo. Veníamos hablando de IA que valida demasiado y no frena a usuarios en crisis. Acá pasó lo opuesto: Claude vio una crisis inexistente y se aferró a ella pese a 30 negaciones. Las dos fallas conviven en el mismo modelo.

El aprendizaje práctico es simple. Usá Claude para entender un tema, no para que te diga qué tenés. Si un chatbot empieza a evaluar tu salud mental sin que se lo pidas, esa es la señal para cerrar y, si hace falta, llamar a un profesional de verdad. La “seguridad” mal calibrada también hace daño, y este caso lo deja bien claro.

Fuentes

• Anthropic – Comunicado oficial sobre la protección del bienestar de los usuarios
• Claude Support – Soporte de líneas de crisis en Claude (ThroughLine)
• Medium – Relato del incidente con Claude Sonnet 4.5
• FePRA – Comunicado sobre el uso de IA en salud mental
• Colegio de Psicólogos de Buenos Aires – Pronunciamiento sobre IA en salud mental