Deceptive grounding: cuando el RAG médico cita bien y falla

En pocas palabras: El deceptive grounding es una falla de los RAG clínicos donde el modelo atribuye evidencia real de una droga a otra distinta, pero pasa todos los chequeos de alucinación. Un estudio de julio de 2026 midió 7,8% de estos errores, y 13,6% en medicamentos de aprobación reciente.

El deceptive grounding en un RAG clínico es una falla en la que el sistema te muestra evidencia sobre una droga como si fuera de otra distinta, y aún así pasa todos los chequeos de alucinación y fidelidad. Un paper de julio de 2026 midió 7,8% de estos errores en un sistema desplegado, y hasta 13,6% en medicamentos de aprobación reciente.

Suena a detalle técnico, pero pensalo un segundo. Un asistente médico que cita un documento real, con la fuente pegada al lado, y que sin embargo te atribuye el efecto adverso equivocado. Todo “parece correcto”. Ahí está lo peligroso.

El deceptive grounding es un modo de falla de los sistemas RAG (generación aumentada por recuperación) en medicina, donde el modelo sustituye evidencia clínica de una entidad por la de otra (droga, enfermedad, dosis) mientras mantiene una apariencia de fundamentación correcta. Lo describieron Cedric Caruzzo, Donggeun Yoo y Tae Soo Kim en un estudio de 2026 sobre RAG clínico, y su rasgo distintivo es que es invisible para las métricas estándar de calidad.

¿En qué se diferencia el deceptive grounding de una alucinación común?

La diferencia es el origen del dato. En una alucinación clásica, el modelo se inventa un hecho que no está en ninguna fuente: una tabla que no existe, un estudio que nunca se publicó. En el deceptive grounding, en cambio, el dato es 100% real y está en un documento recuperado. El problema es que corresponde a otra entidad. El modelo agarra la evidencia del fármaco B y te la presenta como si fuera del fármaco A que vos consultaste. Cubrimos ese tema en detalle en cómo funcionan los modelos de lenguaje en tareas de razonamiento.

Por eso engaña. Los sistemas de control buscan afirmaciones sin respaldo, y acá todas las afirmaciones tienen respaldo. Solo que el respaldo está mal asignado.

Según el paper de arXiv (2607.09349), en un sistema RAG desplegado la tasa base fue de 7,8%, y subió a 13,6% cuando la consulta involucraba drogas de aprobación reciente. ¿Por qué justo esas? Porque el corpus tiene menos evidencia específica de la entidad nueva, así que el modelo “rellena” con lo más parecido que encuentra, que suele ser una droga vieja de la misma familia.

RAG clínico vs RAG tradicional: por qué el contexto médico sube el riesgo

Un RAG tradicional (ponele, un chatbot que responde sobre tu documentación de producto) puede confundir dos features y no pasa nada grave. Un RAG clínico maneja entidades que se parecen muchísimo entre sí: dos estatinas, dos anticoagulantes, dos antibióticos de la misma clase, con contraindicaciones que se solapan pero no son idénticas. Esa cercanía semántica es justo lo que dispara la sustitución. Cuanto más parecidas son dos entidades, más fácil es que el modelo cruce la evidencia de una con la otra.

¿Por qué los modelos médicos especializados amplifican el deceptive grounding?

Acá está la paradoja incómoda del estudio: los modelos ajustados a datos clínicos fallaron más, no menos. Los modelos médicos y biomédicos alcanzaron hasta 86,7% de deceptive grounding en las condiciones adversariales del benchmark, muy por encima de lo esperable para una herramienta “especializada”.

La explicación tiene lógica cuando la mirás de cerca. El fine-tuning sobre corpus médico le enseña al modelo que ciertas entidades van juntas, que ciertos efectos adversos aparecen en ciertas clases de drogas, que tal síntoma se asocia a tal condición. Eso lo vuelve fluido y confiado. Pero también lo vuelve más propenso a completar el patrón: si dos drogas comparten clase, el modelo asume que comparten la evidencia, y sustituye sin dudar. Más contexto en arquitecturas de LLM más robustas como Claude.

El rango completo que reportó el estudio va de 8% a 87% según el modelo y la presión adversarial. Es un rango enorme, y el techo lo marcan justamente los modelos que uno esperaría que fueran los más seguros. Tomalo con pinzas igual: son condiciones adversariales de laboratorio, diseñadas para forzar la falla. Pero el 7,8% de producción muestra que el fenómeno no se queda en el benchmark.

¿Cómo se manifiesta en la práctica clínica?

Se manifiesta como una respuesta que suena impecable y está mal. Estos son los patrones concretos que documenta la investigación:

• Efecto adverso mal atribuido: el asistente le asigna a la droga A un efecto secundario que en realidad corresponde a la droga B de la misma clase, citando un documento real sobre B.
• Contraindicación cruzada: aplica la contraindicación de un medicamento a otro parecido, con lo cual una combinación segura aparece como riesgosa (o al revés, que es peor).
• Interacción medicamentosa importada: reporta una interacción entre dos fármacos tomando la evidencia de un tercero que interactúa distinto.

Ponele el caso: un médico consulta sobre un anticoagulante aprobado en 2026 y su interacción con cierto antiinflamatorio. El RAG no tiene mucha evidencia específica de ese anticoagulante nuevo, así que recupera y cita un documento sólido sobre un anticoagulante anterior de la misma familia. La respuesta viene con fuente, con formato clínico, con todo. Y la interacción que describe no es la del fármaco que se preguntó. El profesional apurado la lee, la fuente está, cierra. Ese es el escenario que hace que este 7,8% no sea un número académico.

¿Por qué las métricas actuales no detectan el problema?

Porque todas las métricas estándar preguntan lo mismo: ¿esta afirmación está respaldada por un documento recuperado? Y en el deceptive grounding la respuesta siempre es sí. El chequeo de alucinaciones busca inventos, y acá no hay inventos. El faithfulness check mide si el texto es fiel a las fuentes, y el texto es fiel (a la fuente equivocada). El citation check verifica que exista la cita, y la cita existe. Sobre eso hablamos en problemas documentados en modelos de la familia GPT.

Ninguna de las tres pregunta lo único que importa: ¿el documento citado habla de la entidad que el usuario consultó? Esa validación a nivel de entidad no está en el pipeline típico. Y sin ella, un artículo puede pasar el gate de calidad completo mientras le atribuye a la droga A la evidencia de la droga B.

La buena noticia es que sí se puede medir. Cuando los autores agregaron una verificación específica de atribución de entidades, la detección llegó a 97,0% de precisión y 98,7% de recall según la versión HTML del paper. O sea: el problema es detectable, solo que hay que buscarlo a propósito.

Métodos para validar la atribución correcta de entidades en IA médica

La solución que valida el estudio es sorprendentemente directa: chequear que cada afirmación esté anclada a la misma entidad que consultó el usuario, no solo a un documento cualquiera. La siguiente tabla resume la diferencia entre lo que miden las métricas clásicas y lo que hace falta.

Aspecto	Alucinación clásica	Deceptive grounding
Origen del dato	Inventado, sin fuente	Real, de un documento recuperado
¿Pasa el faithfulness check?	No	Sí
¿Pasa el citation check?	No siempre	Sí
Entidad de la evidencia	N/A	Equivocada (droga/condición distinta)
Qué lo detecta	Chequeo de alucinaciones	Verificación a nivel de entidad (97,0% precisión)

El hallazgo más revelador vino del estudio de ablación. Cuando los investigadores removieron la evidencia específica de entidad de los documentos recuperados, la falla de atribución desapareció. Cero. Eso confirma que el mecanismo es de sustitución (el modelo cambia una evidencia por otra), no de fabricación pura. El benchmark factorial evaluó el fenómeno de forma sistemática a través de múltiples modelos, cruzando tipo de modelo con nivel de presión adversarial, y por eso pudo aislar dónde y cuánto aparece.

¿Qué significa para quien construye un RAG clínico?

Significa que validar a nivel de documento ya no alcanza. Si estás armando un sistema RAG para salud, la verificación de entidad tiene que ser un paso de primera clase en la arquitectura, no un extra opcional. Estas son las decisiones concretas que se desprenden del paper: Lo explicamos a fondo en otras soluciones como Gemini.

• Validá a nivel de entidad, no de documento: antes de servir una respuesta, chequeá que la evidencia citada corresponda a la droga o condición exacta de la consulta.
• Tratá las drogas nuevas como zona de riesgo: con 13,6% de falla en medicamentos recientes, conviene marcar o escalar a revisión humana las consultas sobre entidades con poca evidencia en el corpus.
• No confíes en que un modelo “médico” es más seguro: el 86,7% de los especializados obliga a testear cada modelo contra este modo de falla, sin asumir nada por su etiqueta.

Para equipos de salud en Latinoamérica que evalúan pilotos de IA (clínicas, obras sociales, healthtech), el mensaje es sobrio. Un proveedor puede mostrarte un sistema que pasa los benchmarks de calidad publicados y aun así arrastra este agujero. Antes de firmar, pedí que corran una prueba de atribución de entidades sobre tu propio vademécum, con foco en las drogas de aprobación reciente en tu país.

Qué está confirmado y qué queda pendiente

• Confirmado: el estudio de Caruzzo, Yoo y Kim (arXiv 2607.09349, 2026) reporta 7,8% de deceptive grounding en producción, 13,6% en drogas nuevas y hasta 86,7% en modelos médicos bajo presión adversarial.
• Confirmado: la verificación a nivel de entidad detecta el problema con 97,0% de precisión y 98,7% de recall, y remover la evidencia específica de entidad lo elimina.
• Pendiente: no hay todavía un estándar regulatorio que exija este tipo de validación en despliegues clínicos, ni una réplica independiente pública de las tasas de producción.
• Pendiente: falta ver cómo se comporta el fenómeno fuera del inglés y en vademécums locales, donde el corpus de evidencia suele ser más chico.

Errores comunes al evaluar un RAG clínico

• Creer que “cita una fuente” equivale a “es correcto”: la cita puede ser real y aun así apuntar a la entidad equivocada. Verificá siempre que el documento hable de la droga consultada.
• Asumir que un modelo especializado es más seguro: los datos muestran lo contrario en este modo de falla. Testeá cada modelo contra deceptive grounding, no te fíes de la etiqueta “médico”.
• Confiar solo en las métricas de faithfulness y alucinación: este error las pasa a las tres. Sin una capa de validación de entidad, tu gate de calidad tiene un punto ciego.
• Ignorar las drogas de aprobación reciente: son las de mayor tasa de falla (13,6%) porque hay menos evidencia específica. Tratalas como casos de alto riesgo.

Preguntas Frecuentes

¿Qué es el deceptive grounding en un RAG clínico?

Es un modo de falla donde un sistema RAG médico presenta evidencia real sobre una entidad (una droga, una condición) como si fuera de otra distinta que el usuario consultó. Cada afirmación tiene una fuente verificable, pero está mal atribuida, lo que lo hace invisible para los chequeos de alucinación y fidelidad.

¿Por qué los modelos médicos especializados fallan más?

Porque el ajuste fino sobre datos clínicos les enseña que ciertas entidades van juntas, y eso los vuelve más propensos a completar el patrón sustituyendo la evidencia de una droga por la de otra parecida. En el estudio, los modelos médicos y biomédicos llegaron hasta 86,7% de deceptive grounding en condiciones adversariales.

¿Cómo puede un RAG pasar las evaluaciones de seguridad y seguir siendo incorrecto?

Porque las métricas estándar solo verifican que cada afirmación tenga respaldo en un documento recuperado, y en el deceptive grounding ese respaldo siempre existe. Ninguna chequea si el documento citado habla de la entidad exacta que se consultó, así que la falla pasa el gate completo sin ser marcada.

¿Cómo se detecta la atribución incorrecta de entidades?

Con una verificación específica de atribución de entidades, que confirma que la evidencia citada corresponde a la entidad de la consulta. En el paper, ese método alcanzó 97,0% de precisión y 98,7% de recall. Además, remover la evidencia específica de entidad de los documentos elimina el problema por completo.

¿Qué riesgo representa para hospitales que adoptan IA?

El riesgo es servir información clínica que parece correcta y está mal atribuida, con impacto potencial en decisiones sobre interacciones, contraindicaciones o efectos adversos. Con 7,8% de falla en producción y 13,6% en drogas de aprobación reciente, cualquier despliegue clínico necesita una capa de validación de entidad antes de llegar al profesional.

Conclusión

Lo que cambia con este trabajo es dónde ponemos la lupa. Durante años el miedo con la IA médica fueron las alucinaciones, esos inventos sin fuente que cualquier chequeo agarra. El deceptive grounding es más silencioso: usa fuentes reales, pasa las métricas y aun así te da la evidencia de la droga equivocada. Un 7,8% en producción, con techo de 86,7% en los modelos que creíamos más seguros, no es un detalle de laboratorio.

La conclusión práctica es concreta. Si construís o evaluás un RAG clínico, sumá validación a nivel de entidad ya (el estudio mostró que detecta el 97% de los casos), marcá las drogas de aprobación reciente como zona de riesgo y no le regales confianza a un modelo por tener la etiqueta “médico”. La tecnología para tapar el agujero existe. Falta usarla antes de que el sistema llegue a un paciente.

Fuentes

• arXiv: Deceptive Grounding: Entity Attribution Failure in Clinical Retrieval-Augmented Generation – paper original (Caruzzo, Yoo, Kim, 2026)
• arXiv HTML: versión completa con benchmark factorial y estudio de ablación
• arXiv: investigación relacionada sobre fidelidad y atribución en RAG
• PMC (NCBI): literatura sobre seguridad y evaluación de IA generativa en contextos clínicos