Por qué la IA se inventa cosas (y cómo evitar que te meta en un lío)

Imagina que le preguntas a tu asistente de IA cuál es la sentencia del Tribunal Supremo que respalda una decisión que vas a tomar. Te devuelve una respuesta con número de caso, año, partes y hasta un resumen del fallo. Todo encaja. Todo suena perfecto.

El único problema: esa sentencia no existe. La IA se la ha inventado. Eso es lo que se conoce como una alucinación: la generación por parte de un modelo de lenguaje de información que parece verosímil pero que es factualmente incorrecta o inexistente.

Entender por qué la IA se inventa cosas no es un tema técnico menor. Es algo estructural en cómo funcionan estos sistemas. Y si no lo entiendes, tarde o temprano alguien en tu empresa va a cometer un error con consecuencias reales.

—

Por qué la IA se inventa cosas: predice, no consulta

Aquí está la clave que muchos no explican bien: los modelos de lenguaje no buscan información en una base de datos cuando les preguntas algo. No tienen acceso a una enciclopedia verificada. Lo que hacen es predecir cuál es la siguiente palabra más probable en función de todo el texto con el que fueron entrenados.

Dicho de otra manera: la IA construye respuestas que suenan bien basándose en patrones estadísticos. No en hechos comprobados.

Cuando le preguntas algo que sabe bien (escribir un correo, resumir un documento, explicar un concepto general), el resultado es fiable porque ha visto miles de ejemplos similares. Pero cuando le preguntas algo específico que no tiene claro, no dice «no sé». En vez de eso, genera la respuesta que estadísticamente parece más plausible. Y a veces esa respuesta es completamente falsa.

La IA se inventa la respuesta para quedar bien. En el mundo técnico lo llaman alucinación; en la práctica, es un problema que puede tener consecuencias reales cuando nadie lo controla.

—

El caso Mata contra Avianca: cuando la IA se inventa cosas en un juzgado

Esto ya ha tenido consecuencias documentadas en el mundo real. En 2023, en Nueva York, el caso Mata contra Avianca se convirtió en la referencia más citada sobre alucinaciones en entornos profesionales: dos abogados presentaron ante el tribunal un escrito con seis sentencias judiciales fabricadas por ChatGPT. Los textos incluían número de expediente, partes procesales, argumentos jurídicos y citas de jurisprudencia. Todo perfectamente formateado. Todo completamente inventado.

El tribunal comprobó que las sentencias no existían. Los abogados fueron sancionados. Desde entonces se han documentado casos similares en otros países, incluida España.

No lo cuento para asustar. Lo cuento porque es el ejemplo perfecto de cuándo una alucinación —cuando la IA se inventa cosas— pasa de anécdota a problema profesional grave. Y si le ha pasado a abogados, personas entrenadas para verificar fuentes, puede pasarle a cualquiera que confíe demasiado en lo que la IA produce.

—

Cuándo son peligrosas las alucinaciones en una empresa

No todas las invenciones tienen el mismo riesgo. Hay contextos donde el error es recuperable (un primer borrador de texto, una lluvia de ideas, un resumen interno) y contextos donde no.

Estos son los casos donde debes tener especialmente el ojo puesto:

Cifras y estadísticas. La IA puede inventar porcentajes, estudios o datos de mercado que no existen. Si los metes en una presentación o en un informe sin verificar, estás construyendo una decisión sobre arena.

Datos legales. Normativa, artículos de ley, sentencias, plazos legales. Como en el caso de los abogados, la IA puede citar artículos que no existen o que no dicen lo que ella afirma.

Nombres y cargos. Puede decirte que el director general de tal empresa es fulano cuando no lo es, o que tal persona dijo tal cosa en una conferencia sin que eso haya ocurrido nunca.

Fechas. Eventos, lanzamientos de productos, cambios normativos. Los modelos tienen una fecha de corte en su entrenamiento y no siempre lo indican con claridad.

Fuentes y citas bibliográficas. Los artículos académicos inventados son un clásico. La IA genera títulos, autores y revistas que suenan reales pero que no existen.

—

Por qué la IA no avisa cuando no sabe

Aquí está la parte que más desconcierta a la gente: ¿por qué no dice simplemente «no lo sé»?

Porque está diseñada para responder. Fue entrenada sobre texto humano y los humanos, cuando respondemos, tendemos a dar una respuesta aunque no estemos seguros del todo. La IA aprendió ese patrón.

Además, no tiene un mecanismo interno de «confianza» que funcione como el tuyo. Tú sabes cuando estás especulando. La IA no distingue con la misma claridad entre lo que sabe bien y lo que está rellenando con probabilidad estadística.

El resultado práctico: la IA responde con el mismo tono seguro tanto cuando tiene razón como cuando se equivoca. No hay señal de alerta en el estilo.

—

Cómo blindarte en la empresa: cinco hábitos que funcionan

No te estoy diciendo que dejes de usar IA. Al contrario. Pero sí que cambies la relación que tienes con sus outputs en contextos de riesgo.

1. Pide que cite sus fuentes

Cuando le preguntes algo factual, añade: «¿De dónde sacas esto?» o «¿Puedes indicar la fuente específica?». No es infalible, pero si la IA no puede dar una fuente concreta, eso ya es una señal de que está generando desde patrones y no desde datos verificados.

2. Verifica siempre el dato sensible

Cualquier cifra, norma, sentencia o dato que vaya a sustentar una decisión importante merece 30 segundos de verificación en la fuente original. No en otra respuesta de la IA. En la fuente.

3. No uses la IA como única fuente en decisiones legales o financieras

Para redactar un correo, perfecto. Para preparar un primer borrador de contrato que luego revisa un abogado, perfecto. Para decidir si algo es legal o cuánto impuesto toca pagar basándote solo en lo que dice la IA, no.

4. Pon revisión humana donde hay riesgo de daño

Si estás usando IA para generar documentos que van a clientes, para calcular presupuestos o para extraer datos de informes, diseña el flujo con un paso de validación humana antes de que el output salga de la empresa. No como control burocrático, sino como red de seguridad.

5. Trata a la IA como a un becario brillante pero sin vergüenza

Un becario excelente puede hacer cosas impresionantes. Pero si no sabe algo y tiene que entregar una respuesta, puede tirarse a la piscina y responder con lo que le parece razonable sin admitir que no tiene ni idea. La IA funciona igual. Brillante en muchas cosas, pero sin el freno de «mejor digo que no sé» cuando no lo sabe.

Con ese marco mental, sabes cuándo confiar ciegamente y cuándo verificar.

—

¿Se puede reducir el problema técnicamente?

Sí, en parte. Hay configuraciones y técnicas que minimizan las alucinaciones: conectar la IA a tus propias bases de datos verificadas (lo que se llama RAG, aunque no hace falta que recuerdes el nombre), darle contexto específico en vez de preguntar en el vacío, o usar modelos ajustados para dominios concretos.

Pero ninguna de estas técnicas elimina el problema al cien por cien. Reducen la frecuencia y el impacto, pero la supervisión humana en decisiones de riesgo sigue siendo necesaria.

Lo importante es que entiendas que puedes reducir el riesgo con diseño, no solo con desconfianza general.

Leer también: Los errores más comunes al implementar IA y Preguntas clave antes de arrancar un proyecto de IA.

—

Preguntas frecuentes

¿Todos los modelos de IA alucinan igual? No. Los modelos más grandes y recientes cometen menos errores en general, y algunos están mejor entrenados para admitir incertidumbre. Pero ninguno es inmune. El comportamiento varía según el tipo de pregunta: todos son más fiables en tareas generales que en datos muy específicos o recientes.

¿Cómo sé si un dato que me ha dado la IA es inventado? No hay una señal visual que te avise. La única forma es verificar en la fuente original si el dato es importante. Para uso interno y decisiones de bajo riesgo, puedes optar por una revisión más ligera. Para lo que tiene consecuencias legales, económicas o de reputación, verifica siempre.

¿Sirve de algo pedirle a la IA que sea honesta cuando no sabe? Ayuda un poco. Si le dices explícitamente «si no sabes la respuesta, dímelo» o «prefiero que me digas que no tienes datos a que inventes», los modelos más recientes responden mejor a esa instrucción. No es una solución perfecta, pero reduce la frecuencia con la que se tira a la piscina innecesariamente.

Fuente: Informe de seguridad Claude 3 (Anthropic).