Hay un término que resume uno de los problemas más desconcertantes de la inteligencia artificial moderna: alucinación. No se trata de que los modelos estén teniendo experiencias subjetivas ni de que funcionen mal en sentido técnico. Se trata de algo más sutil y más preocupante: la tendencia de los modelos de lenguaje a presentar información falsa con total confianza, como si fuera completamente cierta.
Qué es la alucinación en los modelos de lenguaje
La alucinación en inteligencia artificial es cuando un modelo de lenguaje genera información factualmente incorrecta, referencias inexistentes o eventos que nunca ocurrieron, presentándolos con el mismo tono y confianza que usaría para información verdadera.
El término alucinación se usa porque captura algo importante: el modelo no sabe que está equivocado. No está mintiendo deliberadamente. Simplemente está haciendo lo que está diseñado para hacer, predecir el texto más probable dado el contexto, y a veces esa predicción resulta ser factualmente incorrecta.
Las alucinaciones pueden ser sutiles o dramáticas. Un modelo puede inventar una cita de una persona real que nunca dijo esas palabras. Puede crear una referencia bibliográfica perfectamente formateada de un artículo científico que no existe. Puede describir el argumento de una novela mezclando elementos de varias obras diferentes. O puede afirmar un hecho histórico con una fecha o detalle incorrecto.
Por qué los modelos de lenguaje alucinan
La naturaleza probabilística del lenguaje
Los modelos de lenguaje no almacenan hechos como una base de datos: aprenden distribuciones estadísticas sobre qué texto es probable dado un contexto. Cuando se les pregunta sobre algo que no está bien representado en sus datos de entrenamiento, el modelo sigue generando texto probable pero esa probabilidad no está anclada en hechos reales.
La presión hacia la coherencia narrativa
Los modelos de lenguaje están optimizados para generar texto coherente y fluido. Esta optimización puede llevarlos a completar información de formas que mantienen la coherencia narrativa incluso cuando esa información es incorrecta. Si el contexto sugiere que debería existir un estudio sobre cierto tema, el modelo puede «inventar» ese estudio para mantener la coherencia.
Los límites del conocimiento paramétrico
Todo lo que sabe un modelo de lenguaje está codificado en sus parámetros durante el entrenamiento. Este conocimiento tiene una fecha de corte, es imperfecto y no cubre uniformemente todos los dominios. Cuando se pregunta sobre áreas con poco coverage en los datos de entrenamiento o sobre eventos posteriores al corte, las alucinaciones son más frecuentes.
Cómo detectar alucinaciones
Varias señales deben activar el pensamiento crítico cuando usas modelos de lenguaje. Las estadísticas muy específicas sin fuente citada son una señal de alerta importante. Las referencias bibliográficas con autores, títulos y años específicos deben verificarse siempre. Las afirmaciones sobre eventos o desarrollos recientes son especialmente propensas a alucinaciones. Y cualquier información que el modelo presente con excesiva certeza sobre un tema oscuro o especializado merece verificación.
Herramientas como Perplexity, que siempre cita sus fuentes, reducen el riesgo de alucinación para preguntas factuales. También puedes pedir explícitamente al modelo que indique su nivel de certeza o que te diga cuándo no sabe algo. Puedes explorar cómo los desarrolladores abordan este problema en anthropic.com/research.
Estrategias para reducir las alucinaciones
- RAG o Retrieval-Augmented Generation: Conectar el modelo a bases de conocimiento verificadas que consulta antes de responder reduce significativamente las alucinaciones porque las respuestas están ancladas en fuentes reales.
- Modelos con acceso a internet: Los modelos que pueden buscar en internet en tiempo real tienen menos probabilidad de alucinar sobre hechos actuales porque pueden verificar su respuesta antes de generarla.
- Prompts que piden incertidumbre: Pedir explícitamente al modelo que exprese su nivel de confianza y que diga «no sé» cuando no está seguro puede mejorar la calibración de sus respuestas.
Conclusión
La alucinación es una limitación fundamental de los modelos de lenguaje actuales que no ha desaparecido aunque los modelos han mejorado. Entender por qué ocurre y cómo detectarla es indispensable para usar la IA de forma responsable.
La regla más importante es simple: nunca uses un modelo de lenguaje como única fuente de información sobre hechos que importan. Verifica siempre las afirmaciones importantes con fuentes primarias. En ExplicaIA seguimos explicando tanto las capacidades como las limitaciones de la inteligencia artificial con la honestidad que te mereces.