El concepto alucinaciones de IA se refiere la situación en la que un agente de inteligencia artificial inventa información que suena real, pero no lo es.
El término alucinación viene del campo de la psicología y se adapta aquí como una metáfora. Igual que una persona puede «ver» algo que no está ahí, una IA puede generar datos falsos con total seguridad, como si fueran ciertos. Es muy común en estos modelos de lenguaje, especialmente cuando se le pide responder sobre temas inciertos, inventar nombres, o completar información que no está en sus datos.
Ejemplos
Por ejemplo, si le preguntas a una IA por el autor de un libro que no existe, puede darte un nombre convincente, una editorial, hasta una sinopsis detallada. Todo falso. No está mintiendo a propósito: simplemente está haciendo lo que fue entrenada para hacer, que es predecir palabras de forma coherente. Pero la coherencia no garantiza la verdad.
Esto se vuelve un problema serio en contextos como el periodismo, la medicina, o el derecho, donde un dato inventado puede causar daño real. Por eso, los desarrolladores trabajan constantemente en reducir estas alucinaciones, y se recomienda siempre verificar la información con fuentes confiables.
