Revisada el 2026-10-11
En una frase: es cuando la IA dice algo falso, pero creíble, con total seguridad.
Puede ser una cita, un dato o una sentencia de un juez que no existen. No es un fallo raro. Según un estudio de OpenAI, el entrenamiento puede causar errores. Y muchos exámenes premian adivinar en vez de callar.
Hay trucos para reducir el riesgo. Ninguno garantiza una respuesta correcta. Por eso lo importante se comprueba.
Cómo se ve
Las letras encajan, pero el dato puede ser falso. Que suene bien no lo demuestra.
Qué pasa, paso a paso
- El modelo escribe con lo que aprendió y con lo que tiene en el chat. Si tiene búsqueda, también con lo que encuentra.
- Cuando no distingue lo cierto de lo falso, el error aparece por pura estadística.
- Los datos raros son el caso típico. Imagina que uno de cada cinco cumpleaños sale una sola vez en sus textos. Una cuenta teórica del estudio da ese mismo nivel de error. Es para modelos recién entrenados. No mide lo que fallan los chats de hoy.
- Los exámenes lo empeoran. Un acierto vale un punto; un error o un «no lo sé», cero. Así que el modelo aprende a adivinar.
- Un ejemplo del estudio: preguntaron a un modelo el cumpleaños de uno de los autores. Solo debía responder si lo sabía. Dio tres fechas distintas en tres intentos, y las tres eran falsas.
- Anthropic miró por dentro uno de sus modelos. Ante lo desconocido, tendía a decir «no puedo responder». Pero si un nombre le sonaba, ese freno se apagaba. Si sabía poco de él, se inventaba algo creíble.
Es como un test sin puntos negativos: siempre compensa contestar algo.
Un ejemplo de la vida real
Pides a un chat tres libros para tu trabajo de clase, con autor y año. Te da tres títulos que suenan perfectos. Puede que alguno no exista.
Un título convincente puede ser inventado. Comprueba que el libro existe antes de citarlo.
Si no busca en fuentes, el modelo escribe lo que suena bien. Antes de copiarlo, búscalo en la biblioteca o en internet.
Cómo reducirlas
Anthropic propone varias técnicas. Puedes usar algunas cuando hables con un chat.
- Dale permiso para decir «no lo sé». Solo eso puede reducir los inventos.
- Pídele que copie la frase exacta de donde saca cada cosa. Si no la encuentra, que lo quite.
- Pídele que use solo los documentos que le das, no lo que «sabe».
- Contrasta con otras fuentes y pide una segunda revisión. Si preguntas varias veces y las respuestas no coinciden, sospecha. Pero que coincidan no prueba que sean ciertas.
- Dale fuentes. Con búsqueda web, puede usar datos recientes y decir de dónde salen.
- Cambia el examen. OpenAI propone decirle al modelo cómo se puntúa. Un acierto suma 1, un error resta 9 y «no lo sé», 0. Así solo compensa responder si está muy seguro. Es una forma de puntuar: no garantiza que su «estoy seguro» sea de fiar.
OpenAI también pide que los benchmarks, los exámenes de los modelos, puntúen así.
Busca el dato en fuentes fiables. Compararlo ayuda, pero no garantiza que sea cierto.
En los tribunales
- Nueva York, 2023. Unos abogados presentaron sentencias que no existían, inventadas por ChatGPT. Las defendieron incluso cuando el juez dudó, y les pusieron una multa.
- El juez aclaró que usar IA no está mal en sí. Pero el abogado responde de lo que presenta.
- Navarra, 2026. Una abogada incluyó ocho sentencias inventadas en un recurso. Reaccionó rápido y el caso se cerró sin multa. La nota del tribunal no dice qué herramienta las generó.
- Aun así, el tribunal avisó: usar la IA para engañar puede castigarse con multas.
Pruébalo tú
- ¿Por qué un test sin puntos negativos anima a adivinar?
- Un chat te da una frase de un libro famoso para tu trabajo. ¿Qué haces antes de usarla?
Respuestas
- Porque dejarla en blanco vale lo mismo que fallar: cero. Contestar algo nunca pierde puntos. Con los modelos pasa igual.
- Buscar esa frase en el libro o en una fuente fiable. Si no la encuentras, no la uses.
Palabras clave
- Alucinación: respuesta falsa pero creíble que da un modelo de lenguaje.
- Modelo de lenguaje: programa que calcula qué texto es más probable que venga después.
- Benchmark: examen con el que se mide y se compara a los modelos.
- Fuente: lugar de donde sale un dato y donde se puede comprobar.
- Sentencia: decisión escrita de un juez sobre un caso.