Hay una conversación que tenemos con regularidad, casi siempre después de que alguien se queme. Un amigo te dice que ChatGPT le inventó una referencia bibliográfica, que Gemini le dio un número de teléfono de atención al cliente que no existe, que Claude le redactó una cita que jamás pronunció la persona mencionada. Te lo cuenta como si fuera una noticia. Como si no lleváramos dos años sabiendo exactamente esto.
Las alucinaciones de los modelos de lenguaje no son un bug oculto. Están documentadas, son inherentes al funcionamiento del sistema y todo el mundo con un mínimo de interés en el tema lo sabe. La prensa tecnológica lleva años escribiendo sobre esto. Los propios fabricantes lo advierten en sus términos de servicio. Y sin embargo, la reacción más común cuando alguien descubre una alucinación es la sorpresa. Algo que llama especialmente la atención cuando hablamos de gente que lleva un año pagando por un modelo de IA que se actualiza sin avisar y no siempre a mejor.
El contrato implícito que firmamos sin leerlo
Cuando usas una calculadora, confías en que 7 por 8 siempre es 56. Cuando usas un mapa, confías en que la dirección que te da existe. Cuando usas un buscador, confías en que el primer resultado apunta a algo real. Con la IA hemos firmado un contrato diferente, uno en el que la herramienta puede estar completamente equivocada, con total aplomo, sin señal de aviso.
Y hemos aceptado ese contrato porque la utilidad del resto del tiempo compensa el coste de verificar. La IA nos ahorra tiempo resumiendo, estructurando, generando borradores. El precio es que hay que revisar. La mayoría de nosotros lo revisamos cuando tenemos tiempo o cuando la respuesta nos parece rara. El resto del tiempo, confiamos.
El problema es que olvidamos que estamos confiando
Hay una diferencia entre saber algo de forma abstracta y tenerlo presente en cada decisión. Sé que los coches tienen accidentes. No lo pienso cada vez que cruzo la calle. Con la IA pasa algo parecido: el conocimiento de que puede alucinar no activa ninguna señal de alerta automática cuando la estamos usando. Generamos un borrador, lo leemos, nos parece razonable y lo mandamos.
El problema aparece cuando el contexto importa. Una dirección de correo inventada en un texto de práctica no tiene consecuencias. La misma dirección en una propuesta comercial sí las tiene. Los errores de la IA no se distribuyen de forma aleatoria entre tareas importantes y tareas triviales. Se distribuyen según nuestra vigilancia, que es mucho más inconsistente.
Por qué esto no va a cambiar pronto
Los modelos mejoran. Las alucinaciones son menos frecuentes que hace tres años. Pero la mejora técnica no va a eliminar el problema, porque el problema no es solo técnico. Es que hemos integrado estas herramientas en flujos de trabajo donde la velocidad es más valiosa que la precisión, y en esos flujos, la verificación sistemática no existe.
La IA ha ganado el argumento del volumen. Produce suficientemente bien suficientemente rápido. El 2% de error se convierte en un coste aceptable de producción. Para quien quiera calibrar cuándo merece la pena usar la versión de pago y cuándo la gratuita basta, hay una comparativa honesta de las mejores herramientas de IA gratuitas en 2026 que puede ayudar a tomar esa decisión con más criterio.
Lo que me preocupa no es que usemos IA. Es que la tratemos como una fuente cuando es un asistente. Son cosas distintas.
0 Comentarios