La IA siempre te mentirá. Esto no es un error, es una ley de las matemáticas. Yo, estudiante de matemáticas en la Universidad Carnegie Mellon, uso las matemáticas para explicarte por qué. Todos los modelos de lenguaje hacen solo una cosa: Basándote en toda la información que ha leído, predice la siguiente palabra más probable. Pero aquí hay un callejón sin salida. La suposición del modelo la llamamos q(x). Probabilidad en el mundo real, la llamamos p(x). q(x) nunca puede ser igual a p(x). Siempre hay una distancia entre ellos. Existe una fórmula matemática utilizada para medir este abismo. Mientras el modelo no pueda predecir perfectamente la siguiente palabra, nunca puede ser cero. Entonces, ¿qué pasa cuando la IA no conoce la verdad? No puede ser tiempo muerto, tiene que darte una respuesta. Solo puede aceptar y dar una respuesta que cree que es "más probable" a la respuesta. Aunque eso esté mal. Esto es "ilusión". Una suposición basada en información incompleta, pero extremadamente confiado. Lo peor es que las matemáticas incluso dan un límite inferior. Ni siquiera el modelo más perfecto puede tener una tasa de alucinaciones por debajo de este número....