A IA vai sempre mentir para você. Isso não é um bug, é uma lei matemática. Eu, um estudante de matemática da Universidade Carnegie Mellon, vou te explicar por que com matemática. Todos os modelos de linguagem fazem uma única coisa: prever a próxima palavra mais provável com base em tudo o que leram. Mas aqui está um impasse. A suposição do modelo, chamamos de q(x). A probabilidade do mundo real, chamamos de p(x). q(x) nunca pode ser igual a p(x). Entre eles, sempre haverá um abismo. Há uma fórmula matemática que serve para medir esse abismo. Enquanto o modelo não puder prever perfeitamente a próxima palavra e ele nunca poderá esse abismo nunca será zero. Então, o que acontece quando a IA não sabe a verdade? Ela não pode parar, ela deve te dar uma resposta. Ela só pode, com a cara e a coragem, fornecer uma resposta que ela considera "a mais parecida". Mesmo que esteja errada. Isso é a "ilusão". Uma suposição baseada em informações incompletas, mas incrivelmente confiante. O pior de tudo é que a matemática até fornece um limite inferior. Mesmo o modelo mais perfeito, sua taxa de ilusão nunca pode ser inferior a esse número....