AI kommer alltid att ljuga för dig. Detta är ingen bugg, det är en matematiklag. Jag, matematikstudent vid Carnegie Mellon University, använder matematik för att förklara varför. Alla språkmodeller, gör bara en sak: Baserat på all information den har läst, förutspå nästa mest sannolika ord. Men här finns en återvändsgränd. Modellens gissning kallar vi q(x). Verklig sannolikhet kallar vi p(x). q(x) kan aldrig vara lika med p(x). Det finns alltid ett glapp mellan dem. Det finns en matematisk formel som används för att mäta denna klyfta. Så länge modellen inte kan förutsäga nästa ord perfekt kan det aldrig vara noll. Så, vad händer när AI inte känner till sanningen? Det kan inte vara stillestånd, det måste ge dig ett svar. Den kan bara bita i det sura äpplet och ge ett svar som den tror är "mest likt" svaret. Även om det är fel. Detta är "illusion". En gissning baserad på ofullständig information, men extremt säker. Det värsta är att matematiken till och med ger en nedre gräns. Även den mest perfekta modellen kan aldrig ha en hallucinationsfrekvens under detta antal....