AI vil alltid lyve for deg. Dette er ikke en feil, det er en matematisk lov. Jeg, en mattestudent ved Carnegie Mellon University, bruker matematikk for å forklare deg hvorfor. Alle språkmodeller gjør bare én ting: Basert på all informasjonen den har lest, forutsi det neste mest sannsynlige ordet. Men det er en blindvei her. Modellens gjetning, vi kaller det q(x). Sannsynlighet i den virkelige verden kaller vi det p(x). q(x) kan aldri være lik p(x). Det er alltid et gap mellom dem. Det finnes en matematisk formel som brukes for å måle denne kløften. Så lenge modellen ikke kan forutsi neste ord perfekt, kan det aldri være null. Så, hva skjer når AI ikke kjenner sannheten? Det kan ikke være nedetid, det må gi deg et svar. Den kan bare bite i det sure eplet og gi et svar den mener er "mest likt" svaret. Selv om det er feil. Dette er «illusjon». Et gjetning basert på ufullstendig informasjon, men ekstremt sikker. Det verste er at matematikken til og med gir en nedre grense. Selv den mest perfekte modellen kan aldri ha en hallusinasjonsrate under dette tallet....