AI vám vždycky bude lhát. To není chyba, je to zákon matematiky. Já, student matematiky na Carnegie Mellon University, používám matematiku, abych vám vysvětlil proč. Všechny jazykové modely dělají jen jednu věc: Na základě všech informací, které přečetl, předpověďte další nejpravděpodobnější slovo. Ale tady je slepá ulička. Odhad modelu nazýváme q(x). Reálná pravděpodobnost v reálném světě nazýváme p(x). q(x) nikdy nemůže být rovno p(x). Mezi nimi je vždy mezera. Existuje matematický vzorec k měření této propasti. Dokud model nedokáže dokonale předpovědět další slovo, nikdy nemůže být nula. Co se tedy stane, když AI nezná pravdu? Nemůže to být klid, musí ti dát odpověď. Může jen překousnout zuby a vydat odpověď, kterou považuje za "nejpodobnější" odpovědi. I když je to špatně. To je "iluze". Odhad založený na neúplných informacích, ale velmi sebejistý. Nejhorší na tom je, že matematika dokonce stanovuje dolní limit. Ani ten nejdokonalejší model nikdy nemůže mít míru halucinací pod touto hodnotou....