Tekoäly valehtelee sinulle aina. Tämä ei ole bugi, vaan matematiikan laki. Minä, Carnegie Mellon -yliopiston matematiikan opiskelija, käytän matematiikkaa kertoakseni miksi. Kaikki kielimallit tekevät vain yhtä asiaa: Kaiken lukemansa tiedon perusteella ennusta seuraava todennäköisin sana. Mutta tässä on umpikuja. Mallin arvauksen mukaan kutsumme sitä q(x):ksi. Todellisen maailman todennäköisyys, kutsumme sitä p(x):ksi. q(x) ei voi koskaan olla yhtä suuri kuin p(x). Niiden välillä on aina kuilu. Tämän kuilun mittaamiseen käytetään matemaattista kaavaa. Niin kauan kuin malli ei pysty täydellisesti ennustamaan seuraavaa sanaa, se ei voi koskaan olla nolla. Mitä siis tapahtuu, kun tekoäly ei tiedä totuutta? Se ei voi olla taukoa, sen täytyy antaa sinulle vastaus. Se voi vain purra hammasta ja antaa vastauksen, jonka se katsoo olevan "lähintä" vastausta. Vaikka se olisi väärin. Tämä on "illuusio". Arvaus, joka perustuu puutteelliseen tietoon, mutta erittäin itsevarma. Kauhein asia on, että matematiikka antaa jopa alarajan. Jopa täydellisin malli ei voi koskaan saada hallusinaatioita alle tämän luvun....