ШІ завжди буде брехати вам. Це не помилка, це закон математики. Я, студент математики в Університеті Карнегі-Меллон, використовую математику, щоб пояснити чому. Усі мовні моделі роблять лише одне: Виходячи з усієї інформації, яку він прочитав, передбачте наступне найімовірніше слово. Але тут є глухий кут. Припущення моделі називається q(x). Реальна ймовірність, ми називаємо це p(x). q(x) ніколи не може дорівнювати p(x). Між ними завжди є розрив. Існує математична формула для вимірювання цієї прірви. Поки модель не може ідеально передбачити наступне слово, вона ніколи не може бути нульовою. Отже, що відбувається, коли ШІ не знає правди? Це не може бути простой, він має дати тобі відповідь. Він може лише змиритися і дати відповідь, яку вважає «найбільш схожою» на відповідь. Навіть якщо це неправильно. Це «ілюзія». Припущення, засноване на неповній інформації, але надзвичайно впевнене. Найгірше те, що математика навіть дає нижню межу. Навіть найідеальніша модель ніколи не може мати рівень галюцинацій нижче цього показника....