AI會永遠對你撒謊。 這不是bug，是數學定律。 我，卡內基梅隆大學的數學學生，用數學告訴你為什麼。 所有語言模型，只做一件事： 根據它讀過的所有資料，預測下一個最有可能的詞。 但這裡有個死結。 模型的猜測，我們叫它q(x)。 真實世界的概率，我們叫它p(x)。 q(x)永遠不可能等於p(x)。 它們之間，永遠有一道鴻溝。 有個數學公式，就是用來測量這道鴻溝的。 只要模型不能完美預測下一個詞 它永遠不能 那這個鴻溝就永遠不會是零。 所以，當AI不知道真相的時候會發生什麼？ 它不能停機，它必須給你一個答案。 它只能硬著頭皮，輸出一個它認為“最像”答案的答案。 哪怕那是錯的。 這就是“幻覺”。 一個基於不完整信息，卻無比自信的猜測。 最要命的是，數學甚至給出了一個下限。 就算最完美的模型，它的幻覺率也永遠不可能低於這個數字。...