AI sẽ mãi mãi nói dối bạn. Đây không phải là lỗi, mà là định luật toán học. Tôi, một sinh viên toán học tại Đại học Carnegie Mellon, sẽ dùng toán học để nói cho bạn biết tại sao. Tất cả các mô hình ngôn ngữ chỉ làm một việc: Dựa trên tất cả tài liệu mà nó đã đọc, dự đoán từ tiếp theo có khả năng nhất. Nhưng có một nút thắt ở đây. Dự đoán của mô hình, chúng ta gọi là q(x). Xác suất của thế giới thực, chúng ta gọi là p(x). q(x) sẽ không bao giờ bằng p(x). Giữa chúng, luôn có một khoảng cách. Có một công thức toán học, dùng để đo lường khoảng cách này. Chỉ cần mô hình không thể dự đoán hoàn hảo từ tiếp theo nó sẽ không bao giờ thì khoảng cách này sẽ không bao giờ bằng không. Vậy, điều gì sẽ xảy ra khi AI không biết sự thật? Nó không thể dừng lại, nó phải đưa cho bạn một câu trả lời. Nó chỉ có thể cứng rắn, xuất ra một câu trả lời mà nó cho là "giống nhất". Dù đó có thể là sai. Đó chính là "ảo giác". Một dự đoán đầy tự tin nhưng dựa trên thông tin không đầy đủ. Điều tồi tệ nhất là, toán học thậm chí còn đưa ra một giới hạn dưới. Ngay cả mô hình hoàn hảo nhất, tỷ lệ ảo giác của nó cũng sẽ không bao giờ thấp hơn con số này....