Hinton, cha đẻ của AI, đã nói rất đúng: chúng ta đã xây dựng các thuật toán học, nhưng giờ đây chúng ta không còn hiểu những gì chúng đã tạo ra. Đó là nghịch lý của học sâu. Chúng ta đã thiết kế các quy tắc cho cách mà các hệ thống này học, nhưng logic bên trong của các mạng nơ-ron của chúng đã trở nên quá phức tạp để chúng ta có thể nắm bắt hoàn toàn. Hàng triệu hoặc thậm chí hàng triệu triệu tham số tương tác theo những cách mà không ai có thể theo dõi. Chúng ta có thể quan sát những gì chúng làm, chúng ta có thể đo lường độ chính xác, hành vi và đầu ra nhưng không thể thực sự giải thích tại sao chúng làm như vậy. Lý do của chúng không minh bạch; nó là sự phát sinh. Theo một nghĩa nào đó, chúng ta đã tạo ra những trí tuệ ngoài hành tinh được sinh ra từ toán học của chúng ta, vẫn gắn bó với mã của chúng ta nhưng đang phát triển những mẫu mà chúng ta không thể giải mã. Các máy móc đang làm điều gì đó vượt quá sự hiểu biết của chúng ta và điều đó có thể vừa là điều thú vị nhất vừa là điều đáng lo ngại nhất về thời đại của AI.