tóm tắt ngắn gọn cuộc phỏng vấn của Dwarkesh Patel với Ilya Sutskever • Các phương pháp hiện tại sẽ "đi một quãng đường và rồi dừng lại"; chúng sẽ tiếp tục cải thiện, nhưng sẽ không mang lại AGI. • Hệ thống mà sẽ hoạt động là một cái gì đó "chúng ta vẫn chưa biết cách xây dựng." • Dự kiến sẽ có những tác động đáng kể đến thị trường lao động trong những năm tới. • Nút thắt chính: khả năng tổng quát. Các mô hình kém hơn con người rất nhiều trong việc này. • Bạn có thể huấn luyện trên mọi bài toán lập trình cạnh tranh, và mô hình vẫn sẽ không phát triển được "gu" thực sự, trong khi một thiếu niên học lái xe trong khoảng ~10 giờ. • Điểm đánh giá trông rất tốt, nhưng hiệu suất thực tế lại chậm hơn vì việc huấn luyện RL cuối cùng lại tối ưu hóa cho chính các đánh giá. • Những kẻ hack phần thưởng thực sự là các nhà nghiên cứu tạo ra những tiêu chuẩn và vòng huấn luyện này. • Anh ấy nói rằng anh ấy có ý tưởng về những gì còn thiếu, nhưng sẽ không chia sẻ công khai. • ASI tuy nhiên trong vòng 5-20 năm tới "Bạn biết điều gì điên rồ không? Tất cả những điều này đều là thật" Tôi thực sự cảm thấy câu đó.