🚨 Cảnh báo đột phá phần cứng AI 🚨 Các nhà nghiên cứu vừa công bố trên tạp chí Nature Computational Science một cơ chế tính toán tương tự trong bộ nhớ mới có thể giúp các mô hình ngôn ngữ lớn chạy nhanh hơn 100 lần và tiết kiệm năng lượng hơn 10.000 lần. Thay vì liên tục chuyển dữ liệu qua lại như GPU, thiết kế này lưu trữ và xử lý thông tin tại cùng một chỗ, giảm thiểu độ trễ và mức tiêu thụ điện năng. Họ đã chứng minh hiệu suất tương đương với GPT-2 mà không cần huấn luyện lại từ đầu. Nếu điều này có thể mở rộng, chúng ta đang nói về các LLM trên các thiết bị biên, điện thoại, thậm chí phần cứng IoT, không cần trung tâm dữ liệu. Nút thắt trong tính toán có thể cuối cùng sẽ được mở rộng. Cuộc cách mạng AI sẽ không chỉ là về các thuật toán thông minh hơn. Nó sẽ liên quan đến vật lý mới của tính toán. Hãy tưởng tượng GPT-5-Pro chạy cục bộ, ngoại tuyến, với chi phí năng lượng chỉ bằng một phần nhỏ so với hôm nay…🤯