Thật kỳ lạ là trước khi có LLMs, thậm chí không ai suy đoán rộng rãi rằng các vector nhiều chiều mã hóa các Khái niệm, và hình học của vị trí tương đối của chúng mã hóa Ý nghĩa, một cách tổng quát. Bạn có thể nghĩ rằng đó đã là một giả thuyết ứng cử viên được cho 30% xác suất.

@johnmark_taylor Bất kỳ ai nghĩ rằng vào năm 2014 "Học sâu sẽ hoạt động" có thể nói rằng họ đã đúng. Tôi chỉ không nghe thấy phần cốt lõi đơn giản và táo bạo hơn của học sâu được thảo luận rộng rãi.