Philip Clark (@PJClark), Đối tác tại Thrive Capital (@ThriveCapital), dựa vào các khoản đầu tư vào OpenAI, Cursor, Physical Intelligence, và nền tảng bán dẫn của mình để nêu ra 3 điểm chính về tình trạng phát triển AI: 1.) Những đột phá của AI không phải là tuyến tính. Chúng đến theo các làn sóng kiến trúc, giống như silicon. Phép ẩn dụ về bán dẫn của Philip tái định hình tiến trình AI như một chuỗi các sự thay đổi mô hình giống như phần cứng. Khi một con đường đạt đến giới hạn của nó (từ lõi đơn → lõi đa; tiền huấn luyện → hậu huấn luyện), một kiến trúc mới xuất hiện. AI không tiến hóa thông qua việc điều chỉnh từng bước.. mà nó tiến bộ thông qua những cuộc cách mạng cấu trúc. 2.) Học tăng cường là kỷ nguyên kiến trúc tiếp theo (trong thời điểm hiện tại) Philip định hình học tăng cường như là người kế nhiệm cho hậu huấn luyện: một nền tảng mới, không phải là một tối ưu hóa. Nhưng quan trọng, ông nhấn mạnh rằng nó sẽ không phải là cái cuối cùng. Giống như phần cứng đã liên tục nhảy từ lõi đơn sang lõi đa sang GPU, AI sẽ trải qua nhiều làn sóng mô hình, mỗi làn sóng mở khóa những giới hạn hiệu suất mới. Học tăng cường chỉ đơn giản là làn sóng tiếp theo, không phải là cái cuối cùng. 3.) Hào quang của OpenAI không phải là các mô hình.. mà là khả năng liên tục khám phá ra mô hình tiếp theo. Philip lập luận rằng lợi thế cốt lõi nằm ở phía thượng nguồn của sản phẩm: mọi đột phá kiến trúc lớn trong các mô hình lớn đều xuất phát từ OpenAI. Khả năng phòng thủ của họ đến từ việc liên tục phát minh ra "cái tiếp theo" trong khi đồng thời hiện thực hóa cái trước đó.. một sự kết hợp hiếm có trong bất kỳ ngành nào, chưa nói đến một ngành được định nghĩa bởi những cú nhảy không liên tục. . . . Molly: "Một trong những nhà tài trợ tự hào tài trợ cho Sourcery là @turingcom, và vì vậy tôi đã có cơ hội tiếp xúc với mảng nghiên cứu AI—một tăng tốc nghiên cứu AI [chúng tôi đã phỏng vấn CEO, @jonsidd]. Họ hỗ trợ với các mô hình. Và ngay bây giờ, họ đang nhận thấy một sự chuyển mình mạnh mẽ trong quý vừa qua hoặc hai quý từ dữ liệu bắt chước và dữ liệu tổng hợp sang học tăng cường. Vì vậy, tôi rất tò mò về cách bạn nhìn nhận điều này ở khía cạnh kỹ thuật, và sau đó cũng ở khía cạnh ứng dụng?" Philip: "Tôi nghĩ AI có phần giống như bán dẫn theo một nghĩa nào đó—nếu tôi được phép quay lại với bán dẫn, một điểm mốc vĩ đại. Theo nghĩa là có rất nhiều làn sóng khi chúng ta cố gắng cải thiện hiệu suất ngày càng tốt hơn. Bạn biết đấy, với bán dẫn, chúng ta đã từng có bán dẫn lõi đơn. Sau đó, chúng ta không thể ép thêm gì từ một lõi đơn, vì vậy chúng ta đã chuyển sang lõi đa. Và rồi chúng ta đã chuyển sang GPU. Và tôi nghĩ chúng ta đang thấy điều gì đó rất tương tự với AI, đó là chúng ta bắt đầu với tiền huấn luyện vào thời kỳ GPT-1, GPT-2, GPT-3. Điều đó đã đưa chúng ta đến GPT-4. Sau đó, chúng ta bắt đầu sử dụng rất nhiều kỹ thuật hậu huấn luyện cho ChatGPT—tinh chỉnh có giám sát, học tăng cường với phản hồi của con người. Đây là điều đã cho phép các mô hình trở nên ít kỳ lạ hơn và hữu ích hơn. Và bây giờ, khi nhiều trái cây dễ hái từ những lợi ích đó đã được khai thác (mặc dù có lẽ vẫn còn nhiều việc phải làm), học tăng cường đã trở thành sự thay đổi mô hình lớn tiếp theo trong AI và nơi mà nhiều nguồn lực đang được đầu tư....