Cơ chế hoạt động của ChatGPT Pulse rất giống với Sleep-time Compute của công ty AI IDE Letta. Vào tháng Tư, tôi đã có một buổi chia sẻ về tài liệu liên quan. Lấy truy vấn của người dùng làm ranh giới, mô hình được coi là "giai đoạn đánh thức" test-time compute sau khi nhận được truy vấn, trước đó thì được gọi là "giai đoạn ngủ" sleep-time compute. Nhiệm vụ của LM là: "Suy nghĩ về ngữ cảnh này, có thông tin nào có thể hữu ích không?" Những thông tin này sẽ được cấu trúc thành một "trạng thái" (state) và lưu lại. ChatGPT Pulse có thể đã trực tiếp tạo ra truy vấn của người dùng. Sự đổi mới trong phương pháp của các công ty nhỏ dường như đang dần được các công ty lớn tiếp nhận.