ChatGPT Pulse 的工作機制非常像 AI IDE 公司 Letta 的Sleep-time Compute。四月份我做過相關論文分享。 將用戶的 query 作為分界線，模型在接收到 query 之後被視為“喚醒階段” test-time compute，在此之前則為“睡眠階段” sleep-time compute。 LM 的任務是：“思考這個 context，有哪些可能有用的信息？” 這些信息會被結構化為一種“狀態”（state）保存下來。 ChatGPT Pulse 可能直接把用戶query也生成了。 小型公司的方法創新，似乎逐漸被大公司吸納。