Механизм работы ChatGPT Pulse очень похож на Sleep-time Compute компании AI IDE Letta. В апреле я делал соответствующую презентацию. Пользовательский запрос служит границей, и после его получения модель рассматривается как находящаяся в "фазе пробуждения" (test-time compute), а до этого — в "фазе сна" (sleep-time compute). Задача LM заключается в следующем: "Подумай о данном контексте, какая информация может быть полезной?" Эта информация будет структурирована в виде "состояния" (state) и сохранена. ChatGPT Pulse, возможно, также генерирует запрос пользователя. Инновации малых компаний, похоже, постепенно поглощаются крупными компаниями.