De werking van ChatGPT Pulse lijkt sterk op de Sleep-time Compute van het AI IDE bedrijf Letta. In april heb ik hierover een paper gedeeld. De gebruikersquery fungeert als scheidslijn; het model wordt na ontvangst van de query beschouwd als de "wakkerfase" test-time compute, terwijl het daarvoor in de "slaapfase" sleep-time compute is. De taak van de LM is: "Denk na over deze context, welke mogelijk nuttige informatie is er?" Deze informatie wordt gestructureerd als een "staat" (state) en opgeslagen. ChatGPT Pulse genereert mogelijk ook direct de gebruikersquery. De innovatieve methoden van kleine bedrijven lijken geleidelijk door grote bedrijven te worden overgenomen.