Die Funktionsweise von ChatGPT Pulse ähnelt sehr dem Sleep-time Compute der AI IDE Firma Letta. Im April habe ich dazu eine entsprechende Arbeit geteilt. Die Benutzeranfrage dient als Grenze, und das Modell wird nach Erhalt der Anfrage als "Wachphase" (test-time compute) betrachtet, während es davor in der "Schlafphase" (sleep-time compute) ist. Die Aufgabe des LM ist: "Denke über diesen Kontext nach, welche möglicherweise nützlichen Informationen gibt es?" Diese Informationen werden in einer Art "Zustand" (state) strukturiert und gespeichert. ChatGPT Pulse könnte die Benutzeranfrage direkt generiert haben. Die Innovationsmethoden kleiner Unternehmen scheinen allmählich von großen Unternehmen übernommen zu werden.