El mecanismo de funcionamiento de ChatGPT Pulse es muy similar al Sleep-time Compute de la empresa de AI IDE Letta. En abril, hice una presentación sobre un trabajo relacionado. Tomando la consulta del usuario como línea divisoria, el modelo se considera en la "fase de activación" (test-time compute) después de recibir la consulta, mientras que antes se encuentra en la "fase de sueño" (sleep-time compute). La tarea del LM es: "Reflexiona sobre este contexto, ¿qué información podría ser útil?" Esta información se estructurará en un "estado" (state) que se guardará. ChatGPT Pulse podría haber generado directamente la consulta del usuario también. La innovación en los métodos de las pequeñas empresas parece estar siendo gradualmente absorbida por las grandes empresas.