La risposta a questa domanda era l'intero blog di Anthropic Engineering. Sono rimasto molto colpito dal loro pensiero all'avanguardia dall'inizio alla fine. La mia principale conclusione, però, è che è ancora molto presto. È ancora un software piuttosto semplice e ci sono soluzioni alternative per la compressione del contesto.