L'ottimizzazione LLM, una tecnica comune è la compressione, ci sono due percorsi operativi opposti. 1. Comprimere l'input, comune nei modelli di punta, utilizzando concetti per sostituire lunghe descrizioni; il "prompt divino" di Li Jigang è un esempio, "Oscar Wilde" "Lu Xun" "Lin Yutang" sostituiscono lo stile di scrittura; la difficoltà sta nella comprensione e accumulo astratto dei concetti, e richiede tentativi ripetuti, con scarsa adattabilità tra modelli; 2. Comprimere l'output, applicabile a tutti i modelli, particolarmente evidente nei prodotti agentici, utilizzando strumenti incapsulati con precisione per sostituire l'esecuzione completa dei compiti da parte dell'agente; la difficoltà sta nella scelta della scala degli strumenti, troppo pochi non sono efficaci, troppi occupano l'attenzione, portando a un deterioramento dell'efficacia, mettendo alla prova la filosofia di design.
10,14K