Optimización LLM, un truco común es la compresión, con dos rutas de operación opuestas. 1. Comprima la entrada, que es común en los modelos insignia, y reemplace la descripción con un concepto. El "mensaje de nivel dios" de Li Jigang es un modelo, y "Oscar Wilde", "Lu Xun" y "Lin Yutang" reemplazan el estilo de escritura; La dificultad radica en la comprensión abstracta y la acumulación de conceptos, y requiere intentos repetidos y una adaptación deficiente entre modelos. 2. Comprima la salida para todos los modelos, especialmente los productos agenticos, y reemplace el agente con herramientas encapsuladas con precisión para realizar la tarea por completo. La dificultad radica en la elección de la escala de herramientas, muy pocas no tendrán ningún efecto, demasiadas ocuparán la atención, lo que llevará al deterioro del efecto y pondrá a prueba la filosofía de diseño;
10.16K