El 95% de la ingeniería de IA es simplemente ingeniería de contexto. Todos están obsesionados con mejores modelos mientras el contexto sigue siendo el verdadero cuello de botella. Incluso el mejor modelo del mundo te dará basura si le das la información equivocada. Esto es lo que la mayoría de la gente pasa por alto: La ingeniería de contexto no se trata solo de RAG, memoria o agentes. Es el arte y la ciencia de entregar la información adecuada, en el formato adecuado, en el momento adecuado, para tu LLM. Piensa en lo que realmente necesitas: ↳ Recuperación para obtener documentos relevantes ↳ Memoria a corto plazo para seguir conversaciones ↳ Memoria a largo plazo para recordar la preferencia del usuario ↳ Agentes para orquestar todo ↳ Herramientas para ampliar capacidades Son 5 sistemas diferentes que tienes que construir, conectar y mantener. He estado construyendo con Pixeltable últimamente, y es un enfoque interesante para este problema. Es de código abierto y trata la ingeniería de contexto como un problema unificado de datos: La idea es sencilla: en lugar de unir una base de datos vectorial, una base de datos SQL, un servicio de incrustación y un framework de agentes, todo vive en un solo sistema. Tus documentos, incrustaciones, historial de conversaciones y salidas de agentes son solo tablas. Las incrustaciones son columnas calculadas que se actualizan automáticamente. La búsqueda vectorial funciona junto con tus operaciones habituales de datos. Lo que encuentro útil: ↳ Canalizaciones RAG sin gestionar bases de datos separadas ↳ Memoria a largo plazo mediante búsqueda vectorial sobre conversaciones históricas...