Finalmente entendí por qué los re-rankers son tan poderosos una vez que comprendí la clave diferencia entre bi- y cross-encoders. Además, encontré una manera de combinar sus poderes utilizando una arquitectura unificada. Déjame explicarte: RAG es 80% recuperación y 20% generación. Así que si RAG no está funcionando, lo más probable es que sea un problema de recuperación. Esa es exactamente la razón por la que es tan importante acertar con tu arquitectura de recuperación, y todo comienza con entender estos dos (en realidad tres) enfoques de codificación. (refiérete al visual a continuación mientras lees) 1️⃣ Bi-encoders Los bi-encoders (la columna vertebral de la búsqueda vectorial) procesan consultas y documentos por separado. - Las incrustaciones de documentos se pre-calculan - La consulta se incrusta en el momento de la búsqueda Esto hace que los bi-encoders sean perfectos para la recuperación inicial: - extremadamente rápidos - funcionan a gran escala - pierden información contextual importante 2️⃣ Cross-encoders Los cross-encoders adoptan un enfoque completamente diferente para el re-ranking. Procesan la consulta y cada documento como una sola unidad....