Voici pourquoi l'ingénierie contextuelle est si importante. Nous venons de passer 2 heures à débattre de quand un agent devrait s'appuyer sur ses connaissances internes par rapport à la recherche de contexte pertinent dans les données pour un seul type de question. Nous avons traité 2 cas de test sur des centaines. Même les personnes impliquées dans le brainstorming n'ont pas pu s'accorder sur ce qu'elles s'attendraient à ce que les humains fassent dans cette situation. Il n'y avait vraiment pas de bonne réponse, et c'est toujours spécifique au contexte, client par client. Tout dans l'ingénierie contextuelle est un compromis entre une variété de facteurs : à quelle vitesse voulez-vous que l'agent réponde à une question, combien d'interactions aller-retour voulez-vous exiger de l'utilisateur, combien de travail doit-il effectuer avant d'essayer de répondre à une question, comment sait-il qu'il dispose du matériel source exhaustif pour répondre à la question, quel est le niveau de risque d'une mauvaise réponse, et ainsi de suite. Chaque décision que vous prenez sur l'une de ces dimensions a des conséquences à l'autre extrémité. Il n'y a pas de repas gratuit. C'est pourquoi construire des agents IA est si fou. Cela met également en évidence combien de valeur il y a au-dessus de la couche LLM. Prendre ces décisions correctement est directement lié à la qualité de la proposition de valeur.