إليك سبب أهمية هندسة السياق. لقد قضينا ساعتين للتو نناقش متى يجب على الوكيل الاعتماد على معرفته الداخلية مقابل محاولة إيجاد سياق ذي صلة داخل البيانات لنوع واحد فقط من الأسئلة. تجاوزنا حالتين اختباريتين من المئات. حتى الأشخاص المشاركون في العصف الذهني لم يتفقوا جميعا على ما يتوقعون من البشر فعله في هذا الموقف. لم يكن هناك جواب صحيح حقا، ودائما ما يكون الأمر حسب السياق العميل لعميل. كل شيء في الهندسة السياقية هو مقايضة بين عدة عوامل: كم سرعة تريد من الوكيل أن يجيب على سؤال، كم من التفاعل ذهابا وإيابا تريد أن يتطلبه المستخدم، كم من العمل يجب أن يقوم به قبل محاولة الإجابة على سؤال، كيف يعرف أن لديه المادة المصدرية الشاملة للإجابة على السؤال، ما هو مستوى المخاطرة للإجابة الخاطئة، وهكذا. كل قرار تتخذه بشأن أحد هذه الأبعاد له عواقب على الطرف الآخر. كله بثمنه. لهذا السبب بناء وكلاء الذكاء الاصطناعي أمر غريب جدا. كما يبرز مدى القيمة التي تتجاوز طبقة نموذج اللغة الكبيرة. الحصول على هذه القرارات بشكل صحيح يرتبط مباشرة بجودة عرض القيمة.