إليك سبب أهمية هندسة السياق. لقد قضينا ساعتين للتو نناقش متى يجب على الوكيل الاعتماد على معرفته الداخلية مقابل محاولة إيجاد سياق ذي صلة داخل البيانات لنوع واحد فقط من الأسئلة. تجاوزنا حالتين اختباريتين من المئات. حتى الأشخاص المشاركون في العصف الذهني لم يتفقوا جميعا على ما يتوقعون من البشر فعله في هذا الموقف. لم يكن هناك جواب صحيح حقا، ودائما ما يكون الأمر حسب السياق العميل لعميل. كل شيء في الهندسة السياقية هو مقايضة بين عدة عوامل: كم سرعة تريد من الوكيل أن يجيب على سؤال، كم من التفاعل ذهابا وإيابا تريد أن يتطلبه المستخدم، كم من العمل يجب أن يقوم به قبل محاولة الإجابة على سؤال، كيف يعرف أن لديه المادة المصدرية الشاملة للإجابة على السؤال، ما هو مستوى المخاطرة للإجابة الخاطئة، وهكذا. كل قرار تتخذه بشأن أحد هذه الأبعاد له عواقب على الطرف الآخر. كله بثمنه. لهذا السبب بناء وكلاء الذكاء الاصطناعي أمر غريب جدا. كما يبرز مدى القيمة التي تتجاوز طبقة نموذج اللغة الكبيرة. الحصول على هذه القرارات بشكل صحيح يرتبط مباشرة بجودة عرض القيمة.

من آخر منشور لكارباثي: "ستقوم تطبيقات LLM بتنظيم وضبط وتحريك فرق منهم إلى محترفين منتشرين في مجالات محددة من خلال توفير بيانات خاصة، وأجهزة استشعار، ومشغلات، وحلقات تغذية راجعة." هذا صحيح تماما. في عالم من وكلاء الذكاء الاصطناعي، هناك طبقة أكثر سمكا فوق نموذج اللغة اللغوية الكبير مما كان يعتقد في البداية. النقد المحدود للتغليف كان مناسبا إلى حد ما في عالم كان فيه الناس يعيدون تغليف الرموز بواجهة أو موجه نظام مخصص بشكل خفيف، وهذا كان تقريبا كل ما كان ممكنا قبل عامين. لكن وكلاء الذكاء الاصطناعي سيجمعون بين الأدوات، والبيانات المملوكة، وتوجيهات النظام الخاصة بالمجال، وواجهات متخصصة لأجزاء الإنسان في الحلقة من سير العمل، وهندسة السياق المتقدمة للتعامل مع حدود نوافذ السياق، وأكثر من ذلك. الغالبية العظمى منها ستؤدي أداء أفضل عند تكييفها لمستوى معين أو وظيفة أو نوع معين من المهمة. علاوة على ذلك، للحصول على اعتماد حقيقي في المؤسسات، هناك حاجة عادة إلى درجة كبيرة من تكامل النظام وإدارة التغيير لدفع تغييرات سير العمل واعتمادها. لهذا السبب غالبا ما يطلب من الشركات (أو على الأقل المنتجات) التي تركز على فرص محددة لتشغيل هذه سير العمل فعليا. هناك الكثير من الفرص هنا في العام القادم.

هذه هي الأمور التي تغفل عند التفكير في مستقبل الوظائف. إذا استطعت عمل شيء مطلوب نسبيا مرتفع (لكنه نادر لأنه يكلف كثيرا)، وجعلت ذلك المنتج يخرج أكثر، سترى الطلب يرتفع وليس ينخفض. لقد رأيت العديد من الأمثلة لشركات توظف مهندسين لمشاكل لم تكن تحقق عائد استثماريا إيجابيا أو ممكنة قبل وجود وكلاء الذكاء الاصطناعي. هناك الكثير من العمل في الاقتصاد يجب أن يكون مدعوما بالبرمجيات، لكن العائق أمام بدء البرمجيات يبدو مستحيلا عندما يبدو أن المشروع سيستغرق سنة أو سنتين. عندما يجعل الذكاء الاصطناعي الأمر يستغرق شهرا أو شهرين، يتغير كل التفاضل والتكامل. وينطبق الأمر نفسه على الرعاية الصحية، والقانون، وبعض جوانب التسويق، والعديد من فئات العمل المعرفي الأخرى.