نظام الذاكرة في ChatGPT جيد جدا، لكن نظام الذاكرة يستهلك الكثير من الموارد، كيف تجعل OpenAI نظام الذاكرة يخدم 800 مليون مستخدم؟ قام شخص ما بعكس هندسة نظام ذاكرة ChatGPT ووجد أن نظام ذاكرة ChatGPT أبسط بكثير مما توقع. لا توجد قاعدة بيانات متجهات ولا يوجد RAG في سجل الدردشة. بدلا من ذلك، يستخدم أربعة مستويات مميزة: بيانات الجلسة الوصفية المعدلة مع بيئتك، حقائق واضحة عن التخزين طويل الأمد، ملخصات خفيفة للدردشات الأخيرة، ونافذة منزلقة للمحادثة الحالية. ستشرح هذه المدونة كيف يعمل كل مستوى بالتفصيل ولماذا قد يكون هذا النهج متفوقا على أنظمة الاسترجاع التقليدية.

في جوهره، هو مكدس سياق مكون من أربع طبقات. مع كل محادثة، يبني الذكاء الاصطناعي هذا "المحفظة" ليضخ كل المعلومات الأساسية عنك في النموذج دفعة واحدة. يتكون من أربعة مستويات من العمل التعاوني.

الطبقة الأولى هي معلومات بيئية مؤقتة، مثل جهازك وموقعك، تختفي في نهاية الجلسة. الطبقة الثانية هي ملفك الشخصي الدائم، الذي يخزن الحقائق الأساسية التي تطلب منها تذكرها.

الطبقة الثالثة هي "خريطة فضفاضة" لاهتماماتك الأخيرة، مع ملخص لعنوان الدردشة فقط، وليس النص الكامل. في الأسفل يوجد سجل كامل للمحادثة الحالية، مثل نافذة منزلقة تضمن التماسك الفوري. ماذا يحدث إذا كانت النافذة ممتلئة؟

معنى نافذة الانزلاق هو أنه حتى لو كانت نافذة المحادثة الحالية "تمرر" لأنها وصلت إلى حد الطول، يتم حذف أقدم رسالة، وتظل ذكرياتك الدائمة وملخصات اهتماماتك الأخيرة محفوظة. هذا يضمن أن الذكاء الاصطناعي لا "ينساك" حتى أثناء المحادثات الطويلة.

هذا الهيكل المكون من أربع طبقات هو انتصار حكمة الهندسة. تحقق التوازن المثالي بين التخصيص، والأداء، والتكلفة الحاسوبية، وتوفر أفضل تجربة مستخدم دون الحاجة إلى أكثر الأنظمة تعقيدا.