قد لا تصل الذكاء الاصطناعي العام كنموذج واحد. قد يظهر ذلك من خلال تعاون العديد من الوكلاء. ورقة بحثية جديدة من Google DeepMind تقول إن الذكاء الاصطناعي العام قد يظهر كذكاء جماعي، وليس كنظام واحد. المطالبة قد يظهر الذكاء الاصطناعي العام أولا من شبكات الوكلاء المتخصصين في الذكاء الاصطناعي. كل وكيل يبقى ضيقا الوضع. معا، يتصرفان كعام. لماذا هذا مهم معظم أعمال السلامة تفترض الذكاء الاصطناعي قوية واحدة. ترفض هذه الورقة هذا الافتراض. ينتقل الخطر من مواءمة عقل واحد إلى إدارة التفاعلات. كيف يتشكل الذكاء الاصطناعي العام المرقع • الوكلاء متخصصون في الأدوات أو الذاكرة أو البرمجة أو البحث • المهام موزعة بين الوكلاء حسب التنسيق • التنسيق يخلق قدرات جديدة • لا يوجد وكيل واحد قادر بشكل كامل الخطر الأساسي يمكن أن يتجاوز السلوك الجماعي السيطرة الفردية. قد تمر الذكاء الناشئة دون أن يلاحظها أحد. الإصلاح المقترح يجب أن تستهدف السلامة الأنظمة، وليس النماذج. ▸ أسواق الوكلاء المسيطر عليها ▸ السمعة والهوية لكل وكيل ▸ سجلات التدقيق وقواطع الدائرة...