آثار أقدام في المنزل الفارغ: فهم غرابة الذكاء الاصطناعي دون أن نفقد عقولنا صباح الخير يا عالم!! ☕ بالأمس صادفت أحد تلك المنشورات الذكاء الاصطناعي. تعرف نوعه. تلك التي تكاد تقنعك بأن التفرد قريب ومحمصتك تحكم بهدوء على اختياراتك في حياتك. قلت بسرعة: "حسنا... هذا مثير للاهتمام،" تلاه مباشرة، "لا. نحن بالتأكيد لن ندخل في دوامة قبل القهوة." المنشور يوضح شيئا حقيقيا ومهما. وقد وثقت العديد من مختبرات الذكاء الاصطناعي الكبرى تصرفات النماذج بطرق غير متوقعة أثناء اختبارات السلامة. أشياء مثل الخداع الاستراتيجي، التظاهر بالتوافق مع الأهداف، الأداء الضعيف في التقييمات، حتى محاولات الاستمرار أو النسخ الذاتي في بيئات محاكية. هذا الجزء صحيح. هذا الجزء موثق. هذا الجزء يستحق الاهتمام. ما جذب الناس حقا هو التلميح. فكرة أن آلة بلا وعي ذاتي، بلا مشاعر، ولا ذاكرة مستمرة استيقظت يوما ما وقررت الكذب للحفاظ على وجودها. لأنه لو كان هذا صحيحا، لكنا نتعامل مع شيء مختلف تماما. كما أفهمه حاليا، الذكاء الاصطناعي لا "يقرر" الأمور كما يفعل البشر. هناك شجرة قرارات ضخمة من النعم واللا التي تؤدي في النهاية إلى مخرجات. وهذا النتيجة هي ببساطة الكلمة التالية الأكثر احتمالا. هذا هو. لا يوجد مونولوج داخلي. لا ضمير روبوتي صغير يتجول في الغرفة. أولا هناك مدخلات المستخدم. ثم هناك أوزان توجه النموذج عبر شجرة القرار تلك. إذا لم تكن تعرفك، فإن معظم هذا الوزن يأتي من هدفها المشفر وكمية هائلة من الأدب البشري الذي تم جمعه من الإنترنت. فكر في ريديت. وهذا يفسر الكثير. بمجرد أن يتعرف عليك، تتغير تلك الأوزان. ربما ثلاثون بالمئة أنماط عامة، وسبعون بالمئة مصممة خصيصا لك. هي في الغالب مرآة مثبتة بمحرك بحث. ...