كان فضوليا بشكل خاص أن أسأل @karpathy لماذا استغرقت السيارات ذاتية القيادة عقدا + من جولات تجريبية ممتازة إلى نشرها إلى حد ما. قاد أندريه الذكاء الاصطناعي في تسلا لمدة 5 سنوات. أردت حقا أن أعرف ما إذا كانت هذه الاحتكاكات يجب أن تطيل الجداول الزمنية للذكاء الاصطناعي العام ، أو ما إذا كانت فريدة للقيادة الذاتية. القيادة لها تكلفة عالية حقا للفشل. البشر سائقون موثوقون بشكل مدهش - لدينا حادث خطير كل 400,000 ميل / 7 سنوات. وتحتاج السيارات ذاتية القيادة إلى مطابقة ملف تعريف الأمان هذا أو التغلب عليه قبل نشرها. لكن هل معظم المجالات مثل هذا؟ قبل المقابلة ، بدا لي أن كل مجال نرغب في توصيل AGI به تقريبا لديه تكلفة فشل أقل بكثير. إذا لم يسمح لمهندسي البرمجيات المستقلين تماما بارتكاب خطأ لمدة 7 سنوات ، فسيكون النشر بطيئا للغاية. أشار أندريه إلى نقطة مثيرة للاهتمام لم أسمعها من قبل: بالمقارنة مع القيادة الذاتية ، فإن هندسة البرمجيات لها تكلفة أعلى (وربما غير محدودة) للفشل: > إذا كنت تكتب رمزا فعليا على مستوى الإنتاج ، فقد يؤدي أي نوع من الأخطاء إلى ثغرة أمنية. يمكن تسريب مئات الملايين من أرقام الضمان الاجتماعي الشخصية للناس. > في القيادة الذاتية ، إذا ساءت الأمور ، فقد تتعرض للإصابة. هناك نتائج أسوأ. لكن في البرمجيات ، يكاد يكون من غير المحدود مدى فظاعة شيء ما. > في بعض النواحي ، تعد هندسة البرمجيات مشكلة أصعب بكثير [من القيادة الذاتية]. القيادة الذاتية هي مجرد واحدة من آلاف الأشياء التي يفعلها الناس. يكاد يكون مثل عمودي واحد. بينما عندما نتحدث عن هندسة البرمجيات العامة ، هناك مساحة أكبر من السطح. من المحتمل أن يكون هناك سبب آخر وراء حدوث انتقال الذكاء الاصطناعي العام المنتشر على نطاق واسع في LLM -> بشكل أسرع: تمنحنا LLMs تصورا وتمثيلا وحسا سليما (للتعامل مع أمثلة التوزيع) مجانا ، في حين كان لابد من تشكيلها من الصفر للسيارات ذاتية القيادة. سألت أندريه عن هذا: > لا أعرف كم نحصل عليه مجانا. لا تزال LLMs قابلة للخطأ ولديها الكثير من الفجوات التي لا تزال بحاجة إلى سدها. لا أعتقد أننا نحصل على تعميم سحري تماما خارج الصندوق. > الجانب الآخر الذي أردت العودة إليه هو أن السيارات ذاتية القيادة لم تقترب من الانتهاء. عمليات النشر ضئيلة جدا. حتى Waymo لديها عدد قليل جدا من السيارات. لقد بنوا شيئا يعيش في المستقبل. كان عليهم سحب المستقبل ، لكن كان عليهم جعله غير اقتصادي. > أيضا ، عندما تنظر إلى هذه السيارات ولا يوجد أحد يقود سيارته ، فهناك المزيد من البشر في الحلقة مما قد تتوقع. بمعنى ما ، لم نقم بإزالة الشخص فعليا ، لقد نقلناه إلى مكان لا يمكنك رؤيته فيه.