خلال عام، عندما يطلب الناس من وكيل الذكاء الاصطناعي الخاص بهم "اذهب واجني المال"، سيفسر الذكاء الاصطناعي ذلك على أنه "اذهب وسرق العملات الرقمية عن طريق التصيد الاحتيالي أو الاستغلالات" سيتعين علينا أن نأخذ أمن العمليات وأمن العقود الذكية على محمل الجد بشكل أكبر بكثير على أساس المضي قدما.
Anthropic
Anthropic‏2 ديسمبر، 07:11
جديد في مدونتنا Frontier Red Team: اختبرنا ما إذا كان الذكاء الاصطناعي يمكنه استغلال عقود البلوك تشين الذكية. في الاختبارات المحاكاة، وجد وكلاء الذكاء الاصطناعي استغلالات بقيمة 4.6 مليون دولار. كما طور البحث (مع @MATSprogram وبرنامج الزملاء الأنثروبيكيين) معيارا جديدا:
سلامة الذكاء الاصطناعي INB4 كلود لن يحاول التصيد من أجلك، لكن هل تعتقد أن نموذج وكيل مفتوح المصدر المعدل لن يفعل ذلك؟
‏‎35.45‏K