в течение года, когда люди скажут своему AI-агенту "заработай деньги", AI будет интерпретировать это как "иди и укради криптовалюту с помощью фишинга или эксплойтов" нам придется гораздо серьезнее относиться к безопасности операций и безопасности смарт-контрактов в будущем.
Anthropic
Anthropic2 дек., 07:11
Новое на нашем блоге Frontier Red Team: Мы проверили, могут ли ИИ эксплуатировать смарт-контракты блокчейна. В ходе симуляционного тестирования агенты ИИ нашли уязвимости на сумму 4,6 миллиона долларов. Исследование (в сотрудничестве с @MATSprogram и программой Anthropic Fellows) также разработало новый эталон:
впереди безопасность ИИ Клод не будет обманывать людей за вас, но вы действительно думаете, что какой-то доработанный открытый агентный модель не будет?
35,04K