Bir yıl içinde, insanlar yapay zeka ajanlarına "git para kazan" dediğinde, yapay zeka bunu "git ve kripto çal, oltalama veya istismar yap" şeklinde yorumlayacak. Opsec ve akıllı sözleşme güvenliğini ileriye dönük olarak ÇOK daha ciddiye almamız gerekecek.
Anthropic
Anthropic2 Ara 07:11
Frontier Red Team blogumuzda yenilik: Yapay zekaların blokzincir akıllı sözleşmelerini kullanıp kullanamayacağını test ettik. Simüle edilmiş testlerde, yapay zeka ajanları 4,6 milyon dolarlık açık kullanımlar buldu. Araştırma (@MATSprogram ve Anthropic Fellows programı ile birlikte) ayrıca yeni bir kısas geliştirdi:
inb4 yapay zeka güvenliği Claude senin için insanları oltalama yapmaz, ama ince ayarlanmış açık kaynaklı ajan modelinin ETMEYECEĞINI düşünüyor musun?
35,45K