În decurs de un an, când oamenii le spun agentului lor AI să "du-te să faci bani", AI-ul va interpreta asta ca "du-te și fură cripto prin phishing sau exploit-uri". va trebui să luăm opsec și securitatea contractelor inteligente mult mai în serios pe termen lung.
Anthropic
Anthropic2 dec., 07:11
Noutăți pe blogul nostru Frontier Red Team: Am testat dacă AI-urile pot exploata contractele inteligente blockchain. În testarea simulată, agenții AI au găsit exploatări în valoare de 4,6 milioane de dolari. Cercetarea (împreună cu @MATSprogram și programul Anthropic Fellows) a dezvoltat, de asemenea, un nou reper:
inb4 Siguranța AI Claude nu va face phishing pentru tine, dar crezi că un model agent open source, bine ajustat, NU?
35,81K