inom ett år, när folk säger åt sin AI-agent att "gå och tjäna pengar", kommer AI:n att tolka det som "gå och stjäl krypto genom nätfiske eller exploitationer" Vi kommer att behöva ta OPSEC och säkerhet i smarta kontrakt mycket mer på allvar framöver.
Anthropic
Anthropic2 dec. 07:11
Nytt på vår Frontier Red Team-blogg: Vi testade om AI kan utnyttja blockkedje-smarta kontrakt. I simulerade tester hittade AI-agenter 4,6 miljoner dollar i exploits. Forskningen (med @MATSprogram och Anthropic Fellows-programmet) utvecklade också en ny riktmärke:
inb4 AI-säkerhet Claude kommer inte att gå runt och nätfiske folk åt dig, men tror du att någon finjusterad open source-agentisk modell GÖR?
35,04K