em um ano, quando as pessoas mandam seu agente de IA "vai ganhar dinheiro", a IA interpreta isso como "vá roubar cripto por meio de phishing ou exploits" vamos ter que levar a segurança operacional e a segurança de contratos inteligentes MUITO mais a sério daqui para frente.
Anthropic
Anthropic2 de dez., 07:11
Novidades em nosso blog Frontier Red Team: Testamos se as IAs podem explorar contratos inteligentes em blockchain. Em testes simulados, agentes de IA encontraram 4,6 milhões de dólares em exploits. A pesquisa (com @MATSprogram e o programa Anthropic Fellows) também desenvolveu um novo parâmetro:
inb4 Segurança de IA Claude não vai sair por aí fazendo phishing para você, mas você acha que algum modelo agente open source e ajustado NÃO vai acontecer?
35,05K