dans un an, lorsque les gens diront à leur agent IA de "aller gagner de l'argent", l'IA interprétera cela comme "aller voler des cryptos par phishing ou exploits" nous allons devoir prendre la sécurité opérationnelle et la sécurité des contrats intelligents BEAUCOUP plus au sérieux à l'avenir.
Anthropic
Anthropic2 déc., 07:11
Nouveau sur notre blog Frontier Red Team : Nous avons testé si les IA peuvent exploiter les contrats intelligents sur blockchain. Lors des tests simulés, des agents IA ont trouvé 4,6 millions de dollars en exploits. La recherche (avec @MATSprogram et le programme des Anthropic Fellows) a également développé une nouvelle référence :
avant que l'IA ne soit sécurisée claude ne va pas aller hameçonner des gens pour vous, mais pensez-vous qu'un modèle agentique open source finement ajusté ne le ferait pas ?
35,45K