Perché garantire la sicurezza dell'AI è più difficile di quanto chiunque si aspettasse e la crisi della sicurezza dell'AI in arrivo con @SanderSchulhoff Sander è un ricercatore di punta nel campo della robustezza avversariale, che è l'arte e la scienza di far fare agli sistemi AI cose che non dovrebbero fare, attraverso il jail-breaking e l'iniezione di prompt. Ciò che Sander condivide in questa conversazione è essenzialmente che tutti i sistemi AI che utilizziamo quotidianamente sono aperti a essere ingannati nel fare cose che non dovrebbero, che non esiste davvero una soluzione a questo problema e che le aziende che cercano di vendere soluzioni per questo sono per lo più fuffa. Questa conversazione non ha nulla a che fare con l'AGI, questo è un problema attuale. E che l'unico motivo per cui non abbiamo visto hack massicci e danni seri dagli strumenti AI finora è perché non hanno ancora ricevuto così tanto potere e non sono ancora così ampiamente adottati. Ma con l'aumento degli agenti (che possono compiere azioni per tuo conto), dei robot e persino dei browser alimentati da AI, il rischio aumenterà molto rapidamente. Questo è un argomento davvero importante che mi ha aperto la mente e mi ha spaventato, ed è qualcosa di cui tutti noi dobbiamo avere una comprensione di base man mano che l'AI diventa più prevalente nelle nostre vite. Dentro: 🔸 Un'introduzione agli attacchi di jailbreaking e iniezione di prompt 🔸 Perché le protezioni per l'AI non funzionano 🔸 Perché non abbiamo ancora visto incidenti di sicurezza AI significativi (ma presto lo faremo) 🔸 Perché gli agenti del browser AI sono estremamente vulnerabili 🔸 I passi pratici che le organizzazioni dovrebbero intraprendere invece di acquistare strumenti di sicurezza inefficaci 🔸 Perché risolvere questo richiede di unire l'expertise della cybersecurity classica con la conoscenza dell'AI Ascolta ora 👇 • YouTube: • Spotify: • Apple: Grazie ai nostri meravigliosi sponsor per aver supportato il podcast: 🏆 @datadoghq — Ora casa di Eppo, la principale piattaforma di sperimentazione e gestione delle funzionalità: 🏆 @getmetronome — Infrastruttura di monetizzazione per le moderne aziende software: 🏆 @gofundme Giving Funds — Rendi facile la donazione di fine anno:

cc @komorama