Mengapa mengamankan AI lebih sulit dari yang diharapkan siapa pun dan krisis keamanan AI yang semakin dekat dengan @SanderSchulhoff Sander adalah peneliti terkemuka di bidang ketahanan musuh, yang merupakan seni dan ilmu untuk membuat sistem AI melakukan hal-hal yang tidak seharusnya mereka lakukan, melalui jail-breaking dan injeksi cepat. Apa yang dibagikan Sander dalam percakapan ini pada dasarnya adalah bahwa semua sistem AI yang kita gunakan sehari-hari terbuka untuk ditipu untuk melakukan hal-hal yang tidak seharusnya, bahwa tidak ada solusi untuk masalah ini, dan bahwa perusahaan yang mencoba menjual solusi untuk ini sebagian besar adalah BS. Percakapan ini tidak ada hubungannya dengan AGI, ini adalah masalah hari ini. Dan satu-satunya alasan kami belum melihat peretasan besar-besaran dan kerusakan serius dari alat AI sejauh ini karena mereka belum diberi banyak kekuatan, dan mereka belum diadopsi secara luas. Tetapi dengan munculnya agen (yang dapat mengambil tindakan atas nama Anda), dan robot, dan bahkan browser bertenaga AI, risikonya akan meningkat dengan sangat cepat. Ini adalah topik yang sangat penting dan itu membuka pikiran saya, dan membuat saya takut, dan itu adalah sesuatu yang perlu kita semua miliki pemahaman dasar karena AI menjadi lebih lazim dalam hidup kita. Di dalam: 🔸 Primer tentang jailbreaking dan serangan injeksi cepat 🔸 Mengapa pagar pembatas AI tidak berfungsi 🔸 Mengapa kita belum melihat insiden keamanan AI besar (tetapi akan segera terjadi) 🔸 Mengapa agen browser AI sangat rentan 🔸 Langkah-langkah praktis yang harus diambil organisasi alih-alih membeli alat keamanan yang tidak efektif 🔸 Mengapa memecahkan ini membutuhkan penggabungan keahlian keamanan siber klasik dengan pengetahuan AI Dengarkan sekarang 👇 • YouTube: • Spotify: • Apel: Terima kasih kepada sponsor kami yang luar biasa karena telah mendukung podcast ini: 🏆 @datadoghq — Sekarang rumah bagi Eppo, platform eksperimen dan penandaan fitur terkemuka: 🏆 @getmetronome — Infrastruktur monetisasi untuk perusahaan perangkat lunak modern: 🏆 @gofundme Memberikan Dana — Jadikan pemberian akhir tahun mudah:

CC @komorama