Neden yapay zekayı güvence altına almak beklenenden daha zor ve yaklaşan yapay zeka güvenlik krizi @SanderSchulhoff Sander, yapay zeka sistemlerinin yapmaması gereken şeyleri yapmalarını sağlamanın sanatı ve bilimi, yani ceza kırma ve anında enjeksiyon yoluyla rekabet sağlamlığı alanında önde gelen bir araştırmacıdır. Sander'ın bu sohbette paylaştığı esasen, günlük kullandığımız tüm yapay zeka sistemlerinin yapmaması gereken şeyleri yapmaya açık olduğu, bu soruna gerçek bir çözüm olmadığı ve bu konuda çözüm satmaya çalışan şirketlerin çoğunlukla saçmalık olduğudur. Bu konuşmanın AGI ile ilgisi yok, bugün bir sorun var. Ve şimdiye kadar büyük hackler ve ciddi hasar görmememizin tek nedeni, henüz çok fazla güç almamış olmaları ve henüz çok yaygın olarak benimsenmemiş olmaları. Ancak ajanların (sizin adınıza harekete geçebilenler), robotların ve hatta yapay zeka destekli tarayıcıların yükselişiyle risk çok hızlı artacak. Bu gerçekten önemli bir konu, zihnimi açtı, korkuttu; yapay zeka hayatımızda daha yaygın hale geldikçe hepimizin temel bir anlayışa sahip olması gerekiyor. İçeri: 🔸 Jailbreak ve hızlı enjeksiyon saldırıları hakkında bir rehber 🔸 Neden yapay zeka korumaları çalışmıyor 🔸 Neden henüz büyük yapay zeka güvenlik olayları görmedik (ama yakında göreceğiz) 🔸 Neden yapay zeka tarayıcı ajanları son derece savunmasız 🔸 Kuruluşların etkisiz güvenlik araçları satın almak yerine atması gereken pratik adımlar 🔸 Bunu çözmenin klasik siber güvenlik uzmanlığını yapay zeka bilgisiyle birleştirmesi neden gerekiyor? Şimdi 👇 dinle • YouTube: • Spotify: • Apple: Podcast'i destekledikleri için harika sponsorlarımıza teşekkürler: 🏆 @datadoghq — Şimdi önde gelen deney ve özellik işaretleme platformu Eppo'ya ev sahipliği yapıyor: 🏆 @getmetronome — Modern yazılım şirketleri için para kazanma altyapısı: 🏆 @gofundme Bağış — Yıl sonu bağışlamayı kolaylaştırın:

CC @komorama