Tại sao việc bảo mật AI khó hơn bất kỳ ai mong đợi và cuộc khủng hoảng bảo mật AI đang đến gần với @SanderSchulhoff Sander là một nhà nghiên cứu hàng đầu trong lĩnh vực độ bền chống lại các cuộc tấn công, đó là nghệ thuật và khoa học để khiến các hệ thống AI làm những điều mà chúng không nên làm, thông qua việc jailbreak và tiêm lệnh. Những gì Sander chia sẻ trong cuộc trò chuyện này về cơ bản là tất cả các hệ thống AI mà chúng ta sử dụng hàng ngày đều có thể bị lừa để làm những điều mà chúng không nên làm, rằng thực sự không có giải pháp nào cho vấn đề này, và rằng các công ty cố gắng bán giải pháp cho vấn đề này chủ yếu là lừa đảo. Cuộc trò chuyện này không liên quan gì đến AGI, đây là một vấn đề hiện tại. Và lý do duy nhất mà chúng ta chưa thấy những cuộc tấn công lớn và thiệt hại nghiêm trọng từ các công cụ AI cho đến nay là vì chúng chưa được trao nhiều quyền lực đến vậy, và chúng chưa được áp dụng rộng rãi. Nhưng với sự gia tăng của các tác nhân (có thể thực hiện hành động thay mặt bạn), và robot, và thậm chí là các trình duyệt được hỗ trợ bởi AI, rủi ro sẽ tăng lên rất nhanh. Đây là một chủ đề rất quan trọng và đã mở mang đầu óc tôi, và làm tôi sợ hãi, và đó là điều mà tất cả chúng ta cần có một hiểu biết cơ bản khi AI trở nên phổ biến hơn trong cuộc sống của chúng ta. Bên trong: 🔸 Một hướng dẫn về các cuộc tấn công jailbreak và tiêm lệnh 🔸 Tại sao các rào cản bảo vệ AI không hiệu quả 🔸 Tại sao chúng ta chưa thấy các sự cố bảo mật AI lớn (nhưng sẽ sớm thấy) 🔸 Tại sao các tác nhân trình duyệt AI cực kỳ dễ bị tổn thương 🔸 Các bước thực tiễn mà các tổ chức nên thực hiện thay vì mua các công cụ bảo mật không hiệu quả 🔸 Tại sao việc giải quyết vấn đề này cần phải kết hợp chuyên môn bảo mật truyền thống với kiến thức về AI Nghe ngay 👇 • YouTube: • Spotify: • Apple: Cảm ơn các nhà tài trợ tuyệt vời của chúng tôi đã hỗ trợ podcast: 🏆 @datadoghq — Giờ đây là nhà của Eppo, nền tảng thử nghiệm và đánh dấu tính năng hàng đầu: 🏆 @getmetronome — Hạ tầng kiếm tiền cho các công ty phần mềm hiện đại: 🏆 @gofundme Giving Funds — Làm cho việc quyên góp cuối năm trở nên dễ dàng:

cc @komorama