Por qué proteger la IA es más difícil de lo que nadie esperaba y la crisis de seguridad de la IA que se avecina con @SanderSchulhoff Sander es un investigador líder en el campo de la robustez adversarial, que es el arte y la ciencia de lograr que los sistemas de IA hagan cosas que no deberían hacer, mediante la fuga de la cárcel y la inyección rápida. Lo que Sander comparte en esta conversación es esencialmente que todos los sistemas de IA que usamos a diario están expuestos a ser engañados para hacer cosas que no deberían, que realmente no hay una solución para este problema y que las empresas que intentan vender soluciones para esto son en su mayoría una tontería. Esta conversación no tiene nada que ver con la AGI, es un problema hoy. Y que la única razón por la que no hemos visto hackeos masivos y daños serios por parte de herramientas de IA es porque aún no se les ha dado tanto poder, y aún no están tan ampliamente adoptadas. Pero con el auge de agentes (que pueden actuar en tu nombre), robots e incluso navegadores impulsados por IA, el riesgo va a aumentar muy rápido. Este es un tema realmente importante y eso me abrió la mente, me asustó, y es algo que todos necesitamos entender de forma básica a medida que la IA se vuelve más presente en nuestras vidas. Interior: 🔸 Introducción a ataques de jailbreak y inyección inmediata 🔸 Por qué las barreras de seguridad de la IA no funcionan 🔸 Por qué aún no hemos visto incidentes importantes de seguridad de IA (pero pronto los veremos) 🔸 Por qué los agentes de navegador con IA son extremadamente vulnerables 🔸 Las medidas prácticas que las organizaciones deberían tomar en lugar de comprar herramientas de seguridad ineficaces 🔸 Por qué resolver esto requiere fusionar la experiencia clásica en ciberseguridad con el conocimiento de IA Escucha ahora 👇 • YouTube: • Spotify: •Manzana: Gracias a nuestros maravillosos patrocinadores por apoyar el podcast: 🏆 @datadoghq — Ahora sede de Eppo, la principal plataforma de experimentación y señalamiento de características: 🏆 @getmetronome — Infraestructura de monetización para empresas de software modernas: 🏆 @gofundme Donar Fondos — Haz que las donaciones de fin de año sean fáciles:

CC @komorama