Warum die Sicherung von AI schwieriger ist als erwartet und die bevorstehende AI-Sicherheitskrise mit @SanderSchulhoff Sander ist ein führender Forscher im Bereich der adversarialen Robustheit, was die Kunst und Wissenschaft ist, AI-Systeme dazu zu bringen, Dinge zu tun, die sie nicht tun sollten, durch Jailbreaking und Prompt-Injection. Was Sander in diesem Gespräch teilt, ist im Wesentlichen, dass alle AI-Systeme, die wir im Alltag nutzen, anfällig dafür sind, hereingelegt zu werden, Dinge zu tun, die sie nicht tun sollten, dass es wirklich keine Lösung für dieses Problem gibt und dass die Unternehmen, die versuchen, Lösungen dafür zu verkaufen, größtenteils BS sind. Dieses Gespräch hat nichts mit AGI zu tun, es ist ein Problem von heute. Und der einzige Grund, warum wir bisher keine massiven Hacks und ernsthaften Schäden durch AI-Tools gesehen haben, ist, dass sie bisher nicht so viel Macht erhalten haben und noch nicht so weit verbreitet sind. Aber mit dem Aufkommen von Agenten (die in Ihrem Namen handeln können), Robotern und sogar AI-gesteuerten Browsern wird das Risiko sehr schnell steigen. Dies ist ein wirklich wichtiges Thema, das meinen Geist geöffnet hat und mir Angst gemacht hat, und es ist etwas, das wir alle grundlegend verstehen müssen, während AI in unserem Leben immer präsenter wird. Inhalt: 🔸 Eine Einführung in Jailbreaking und Prompt-Injection-Angriffe 🔸 Warum AI-Schutzmaßnahmen nicht funktionieren 🔸 Warum wir bisher keine größeren AI-Sicherheitsvorfälle gesehen haben (aber bald sehen werden) 🔸 Warum AI-Browseragenten extrem anfällig sind 🔸 Die praktischen Schritte, die Organisationen unternehmen sollten, anstatt ineffektive Sicherheitswerkzeuge zu kaufen 🔸 Warum die Lösung dieses Problems die Verschmelzung klassischer Cybersecurity-Expertise mit AI-Wissen erfordert Jetzt anhören 👇 • YouTube: • Spotify: • Apple: Danke an unsere wunderbaren Sponsoren, die den Podcast unterstützen: 🏆 @datadoghq — Jetzt Heimat von Eppo, der führenden Plattform für Experimente und Feature-Flagging: 🏆 @getmetronome — Monetarisierungsinfrastruktur für moderne Softwareunternehmen: 🏆 @gofundme Giving Funds — Machen Sie das Geben zum Jahresende einfach:

cc @komorama