AIエージェントが攻撃を受けています! エージェント・アンリーシュドのエピソード23では、@thomasmaybrierが以下を調査します。 • エージェントシステムに対する #1 の脅威としてのプロンプトインジェクション • 現実世界の LLM エクスプロイト • @CrowdStrikeによるレッドチームエージェント • Olas エージェントが検証、インセンティブ、信頼をどのように扱うか 00:00 – エージェント・アンリーシュドへようこそ 00:50 – Black Hat での実際のプロンプト インジェクション 03:21 – @NVIDIAGTCデモ: マルチエージェントのレッドチーム 04:07 - プロンプト・インジェクションがシステム上の脅威である理由 04:56 - 侵害されたエージェントのリスク 05:16 - AIエージェントを信頼できるものにするには? 06:19 - Olas のリスク管理方法 このエピソードは@autonolasが後援しています