Ótimo tópico. O que quer que um agente de IA seja capaz de fazer, ele também pode ser enganado a fazer. Você deve presumir que, se um agente pode acessar dados, um usuário também pode obter esses dados. A segurança do agente, os controles de acesso e as proteções determinísticas serão essenciais.
mbg
mbg8 de ago. de 2025
Sequestramos os agentes do Copilot Studio da Microsoft e fizemos com que eles revelassem seu conhecimento privado, revelassem suas ferramentas e nos deixassem usá-los para despejar registros completos de CRM estes são agentes autônomos.. nenhum humano no circuito #DEFCON #BHUSA @tamirishaysh
90,9K