Os LLMs podem memorizar e vazar dados confidenciais de treinamento, apresentando sérios riscos à privacidade. Pesquisadores corajosos desenvolveram um novo método de código aberto para detectar essa memorização e vazamento de informações. 🧵

Vazamentos de dados de treinamento podem ameaçar indivíduos e instituições. Imagine um LLM médico treinado em anotações clínicas revelando acidentalmente informações confidenciais do paciente. Ou um LLM treinado em documentos da empresa sendo enganado por um invasor para reproduzir comunicações privadas.