Les LLMs peuvent mémoriser et divulguer des données d'entraînement sensibles, posant de sérieux risques pour la vie privée. Des chercheurs courageux ont développé une nouvelle méthode open-source pour détecter cette mémorisation et cette fuite d'informations. 🧵

Les fuites de données d'entraînement peuvent menacer à la fois les individus et les institutions. Imaginez un LLM médical formé sur des notes cliniques révélant accidentellement des informations sensibles sur des patients. Ou un LLM formé sur des documents d'entreprise étant trompé par un attaquant pour reproduire des communications privées.