LLM можуть запам'ятовувати та розкривати конфіденційні тренувальні дані, створюючи серйозні ризики для конфіденційності. Відважні дослідники розробили новий метод з відкритим вихідним кодом для виявлення цього запам'ятовування та витоку інформації. 🧵

Витік навчальних даних може загрожувати як окремим особам, так і установам. Уявіть собі лікаря-магістра, навченого клінічним записам, який випадково розкриває конфіденційну інформацію про пацієнта. Або LLM, навчений на документах компанії, який зловмисник обманом змушує відтворити приватне спілкування.