LLM-urile pot memora și scurge date sensibile de antrenament, prezentând riscuri serioase de confidențialitate. Cercetătorii curajoși au dezvoltat o nouă metodă open-source pentru a detecta această memorare și scurgerea de informații. 🧵

Scurgerile de date de antrenament pot amenința atât indivizii, cât și instituțiile. Imaginați-vă un LLM medical instruit pe note clinice care dezvăluie accidental informații sensibile despre pacient. Sau un LLM instruit pe documente ale companiei păcălite de un atacator să reproducă comunicații private.