LLM は機密性の高いトレーニング データを記憶して漏洩する可能性があり、重大なプライバシー リスクをもたらします。 勇敢な研究者は、この暗記と情報漏洩を検出するための新しいオープンソースの方法を開発しました。🧵

トレーニング データの漏洩は、個人と機関の両方を脅かす可能性があります。 臨床メモでトレーニングされた医療LLMが、患者の機密情報を誤って漏らしてしまったと想像してみてください。 あるいは、攻撃者にだまされてプライベートな通信を複製するようになった会社の文書についてトレーニングされたLLMもあります。