LLM:t voivat muistaa ja vuotaa arkaluonteisia koulutustietoja, mikä aiheuttaa vakavia tietosuojariskejä. Rohkeat tutkijat ovat kehittäneet uuden avoimen lähdekoodin menetelmän tämän muistamisen ja tietovuodon havaitsemiseksi. 🧵

Koulutustietojen vuodot voivat uhata sekä yksilöitä että instituutioita. Kuvittele, että lääketieteellinen LLM, joka on koulutettu kliinisiin muistiinpanoihin, paljastaa vahingossa arkaluonteisia potilastietoja. Tai LLM, joka on koulutettu yrityksen asiakirjoihin, kun hyökkääjä huijaa jäljentämään yksityistä viestintää.