Prilepite v ChatGPT, ne da bi razkrili podatke svojih strank
Pritisnite »Redact« in glejte, kako se imena, naslovi, številke računov in osebne številke spremenijo v črne pasove, v šestih jezikih. Najde jih majhen model v Vašem brskalniku; nič, kar vpišete, ne zapusti te strani.
Predstavitev potrebuje JavaScript. Model je 38 MB za enkraten prenos; brskalnik ga obdrži.
Poskusite drug primer ali prilepite svoje besedilo. Model bere angleško, poljsko, nemško, francosko, špansko in litovsko; vsa imena in številke v primerih so izmišljeni.
98% vs 95%Od osebnih podatkov v 60 ročno napisanih sporočilih najdenih; odprt LLM, 200-krat večji, jih je našel 95%.
Nič ne zapusti Vašega brskalnikaBesedilo se preveri na tej strani. Za Vašo ekipo teče na Vaših lastnih strežnikih.
18 msNa sporočilo na običajnem CPU. LLM je potreboval pol sekunde na sporočilo na GPU.
Kako deluje
PodatkiBrez resničnih osebnih podatkov. Lokalni odprt LLM je napisal 2 074 e-poštnih sporočil, sporočil klepeta, zapiskov klicev, pogodb in obrazcev v šestih jezikih, s praznimi mesti za podatke. Prazna mesta so zapolnjena z izmišljenimi imeni, naslovi in številkami z veljavnimi kontrolnimi števkami, vsako besedilo dvanajstkrat, zato ima vsaka beseda natančno oznako.
ModelPrvih 12 od 22 plasti mmBERT-small, prilagojenih za označevanje besed imen, naslovov in datumov rojstva: 36 MB uteži in 1,6 MB besedišča. 60 ročno napisanih testnih sporočil je napisal isti avtor kot pozive za učna besedila, zato je 98% zgornja meja.
PravilaŠtevilke s stalno obliko najdejo pravila in jih obdržijo le, če se kontrolne števke ujemajo: IBAN, plačilne kartice, PESEL in nacionalne osebne številke Nemčije, Francije, Španije, Litve in Združenega kraljestva, e-poštni naslovi in telefonske številke. Sama najdejo 39% podatkov; model in pravila skupaj 98%.
V primerjavi z LLMQwen 2.5 7B, ki je moral našteti vse osebne podatke, jih je našel 95% in je izpuščal predvsem imena, s katerimi so sporočila podpisana, pri pol sekunde na sporočilo na GPU. Gostovani LLM bi moral besedilo najprej prejeti, in prav to uhajanje naj bi to preprečilo.
Koda, konfiguracije in celotna primerjava: github.com/balticml/pii-redaction. Uteži: huggingface.co/balticml/mmbert-small-pii-redaction. Želite to pred orodji AI svoje ekipe? Rezervirajte 30-minutni klic