Lipiți în ChatGPT fără să scurgeți datele clienților dumneavoastră
Apăsați „Redact” și urmăriți cum nume, adrese, numere de cont și de identificare devin bare negre, în șase limbi. Le găsește un model mic din browserul dumneavoastră; nimic din ce scrieți nu părăsește această pagină.
Demo-ul necesită JavaScript. Modelul se descarcă o singură dată, 38 MB; browserul dumneavoastră îl păstrează.
Încercați alt exemplu sau lipiți propriul text. Modelul citește engleză, poloneză, germană, franceză, spaniolă și lituaniană; toate numele și numerele din exemple sunt inventate.
98% vs 95%Din datele personale din 60 de mesaje scrise de mână, cele găsite; un LLM deschis de 200 de ori mai mare a găsit 95%.
Nimic nu părăsește browserul dumneavoastrăTextul este verificat pe această pagină. Pentru echipa dumneavoastră rulează pe propriile servere.
18 msPer mesaj, pe un CPU obișnuit. LLM-ul a avut nevoie de o jumătate de secundă per mesaj pe un GPU.
Cum funcționează
DateNicio dată personală reală. Un LLM deschis local a scris 2.074 de e-mailuri, mesaje de chat, notițe de apel, contracte și formulare în șase limbi, cu goluri acolo unde stau datele. Golurile sunt completate cu nume, adrese și numere inventate, cu cifre de control valide, fiecare text de douăsprezece ori, astfel încât fiecare cuvânt are o etichetă exactă.
ModelPrimele 12 din cele 22 de straturi ale mmBERT-small, ajustate să marcheze cuvintele din nume, adrese și date de naștere: 36 MB de ponderi plus un vocabular de 1.6 MB. Cele 60 de mesaje de test scrise de mână provin de la același autor ca prompturile pentru textele de antrenare, deci 98% este o limită superioară.
ReguliNumerele cu formă fixă sunt găsite de reguli și păstrate doar când cifrele de control se verifică: IBAN-uri, carduri de plată, PESEL și numerele naționale de identificare din Germania, Franța, Spania, Lituania și Regatul Unit, adrese de e-mail și numere de telefon. Singure găsesc 39% din date; modelul și regulile împreună, 98%.
Comparat cu un LLMQwen 2.5 7B, rugat să enumere fiecare dată personală, a găsit 95% și a ratat mai ales numele cu care sunt semnate mesajele, cu o jumătate de secundă per mesaj pe un GPU. Un LLM găzduit ar trebui mai întâi să primească textul, iar aceasta este exact scurgerea pe care o oprește această soluție.
Cod, configurații și benchmarkul complet: github.com/balticml/pii-redaction. Ponderi: huggingface.co/balticml/mmbert-small-pii-redaction. Vreți asta în fața instrumentelor IA ale echipei dumneavoastră? Programați un apel de 30 min