← Demonstracije / 04

Zalijepite to u ChatGPT bez curenja podataka Vaših kupaca

Pritisnite Redact i gledajte kako imena, adrese, brojevi računa i osobnih isprava postaju crne trake, na šest jezika. Pronalazi ih mali model u Vašem pregledniku; ništa što upišete ne napušta ovu stranicu.

Demo zahtijeva JavaScript. Model je preuzimanje od 38 MB, jednom; preglednik ga čuva.

Isprobajte drugi primjer ili zalijepite vlastiti tekst. Model čita engleski, poljski, njemački, francuski, španjolski i litavski; sva imena i brojevi u primjerima su izmišljeni.

98% naspram 95%Osobnih podataka u 60 ručno napisanih poruka otkriveno; otvoreni LLM 200 puta veći otkrio je 95%.
Ništa ne napušta Vaš preglednikTekst se provjerava na ovoj stranici. Za Vaš tim radi na Vašim vlastitim poslužiteljima.
18 msPo poruci na običnom CPU-u. LLM-u je trebalo pola sekunde po poruci na GPU-u.

Kako radi

PodaciNema stvarnih osobnih podataka. Lokalni otvoreni LLM napisao je 2074 e-poruke, poruke iz chata, bilješke s poziva, ugovore i obrasce na šest jezika, s prazninama na mjestu podataka. Praznine se popunjavaju izmišljenim imenima, adresama i brojevima s valjanim kontrolnim znamenkama, svaka dvanaest puta, pa svaka riječ ima točnu oznaku.
ModelPrvih 12 od 22 sloja modela mmBERT-small, dodatno istreniranih za označavanje riječi imena, adresa i datuma rođenja: 36 MB težina i rječnik od 1.6 MB. 60 ručno napisanih testnih poruka potječe od istog autora kao i upute za tekstove za treniranje, pa je 98% gornja granica.
PravilaBrojeve stalnog oblika pronalaze pravila i zadržavaju ih samo kad su im kontrolne znamenke ispravne: IBAN-ovi, platne kartice, PESEL i nacionalni identifikacijski brojevi Njemačke, Francuske, Španjolske, Litve i Ujedinjenog Kraljevstva, adrese e-pošte i telefonski brojevi. Sama otkrivaju 39% podataka; model i pravila zajedno 98%.
U usporedbi s LLM-omQwen 2.5 7B, od kojeg se tražilo da navede svaki osobni podatak, otkrio je 95% i propustio uglavnom imena kojima su poruke potpisane, uz pola sekunde po poruci na GPU-u. Hostirani LLM morao bi najprije primiti tekst, a upravo to curenje ovo treba spriječiti.

Kod, konfiguracije i potpuna usporedba: github.com/balticml/pii-redaction. Težine: huggingface.co/balticml/mmbert-small-pii-redaction. Želite li ovo ispred AI alata svog tima? Rezervirajte 30-minutni poziv