Wklej do ChatGPT bez wycieku danych Twoich klientów
Kliknij „Redact” i zobacz, jak imiona i nazwiska, adresy, numery kont i numery identyfikacyjne zamieniają się w czarne paski, w sześciu językach. Znajduje je mały model w Twojej przeglądarce; nic, co wpiszesz, nie opuszcza tej strony.
Demo wymaga JavaScriptu. Model to 38 MB do pobrania raz; przeglądarka go zachowuje.
Wypróbuj inny przykład albo wklej własny tekst. Model czyta po angielsku, polsku, niemiecku, francusku, hiszpańsku i litewsku; wszystkie imiona, nazwiska i numery w przykładach są zmyślone.
98% vs 95%Danych osobowych wyłapanych w 60 ręcznie napisanych wiadomościach. Otwarty LLM, 200 razy większy: 95%.
Nic nie opuszcza Twojej przeglądarkiTekst jest sprawdzany na tej stronie. W firmie model działa na Waszych serwerach.
18 msNa wiadomość, na zwykłym CPU. LLM potrzebował pół sekundy na wiadomość na GPU.
Jak to działa
DaneŻadnych prawdziwych danych osobowych. Lokalny otwarty LLM napisał 2 074 e-maile, wiadomości z czatu, notatki z rozmów, umowy i formularze w sześciu językach, z lukami w miejscach na dane. Luki wypełniono zmyślonymi imionami, nazwiskami, adresami i numerami z poprawnymi cyframi kontrolnymi, każdy tekst dwanaście razy, więc każde słowo ma dokładną etykietę.
ModelPierwsze 12 z 22 warstw mmBERT-small, dostrojone do oznaczania słów, które są częścią imion i nazwisk, adresów i dat urodzenia: 36 MB wag plus 1,6 MB słownika. 60 ręcznie napisanych wiadomości testowych pochodzi od tego samego autora co prompty do tekstów treningowych, więc 98% to górna granica.
RegułyNumery o stałym formacie znajdują reguły, które zostawiają je tylko wtedy, gdy zgadzają się cyfry kontrolne: IBAN-y, karty płatnicze, PESEL i krajowe numery identyfikacyjne Niemiec, Francji, Hiszpanii, Litwy i Wielkiej Brytanii, adresy e-mail i numery telefonów. Same reguły wychwytują 39% danych; model razem z regułami 98%.
Porównanie z LLMQwen 2.5 7B, poproszony o wypisanie wszystkich danych osobowych, wychwycił 95%. Pomijał głównie imiona i nazwiska, którymi podpisane są wiadomości, i potrzebował pół sekundy na wiadomość na GPU. Hostowany LLM musiałby najpierw dostać tekst, a właśnie temu wyciekowi ma to zapobiec.
Kod, konfiguracje i pełny benchmark: github.com/balticml/pii-redaction. Wagi: huggingface.co/balticml/mmbert-small-pii-redaction. Chcesz postawić taki filtr przed narzędziami AI w swoim zespole? Umów 30-minutową rozmowę