Indsæt det i ChatGPT uden at lække dine kunders data
Tryk på Redact og se navne, adresser, konto- og ID-numre blive til sorte bjælker, på seks sprog. En lille model i din browser finder dem; intet, du skriver, forlader denne side.
Demoen kræver JavaScript. Modellen er en download på 38 MB, én gang; din browser gemmer den.
Prøv et andet eksempel, eller indsæt din egen tekst. Modellen læser engelsk, polsk, tysk, fransk, spansk og litauisk; alle navne og numre i eksemplerne er opdigtede.
98 % mod 95 %Af personoplysningerne i 60 håndskrevne beskeder fanget; en åben sprogmodel, der er 200 gange større, fangede 95 %.
Intet forlader din browserTeksten tjekkes på denne side. For dit team kører det på jeres egne servere.
18 msPr. besked på en almindelig CPU. Sprogmodellen skulle bruge et halvt sekund pr. besked på en GPU.
Sådan virker det
DataIngen rigtige personoplysninger. En lokal åben sprogmodel skrev 2.074 e-mails, chatbeskeder, opkaldsnoter, kontrakter og formularer på seks sprog, med huller, hvor oplysningerne skal stå. Hullerne udfyldes med opdigtede navne, adresser og numre med gyldige kontrolcifre, tolv gange hver, så hvert ord har en præcis etiket.
ModelDe første 12 af mmBERT-smalls 22 lag, finjusteret til at markere ordene i navne, adresser og fødselsdatoer: 36 MB vægte plus et ordforråd på 1.6 MB. De 60 håndskrevne testbeskeder er fra samme forfatter som promptene til træningsteksterne, så 98 % er en øvre grænse.
ReglerNumre med en fast form findes med regler og beholdes kun, når deres kontrolcifre stemmer: IBAN, betalingskort, PESEL og de nationale ID-numre i Tyskland, Frankrig, Spanien, Litauen og Storbritannien, e-mailadresser og telefonnumre. Alene fanger de 39 % af oplysningerne; model og regler sammen 98 %.
Sammenlignet med en LLMQwen 2.5 7B, bedt om at liste alle personoplysninger, fangede 95 % og missede mest de navne, beskeder er underskrevet med, ved et halvt sekund pr. besked på en GPU. En hostet LLM skulle først modtage teksten, og det er netop det læk, dette skal forhindre.
Kode, konfigurationer og hele sammenligningen: github.com/balticml/pii-redaction. Vægte: huggingface.co/balticml/mmbert-small-pii-redaction. Vil du have det foran dit teams AI-værktøjer? Book et opkald på 30 min