Vložte to do ChatGPT, aniž byste vyzradili data svých zákazníků
Stiskněte Redact a sledujte, jak se jména, adresy, čísla účtů a dokladů mění v černé pruhy, v šesti jazycích. Najde je malý model ve vašem prohlížeči; nic, co napíšete, neopustí tuto stránku.
Ukázka vyžaduje JavaScript. Model má 38 MB ke stažení, jednou; prohlížeč si ho ponechá.
Zkuste jiný příklad nebo vložte vlastní text. Model čte angličtinu, polštinu, němčinu, francouzštinu, španělštinu a litevštinu; všechna jména a čísla v příkladech jsou smyšlená.
98% vs. 95%Osobních údajů v 60 ručně napsaných zprávách zachyceno; otevřený LLM 200krát větší zachytil 95%.
Nic neopustí váš prohlížečText se kontroluje na této stránce. Pro váš tým běží na vašich vlastních serverech.
18 msNa zprávu na běžném CPU. LLM potřeboval půl sekundy na zprávu na GPU.
Jak to funguje
DataŽádná skutečná osobní data. Lokální otevřený LLM napsal 2 074 e-mailů, chatových zpráv, poznámek z hovorů, smluv a formulářů v šesti jazycích, s mezerami tam, kam patří údaje. Mezery se vyplní smyšlenými jmény, adresami a čísly s platnými kontrolními číslicemi, každá dvanáctkrát, takže každé slovo má přesný štítek.
ModelPrvních 12 z 22 vrstev mmBERT-small, doladěných k označení slov jmen, adres a dat narození: 36 MB vah plus slovník o velikosti 1.6 MB. 60 ručně napsaných testovacích zpráv pochází od stejného autora jako prompty pro trénovací texty, takže 98% je horní hranice.
PravidlaČísla s pevným tvarem najdou pravidla a ponechají je, jen když sedí jejich kontrolní číslice: IBAN, platební karty, PESEL a národní čísla dokladů Německa, Francie, Španělska, Litvy a Spojeného království, e-mailové adresy a telefonní čísla. Samotná zachytí 39% údajů; model a pravidla společně 98%.
Srovnání s LLMQwen 2.5 7B, požádaný o výpis všech osobních údajů, zachytil 95% a vynechával hlavně jména, kterými jsou zprávy podepsány, při půl sekundě na zprávu na GPU. Hostovaný LLM by musel text nejdřív dostat, a to je přesně únik, kterému to má zabránit.
Kód, konfigurace a celý benchmark: github.com/balticml/pii-redaction. Váhy: huggingface.co/balticml/mmbert-small-pii-redaction. Chcete to před nástroji AI svého týmu? Domluvte si 30minutový hovor