Vložte to do ChatGPT bez úniku údajov vašich zákazníkov
Stlačte „Redact“ a sledujte, ako sa mená, adresy, čísla účtov a identifikačné čísla menia na čierne pruhy, v šiestich jazykoch. Nájde ich malý model vo vašom prehliadači; nič, čo napíšete, neopustí túto stránku.
Ukážka vyžaduje JavaScript. Model má 38 MB na stiahnutie, raz; prehliadač si ho ponechá.
Skúste iný príklad alebo vložte vlastný text. Model číta po anglicky, poľsky, nemecky, francúzsky, španielsky a litovsky; všetky mená a čísla v príkladoch sú vymyslené.
98% vs 95%Z osobných údajov v 60 ručne napísaných správach zachytených; otvorený LLM 200-krát väčší zachytil 95%.
Nič neopustí váš prehliadačText sa kontroluje na tejto stránke. Pre váš tím beží na vašich vlastných serveroch.
18 msNa správu na bežnom CPU. LLM potreboval pol sekundy na správu na GPU.
Ako to funguje
ÚdajeŽiadne skutočné osobné údaje. Lokálny otvorený LLM napísal 2 074 e-mailov, správ z chatu, poznámok z hovorov, zmlúv a formulárov v šiestich jazykoch, s medzerami tam, kam patria údaje. Medzery sú vyplnené vymyslenými menami, adresami a číslami s platnými kontrolnými číslicami, každý text dvanásťkrát, takže každé slovo má presný štítok.
ModelPrvých 12 z 22 vrstiev mmBERT-small, doladených na označovanie slov mien, adries a dátumov narodenia: 36 MB váh plus slovník s 1.6 MB. 60 ručne napísaných testovacích správ pochádza od toho istého autora ako prompty pre trénovacie texty, takže 98% je horná hranica.
PravidláČísla s pevným tvarom nachádzajú pravidlá a ponechajú ich, len ak sedia kontrolné číslice: IBAN, platobné karty, PESEL a národné identifikačné čísla Nemecka, Francúzska, Španielska, Litvy a Spojeného kráľovstva, e-mailové adresy a telefónne čísla. Samotné zachytia 39% údajov; model a pravidlá spolu 98%.
V porovnaní s LLMQwen 2.5 7B, požiadaný o vypísanie všetkých osobných údajov, zachytil 95% a vynechával najmä mená, ktorými sú správy podpísané, pri pol sekunde na správu na GPU. Hostovaný LLM by musel text najprv dostať, a práve tomuto úniku to má zabrániť.
Kód, konfigurácie a celý benchmark: github.com/balticml/pii-redaction. Váhy: huggingface.co/balticml/mmbert-small-pii-redaction. Chcete to pred nástrojmi AI svojho tímu? Dohodnite si 30-minútový hovor