Illessze be a ChatGPT-be anélkül, hogy kiszivárogtatná ügyfelei adatait
Nyomja meg a Redact gombot, és nézze, ahogy a nevek, címek, számla- és igazolványszámok fekete sávokká válnak, hat nyelven. Egy kis modell találja meg őket a böngészőjében; semmi, amit beír, nem hagyja el ezt az oldalt.
A demóhoz JavaScript szükséges. A modell egyszeri, 38 MB-os letöltés; a böngészője megőrzi.
Próbáljon ki egy másik példát, vagy illessze be a saját szövegét. A modell angolul, lengyelül, németül, franciául, spanyolul és litvánul olvas; a példákban minden név és szám kitalált.
98% vs. 95%A 60 kézzel írt üzenet személyes adataiból ennyit talált meg; egy 200-szor nagyobb nyílt LLM 95%-ot.
Semmi sem hagyja el a böngészőjétA szöveget ez az oldal ellenőrzi. Csapatának a saját szerverein fut.
18 msÜzenetenként, egy átlagos CPU-n. Az LLM-nek üzenetenként fél másodperc kellett egy GPU-n.
Hogyan működik
AdatokNincsenek valódi személyes adatok. Egy helyi nyílt LLM 2074 e-mailt, csetüzenetet, hívásjegyzetet, szerződést és űrlapot írt hat nyelven, az adatok helyén hézagokkal. A hézagokat kitalált nevek, címek és érvényes ellenőrző számjegyű számok töltik ki, mindegyiket tizenkétszer, így minden szónak pontos címkéje van.
ModellAz mmBERT-small 22 rétegéből az első 12, finomhangolva nevek, címek és születési dátumok szavainak jelölésére: 36 MB súly és egy 1,6 MB-os szókészlet. A 60 kézzel írt tesztüzenet ugyanattól a szerzőtől származik, mint a tanítószövegek promptjai, így a 98% felső korlát.
SzabályokA rögzített formájú számokat szabályok találják meg, és csak akkor maradnak meg, ha az ellenőrző számjegyeik stimmelnek: IBAN-ok, bankkártyák, PESEL, valamint Németország, Franciaország, Spanyolország, Litvánia és az Egyesült Királyság nemzeti azonosítószámai, e-mail-címek és telefonszámok. Önmagukban az adatok 39%-át találják meg; a modell és a szabályok együtt 98%-ot.
Összevetés egy LLM-melA Qwen 2.5 7B, amelyet arra kértek, hogy sorolja fel az összes személyes adatot, 95%-ot talált meg, és főleg azokat a neveket hagyta ki, amelyekkel az üzeneteket aláírják, üzenetenként fél másodperc alatt egy GPU-n. Egy felhőben futó LLM-nek először meg kellene kapnia a szöveget, és éppen ezt a szivárgást hivatott ez megakadályozni.
Kód, konfigurációk és a teljes benchmark: github.com/balticml/pii-redaction. Súlyok: huggingface.co/balticml/mmbert-small-pii-redaction. Szeretné ezt csapata MI-eszközei elé tenni? Foglaljon 30 perces hívást