Įklijuokite į ChatGPT neatskleisdami savo klientų duomenų
Paspauskite „Redact“ ir stebėkite, kaip vardai, adresai, sąskaitų ir asmens kodų numeriai virsta juodomis juostomis, šešiomis kalbomis. Juos randa mažas modelis Jūsų naršyklėje; niekas, ką įvedate, nepalieka šio puslapio.
Demonstracijai reikia JavaScript. Modelis atsisiunčiamas vieną kartą, 38 MB; Jūsų naršyklė jį išsaugo.
Išbandykite kitą pavyzdį arba įklijuokite savo tekstą. Modelis skaito anglų, lenkų, vokiečių, prancūzų, ispanų ir lietuvių kalbomis; visi vardai ir numeriai pavyzdžiuose yra išgalvoti.
98% vs 95%Tiek asmens duomenų rasta 60 ranka parašytų žinučių; 200 kartų didesnis atviras LLM rado 95%.
Niekas nepalieka Jūsų naršyklėsTekstas tikrinamas šiame puslapyje. Jūsų komandai jis veikia Jūsų pačių serveriuose.
18 msVienai žinutei įprastame CPU. LLM reikėjo pusės sekundės vienai žinutei GPU.
Kaip tai veikia
DuomenysJokių tikrų asmens duomenų. Vietinis atviras LLM parašė 2 074 el. laiškus, pokalbių žinutes, skambučių užrašus, sutartis ir formas šešiomis kalbomis, palikdamas tarpus duomenims. Tarpai užpildyti išgalvotais vardais, adresais ir numeriais su galiojančiais kontroliniais skaitmenimis, kiekvienas tekstas dvylika kartų, todėl kiekvienas žodis turi tikslią žymą.
ModelisPirmieji 12 iš 22 mmBERT-small sluoksnių, pritaikyti žymėti vardų, adresų ir gimimo datų žodžius: 36 MB svorių ir 1,6 MB žodynas. 60 ranka parašytų testo žinučių parašė tas pats autorius, kuris rašė mokymo tekstų užklausas, todėl 98% yra viršutinė riba.
TaisyklėsFiksuoto formato numerius randa taisyklės ir palieka tik tada, kai sutampa kontroliniai skaitmenys: IBAN, mokėjimo korteles, PESEL ir Vokietijos, Prancūzijos, Ispanijos, Lietuvos bei JK asmens kodus, el. pašto adresus ir telefono numerius. Vienos taisyklės randa 39% duomenų; modelis ir taisyklės kartu – 98%.
Palyginimas su LLMQwen 2.5 7B, paprašytas išvardyti visus asmens duomenis, rado 95% ir dažniausiai praleido vardus, kuriais pasirašytos žinutės; vienai žinutei GPU jam reikėjo pusės sekundės. Talpinamas LLM pirmiausia turėtų gauti tekstą, o būtent šį nutekėjimą tai ir turi sustabdyti.
Kodas, konfigūracijos ir visas palyginimas: github.com/balticml/pii-redaction. Svoriai: huggingface.co/balticml/mmbert-small-pii-redaction. Norite to prieš savo komandos DI įrankius? Užsisakyti 30 min. pokalbį