Plak het in ChatGPT zonder de gegevens van je klanten te lekken
Klik op ‘Redact’ en zie namen, adressen, rekening- en identiteitsnummers veranderen in zwarte balken, in zes talen. Een klein model in je browser vindt ze; niets wat je typt verlaat deze pagina.
De demo heeft JavaScript nodig. Het model is een eenmalige download van 38 MB; je browser bewaart het.
Probeer een ander voorbeeld of plak je eigen tekst. Het model leest Engels, Pools, Duits, Frans, Spaans en Litouws; elke naam en elk nummer in de voorbeelden is verzonnen.
98% vs 95%Van de persoonsgegevens in 60 handgeschreven berichten gevonden; een open LLM dat 200× groter is vond 95%.
Niets verlaat je browserDe tekst wordt op deze pagina gecontroleerd. Voor je team draait het op je eigen servers.
18 msPer bericht op een gewone CPU. Het LLM had een halve seconde per bericht nodig op een GPU.
Hoe het werkt
DataGeen echte persoonsgegevens. Een lokaal open LLM schreef 2.074 e-mails, chatberichten, gespreksnotities, contracten en formulieren in zes talen, met open plekken waar de gegevens horen. Die plekken zijn gevuld met verzonnen namen, adressen en nummers met geldige controlecijfers, elke tekst twaalf keer, zodat elk woord een exact label heeft.
ModelDe eerste 12 van de 22 lagen van mmBERT-small, gefinetuned om de woorden van namen, adressen en geboortedata te markeren: 36 MB gewichten plus een woordenlijst van 1.6 MB. De 60 handgeschreven testberichten komen van dezelfde auteur als de prompts voor de trainingsteksten, dus 98% is een bovengrens.
RegelsNummers met een vaste vorm worden door regels gevonden en alleen behouden als de controlecijfers kloppen: IBAN's, betaalkaarten, PESEL en de nationale identiteitsnummers van Duitsland, Frankrijk, Spanje, Litouwen en het VK, e-mailadressen en telefoonnummers. Alleen vinden ze 39% van de gegevens; model en regels samen 98%.
Vergeleken met een LLMQwen 2.5 7B, gevraagd om elk persoonsgegeven op te sommen, vond 95% en miste vooral de namen waarmee berichten ondertekend zijn, met een halve seconde per bericht op een GPU. Een gehost LLM zou de tekst eerst moeten ontvangen, en dat is precies het lek dat dit moet voorkomen.
Code, configuraties en de volledige benchmark: github.com/balticml/pii-redaction. Gewichten: huggingface.co/balticml/mmbert-small-pii-redaction. Wil je dit vóór de AI-tools van je team? Plan een gesprek van 30 min