Liitä se ChatGPT:hen vuotamatta asiakkaidesi tietoja
Paina Redact ja katso, kuinka nimet, osoitteet, tili- ja henkilötunnusnumerot muuttuvat mustiksi palkeiksi kuudella kielellä. Pieni malli selaimessasi löytää ne; mikään kirjoittamasi ei poistu tältä sivulta.
Demo vaatii JavaScriptin. Malli on 38 MB:n lataus, kerran; selaimesi säilyttää sen.
Kokeile toista esimerkkiä tai liitä oma tekstisi. Malli lukee englantia, puolaa, saksaa, ranskaa, espanjaa ja liettuaa; kaikki esimerkkien nimet ja numerot ovat keksittyjä.
98 % vs. 95 %60 käsin kirjoitetun viestin henkilötiedoista tunnistettu; 200 kertaa suurempi avoin kielimalli tunnisti 95 %.
Mikään ei poistu selaimestasiTeksti tarkistetaan tällä sivulla. Tiimillesi se toimii omilla palvelimillanne.
18 msViestiä kohden tavallisella CPU:lla. Kielimalli tarvitsi puoli sekuntia viestiä kohden GPU:lla.
Näin se toimii
AineistoEi oikeita henkilötietoja. Paikallinen avoin kielimalli kirjoitti 2 074 sähköpostia, chat-viestiä, puhelumuistiinpanoa, sopimusta ja lomaketta kuudella kielellä, ja tietojen kohdalle jäi aukkoja. Aukot täytetään keksityillä nimillä, osoitteilla ja numeroilla, joiden tarkistusnumerot ovat oikein, kaksitoista kertaa kukin, joten jokaisella sanalla on tarkka nimiö.
MallimmBERT-smallin 22 kerroksesta ensimmäiset 12, hienosäädetty merkitsemään nimien, osoitteiden ja syntymäaikojen sanat: 36 MB painoja ja 1,6 MB:n sanasto. 60 käsin kirjoitettua testiviestiä ovat samalta kirjoittajalta kuin opetustekstien kehotteet, joten 98 % on yläraja.
SäännötKiinteän muodon numerot löydetään säännöillä ja säilytetään vain, kun niiden tarkistusnumerot täsmäävät: IBANit, maksukortit, PESEL sekä Saksan, Ranskan, Espanjan, Liettuan ja Yhdistyneen kuningaskunnan kansalliset henkilötunnukset, sähköpostiosoitteet ja puhelinnumerot. Yksinään ne tunnistavat 39 % tiedoista; malli ja säännöt yhdessä 98 %.
Vertailu kielimalliinQwen 2.5 7B, jota pyydettiin luettelemaan jokainen henkilötieto, tunnisti 95 % ja ohitti lähinnä nimet, joilla viestit allekirjoitetaan, puolessa sekunnissa viestiä kohden GPU:lla. Pilvessä toimivan LLM:n pitäisi ensin saada teksti, ja juuri sen vuodon tämä on tarkoitettu estämään.
Koodi, konfiguraatiot ja koko vertailu: github.com/balticml/pii-redaction. Painot: huggingface.co/balticml/mmbert-small-pii-redaction. Haluatko tämän tiimisi tekoälytyökalujen eteen? Varaa 30 minuutin puhelu