In ChatGPT einfügen, ohne die Daten Ihrer Kunden preiszugeben

Klicken Sie auf Redact und sehen Sie, wie Namen, Adressen, Konto- und Ausweisnummern in sechs Sprachen zu schwarzen Balken werden. Ein kleines Modell in Ihrem Browser findet sie; nichts, was Sie eingeben, verlässt diese Seite.

Die Demo benötigt JavaScript. Das Modell ist ein einmaliger Download von 38 MB; Ihr Browser behält es.

Probieren Sie ein anderes Beispiel oder fügen Sie Ihren eigenen Text ein. Das Modell liest Englisch, Polnisch, Deutsch, Französisch, Spanisch und Litauisch; alle Namen und Nummern in den Beispielen sind erfunden.

98 % vs. 95 %Der persönlichen Angaben in 60 handgeschriebenen Nachrichten erkannt; ein 200-mal größeres offenes LLM erkannte 95 %.

Nichts verlässt Ihren BrowserDer Text wird auf dieser Seite geprüft. Für Ihr Team läuft es auf Ihren eigenen Servern.

18 msPro Nachricht auf einer gewöhnlichen CPU. Das LLM brauchte eine halbe Sekunde pro Nachricht auf einer GPU.

So funktioniert es

DatenKeine echten personenbezogenen Daten. Ein lokales offenes LLM schrieb 2.074 E-Mails, Chatnachrichten, Gesprächsnotizen, Verträge und Formulare in sechs Sprachen, mit Lücken an den Stellen der Angaben. Die Lücken werden mit erfundenen Namen, Adressen und Nummern mit gültigen Prüfziffern gefüllt, jeweils zwölfmal, sodass jedes Wort ein exaktes Label hat.

ModellDie ersten 12 der 22 Schichten von mmBERT-small, feinabgestimmt, um die Wörter von Namen, Adressen und Geburtsdaten zu markieren: 36 MB Gewichte plus ein Vokabular von 1.6 MB. Die 60 handgeschriebenen Testnachrichten stammen vom selben Autor wie die Prompts für die Trainingstexte, daher sind 98 % eine Obergrenze.

RegelnZahlen mit fester Form werden durch Regeln gefunden und nur behalten, wenn ihre Prüfziffern stimmen: IBANs, Zahlungskarten, PESEL und die nationalen Ausweisnummern von Deutschland, Frankreich, Spanien, Litauen und dem Vereinigten Königreich, E-Mail-Adressen und Telefonnummern. Allein erkennen sie 39 % der Angaben; Modell und Regeln zusammen 98 %.

Im Vergleich mit einem LLMQwen 2.5 7B, aufgefordert, jede persönliche Angabe aufzulisten, erkannte 95 % und übersah vor allem die Namen, mit denen Nachrichten unterschrieben sind, bei einer halben Sekunde pro Nachricht auf einer GPU. Ein gehostetes LLM müsste den Text zuerst erhalten, und genau dieses Datenleck soll hier verhindert werden.

Code, Konfigurationen und der vollständige Benchmark: github.com/balticml/pii-redaction. Gewichte: huggingface.co/balticml/mmbert-small-pii-redaction. Möchten Sie das vor den KI-Tools Ihres Teams? 30-Minuten-Gespräch buchen