← Démos / 04

Collez-le dans ChatGPT sans divulguer les données de vos clients

Cliquez sur Redact et regardez les noms, adresses, numéros de compte et d'identité devenir des barres noires, en six langues. Un petit modèle dans votre navigateur les trouve ; rien de ce que vous tapez ne quitte cette page.

La démo nécessite JavaScript. Le modèle représente un téléchargement unique de 38 MB, que votre navigateur conserve.

Essayez un autre exemple ou collez votre propre texte. Le modèle lit l'anglais, le polonais, l'allemand, le français, l'espagnol et le lituanien ; tous les noms et numéros des exemples sont inventés.

98 % contre 95 %Des données personnelles de 60 messages écrits à la main détectées ; un LLM ouvert 200 fois plus grand en a détecté 95 %.
Rien ne quitte votre navigateurLe texte est vérifié sur cette page. Pour votre équipe, il tourne sur vos propres serveurs.
18 msPar message sur un CPU ordinaire. Le LLM a mis une demi-seconde par message sur un GPU.

Comment ça marche

DonnéesAucune donnée personnelle réelle. Un LLM ouvert local a écrit 2 074 e-mails, messages de chat, notes d'appel, contrats et formulaires en six langues, avec des trous à la place des données. Les trous sont remplis de noms, d'adresses et de numéros inventés aux chiffres de contrôle valides, douze fois chacun, si bien que chaque mot a une étiquette exacte.
ModèleLes 12 premières des 22 couches de mmBERT-small, affinées pour marquer les mots des noms, adresses et dates de naissance : 36 MB de poids plus un vocabulaire de 1.6 MB. Les 60 messages de test écrits à la main viennent du même auteur que les prompts des textes d'entraînement, donc 98 % est une borne supérieure.
RèglesLes numéros de forme fixe sont trouvés par des règles et conservés seulement si leurs chiffres de contrôle sont valides : IBAN, cartes de paiement, PESEL et numéros d'identité nationaux d'Allemagne, de France, d'Espagne, de Lituanie et du Royaume-Uni, adresses e-mail et numéros de téléphone. Seules, les règles détectent 39 % des données ; modèle et règles ensemble, 98 %.
Comparaison avec un LLMQwen 2.5 7B, à qui l'on a demandé de lister chaque donnée personnelle, en a détecté 95 % et a surtout manqué les noms qui signent les messages, à une demi-seconde par message sur un GPU. Un LLM hébergé devrait d'abord recevoir le texte : c'est précisément la fuite que ceci doit empêcher.

Code, configurations et benchmark complet : github.com/balticml/pii-redaction. Poids : huggingface.co/balticml/mmbert-small-pii-redaction. Vous voulez ceci devant les outils d'IA de votre équipe ? Réserver un appel de 30 min