Επικολλήστε το στο ChatGPT χωρίς να διαρρεύσουν τα δεδομένα των πελατών σας

Πατήστε Redact και δείτε ονόματα, διευθύνσεις, αριθμούς λογαριασμών και ταυτοτήτων να γίνονται μαύρες μπάρες, σε έξι γλώσσες. Τα βρίσκει ένα μικρό μοντέλο στον browser σας· τίποτα από όσα πληκτρολογείτε δεν φεύγει από αυτή τη σελίδα.

Η επίδειξη χρειάζεται JavaScript. Το μοντέλο κατεβαίνει μία φορά, 38 MB· ο browser σας το κρατά.

Δοκιμάστε άλλο παράδειγμα ή επικολλήστε το δικό σας κείμενο. Το μοντέλο διαβάζει αγγλικά, πολωνικά, γερμανικά, γαλλικά, ισπανικά και λιθουανικά· όλα τα ονόματα και οι αριθμοί στα παραδείγματα είναι επινοημένα.

98% έναντι 95%Των προσωπικών στοιχείων σε 60 μηνύματα γραμμένα με το χέρι εντοπίστηκαν· ένα ανοιχτό LLM 200 φορές μεγαλύτερο εντόπισε 95%.

Τίποτα δεν φεύγει από τον browser σαςΤο κείμενο ελέγχεται σε αυτή τη σελίδα. Για την ομάδα σας τρέχει στους δικούς σας servers.

18 msΑνά μήνυμα σε έναν συνηθισμένο CPU. Το LLM χρειάστηκε μισό δευτερόλεπτο ανά μήνυμα σε GPU.

Πώς λειτουργεί

ΔεδομέναΚανένα πραγματικό προσωπικό στοιχείο. Ένα τοπικό ανοιχτό LLM έγραψε 2.074 e-mail, μηνύματα chat, σημειώσεις κλήσεων, συμβάσεις και φόρμες σε έξι γλώσσες, με κενά εκεί όπου μπαίνουν τα στοιχεία. Τα κενά συμπληρώνονται με επινοημένα ονόματα, διευθύνσεις και αριθμούς με έγκυρα ψηφία ελέγχου, δώδεκα φορές το καθένα, ώστε κάθε λέξη να έχει ακριβή ετικέτα.

ΜοντέλοΤα πρώτα 12 από τα 22 επίπεδα του mmBERT-small, εκπαιδευμένα περαιτέρω ώστε να επισημαίνουν τις λέξεις ονομάτων, διευθύνσεων και ημερομηνιών γέννησης: 36 MB βάρη και ένα λεξιλόγιο 1.6 MB. Τα 60 δοκιμαστικά μηνύματα γραμμένα με το χέρι προέρχονται από τον ίδιο συντάκτη με τα prompts των κειμένων εκπαίδευσης, άρα το 98% είναι ανώτατο όριο.

ΚανόνεςΟι αριθμοί με σταθερή μορφή εντοπίζονται με κανόνες και κρατούνται μόνο όταν τα ψηφία ελέγχου τους ισχύουν: IBAN, κάρτες πληρωμών, PESEL και οι εθνικοί αριθμοί ταυτότητας της Γερμανίας, της Γαλλίας, της Ισπανίας, της Λιθουανίας και του Ηνωμένου Βασιλείου, διευθύνσεις e-mail και αριθμοί τηλεφώνου. Μόνοι τους εντοπίζουν το 39% των στοιχείων· μοντέλο και κανόνες μαζί το 98%.

Σε σύγκριση με ένα LLMΤο Qwen 2.5 7B, όταν του ζητήθηκε να απαριθμήσει κάθε προσωπικό στοιχείο, εντόπισε 95% και έχασε κυρίως τα ονόματα με τα οποία υπογράφονται τα μηνύματα, με μισό δευτερόλεπτο ανά μήνυμα σε GPU. Ένα φιλοξενούμενο LLM θα έπρεπε πρώτα να λάβει το κείμενο, που είναι ακριβώς η διαρροή που αυτό θέλει να αποτρέψει.

Κώδικας, ρυθμίσεις και πλήρης αξιολόγηση: github.com/balticml/pii-redaction. Βάρη: huggingface.co/balticml/mmbert-small-pii-redaction. Θέλετε αυτό μπροστά από τα εργαλεία AI της ομάδας σας; Κλείστε μια κλήση 30 λεπτών