Поставете го в ChatGPT, без да изтекат данните на Вашите клиенти
Натиснете Redact и вижте как имена, адреси, номера на сметки и лични документи се превръщат в черни ленти, на шест езика. Намира ги малък модел във Вашия браузър; нищо, което въведете, не напуска тази страница.
Демото изисква JavaScript. Моделът е 38 MB за изтегляне, веднъж; браузърът го запазва.
Опитайте друг пример или поставете свой текст. Моделът чете английски, полски, немски, френски, испански и литовски; всички имена и номера в примерите са измислени.
98% срещу 95%От личните данни в 60 ръчно написани съобщения са открити; отворен LLM, 200 пъти по-голям, откри 95%.
Нищо не напуска Вашия браузърТекстът се проверява на тази страница. За Вашия екип работи на Вашите собствени сървъри.
18 msНа съобщение на обикновен CPU. LLM се нуждаеше от половин секунда на съобщение на GPU.
Как работи
ДанниБез реални лични данни. Локален отворен LLM написа 2074 имейла, чат съобщения, бележки от разговори, договори и формуляри на шест езика, с празнини на мястото на данните. Празнините се попълват с измислени имена, адреси и номера с валидни контролни цифри, по дванадесет пъти всяка, така че всяка дума има точен етикет.
МоделПървите 12 от 22 слоя на mmBERT-small, дообучени да отбелязват думите на имена, адреси и дати на раждане: 36 MB тегла плюс речник от 1.6 MB. 60-те ръчно написани тестови съобщения са от същия автор като промптовете за обучителните текстове, затова 98% е горна граница.
ПравилаНомерата с фиксирана форма се намират с правила и се запазват само когато контролните им цифри са верни: IBAN, платежни карти, PESEL и националните идентификационни номера на Германия, Франция, Испания, Литва и Обединеното кралство, имейл адреси и телефонни номера. Сами те откриват 39% от данните; моделът и правилата заедно — 98%.
В сравнение с LLMQwen 2.5 7B, помолен да изброи всички лични данни, откри 95% и пропусна най-вече имената, с които са подписани съобщенията, при половин секунда на съобщение на GPU. Хостван LLM първо би трябвало да получи текста, а точно това изтичане трябва да бъде предотвратено.
Код, конфигурации и пълният бенчмарк: github.com/balticml/pii-redaction. Тегла: huggingface.co/balticml/mmbert-small-pii-redaction. Искате ли това пред AI инструментите на Вашия екип? Запазете 30-минутен разговор