Teie klienditoe postkast, sorteeritud enne, kui keegi seda loeb
Sorteerige ühe klõpsuga kaheksa kliendisõnumiga postkast ja kirjutage seejärel oma sõnum ükskõik millises kümnest keelest. Väike mudel Teie brauseris nimetab osakonna, pöördumise ja meeleolu.
Demo vajab JavaScripti. Mudel on ühekordne 55 MB allalaadimine; Teie brauser hoiab selle alles.
Demo ise on inglise keeles, nagu ka selle andmed.
27 pöördumise tüüpi veebipoe 11 osakonnas; kõik muu märgitakse teemaväliseks ning alla 50% kindluse korral ütleb mudel, et pole kindel. Kümme keelt, kirjavead on lubatud.
96% vs 87%160 käsitsi kirjutatud kliendisõnumist suunatud õigele pöördumisele; 150× suurem avatud keelemudel sai 87%.
Ei lahku kunagi Teie süsteemidestKliendi tekst klassifitseeritakse Teie oma serveris või brauseris.
Alla 2 tunniMiljoni sõnumi kohta tavalises serveris. Sõnumipõhist arvet pole.
Kuidas see töötab
AndmedBitexti klienditoe pöördumised (inglise keeles), masintõlgitud veel üheksasse keelde, lisaks klass „ei ole pöördumine“, mis on õpitud Wikipedia ja Tatoeba lausetest. Treeningread on pakitud realistlikesse sõnumitesse: tervitus, tellimuse number, lõputervitus.
MudelmmBERT-smalli 22 kihist esimesed 16, peenhäälestatud klassifitseerima 27 päringutüüpi: 52 MB kaale ja 3 MB sõnavara kümne keele jaoks. 160 käsitsi kirjutatud testsõnumit pärinevad samalt autorilt kui treeningsõnumid, seega on 96% ülempiir; 10 000 kõrvale jäetud Bitexti päringul saavutab see 99%, keelemudel 73%.
KäituskeskkondONNX + transformers.js, WebGPU või WASM. Sama mudel töötab protsessoriserveris mõne millisekundiga sõnumi kohta.
Kulu ja kiirusNelja CPU lõimega kulub mudelil 5,7 ms sõnumi kohta, 1,6 tundi miljoni kohta. Avatud keelemudel on Qwen 2.5 7B, millele anti ainult päringutüüpide loend. Pilves majutatud keelemudel hinnakirja hinnaga maksaks umbes 35 dollarit miljoni sellise sõnumi kohta (hinnang mõõdetud viipade pikkuste põhjal), arveldatuna iga sõnumi eest, ja tekst saadetaks väljapoole Teie süsteeme.
Kood, konfiguratsioonid ja täielik võrdlus: github.com/balticml/support-triage. Kaalud: huggingface.co/balticml/mmbert-small-support-triage. Kas soovite seda oma postkasti jaoks, oma osakondadega? Võtke ühendust