Vaš podporni predal, razvrščen, preden ga kdo prebere
Z enim klikom razvrstite predal z osmimi sporočili strank, nato napišite svoje v katerem koli od desetih jezikov. Majhen model v Vašem brskalniku poimenuje oddelek, zahtevo in razpoloženje.
Predstavitev potrebuje JavaScript. Model je 55 MB za enkraten prenos; brskalnik ga obdrži.
Sama predstavitev je v angleščini, tako kot njeni podatki.
27 vrst zahtev v 11 oddelkih spletne trgovine; vse drugo se vrne kot nepovezano, pod 50% pa model pove, da ni prepričan. Deset jezikov, tipkarske napake dobrodošle.
96% proti 87%Od 160 ročno napisanih sporočil strank pravilno usmerjenih; odprt LLM, 150-krat večji, je dosegel 87%.
Nikoli ne zapusti Vaših sistemovBesedilo strank se razvršča na Vašem strežniku ali v brskalniku.
Manj kot 2 uriNa milijon sporočil na običajnem strežniku. Brez računa na sporočilo.
Kako deluje
PodatkiBitext zahteve za podporo strankam (angleško), strojno prevedene v še devet jezikov, ter razred „ni zahteva“, naučen iz stavkov z Wikipedije in Tatoebe. Učne vrstice so zavite v realistična sporočila: pozdrav, številka naročila, podpis.
ModelPrvih 16 od 22 plasti mmBERT-small, dodatno naučenih za razvrščanje 27 vrst zahtev: 52 MB uteži in 3 MB slovarja za deset jezikov. 160 ročno napisanih testnih sporočil je napisal isti avtor kot učna sporočila, zato je 96% zgornja meja; na 10.000 izločenih zahtevah Bitext doseže 99%, LLM 73%.
IzvajanjeONNX + transformers.js, WebGPU ali WASM. Isti model deluje na strežniku s CPU v nekaj milisekundah na sporočilo.
Stroški in hitrostNa štirih nitih CPU model porabi 5,7 ms na sporočilo, 1,6 ure na milijon. Odprti LLM je Qwen 2.5 7B, ki je dobil samo seznam vrst zahtev. Gostovani LLM po ceniku bi stal približno 35 $ na milijon takih sporočil (ocena iz izmerjenih dolžin pozivov), z računom za vsako sporočilo in besedilom, poslanim zunaj Vaših sistemov.
Koda, konfiguracije in celotna primerjava: github.com/balticml/support-triage. Uteži: huggingface.co/balticml/mmbert-small-support-triage. Želite to za svoj predal, s svojimi oddelki? Pišite nam