Asiakastuen postilaatikkosi lajiteltuna ennen kuin kukaan lukee sitä
Lajittele yhdellä klikkauksella kahdeksan asiakasviestin postilaatikko ja kirjoita sitten oma viestisi millä tahansa kymmenestä kielestä. Pieni malli selaimessasi nimeää osaston, pyynnön ja tunnelman.
Demo vaatii JavaScriptin. Malli on 55 MB:n lataus, kerran; selaimesi säilyttää sen.
Itse demo on englanniksi, kuten sen datakin.
27 pyyntötyyppiä verkkokaupan 11 osastossa; kaikki muu merkitään aiheeseen kuulumattomaksi, ja alle 50%:n varmuudella malli kertoo olevansa epävarma. Kymmenen kieltä, kirjoitusvirheet sallittuja.
96 % vs. 87 %160:stä käsin kirjoitetusta asiakasviestistä ohjattu oikeaan pyyntöön; 150× suurempi avoin kielimalli sai 87 %.
Ei koskaan poistu järjestelmistäsiAsiakkaiden tekstit luokitellaan omalla palvelimellasi tai selaimessa.
Alle 2 tuntiaMiljoonaa viestiä kohden tavallisella palvelimella. Ei viestikohtaista laskua.
Näin se toimii
AineistoBitextin asiakastukipyynnöt (englanniksi), konekäännetty yhdeksälle muulle kielelle, sekä ”ei pyyntö” -luokka, joka on opittu Wikipedian ja Tatoeban lauseista. Koulutusrivit kääritään realistisiksi viesteiksi: tervehdys, tilausnumero, lopputervehdys.
MallimmBERT-smallin 22 kerroksesta ensimmäiset 16, hienosäädetty luokittelemaan 27 pyyntötyyppiä: 52 MB painoja ja 3 MB:n sanasto kymmenelle kielelle. 160 käsin kirjoitettua testiviestiä ovat samalta kirjoittajalta kuin opetusviestit, joten 96 % on yläraja; 10 000 erillään pidetyssä Bitext-pyynnössä tulos on 99 %, kielimallin 73 %.
AjoympäristöONNX + transformers.js, WebGPU tai WASM. Sama malli toimii CPU-palvelimella muutamassa millisekunnissa viestiä kohden.
Kustannus ja nopeusNeljällä CPU-säikeellä malli käyttää 5,7 ms viestiä kohden, 1,6 tuntia miljoonaa kohden. Avoin kielimalli on Qwen 2.5 7B, jolle annettiin vain pyyntötyyppien lista. Pilvessä toimiva kielimalli listahintaan maksaisi noin 35 dollaria miljoonaa tällaista viestiä kohden (arvio mitattujen kehotteiden pituuksista), laskutettuna jokaisesta viestistä, ja teksti lähtisi järjestelmiesi ulkopuolelle.
Koodi, konfiguraatiot ja koko vertailu: github.com/balticml/support-triage. Painot: huggingface.co/balticml/mmbert-small-support-triage. Haluatko tämän postilaatikkoosi omilla osastoillasi? Ota yhteyttä