Vaš sandučić korisničke podrške, razvrstan prije nego što ga itko pročita
Jednim klikom razvrstajte sandučić od osam poruka kupaca, a zatim napišite svoju na bilo kojem od deset jezika. Mali model u Vašem pregledniku imenuje odjel, zahtjev i raspoloženje.
Demo zahtijeva JavaScript. Model je preuzimanje od 55 MB, jednom; preglednik ga čuva.
Sama demonstracija je na engleskom, kao i njezini podaci.
27 vrsta zahtjeva u 11 odjela internetske trgovine; sve ostalo vraća se kao nepovezano, a ispod 50% model kaže da nije siguran. Deset jezika, tipfeleri dobrodošli.
96% naspram 87%Od 160 ručno napisanih poruka kupaca usmjereno na pravi zahtjev; otvoreni LLM 150 puta veći postigao je 87%.
Nikad ne napušta Vaše sustaveTekst kupaca razvrstava se na Vašem poslužitelju ili u pregledniku.
Manje od 2 sataPo milijunu poruka na običnom poslužitelju. Bez naplate po poruci.
Kako radi
PodaciBitext upiti korisničke podrške (engleski), strojno prevedeni na još devet jezika, plus klasa „nije zahtjev“ naučena iz rečenica s Wikipedije i Tatoebe. Retci za učenje umotani su u realistične poruke: pozdrav, broj narudžbe, potpis.
ModelPrvih 16 od 22 sloja modela mmBERT-small, dodatno učenih za razvrstavanje 27 vrsta zahtjeva: 52 MB težina plus 3 MB rječnika za deset jezika. 160 ručno napisanih testnih poruka potječe od istog autora kao i poruke za učenje, pa je 96% gornja granica; na 10.000 izdvojenih zahtjeva iz Bitexta postiže 99%, LLM 73%.
IzvođenjeONNX + transformers.js, WebGPU ili WASM. Isti model radi na CPU poslužitelju za nekoliko milisekundi po poruci.
Trošak i brzinaNa četiri CPU niti model troši 5,7 ms po poruci, 1,6 sati po milijunu. Otvoreni LLM je Qwen 2.5 7B, kojem je dan samo popis vrsta zahtjeva. Hostirani LLM prema cjeniku stajao bi oko 35 $ po milijunu takvih poruka (procjena iz izmjerenih duljina upita), uz naplatu svake poruke i slanje teksta izvan Vaših sustava.
Kod, konfiguracije i potpuna usporedba: github.com/balticml/support-triage. Težine: huggingface.co/balticml/mmbert-small-support-triage. Želite li ovo za svoj sandučić, s vlastitim odjelima? Javite se