Votre boîte de support triée avant que quiconque la lise

Triez en un clic une boîte de huit messages de clients, puis écrivez le vôtre dans l'une des dix langues. Un petit modèle dans votre navigateur indique le service, la demande et l'humeur.

La démo nécessite JavaScript. Le modèle représente un téléchargement unique de 55 MB, que votre navigateur conserve.

La démo elle-même est en anglais, comme ses données.

27 types de demande dans 11 services d'une boutique en ligne ; tout le reste est classé hors sujet, et sous 50% le modèle indique qu'il n'est pas sûr. Dix langues, fautes de frappe bienvenues.

96 % contre 87 %Des 160 messages clients écrits à la main, orientés vers la bonne demande ; un LLM ouvert 150× plus grand a obtenu 87 %.

Ne quitte jamais vos systèmesLes textes des clients sont classés sur votre propre serveur ou dans le navigateur.

Moins de 2 heuresPar million de messages sur un serveur ordinaire. Aucune facture par message.

Comment ça marche

DonnéesDemandes de support client Bitext (en anglais), traduites automatiquement dans neuf autres langues, plus une classe « pas une demande » apprise sur des phrases de Wikipédia et de Tatoeba. Les exemples d'entraînement sont mis en forme comme de vrais messages : salutation, numéro de commande, formule de politesse.

ModèleLes 16 premières des 22 couches de mmBERT-small, affinées pour classer 27 types de demande : 52 MB de poids plus un vocabulaire de 3 MB pour dix langues. Les 160 messages de test écrits à la main viennent du même auteur que les messages d'entraînement, donc 96% est une borne haute ; sur 10 000 demandes Bitext mises de côté, il obtient 99%, le LLM 73%.

ExécutionONNX + transformers.js, WebGPU ou WASM. Le même modèle tourne sur un serveur CPU en quelques millisecondes par message.

Coût et vitesseSur quatre threads CPU, le modèle met 5,7 ms par message, 1,6 heure par million. Le LLM ouvert est Qwen 2.5 7B, avec pour seule aide la liste des types de demande. Un LLM hébergé au prix catalogue coûterait environ 35 $ par million de messages de ce type (estimation d'après des longueurs de prompt mesurées), facturé à chaque message, et le texte sortirait de vos systèmes.

Code, configurations et benchmark complet : github.com/balticml/support-triage. Poids : huggingface.co/balticml/mmbert-small-support-triage. Vous voulez cela pour votre boîte, avec vos services ? Contactez-nous