Τα εισερχόμενα υποστήριξης ταξινομημένα πριν τα διαβάσει κανείς

Ταξινομήστε με ένα κλικ εισερχόμενα οκτώ μηνυμάτων πελατών και μετά γράψτε το δικό σας σε οποιαδήποτε από δέκα γλώσσες. Ένα μικρό μοντέλο στον browser σας ονομάζει το τμήμα, το αίτημα και τη διάθεση.

Η επίδειξη χρειάζεται JavaScript. Το μοντέλο κατεβαίνει μία φορά, 55 MB· ο browser σας το κρατά.

Η ίδια η επίδειξη είναι στα αγγλικά, όπως και τα δεδομένα της.

27 τύποι αιτημάτων σε 11 τμήματα ενός ηλεκτρονικού καταστήματος· οτιδήποτε άλλο επιστρέφει ως άσχετο, και κάτω από 50% το μοντέλο λέει ότι δεν είναι σίγουρο. Δέκα γλώσσες, τα ορθογραφικά λάθη ευπρόσδεκτα.

96% έναντι 87%Από 160 μηνύματα πελατών γραμμένα με το χέρι, δρομολογημένα στο σωστό αίτημα· ένα ανοιχτό LLM 150 φορές μεγαλύτερο πέτυχε 87%.

Δεν φεύγει ποτέ από τα συστήματά σαςΤο κείμενο των πελατών ταξινομείται στον δικό σας server ή στον browser.

Κάτω από 2 ώρεςΑνά εκατομμύριο μηνύματα σε έναν συνηθισμένο server. Χωρίς χρέωση ανά μήνυμα.

Πώς λειτουργεί

ΔεδομέναΑιτήματα υποστήριξης πελατών Bitext (αγγλικά), μεταφρασμένα αυτόματα σε άλλες εννέα γλώσσες, συν μια κατηγορία «όχι αίτημα» από προτάσεις της Wikipedia και του Tatoeba. Οι γραμμές εκπαίδευσης τυλίγονται σε ρεαλιστικά μηνύματα: χαιρετισμός, αριθμός παραγγελίας, αποχαιρετισμός.

ΜοντέλοΤα πρώτα 16 από τα 22 επίπεδα του mmBERT-small, προσαρμοσμένα ώστε να ταξινομούν 27 τύπους αιτημάτων: 52 MB βάρη συν ένα λεξιλόγιο 3 MB για δέκα γλώσσες. Τα 160 χειρόγραφα μηνύματα δοκιμής είναι του ίδιου συντάκτη με τα μηνύματα εκπαίδευσης, άρα το 96% είναι ανώτατο όριο· σε 10.000 αιτήματα Bitext που κρατήθηκαν εκτός πετυχαίνει 99%, το LLM 73%.

ΕκτέλεσηONNX + transformers.js, WebGPU ή WASM. Το ίδιο μοντέλο εκτελείται σε server με CPU σε λίγα χιλιοστά του δευτερολέπτου ανά μήνυμα.

Κόστος και ταχύτηταΣε τέσσερα νήματα CPU το μοντέλο χρειάζεται 5,7 ms ανά μήνυμα, 1,6 ώρες ανά εκατομμύριο. Το ανοιχτό LLM είναι το Qwen 2.5 7B, με μόνο τη λίστα των τύπων αιτημάτων. Ένα φιλοξενούμενο LLM σε τιμή καταλόγου θα κόστιζε περίπου 35 $ ανά εκατομμύριο τέτοια μηνύματα (εκτίμηση από μετρημένα μήκη prompt), με χρέωση για κάθε μήνυμα και το κείμενο να στέλνεται εκτός των συστημάτων σας.

Κώδικας, ρυθμίσεις και πλήρης αξιολόγηση: github.com/balticml/support-triage. Βάρη: huggingface.co/balticml/mmbert-small-support-triage. Το θέλετε για τα εισερχόμενά σας, με τα δικά σας τμήματα; Επικοινωνήστε μαζί μας