Зачем голосовому боту на LLM снова нужен классификатор вроде Jev

habrahabr.ru · sports
Full story

A voice bot built on an LLM sounds pleasant, but it regularly stumbles on real calls. It can find an available time slot and still fail to book the client, or it can interrupt a person who is simply pausing mid-sentence. Some of those decisions can be moved from the LLM to a fast classifier model. The most discussed such model now is Jev from TypeSafe, and open analogues already exist.

Голосовой бот на LLM разговаривает приятно, но на реальных звонках регулярно спотыкается. Он может найти свободное окно и так и не записать клиента или перебить человека, который просто задумался посреди фразы. Часть таких решений можно снять с LLM и отдать быстрой модели-классификатору. Самая обсуждаемая из них сейчас Jev от TypeSafe, и у нее уже появились открытые аналоги. Ниже разбираю, как Jev-подобные модели применяют в голосовых ботах другие команды, и сравниваю их кейсы с нашим опытом в Voximplant. Читать далее

Read full article → Compare