Дообучать LLM или дать ей документы: сначала выясните, что сломалось

habrahabr.ru · world
Full story

In discussions about adopting LLMs, people often say, Let us fine-tune the model on our data. The author argues that by then the treatment has usually been chosen while the diagnosis is still missing. In one example, an agent made a mistake about product return conditions. The questions are whether it was given the current rules at all, whether search found the right clause, and whether the database holds one version of the rules or three versions all marked as active. Until that is established, fine-tuning is premature.

«Давайте дообучим модель на наших данных» — эту фразу я слышу почти в каждом разговоре о внедрении LLM. Обычно к этому моменту лечение уже выбрано, а диагноза ещё нет. Допустим, агент ошибся в условиях возврата товара. Ему вообще передали актуальный регламент? Поиск нашёл нужный пункт? В базе одна версия правил или три, и все помечены как действующие? Пока это не выяснено, говорить об обучении рано: у плохого ответа часто вполне административная причина. Моя позиция такая. Начинать стоит с документов, инструкций и проверки на реальных задачах. Дообучение понадобится, когда найдётся конкретная проблема, которую оно умеет решать. А вот данные для будущей модели нужно собирать с первого дня — потом их не восстановить. Читать далее

Read full article → Compare