Когда LLM должна сказать «Я не знаю»?
Full story
In RAG, finding documents on the right topic is not enough: the documents must contain information that can justify an answer. The article examines three ways to study this boundary. One is an external context evaluator; the others involve analyzing model activations and testing on contradictory evidence. The question framing the piece is when an LLM should say it does not know.
В RAG недостаточно найти документы на нужную тему: они должны содержать сведения, из которых можно обосновать ответ. Разберём три способа исследовать эту границу — от внешнего оценщика контекста до анализа активаций модели и испытаний на противоречивых свидетельствах. Читать далее