AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки
- Words
- 124
- Chars
- 773
- AI summary
- Yes
An AI agent got stuck and took 100 steps instead of 30. Each step rereads the whole history, so the run used 3.3 times more steps and cost 5.3 times more. If the process crashed at step 25 and the task was restarted from scratch, it became 81% more expensive and repeated actions already taken, such as sending a client email twice. The material collects practices that separate a demo agent from a production agent, including which tools to give the model and how to manage context.
Агент застрял и сделал 100 ходов вместо 30. Ходов в 3,3 раза больше, а денег в 5,3 раза: каждый ход заново читает всю историю. А если процесс упал на 25-м ходе и задачу запустили с нуля, она дорожает на 81%, и все уже сделанные действия повторятся. Письмо клиенту уйдёт дважды. Собрал практики, которые отделяют агента из демо от агента в проде. Какие инструменты давать модели и как держать контекст коротким. Когда RAG не нужен вовсе, а когда поиск по словам и переранжирование сокращают провалы с 5,7% до 1,9%. Как ограничить цикл и бюджет, какие ошибки повторять, как сделать инструмент идемпотентным, зачем Temporal и как спрашивать подтверждение у человека. Плюс наблюдаемость, проверки, защита от prompt injection и чек-лист из 13 пунктов. Почему письмо уйдёт дважды
Open article