⚖ Compare news

Put up to three stories side by side. Pick IDs from any article URL: /compare?id=123&id=456

AI-агент в проде для тех, кто вкатывается: инструменты, RAG, надёжность и проверки

habrahabr.ru ·Russian Federation · world
Words
124
Chars
773
AI summary
Yes
Full story

An AI agent got stuck and took 100 steps instead of 30. Each step rereads the whole history, so the run used 3.3 times more steps and cost 5.3 times more. If the process crashed at step 25 and the task was restarted from scratch, it became 81% more expensive and repeated actions already taken, such as sending a client email twice. The material collects practices that separate a demo agent from a production agent, including which tools to give the model and how to manage context.

Агент застрял и сделал 100 ходов вместо 30. Ходов в 3,3 раза больше, а денег в 5,3 раза: каждый ход заново читает всю историю. А если процесс упал на 25-м ходе и задачу запустили с нуля, она дорожает на 81%, и все уже сделанные действия повторятся. Письмо клиенту уйдёт дважды. Собрал практики, которые отделяют агента из демо от агента в проде. Какие инструменты давать модели и как держать контекст коротким. Когда RAG не нужен вовсе, а когда поиск по словам и переранжирование сокращают провалы с 5,7% до 1,9%. Как ограничить цикл и бюджет, какие ошибки повторять, как сделать инструмент идемпотентным, зачем Temporal и как спрашивать подтверждение у человека. Плюс наблюдаемость, проверки, защита от prompt injection и чек-лист из 13 пунктов. Почему письмо уйдёт дважды

Open article