От предложений LLM к управляемому исполнению: опыт разработки AI-агента
The article draws on experience building an AI agent and argues that connecting it to tools is only part of the work. The harder task is organizing its operation where a confident model answer is not enough, with constraints that must be respected, actions controlled, and consequences checked. One example is an agent proposing to restore a degraded service, which raises the question of who verifies whether the infrastructure can withstand switching traffic. The piece frames the challenge as moving from LLM suggestions to managed execution.
Подключить AI-агента к инструментам - лишь часть задачи. Гораздо сложнее организовать его работу там, где недостаточно уверенного ответа модели и необходимо соблюдать ограничения, контролировать действия и проверять последствия. Например, если агент предлагает восстановить деградировавший сервис, кто проверит: выдержит ли инфраструктура переключение трафика? выполнены ли все необходимые условия? действительно ли сервис восстановился? Я решил исследовать эти вопросы на примере управляемого AI-агента с локальной Qwen3.8:27b. Для этого разработал отдельную среду исполнения «Governed Agent Runtime», в которой модель выбирает следующий шаг, но допустимость и выполнение операций контролирует детерминированный runtime. В начале область исследования ограничивалась отдельными предложениями, позже реализация перешла к многошаговому исполнению и, хотя агент справился с последовательными действиями, остались вопросы к отдельным пояснениям модели. Также в ходе работы пришлось пересмотреть собственную систему оценки результатов. Все эксперименты проводились на синтетическом платежном сервисе. Результаты можно посмотреть в демонстрационном интерфейсе: https://антонтрофимов.рф/gov-agent/ Реализация и материалы представлены в репозитории проекта - ссылка в конце статьи. Разработка велась на основе спецификаций (SDD). Читать далее