ИИ-агент отчитался о создании заявки — а заявки нет. Как проверить прототип до пилота
A scenario describes a team eager to hand routine work to an AI agent after a successful demo: the agent read a contract, found disputed clauses and created a request for a lawyer. Then it turned out that on a neighboring contract the agent made mistakes, and the request existed only in its answer. The source also notes that without an author the project...
Вокруг ИИ-агентов столько шума, что хочется поскорее отдать им всю рутину: пусть отвечают клиентам, ищут документы и разбираются с заказами. Модель, промпт, удачный пример — и вот агент читает договор, находит спорные пункты и сам заводит заявку юристу. Зал аплодирует. А потом выясняется: на соседнем договоре он ошибается, заявка существует только в его ответе, а без автора проект никто не может даже запустить. Агент пишет «заявка создана» с той же уверенностью, с какой пишет «добрый день», поэтому убедительная демонстрация ничего не говорит о том, работает ли решение. Читать далее