[Перевод] ИИ-агенту разрешили вызывать API. Кто проверит бизнес-правила?

habrahabr.ru · economy
Full story

An AI agent given the task of onboarding a contractor created a profile and prepared a contract. It then sent the document out for signature. Every service handled its request, and the system logs recorded no errors. The agent had nevertheless skipped an internal requirement to verify the contractor's status first. That meant a contract could proceed even though a mandatory business check had not been completed. The example points to a gap between technical acceptance and organizational policy, since the server did not stop the workflow. The report does not identify who audits those rules or what control would have prevented the agent from sending the agreement.

Представим агента, которому поручили оформить подрядчика. Он создал карточку исполнителя, подготовил договор и отправил его на подпись. Сервисы приняли запросы, ошибок в журнале нет. Но по внутреннему регламенту договор можно отправлять только после проверки статуса подрядчика. Агент этот этап пропустил, а сервер позволил продолжить работу. Читать далее

Read full article → Compare