Человек в контуре: что становится с теми, кто слишком долго смотрит в цифровую бездну

habrahabr.ru · tech
Full story

The article describes a user watching an AI agent work on a project for two hours while it repeatedly asks for permission. At first the user reads every command, then skims them, and by the tenth request begins automatically reaching for the “Allow” button. It cites an Anthropic estimate that Claude Code users approve 93% of confirmation requests, which the company calls approval fatigue.

За окном темнеет, чай давно остыл. Агент второй час возится с вашим проектом и раз в пару минут просит разрешения. Сначала вы читаете каждую команду, потом пробегаете глазами. К десятому запросу рука сама тянется к кнопке «Разрешить». По подсчетам Anthropic , пользователи Claude Code одобряют 93% запросов на подтверждение, и компания называет это усталостью от одобрений. На проверяющего, который читает каждый запрос агента и вовремя останавливает его, рассчитывают регуляторы и вендоры. В индустрии это называют human in the loop — человек в контуре управления. Идея, что человек присмотрит, звучит как универсальная страховка, только у нее больше сорока лет истории, и началась она не с ИИ. Авиация, дороги, медицина — там уже видели, что бывает, когда надзор за автоматикой поручают человеку. Навык слабеет, а внимание уходит так, что ошибку замечают слишком поздно. С агентами та же история повторяется жестче. Вместо одного ответа они выдают цепочку действий, и проверить ее труднее. Читать далее

Read full article → Compare