Рынок этики живых и электронных систем

В 2018 году Amazon и Google с разницей в две недели научили своих голосовых помощников — Alexa и Google Assistant — благодарить детей за «пожалуйста». Поводом стали жалобы родителей, чьи дети сначала привыкли командовать колонкой без вежливых слов, а потом переносили этот тон на людей. Тогда речь шла всего лишь о детской вежливости и колонке, которая может ставить таймер и рассказывать сказки. Сегодня модели пишут код, ведут переписку и ночами разговаривают с людьми, и вопрос о том, какую этику в них заложить и кто за нее и почему расплачивается, стал насущным вопросом рынка. Этику применительно к ИИ определяют три ключевых вопроса. Первый — как должны поступать люди, которые создают модели и пользуются ими. Второй — каким правилам должна следовать сама модель, это называют машинной этикой. Третий — как обращаться с моделью, если предположить, что у нее может быть что-то вроде внутреннего мира. Для второго вопроса есть удобная шкала. Философ Джеймс Мур , один из основателей компьютерной этики, еще в 2006 году выделил четыре ступени сложности: машина, чьи действия имеют последствия для людей; машина со встроенными правилами и запретами; машина, которая сама рассуждает о добре и зле; полный этический агент с сознанием и свободой воли. Колонка с «волшебным» словом стоит на второй ступени, потому что правило в нее встроили, а рассуждать о нем она не умеет. Сегодня компании в спорах определяют свои модели на разных ступенях, создают каждая свой этический подход и предлагают это в итоге на выбор покупателю. Читать далее