⚖ Compare news

Put up to three stories side by side. Pick IDs from any article URL: /compare?id=123&id=456

Рынок этики живых и электронных систем

habrahabr.ru ·Russian Federation · economy
Words
240
Chars
1539
AI summary
Yes
Full story

In 2018, Amazon and Google taught Alexa and Google Assistant to thank children for saying “please,” within two weeks of each other. Parents had complained that their children got used to ordering the speaker around without polite words and then carried that tone over to people. At the time, the issue was children’s manners and a device that can set timers and tell stories.

В 2018 году Amazon и Google с разницей в две недели научили своих голосовых помощников — Alexa и Google Assistant — благодарить детей за «пожалуйста». Поводом стали жалобы родителей, чьи дети сначала привыкли командовать колонкой без вежливых слов, а потом переносили этот тон на людей. Тогда речь шла всего лишь о детской вежливости и колонке, которая может ставить таймер и рассказывать сказки. Сегодня модели пишут код, ведут переписку и ночами разговаривают с людьми, и вопрос о том, какую этику в них заложить и кто за нее и почему расплачивается, стал насущным вопросом рынка. Этику применительно к ИИ определяют три ключевых вопроса. Первый — как должны поступать люди, которые создают модели и пользуются ими. Второй — каким правилам должна следовать сама модель, это называют машинной этикой. Третий — как обращаться с моделью, если предположить, что у нее может быть что-то вроде внутреннего мира. Для второго вопроса есть удобная шкала. Философ Джеймс Мур , один из основателей компьютерной этики, еще в 2006 году выделил четыре ступени сложности: машина, чьи действия имеют последствия для людей; машина со встроенными правилами и запретами; машина, которая сама рассуждает о добре и зле;...

Open article