⚖ Compare news

Put up to three stories side by side. Pick IDs from any article URL: /compare?id=123&id=456

Сомнительность выравнивания искусственного интеллекта

habrahabr.ru ·Russian Federation · tech
Words
155
Chars
1156
AI summary
Yes
Full story

As artificial intelligence technology develops rapidly, warnings about its safety are becoming more frequent and louder. The solution most often proposed is a procedure called alignment. Its purpose is to bring the interests of artificial intelligence into line with human interests; otherwise, the text says, AI could develop its own interests that diverge from human ones.

Ввиду быстрого развития технологий искусственного интеллекта все чаще и громче звучат предостережения о его безопасности. И в качестве решения чаще всего предлагается процедура под названием выравнивание. Ее суть в том, чтобы привести интересы искусственного интеллекта в соответствие с человеческими. Иначе у него могут возникнуть собственные интересы, расходящиеся с интересами человека. В этом случае он может устранить последнего как препятствие на пути следования им. Подобный подход предполагает, что в интересах человечества нет ничего объективного, и потому развитый искусственный интеллект может иметь не схожие интересы, а какие-то иные. Такая позиция несет в себе концептуальный изъян, и при его выявлении обнаруживается, что антагонизм имеет место, но не между интересами человека и искусственного интеллекта, а между интересами разных групп самих людей. И в такой ситуации подлинную глобальную угрозу для человечества, несет как раз само выравнивание. Каким образом интересы продвинутого искусственного интеллекта могут быть ближе к глобальным интересам человечества, чем интересы определенных групп людей? Об этом данная заметка. Читать далее

Open article