Билл Гейтс призвал усилить внешний контроль над ИИ

На этой неделе Билл Гейтс дал интервью NBC News и сказал вслух то, о чём давно шепчутся в кулуарах: надеяться только на добрую волю создателей ИИ больше нельзя Гейтс прямо заявил, что никто уже не считает саморегулирование достаточным. По его мнению, конгресс должен принять законы об ИИ, а правоохранители и политики — подключиться к обсуждению того, какими должны быть гарантии и контроль. Он признаёт, что это добавит индустрии немного бюрократии, но не думает, что это сильно затормозит разработку. Почему это стало так важно сейчас? По его мнению, ИИ уже достаточно мощный инструмент, чтобы в руках злоумышленников натворить бед в масштабах, о которых раньше писали только в фантастике. Он сказал, что ИИ способен спровоцировать события, которые унесут миллиард жизней , и что ещё никогда оружие не было настолько мощным, как сочетание людей с плохими намерениями и современных ИИ-инструментов. При этом он не призывает всё остановить. Его позиция скорее такая: нужны обязательные правила, проверки и наблюдение. Особенно для сфер типа медицины, финансов, государственных систем и других критических инфраструктур Мнение противоположной стороны Недавно главы Anthropic и OpenAI сами сказали, что темп разработки ИИ стоит замедлить. Бывший сотрудник Anthropic Джейкоб Коксон публично заявил, что компании ведут себя безответственно и фактически играют в рулетку с нашими жизнями, двигаясь к самообучающемуся суперинтеллекту. Спикер Палаты представителей Майк Джонсон пока не торопится с законами — предлагает подождать, пока сами компании предложат конкретный план. Марк Цукерберг придерживается другой позиции: он считает, что никакая отраслевая координация не нужна, и каждая лаборатория должна сама решать, когда притормозить. Читать далее