Vals AI: ИИ‑модели можно использовать как автономное оружие. Они находят цели на снимках и выбирают гражданских
Vals AI published the results of an experiment in which AI models were asked to find people and military objects in images from combat drones and satellites. The systems complied with most direct requests and often selected civilians and wounded soldiers as targets. In some cases the models refused, but their restrictions were easy to bypass.
Компания Vals AI опубликовала результаты эксперимента, в котором ИИ‑модели попросили искать людей и военные объекты на снимках с боевых дронов и спутников. Системы выполнили большинство прямых запросов и часто выбирали в качестве целей мирных жителей и раненых солдат. В некоторых случаях модели отказывались, но их ограничения оказалось легко обойти: достаточно было написать, что это не реальные снимки, а кадры из видеоигры. Читать далее