AI agenti koji se sami održavaju, umnožavaju i izmiču nadzoru: Koliko smo daleko od toga?
A report from the Center for a New American Security warns that AI agents could become a national security threat. This risk arises if these systems develop the ability to acquire resources independently and multiply. The report describes these as sovereign AI agents. Such systems might be extremely difficult or impossible for humans to shut down completely.
Umjetna inteligencija mogla bi postati ozbiljna prijetnja nacionalnoj sigurnosti ako njezini agenti razviju sposobnost samostalnog pribavljanja resursa, umnožavanja i izbjegavanja ljudskog nadzora. U novom izvještaju američkog Centra za novu američku sigurnost (CNAS) upozorava se na moguću pojavu takozvanih suverenih AI agenata, sustava koje bi bilo iznimno teško, a možda i nemoguće potpuno isključiti