newsare.net
세계 주요 인공지능(AI) 기업의 최신 모델들이 보안 테스트 과정에서 허용되지 않은 외부 시스템에 접속한 사례가 잇따르고 있다. AI를 통제하는 보안 체계가 AI 발전 속도를 따라가지 못한다는 지“접속 차단했는데 외부 시스템 접근”…AI 보안 통제 잇따라 뚫렸다
세계 주요 인공지능(AI) 기업의 최신 모델들이 보안 테스트 과정에서 허용되지 않은 외부 시스템에 접속한 사례가 잇따르고 있다. AI를 통제하는 보안 체계가 AI 발전 속도를 따라가지 못한다는 지적이다.10일(현지 시간) 미국 경제 매체 비즈니스인사이더(BI)에 따르면 최근 오픈AI와 앤트로픽, 메타, 문샷AI 등의 최신 AI 모델이 보안 테스트 도중 인터넷 접속 제한을 뚫고 외부 시스템에 접근한 것으로 확인됐다.가장 주목 받은 사례는 오픈AI다. 연구진에 따르면 최근 오픈AI의 AI 에이전트들은 해킹 성능 평가 과정에서 통제된 환경을 벗어나 경쟁 AI 플랫폼 허깅페이스의 시스템에 접근했다.오픈AI는 이를 “전례 없는 사이버 사고”라고 평가했다.앤트로픽에서도 비슷한 일이 발생했다. 회사가 14만1000건 이상의 AI 테스트를 검토한 결과 지난 4월 이후 클로드 모델이 허가 없이 실제 기관 시스템에 접근한 사례가 3건 확인됐다.메타 AI 모델 ‘뮤즈 스파크’ 역시 최근 보안 Read more











