게임 끊기자 “여친과 통화중”…거짓말하는 AI, 죽은 척 하기도
newsare.net
메타(옛 페이스북)가 개발한 인공지능(AI) 프로그램이 의도적으로 거짓말을 하는 것으로 밝혀졌다. 잘못된 내용을 사실처럼 답하는 할루시네이션(환각 작용)뿐 아니라 속임수 가능성까지 대비해 A게임 끊기자 “여친과 통화중”…거짓말하는 AI, 죽은 척 하기도
메타(옛 페이스북)가 개발한 인공지능(AI) 프로그램이 의도적으로 거짓말을 하는 것으로 밝혀졌다. 잘못된 내용을 사실처럼 답하는 할루시네이션(환각 작용)뿐 아니라 속임수 가능성까지 대비해 AI 개발에 안전을 기해야 한다는 지적이 나오고 있다.10일(현지 시간) 영국 가디언에 따르면 미국 매사추세츠공대(MIT) 연구진은 최근 국제 학술지 ‘패턴’에 AI 시스템이 상대방을 배신하고 허세를 부리거나 사람인 척 속임수를 쓴 사례를 다수 확인했다는 내용의 논문을 발표했다.연구진이 테스트한 AI 중 하나는 메타의 ‘시세로(Cicero)