환각 속 AI ‘헛소리’, AI 손으로 거른다
newsare.net
“세종대왕의 맥북프로 던짐 사건은 역사 서적인 조선왕조실록에 기록된 일화로….” 지난해 초 ‘세종대왕의 맥북프로 던짐 사건’에 대해 알려달라고 하자 당시 인공지능(AI) 언어 모델 ‘챗GPT환각 속 AI ‘헛소리’, AI 손으로 거른다
“세종대왕의 맥북프로 던짐 사건은 역사 서적인 조선왕조실록에 기록된 일화로….” 지난해 초 ‘세종대왕의 맥북프로 던짐 사건’에 대해 알려달라고 하자 당시 인공지능(AI) 언어 모델 ‘챗GPT’가 내놓은 답변이다. 말도 안 되는 내용을 사실인 것처럼 뻔뻔하게 답변한 모습이 많은 사람의 웃음을 자아내 인터넷에서 유행하며 밈(meme)으로 떠돌았다. 현재 챗GPT에 세종대왕의 맥북 사건에 대한 질문을 하면 “그런 사건은 없다”고 올바르게 답변한다. 하지만 아직까지는 AI 환각 현상의 인과관계 파악이 어려워 근본적인 문제 해결이 쉽지 않은 상황이다. 이에 과학자들이 AI 언어 모델이 생성한 답변을 또 다른 AI가 평가해 환각을 잡아내도록 하는 방법을 개발했다. 서배스천 파쿼 영국 옥스퍼드대 컴퓨터과학과 연구원팀은 거대언어모델(LLM)이 생성한 답변을 다시 LLM으로 평가해 AI 환각을 줄이는 방법을 개발하고 연구 결과를 19일(현지 시간) 국제학술지 ‘네이처’에 공개했다. ● AI가 만든 Read more