경찰, 챗GPT로 법리 검토하다 ‘허위 인용’ 논란
newsare.net
경찰이 인공지능(AI) 챗봇을 활용해 불송치 결정문을 작성했다가, 존재하지 않는 법리를 잘못 인용한 사실이 국정감사에서 드러났다.권칠승 더불어민주당 의원은 17일 서울 서대문구 경찰청에서경찰, 챗GPT로 법리 검토하다 ‘허위 인용’ 논란
경찰이 인공지능(AI) 챗봇을 활용해 불송치 결정문을 작성했다가, 존재하지 않는 법리를 잘못 인용한 사실이 국정감사에서 드러났다.권칠승 더불어민주당 의원은 17일 서울 서대문구 경찰청에서 열린 국회 행정안전위원회의 국정감사에서 “용인동부경찰서가 불송치 결정문에 존재하지 않는 판결문 문구를 인용했다”고 지적했다. 이어 권 의원은 “경찰이 대법원과 서울북부지법 판결문을 인용했다지만 실제 해당 문구는 판결문 어디에도 없다”며 “존재하지 않는 법리를 인용한 것”이라고 말했다.이에 유 직무대행은 “잘못 인용한 것이 맞다”고 인정했다.또 권 의원이 “법리 검토 과정에서 AI를 활용한 것이냐”고 묻자, 유 직무대행은 “법리검토는 법리대로 했고 내용을 추출할 때는 챗GPT를 활용한 것으로 알고 있다”고 답했다.권 의원은 “법리 검증 시스템이 이렇게 돌아간다면 어마어마한 문제”라며 “경찰이 자체 법률 AI를 두고 왜 외부 민간 서비스를 썼는지 이해할 수 없다”고 질타했다. 이에 유 직무대행은 “AI Read more