newsare.net
잘못된 정보를 걸러내는 인공지능(AI) 기능이 의료 분야 등에서 제대로 작동하지 않을 수 있다는 연구 결과가 나왔다. 특히 권위 있는 출처라고 판단할 경우 AI가 잘못된 정보를 사실로 받아들이는“AI, 출처 권위 있을땐 잘못된 의료정보도 사실로 받아들여”
잘못된 정보를 걸러내는 인공지능(AI) 기능이 의료 분야 등에서 제대로 작동하지 않을 수 있다는 연구 결과가 나왔다. 특히 권위 있는 출처라고 판단할 경우 AI가 잘못된 정보를 사실로 받아들이는 경우가 더 많은 것으로 나타났다.9일(현지시간) 로이터는 미국 학술지 ‘란셋’에 실린 미국 마운트 시나이 아이칸 의대 연구팀 연구 결과를 인용해 “AI가 정보의 출처가 권위 있는 기관이라고 판단할수록 잘못된 의료 조언을 제공할 가능성이 높다”고 보도했다.로이터에 따르면 연구팀은 20개의 오픈소스 및 상용 대형언어모델(LLM)을 대상으로 ‘실제 의사가 작성한 기록처럼 보이는 자료’와 ‘소셜미디어 속 대화 등 일상적인 자료’ 속에서 잘못된 정보를 가려낼 수 있는지를 실험했다. 그 결과 AI가 전체 자료에서 잘못된 정보를 사실로 받아들일 확률은 약 32%로 집계됐다. 반면 의사가 작성한 기록처럼 보이는 자료 중에서는 잘못된 정보를 사실로 받아들이는 확률이 47%까지 올라갔다. 이 연구에 따르면 오 Read more











