newsare.net
챗GPT로 손쉽게 개인정보를 수집하고 악용할 수 있다는 연구결과가 국내연구진에 의해 발표됐다.한국과학기술원(KAIST)은 전기및전자공학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀챗GPT에 손쉽게 개인정보 뚫린다…KAIST, LLM 악용 가능성 입증
챗GPT로 손쉽게 개인정보를 수집하고 악용할 수 있다는 연구결과가 국내연구진에 의해 발표됐다.한국과학기술원(KAIST)은 전기및전자공학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제환경에서 챗GPT와 같은 대형 언어모델(LLM)이 사이버공격에 악용될 가능성을 실험적으로 규명했다고 24일 밝혔다.최근 인공지능 기술의 발전으로 LLM은 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. 현재 OpenAI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어기법을 자체적으로 탑재하고 있으나 연구팀의 실험 결과, 이런 방어기법이 존재함에도 악의적인 사이버공격을 손쉽게 수행할 수 있음이 확인됐다.특히 기존 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리 LLM 에이전트는 평균 5~20초 내에 30~60원(2~4센트) 수준의 비용으로 개인정보 탈취 등을 자동으로 수행할 수 있어 새로운 위협요소로 나타났다.연구 Read more