[헤럴드경제=주소현 기자] 챗GPT로 대표되는 대화형 인공지능(AI)가 스팸 등 범죄에 악용될 가능성이 제기됐다.

과학기술정보통신부와 국가정보원 등은 18일 발간한 ‘2023 국가 정보보호 백서’를 통해 대규모 언어 모델에 기반한 대화형 AI 서비스는 자연어 처리와 생성 분야에서 광범위하게 사용되지만, 동시에 사이버 범죄와 같은 불법적 목적으로 사용될 가능성이 있다고 밝혔다.

특히 대화형 AI 모델은 사람처럼 글을 읽고 응답할 수 있어 스팸 메시지나 사기 문자 등을 생성하는 데 사용될 수 있다.

또 텍스트를 분석하고 생성할 수 있어 협박 메시지나 가짜 뉴스 등을 생성해 사람들을 교란하는 데 활용될 수 있으며, 이름과 전화번호, 이메일 주소 등과 같은 개인 정보를 추출·수집해 악의적인 목적으로 사용될 수 있다고 우려했다.

백서는 “AI 시스템의 악의적 활용이나 개인 정보 유출과 같은 사이버 위협을 방지하기 위해서는 윤리적이고 안전하게 AI 기술을 개발하고 활용하는 것이 중요하며, 이를 위한 정책·법률·교육 등의 대책 마련이 필요하다”고 지적했다.

이어 “국가 차원에서 AI 기술 개발과 적용에 대한 법적 규제와 지침 등을 마련하여야 하며, 개인 정보 보호와 같은 사용자 보호에 대한 법적 책임과 권리를 강화할 뿐 아니라 교육적 대책도 필요하다”고 제언했다.

아울러 “대화형 AI 서비스의 사용자는 이러한 위협에 대하여 인식하고, 언어 모델을 적절하게 사용하는 방법을 배워야 한다”고 강조했다.