중앙선거관리위원회는 제21대 대선 후보자와 관련한 딥페이크물(인공지능 기술을 활용한 허위 사진·영상)을 제작 및 유포한 유튜버 등 3명을 공직선거법 위반 혐의로 고발했다고 밝혔다. 지난 2023년 12월 관련법이 제정된 이래 선관위가 딥페이크물 제작·유포자를 고발한 첫 사례다.
30일 선관위는 전날 보도자료를 통해 “선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI) 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 제작·게시한 유튜브 채널 운영자 3명을 선거법 위반 혐의로 수사기관에 고발했다”고 밝혔다.
선관위에 따르면 이들 3명은 각각 특정 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등을 총 35회 게시한 혐의를 받는다. 또 다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해서 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상을 게시한 혐의, 개인 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글·영상을 딥페이크로 제작해 게시·유포한 혐의 등도 받고 있다.
해당 제작물은 주로 이재명 더불어민주당 대선 후보 또는 김문수 국민의힘 대선 후보와 관련한 내용으로 알려졌다.
공직선거법 조항은 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크를 제작·편집·유포·상영 또는 게시하는 행위를 금지한다. 이를 위반할 경우 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처해질 수 있다.
선관위는 “21대 대선이 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다”며 “유권자가 AI를 활용해 영상이나 이미지를 제작·활용할 때 선거법에 위반되지 않도록 각별한 주의가 필요하다”고 당부했다.
