딥페이크 관련 범죄가 급증, 사회적 문제로 떠오르고 있다. 국내 인공지능(AI) 업계에서는 악용 가능성으로 인해 이미지·음성 생성형 AI 서비스를 쉽게 상용화하지 못하고 있다.
27일 업계에 따르면 네이버는 최근 하이퍼클로바X 기반 음성 AI 기술을 공개했으나 상용화 여부는 아직 결정하지 못했다.
기술 문제는 아니다. 해당 음성 AI 기술은 기존의 음성 인식과 음성 합성 기술보다 한층 더 발전한 모델이다. 언어 구조 및 발음 정확도를 개선했으며 감정 표현까지 더한 자연스러운 대화가 가능하다.
상용화를 고민하는 이유는 악용 가능성 때문이다. 타인의 음성을 허락 없이 모방해 가짜뉴스를 만드는 등 딥페이크 범죄에 이용될 여지가 있다. 딥페이크는 AI 기술을 이용해 진위를 구별하기 어렵도록 합성한 가짜 이미지와 영상물을 뜻한다. 최근 지역·학교별 지인을 대상으로 한 딥페이크 제작·유포 범죄가 잇따르고 있다.
네이버의 대화형 AI 에이전트 ‘클로바X’에 시각 정보 처리 기능이 추가됐지만, 이미지 생성 기능은 빠진 것도 비슷한 맥락이다. 네이버는 이미지 생성형 AI 기술 등과 관련해 해외 학회 등에 꾸준히 논문을 발표하고 있다. 일정 수준의 기술은 보유하고 있지만, 서비스로는 아직 제공하지 못하고 있다.
카카오는 이미지 생성형 AI 서비스에서 손을 뗐다. 지난 6월 AI를 통해 프로필 사진을 생성하는 ‘칼로 AI 프로필 서비스’를 중단했다. 칼로 AI 프로필은 이미지 생성 모델을 활용, AI 프로필을 제작할 수 있어 인기를 끌었다. 카카오는 당시 ‘선택과 집중’을 위해 서비스를 종료한다고 밝혔다.
이미지 생성형 AI 서비스의 부활 여부는 현재로서 미지수다. 카카오는 하반기 대화형 AI 플랫폼 출시를 계획하고 있다. 별도의 앱을 통한 첫 B2C AI 서비스다. 카카오가 갖고 있는 무수한 카카오톡 데이터베이스를 기반으로 ‘텍스트’에 중점을 둔 서비스가 될 것으로 예상된다. 정신아 카카오 대표는 지난 8일 카카오 2분기 실적 컨퍼런스콜에서 “관계 기반의 커뮤니케이션인 카카오의 강점이 AI와 결합되도록 지원할 계획”이라고 설명했다.
초거대 AI ‘엑사원’을 보유한 LG는 이미지·영상 생성형 AI 기술을 범용화하고 있지 않다. 지난해 발표된 엑사원 아틀리에의 이미지 생성 기능은 일부 LG 계열사에서만 디자인 작업에 활용되고 있다. 최근에는 MBC, 광주시와 손잡고 영상 등 콘텐츠 특화 생성형 AI 개발에 나섰으나, 이 또한 범용화할 계획은 갖고 있지 않다.
업계에서는 텍스트와 달리 파급력이 큰 이미지·영상 생성형 AI 서비스에 대해서는 신중한 입장이라고 입을 모았다. 업계 관계자는 “기술을 상용화했을 때 악용될 여지가 있기에 내부에서도 고민이 많다”며 “악용을 방지할 수 있는 기술 고도화와 함께 안전하게 AI를 사용할 수 있는 사회적 인식 개선이 필요한 상황”이라고 이야기했다.
또 다른 업계 관계자는 “현재로서는 사용자의 도덕성에 기댈 수밖에 없다”면서 “그렇다고 해당 기술에 손을 놓을 수는 없다. 악용하는 사람이 있다고 해서 무조건 막으면 기술은 발전할 수 없다. 합의점을 찾아야 한다”고 강조했다.
