개인정보보호위원회(개인정보위)가 인공지능(AI)을 활용·서비스를 제공하는 SKT 에이닷과 스노우에 시정 또는 개선을 권고했다. 개인정보를 보다 안전하게 처리하라는 취지에서다.

개인정보위는 12일 정부서울청사에서 전체회의를 열고 AI 응용서비스를 제공하는 에이닷과 스노우, DeepL, 뷰노에 대한 사전 실태점검 결과를 심의·의결했다고 13일 밝혔다.

실태점검 결과에 따르면 에이닷에는 시정·개선권고가, 스노우에는 개선권고가 내려졌다. 시정권고는 확인된 법 위반 행위에 대한 권고다. 시정 명령과 사실상 동일한 효력을 가진다. 이를 이행하지 않으면 3000만원 이하의 과태료가 부과된다. 개선권고는 원칙에 비춰봤을 때 시스템 등을 개선하는 것이 도움이 될 때하는 권고다. 반드시 수용할 의무는 없다.

에이닷은 안전조치 의무를 일부 준수하지 않아 시정이 권고됐다. 에이닷은 통화녹음·요약 및 실시간 통역을 제공하는 서비스다. 통화 녹음이 이뤄지면서 음성파일이 SKT의 서버에서 텍스트로 변환되고 이를 다시 MS의 클라우드에서 요약해 이용자에게 제공한다. 이 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않았다.

이와 함께 개인정보보호원칙 등에 비춰 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련·시행할 것을 개선 권고키로 했다.

SKT는 지난 4월 개인정보위의 사전통지를 받은 후, 해당 내용에 대한 시정 조치를 완료한 상황이다. 개선권고 사항에 대해서도 추가적인 검토를 통해 시스템 개선 등의 노력을 하겠다고 밝혔다.

스노우는 생성형 AI 기술을 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성해주는 서비스다. 사전학습 돼 인터넷에 공개된 AI 모델을 이용함에 따라 별도로 학습데이터는 수집하지 않고 있다. 서비스 이용 과정에서 생성된 이미지 또한 이용자 편의(재다운로드 등)를 위해 일정 기간 서버에 보관할 뿐 다른 목적으로 이용하지 않고 있었다.

다만 스노우에도 일부 개선이 권고됐다. 스노우가 제공하는 특정 기능 관련해 이미지를 서버로 전송해 사용·처리 중이나 처리방침에는 이용자가 알기 어려운 형태로 공개하고 있었다. 이미지 필터링 등을 위한 외부 도구개발의 안전성을 충실히 검토하지 않은 사실도 있었다. 이에 개인정보를 서버로 전송해 처리하는 경우, 이용자가 이를 쉽게 인지할 수 있도록 하고, 의도치 않은 개인정보 처리·전송 가능성을 점검할 것을 개선권고했다.

AI 기반 언어 번역 서비스 DeepL은 AI 학습 및 인적검토를 진행하면서 이를 명확하게 공개하지 않았다. 그러나 점검 과정에서 개인정보를 입력하지 않도록 입력 화면에 안내하고 인적 검토 사실을 처리방침에 반영해 별도의 개선 권고는 내려지지 않았다.

AI 기반 의료영상 판독 및 진단 보조 프로그램인 뷰노는 AI 학습데이터 수집·처리 관련해 위반사항이 발견되지 않았다. 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 AI 학습에 사용하는 것으로 확인됐다.

개인정보위는 지난해 11월부터 국내외 주요 AI 서비스에 대한 사전 실태점검을 진행했다. 앞서 3월에는 거대언어모델(LLM) 관련 사업자에 대한 우선 점검 결과를 발표한 바 있다.

개인정보위는 “각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다”며 “앞으로도 정보주체가 안심하고AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시하겠다”고 밝혔다.

이소연 기자 soyeon@kukinews.com