인공지능(AI) 챗봇 '이루다' 개발사 스캐터랩이 지난 13일 사과문을 발표했다. 개인정보 유출 의혹 등 각종 논란이 불거진 지 닷새만이다.
스캐터랩은 자사 연애 분석 앱 '연애의 과학'으로 이용자들의 카카오톡 데이터를 수집해 이루다 개발에 사용했다.
이 과정에서 개인정보보호법을 어겼다는 의혹을 받고 있다. 연애의 과학 앱 이용자와 상대 연인 등에게 개인정보 이용·활용 동의를 제대로 받지 않았다는 점과 이루다에 데이터를 이용하는 과정에서 익명화(비식별화)를 제대로 하지 않았다는 점이 의혹의 핵심이다.
스캐터랩은 이루다 관련 개발 기록을 오픈소스 공유 플랫폼 '깃허브'에 공유했는데 여기서도 익명화를 제대로 하지 않은 것으로 밝혀졌다.
이로 인해 이루다를 성적 도구로 삼고 이루다에게 혐오 표현을 학습시키려고 시도한 악성 커뮤니티 이용자들이 오픈소스를 내려받아 '제2의 이루다'를 만들 수 있다는 우려가 제기되기도 했다.
스캐터랩은 사과문과 함께 발표한 자료를 통해 "깃허브에 공개한 오픈소스에 내부 테스트 샘플이 포함된 사실이 확인됐다"며 "기계적인 필터링 과정에서도 미처 걸러지지 못한 부분이 일부 존재했다"고 인정했다.
이어 "해당 깃허브 게시물은 즉시 비공개됐다"며 "데이터 관리에 더 신중하지 못했고 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해 진심으로 사과드린다"고 말했다.
스캐터랩은 "'연애의 과학'이 동의를 받은 절차가 법적으로 문제가 없을 것이라고 판단했다"며 "이용자분들과 충분히 소통하지 못한 점 깊이 반성한다"고 사과했다. 또한 "데이터가 AI에 활용되기를 원하지 않는 분들은 DB에서 삭제하실 수 있다"고 밝혔다.
또 사내 대화방에서 수집된 대화를 직원끼리 돌려봤다는 의혹에 대해서는 "진상조사위원회가 구성돼 조사를 진행 중이며 현재까지 문제가 된 내용은 없었다"고 답했다.
스캐터랩은 지난 12일 이루다 서비스를 종료했지만 이용자 반발을 잦아들지 않고 있다. 연애의 과학 이용자들은 스캐터랩이 개인정보를 유출했다며 집단소송을 준비 중이다.
이날 개인정보보호위원회와 한국인터넷진흥원(KISA)은 서울 성동구 스캐터랩 사무실을 방문해 개인정보 유출 의혹에 관한 본격적인 조사를 벌였다.
jihye@kukinews.com
