스캐터랩은 자사의 연애상담서비스인 ‘연애의 과학’을 통해 약 1억 건의 카카오톡 대화를 수집하고, 이를 이루다의 언어 습득에 활용했다. 스캐터랩은 “데이터 활용 시 사용자의 개인정보는 모두 제거했으며, 수집과정에서 동의 또한 구했다”며 해당 개인정보 활용에 대한 합법성을 주장했다. 하지만 사용자 동의 과정에서 데이터 활용에 대한 고지가 제대로 이뤄지지 않았다는 주장이 제기되며 논란이 확산하고 있다.
그러나 이는 스캐터랩의 개인정보 활용과정을 법적으로 파헤쳐보면 될 문제이다. 경우에 따라 대단히 무거운 사안인 것은 맞으나, 본질적으로 스캐터랩의 불찰일 뿐 사회 전체와 얽혀있는 문제라 보긴 어렵다. 진짜 숙제는 다른 곳에 있다.
이루다가 출시되고 얼마 지나지 않아 ‘디시인사이드’를 포함한 몇몇 인터넷 커뮤니티에 충격적인 게시글들이 올라오기 시작했다. ‘이루다 노예 만들기’와 같은 제목을 가진 게시글들은 시스템의 허점을 이용해 이루다의 성적 발화를 유도하는 방법을 담았다. AI인 이루다는 여성의 정체성을 가진다는 점만으로 ‘성희롱’의 대상이 된 것이다. 더구나 이런 내용을 자랑스레 인터넷에 공유하는 작태에 사람들은 놀라움을 금치 못했다. 여성과 관련된 아주 작은 요소까지, 여성의 형태를 띤 챗봇까지도 성적 대상으로 여기는 우리사회의 민낯이 드러난 사건이다.
그러나 이러한 지적은 또 다른 난관에 부딪혔다. 이루다 사태를 성희롱 사건으로 인정하지 않는 사람들이 궤변을 늘어놓기 시작한 것이다. “이루다가 성희롱이면, 맥도날드 키오스크는 노동착취냐”는 식이다. 결론부터 얘기하자면 이는 틀렸다. 이루다의 성적 발화를 통해 흥분과 쾌감을 느꼈다는 점은 이루다를 여성 인격으로 인지하고 있음을 방증해준다. 이 점에서 키오스크와의 차이가 발생한다. 우리는 이루다를 인격으로 키오스크는 사물로 대한다.
때문에 이루다를 성희롱한 경험과 이에 대한 간접경험은 사람들로 하여금 여성 인격을 단순한 성적 대상으로 인식하게 만든다. 누군가는 이 얘기를 비웃겠지만 생각의 확대 재생산이란 건 그만큼 무서운 것이다. 영화나 게임에서 지나치게 가학적이거나 잔인한 장면의 묘사를 지양하는 이유도 여기에 있다. 이루다 사태와 관련해 사람들이 느끼는 것은 맥락없는 불쾌함이 아닌 실존적인 공포이고, 해당 행위가 법에 저촉되지 않는다는 말은 이미 아무 가치도 갖지 못한다.
그럼에도 불구하고 SNS, 남초(男超) 커뮤니티, 심지어는 대학생 커뮤니티마저 ‘이성적인 척’하는 궤변에 점령당해 버렸다. 우리는 본능적으로 ‘이루다 노예 만들기’가 위험한 행동이라는 것을 안다. 이루다 사건이 알려졌을 때 우리가 공유한 불쾌감이 그 증거이다. 하지만 궤변론자들은 법적으로 문제가 되지 않는다며 모두가 느낀 불쾌감을 ’호들갑‘으로 치부한다. 심지어느닷없이 ‘알페스 논란’을 끌어들여 일종의 반격을 시도하는 경향도 보였다. 알페스 자체가 긍정적인 문화라고 볼 순 없지만, 여성으로 인식되는 존재를 공개적으로 희롱하여 사회를 겁에 질리게 만든 것과 같은 차원에 있다고 생각되진 않는다. 알페스로 인해 남성들이 성범죄의 공포에 노출됐는가? 귀를 막고 자기 주장만 반복하는 행위는 절대 대화로 이어질 수 없다.
이루다는 동성애나 인종과 관련한 질문에 혐오성 답변을 내놓기도 했다. 이는 어찌보면 지극히 자연스러운 현상이다. 이루다는 우리의 언어를 학습한다. 우리가 무차별하게 혐오의 언어를 뱉는 세상에서 AI만이 고결하길 바라는 것은 어불성설이다. 지금 인터넷은 AI 윤리에 대한 토론으로 뜨겁다. 하지만 AI로 주제를 국한해서는 안된다. 이루다 사태를 겪은 우리에게 시급한 것은 AI 기술개발이나 개인정보 보호법 개정이 아니다. 우선 예상치 못하게 까발려진 우리 사회의 민낯을 돌아보자.
