알고리즘은 완벽하지 않다....제기되는 '불완전성'

[쿠키뉴스] 구현화 기자 = "알고리즘은 완벽하지 않다."

최근 이어지는 알고리즘 관련 논란이 뜨겁다. 알고리즘이 완벽하게 중립적인 것이 아니라, 알고리즘을 설계한 개발자의 의도와 선택을 내포하고 있다는 목소리가 높아지고 있다.

네이버와 카카오 등 인터넷기업, 쿠팡이나 배달의민족 등 다양한 이커머스 업체들이 AI 알고리즘을 통한 자동검색 서비스, 자동 배정 및 자동 배차 서비스 등을 만들고 있다. 그런데 이러한 알고리즘은 보통 자사 플랫폼에 최선의 이익을 가져다주는 형태로 설계돼 있기 때문에 부작용이 있을 수 있다는 지적이다.

알고리즘 논란은 국내에만 국한된 이슈는 아니다. 최근 유럽연합(EU)에서 구글쇼핑에 대해 독점적 지위를 통해 자사의 비교쇼핑서비스를 우대한 혐의로 과징금을 부과했고, 아마존도 자사에 유리하도록 비공개 데이터를 이용한 행위 등을 이유로 유럽연합은 역시 과징금 부과를 예고했다. 이처럼 알고리즘의 목적지향성과 편향성에 대해 성토의 목소리가 거세지고 있다.

다만 알고리즘 자체가 기업의 사업적 비밀과 연계돼 있고, 알고리즘에 대한 비판이 일부 관련자들의 자의적인 판단에 기초할 수 있는 만큼 다루는 데 신중해야 한다는 신중론도 만만치 않다. 이에 반해 알고리즘의 불완전성을 고려해 높은 수위의 처벌이나 경쟁당국의 적극적인 감시가 필요하다는 구체적인 움직임도 나온다.

네이버 쇼핑·카카오 모빌리티·배달의민족 등 '알고리즘 공정성' 대두

국내에서는 최근 네이버 쇼핑이 공정거래위원회로부터 쇼핑과 동영상 분야의 검색 서비스를 운영하면서 네이버스마트스토어 등 자사 상품 및 서비스 결과를 상단에 올리고 경쟁사는 하단으로 내리는 등 시장지배적 지위 남용행위로 과징금 267억원을 부과받았다.

공정위는 검색서비스 사업자가 노출순위 결정 시 자사 상품 및 서비스에 직접적으로 가점을 부여하고, 알고리즘을 개편하면서 중요 사항을 경쟁사에 알리지 않는 것은 공정거래법 위반이라고 판단했다.

공정위는 "네이버가 자신의 검색알고리즘을 조정·변경해 검색결과가 객관적이라고 믿는 소비자를 기만하고 오픈마켓 시장과 동영상 플랫폼 시장의 경쟁을 왜곡했다"고 지적했다.

이에 대해 네이버 측은 입장자료를 내고 "네이버는 검색 결과의 다양성을 유지하면서 소상공인들에게 상품 노출의 기회를 제공하기 위해 쇼핑 알고리즘을 수시로 개선해왔다"라며 "(네이버 검색의) 다양성 로직은 오픈마켓뿐 아니라 계약을 체결한 모두에게 동일하게 적용된 것"이라고 반발하며 향후 법정 공방을 예고했다.

카카오모빌리티도 최근 AI를 통한 자동배차 시스템이 가맹택시인 카카오T블루에게만 '콜 몰아주기'를 한다는 의심을 받아 왔다. 특히 카카오T를 통한 무료 콜 서비스를 받아 왔던 개인택시 사업자들이 카카오T블루 출범 이후 콜이 줄었다고 문제를 제기했다.

경기도에서는 이 같은 주장을 받아들여 개인택시 사업자를 대상으로 카카오T블루가 진출한 7개 지역과 비운행 5개 지역을 대상으로 콜 수락 데이터를 모아 T블루 서비스 전후를 비교했다. 그 결과 카카오T택시 호출이 평균 29.9% 감소한 것으로 나타났다.

카카오모빌리티 측은 이에 대해 "개인택시 기사가 카카오T로 받는 콜은 평균 42% 늘었다"고 데이터를 인용한 것이라고 반박했다. 또 “실태조사에 사용된 데이터는 실제 콜 수가 아니라 수락한 콜 수이며, 조사 대상 개인택시도 115명으로 표본 수가 너무 적다”고 지적했다.

이러한 콜 몰아주기 논쟁은 공정거래위원회로 넘어간 모양새다. 현재 전국개인택시운송사업조합연합회 등 택시 4단체는 ‘콜 몰아주기’에 대해 공정위에 “공정거래법 제23조에 해당하는 공정거래를 저해할 우려가 있는 행위인지 판단해 달라”는 내용의 진정서를 제출했고 현재 공정위는 해당 사안을 검토하는 중이다.

배달의민족도 인공지능을 통해 일선 라이더들을 배치하고 있다. 최근 라이더들로 구성된 라이더유니온은 '인공지능 피해 증언대회'를 열고 인공지능이 지형이나 도로를 고려하지 않고 배달시간을 직선거리로 산출해 라이더들이 도달하기 예상 어려운 시간을 제시한다고 비판했다.

일부 배달 라이더들은 주행거리가 AI 배차 후 훨씬 늘어났지만 콜이 오지 않을까봐 수락할 수밖에 없고, AI알고리즘에 따라 배달료도 널뛴다며 AI가 호출 배정에 보수 결정까지 하고 있다고 분통을 터뜨렸다.

이에 대해 배달의민족 측은 "배달시간을 직선거리로 산출하지 않고, 지역의 이전 배달 데이터와 도로환경 등을 고려해 시간을 산출한다"며 "배달경로는 라이더가 정하는 것"이라고 해명했다.

또한 배달의민족은 "배달 시간은 의무 준수 사항이 아니고, 예상시간일 뿐"이라며 "배민은 라이더의 배달시간을 평가하지 않으며, 점수를 매기는 평점제를 운영하고 있지 않고 패널티도 없다"고 반박했다.

이러한 논란은 모든 알고리즘 자체에 "기업은 자신에게 이익을 가져다주는 방식으로 알고리즘을 짠다"는 기초적인 명제가 내재하기 때문이라는 분석이다. 알고리즘을 통해 회사가 수익을 더 높이 가져갈 수 있도록 짜기 때문이라는 것이다.

이 때문에 알고리즘이 의도하지 않았더라도 알고리즘 결과에 따라 수익이 결정되는 이해관계자들은 현재의 알고리즘 방식에 자신이 피해를 받고 있다고 느낄 수 있다. 문제는 알고리즘 자체가 매우 복잡하게 짜여 있고, 또 그 자체가 플랫폼 기업의 수익을 내는 강력한 수단이기 때문에 알고리즘에 쉽사리 손대기가 어렵다는 점이다.

밝혀내기 어려운 알고리즘 편향성.해외서도 주장 엇갈려

알고리즘 편향와 관련 알고리즘으로 배정받는 이해관계자와 기업 간 의견이 엇갈리는 것은 당연한 일이다. 직접적으로 알고리즘과 관련된 생계 유지를 하는 사람들은 알고리즘 편향성을 '감각'으로 느끼며 문제를 제기하지만, 다양한 요소들이 종합적으로 영향을 미치는 알고리즘의 편향성을 실제로 입증하기는 쉬운 일이 아니다.

알고리즘 문제에 가장 적극적인 유럽연합(EU) 집행위원회는 2017년 6월 구글의 검색결과에서 자사의 비교쇼핑 서비스인 구글쇼핑을 우대했다며 과징금을 물렸다. 집행위원회는 구글 본사의 서버를 조사해 자료를 확보한 게 아니라 자료 제출요구 등 간접적 방법을 동원하는 데 그쳤다.

이와 함께 최근 아마존에 대해서도 2019년 7월부터 아마존의 공정거래 위반 여부를 조사한 결과 독점금지 규정 위반 혐의로 기소했다. 아마존이 자사 플랫폼을 이용하는 판매자 상품 중 인기 있는 상품의 수익과 주문 수, 방문자 수 등의 비공개 데이터를 통해 자체 생산 브랜드의 신제품 가격을 더 낮게 유지했다고 판단을 내렸다.

미국에서도 구글에 대해 반독점 혐의를 제기하며 회사를 압박하고 있다. 지난 2019년 9월 미국 50개 주와 법무부는 구글과 페이스북에 대해 독점적 행위 혐의를 발표했다. 연방 거래위원회도 아마존과 페이스북이 시장 지배력을 남용했는지 여부를 조사하고 있다.

미국 법무부는 구글이 악의적인 행위 혹은 공정하거나 건전한 경쟁을 부정하고 독점권을 얻거나 유지했음을 증명해야 한다. 구글의 편재성이 경쟁자보다 그것을 선호하는 소비자들에게서 비롯된 것인지, 구글이 직접 그들을 소비자들에게서 멀어지게 했는지 여부에 따라 승패가 갈릴 예정이다.

이에 대해 구글이나 아마존은 강하게 반발하고 있다. 구글은 미국 법무부의 기소에 대해 "매우 잘못됐다(deeply flawed)"라며 "사람들은 그들의 선택으로 검색엔진을 사용하지 압박에 의해 사용하거나 대안을 못 찾아서가 아니다"라고 주장하고 있다. 아마존도 EU의 조치에 대해 "위원회의 주장에 동의하지 않는다"라며 "지난 20년간 아마존보다 중소기업에 더 관심을 기울이고 지원한 회사는 없다"라고 강변하고 있다.

미국에서도 구글 및 페이스북, 아마존, 애플 등의 독점적 지위에 관해 다양한 성토가 나오고 있지만 아직 실제로 처벌 사례는 없다. 실제로 테크기업들이 독점적 지위를 이용해 자사에 유리한 검색결과를 만들고 있다는 것을 입증하기가 매우 어렵기 때문이라는 이야기가 나온다.

알고리즘 등 인터넷기업 규제하는 새로운 법안 대두

지금까지 규제하기 쉽지 않았던 글로벌 테크기업들을 규제하는 법안도 속속 나오고 있다. 실제로 유럽연합집행위원회는 다음달 초 구글 등 디지털 플랫폼 기업을 겨냥한 디지털서비스법(DSA, Digital Service Act), 디지털시장법(DMA, Digital Markets Act) 등을 제정할 예정으로 의견 수렴을 하고 있다.

국내에서는 공정거래위원회가 네이버, 카카오 등 테크기업에 적용되는 온라인 플랫폼 공정화법(플랫폼공정화법)을 지난 9월부터 이번달 초까지 검토한 후 입법예고했다. 이 법안은 거대 온라인 플랫폼 회사의 불공정행위는 파급효과가 큰 만큼 이를 규제할 수단이 필요하다는 목적에서 만들어졌다.

법안에는 인터넷기업들이 입점업체에 시장지배적 지위 남용행위를 하면 법 위반액의 두 배에 달하는 과징금을 물게 한다는 내용이 포함됐다. 다만 혁신이 저해되는 것을 막기 위해 사업자가 제시한 자진 시정방안을 공정위가 타당하다고 인정하면 법 위반 여부를 따지지 않고 사건을 종결하게 하는 '동의의결제'도 도입했다.

이 같은 규제 움직임에 대해 인터넷 기업들은 자체적으로 알고리즘 윤리헌장을 발표하고 지침으로 삼고 있다고 강변하고 있다. 실제로 '인터넷 윤리'라는 것이 사실상 없었던 예전부터 테크기업들은 자체적으로 이러한 원칙들을 공표하고 지키고자 노력하고 있다는 설명이다.

카카오는 지난 2018년 1월 발표한 '알고리즘 윤리헌장'의 1항을 '카카오는 알고리즘을 통해 인류의 편익과 행복을 추구한다'고 규정했다. 2항에는 '알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다', 3항에는 '알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거해 수집·분석·활용한다' 등이 담겼다.

구글도 지난 2018년부터 '모두를 위한 책임 있는 AI 구축'을 통해 'AI 활용을 위한 7가지 지침'을 선보였다. 구글은 여기에서 사회적으로 유익하고, 불공정한 편견을 만들거나 강화하지 않고, 안전을 위해 제작되고 테스트되며, 책임을 지고, 개인 정보를 보호하며, 과학적 우수성을 담보하며, 목적 및 사용 등에 대한 원칙을 재고하는 등의 지침을 내부적으로 만들었다.

한 업계 관계자는 "알고리즘은 작용하는 과정 속에서 다양한 요소를 고려하기에 모든 이해관계자를 만족시킬 수 없을 수 있다"라며 "하지만 알고리즘을 통해 일자리 등 새롭고 다양한 기회를 제공하고, 시스템에 있어 보편적인 합리성을 가져오는 것을 무시해서는 안 된다"고 말했다.

kuh@kukinews.com 기사모아보기