정부가 인공지능(AI) 규제 관련 고삐를 쥐고 있다. AI의 파급력을 고려, 부작용을 최소화하겠다는 취지다. 다만 업계에서는 AI 활성화를 함께 고려해달라는 목소리가 높다.

개인정보보호위원회(개인정보위)는 28일 ‘주요 AI 서비스 사전 실태점검 결과’를 발표했다. 전날인 27일 전체회의를 열고 오픈AI, 구글, MS, 메타, 네이버, 뤼튼 등 대규모언어모델(LLM)을 개발·배포하거나 이를 기반으로 AI 서비스를 제공하는 사업자에게 개인정보 보호 취약점 보완 권고를 의결했다.

개인정보위는 지난해 11월부터 주요 ai 서비스를 대상으로 사전 실태점검을 진행했다. 그 결과 △공개된 데이터에 포함된 개인정보 처리 △이용자 입력 데이터 처리 △개인정보 침해 예방·대응 조치 등에서 일부 미흡한 사항이 발견됐다. AI 학습 데이터에 주민등록번호와 여권번호 등 개인정보가 포함될 수 있다는 것이다. 실제로 지난해 기준 2만999개 페이지에서 이같은 개인정보가 탐지됐다. AI 서비스 및 LLM 취약점 발견 시 신속히 조치할 수 있는 프로세스를 갖추도록 개선도 권고됐다.

개인정보위는 AI 사전 실태점검 외에도 AI 관련 6대 가이드라인 등 정책 방향 마련도 추진하고 있다. 기획 및 데이터 수집 단계부터 학습단계, AI 서비스 단계 등에서 각각의 가이드라인을 제시하는 것이다.

과학기술정보통신부(과기부)와 방송통신위원회(방통위)도 같은 날 정책협의회를 구성했다. 방송, 통신뿐만 아니라 AI·디지털에 대한 원활한 정책협력을 진행한다는 방침이다. 이와 함께 방통위는 올해 업무 계획에서 AI 이용자 보호법 제정을 추진한다고 밝혔다. AI 등 새로운 디지털 서비스의 부작용으로부터 이용자를 보호하는 데 역량을 집중한다는 것이다.

전세계적으로도 AI 규제를 고민 중이다. EU는 지난 13일 세계 최초로 포괄적 AI 규제법을 마련했다. AI 활용 분야를 4단계의 위험 등급으로 나눠 차등규제 하는 내용이 골자다. 고위험 등급으로 분류되는 의료, 교육, 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 반드시 사람이 감독해야 한다. 위험관리시스템 구축도 필수다. AI 학습 과정에 사용한 콘텐츠를 명시하는 것도 필요하다. 법 위반 시에는 전 세계 매출의 최대 7%에 해당하는 과징금이 부과될 수 있다.

지난 21일 열린 UN 총회에서도 AI의 안전한 사용에 관한 국제적 합의를 시급히 마련해야 한다는 결의가 공식 채택됐다. 120개 회원국이 해당 결의에 모두 동의했다. 만장일치다.

국내에서도 AI 법안 마련을 위한 민관 논의가 이어지고 있다. AI 관련 법안은 현재 국회에 계류 중이다. 다음 달 총선이 끝난 이후 새롭게 구성된 국회에서 재논의가 이뤄질 것으로 보인다.

AI 업계에서는 AI 규제 논의에 대해 공감하지만 산업 발전 상황을 고려해야 한다는 의견이 나온다. 우리나라는 AI 산업 후발주자다. AI 생태계 조성 및 기술력 확보를 위해서는 많은 투자가 필요한 시점이다. 과잉 규제로 인해 AI 산업이 좌절돼서는 안 된다는 것이다.

특히 AI 학습 데이터 규제에 대한 우려가 컸다. AI 발전을 위해서는 방대한 학습데이터가 필수적이다. 이를 지나치게 규제할 경우 산업 발전 전반이 저해될 수 있다는 지적이다. 익명을 요구한 업계 관계자는 “규제도 필요하지만 AI 학습 데이터를 어디까지 허용할지 체계를 잡아야 한다”며 “기업 규모가 작을수록 합법적으로 학습할 수 있는 데이터의 범위도 사실상 줄어든다”고 설명했다. 그는 “무작정 다 안 된다고 하면 AI 연구가 뒤처질 수 밖에 없다”며 “AI는 아직 갈 길이 먼 기술이다. 활용 가능성과 부작용을 잘 조율해야 한다”고 말했다.

국가 미래 경쟁력을 위해 전략적인 AI 육성과 진흥이 필요하다는 언급도 있었다. 또 다른 업계 관계자는 “글로벌 AI 규제 법안을 살펴보면 안전한 AI 사용을 위한 부분도 있지만 자국의 AI 기술 경쟁력을 제고하려는 의도도 담겨있다”며 “EU의 경우에는 자국 AI 스타트업은 규제샌드박스를 통해 규제를 유예해주지만, 미국 기업인 구글, 애플, 메타 등을 강하게 제재하고 있다”고 꼬집었다.

이소연 기자 soyeon@kukinews.com