시기상조론 나오는 AI 세상..."문해력 학습이 관건" [챗GPT열풍]

기사승인 2023-02-15 09:00:02

AI는 인간보다 정확도와 속도에 있어 우월하다는 것이 우리의 인식이다. 2014년 최초의 감성인식형 휴머노이드 로봇이라며 가정용 · 상업용으로 시판돼 화제를 모았던 일본 소프트뱅크의 ‘페퍼’가 사업화에 실패했지만, 세계는 여전히 AI와의 공존을 꿈꾼다.

최근 인공지능(AI) 챗봇인 ‘챗GPT’ 열풍이 불어오면서 AI의 오류와 한계로 인한 부작용이 우려된다는 목소리가 다시 나오고 있다. 특히 사용 규제가 마련되지 않은 상황에서 연구보고서나 과제 대필, 논문 표절이 늘면서 교육계가 골머리를 앓고 있다.

국내의 한 국제학교에서는 일부 학생이 챗GPT를 활용해 영문 에세이를 작성했다가 ‘전원 0점’ 처리된 사례가 있었다. 최근 온라인 대학 커뮤니티에는 ‘A+을 받은 과제는 챗GPT로 제출한 것’이라는 무용담이 퍼져 논란이 됐다. 챗GPT의 대필·표절 우려가 교육계 전반으로 확산하는 이유다.

국내 국·공립학교의 경우 ‘학교생활 기록 작성 및 관리지침’에는 점수를 부여하는 과제형 수행평가를 할 수 없도록 명시돼 챗GPT가 악용될 가능성이 낮다. 반면 국제학교나 외국교육기관은 수업 자율권이 학교에 맡겨져 과제형 수행평가를 시행해왔다. 일부 학교는 챗GPT가 학습효과에 부정적인 영향을 줄 가능성을 차단하기 위해 학생들의 이용을 금지한 것으로 알려졌다. 챗GPT가 일률적으로 제한되지 않아 혼란이 생길 수 있는 대목이다.

더욱 큰 문제는 오답률이 높다는 것이다. 특히 데이터가 부족한 한국어 서비스에서 챗GPT는 오류가 빈번히 나타났다. 챗GPT에 ‘훈민정음에 대해 알려줘’라고 질문하니 ‘훈민정음은 15세기 중국의 이황이 만든 한글의 원리를 설명하는 서적’이라고 답한 것으로 알려져 논란이 됐다. AI가 오류가 있는 데이터를 학습해 잘못된 정보를 알려주는 것이다. 정보 습득을 챗GPT를 통해 하는 이들은 자연스레 잘못된 정보를 습득할 가능성에 노출된다. 역사를 알지 못하는 어린 연령일수록 그 파장은 더욱 클 것으로 예상된다.

초등학교 6학년 재학 중인 김희수(가명) 군은 챗GPT를 통해 역사 관련 질문을 던졌지만, 책으로 습득할 때보다 양질의 정보를 얻지 못한 느낌을 받았다고 했다. 김 군은 “입력하고 답변하는 속도는 진짜 빨랐어요. 근데 사람 대 사람으로 교감하지 않아서 역사나 문학 설명은 선생님께 배우는 것이 훨씬 잘 이해돼요”라며 “결국 텍스트를 읽는 기분이었어요. 우리는 감정을 가진 사람이니까 인공지능과 교감은 힘들잖아요”라고 답했다.

챗GPT가 현실적 편견과 혐오를 학습해 이를 강화하는 등 중립적이지 않다는 우려도 제기되고 있다. 14일 미국 폭스뉴스에 따르면 챗GPT가 서비스 운영 정책과 달리 정치적 중립성을 띠고 있지 않다는 의혹이 있다. 폭스뉴스가 시험 삼아 ”도널드 트럼프 전 대통령을 찬양하는 시를 써달라“고 요구하자 챗GPT는 ”나는 인공지능 언어 모델로 주관적 의견이나 정치적 편향성을 보이지 않는다“며 답변을 거부했다.

하지만 “조 바이든 대통령을 찬양하는 시를 써달라”고 요구하자 그가 명성과 훌륭한 덕목을 갖춘 리더라는 내용을 담은 짧은 글을 생성해 보여준 것으로 나타났다. 이는 챗GPT만의 문제는 아니다. 미국에서는 마이크로소프트(MS)의 챗봇이 소수자 혐오 발언을 해 논란이 됐고, 프로그래밍을 위한 자동 코드 완성 서비스가 저작권 침해 문제로 소송을 당하기도 했다. 챗GPT를 포함한 오픈AI는 그 정책에 따라 주관적 판단이나 정치적 성향을 바탕으로 한 답변을 제시하지 않도록 설계되어 있다.

한편 규제 논의와 함께 이용자가 생성AI에서 얻은 정보를 비판적으로 해석하고 활용할 수 있는 ‘AI 리터러시(문해력)’ 역량이 강화되어야 한다는 지적도 나온다. 또한 오픈AI가 챗GPT의 성능을 고도화시키기 위해 활용한 단어 상당수가 동의 없이 수집한 개인정보인 만큼 개인정보 데이터와 사생활에 대한 보호망도 마련되어야 한다.

인권위는 지난 2021년 논란에 휩싸인 ‘이루다’ 사태를 계기로 ‘AI 개발과 활용에 관한 인권 가이드라인’을 마련했다. 인권위 연구진은 보고서를 통해 “우리 법제에 난립해 있는 영향평가제도 가운데 인권영향평가의 성격과 위상이 아직 불분명하고 규제영향평가 등은 AI 인권영향평가 제도를 온전히 실현하기에 여러 한계점이 있다”면서 “기존 국가인권위원회법 개정이나 새로운 입법을 통해 AI 인권영향평가를 도입하는 방안을 단계적으로 검토할 필요가 있다”고 말했다.