[금진호의 AI, 사람을 향하다] AI는 무릎 꿇지 않고 책임지지 않는다

금진호 목원대학교 겸임교수/인간 중심 AI 저자

기사승인 2025-07-02 10:11:50

인간은 책임을 갖는 유일한 존재다. 꽃이 피지 않는 이유를 하늘 탓이라 하지 않지만, 인간은 다르다. 우리는 선택 앞에서 떨고, 결과 앞에서 괴로워하며, “그때 왜 그랬을까”라는 물음으로 수많은 밤을 불태운다.

이제는 인간이 아닌 AI가 선택하고, 판단하고, 결과를 만들어내는 시대다. GPT든, 자동 판독기든, AI의 출력은 날로 정교해지고 있다. 그 결과는 때로 생사를 가르고, 진실과 거짓을 결정하며, 인간의 삶을 송두리째 흔들기도 한다. 하지만 그 결과의 책임은 누구의 것인가?

AI는 선택하지만, 책임지지 않는다. AI는 추론하지만, 후회하지 않는다. AI는 작동하지만, 책임이라는 단어 앞에서 무릎 꿇지 않는다.

AI의 판단은 곧 인간의 그림자다. 기계가 만든 결론이라고 해서, 그것이 사람의 손에서 완전히 벗어난 것은 아니다. AI는 데이터를 따라 흐르고, 사람의 손길을 따라 훈련되며, 인간의 판단 기준을 수면 아래에서 반영한다. 그러므로 AI의 판단이 잘못되었을 때, 책임을 전가할 곳은 없다. 아니, 있다면 그것은 바로 사람이다.

AI를 개발한 사람, 승인한 사람, 사용한 사람. 하지만 AI는 사과하지 않는다. 그러나 사람은 고개를 숙일 수 있다. 그것이 윤리이자 문명이다.

인간의 정서는 책임의 씨앗이다. 우리는 감정을 통해 책임을 인식한다. 죄책감, 후회, 동정, 공감이 모든 감정이 ‘책임’이라는 구조물을 세우는 벽돌이 된다. 하지만 AI는 이 감정을 모른다. 알지 못하는 것이 아니라, 알 필요조차 느끼지 못하는 존재다. 그렇다면 누가 이 결과의 의미를 붙잡고 해석하고 감당할 것인가? 바로 그 결과에 정서적으로 반응할 수 있는 존재, 즉 인간이다.

우리는 AI를 책임질 수 있어야만 신뢰할 수 있다. AI는 도구일 뿐이다. 도구에 윤리를 묻는 것은 잘못된 질문이다. 윤리는 언제나 인간의 몫이다. 도구는 우리 손에 있고, 책임도 마찬가지로 우리 손에 머물러야 한다. AI가 아무리 뛰어나더라도 그 출력물에 인간의 마음이 닿지 않는다면, 그건 단지 꽃의 숫자요, 계산된 정원일 뿐이다.

책임은 감정에서 비롯된다. 감정은 생명에서 비롯된다. 그리고 생명은 바로 인간만이 지닌 가장 큰 특권이자 짐이다. 그러니 기술의 발전이 우리의 손을 떠나기 전에, 우리는 스스로 질문해야 한다. “이 판단 앞에서, 나는 고개를 숙일 수 있는가?”

AI는 이미 수많은 분야에서 인간보다 정확하고, 일관되며, 편견이 적은 결정을 내려오고 있다. 예컨대 의료 영상 판독에서 초기 암 진단에서 AI는 의사보다 더 빠르고 정밀한 진단을 한다. 기후 예측에서도 복잡한 기상 패턴을 분석해 조기 경보를 가능하게 하며, 범죄를 예측함에도 과거 데이터를 기반으로 치안 강화 지역을 제안한다. 이러한 결과들은 인간의 한계를 보완하고, 때로는 구원과도 같은 효용을 안겨준다. 그렇다면, 이 유용한 결과 앞에서도 책임이라는 개념은 여전히 유효할까?

AI가 내놓는 정확하고 옳은 결과가 있다 하더라도, 그 "옳음"이 윤리적 정당성을 자동으로 확보하는 것은 아니다. 예를 들어 AI가 "이 사람을 뽑는 것이 통계적으로 최적의 선택이다"라고 말했을 때, 그 근거가 과거의 편견 된 데이터에 기반 한다면, 그 결과는 정확하지만 정의롭지 않을 수 있다. 또 AI가 환자를 조기에 발견해 치료했지만, 그 과정에서 환자의 정보가 충분히 보호되지 않았다면, 결과는 옳되, 과정은 옳지 않은 것이 된다.

책임은 결과보다 앞선다. 우리는 AI가 좋은 결과를 내놓았다고 해서, 그에 대한 책임을 AI에게 인정하거나 부여해서는 안 된다. 그것은 칭찬과 벌을 느끼지 못하는 존재에게 도덕의 자격을 씌우는 일이다. 인간이 만든 칼이 생명을 구했다고 해서, 그 칼을 영웅이라 부르지 않듯이 AI가 만든 정확한 결과 역시 그 정확함을 선택한 인간의 책임 아래 있는 것이다.

AI는 결과를 내놓고, 인간은 그 결과의 윤리적 울림을 해석하고, 감정하고, 수용해야 한다. 정확하고 좋은 결과일수록, 우리는 더 깊은 책임감과 정서적 성찰을 통해 그 결과를 사회 안으로 안전하게 정치화하고, 문화화하고, 제도화해야 한다. AI가 정확하고 옳은 일을 했을 때, 인간은 무엇을 해야 하는가? 우리는 박수하기 전에 먼저 물어야 한다.

"그 옳음은 누구를 위한 것이었는가?"