'기계 윤리'가 도리어 윤리적이지 않은 이유

태풍 '위투'의 영향으로 사이판에 발이 묶인 우리 관광객과 교민을 긴급 이송하기 위해 군 수송기 C-130이 동원됐다는 소식이 언론보도를 통해 전해졌다. 하지만 해당 수송기는 한 번에 최대 114명의 인력만 이송 가능한 까닭에 1800명가량이 국내로 들어와야 하는 이 긴박감 속에서 자연스럽게 어떤 이들을 먼저 이송해야 하는가 하는 선택의 문제가 발생하게 된다. 정부는 노약자를 우선 이송할 계획이라고 발표했다.

약자를 보호해야 한다는 취지는 대체로 사회적 합의가 이뤄진 사안으로, 이러한 도덕적 판단에는 갈등 내지 문제점이 들어설 여지가 딱히 없어 보인다. 그렇다면 이런 경우는 어떨까? 흔히 농담 삼아 이야기하곤 하는 것인데, 만약 부모님과 아내, 혹은 자녀와 아내가 동시에 물에 빠졌다고 가정해보자. 안타깝지만 이들 가운데 오직 한 사람만 살릴 수 있다고 한다면 당신은 어떤 선택을 할 것인가?

군 수송기로 관광객 긴습 수송 ⓒ세계일보

물론 너무 난해한, 아니 난처한 질문임이 분명하다. 왜냐하면 예시로 든 선택은 아무리 가정법이라고 해도 우리 곁에서 늘 함께하는, 둘도 없이 소중한 사람들인 까닭에 이들 가운데 가치의 우열을 가려 선택해야 하는 행위만으로도 지나치게 가혹한 고문으로 다가오게 하기 때문이다. 그럼에도 불구하고 어쨌든 반드시 한 사람을 골라야 하는 상황이라면 우리는 각기 처한 정황에 따라 눈물을 머금고 누군가 한 사람을 선택할 수밖에 없을 테다. 가정만으로도 고통스러운 감정을 불러일으키게 하는 사례다.

그런데 이러한 문제는 어쩌면 향후 사람이 아닌 인공지능에 의해 조종될 자율주행차량에도 중요한 이슈로 다가올지 모르는 사안이다. 실제로 자율주행차량이 도로를 운행 중 아이 또는 노인 둘 가운데 반드시 한명을 칠 수밖에 없는 절박한 상황과 맞닥뜨리게 된다면, 과연 어느 누구를 구하도록 인공지능을 프로그램해야 하느냐 따위의 ‘기계 윤리’(machine ethics)가 최근 화두로 떠오르고 있다.

언론보도에 따르면 미국 MIT 연구진이 세계 233개 국가의 230만 명을 대상으로 이러한 딜레마에서 주행 상황 전체를 총괄하고 책임져야 할 인공지능이 어떤 결정을 내려야 하는가에 대한 온라인 설문 결과를 분석, 발표했다. 설문은 누군가의 죽음을 피할 수 없는 가상 시나리오 13개로 구성돼 있다. 가령 남성과 여성, 아이와 노인, 노숙자와 기업 임원 등 둘 중 누구를 살릴 것이냐에 관한 질문이다.

결과는 정치 경제 사회 문화 등 제반 여건이 상이한 국가들에 따라 각기 다른 답변이 나왔다. 짐작 대로다. 예컨대 경제적 불평등 정도가 상대적으로 낮은 국가인 핀란드 등지에서는 노숙자와 기업 임원 가운데 누구를 살려야 하느냐는 질문에 특별히 어느 한쪽으로의 치우침 없는 경향성을 드러냈으나, 그와는 반대로 불평등이 심한 국가인 콜롬비아 등지에서는 노숙자를 희생시켜야 한다고 답했다. 아울러 아동과 노인 둘 중 노인을 살려야 하는 비중이 그렇지 않은 경우보다 상대적으로 많이 나온 곳은 우리나라를 비롯한, 주로 유교 문화권에 속하는 국가들이었다.

이러한 논의가 이뤄지는 배경에는, 서두에서 언급한 사례처럼 인간은 위급한 상황과 맞닥뜨리게 될 경우 보편적으로 도덕적인 판단 잣대에 따라 선택이 이뤄지고 그에 맞춰 행위하곤 하는데, 인공지능은 인간과 달리 그러한 가치판단 능력을 일절 지니지 않고 있다는 점 때문일 테다. 하지만 그 위급이라 불리는 상황도 사실은 사안에 따라 그 정황이 제각기 달라질 수밖에 없는 구조다.

ⓒ한겨레

서두에서 언급했던 것처럼 자연재해로 인해 사람이 고립될 경우 이들을 구조하는 과정에서 순서를 어떻게 정할 것인가 하는 가치판단 문제 따위를 우선 들 수 있다. 즉, 이는 구조 순서에 따라 단지 고립 시간이 길어지거나 단축되는 결과가 빚어질 뿐 생과 사를 가르는 절체절명의 상황과는 직접적인 관계가 적은 경우다. 반면, 자동차 사고에서 누구를 칠 것이며 물에 빠진 사람 가운데 누구를 살릴 것인가와 같은 가정은 어떠한 선택이 되든 결과적으로 생과 사를 극명하게 가르는 극한 상황과 연루된 사안이다.

그러니까 전자처럼 순차적으로 이뤄지는 구조에 있어 이를 약자에게 양보하는 사안은 인류의 보편적인 도덕적 판단에 따르는 것으로 볼 수 있겠지만, 후자의 경우처럼 누군가의 생과 사를 결정해야 하는 사안은 아무리 합리적이며, 이성적인 판단과 그에 따르는 선택이 이뤄진다 해도 결코 보편적이며 객관적인 윤리적 판단 기준에 의한 결과물이라고 말할 수 없을 테다. 아니, 아무리 기계가 가치판단 능력이 없어 그러한 기능이 절실하다고 해도 사람의 목숨을 놓고 저울질을 하거나 흥정을 벌이는 가정 그 자체만으로도 이미 윤리적일 수 없으며 바람직스럽지 못하다.

아이의 생명과 노인의 생명, 둘 가운데 어느 것은 더 소중하고 어느 것은 상대적으로 그렇지 못하다고 단정 지을 수 있는가? 아이는 앞으로 오래 살아야 하고, 노인은 살 만큼 살았으니 아이에게 양보해야 한다는 판단 잣대는 과연 온당한 걸까? 그렇지 않으면 웃어른을 공경해야 하기 때문에 노인에게 양보해야 한다는 판단 잣대가 과연 옳은 걸까? 어느 경우가 도덕적이며 윤리적이라고 말할 수 있는 걸까?

노숙자는 돈을 벌지 못하고 주로 사회에 민폐만 끼치는 부류인 까닭에 만약 CEO 등 기업 임원과 노숙자 둘 가운데 한 사람의 생명을 구해야 하는 상황이라면, 기업 임원에게 손을 들어주어야 한다고 주장하는 건 오로지 판단 기준이 경제적 가치에만 집중되어 있기 때문이 아닐까? 사람마다, 국가마다, 체제마다, 그밖에 여러 이유로, 같은 사안이라 해도 판단 기준이 제각기 다를 텐테, 과연 보편적인 도덕적 판단이란 게 가능하긴 한 걸까? 사람 목숨을 놓고 저울질을 한다는 게 과연 온당한 걸까?

'기계 윤리', 이름만 보아서는 무척 윤리적일 것 같은 이 그럴 듯한 개념이 사실 알고 보면 발상 자체부터 이미 윤리와는 거리가 멀다. "모든 국민은 인간으로서의 존엄과 가치를 가진다."고 명시한 헌법 제10조에서 보장하는 국민의 기본권으로부터도 크게 벗어나 있다. 적어도 인간의 생명만큼은 특별한 가치판단에 의해 그 잣대가 그때그때 달라져서는 안 되는 절대적인 명제 아닐까? 굳이 피할 수 없는 사고라면 이에 개입하려 하기보다 전적으로 자연발생적인 상황에 맡기는 게 옳지 않을까?

때문에 혹여 자율주행차량이 사람을 치어야 하는 극단적인 상황과 맞닥뜨리게 된다 해도, 물론 이러한 사례는 지극히 이례적인 것이겠지만, 보편적인 도덕적 판단이라는 명분 아래 사람의 생명을 놓고 저울질하며 어떤 식으로든 가치판단을 유도하는 기능이 인공지능에 탑재되어선 곤란하다. 우연과 우연이 겹쳐 빚어지는 자동차 사고마저 인공지능에 의해 일정한 방향으로 유도된다는 건 인류에게는 또 다른 재앙으로 다가올 공산이 크기 때문이다.