자율운전차량의 딜레마와 우리의 미래

2018.3.29

2016년 6월에 저명한 과학잡지인 사이언스에 자율 운전 차량의 사회적 딜레마라는 논문이 출판되었다. 이 논문에서 말하는 딜레마란 사람들이 자율운전차량이 이래야 한다고 생각하는 것이 상황에 따라서 달라진다는 것이다. 이것은 중요하고 흥미로운 문제이므로 여기에 잠깐 소개해 본다. 

 

이 논문의 저자들은 미국 사람들 대상의 설문조사에서 이런 질문을 던졌다. 자율운전 자동차가 그 자동차를 타고 있는 사람과 길을 가는 보행자중의 한 쪽 밖에 구하지 못한다면 어느 쪽을 구해야 할까. 예를 들어 핸들을 꺽어서 방향을 바꾸면 절벽으로 차가 떨어져 운전자가 죽지만 그냥 직진하면 보행자를 죽이게 되는 상황을 상상할 수 있을 것이다. 

 

물론 이 답은 그 자동차안에 몇명의 사람이 타고 있고 그 자율주행차가 보행자 몇명을 죽이게 될 것인가 하는 것에 영향을 받는다. 예를 들어 운전자 한명을 구하기 위해 길가는 사람 열사람이 죽어야 한다면 그건 아무래도 찬성하기 어렵지만 반대로 길가는 사람 한 사람을 구하자고 차에 탄 열사람을 죽이는 것은 옳아 보이지 않는다. 하지만 이 답은 단순히 숫자에 관한 것일 수만은 없는데 차를 타고 있는 사람은 자율운전차에 대해 보다 책임이 있는 것같기 때문이다. 그러니까 운전자와 보행자중의 하나가 죽어야만 한다면 아무래도 운전자가 죽어야 할 것같다. 

 

설문조사에 따르면 사람들은 상상할 수 있는 반응을 내놓았다. 그들은 일반론적으로 말해서는 자율운전차량이 운전자보다는 보행자를 보호하는 것이 도덕적이라고 생각했다. 그런데 그들에게 운전자와 보행자중에 운전자를 보호하는 차량을 살 것인가 보행자를 보호하는 차량을 살 것인가라고 물었더니 그들은 운전자를 보호하는 차량을 살 것이라고 답한 것이다. 즉 아무래도 내 생명이나 내 가족의 생명을 보행자의 생명보다 더 중요하게 생각한다는 사실을 사람들은 숨길 수가 없었다. 그러니 시장에 두 종류의 차를 모두 내놓으면 주로 팔리는 차는 운전자를 보호하는 차들일 것이다. 이것이 자율운전차의 딜레마이다. 

 

이 딜레마는 우리로 하여금 기술과 우리가 살아가는 세상에 대해서 많은 것을 생각해 보게 만든다. 그것은 단순히 자동차에 머무는 문제가 아니다. 예를 들어 현대 문명 사회는 어떤 독재자의 판단이 아니라 법과 규칙의 지배를 받는다. 그리고 우리는 법이란 정의에 대한 충분조건은 아니라고 해도 정의의 필요조건은 된다고 믿는다. 다시 말해 사회적으로 법이란 이러저러한 일은 이러저러하게 처리되어져야만 한다고 정해진 규칙이라는 것이다. 

 

그런데 법을 생각해 보면 우리는 우리가 자율운전차의 딜레마와 같은 종류의 딜레마를 가지게 된다는 것을 알게 된다. 어떤 사람이 살인을 했으면 그는 법률이 정한대로 살인죄로 처벌받아야 한다. 이런 의미에서 법률이란 인공지능의 자율주행차과 비슷한 면이 있다. 법률을 만드는 인간들이 이렇게 결론이 나오도록 정해놓으면 사건이 주어졌을 때 그 법이 결과를 내놓는다. 물론 우리는 여전히 법관이 필요하고 법의 해석에는 다툼의 여지가 있으므로 인간이 법의 해석에 끼어들지만 굳이 어떤 인간이 판단을 내리도록 하지 않고 인간을 초월하는 존재인 법체계가 결론을 내도록 만들어 놓은 것은 인간이 법체계보다 못한 면이 있어 보이기 때문이다. 

 

예를 들어 왕의 뜻이 곧 법인 세상을 생각해 보자. 그러면 같은 행위에 대해서 같은 판단이 안 나올 것같다. 사람인 왕은 위에서 말한 자율주행차의 딜레마를 겪을 것이기 때문이다. 자기 자신을 포함해서 자기에게 가까운 사람에게 판결을 내릴 때와 낯선 사람에게 판결을 내릴 때 답이 달라질 것이다. 그것은 사회적으로 더 큰 불확실성을 만들어 낸다. 

 

법의 이상이 무엇인가를 논하는 것은 간단한 문제가 아니지만 그래도 법치사회란 기본적으로 사람이 끼어들 필요도 없이 어떤 행동에 대해 예측가능한 결과가 나오는 세상을 의미한다. 누군가가 축구공을 차서 상대편 골대에 집어넣었으면 비록 심판이 있기는 하지만 모두가 그것이 득점이라는 것을 알고 있고 기대한다. 심판의 개입은 필요악일 뿐이고 게임은 법칙에 따라 거의 자동적으로 이뤄진다. 

 

듣다보면 이것이 시장주의자들의 노래이기도 하다는 것을 알 것이다. 시장의 법칙이 가장 효율적인 답을 찾는다는 그것말이다. 우리는 비록 더이상 시장법칙을 절대적으로 믿지 않지만 오늘날 시장의 역할을 무시할 수 있는 사람은 거의 없다. 그런 의미에서 우리는 부분적으로만 자유주의자가 아니고 시장주의자가 아닐 뿐 대부분은 그냥 자유주의자다. 기본적으로 정해진 법규가 있을 뿐 자율적이고 자유롭게 움직이는 사회를  꿈꾸지 중앙에서 모든 것이 일일이 명령으로 내려오는 사회를 꿈꾸지 않는다. 축구만 그런게 아니고 시장만 그런게 아니고 국가같은 사회조직도 인간의 개입은 필요악인 게임이다. 우리는 규칙을 정하고 그 규칙이 기본적으로 자동적으로 답을 내놓는 사회를 만들었다. 그것이 더 효율적이다. 도로에서 차가 우측통행을 하는 것이 법이라면 우측통행을 하지 않는 차는 잘못하고 있는 것이다. 굳이 왕에게 이것이 잘못인지 안 물어봐도 된다. 전근대적인 왕조사회가 왜 망했는가가 분명하다. 현대 공화국과는 경쟁이 안된다. 전자통신이 발달하여 사회가 빠르게 움직이려고 하는데 시시비비를 가리는 시스템이 그렇게 애매하고 느려터져서야 사회적 경쟁력을 그 판단시스템이 다 파괴할 것이다. 

 

여담이지만 민주사회에서도 권위주의적 정권은 같은 일을 한다. 요즘 이명박 박근혜 정권때에 있었던 여러가지 일들이 밝혀지면서 그것들이 너무나도 터무니없이 비합리적이라는 것을 우리는 느낀다. 자원투자를 한다던가 세월호 사건때 일처리를 한다던가 하는 일이 너무나 바보같다. 왜 그렇겠는가? 권위주의적 시스템에서는 시스템 내부의 사람들이 규칙에 의해서 알아서 움직이는 게 아니라 중앙에서 명령이 내려오기만 기다리며 자신은 어떤 작은 결정도 할 권한도 능력도 없다고 느낀다. 방송에서 배가 물속에 가라앉는 것이 보여도 다들 누군가는 이 일에 대처하고 있겠지, 나는 컨트롤타워가 아니다하는 식으로 움직이지 않는다. 턱도 없는 자원투자에 돈이 들어가도 누군가는 이유를 알겠지 하고 입을 다물어 버린다.

 

자 이제 다시 자율주행차로 돌아가 보자. 인공지능이 없던 시절에는 우리는 어떤 판단들을 인간에게 의존할 수 밖에 없었다. 차를 모는 사람은 교통법규를 지킬 것을 요구당하지만 어떤 교통법규도 자기 목숨과 보행자의 목숨중에 어느 쪽을 선택해야 한다는 수준까지 정해놓을 수는 없다. 심지어 살인도 정당방위면 무죄다. 왜 자기 목숨을 포기하지 않았냐고 운전자에게 물을 수는 없는 것이다. 

 

자율주행자동차가 좋은 예이지만 인공지능이 발달하고 더 많은 자동화 시스템이 발달할 수록 우리는 둘 중의 하나를 선택하도록 압력을 받을 것이다. 하나는 인공지능에게 어떤 규칙을 주고 그 규칙대로 행동하라고 하면서 그 안에서 게임에 참여하는 것이다. 또 하나는 그런 게임에 참여하지 않는 것이다. 내가 둘중의 하나를 선택해야 한다고 말했지만 사실 어느 쪽이 경쟁력있는 선택인지는 분명하다. 이건 법체계가 있는 사회에서 살 것인가 아니면 법은 없고 어떤 지배자의 개인적 지배에 따라 움직이는 사회에서 살 것인가의 선택과 같기 때문이다. 현대 사회를 포기하고 부족사회로 돌아가서 살면 서부영화에 나오는 인디언이나 유럽사람들에게 멸종당하고 땅을 빼앗긴 남미의 원주민처럼 살게 될 것이다. 

 

어떤 사회가 점점 더 많이 인공지능을 규칙 시스템의 일부로 가지게 되는 것은 괜한 일이 아니다. 식량생산, 무기 개발, 인구조절등 여러가지 사회적 측면에서 경쟁력이 그쪽에 있기 때문이다. 이쯤 되면 이미 우리가 저명한 과학잡지에서 자율주행차의 딜레마를 논하는 시대를 살고 있다는 사실이 좀 다르게 보일지도 모른다. 그것은 분명 그래야 한다. 왜냐면 인공지능의 합리적 판단이란 인간적인 판단과는 많이 다를 것이기 때문이다. 인간은 합리적이지 않다. 그래서 합리적인 결정은 종종 우리를 슬프게 할 것이다. 그렇다고 해서 우리가 그것으로부터 무조건 도망치면 과학의 시대가 왔는데 무당에게만 의존하는 사람처럼 행동하는 꼴이 될 것이다. 결국 우리가 도망치고 있는 것은 미래 그 자체다.