확률과 우리가 받아 마땅한 보상

16.9.9

 

내가 사는 건물의 계단에는 소화기가 하나 놓여져 있다. 그리고 지은지 2년이 조금 넘은 이 건물에는 다행히도 불이 난 적이 없다. 그러니 그 소화기도 당연히 사용된 적이 없다. 그런데 만약 이 집에 계속 불이 나지 않는다고 해보자. 한 20년간 불이 나지 않는 것이다. 

 

이렇다고 할 때 한번도 사용되지 않은 소화기는 돈의 낭비일까? 이 질문에 대한 대답 중의 한 극단에는 사용되지 않은 소화기는 가치가 없는 투자였다고 하는 주장이 있다. 그런 주장의 근거로 20년간 불이 나지 않았다는 사실이 그것을 증명해 준다고 제시될 법하다. 그러나 이정도 상황에서는 그것이 극단적이고 말도 안되는 주장이라고 생각하는 사람도 많을 것이다. 소화기는 말하자면 보험같은 것이다. 건물의 가격과 소화기의 가격을 비교했을 때 그것은 20년짜리 보험가격치고는 그다지 비싸지 않다. 따라서 우리는 불이날 확률과 우리가 입을 손해액에 대한 계산을 통해서 아마도 소화기를 사는 것은 투자할 만한 가치가 있었다고 하는 결론을 내릴 것이다. 

 

이렇게 소화기의 경우에는 사용되지 않은 소화기도 그 가치를 인정받는다. 하지만 이 세상에 존재하는 많은 것들의 역할에 대해서 우리는 그렇게 해주지 않는 경우가 많다. 그것은 우리의 관습과 게으름 그리고 지적이고 언어적이고 유전적인 한계때문이다. 우리는 기계적 인과론에 중독되어져 있다. 내가 말하는 기계적 인과론이란 가는 나때문에 생기고 나는 다때문에 생기는 식의 확률 100%의 인과 관계를 가정하는 것을 말한다. 예를 들어서 자동차에서 당신이 악셀을 밟으면 엔진에서 힘을 발생시키고 그 힘은 구동축을 따라서 바퀴로 전달된다. 이 인과 관계의 고리에서 각 단계는 전 단계에 의해서 일어난다. 즉 우리는 어떤 일이 일어나는 이유를 명확히 그 이전단계로 지목할 수 있다. 그러므로 정상적으로 작동하는 자동차의 경우 자동차가 앞으로 가는 원인은 악셀을 밟은 당신이라고 우리는 말할 수 있다. 

 

우리가 자연이든 사회든 세상을 볼 때 우리는 이같은 설명을 찾아내려고 노력한다. 물리학이나 생물학에서도 그럴 뿐만 아니라 왜 금리가 지금 올라가는가라던가 지난 대선의 결과는 왜 그래야만 하는가에 대해서 생각할 때도 우리는 대부분의 경우 기계적 설명을 구성하려고 노력한다. 다시 말해 가는 나때문에 생기고 나는 다때문에 생긴다는 식의 설명을 만들어 내려고 하고 많은 경우 그런 설명을 구성해 내는데 성공하는 것이다. 

 

그러나 이런 설명이 진짜로 존재하는 것은 오직 우리들의 상상속에서 뿐이다. 예를 들어 물리학에서 조차 두개의 질점이 서로를 중력으로 당길 때 속도가 어떻게 변하는가하는 질문은 우리의 관념이고 상상일 뿐이다. 현실세계에는 두개의 질점만 존재하지 않는다. 그런 고립계는 오직 근사적으로만 존재하고 세상은 복잡하다. 비유클리드 기하학이 나오자 우리는 삼각형의 내각의 합이 180도라는 것은 현실 그자체가 아니라 유클리드 기하학이라는 수학 안에서만 말할 수 있는 것이라는 것을 알게 되었다. 즉 우리는 수학이라는 틀을 통해 세상을 봤고 세상이 그 수학과 제 아무리 비슷해도 수학이 세상 그 자체는 아니라는 것을 새삼 깨닫게 된 것이다. 이것은 물리학도 마찬가지다. 물리학도 세상 그 자체가 아니라 세상을 보는 우리의 관념에 불과하다. 물론 불과하다고 말할 수는 없다. 그것은 매우 정교하게 만들어진 것이다. 그러나 세상 그 자체는 아니다. 그렇기 때문에 지극히 당연해 보이던 뉴튼 물리학도 상대성이론이나 양자역학으로 교체되어야 했던 것이다. 

 

수학이나 이론 물리학은 매우 강력하고 편리한 것이지만 동시에 지극히 인위적이고 단순화된 무대다. 앞에서 예로 든 우리가 만든 기계도 그렇다. 그러니까 생물학을 넘어서 경제학 사회학으로 가고 아예 학문을 넘어 실제 세상을 본다면 완벽한 기계적 설명은 존재할 수가 없거나 적어도 그 힘이 크게 약화된다. 그럼에도 불구하고 현실적으로는 우리의 뇌가 가지는 한계때문에 우리는 그저 몇개의 요소가 등장하는 설명을 만들어 낸다. 우리는 오캄의 면도날 원칙을 주장하면서 설명은 짧으면 짧을 수록 좋다고 말한다. 그리고 우리가 어떤 설명을 하나 구성해 낼 수 있었을 때 그 설명이 맞다는 것을 굳게 믿는다. 

 

이것은 단순히 우리의 설명이 한계가 있으며 개선의 여지가 있다는 말을 하는 것이 아니다. 이런 기계적 인과론으로 세상을 볼 때 소화기의 가치는 망각하기가 쉽다. 소화기는 계단위에 그저 가만히 있었을 뿐 아무 것도 하지 않았기 때문이다. 소화기로 시작되는 인과관계는 시작된 것이 없다. 우리는 이런 이유로 해서 세상에 대한 고마움을 잊는다. 세상에 대한 간단한 설명을 만들어 내고는 그것을 믿기 때문에 그 설명에 등장하지 않는 수없이 많은 것들은 무가치하다고 생각하게 되는 것이다.  

 

이 세상에는 자기가 세상을 구한 영웅인지도 모르는 영웅들, 그리고 세상이 몰라주는 영웅들이 셀 수 없이 많이 있다. 우리는 애초에 그들을 다 알 수도 없을 뿐만 아니라 특정하게 단순화된 시각으로 세상을 보기 때문에 그들의 가치를 전혀 모른다. 대개의 사람이 공기에 감사하지 않는 것과 마찬가지다. 때로 우리는 누군가를 완전히 상실하고 나서야 그 가치를 깨닫는다. 옆에 있을 때는 그 사람이 뭘하고 있는지, 그 사람의 가치가 뭔지를 알고 있다고 생각했지만 나중에 생각이 바뀌는 일은 얼마든지 있다. 우리는 어리석기 때문이다. 뒤집어 말하면 우리는 세상으로부터 공평한 대접을 받기가 불가능하다. 우리의 가치를 세상은 이해하기 어렵고 특히 점차로 복잡해져 가는 세상에서는 더 그렇다. 세상은 오히려 가면 갈수록 로또복권같아지고 있다. 

 

확률론과 인공지능의 시대

 

세상을 보는 보다 합리적인 방법은 확률론적인 인과를 찾는 것이다. 다시 소화기로 돌아가보자. 우리는 실제로 일어나지 않은 일들의 확률까지 생각해서 소화기의 가치를 계산해야 한다. 문제는 이것이 어렵다는 것이다. 노벨 경제학상을 수상한 다니엘 카네먼이 쓴 책, 생각에 관한 생각의 핵심적 내용은 바로 인간이 확률 계산을 잘 못한다는 것이다. 심지어 수학적 훈련을 받은 사람이라도 그저 감에 따라서 행동했을 때 확률적으로 비합리적인 결론을 내리기 쉽다. 

 

게다가 많은 문제는 수학적 훈련을 받았건 받았지 않건 인간의 머리로는 계산하기 어렵거나 불가능하다. 산의 정상으로 올라가는 길을 단 하나 발견하고 그것만 보는것이 기계론적 인과론이라면 확률적 인과론은 가능한 모든 길을 다 고려하고 그 길들의 가치를 모두 따지는 식이기 때문이다. 그러니까 불이 난다, 나지 않는다같이 두가지 경우만 있는 것이 아니라 여러가지 경우가 있는 상황이 발생하기 쉽고 그런 경우는 종종 수학자도 종이와 연필만으로는 확률계산을 할 수가 없다. 그걸 계산할 데이터가 불충분하다. 

 

어떤 설명이 인간의 한계를 넘어가는 경우는 컴퓨터가 등장하기 전에 이미 등장했다. 과학을 전공하지 않은 사람도 20세기 초엽에 양자역학이라는 것이 나왔다는 것을 안다. 그런데 그 양자역학은 어떤 의미에서는 인간이 이해할 수 없는 것이라는 것을 모르는 사람은 많다. 양자역학의 중심에는 전자는 입자인 동시에 파동이라던가 전자의 위치는 오직 확률적으로만 결정된다같은 말이 있다. 우리는 이런 말을 할 수 있을 뿐 사실 이런 말의 진짜 의미는 이해할 수가 없다. 

 

그 이유는 우리의 언어나 관념이 일상 생활에서 만들어 진 것이기 때문이다. 전자가 파동이라는 말은 뜨거운 차가움이라는 말처럼 말 자체가 모순이다. 이 말은 양자역학의 수학이 기술하는 세상이 인간의 일상관념을 넘어서 존재한다는 뜻일 뿐이다. 실제로는 우리는 우리가 발견한 수학적 처방을 꾸준히 따를 수 있을 뿐이다. 이해는 없다. 인간은 10차원 세상을 상상할 수 없다. 인간은 죽어있는 동시에 살아있는 쉬뢰딩거의 고양이를 이해할 수 없다. 그게 인간의 유전적 언어적 한계다. 그러니까 인간이 만들어 낸 수학을 통해서 우리는 우리가 유전적으로 가져온 그 한계를 넘어설 수는 있지만 그걸 진정한 의미에서 이해할 수는 없는 것이다. 인간이 잠수함을 타고 수심 수천미터까지 내려갈 수 있다고 해도 그곳의 수압을 몸으로 느끼면 어떤 느낌인지를 안다는 말은 아니다. 우리는 그런 식으로는 심해로 내려갈 수 없다. 

 

지금 본격화하고 있는 인공지능의 시대, 망의 시대, 빅 데이터의 시대에서 우리는 다시 한번 인간의 한계와 부딪히게 된다. 우리는 인간이 다룰 수 없는 형식과 규모의 데이터를 확률적으로 분석해야 하는 과제와 만나고 있기 때문이다. 빅데이터를 분석한다는 것은 바로 확률적 분석을 한다는 말이다. 우리는 이런 분석을 인간이 계산 불가능한 상황에서도 계산 할 수 있을 정도의 기술수준에 도달했고, 그런 계산이 가능할 만큼 데이터를 많이 모을 수 있는 시대에 도달했으며, 그런 계산이 꼭 필요할 만큼 복잡해진 사회를 살아가는 시대에 도달했다.

 

인공지능 컴퓨터가 찾아낸 어떤 행동의 가치가 이미 인간의 해석능력을 넘어갔거나 곧 그렇게 될 거라는 것은 분명하다. 우리는 얼마전에 그것을 매우 극적으로 목격했다. 알파고가 한 수를 두면 세계에서 가장 바둑을 잘 둔다는 프로기사들이 매우 당황해 하면서 이걸 왜 이렇게 두는지 모르겠다고 고백하는 장면을 목격한 것이다. 현실 세계는 물론 바둑보다도 훨씬 더 복잡하다. 4차 산업혁명의 핵심은 모든 곳에서 정보를 얻어서 그런 복잡한 상황에 대한 처리도 가능하게 만든다는 것이다. 예를 들어 한국에서 배추값이 폭등하고 사람들이 곤란을 겪는다고 하자. 많은 자료를 가진 컴퓨터는 이런 일이 일어날줄 미리 예측하고 미리 해결책을 준비해 줄 수 있다. 인간들은 오직 일이 일어나고 난 후에야 이러니 저러니 설명을 붙이지만 컴퓨터는 누구보다도 먼저 배추를 수입하라거나 더 많이 심으라거나 하고 조언해 줄 수 있을 것이다. 

 

문제는 이런 판단이 인간의 이해를 넘어갈 수 있다는 것에 있다. 이런 우화를 한번 만들어 보자. 여기 모든 일에 대해 소원을 들어주는 마법의 램프가 있다고 하자. 유럽의 누군가가 시리아 난민문제를 해결해 달라고 이 램프의 요정에게 소원을 빌었다. 그리고 시리아 난민 문제는 즉시 해결되었다. 문제는 1년후에 생겼다. 알 수 없는 이유로 유럽의 경제가 초토화된 것이다. 알고보니 이 사건은 시리아 난민문제의 해결을 위해 사용한 방법이 인간의 이해를 넘어서는 기괴한 방식을 통해 만들어 낸 결과였다. 이에 대해 소원을 빈 유럽인은 램프의 요정에게 항의를 했다. 이게 뭐냐고. 이건 소원을 들어준게 아니었다고. 그러자 요정은 말하는 것이다. 소원을 들어달라고 했지 이런 일이 생기면 안된다는 말은 하지 않았지 않는가. 자기 눈에는 이런 일이 생길 것이 잘 보였기 때문에 나는 당신도 그 결과를 이해할 줄 알았다. 자기가 어리석은 것을 나보고 따지면 어떻게 하는가. 

 

자동차가 인간보다 빨리 달리지만 문자그대로의 의미로는 인간을 지배하는 것이 아니듯이 인공지능도 앞으로 오랬동안 그럴 것이다. 그것은 인간이 사용하는 도구다. 어떤 특정한 기능만 인간보다 더 뛰어날 것이다. 문제는 그 도구를 사용하는 인간이다. 소원을 빌면 결과가 확실히 나오는 것은 알지만 인간이 그걸 다 이해할 수 없기 때문에 위험하기도 하다. 유감스럽게도 인간의 역사에서 이런 경우에 그 도구를 안 쓴 적이 없다. 지금은 금지된 DDT도 처음에는 매우 훌룡한 발명품으로 칭찬받았다. 쓰면 결과가 확실히 나온다. 화석연료도 그렇다. 어느 나라나 산업발전의 초기에는 스모그 문제를 겪었다. 그게 나쁜 걸 모르는 사람은 없지만 그 문제가 심각해져서 지구 온난화로 인류멸망운운하는 상황이 되도록 사람은 화석 연료 사용에 미련을 버리지 않는다. 

 

그러니까 위험해도 소원을 들어주는 램프의 요정같은 인공지능을 인간이 포기할 거라는생각은 들지 않는다. 2010년 5월 6일 미국증시는 별다른 이유없이 순식간에 9퍼센트나 폭락한다. 1조달러의 돈이 증발해 버린 것이다. 6개월의 진상조사 결과 주식을 자동으로 사고 파는 컴퓨터 프로그램들이 서로 충돌하면서 그런 일을 벌였다는 것이 밝혀진다. 이런 위험성이 있다고 한들 자동 주식 거래를 하는 인공지능이 당신에게 쉽게 돈을 벌게 해 준다면 그 사용을 전적으로 막기는 불가능할 것이다. 그건 마치 불이날 가능성이 있다고 불을 전혀 못쓰게 하는 것만큼이나 어렵다.

 

그래도 우리가 아주 조심스럽게 인공지능을 만들면 그 인공지능이 실수를 안하게 되지 않을까? 그 인공지능에게 인간이 가지는 양심이나 상식을 집어넣어 줄 수 있지 않을까? 그렇게 할 수 있는지는 확실하지 않지만 가능해 보이기도 한다. 우리는 인간의 행동에 대한 방대한 데이터를 이용해서 인공지능으로 하여금 상식을 가지도록 만들 수도 있을 것이다. 

 

문제는 그 상식적인 인간이 정말 윤리적인가는 알 수 없다는 것이다. 그렇다고 윤리에 대해 어떤 절대적인 기준이 있는 것도 아니다. 확률계산을 위해서 우리는 프라이어라고 불리는 양을 정해줄 필요가 있다. 이 프라이어는 이런 문맥에서는 말하자면 우리가 어떤 세상에 존재하는가에 대한 상식이라고 부를 수 있다. 어떤 프라이어가 좋은 프라이어인지 그걸 어떻게 구할 수 있는지는 일반적으로 알려져 있지 않다. 만드는 사람도 모르는데 피창조물인 인공지능이 어떻게 알겠는가. 인공지능이 설사 그걸 알아냈다고 한들 인간이 그게 왜 그런지 동의할 수 없다면 우리는 인공지능의 윤리에 따라 살아야 하는가 아니면 인공지능으로 하여금 부족한 인간을 흉내내게 해야 하는가. 부족한 것은 어느 쪽인가?

 

우리에게 희망이 있다면 이런 종류의 고민은 완전히 새로운 것이 아니라는 것뿐이다. 인간이 도구를 발명하고 더 큰 시스템을 만들면서 항상 인간은 점점 세상으로부터 멀어졌다. 판사는 법률에 따라 판결하고 경찰관은 자기가 억울한 일을 당한게 아닌데 범인을 잡는다. 심지어 사행집행관은 자기와 직접 원수를 진 사람도 아닌데 사형을 집행하기도 한다. 인간이 도구를 쓰고 시스템과 사회의 일원이 되면 인간은 주어진 상황을 온전히 개인적으로 접할 수가 없다. 여기서 윤리적 문제가 생긴다. 부분적이기는 하지만 도구와 시스템이 내 개인의 윤리적 판단을 대신해 준다. 그래서 실질적으로는 어떤 노동자를 착취해서 내가 잘먹고 잘사는 것인데도 나는 그 같은 상황을 자각하지 못하고 기쁘게 살아가는 것이 가능하다. 시스템과 도구는 윤리적 부담을 세탁해 준다. 인공지능의 위협은 이 같은 상황의 극대판이지만 정성적으로는 비슷한 것이다. 우리 대신 인공지능이 뭔가를 판단 할 때 그것이 과연 윤리적일 수 있는가 하는 것이다. 

 

이 모든 위험에도 불구하고 대개의 사람들은 백년이나 천년전에 비하면 오늘날 인간은 보다 윤리적으로 올바른 세상을 살아가고 있다고 믿는다. 범죄는 줄었고 살인과 전쟁도 줄었다. 사회적 약자들도 전보다 보호되고 있다. 혼란은 있겠지만 우리는 새로운 세계에서도 잘 살 수 있을 것이다. 다만 그 혼란이 너무 엄청나서 안그래도 세상으로 부터 제대로 대접받지 못하고 있는 어떤 사람들에게 치명적인 상처를 주는 일이 없어야 하겠다. 궁극적으로 괜찮아진다고 해도 거기까지 도달하는 과정이나 그 과정에서의 희생은 상당할 가능성은 아주 크다. 산업혁명의 초기에 착취당했던 어린이 노동자들처럼 말이다.