루이스 레넌드의 메타피지컬클럽 2 : 확률론적 사고

2013.10.7

메타피지컬 클럽 : 확률론적 사고

 

들어가며

 

윌리엄 제임스와 찰스 퍼스는 모두 과학자로서 훈련받았던 사람들이다. 따라서 이들을 이해하고 이들이 고민했던 것, 이들이 도달한 결론을 이해하는데 있어서 19세기의 지적 풍경을 이해하는 것은 더더욱 필요한 일이다. 사실 제임스와 퍼스를 떠나서 이 확률론적 사고가 어떤 것인가를 이해하는 것은 그 자체로 중요하고 흥미로운 일이다.

 

 

 

 

확률론적 사고

 

19세기는 그 여파가 아직도 정리되지 않고 있는 혁명적인 사고가 널리 알려지고 쓰이기 시작한 시기였다. 그 세기는 물론 다윈의 종의 기원이 1859년에 출판된 세기이기도 하지만 그 이전에 확률론적 사고방식이 빠른 속력으로 퍼진 시기였다. 약간의 오해와 함께 이기는 하지만 종의 기원이 쉽게 받아들여진 것은 이때문이기도 했다고 한다. 이때문에 1904년 존시어도어 메르츠는 19세기 유럽지성사를 정리하면서 이를 통계학의 세기라고 불렀다.  이는 확률론적 사고가 많은 성취를 이뤄낸 시기인 동시에 함께 아직도 우리에게 남아있는 오류를 만들어 내기도 한 시기였다.

 

오늘날 확률을 가르키는 학교교육덕분에 사람들은 대개 확률이 뭔지 안다고 생각한다. 동전을 던지면 앞면이 나올 확률이 2분의 1이고 주사위를 던져서 짝수가 나올 확률도 2분의 1이다. 그러나 확률의 진짜 의미는 21세기에도 모두가 자명하게 동의하는 일이 아닐정도로 깊다.

 

확률이라는 것은 기본적으로 우리가 무지한 것, 알지 못하는 것이 있다는 것을 말한다. 확률론이란 우리가 모르는 것에 대해 뭘 알고 있는가를 말하는 기묘한 학문이다. 우리가 동전을 던진다고 해보자. 그런데 우리는 앞면이 나올지 뒷면이 나올지 모른다. 확률적 사고를 하기 전에는 동전의 미래에 대해 우리는 그저 모른다고만 하는 것으로 끝이다. 그런데 이번에는 그런 동전을 천개쯤 던진다고 해보자. 그래서 전체 동전의 수와 앞면이 나온 수의 비율을 계산한다고 하자. 우리는 그것이 1/2에 가까울 것이라는 것을 ‘안다’. 자명한 것으로 보이지만 이것은 확률론이 뭘 하는가를 가르쳐 주는 예다. 우리는 동전의 미래에 대해 모르는데도 여전히 뭔가를 알 수 있다.

 

좀 더 평범해 보이지 않는 예를 말하기 전에 확률과 통계에 대해 측정의 측면에서 생각하고 넘어가자. 오늘날의 과학혁명의 시작은 갈릴레오와 뉴튼의 시대에서 시작된 것이다. 그리고 뉴튼의 과학은 기본적으로 별이나 달의 움직임을 관찰하는 것에서 시작되었다. 나는 신이라는 가설이 필요하지 않다라는 말을 나폴레옹에게 한걸로 유명한 라플라스는 1798년부터 1825년 사이에 천체역학을 쓰고 1812년에 확률해석론을 쓴다. 오늘을 정확히 알면 모든 미래를 다 알수 있다고 말한 라플라스가 무지와 불확정성에 대한 확률해석론을 쓴 이유는 현실에서는 실제로 모든 것을 알 수 있기는 커녕 하나도 정확히 아는 것이 없기 때문이다. 현실적으로 같은 사람이 측정을 해도 같은 별의 위치가 여러가지로 나올뿐만 아니라 사람에 따라서도 오차가 생겼다. 이것은 정도의 문제로 상황은 지금도 마찬가지이고 별의 위치를 눈으로 보고 기록했던 시대에는 말할 필요도 없었다. 

 

우리는 이 측정 오차에 주목할 필요가 있다. 별의 위치는 하나다. 그런데 이 오차라는게 측정할 때 마다 거기에 더해져서 그렇게 측정한 것들을 가지고 분포도를 만들면 정답의 주변에 종모양의 분포가 만들어 진다. 이 분포는 통계적 결과다. 우리가 거기에 ‘확률적 해석’을 더하여 그 통계를 분석하면 우리는 정답을 보다 쉽고 정확히 알 수 있다 (정확히 말하면 그렇다고 믿어진다. 그 뜻은 아래의 논의를 참조하라.). 예를 들어 측정된 값의 평균값을 내는 것이 그것이고 우리는 이것을 평균제곱오차값의 최소화라고 말할 수도 있다. 이런 논의도 자명한 것처럼 보이지만 이 안에는 인식론적인 면이 있다는 것에 주목하라. 즉 별은 존재한다. 그러므로 별의 위치도 단일한 실체다. 우리는 통계속에서 확률적 해석을 적용하여 그 실체를 찾아낸 것이다. 관측된 결과는 실제값에 오차가 확률적으로 더해진다는 해석이다.

 

자 그렇다면 이런 확률론적 사고가 어디까지 확장될 수 있을까. 이미 라플라스가 그것을 지적했거니와 통계속에서 어떤 실체로 보이는 것 혹은 어떤 법칙을 찾아내는 것은 천체의 위치를 측정하는 것을 넘어서 전개될 수 있고 실제로 빠르게 그렇게 되었다. 퀘틀러는 인간과 능력개발에 대하여라는 책을 1835년에 출간했는데 이 책에서는 사람의 키나 가슴둘레 같은 사회적 수치의 평균을 논한다. 예를 들어 우리는 스코틀랜드인의 평균가슴둘레나 인디언의 평균가슴둘레를 계산하고 그 평균값들에서 어떤 의미를 찾는 것이다. 이것은 범죄율이나 유아사망률, 결혼비율등 무한히 많은 것들로 물론 확장되어질 수 있고 오늘날 우리는 이것에 매우 익숙하다. 

 

앞에서 확률론이 우리가 모르는 것에 대해 우리가 뭘 아는가를 말해주는 이론이라고 말했던 것을 기억하라. 사실 뉴튼방정식을 풀어서 미래를 예측할수 있는 경우는 엄밀히 말해 이 세상에 단 한가지도 없다. 있다고 해도 그것은 좋은 근사일뿐이다. 그런데 많은 경우 우리는 근사라고 부를수도 없는 경우와 만난다. 사회현상이나 생명현상처럼 수없이 많은 요소가 등장할때 라플라스가 말하듯 엄밀하게 모든 지식을 알면 이론적으로 미래를 예측할수 있다고 말하기는 쉽지만 현실을 보면 3체문제도 풀어내지 못한다.

 

그러므로 우리의 무지를 다루는 법을 제공하는 확률론은 고전역학적 사고의 힘을 엄청나게 확장하는 것이다. 우리는 우리가 모르는 것들에서도 어떤 답을 찾아낸다. 헨리 토마스 버클은 1857년에 영국문명사를 썼는데 이 역사서는 정확히 역사라는 사회적 현상을 확률론적인 시각으로 해석해서 그 안에서 법칙과 실체를 찾아내는 것이었다. 복잡해 보이는 역사나 사회적 변화는 마치 비구름이 오고가듯 어떤 실체가 없는 혼돈인 것처럼 보인다. 그러나 우리가 통계를 만들고 그것을 확률론적인 해석을 통해 볼 때 우리는 거기에서 어떤 법칙을 발견한다. 우리는 복잡한 세상에서 법칙을 발견하는 새로운 방식을 찾아낸 것이다. 

 

오늘날 우리는 수많은 역사적 사회적 법칙에 대해 이야기한다. 그것이 가능하게 된 것은 우리가 확률론적 사고에 익숙하기 때문이다. 우리는 혼돈스런 역사에서 어떤 실체를 느낀다. 역사의 법칙을 알았다고 하면서 이데올로기에 빠져서 세계가 전쟁속으로 빠져들었지 않았던가? 우리가 세상을 보면서 역사를 보면서 느낀 그 무언가의 실체성은 목숨을 걸어도 좋을 정도로 생생했던 것이다. 막시즘이 역사의 전개방식을 논했던 것이나 세계대전과 냉전을 생각해 보라. 세계는 오차와 분포, 확률을 생각하게 되면서 반대로 질서와 실체를 발견했다. 확률적 사고는 우리에게 많은 것을 알게 해 주었다. 우리가 뭔가를 안다는 그 느낌은 어떤 사람들에게는 무한히 생생했다.

 

그러나 여기에서 우리는 한가지 비교를 기억할 필요가 있다. 별의 위치를 측정하는 문제에서 우리는 별의 위치가 단일한 실체라고 생각하고 그 통계에 그 분포에 확률론적 해석을 가해서 그것을 알아냈다. 그런데 사회적 통계의 경우는 우리가 몰랐던 것을 통계에 확률적 해석을 가해서 발견하고 우리는 그것이 실체라고 느끼게 되었다는 것이다. 순서가 거꾸로다. 그렇다면 그것들은 과연 실체일까?

 

한국인의 키와 체중, 학력과 재산정도를 모두 평균내서 어떤 평균적 한국인을 만든다고 생각해 보자. 우리는 그것을 미국과 일본에서 할 수 있고 그 평균인들을 서로 비교할수 있다. 우리가 그런 논의를 하면서 무의식중에 받아들이는 것은 이 평균인이라는 것이 실체라는 것이다. 예를 들어 한국이란 이 평균인 주변에 오차가 더해져서 만들어진 구름덩어리 분포다. 그렇기에 우리는 그런 비교로 부터 역시 한국인이 튼튼하다던가 역시 미국인은 뚱뚱하다던가 하는 결론을 내리고 그것이 허무맹랑한 공상의 결과가 아니라 과학적이고 논리적인, 단단한 현실에 대한 지식이라고 생각하는 것이다.

 

결론적으로 말해 이런 사고방식은 자명한 것도, 가정이 없이 이뤄진 논리적 결과도 아니다. 무엇보다 먼저 확률이란 우리의 무지에 대한 것이라는 출발점을 기억해 보자. 여기 속임수 주사위가 하나 있다. 자석이 달려있어서 이 주사위를 던지면 항상 1이 나온다. 나는 그것을 알지만 당신은 그것을 모른다. 그럴 때 천번 주사위를 던져서 모두 1이 나온다면 그것은 나에게 놀랍지 않은 결과이지만 나보다 무지한 당신에게 그것은 엄청나게 특이한 현상일 것이다. 같은 현상은 같은 확률적 해석을 가지고 있지 않다.

 

우리는 운명적 만남을 꿈꾼다. 그래서 종종 사랑에 빠진 연인들은 우리 둘이 만나서 사랑에 빠질 확률이 얼마나 적은가. 우리의 만남에는 뭔가 운명적인 것이 있는 것임에 틀림없어라는 해석을 한다. 그런데 이 세상에서 실제로 일어나고 있는 것들은 모두가 아니라면 대부분 기적적인 확률로 일어나고 있는 것이다. 당신의 인생을 돌아보라. 당신이 하필이면 그렇게 살아올 확률은 얼마나 될까? 나는 이 모든 것들이 놀라운 사건이 아니라는 것이 아니다. 그것은 우리가 세상을 어떻게 보는가에 달려있다는 사실을 잊지 말아야 한다는 것이다. 우리가 역사를 보면서 그 혼란 속에서 어떤 실체를 느낀다고 하자. 그 실체는 우리 머리속의 무지가 만들어 낸 것인가 아니면 객관적인 실체인가? 적어도 완전히 그리고 단순히 객관일 수는 없다. 우리는 쉽사리 우리가 뭔가를 확실히 안다고 말해서는 안된다.

 

열역학 제2법칙에 대한 이야기를 해보자. 여기 한잔의 물에 잉크방울 하나를 떨어뜨린다. 그 잉크는 점점 퍼져서 전체 물이 시커멓게 된다. 그러나 그 잉크가 모여들어서 한점으로 줄어드는 일은 없다. 우리는 그것을 아주 많이 실험해 볼 수 있고 항상 그렇다는 결과를 얻을 것이다. 그러므로 이것은 확실한 법칙이다. 그런데 그럴까? 수학적으로 말해 에르고딕 시스템이라는 것이 있다. 그것은 그 시스템의 상태는 특정한 시간이 지나면 제자리로 돌아온다는 뜻이다. 즉 특이한 출발점에서 시작하면 열역학제2법칙을 어기는 현상을 만들어 낼 수 있다.

 

이런 것은 물론 특이한 즉 많은 가능성중에 어떤 작은 숫자의 특별한 출발점에서 시작했기 때문이다. 그런 것에서 우리가 출발할 확률은 거의 없다. 잠깐! 확률은 무지에 대한 것이라고 했던가? 우리는 어떻게 그런 출발점이 진실이 아니라고 확신하는가. 우주를 다 둘러봐도 생명이 있는 곳은 거의 없다. 그런 특이한 곳에 우리가 사는 것은 그럼 자명한가? 그런 특이한 출발점이 아니었다면 그런 세계를 인식할 지성을 가진 생명체가 나타날수 없었다면 어떨까. 그건 마치 한대에 30억쯤 하는 자동차를 구매한 사람들의 모임에 나가면서 이 세상에 한달에 1억이상 버는 사람은 거의 없으니 그런 사람을 만날 확률은 거의 없다라고 말하는 것이나 마찬가지 일 수 있다. 그런 특이한 상황에서는 아마도 그 모임에 나오는 사람 전부가 그런 사람일 것이다. 우리가 알고 있는 법칙의 많은 것은 확률적 사고의 결과이며 때문에 확실해 보여도 그 확실한 것은 뒤집어 질수 있다. 확률은 우리의 무지에 대한 것이기 때문이다.

 

마지막으로 평균과 요동의 문제에 대해 이야기해 보자. 앞에서의 내용을 보면 우리는 흔히 오차나 요동은 중요하지 않고 그 평균 혹은 혼동속에 존재하는 법칙이 중요하다는 인상을 받게 된다는 것을 알게 된다. 그래서 그 평균, 그 질서, 그 법칙을 실체로 느끼는 것이다. 그리고 거기에 어떤 의미를 은근슬쩍 더한다.

 

그 좋은 예가 바로 적자생존이라는 말이다. 세상에는 진화론은 적자생존의 법칙이라고 이해하는 사람이 그렇지 않은 사람보다 더 많다. 그것은 오늘날에도 그렇고 진화론이 발표된 후 스스로를 다윈주의자라고 생각했던 사람들도 그랬다. 그러나 다윈 스스로는 진화를 더 나쁜 것에서 더 좋은 것으로 변해가는 것이라는 생각에 반대했다. 경쟁에 이겨서 살아남는자가 적자라고 말하는 것은 동의어의 반복이다. 적자의 정의를 경쟁에 이긴자라고 부른후에 적자는 경쟁에서 이긴다라고 말하는 것이다. 우리는 선한자는 경쟁에서 지는자라고 정의한 후에 경쟁에서 지는 자는 항상 선한자이다라고 말할 수도 있다. 이런 말들은 아무 의미가 없다.

 

진화에서 어떤 경향, 어떤 방향성은 논해질 수 없다. 전쟁같은 것을 생존을 위한 경쟁으로 인식하고 그 전쟁에서 이긴자는 진화경쟁에서 이긴 적자라고 이해하는 것은 옳지 않다. 경쟁에서 이기는 것이 더 훌룡한 것이라고 말하는 것은 어떤 문맥에서 그렇다. 문맥을 바꾸면 경쟁에서 이긴 것이 더 나쁜 것이다. 암세포가 번져가는 환자를 보면서 선한 세포가 악한 세포들과의 경쟁에서 이긴다고 말하는 사람은 없을 것이다.

 

다윈은 종의 기원을 썼지만 어떤 의미로 그것은 종의 파괴였다. 왜냐면 종의 보존이 아니라 종의 변화가 진화이기 때문이다. 종이란 하나의 분포를 보고 우리가 이름붙인 것인데 그 분포의 끝에 있는 요동 즉 돌연변이가 자연선택의 과정에 의해 새로운 종을 만들고 기존의 종을 몰아낸다. 이런 과정에서 중요한 것은 종이라고 인식되는 분포의 중심이 아니라 그에 대한 요동이다. 다시 말해 사람들이 확률론적 사고에서 중심에 관심을 기울였다면 진화론에서 그에 못지 않게 혹은 그 이상으로 중요한 쪽은 요동이었다. 진화론이 말하는 것은 세상은 어떤 진화의 과정에 따라 변해간다는 것이 아니라 우리는 많은 요동에 둘러쌓여있고 그 요동이 이 세상의 변화를 만들어 간다는 것이다. 어떤 사람은 중심의 법칙을 보고 어떤 사람은 요동의 불확실성을 본다. 그것은 우리가 세상을 보는 태도와 결정에 영향을 끼치게 된다.