수학이란 무엇인가

15.6.23

저녁때의 일이다. 저녁을 먹다가 중학생인 막내가 나에게 루트니 제곱이니 세제곱이니 하는 것은 뭐에 쓰이는가 하는 질문들을 던지기 시작했다. 한두마디로 대답을 해주다가 결국 질문의 핵심이 되는 것은 수학이란 무엇인가라는 질문이 되었다. 잠시 생각을 정리한 후에 내가 아이에게 해준 답은 이렇다.

 

"수학의 시작은 단순화다. 예를 들어서 둥근 컵을 보자. 이 컵의 주둥이는 원처럼 보인다. 그러나 실제로는 원이 아니다. 수학에서 말하는 진짜 원은 현실세계에서는 존재하지 않는다. 아무래도 자세히 보면 어딘가 진짜 원보다는 찌그러져 있다. 그렇지만 이 컵의 주둥이가 원이다라고 말하는 것에는 장점이 있다. 실제보다 단순화했기 때문에 분석하기 쉬워진다. 

 

우리는 현실세계의 모양에 대해서는 분석할 수 없지만 수학적 정의를 가진 원의 성질에 대해서는 여러가지 분석이 가능하다. 그러니까 컵의 주둥이는 원이다라고 해서 출발하면 분석의 힘에 의해서 강력한 결과들을 낼 수 있다. 예를 들어 반지름과 면적과의 관계를 이야기할 수 있는 것이다. 

 

현실에는 직선도 없고 2차함수나 삼각함수도 없다. 진짜 현실은 정도의 문제일뿐 무한한 세부사항을 가지기 때문에 그대로는 분석할 수 없고 따라서 진짜로 엄밀하게는 사고도 할 수 없다. 그런데 우리는 현실과 비슷한 수학적 존재들을 등장시켜서 그것들을 분석할 수 있는 대상으로 만든다. 그것이 수학의 힘이다. "

 

이 말은 오늘날에는 그리 동의하기 어렵지 않은 말이라고 생각하지만 한두세기 전까지만 해도 사람들은 유클리드 기하학이 절대 진리라고 생각했다. 그 말은 현실과 수학을 구분하지 않았다는 말이며 수학에 대해서 이렇게 이야기하지 않았다는 말이다. 플라톤의 이데아론은 오히려 현실과 추상의 관계를 뒤집는다. 진짜 실체, 진짜 존재는 수학쪽이다. 우리가 목격하는 현실은 진짜 존재인 이데아의 불완전한 그림자이다. 이렇다고 할 때 우리는 순수히 이성적인 힘으로 확고하게 진리인 것을 알 수가 있다. 이러한 태도는 불확실성이나 무지가 전혀 없는 지식이란 것이 가능하다고 믿는 것이므로 그러한 지식의 토대하에 세상의 질서를 영구히 고정시켜 바라보려고 하게 된다.  

 

반면에 내가 말한 바대로 수학을 본다면 우리는 영원히 진리에 도달할 수 없다. 다만 그것을 분석하는 도구로써 수학적 존재를 이용할 뿐이다. 그리고 진리성보다 분석가능성이 훨씬 중요하다. 즉 현실과 무한히 가까운 수학적 존재를 정의할 수 있다고 해도 그것의 분석이 너무 힘들어서 별로 결과를 낼 수 없으면 그런 수학은 별로 좋은 수학이 아니다. 

 

나는 내 설명이 더 좋다고 생각하지만 불행하게도 내 경험에 따르면 플라톤 식으로 수학을 말하는 것이 훨씬 더 이해하기 쉬운 모양이다. 이러저러한 것은 당연하지 않는가 하는 식으로 말이다. 그러니까 삼각형의 내각의 합이 180도 인 것은 중력법칙 이상으로 정교한 자연의 법칙인 것처럼 이야기하는 것이다.

 

눈치챈 사람도 많겠지만 이것은 꼭 수학에 국한된 이야기는 아니다. 우리는 여러가지 개념, 이름을 만든다. 그리고 그 개념과 이름들을 가지고 언어와 이론을 구성해서는 현실세계를 설명한다. 그러므로 개념들 혹은 언어가 가져야 하는 성질은 또한 분석가능성이다. 언어의 경우에는 이해가능성이라고 해야 할 것이다. 우리가 언어를 써서 뭔가를 설명했을 때 -물론 유한한 시간동안 유한한 길이로- 듣는 사람이 그게 뭔지 알겠다고 느끼게 만드는 것이다.   

 

어떤 사람들은 언어이전의 인식은 없다고 말한다. 즉 수학으로 말하자면 내가 1차함수밖에 모른다면 직선밖에 보지 못한다는 것이다. 나는 이것이 사실이 아니라고 믿는다. 이것이 사실이라도 여기서 말하는 언어는 우리의 일상어가 아니다.  포트란이나 C같은 높은 수준의 컴퓨터 언어도 알고보면 밑에서는 기계어로 번역되어 기계에서 실행되듯이 우리에게도 기계어 수준의 언어가 있을지도 모르며 그 수준의 언어로 기술되지 못하는 것은 원리적으로 우리가 이해할 수 없을지도 모른다. 그러나 그 언어는 우리가 통상 말하는 일상어가 아니다. 일상어로 정의 되지 않는 것도 우리는 인식하기에 우리는 계속 새로운 개념을 만들고 언어를 발달시키게 되는 것이 아닐까? 우리의 이해는 인간에게 있어서 컴퓨터의 기계어에 해당하는 언어가 존재하는지 그게 뭔지 말하기 어려운 단계에 있지 않을까?

 

수학이란 무엇인가란 질문에 대해 내 생각에 바람직하다고 생각되는 소개를 몇마디 해주었지만 그게 아이에게 도움이 될런지 모르겠다는 찜찜함이 남는다. 그러나 누가 물으면 잘 설명하든 대충설명하든 거짓말을 할 수는 없다. 내가 믿는바를 말할 뿐이다. 그게 문제다.  말하고 남은 몇마디의 여분의 말들을 여기에 기록으로 몇자 남긴다.