본문 바로가기
주제별 글모음/과학자의 시선

과학의 한계, 말의 한계

by 격암(강국진) 2025. 8. 25.

여기 거울이 없는 방이 있다고 하자. 그 안에서 나는 나의 뒷통수를 보는게 불가능하다. 더더욱 보는 게 불가능한 것은 나의 눈 자체다. 나는 나의 눈으로 나의 눈을 직접 볼 수는 없기 때문이다. 이같은 이야기는 우리가 뭔가를 관찰하고 뭔가가 존재한다는 것을 인식하기 위해서는 어떤 전제가 필요하다는 것을 말해준다. 거울이 없는 세계처럼 어떤 조건을 붙인 세계에서는 내가 보는 모든 것이 모든 것이 아니다.

 

이것은 우리가 과학이라고 말하는 분야에도 적용된다. 우리는 의식이라던가 지능이라던가 자유의지따위를 찾아 헤멜 수 있다. 그럴 때 우리는 물질주의적으로 아무리 생각해도 그런건 우주에 존재하지 않는 것같다. 그러면 우리는 그건 착각이거나 존재하지 않는다는 결론을 내리기 쉽다.

 

그러나 다른 모든 것과 같이 과학적 패러다임이라는 것도 아무런 전제조건이 없이 시작되는 것은 아니다. 그러니까 자기 눈으로 자기 눈을 볼 수 없듯이 과학적 방법으로 과학적 방법이 옳은 것을 증명할 수는 없고 우리는 메타 과학이라고 불리는 논의를 해야 한다. 그러나 이런 논의는 기본적으로 끝나지 않는데 왜냐면 모든 논의는 항상 어떤 것을 가정하고 있기 때문이다.

 

사실은 현대 과학이 어떻게 발달했는가를 보면 이같은 생각을 보다 구체적으로 이해할 수 있다. 현대 과학은 17세기 서구의 과학혁명이래로 발전했는데 그것의 가장 핵심적인 부분이랄 수 있는 것이 바로 수학이라는 언어를 과학의 몸통으로 삼은 것이다. 즉 17세기 이전의 과학은 우리가 일상적으로 말하는 일상어를 기반으로 전개되는 철학과 구분되지 않는 것이었다면 그 이래로 수학은 과학의 핵심적 몸통이 된다. 그래서 뉴턴의 프린키피아는 자연철학의 수학적 원리다.

 

수학은 인간이 일상적으로 쓰는 언어인 자연어보다 훨씬 더 엄밀하다. 그러한 엄밀성이 없었다면 인간은 자연법칙을 발견할 수 없었고 그 결과를 분석할 수도 없었다. 그냥 두 개의 돌맹이는 서로를 당긴다는 말과 뉴턴의 중력법칙은 서로 다르다. 엄밀성을 가진 자연법칙은 검증할 수도 있고 발견할 수도 있지만 자연어로 말하는 법칙은 대개 훨씬 애매하다.

 

자연어에서 수학으로 언어가 바뀐 것이 현대 과학을 발전시켰다는 것을 처음에 한 논의의 측면에서 보면 우리가 새로운 거울을 가지게 되었다고 할 수 있다. 즉 자연어로는 아무리 노력해도 판단할 수 없었던 것이 수학적 언어로는 구분할 수 있게 되었고 그에 따라 새로운 과학이 발전할 수 있었다는 것이다. 이런 의미에서 새롭게 과학적 언어가 된 수학은 세계를 보는 새로운 눈이었다.

 

그렇다면 수학은 모든 것을 보여주는 걸까? 이런 논의는 자연스럽게 수학의 한계가 과학의 한계를 주기도 한다는 것을 보여준다. 수학은 진리니까 이 세상을 모두 보여주는 걸까? 그러나 수학도 20세기에 괴델을 불완전성 정리 이래 혼란에 빠져 들었다. 게다가 그 수학이란 걸 만들고 발전시켜온 것이 인간이라는 사실도 부정할 수 없다. 즉 수학을 쓴다고 해도 여전히 그걸 쓰는 존재는 인간이라는 유한한 존재이며 따라서 수학이라는 도구로 우리가 세상을 정말 제대로 다 볼 수 있는지 알 수 없다는 것이다. 개미가 양자역학을 증명할 수는 없듯이 인간이 증명할 수있는 수학의 정리도 한계가 분명히 존재한다.

 

우리가 수학을 통해 이미 알아낸 것만 해도 우리는 이미 인간의 한계를 넘어섰다. 그것이 양자역학과 상대성이론으로 우리는 그것을 수학적으로 이해할 수는 있지만 일상적인 의미에서는 이해할 수 없다. 그래서 양자역학을 정말로 이해하는 사람은 없다는 말도 있는 것이다. 전자가 파동인 동시에 입자라는 말은 그와 관련된 실험과 수식을 제외하면 아무 의미도 없는 모순적 말이다. 마치 뜨거운 얼음같은 말일 뿐으로 기본적으로 인간의 일상어가 가진 한계를 보여줄 뿐이다.

 

그렇게 우리는 21세기에 도달했다. 그리고 우리는 우리가 가진 도구를 써서 세상을 본다. 그런데 그렇게 본 세계에는 뭔가가 있는 것같기도 한데 없는 것같기도 하다. 예를 들어 자유의지나 의식같은 것은 존재할까? 주관적이고 1차적으로는 그것이 존재하는 것이 당연한 것같다. 그런데 과학의 눈으로 보면 그것이 있을 곳이 보이지 않는다. 그렇다면 자유의지가 있다고 믿는 것은 비과학적일 뿐만 아니라 비합리적인 것일까?

 

여기서 우리는 다시 거울이 없는 세계를 떠올릴 필요가 있다. 우리가 아는 것, 우리가 쓰는 말은 한계가 있다. 우리가 물질이니 자유의지니 존재니 하는 말을 쓸 때 그 말을 정확히 알고 쓰는게 아니다. 그리고 그 부족한 부분을 알아차릴 도구가 우리에게 없는 것일 수도 있다.

 

이는 특히 우리가 AI라는 새로운 언어를 가지게 되었다는 점에서 중요한 것이다. AI는 여러가지로 표현될 수 있지만 그 중의 하나는 새로운 정보 매체로 쓸 수 있는 새로운 언어라고 할 수 있다. AI는 뉴턴의 중력법칙처럼 우리가 데이터에서 찾아낸 하나의 질서다. AI는 이미 단백질 접기 문제같이 전통적인 과학적 방법으로는 풀지 못하던 난제를 풀어내고 있기도 하다. 하지만 AI가 어떤 문제를 풀었다고 할 때 우리는 문제를 푼다는 말을 다시 이해하게 된다. 왜냐면 과학적인 해법에서 문제를 풀었다는 말과 AI를 써서 문제를 풀었다고 할 때 그 의미가 서로 다르기 때문이다.

 

AI가 더 발달하고 더 많은 문제를 풀어갈 수록 우리는 그것이 새로운 언어라는 점을 절감하게 될 것이다. 우리는 그것을 정확히 이해하지 못하면서도 AI를 써서 새로운 사회를 만들어 갈 것이다. 그리고 그걸 과학이라고 부르던 부르지 않던 우리는 그러한 새로운 해결책들을 통해서 새로운 정신을 가지게 될 것이다. 우리는 자유의지가 뭔지, 의식이 뭔지를 더 잘 이해하게 될 것이고 지금으로서는 상상도 할 수 없는 새로운 질문을 던지게 될 수도 있다.

 

우주로 가보기 전에는 북쪽이라는 말은 분명한 의미를 가지고 있었다. 하지만 우주 공간을 이해하고 나면 북쪽이라는 말은 지표면 위에서만 의미를 가진다는 것을 알게 된다. 마찬가지로 수없이 많은 데이터를 통해서 만들어 지는 AI들이 늘어나면 우리는 21세기의 사람들이 현실이라던가 세계라고 부르던 것을 특정한 조건에서만 의미를 가지는 뭔가로 여기게 될 수 있다. 새로운 언어를 쓰는 사람들의 정신은 더욱 더 확장될 것이기 때문이다. 과학의 한계, 언어의 한계는 이렇게 극복될 수 있다.

 

댓글