인간처럼 생각하는 기계

13.7.11

우리는 인간처럼 행동하고 생각하는 로보트를 만들 수 있을까. 이런 생각은 어떤 사람에게는 꿈같은 일로 생각되고 어떤 사람에게는 공포로 생각되며 어떤 사람에게는 인간이란 무엇인가를 고민하는 철학적인 주제가 되기도 한다.

 

기계와 생명의 차이.

 

우리는 인간이상으로 빠르게 계산을 수행하는 컴퓨터를 이미 가지고 있다. 그런데도 불구하고 우리 대부분은 우리가 아직 인간같은 기계를가지고 있지는 않다고 생각한다. 상식을 가지고 인간을 이해해주는 기계란 도대체 어떻게 만들어 낼 수 있는 것일까. 

 

이러한 질문에 답하는 한가지 방법은 기계와 생명의 본질을 생각해 보는 것이다. 기계와 생명은 그 본질에서 한가지 차이를 가지고 있다. 기계는 정해진 규칙을 수행한다. 물론 학습하는 기계가 있지만 그 학습이 어떤 한계를 가졌는 가는 아래에 논할 것이다. 그런데 생명은 불확실성을 가진 환경에 둘러 쌓여서 그 안에서 자기의 존재를 지켜나가고 성장하고 사멸해 가는 존재다. 즉 기계의 본질이란 정해진 행동을 수행하는 것이라는 측면에서 불확실성이 제거된 것이고 생명은 그 존재의 본질이 불확실성에 대처하는 것이다. 중요한 것은 이 불확실의 특징이다.

 

추상적인 말에서 벗어나기 위해 한가지 예를 들어 보자. 주사위가 하나 있다. 우리는 게임을 한다. 이 주사위를 던져서 홀수가 나오면 내가 이기고 짝수가 나오면 반대편이 이기는 게임이다. 이럴 때 내가 10번 연달아 지게될 확률은 얼마일까?

 

이것에 대해 분명히 그것은 1/2^10=1/1024라고 답한다면 당신은 바로 기계의 논리를 따라하고 있다. 즉 지금의 기계가 당신을 대체할 수 있는 사고를 하고 있다는 뜻이다.

 

그렇다면 1/1024가 아닐 수도 있는가. 지금 실제로 당신이 그 게임을 하고 있다고 하자. 당신이 10번이나 연속해서 게임에 졌을 때 당신은 실제로 어떤 생각을 할까? 정말로 당신은 확률 1/1024의 일이 일어났다라고만 생각할까? 당신은 어쩌면 이런 생각을 하지 모른다.

 

“이럴수가 있어? 이거 주사위가 이상한거 아냐?”

 

즉 그 주사위는 조작된 것으로 짝수만 나오는 주사위라는 생각을 할지 모른다. 당신은 사기를 당하고 있을 수 있다는 것이다. 내가 사기를 당하고 있을지도 모른다는 생각처럼 틀을 벗어나는 생각을 할 수 있는 것 그것이 바로 인간의 능력이며, 우리가 인간처럼 사고하는 기계속에 심어넣고자 하는 능력이다.

 

불확실한 환경

 

앞에서 든 예는 매우 중요하고 많은 의미를 가지고 있다. 생명체인 우리가 살아가는 현실은 항상 우리가 모르는 것을 가지고 있다. 즉 우리는 불확실성과 무지에 둘러쌓여 있다. 그리고 그 무지와 불확실성의 중요한 한가지 특징은 우리는 언제나 우리가 뭘 모르는지 모른다는 점에 있다.

 

조작되지 않은 주사위라면 짝수가 나올 확률은 분명 1/2다. 우리는 주사위를 던졌을 때 짝수가 나올지 홀수가 나올지 모르지만 그 답이 짝수 아니면 홀수라는 사실은 알고 있다. 이럴 때 우리는 우리의 무지를 인식하지만 우리의 무지의 내용 혹은 무지의 범위가 어디 인지를 분명하게 인식하고 있다고 할 수 있다. 즉 우리는 우리가 뭘 모르는지를 알고 있다.

 

그런데 현실은 결코 이렇지가 않다. 그렇기 때문에 기계적인 사고를 가지고 프로그램을 짜면 그 프로그램은 현실에 적용되었을 때 종종 문제가 생긴다. 그 프로그램은 설마 사기를 당하고 있을거라고는 생각하지 못하는 어리석음을 가지고 자기가 천번을 지던 만번을 지던, 아 참 드문일이 일어나고 있구나 하고만 생각하는 것이다. 우리가 특별히 그렇게 생각하지 말라고 명령을 첨부하기 전에는 말이다. 이 한가지 예에 대해 한가지 지침을 더하고 나면 기계는 또 다른 사기에 대해서는 또 무방비로 당할 것이다. 기계는 진정한 의미에서 성장하지 못한다. 처음에 상상되어진 불확실성의 범주안에서만 답을 찾는다.

 

생명은 그렇지가 않다. 생명이 살아가고 성장한다는 것은 무지의 내용 자체에 대해 알지 못하는 것을 알아가고 비약해 가는 과정이다. 당신이 물리에 대해 아무 것도 모르는 사람이라고 하자. 그럴 때 당신이 물리책을 펴고 한 줄의 글을 읽는다. 당신은 지금 당신이 알고 있는 지식에 따르면 이 한 줄의 글은 3가지의 다른 뜻으로 해석될 수 있다는 생각을한다. 그리고 골똘히 이 한 줄의 글은 그중 어느 뜻을 가지고 있을까를 찾는다.

 

이것은 지극히 당연하고 논리적으로 보이지만 실은 기계의 사고다. 이때문에 기계는 자신이 진정으로 무지한 것을 배울 수가 없다. 자신의 무지가 항상 자신이 그 무지의 내용을 알고 있는 경계의 안쪽에만 있다고 생각하기 때문이다. 인간의 사고는 항상 지금 내가 생각하는 3가지의 가능성이외에 또 다른 가능성에도 열려있다. 그것이 직관이고 발상의 전환이며 박스바깥 쪽의 생각이다. 그렇기 때문에 인간은 진정한 의미에서 우리가 전혀 모르던 것에 대해서도 학습을 할 수가 있는 것이다. 즉 위에서 말한 것처럼 이 게임은 사기다라는 생각같이 전체적 해석을 완전히 다르게 할 수 있는 새로운 방향의 가능성을 탐색할 수 있다. 이것이 진정한 의미에서의 성장이다. 즉 우리는 우리가 모르는 것에 대해 생각할 뿐만 아니라 우리가 뭘 모르는지에 대해서도 다시 배운다. 이것을 메타학습이라고 부를 수 있을 것이다.

 

확률의 법칙

 

제인스는 과학의 논리라는 확률이론책을 통해 확률이론은 논리학의 연장으로 이해되어야 한다고 주장한다. 기계의 논리란 기본적으로 동등의 논리다. 가는 나고 나는 다고 하는 식이다. 그런데 인간이 살아가는 현실은 구름이 낀다고 반드시 비가 오지는 않는다. 그래서 우리는 부분적인 정보, 부정확한 정보를 가지고 논리를 전개해서 미래를 예측하고 결론을 만들어 나가야 한다. 우리는 모든 것이 잘 정리된 상태에서 출발하는 세계, 아리스토텔레스의 세계에서 논리를 발휘하는것이 아니라 많은 것이 불확실한 상태에서 살아남아야 하는 세계에서 살고 있다.

 

이렇게 불확실한 상황을 다룰때 사용하는 논리가 다름 아닌 확률이론이라는 것이다. 확률이론의 기본적 대상은 바로 확률이고 우리가 우리의 무지에 대해 알고 있지 못하다는 것을 전제로 하면 우리는 프라이어라는 확률분포를 고려하게 된다. 이 프라이어란 우리의 무지에 대한 우리의 주관적 믿음이다. 그 프라이어는 경험에 따라서 고쳐지고 확장되어지게 된다. 이렇게 볼때 이 프라이어의 확장이 바로 앞에서 말한 생명의 성장과 연결된다고 생각할 수 있을 것이다.

 

즉 인간처럼 사고하는 기계를 만드는 일은 기계의 논리가 아니라 인간의 논리를 가진 기계를 만드는 것이며 그렇다고 할때 인간적인 요소를 가진 확률이론을 만드는 것, 그중에서도 인간이 자신의 주관적 믿음을 고쳐나가는 방식대로 프라이어를 고쳐나가는 확률법칙을 가진 이론을 만드는 것이 핵심이 될 것이다. 프라이어를 고쳐나가는 것을 메타 근사라고 하면 우리는 인간의 메타 근사를 연구하고 이것을 기계속에 심을 필요가 있다. 이런 견해에 따르면 인간을 인간이게 하는 것은 우리가 가진 지식에 있는 것이 아니라 우리가 새로운 정보를 지금의 나와 어떻게 결합하고 변해가는가 하는 것, 즉 우리가 학습하는 태도에 의해 결정된다. 우리는 지식을 단지 소유하는 것이 아니라 그걸로 자기 자신을 바꾼다. 

 

인간을 이해하는 기계

 

이 세상에서 인간을 이해하는 것은 오직 인간뿐이라는 것을 알게 되며 정확히 말하면 인간들조차 서로를 정확히 이해하는 것은 불가능하다.예를 들어 우리가 개나 쥐 혹은 지렁이나 아메바같은 생명들을 보고 있다고 하자. 우리가 그들을 이해할 수 있을까? 그들이 가지고 있는 인식의 세계는 우리 자신의 것과는 매우 다르다. 때문에 우리는 지렁이의 마음을 상상할 수 없다. 상상해도 확인할 수 없지만 이런게 아니라는 것은 분명하다. 우리는 지렁이가 아니니까. 우리는 소통의 문제를 가진다. 

 

물리학책을 처음 편 무지한 사람의 경우처럼 누군가가 우리에게 어떤 말을 했을때 우리는 이런 생각을 하게 된다.

 

“이게 무슨 뜻일까? 이 뜻인가 아니면 저뜻인가? 아니면 내가 완전히 모르는 또 다른 뜻이 있는 것일까?”

 

5가지건 10가지건 가짓수가 중요한 것은 아니다. 중요한 것은 너와 내가 모두 인간이라는 비슷한 조건에 있기 때문에 내가 의도하는 것을 너도 말한다라는 가정이 있다는 것이다. 그것없이는 의사소통이 어렵다. 게다가 그것만으로도 불충분하다. 같은 인간이라고 해도 우리는 서로 다르다. 그래서 우리는 서로를 배울 필요가 있다. 서로를 이해한다는 것은 자기를 확장하는 것이다. 진정으로 새로운 내용을 이해하는 능력, 박스바깥을 볼수 있는 능력을 가져야 진정한 의미의 의사소통은 가능해 질것이다. 그럼에도 체험의 간격이 너무 크면 우리의 확장이 서로에게 도달할 수 없다. 우리는 모두가 서로가 비슷한 인간이기 때문에 서로의 말을 이해하는 것이다. 그래서 우리의 지적 능력이 지렁이나 벌보다 높지만 우리는 지렁이나 벌의 인식세계를 체험하고 그들의 주관적 느낌을 이해할 수는 없다.

 

이런 예를 든 이유는 우리가 지적인 기계를 설계할때 같은 문제가 발생하기 때문이다. 이제까지의 기계는 생명처럼 성장하는 능력이 없었다.  그렇다고 할때 만약 우리가 인간이상으로 지적인 기계를 만들어 낼 수 있다고 하자. 인간이상이라는 게 무슨 뜻이건 말이다. 아마도 그게 가능하다면 그 기계는 우리가 지렁이를 이해하지 못하는 것처럼 인간을 이해하지 못할 것이다. 오직 비슷한 존재만이 즉 인간만이 인간을 이해할 수 있다. 따라서 그 별난 기계는 인간의 윤리와 가치, 감정을 이해하지 못할 것이며 그 위대한 기계는 우리의 기대처럼 인간을 위해 일해주지 않을 가능성이 크다. 적어도 우리는 그 위대한 기계가 왜 그렇게 반응하는지 알 수 없을 것이다. 지렁이가 인간의 지능을 가진 로봇을 만든다면 그 로봇은 지렁이를 이해하지 못하고 지렁이를 죽여버릴지 모른다. 마찬가지로 인간이 뭘 만들건 그것이 인간을 진짜로 이해하리라고 생각하는 것은 무리다. 

 

따라서 인간을 이해하는 기계란 가장 위대한 능력을 가진 기계를 만드는 것이 아니라 인간의 메타근사를 충실히 수행하는 기계다. 맛도 모르면서 음식을 먹는 그냥 흉내쟁이다. 인간의 장점이건 약점이건 인간으로서 사고하는 기계다.

 

맺는 말

 

인간처럼 생각하는 기계를 생각하다보면 소통의 문제가 새롭게 다가 온다. 우리는 절대로 우리가 통속의 뇌가 아니고 서로의 존재가 실재라는 것을 100% 확신할 수 없다. 우리가 서로의 의도를 정확히 이해한다는 것은 불가능하다. 정확히는 커녕 수없이 많은 해석가능한 문맥이라는 것을 생각하면 이해가 조금이라도 된다는 것이 신기할 정도다.

 

그럼에도 불구하고 우리는 엄청난 속력으로 의사소통을 한다. 시끄러운 곳에서도 대화를 나누고, 종이위에 씌여진 기호들로 산과 들과 바다를 상상하게 만들고, 사랑을 간접체험하게 하고, 분노하고, 슬퍼하게도 한다. 인간의 대화란 실제로 거대한 문명적 누적이 만들어 낸 장대한 기호체계가 엄청난 속력으로 움직이는 장관이다.

 

우리는 종종 우리가 서로의 마음을 이해하지 못하는 것에 대해 비관적이 되고 슬퍼하기도 한다. 하지만 실은 모든 성공적인 소통은 기적이다. 인간과 인간의 소통도 이런데 우리가 어떤 기계를 만들면 그 기계가 진짜 이해에 기반한 사고를 할 수 있을까? 우리가 지렁이나 아메바와 소통하지 못하면서 우리는 인간을 이해하는 그런 대단한 기계를 만들 수 있을거라고 생각하나? 만약 가까운 장래에 어떤 기계가 인간을 이해했다고 생각하는 날이 온다면 그것은 큰 비극일 가능성이 크다. 그 인간적인 기계는 자신을 이해해 줄 존재가 이 우주에는 전혀 없다는 사실에 세상에서 가장 깊은 고독에 빠지지 않을까.