만들기와 발견하기 그리고 내면화

우리는 자동차를 만든다. 그런데 만든다는 것과 발견한다는 것은 어떻게 다른 것일까? 우리는 혹시 자동차를 만드는 법을 발견하는게 아닐까? 여기에는 애매한 점이 있다. 하지만 기계의 경우 우리는 그것을 만든다고 할 수 있다. 왜냐면 기계는 환원주의적으로 설명이 가능하기 때문이다. 다시 말해서 기계는 왜 그 기계가 이러저러하게 작동하는지를 더 작은 부분들로 설명할 수가 있다. 이것은 기계의 경우 이상으로 수학 공식이나 과학 이론도 마찬가지다. 우리는 큰 것을 작은 것이 합쳐진 것으로 보는 환원주의의 입장에서 기계, 수학공식, 과학이론을 더 작은 것들의 합으로 논리적으로 설명할 수 있다. 일반적으로 말해서 설명할 수 있는 것은 만든다고 할 수 있고 그렇지 못한 것은 발견했다라고 말할 수 있을 것이다. 

 

공장에서 자동차를 만드는 인부들의 경우에는 이 만든다는 입장이 더 확실하다. 그들은 기본적으로 자동차가 뭔지를 모르면서도 자동차를 만들 수 있다. 자동차는 정해진 절차에 따라 조립되는데 그들이 알아야 하는 것은 그저 조립의 순서일 뿐이다. 원재료에다가 정해진 절차를 따라서 일을 하면 자동차는 만들어 지는 것이다. 

 

그런데 과학은 혹은 나아가 수학과 기계는 이 환원주의적 성격때문에라도 중요한 특징을 가지게 된다. 그것은 바로 이해할 수 없는 것, 설명할 수 없는 것을 가져야만 한다는 것이다. 대표적인 것이 바로 수학에서는 공리이고 과학에서는 법칙이다. 법칙은 설명할 수 없는 것이며 그저 관찰을 통해서 발견되는 것이다. 만약 어떤 것이 설명될 수 있다면 그것은 자연법칙이 아니라 설명할 수 있는 자연현상이며 따라서 다른 설명할 수 없는 자연법칙에 근거해야 한다. 결국 하나의 설명은 출발점을 가져야 한다. 수학에서도 정리라고 하는 것과는 달리 공리는 증명의 대상이 아니다. 그냥 옳다고 주어져 있는 것이다. 

 

이 점은 사실 현대 과학의 본질이기도 하다. 갈릴레오와 뉴튼에 이해서 만들어진 과학혁명의 본질중 하나는 묘사하되 설명하지 않는 것이다. 그래서 뉴튼은 중력법칙이라는 것이 있다고 할 뿐 중력법칙이 왜 있는 것인지는 설명하지 않는다. 그것을 포기함으로서 현대과학은 아주 쓸모 있어졌다. 그것을 포기하지 않을 때 우리는 무한 회귀에 걸려서 계속 왜를 묻는다. 그리고는 어딘가에서 자기도 모르는 말로 자신을 정당화한다. 모르면서 아는 척하고 가정을 하면서 가정이 없는 척하는 것이다. 이에 비하면 현대과학은 출발점을 명확히 한다. 관찰에 의해서 이러저러한 법칙이 있음을 발견했다는 것이다. 이 말은 그 법칙을 설명하는 것은 잠정적으로 포기했다는 말과 같다. 

 

이 설명불가능성은 AI에 이르면 어쩌면 더욱 중요하다고 할 수 있다. 왜냐면 많은 사람들은 인간이 AI를 만든다고 생각하고 있기 때문이다. 하지만 이건 착각이다. 적어도 착각이라고 말할 만한 부분이 크다. AI는 자연법칙처럼 만드는 것이 아니라 발견하는 것이다. 과학에서는 관찰 결과에 의존하되 인간은 스스로의 직관력에 의지해 과학적 가설을 만든다. 그리고 그 가설을 검증함으로서 자연속의 법칙을 발견한다. 그런데 AI에서는 인간의 직관력이 아니라 컴퓨터 최적화과정이 이 발견의 과정을 대신하게 되는 것이다. 

 

다만 과학법칙과 AI의 차이점은 몇가지 있다. 우선 과학법칙은 시공간을 초월하는 절대적 진리다. 20세기에 통하던 법칙이라던가 프랑스에서만 통하는 법칙을 과학법칙이라고 부르지 않는다. 게다가 과학법칙은 아주 엄밀하게 맞는 것이어야 한다. 단 한번이라도 과학법칙이 데이터에 의해서 부정되면 그것은 과학법칙이라고 불릴 수 없다. 단 하나의 반례가 과학이론을 부정하게 된다. 

 

그런데 AI의 경우에는 그저 주어진 데이터에 기반했을 때 지금 제시할수 있는 최선의 답에 가깝다. 그 최선이라는 것도 사실 꼭 절대적 최선이라기 보다는 그냥 내가 할 수 있는 정도는 다 했다는 의미의 최선이랄까. 그러니까 AI가 틀린다는 사실이 AI를 부정하는 근거가 될 수는 없다. AI는 본래 그렇게 하나도 틀리지 않고 답을 내놓는 것이 아니다. 그래서 같은 질문에 대해 서로 다른 답을 내놓는 두 개의 AI는 공존가능하다. 과학이론의 경우에는 이건 불가능하다. 둘 중 하나만 맞거나 둘 다 틀리게 된다. 

 

AI 개발자들은 딥러닝이니 강화학습이니 트랜스포머 네트웍이니 하면서 AI를 만들기 위해 많은 모델을 개발한다. 그래서 일 것이다. AI는 만들어 지는 것으로 보인다. 그러나 AI의 본질은 데이터다. 어떤 학습 알고리즘을 쓰고 어떤 네트웍 구조를 쓰던 데이터안에 있지 않은 질서를 발견하는 것은 AI 학습의 본질이 아니다. 그래서 AI는 만들어 진다기 보다는 발견하는 것으로 이해해야 하고, 그래서 AI는 이해불가능한 것이다. 

 

사람들은 자꾸 AI를 의인화하면서 나와는 다른 어떤 의식이 있는 생명체같은 것으로 의식하려는 경향이 있다. 그러나 AI가 사방에서 쓰이는 시대가 되면 AI는 지금의 자연법칙과 주변 인간들의 중간쯤에 위치한 것이 될 것이다. 우리는 자연법칙을 의지가 있는 것으로 의인화하지 않는다. 적어도 현대 과학이 발전한 이후에는 그렇지 않다. 고대 그리스 신화같은 것 속에서라면 다르지만 말이다. 우리는 자연법칙을 알지만 그것을 이해하지는 못하며 그것을 그냥 내면화한다. 이 말은 자연법칙을 우리의 말을 언제나 따르는 수학공식이나 팔다리같은 것으로 여긴다는 말이다. 자연법칙은 예외가 없으며 그냥 이러면 저렇다는 식의 관계다. 우리가 그것을 믿게 되면 될 수록 그것은 잘 안보이게 된다. 구구단을 쓰면서 왜냐고 묻지 않고 팔다리를 쓰면서 내 팔다리가 내 명령을 들을 것을 의심하지 않는 것처럼 말이다. 

 

이미 네비를 쓰는 사람들은 그렇게 하고 있다. 길찾기는 네비에게 맡기면서 그 과정에서 뭔가 이 네비가 나를 속이면 어떻게 하지 같은 생각은 하지 않는다. 상대를 의인화한다는 것은 그런 것이다. 앞으로 더 많은 AI가 나오고 그것에 익숙해지면 우리는 그것을 내면화할 것이다. AI의 성능이 좋아질 수록 그럴 것이다. 영화속에 나오는 AI 자비스는 인간처럼 말하면서 우리의 친구처럼 행동한다. 그래서 인간은 AI와 친구가 된다. 그러나 나는 그것은 영화적 상상력이라고 생각한다. AI가 앞으로 인간처럼 우리와 소통하지 않을거라는 것이 아니라 우리가 AI를 결국에는 인간이나 친구처럼 대할거라는 점이 말이다. 

 

AI는 결국 우리를 둘러싼 기계들처럼 될 것이다. 우리의 팔다리나 우리가 착용한 장갑이나 안경같은 것이, 우리가 쓰는 단순한 계산기같은 것이 될 것이다. 즉 우리는 그것을 내면화하고 그것에게 내부 세계가 있다는 생각을 하지 않게 될 것이다. 천둥번개를 상징하던 제우스가 과학적 현상이 되었듯이 말이다. 지금은 우리가 AI를 잘 이해하지 못하고, AI 시대를 잘 이해하지못해서 그런 신비주의적인 반응을 보이는 것뿐이다. 

 

인간은 자동차없이는 시속 100km로 달릴 수 없다. 그러나 자동차를 운전하면 그정도는 별거 아니다. 그래서 누군가가 한시간만에 5-60km 거리의 먼 곳에서 나에게 찾아왔을 때 우리는 놀라지 않는다. 자동차가 그것을 가능하게 했다는 것을 알고 있고 그걸 할 수 있는 것이 인간이라고 생각한다. 

 

앞으로의 인간들은 지금의 우리 눈에 보기에는 매우 놀라운 일들을 해낼 것이다. 그러나 그것에 익숙해져서 놀라지는 않을 것이다. 그들은 AI를 쓰면 그런 일을 할 수 있다는 것을 알고 있기 때문이다. 우리들은 그런 놀라운 일들을 해낼 수 있는 것이 인간이라는 사실에 점차로 익숙해져 갈 것이다. 다시 말해 AI가 내면화된 세상이 오는 것이다.