인공지능으로 도달하는 진리

19.8.18

우리는 진짜 지식, 진짜 체험이라는 글에서 진리를 추구하는 직관법과 귀납법 그리고 그 문제점들에 대해서 이야기한 적이 있습니다. 하지만 그것은 인공지능 시대 이전의 것이었죠. 이번에는 인공지능으로 도달하는 세계에 대해 이야기해 보겠습니다. 

 

 

 

 

 

프로그래밍이라는 것은 사람이 컴퓨터에게 뭘 할지를 적어 놓은 것입니다. 그러니까 예를 들자면 여기 물건들이 있는데 이걸 특정한 순서와 방법으로 여기에서 저쪽으로 옮겨라라는 명령들을 자세히 적어 놓은 것이 바로 프로그램입니다. 보통 사람들이 말하는 프로그램이란 이런 것이죠. 사실 인공지능도 일종의 프로그램이지만 이것과는 조금은 달라 보이기도 합니다.

 

왜냐면 요즘 대세가 되어있는 머신러닝을 사용한 인공지능의 경우- 이글에서 인공지능이란 이런 인공지능만을 말합니다-에는 사람이 기계가 구체적으로 뭘 어떻게 한다는 것을 전부 지정하지 않기 때문입니다. 예를 들어 알파고는 바둑 세계 최고수들을 이겼습니다. 이제 그 프로그램을 만든 사람도 인공지능 프로그램을 바둑으로 이길 수는 없습니다. 인공지능은 데이터로부터 방법을 습득하지 그 프로그램을 짠 사람에게 해야할 일에 대한 자세한 명령을 받은게 아닙니다. 

 

이 글에서 저는 인공지능이 아닌 프로그램을 보통 프로그램이라고 부르겠습니다. 보통 프로그램은 인간의 진리찾기에 있어서 일전에 말했던 직관법과 유사합니다. 여기서 문제를 어떻게 해결해야 할 것인가, 뭘 해야 할 것인가는 이미 주어져 있습니다. 다르게 말하면 그게 어떻게 주어지는지, 그걸 어떻게 찾을수 있는지는 보통 프로그램을 만드는 일에서는 논의되지 않습니다. 다만 그 주어진 해결책을 프로그래밍 언어로 구현하는 것이 보통 프로그램을 만드는 일입니다. 마치 우리가 직관적으로 답을 깨달았으면서 그것을 논문으로 쓰는 것처럼 말입니다. 

 

이렇게 완성된 프로그램이 작동했을 때 우리는 그 해결책이 정말로 해결책인지를 테스트해 볼 수 있겠죠. 만약 원하는 결과가 나오지 않을 경우 우리는 두 가지를 의심합니다. 하나는 프로그램에 버그가 있어서 구현이 잘못되었다는 겁니다. 이건 사소한 문제같지만 프로그램을 해본 사람은 이것이 결코 사소한 문제가 아니라는 것을 압니다. 복잡한 프로그램은 온갖 문제로 오작동을 일으킵니다. 

 

과학을 연구하는 과학자들은 매번 새로운 물리법칙을 발견해내거나 하지 않습니다. 일찌기 라플라스같은 사람은 뉴튼의 법칙이면 이 세상 모든 것을 설명할 수 있다고 19세기에 선언한 바 있습니다. 이것은 큰 틀에서 이 세상의 작동원리에 대한 진리를 인간은 이미 가지고 있다는 믿음을 표현한 것입니다. 하지만 지금도 그렇고 당시에도 과학자들이 모든 현상들에 대한 설명을 다 가지고 있는 것은 아니었습니다. 다만 그럴 수 있다는 믿음이 있었죠. 그래서 과학자들은 그들이 알고 있는 기초적 원리를 하나의 논리적 설명내지 이론으로 구성해 낼 필요가 있는데요. 이 연구과정이 바로 프로그래밍과 유사합니다. 이론을 만든다는 것은 여러가지 것들을 인과관계의 사슬로 이어서는 결국 우리가 설명하기를 원하는 어떤 현상을 만들어 내는 매카니즘을 구성하는 것이죠. 과학자들은 여러가지 설명들이 실패해도 그것을 대개 근원적 법칙의 실패로 바로 받아들이지 않습니다. 그것을 프로그래밍 버그같은 것으로 생각하죠. 우리가 어딘가 논리를 구성하는데 실패했거나 아직 제대로 된 구성을 찾지 못했다는 겁니다. 이런 믿음을 유지하는 것을 일찌기 쿤은 정상과학이나 패러다임이라고 했습니다. 

 

보통 프로그램이 실패하는 또 다른 이유는 애초에 우리가 주어진 것으로 생각하는 해결책 혹은 직관이 틀렸기 때문 입니다. 프로그래밍이 문제가 된 것이 아니라 프로그래머의 관념이 틀려 있었기 때문에 문제는 해결 될 수가 없는 것이죠. 프로그램을 짜다가 이런 깨달음이 오면 기쁠 수도 있지만 매우 허탈한 경우가 많습니다. 그것은 문제를 해결하기 위해서 엄청난 자원과 시간과 노력을 이제까지 소모했던 것이 모두 헛 짓이라는 것을 알게 되는 순간이기 때문입니다. 하지만 물론 이것은 거대한 비약의 순간이기도 합니다. 이것은 전에는 1주일을 기다려도 결과가 안나오던 것이 5분만에 척척 결과가 나오게 바뀌는 순간이 될 수도 있습니다. 

 

자 그럼 문제의 인공지능을 생각해 봅시다. 인공지능은 보통 프로그램과는 달리 귀납법적으로 작동합니다. 즉 데이터로부터, 경험으로부터 규칙과 해결책을 스스로 찾아 내는 것입니다. 이전의 글에서 말했던 것처럼 과학혁명의 시대이전에는 귀납법적인 방법이 그리 인기가 없었습니다. 그게 꼭 어리석기만 한 것은 아닌 것이 데이터가 부족하거나 부정확한 시대에 귀납법은 엉뚱한 결과를 만들거나 아예 결과를 만들어 내지 못하기 때문입니다. 

 

사실 인공지능분야에서도 사람들은 처음에는 보통프로그램방식으로 인공지능을 접근했습니다. 지적인 행동에 대한 인간의 직관을 프로그램하려고 했달까요. 실제로 체스 프로그램이 인간을 이기는데에는 강력한 인공지능의 등장이 필요없었습니다. 뒤집어 말하면 인공지능의 성취가 별로 였다는 겁니다. 이것이 10년 20년전에만 해도 사실이었습니다. 

 

하지만 최근들어서 데이터가 엄청나게 쌓이고 컴퓨터가 빨라지면서 상황이 바뀌었습니다. 그리고 알파고가 인간을 바둑으로 이긴 일이 세상에서 큰 화제가 된 겁니다. 인간은 기보속에서 세계 최고수를 이길 방법을 찾지 못하는데 컴퓨터는 그걸 알아냈으니까요. 과학혁명이라고 불리는 서양의 17세기이래의 과학적 발전은 다르게 말하면 직관법에 대한 귀납법의 승리였습니다. 그리고 우리는 인공지능의 발전 속에서 직관법이 귀납법에게 또 다른 차원에서 패배하는 순간을 목격하고 있습니다. 

 

이전의 과학혁명에서 귀납의 주체는 인간이었습니다. 데이터를 모으고 거기에 귀납법을 적용하는 것이 인간이었기 때문입니다. 천문학 데이터가 저절로 뉴튼의 중력법칙으로 정리된 것은 아닙니다. 그래서 이제까지의 귀납이란 결국 인간의 한계를 바닥에 깔고 있는 귀납이었습니다. 그런데 이번의 승리에서는 인간을 빼고도 귀납이 진행됩니다. 인공지능은 인간은 해독할 수 없는 데이터를 인간은 기억도 할 수 없는 차원에서 귀납적으로 정리합니다. 어떤 의미에서 기계가 인간이 찾을 수 없는 진리를 찾는 겁니다. 

 

그러나 귀납법의 한계는 머신러닝에서도 여전히 존재합니다. 즉 일반화의 오류, 차원의 저주로 인한 데이터의 부족과 데이터 편향성은 인공지능도 가지는 문제입니다. 인공지능도 일반화의 오류를 저지릅니다. 그 문제는 때로 오버피팅의 문제라고도 불립니다. 인공지능도 차원의 저주문제를 넘어설수 없어 보입니다. 다만 인간과는 좀 다른 수준일 수는 있지만 말입니다. 당연히 인공지능은 데이터 편향성의 문제를 가집니다. 인공지능은 반드시 정답을 찾는 프로그램은 아닙니다. 정답이 하나가 아니라 여러가지 일 수도 있습니다. 바둑을 둘 때 여러가지 다른 전략이 가능하듯이 말입니다. 따라서 인공지능의 학습도 데이터가 증가함에 따라 인간의 패러다임 변화처럼 극적인 변화를 하는 것이 가능합니다. 

 

예를 들어 서로 다른 방식으로 학습한 인공지능들이 인간이 벌인 사상논쟁 비슷한 것을 벌일 가능성은 충분히 존재합니다. 바둑식으로 말하면 하나의 인공지능 프로그램은 어떤 특정한 한 수가 좋은 수라고 말하는데 다른 인공지능 프로그램은 그것이 악수라고 말하는 겁니다. 그 두개의 프로그램이 모두 인간의 능력범위를 훨씬 넘어서 있는 경우, 인간들은 난처한 입장에 처하게 될 겁니다. 

 

이런 이야기를 들으면 사람들은 인공지능에 대한 공포를 떠올립니다. 그리고 이런 일들이 전에는 일어난 적이 없었던 인류최초의 일이라고만 생각합니다. 하지만 그건 사실이 아닙니다. 우리는 기계에 의한 인간의 지배가 무슨 의미인지 고민해야 합니다. 확실히 어떤 의미에서 인간은 기계에 지배당하게 될 것입니다. 다만 우리는 그게 뭐가 나쁜 것인지, 피할 수 있는 것이고 피하고 싶은 것인지 그리고 인간이란 무엇인지를 더 잘 생각해 볼 필요가 있습니다. 

 

사람들은 인공지능을 소원을 들어주는 마술램프의 지니처럼 생각하는 경우가 많습니다. 원리는 잘 모르지만 그게 소원을 들어준다더라 하지만 그 지니가 역으로 인간을 공격하면 어떻하지 하는 식으로 생각하는 겁니다. 인공지능을 자동차나 칼같은 도구로 생각합니다. 하지만 저는 이 비유가 여러가지 의미에서 부적합하다고 생각합니다. 무엇보다 인공지능은 단순한 도구보다 인간인 우리에게 훨씬 더 가깝습니다. 그래서 인공지능은 문자에 비유되는 것이 더 적합합니다. 

 

'문자는 인간을 지배한다'라던가 '인간이 문자를 만든 이상으로 문자가 인간을 만들었다'라는 말을 들으면 우리는 어떤 느낌을 받습니까? 공포에 떨거나 말도 안되는 소리라고 느낍니까? 그렇지 않을 겁니다. 그건 누구나 아는 이야기 아냐라고 느끼는 분도 있을지 모릅니다. 문자를 아직 배우지 않은 사람들이 문자가 자신을 지배할 것이 두려워서 문자를 배우지 않겠다고 하면 문명인들은 대개 그 사람들을 비웃을 것이고 그 야만인들은 짐승이나 마찬가지이며 아직 제대로된 인간이 아니라고 까지 말할 겁니다. 

 

인간의 정체성은 다른 무엇보다도 이성에서 나옵니다. 그리고 인간의 이성은 문자와 함께 비약했습니다. 문자로 기록하고 정리하는 능력없이 뇌만으로는 인간은 침팬지보다 그리 뛰어나지 않으며 문자를 쓰는 문화가 우리의 언어를 복잡하게 만들고 그에 따라 우리의 사고도 현대문명을 만들 수 있을 만큼 복잡해진 것이니까요. 무엇보다 인간은 문자를 씀에 따라 거대한 사회를 만들고 유지할 수 있게 되었습니다. 이것이 바로 문자가 인간을 만들었다는 말의 의미입니다. 수만년전으로 돌아가 모든 인간에게 문자읽기가 불가능한 난독증을 심는다면 인간은 침팬지보다 그리 잘 살지 못할 겁니다. 그다지 더 똑똑하지도 않고 말이죠. 

 

문명인의 머리에서 이렇게 문자미디어를 통해 발달한 관념들을 제거하는 것은 불가능합니다. 그것들은 한순간도 우리 자신과 떨어져 있지 않으며 그야말로 우리 자신의 일부입니다. 문자도 자동차도 칼도 모두 도구이며 인간의 발명품이지만 문자와 칼이 구분되는 것은 이 거리입니다. 우리는 칼을 우리 몸바깥의 객체로 바라보는 시각을 가질 수 있습니다. 칼을 버린 우리 자신을 상상할 수 있습니다. 하지만 우리는 이런 의미에서 문자가 없는 우리를 객체로 바라볼 수 없습니다. 문자의 힘은 문자를 바라보는 우리의 머리속에 이미 있습니다. 내려놓을 수 있는 것이 아닙니다. 

 

인공지능은 칼같은 도구가 아니라 인간의 이성과 정체성 자체를 바꿀 새로운 미디어입니다. 인공지능이라는 미디어가 만들어 낼 진리와 질서는 앞으로 인간과 분리가 불가능해질 것입니다. 이런 의미에서 인간은 곧 멸종할지 모릅니다. 갑자기 유전자가 바뀐다는 뜻은 아닙니다. 다만 우리는 점점 더 인공지능과 인간이 결합된 어떤 것을 하나로 말하게 될 것이며 그 하나는 지금 우리가 인간이라고 부르는 존재와는 크게 다르게 될거라는 겁니다. 수렵채집생활하는 사람들이 비행기타고 핵무기 쓰는 현대인을 마법사처럼 느낄 것처럼, 그리고 문명화되지 않은 많은 원주민들이 오래전에 멸종단계에 들어선 것처럼 말입니다.  

 

인공지능을 문자로 말하는 또다른 이유는 인간이 그리 수동적인 존재가 아니라는 것을 말하기 위한 겁니다. 문자는 인간사회속에서 마법같은 힘을 발휘해 왔습니다. 많은 것들이 문자로 기록되고 창조되었습니다. 하지만 문자가 혼자서 그렇게 한 게 아닙니다. 그리고 문자가 마법이 아니듯 인공지능도 마법이 아닙니다. 인공지능은 달라. 그것은 스스로 법칙을 찾아내서 인간을 지배할거야라고 말하는 것은 문명사회를 마술사의 사회로 보는 야만인들의 시각을 연상하게 합니다. 

 

사실 인간은 문자 이외에도 인공지능과 비슷한 것들을 이미 가지고 있으며 그것에 지배당하고 있습니다. 그 인공지능의 한가지 이름은 시장입니다. 시장주의자들은 시장의 명령은 신과 같은 것이라고 말합니다. 즉 인간이 이해할 수 없는 답을 시장은 알고 있으니 우리는 시장의 명령에 복종해야 하며 시장이 가장 좋은 답을 알고 있다는 겁니다. 시장은 물론 인간이 만든 것이지만 시장은 누적된 데이터와 경험을 토대로 한 개인의 지적능력을 넘어서 작동하는 지성체로 여겨집니다. 그래서 그 시장이 매우 잔혹한 일을 저질러도 우리는 대개 그것은 더 나쁜 일을 막기 위한 어쩔 수 없는 경우라고 말합니다. 현대 자본주의는 굶어죽는 이웃들을 보면서도 자신은 좋은 사람이며 저건 내 책임이 아니라고 말할 수 있는 부자를 존재하게 만들었습니다. 그것은 인간의 행위가 아니고 시장의 행위라는 것입니다. 

 

그래도 현대사회에서 시장이 모든 것을 다 해주고 인간은 할 것이 없다고 말하는 사람은 없습니다. 오히려 거꾸로 시장이 존재하기에 인간이 해야 할 일이 있다고 생각하죠. 시장과 대화하고 시장안에서 성공하는 것이 많은 인간의 목표입니다. 이것이 우리가 살아갈 인공지능의 시대라고 생각하면 그다지 새로운 것은 없는 셈입니다. 그리고 인공지능이 우리를 지배하고 공격할거라면서 두려움에 떠는 일을 우리는 새로운 관점으로 보게 됩니다. 우리는 엉뚱한 걱정을 하고 있는 것은 아닙니까? 우리는 인공지능과 대화하면서 훨씬 더 많은 일을 하게 될 것입니다. 다만 그 일이라는 것이 지금의 관점에서는 매우 추상적이라서 기괴해 보이기까지 할 뿐이겠죠. 

 

또다른 예를 들어 봅시다. 우리는 매일 같이 일기예보를 듣고 이따금은 정부가 실업률통계를 발표하는 것도 듣습니다. 그리고 대선후보의 지지율에 대한 뉴스도 듣습니다. 그런데 이런 확률과 자료분석에 대한 정보들을 들으면서 이것들은 자동차를 자율운전하는 인공지능과는 같은 것이 아니라고 생각합니다. 그러니까 자율운전 자동차가 핸들을 혼자서 돌리면 무서워 하면서 뉴스에서 어떤 통계 결과를 들을 때는 무서워하기는 커녕 그것이 부정할 수 없는 현실의 일부라고만 생각하는 것입니다. 

 

예를 들어 핵발전소의 예상되는 이익과 피해는 어떻게 계산할까요? 누군가가 잘 계산했을 테니까 어떤 전문가가 이게 이렇다라고 말하면 우리는 그 숫자를 그냥 중력상수나 지구의 크기처럼 주어진 것으로 받아들여야 할까요? 자율운전을 하는 인공지능은 어떤 의미에서 주어진 데이터를 기반으로 매순간 우리가 취해야 할 행동에 대한 확률 통계적 분석을 하는 겁니다. 그러니까 뉴스에 나오는 통계보도는 그런가 하면서 믿으면서 인공지능 로보트에 대해서는 무서워하는 것은 원리상 괴상한 짓입니다. 만약 현대사회가 이미 통계의 지배를 받고 있다고 믿는다면 인공지능의 지배는 이미 원리상으로는 그리 새롭지도 않은 것입니다. 그러니 앞으로도 적당히 말과 형식을 바꾸기만 하면 사람들은 당연하다는 듯이 그 결과를 받아들일 겁니다. 누군가가 인공지능기계 앞에 서서 스위치를 눌렀다는 이유로 그 결과는 그 사람의 분석결과이며 과학적 결과라고 받아들여질지도 모르죠. 그 사람은 뭐가 어떻게 돌아가는지 거의 몰라도 말입니다. 그래서 사람은 뜻밖에 인공지능의 지배를 아주 자연스럽게 받아들일지도 모릅니다. 

 

마지막 예는 조금 더 기괴합니다. 우리가 인공지능에 대해 공부하고, 또 인간으로 이뤄진 시장같은 사회적 시스템이 집단적 지능을 발휘하는 것을 일종의 인공적 데이터처리라고 생각한 뒤에 인간의 뇌를 보면 우리는 언젠가 인공과 비인공의 차이를 알 수없어질 것입니다. 데이터를 인공 신경망이 처리하면 그건 인공지능인데 뇌가 처리하면 그것은 인공이 아닙니다. 이게 무슨 말일까요? 우리가 뇌를 이해하면 할 수록 인공적 데이터처리라는 말은 애매한 의미를 가지게 될 것입니다. 

 

저는 인공지능을 두려워 하는게 아니라 오히려 인간이 두렵습니다. 철기 문명과 청동기 문명이 만나면 어떻게 되었던가요? 청동기 문명이 멸망합니다. 이런 옛날 예가 아니더라도 미국에서 멸망한 인디언 원주민들의 예도 있습니다. 인디언들 다 멸종한 다음에 지금와서 반성하는 사람도 있지만 당시만 해도 인디언은 인간이 아니고 그저 위험한 짐승쯤으로 여겨졌을 겁니다. 내가 살자면 멸망시키고 쫒아내야할 야만적 존재라는 거지요. 인디언들은 땅과 강을 독점적으로 소유한다는 식의 자본주의적 관점들을 이해할 수 없었습니다. 사실 저도 유전자를 독점적으로 소유한다는 식의 날로 늘어가는 지적소유권 분쟁들이 모두 이해가 가는 것은 아닙니다. 

 

강력한 인공지능으로 무장한 문명은 지금의 인간이 가지지 않은 힘을 가지게 될 것이고 사람들은 전에 없던 선택들에 직면하게 될 것입니다. 예를 들어 그 엄청난 인공지능이 한국 사람에게 말한다고 해봅시다. 지금 당장 일본에 미사일을 한방쏴라 그렇지 않으면 10년안에 한국은 망한다고. 그 이유는 우리가 이해가 안될 수 있습니다. 알파고가 이세돌을 이겼지만 우리가 알파고를 이해하지 못하듯이 말입니다. 더 나쁜 것은 우리는 적당한 설명을 만들어 내서 우리가 이해하지 못하는 그 명령을 이해가능한 것으로 만들 수도 있다는 겁니다. 우리가 시장에 대한 여러가지 사상들을 만들어 냈듯이 말입니다. 미국에 온 서양사람들이 인디언을 죽여 없애야 할 위험한 존재로 인식하는데 쉽게 성공했듯이 말입니다. 앞에서 말한대로 인공지능이 그렇게 말했다고 하면 설득력이 떨어지겠죠. 정통성있는 통계분석에 따르면 일본을 이대로 내버려두면 인류가 멸망할 확률이 상당히 높다는 결과라고 하면 설득력이 다를 겁니다. 

 

그럼 우리는 미사일을 쏴야 할까요? 인공지능이 없는 저 미개한 나라가 세상을 멸망시킬 지도 모르니까? 사실 세계 경제질서를 조금도 이해하지 못하는 것같은 아베같은 사람을 보면 야만인이 우리를 멸망시킬 수도 있다는 말이 설득력이 느껴지기도 합니다. 발달된 세상에서 컴퓨터에 커피를 부으려고 하는 원숭이를 우리는 때려 쫒아야 할까요? 

 

인공지능을 누가 독점할 것인가, 그리고 인공지능의 분석에 우리는 어느정도나 우리 자신을 맡길 것인가. 우리가 안해도 남이 한다면 그것은 우리가 철기문명으로 발전해 가는 것을 막고 청동기의 신성함운운하고 있는 꼴이 되는 것은 아닌가. 이런 고민은 공상과학이 아니라 곧 현실이 될 것입니다. 이미 이것이 현실이 아니라면 말입니다.