AI 사회는 왜 내적 변화없이는 불가능한가?

나는 항상 AI 시대가 오기 위해서는 내적 변화가 있어야 한다고 말해왔다. 그리고 그 변화는 패러다임의 변화이기 때문에 종교를 대학에서 가르칠 수 없고 교회에서 물리학을 가르칠 수 없듯이 기존의 교육기관에서는 AI 패러다임을 가르 칠 수 없을 것이라고 말해왔다. 이제 AI 시대가 코앞에 다가온 지금 이것은 더욱 더 중요한 문제가 되었다. 내가 말하는 내면화가 없이는 우리는 기술의 발전으로 인해 참혹한 아픔을 겪을 것이다. 그 내면화가 일어날 때까지 말이다. 

 

왜 그런가? 이렇게 질문해 보자. 여러분은 왜 민주주의라는 단어를 여러분이 쓸 수 있다고 생각하는가? 여러분이 민주주의에 대해 뭘 알고 있건간에, 심지어 민주주의를 강의하고 책을 쓰는 사람이라도 민주주의란 무엇인가에 대한 최종적이고 절대적으로 객관적인 답을 말할 수는 없다. 그런 사람은 존재하지 않는다. 그러니 대부분의 사람에게는 민주주의라는 단어는 그저 희미한 인상에 지나지 않는다. 그런데도 우리는 민주주의라는 단어를 쓰고 산다. 그리고 이것은 정도의 차이는 있어도 사실상 거의 모든 단어에서 사실이다. 

 

이 점을 우리는 문자 문명 이전의 수렵채집인과 문명인의 사이에서 생각해 봐야 한다. 문명인은 경험상 자신이 쓰는 말들을 정확히 몰라도 그것에 의지하면서 살 수 있다는 것을 안다. 즉 그는 문명이라는 시스템을 믿는 것이다. 국가나 부족같은 거대한 공동체를 믿는 것이다. 그런데 고작 한 가족이 모여 살 뿐인 수렵채집인은 질문할 수 있다. 그런 추상적인 단어가 무슨 뜻인지 어떻게 아냐고 말이다. 그들에게 그 단어를 설명해 줘도 그들은 그들이 아는 언어로 번역을 부탁할 것이다. 그리고 그 번역과정에서 핵심은 사라지고 만다. 바로 문명에 대한 믿음이다. 믿음은 번역할 수 없으니까 믿음이다.

 

우리는 같은 것을 전근대를 살았던 전근대인과 근대인 사이에서도 발견할 수 있다. 비록 우리는 분명히 근대를 살고 있지만 우리가 사는 사회에는 아직도 전근대의 정신을 가지고 있는 사람들이 꽤 있기 때문에 이 차이는 그저 상상만이 아니라 실제로 우리가 가끔 경험하는 일이다. 근대인의 정신이란 과학적이고 논리적이다. 다시 말해서 그들은 과학적으로 검증되고 구축된 객관적인 세계에서 그들이 살아가고 있다고 믿는다. 그래서 유령이나 영혼같은 것은 근대인의 정신에는 잘 맞지 않는다. 

 

그렇다면 과학적이라는 것은 어떤 것일까? 그것은 정확히 측정된 데이터로만 지식을 만드는 것이다. 그런 데이터가 없을 때 우리가 아는 지식은 설사 지식이라고는 불려도 과학적 지식이라고는 불릴 수 없다. 좋은 예는 몸무게다. 측정이 불확실할 때 우리는 뚱뚱한 사람과 마른 사람으로 사람들을 구분할 수 있을지 모른다. 그런데 과학의 눈으로 보면 몸무게는 연속적으로 변하는 숫자일 뿐이다. 즉 우리의 몸무게는 44kg일 수도 있고 85kg일 수도 있지만 그 숫자 자체가 뚱뚱하다던가 말랐다는 의미를 주지는 않는다. 사람의 몸무게는 두개나 세개의 단어로 구분되지 않고 그저 연속적으로 분포할 뿐이다.  뚱뚱함이란 과학적 단어가 아니다. 

 

여기서 결정적 부분이 나온다. 그런데 우리가 누군가의 몸무게가 85kg이라고 전근대인에게 말했다고 하자. 그러면 그 전근대인은 그 숫자를 그들의 언어로 번역한다. 즉 강국진은 85kg이다라는 문장은 그냥 남아있지 못하고 강국진은 뚱뚱하다라는 문장으로 대치된다. 이와 비슷한 일은 오늘날에 살아있는 전근대인들을 만나면 늘상 일어난다. 그들은 종종 어떤 과거의 관념으로 누군가에게 딱지를 붙인다. 그리고는 그런 관념이 근거없다는 것을 절대 받아들이지 않는다. 그러니까 양반이 어떻고 쌍놈이 어떻다고 말하고, 여자가 어떻고 남자가 어떻다고 말하며, 부자가 어떻고 가난한 사람이 어떻고 라고 말한다. 그들은 어떤 근대적 소식을 들어도 그걸 전근대적 방식으로 번역해서 이해한다. 

 

왜 그럴까? 그들은 실은 과학에 대한 믿음이 없기 때문이다. 그들은 데이터 속에 존재하는 거대한 질서에 대한 믿음이 없기 때문이다. 그래서 과학적으로 세상을 보고 세상을 사는 대신 여전히 전근대적인 믿음 속에서 산다. 과학은 증명된 것이고 전근대적인 믿음은 근거없는 것이라는 말을 하는 사람은 알아야 한다. 그렇게 믿는다면 그건 당신이 이미 과학을 믿기 때문이다. 아니면 교육기관을 믿거나 교과서를 믿거나 말이다. 나는 지금 과학을 부정하는 것이 아니다. 패러다임의 전환에는 언제나 믿음의 비약이 필요하다. 

 

그렇다면 AI 시대로의 전환에도 패러다임의 전환이 필요할까? 우리는 과학적 정신을 부정해야 한다는 말인가? 그렇다. 그게 핵심이다. AI 패러다임은 기본적으로 과학적 문제해결법의 한계에 대한 것이다. 과학적 문제해결법은 엄밀히 측정된 데이터 안에서 단순한 법칙을 찾아낼 수 있다는 믿음에 기초한다. 그리고 그 믿음은 뉴튼의 고전역학에서 기적같은 축복을 받았다. 세상을 모두 지배한다는 만유인력의 법칙이나 뉴튼의 운동법칙은 이보다 더 간단할 수 없다고 할 수 없을 만큼 간단한 수식으로 쓸 수 있다. 그런게 존재하는 것은 기적적인 축복이었다. 하지만 과학적 문제해결법은 기본적으로 부분으로 전체를 구성하는 환원주의에 기초하고 복잡하고 강하게 상호작용하는 시스템에서는 잘통하지않는다. 대표적인 예가 생명현상, 사회현상같은 것이다. 그래서 20세기 후반으로 오면 올수록 경제학이 물리학같은 학문이 될 수 있다는 희망은 부정되게 된 것이다.  

 

과학은 발달할 대로 발달했다. 그 조짐은 이미 100년전의 양자역학에서 나왔다. 양자역학은 어떤 인간도 고전적인 의미에서 즉 인간의 일상어로 설명할 수 있다는 의미에서 이해할 수가 없다. 오직 수학적 언어로만 이해할 수가 있다. 개미가 아무리 노력해도 양자역학을 이해할 수 없는 것처럼 과학의 발전은 인간이라는 생명체에게는 이해가능한 이론의 경계에 서있다. 그보다 더 복잡한 이론은 존재한다고 해도 인간이 이해할 수가 없어 보인다. 

 

그런데 AI 패러다임은 개미가 양자역학을 이해하는 것에 대한 것이다. 인간이 절대로 이해할 수 없는 즉 일상어는 물론 수학같은 언어를 포함해서 어떤 형식으로도 인간이 이해할 수 없는 것을 이해할 수 있는 것으로 만드는 것에 대한 것이다. 바로 인간이 기계없이는 처리할 수 없는 많은 데이터와 엄청난 속력의 컴퓨터가 하는 최적화를 통해서 말이다. 여기서 이해한다는 것은 특정한 AI를 써서 문제를 해결할 수 있다는 뜻에서다. 좋은 예가 이세돌을 이긴 알파고다. 그걸 만든 제작자를 포함해서 인간들은 알파고가 어떻게 이세돌을 이기는지를 이해할 수 없다. 하지만 우리는 알파고를 소유할 수 있고 그걸 쓸 수도 있다. 즉 바둑을 이기는 문제를 알파고를 써서 해결할 수 있다는 것을 우리는 안다. 어떻게 하는지는 몰라도 말이다. 

 

알파고와 같은 AI는 문명사회에 존재하는 민주주의같은 단어와 같다. 우리는 그걸 믿고 쓸 수 있다. 그러면 이제까지는 인간이 할 수 없다고 생각하는 일을 할 수 있다. 언어가 인간의 지능을 확장했듯이 AI를 믿고 그것과 함께 사고하는 인간의 지능은 확장된다. 그렇게 지능이 확장된 인간을 나는 사이보그2라고 부른다. 

 

그런데 진정한 사이보그2가 되려면 패러다임의 변환이 필요하고 믿음의 전환이 필요하다. 이해할 수 없는 것은 신용할 수 없다는 사람은 결국 사이보그2가 될 수 없다. 그건 수렵채집인이 문명인이 될 수없거나 전근대인이 근대인이 될 수 없는 것이나 마찬가지다. 물론 언젠가 AI가 크게 발달해서 이해할 수 없지만 그걸 써보면 문제가 해결되더라는 경험이 누적되면 AI를 믿기는 쉬울 것이다. 하지만 그건 이미 우리 주변이 모두 새로운 패러다임으로 다 전환된 후라는 뜻이다. 

 

전근대인이 근대인의 사고방식을 받아들이지 않고 시간을 끌면 무슨 일이 벌어지던가? 식민지화나 멸종이다. 조선이 그렇게 식민지가 되었고 미국 인디언들이 그렇게 인종청소를 당했다. 패러다임의 과도기에는 믿음은 쉽지 않다. 그래서 서양에서도 과학도 부루노같은 순교자를 만들고서야 세상을 바꾸게 되었다. 패러다임의 과도기에는 새로운 패러다임은 그다지 쓸모가 크지 않기 때문이다. 과학시대의 초기에는 과학은 답하지 못하는 질문이 많았고 풀어놓은 문제는 적었다. 지금도 모두가 AI에 놀라지만 동시에 AI가 아직 서투른 행동을 하고 있다는 것을 누구나 느끼기 때문에 AI를 비웃거나 그것이 위험하다는 것을 말하기는 쉬운 일이다. 진짜 어려운 것은 AI 패러다임의 핵심을 이해하고 올바른 믿음을 가지는 일이다. 

 

다시 말하지만 AI 패러다임의 핵심은 대량의 데이터와 컴퓨터 최적화를 통해서 우리가 이제까지 풀 수 없었던 문제를 풀 수 있다는 믿음에 있다. 그리고 이는 우리가 AI를 그냥 쓴다는 것에서 멈추지 않고 사회조직에서도 나타나야 한다. 즉 근대화 사회에서도 그랬듯이 인간과 인간이 연결되고 조직되는 상황에서도 나타나야 한다는 것이다. 

 

AI 시대의 핵심은 아직 제대로 출현하지 않았다. 지금의 AI는 말하자면 인터넷에 연결되지도 않은 pc 수준에도 도달하지 못했다. 메인컴퓨터 정도가 나온 정도랄까. 다시 말해 비싸고 할 수 있는 일이 별로 없다. 하지만 모두가 자기 AI를 자기 기계에서 돌릴 수 있어서 AI 에이전트가 다른 AI 에이전트와 연결될 수 있는 시대가 올 때 세상은 극적인 점프를 할 순간을 맞이할 것이다. 빌게이츠의 말을 빌리면 이 시기는 5년도 남지 않았다. 

 

그 시대에 대해 여러가지 말들이 있지만 그 시대의 핵심은 다시 믿음이다. 우리는 우리의 AI들이 서로 대화하고 협상하게 만들어서 해결법을 찾도록 해야 한다. 인간은 소통에 있어서 느리고 데이터 분석이 느리다. 이미 AI는 책한권을 몇초에 읽는데 말이다. 그러므로 AI끼리 소통하며 해결법을 찾게 하면 지금보다 엄청나게 빠르고 복잡한 소통이 시작될 것이다. 누구도 오이한개를 사는데 5시간동안 협상을 하지는 않을 것이다. 그러나 인간보다 훨씬 빠른 AI라면 그들끼리 협상할 때 인간이라면 5시간은 걸려서 해야했을 소통을 순식간에 할 수 있을 것이다. 

 

AI 에이전트를 사용하는 인간은 말하자면 빌 게이츠처럼 엄청난 부자라서 자신을 위해 일할 하나의 비서 부대가 있는 사람과 비슷하다. 그런 사람이 토마토를 판다면 도매상에 넘길 필요가 있을까? 직접 소비자와 연결해서 판매할 노동자원이 얼마든지 있는데? 데이터를 공유하는 소비자 단체는 AI 에이전트들의 힘에 기대면 엄청난 힘을 회사에 가할 수 있을 것이다. 결국 거대한 회사가 개인 소비자를 압도할 수 있는 이유는 거대한 회사는 노동력이 많은데 비해 개인은 시간도 노동력도 없기 때문이다. 그런데 AI가 등장하면 이야기가 달라질 것이다. 

 

이 문제에 대해서는 처음 듣는 사람은 약간 멈추고 생각을 할 필요가 있다. 지금 이 세상에서 얼마나 많은 것들이 인간이 중간에 끼어야 하기 때문에 존재하는지 말이다. AI 에이전트는 파괴적인 혁신을 가져올 것이며 사람들의 믿음에 따라 그 변화는 우리의 상상을 가볍게 초월할 것이다. 모든 조직들이 무너질 수 있다. 예를 들어 나는 지금 화제가 되고 있는 비트코인같은 암호화폐를 AI 에이전트들이 스스로 만들어 사용하는 미래도 올 수 있냐고 AI에게 물어본 적이 있다. 그 답은 매우 높은 가능성으로 그렇다는 것이었다. 그게 뭔지, 그런 AI 에이전트 경제가 어떤 것인지 나에게 묻지 말라. 나도 모른다. 단지 내가 전에 했던 말을 기억하라. 개미와 양자역학.

 

AI 에이전트를 쓰는 사람들의 사회는 사이보그 2의 사회이며 그 사회가 어떤 것인지는 수렵채집인이 문명사회를 이해하려는 것만큼이나 어렵다. 다시 말해 불가능하다. 바로 그렇기 때문에 위험하다, 믿을 수 없다는 말이 나오기 쉽다. 나는 AI 사회를 준비한다는 목적으로 열린 세미나를 유튜브에서 본 적이 있다. 그곳에는 여러 정부 요인들이나 은행장같은 높은 사람들이 참석했는데 나에게는 그 회의가 모순적인데가 있다고 느껴졌다. 그들은 조직에서 높은 자리를 차지하고 있는 조직의 장이다. 그들에게 AI 패러다임을 납득시키는 것은 중세시대의 종교인에게 과학 패러다임을 설명하는 것만큼 어려울 것이다. 그들은 무슨 말을 들어도 낡은 패러다임의 언어로 번역해서 이해한다. 그러므로 그들에게 AI란 그저 노예 로봇이다. 그들은 그들의 조직의 말단에서 그들이 명령하면 뭐든지 하는 직원과 AI를 구분하지 못한다. 그저 월급도 안받고 더 빠르게 일하는 직원이 들어왔나보다고만 생각할 것이다. 왜냐면 그들이야 말로 모든 일이 중앙에서 처리되어야 한다는 믿음의 수혜자이기 때문이다. 

 

사이보그2의 사회는 그래서 사회적 약자들로부터 시작될 거라고 나는 생각한다. 그들이 데이터를 공유하는 신뢰의 집단으로 뭉칠 때 AI 에이전트로 연결되는 그들은 집단적 지능을 크게 향상시킨 새로운 조직이 될 것이다. AI 에이전트들로 자동 최적화되고 연결되는 조직은 발전의 속력이 말할 수 없이 빠를 것이다. 지금 기술 발전이 빠르다고 느끼는 사람이나 암호화폐같은 것이 불과 10여년만에 세상을 흔드는 것을 보고 놀라는 사람은 순식간에 자본주의가 몰락하는 것같은 모습을 볼 수도 있다. 물론 미래 상상은 어디까지나 사이보그2의 사회가 출현하는 데까지다. 아직 수렵채집인에 불과한 나로서는 문명인의 사회를 진짜로 예측하기는 어렵다. 

 

이래서 지금의 사회에서 지금의 패러다임으로 중독된 사람일 수록 미래로 가기가 더 힘든 것이다. 수렵채집인의 눈에는 카드같은 것을 보여주면 고기를 주는 문명사회가 이해가 되지 않는다. 마찬가지로 대학에서 가르치고 온갖 작은 지식들에 매달리고, 전문화에 전문화를 거듭하는 일을 당연시하는 사람에 눈에는 새 시대는 미친 것같을 것이다. 물론 위험은 있다. 물론 온갖 사기도 있을 것이다. 비참한 실패도 있을 것이다. 과학의 시대가 왔는데 과학을 안믿는 사람도 있지만 과학맹신자가 되어 과학을 오해하는 사람도 있다. 비슷한 일도 있을 것이다. 그러나 모든 것을 불신할 때 결국은 미래는 날아오르지 못한다.  새 시대는 새로운 믿음을 요구한다.