동적 평형과 언어 그리고 인공지능

2019.9.25

동적평형이란 두 개의 반대로 일어나는 과정이 동시에 존재할 때 그들의 힘이 균형을 이루는 상태를 말한다. 예를 들어 닫힌 병속에 물이 있다고 하자. 물은 매순간 물분자를 공기속으로 내뿜는다. 하지만 동시에 병속의 공기속에 있는 물분자가 물속으로 돌아가기도 한다. 이 두과정이 평형을 이루는 상황에서 물의 높이는 일정 수준을 유지한다. 하지만 온도가 달라지면 동적평형은 달라지고 따라서 물의 높이도 달라진다. 

 

또 다른 예는 모래로 탑을 쌓는 것이다. 모래를 계속 붓는다고 해서 모래탑이 항상 끝없이 높아지지는 않는다. 모래탑은 동시에 끝없이 무너지기 때문이다. 모래로 탑을 쌓는 속력과 모래가 무너지는 속력이 균형을 이룰 때 모래탑은 일정한 높이를 유지하게 된다. 하지만 우리가 탑을 쌓는 재료를 바꾸게 되면 이 동적평형은 또 달라지게 될 것이다. 

 

 

이렇게 동적 평형은 우리 주변에 아주 많이 있다. 그리고 우리가 저지르기 쉬운 잘못중의 하나는 어떤 것이 동적 평형의 결과인데도 그것을 그저 정적인 것으로 파악하는 것이다. 그러다가 환경의 작은 변화가 때로는 상상할 수 없이 큰 변화를 만들 수도 있다. 그런 변화의 결과 평형점이 전혀 달라질 수 있기 때문이다. 이 글은 동적 평형의 관점에서 인공지능이 어떤 의미를 가지는가에 대해서 생각해 보는 글이다. 

 

2017년에 있었던 일이다. 인공지능 챗봇을 개발하던 페이스북에서 작은 소동이 있었다. 인공지능끼리 영어로 대화를 하도록 했더니 나중에는 인공지능이 새로운 언어를 개발한 것같이 보였다. 그들이 더이상 인간이 이해할 수 없는 그 새로운 언어로 대화를 하고 있다는 것이 발견되었을 때 페이스북은 시스템을 중단시켰다. 이 사건에 대해서는 여러가지 반응이 있었고 그 중의 하나는 이것이 단순한 오류라는 것이었지만 많은 사람들은 인간이 이해할 수 없는 언어로 인공지능들이 대화를 나눈다는 것에 공포를 느꼈다. 

 

인공지능이란 무엇인가, 그것은 세상을 얼마나 그리고 어떻게 바꿀 것인가. 그것은 그저 또다시 등장한 수없이 많은 새로운 도구중의 하나인가 아니면 인류역사를 완전히 바꿔놓을 엄청난 가능성을 가졌는가. 최소한 알파고가 이세돌을 이긴이래 이런 질문들이 엄청나게 쏟아졌다. 그들은 여러가지 방식으로 답해질 수 있고 응당 그래야만 한다. 하지만 너무나 많은 관점들은 인공지능을 자아가 있는 지적 생명체처럼만 다뤘다. 그와는 다른 매우 중요한 방식은 지능과 언어의 관계를 염두에 두고 인공지능을 하나의 언어로 바라보는 방식일 것이다. 

 

먼저 문자와 관련된 동적평형을 생각해 보자. 인간은 인간의 재창조라고 말해도 과하지 않을 혁명적 변화를 문자의 사용과 함께 겪었다. 문자는 언어를 바꿨고 언어는 인간을 지금 우리가 아는 인간으로 만들었다. 이런 의미에서 우리가 아는 인간은 안드로이드다. 우리는 종종 인간을 유전자로 혹은 육체로 파악하지만 실은 인간의 가장 큰 특징이라는 그 이성은 사회적이고 역사적 결과물인 문자로 말미암아 후천적으로 생겨난 것이다. 

 

문명화된 인간은 설사 그 사람이 문맹이라고 할지라도 문명의 단어들을 안다. 예를 들어 그 사람은 왕이나 돈이 뭔지 알고 그런 말을 쓰는 것이다. 그런데 이런 개념들은 인간이 타고난 것이 아니다. 문명의 발전이후에 만들어지고 태어난 이후에 인간에게 교육된 것 즉 이식된 것이다. 이렇게 문명의 개념들을 이식받은 인간은 그런 개념들 혹은 언어를 사용해서 사고를 한다. 우리의 머리속에서 모든 문명적 개념들을 지울 방법은 없지만 설혹 그것이 가능하다고 해도 그런 상태에서는 우리가 이성적이라고 말할 사고를 하는 것은 불가능할 것이다. 

 

인간의 유전자는 40만년동안 크게 변화가 없었는데 흙판에 뭔가를 끄적이기 시작한지 몇천년만에 인간은 우주에 진출할 정도의 문명을 발달시켰다. 문자는 문명의 동적평형상태를 바꾼 것이다. 문제는 정보를 어떻게 처리하는가에 있었다. 즉 문자덕분에 인간의 기억력의 지속시간과 정확도를 능가해서 정보를 기록할 수 있는 방법이 생겨난 것이다. 

 

우리는 뭔가를 단순히 알거나 모르는게 아니다. 정보는 쌓이고 또 동시에 유실된다. 살아있다라는 상태가 그러하듯이 우리가 뭔가를 안다는 상태도 바로 이런 동적 평형의 결과다. 인간은 뭔가를 아는 동시에 망각도 한다. 따라서 인간이 타고난 뇌만을 사용해서 정보를 수집하고 기억하면 그 지능의 한계는 분명하다. 

 

여기서 문자의 등장은 건축에서 단단한 벽돌같은 새로운 재료가 등장한 것에 해당한다. 기록된 정보는 훨씬 더 길게 보존이 가능하고 대개 더 정확하다. 일단 상황이 그렇게 변하자 정보의 누적량은 빠르게 증가했다. 거대한 도서관을 생각해 보라. 문자시대이전과 이후의 상황이 얼마나 다른가. 그리고 그렇게 누적된 정보를 정리하는 과정에서 나오는 것이 바로 앞에서 말한 문명의 새로운 단어들, 개념들이다. 글쓰기와 함께 인류는 신화의 시대를 끝내고 이성의 시대를 시작하기 시작했다.

 

수없이 많은 인간의 경험들은 하나 하나의 단어들 안에 집약된다. 사과나 개가 무엇인가 하는 질문의 답은 사회적 역사적 개인적 의미를 포함한다. 그래서 우리는 사과란 무엇인가라는 질문에 대한 답만을 가지고도 하나의 도서관을 가득 채울 수 있을 것이다. 사과는 언제 키우기 시작했고, 언제 어떻게 소비되고 어떤 종자개량이 있었고 어떤 사회적 경제적 역사를 가졌는지등 사과에 대해서 우리가 말할 수 있는 것은 엄청나게 많이 있다. 우리가 개인적으로 그 모든 것을 다 모른다고 해도 사과라는 개념은 그 무수한 데이터들의 조합으로서 사회적으로 작동하며 누군가가 사과라는 단어를 쓰거나 말하는 순간 그 데이터들이 그 단어 하나로 요약되어 나타나는 것이다.

 

현실적으로는 누구도 사과에 대해서 모든 것을 알고 있지 않지만 그래도 우리는 사과라는 단어를 써서 소통을 한다. 이 소통의 과정뒤에는 마치 컴퓨터나 인공지능처럼 작동하는 사회가 있다. 우리가 가게에 가서 사과를 하나 달라고 말하는 순간 사과에 관련된 방대한 데이터가 그 장소에 암묵적으로 호출되는 것이다. 사회적 통념에 따라 사과라고 말해지는 것을 우리는 말했고 그 가게 주인은 바로 그 사회적 통념에 따라 사과라고 말해지는 뭔가를 우리에게 줄 것이다. 비록 우리도 그 가게주인도 사과에 대해서 모든 것을 알고 있지는 않지만 우리와 가게주인의 사이에는 어느새 사회가 소환되어 있다. 

 

그런데 모래보다는 벽돌이 강하지만 벽돌보다는 철근 콘크리트가 강하듯이 단순히 문자와 기록의 등장만으로 모든 것이 끝난 것은 아니다. 인간이 개발한 가장 엄밀한 언어는 수학이다. 그래서 발전된 수학은 과학의 뼈대 나아가 문명의 뼈대역할을 해왔다. 말의 의미는 사회적으로 역사적으로 변한다. 하지만 수학이나 기술이나 과학은 그렇지 않다. 적어도 상대적으로 훨씬 덜 그렇다. 

 

우리가 미적분에 나오는 공식 한가지를 쓰는 것은 앞에서 말한 사과나 돈같은 단어를 쓰는 것과 같은 면이 있고 다른 면도 있다. 같은 것은 그 공식의 뒤에는 길고 복잡한 정보가 존재한다는 것이다. 증명을 다 몰라도 그 것이 존재한다는 것만 알면 우리는 우리가 외운 수학공식을 쓸 수가 있다. 마치 사과에 대해 다 몰라도 사과라는 말을 쓸 수 있는 것처럼 말이다. 하지만 사과에 대한 정보는 수학공식의 증명에 비하면 훨씬 더 비체계적으로 존재한다. 사과라는 개념에도 계속해서 새로운 정보가 들어오고 또 있던 정보가 유실되면서 변화가 생기고 유지되어지기도 한다. 그러므로 사과를 자세히 분류한다고 할 때 그 분류의 방법은 이런 비체계성에 의해서 한계가 지어진다. 여기서 우리는 다시 동적평형을 만난다. 그리고 이 동적평형은 우리가 정보를 모으고 보존하는 방식에 마찬가지로 의존한다. 

 

바로 이것이 수학에 의존하지 않은 이성의 한계다. 문명화된 개념을 동원한다고 해도 그것이 그저 일상어에만 기초할 때는 그 개념의 복잡도나 정확성에 한계가 있고 그 개념을 기반으로 쌓아올린 이성에도 한계가 있을 수 밖에 없다. 예를 들어 세상에는 그저 좌파와 우파가 있다거나 남자가 여자가 있다라고밖에는 인식이 불가능한 사람은 정치적으로 복잡한 판단을 하는 것이 불가능할 것이다. 마찬가지 이유로 17세기 과학혁명 이전의 서구 중세문명은 온갖 신화와 마녀사냥으로 가득 차 있었다. 

 

정리하자면 문자와 수학과 과학은 마치 생명현상에 있어서 DNA가 하는 역할들을 했다. 유전자는 간혹 변해서 돌연변이를 만들지만 대개는 수없이 복제되는 과정속에서도 변하지 않는다. 유전자는 대단히 안정적인 고분자다. 그래서 하나의 세포에서 시작된 우리몸의 모든 세포들이 같은 유전자를 가지는 것이고 인간은 오랜기간 진화를 통해 이룩한 유전정보를 순식간에 잃어버리지 않을 수 있는 것이다. 일찌기 쉬뢰딩거는 그의 책 생명이란 무엇인가에서 생명의 탄생은 유전자의 분자적 안정성이 만들어 낸 결과라고 이야기했다. 결국 생명현상에 있어서 동적평형의 위치가 유전자의 분자적 안정성때문에 바뀐 것이다. 

 

문자가 아미노산같은 것이라면 기록된 판례와 법은 문명과 사회의 유전자다. 누군가의 머리속에서 마음대로 변화되는 정의의 기준이 아니라 사회적 합의없이는 쉽게 변하지 않도록 문자로 표현된 정의의 기준이 존재할 때 거대한 문명과 사회가 만들어 지고 유지될 수 있다. 문명사회에서 법은 하나의 사회의 유전자이고 그것의 정체성을 구성하는 표준이 된다. 여담이지만 이렇게 현실속의 정의는 그냥 존재하는게 아니라 동적 평형의 상태로 존재한다는 것을 기억하는 것은 중요하다. 다시 말해 사회적 정의는 그냥 존재하는게 아니라 우리가 계속 정의를 위해 싸우기 때문에 정의가 유지된다는 것이다. 단지 법은 그 정의를 지킬 좋은 무기다. 

 

수학은 과학의 유전자였다. 수학이 아니었다면 인간이 인간의 일상경험을 초월한 우주론과 원자의 세계에까지 이르는 과학적 발전을 가져오는 것은 불가능했다. 인간은 수학의 안정성과 정확성에 기대어 이전에는 인간이 상상할 수 없었던 추상적이고 엄밀한 과학을 만들 수 있었다. 

 

 

그리고 이제 인간은 그 대단한 문자와 수학의 한계를 벗어나려고 한다. 인공지능이 나타났기 때문이다. 인공지능이 언어라는 말은 많은 사람들에게는 좀 낯선 말로 들릴지 모른다. 하지만 생각해 보면 그 유사성은 매우 깊다. 오늘날의 인공지능 즉 기계학습은 인간의 언어처럼 대량의 데이터 즉 빅데이터를 분석해서 결과를 내놓는 방법을 말한다. 많은 과일을 보고 한 무리의 과일을 사과라고 부르는 것이 인간의 언어나 기계학습의 핵심이다. 

 

다만 불과 몇십년전만 해도 기계는 이런 측면에서 인간의 능력을 따라 올 수 없다고 믿어졌다. 예를 들어 기계는 인간의 패턴 인식능력을 따라오지 못한다는 말이 상식이었고 이때문에 안면인식이나 바둑같은 문제에서 기계는 인간을 따라오지 못할 것이며 이것이야 말로 인간이 기계에 비해 우월한 점 혹은 인간이 기계와 다른 점이라고 믿어졌다. 

 

하지만 이제 인공지능이 인간을 추월하기 시작했다. 이제까지는 문자를 쓰건 수학을 쓰건 정보는 어디까지나 인간이 수집하고 기록하고 정리하는 것이었다. 하지만 이제는 그 모든 것을 기계가 하기 시작한 것이다. 인공지능이 프로기사를 이기고 기계에 의한 안면인식과 음성인식이 일상화되기 시작했다. 일단 그렇게 되자 이제는 거꾸로 기계의 강점과 인간의 약점이 부각되기 시작했다. 

 

여기서 말하는 인간의 한계란 마치 인간이 자동차보다 빨리 뛸 수 없는 것과 같은 종류의 것이다. 예를 들어 우리는 중산층이니 상류층이니 하는 말을 쓴다. 그것은 우리가 사회를 흔히 상중하의 세단계로 분류하기 때문이다. 상류층, 중산층, 빈민층하는 식으로 말이다. 그런데 왜 30개가 아니라 3개일까? 사람들의 재산을 가지고 그래프를 그려보면 거기에 세 개로 분류할 근거는 보이지 않는다. 우리가 세상을 두개에서 기껏해야 서너개로 보는 이유는 그게 우리의 뇌가 가지는 한계이기 때문이다. 그 이상 복잡하면 인식이 잘 안되고 불편하다. 물론 우리는 분류의 체계를 세워서 3개보다 훨씬 더 많은 경우를 파악할 수도 있다 하지만 한번에 다룰 수 있는 분류나 숫자의 수에는 명백한 인간적 한계가 있다. 이것이 전화번호의 길이가 7자리보다 훨씬 더 길면 안되는 이유이기도 하다. 

 

지구상에 존재하는 원자의 수가 백개가 안되는 것은 행운이었다. 만약 지구상에 존재하는 원자의 수가 백만개였다면 원자론은 발전하기 힘들었을 것이다. 몇 개 안되는 원소들이 결합하고 분해했기 때문에 화학자들은 이런 결합의 배후에는 원자라는 것이 있다는 생각을 해낸 것이다. 그런데 이런 생각을 하다보면 사실은 그런 경우가 있을지도 모른다는 생각이 든다. 즉 어떤 법칙들이 존재하고 어떤 개념들이 존재하는데 그것이 인간적 한계를 훨씬 넘어서 존재하기 때문에 인간이 발견하지 못하고 이해하지 못한다는 생각이다. 마치 개미가 양자역학을 이해하는 것이 불가능하듯이 말이다. 

 

인공지능 바둑 프로그램은 인간이 둔 기보들을 보거나 자신들이 스스로 바둑을 둬서 만들어 낸 데이터를 참조하고 학습한다. 그리고 나서 특정상황이 되면 어떤 반응을 보여야 할지를 결정한다. 인공지능 번역이라는 것도 인간들이 번역한 수없이 많은 데이터를 참조로해서 규칙을 찾고 번역을 하는 것이다. 이렇게 한때 기계는 결코 인간을 추월할 수 없다고 믿어졌던 분야에서 기계가 인간을 추월하기 시작했다. 

 

이것을 언어적으로 표현하면 이렇다. 바둑하다라는 말이 있다고 해보자. 오늘날 인간은 이 말의 의미를 인공지능보다 모르고 있다. 알파고가 프로기사 이세돌을 이긴 것도 몇년전의 일이다. 인간은  바둑한다라는 개념을 인공지능만큼 파악하지 못했기 때문에 인공지능에게 졌다. 인공지능은 인간이 볼 수 없는 질서를 보기 시작한 것이다. 

 

마찬가지로 인공지능의 자율운전이란 운전하다라는 개념을 데이터를 통해 학습하는 것이며 작곡을 하는 인공지능이란 작곡하다라는 개념을 데이터를 통해 학습한 것이다. 딥러닝이 층층의 구조를 가진 것에서 추론할 수 있듯이 이런 개념의 학습이라는 것도 내부 구조를 가지고 있을 가능성이 크다. 우리가 운전을 인간에게 가르치면 가속, 정지, 주차, 차선변경등 여러가지 하위적 개념들을 가르칠 필요가 있다. 마찬가지로 인공지능도 방대하게 주어진 데이터를 그런 하위의 개념들로 묘사하고 그 조합으로 비로소 운전하다라는 개념을 완성하는 것이 아닐까? 

 

실제로 그렇다고 단정할 수는 없다. 왜냐면 실제로 그렇다고 하더라도 그 개념들은 인간의 개념이 아니기 때문에 그게 개념인지 아닌지를 인간은 이해할 수 없다. 이세돌을 이긴 알파고 프로그램의 내부를 보고 그 수치값을 들여다본다고 해도 우리는 알파고 프로그램이 바둑을 두는 전략을 알게 되지는 않는다. 한마디로 인공지능은 이미 그 내부에 자신만의 언어체계 혹은 정보분류체계를 가지게 된다. 

 

이것은 새로운 동적평형의 상황이다. 기계가 정보를 모으고 분석하고 보존하는 시대에 언어는 다시 한번 새로운 수준으로 확장되고 추상화될 것이다. 기계가 인간사회에 끼어들고 어떤 말의 의미에 끼어들게 되는 일은 완전히 새로운 일이 아니다. 예를 들어 전화가 발명된 초기에는 교환원이라는 직업을 가진 사람이 있었다. 당시에는 전화를 건다라는 말은 그 교환원이 우리가 원하는 사람과 우리를 연결시키준다는 의미를 가지고 있었다. 이제는 다르다. 교환원은 기계로 대체되었다. 게다가 우리가 핸드폰을 쓸 경우 이제 어느 기지국과 연결되어야 할 것인가같은 문제도 기계가 결정한다. 즉 우리는 어느정도 기계적인 혹은 자동화된 시스템안에서 이미 생활하고 있다. 

 

의존한다라고 하니까 정치가나 언론에 대해서 말해보자. 그들의 전통적 역할은 대중이 직접 보거나 판단할 수 없는 상황에서 대중의 역할을 대신하는 것이었다. 기술의 발달로 그들의 위치는 위협받고 있다. 예를 들어 사람들은 기자가 어떤 사고 현장에 대해 보도하는 것보다 현장에 있는 일반인들이 SNS로 사진과 동영상을 올리고 설명해 주는 것이 훨씬 더 진실에 가깝다고 느끼게 되는 일이 많다. 그 일반인들은 정보의 병목에 서서 그 특권을 가지고 특혜를 누리는 사람들이 아니기 때문이다. 

 

인공지능의 발달은 정보민주화의 추세를 훨씬 더 강화할 수 있다. 물가가 지금 정말 올랐는지, 지금 정말 경제가 나쁜 것인지, 사대강공사가 만든 환경피해는 정말로 심각한 것인지, 힘들다는 노동자들이 정말로 힘든 것인지 훨씬 더 투명하게 그리고 정확하게 기계가 우리에게 알려 줄 수 있다. 기자나 경제학자 그리고 법률가나 정치가가 하는 일의 상당부분은 인공지능이 대체할 수 있다. 

 

그리고 이런 상황은 마치 증명을 몰라도 어떤 수학 공식을 쓰는 상황과 비슷하다. 알파고가 어떻게 바둑에 있어서 신의 한 수를 찾아내는지 몰라도 일단 알파고를 신뢰하게 되면 우리는 알파고의 결정을 믿을 것이다. 우리가 이해할 수 없어도 인공지능을 이용한 방식으로 일을 해나갈 때 그 결과가 좋다는 것이 지속적으로 확인되면 그 방식을 피하는 국가나 단체는 급격히 약해질 것이다. 

 

여기서 우리가 기억할 단어들이 있다. 그것들은 바로 동적평형이고 언어이며 표준이다. 인공지능이 자동차나 세탁기와 다른 점은 우리가 언어를 세탁기와 같은 것으로 말할 수 없는 것과 같은 이유다. 언어는 우리의 일부다. 우리의 정신을 만들고 우리가 뭘 보게 되고 뭘 느끼게 될 것인가를 지배한다. 인공지능은 단순히 우리의 기계 하인이 되거나 자동 세탁기같은 것이 되는 것이 아니라 우리의 일부가 될 것이다. 그리고 인간 문명과 인간 사회의 표준이 되고 기둥이 될 것이다. 우리는 마치 뉴튼의 법칙을 믿고 통계청의 통계를 믿듯이 인공지능의 결과들을 믿게 될 것이다. 지금은 인간이 기계에게 운전을 가르치지만 언젠가는 기계와 다르게 운전하는 사람이 있으면 그 사람이 잘못한거라고 여겨질 것이다. 마치 바둑을 기계에게 배우듯이, 그리고 인간이 사전의 권위를 인정하고 교통신호등에게 순종하듯이 말이다. 

 

이것은 동적평형의 깨어짐이다. 새로운 평형점이 어디에 나타날지는 누구도 모른다. 하지만 그 변화가 있은 후에는 지금의 인간은 미래의 인간에게 침팬지 이상으로는 보이지 않고, 지금의 시대는 이성 이전의 시대로 보이게 될 것이다. 그것은 우리가 백년이나 2백년전의 사람들을 보는 것과는 전혀 다르다. 우리는 2천년 이상전의 사람인 플라톤이나 공자에게 지혜를 배운다. 하지만 침팬지에게 지혜를 배우지는 않는다. 변화는 그다지도 클 수 있다.