인공지능은 슈퍼지능인가?

2020.5.22

인공지능이 뭔지는 아직 누구도 모른다. 왜냐면 아직 진정한 미래의 인공지능은 만들어 진 적이 없기 때문이다. 다들 이걸로는 부족하다고 말하고, 이건 진정한 인공지능이 아니라고 말하고 있다. 예를 들어 수백년전의 사람이 본다면 자동차의 자동변속기나 에어콘의 자동온도설정같은 것도 지능이 있는 기계라고 말할 것이다. 하지만 그 원리를 이해하는 현대인이 보면 그런 건 지능이 아니라 그저 기계일 뿐이다. 마찬가지로 설혹 이세돌을 이긴 알파고라고 해도 그 원리를 이해하는 기계학습 공학자가 보면 여전히 그런건 지능이 아니라 그저 기계일 뿐인 것이다. 

 

이렇게 인공지능의 실체가 아직 분명하지 않다보니 자연히 인공지능에 대한 잘못된 선입견들이 생기게 된다. 대표적인 것이 인공지능이란 인간을 지배하는 컴퓨터가 가지는 어떤 것이라는 생각이며 또다른 것은 인공지능이 고유명사가 아니라 보통명사라는 생각이다. 다시 말해 우리는 이 우주에는 지능이라는 것이 수소원자나 중력법칙처럼 객관적으로 존재한다고 생각한다. 그러나 이런 생각은 사랑이 어떤 주체의 행동 경향을 나타내는 주관적 단어가 아니라 마치 물이나 산소처럼 모두에게 객관적으로 주체와 독립하여 혼자 존재한다는 생각처럼 잘못된 것일 가능성이 크다. 우리는 사랑을 한근만 사거나 이 사람에게 사랑을 사서 저 사람에게 팔 수는 없다. 그런데 우리는 지능이란 마치 그럴 수 있는 객관적인 것처럼 생각할 때가 많다. 지능이란 명사일까 아니면 지능하다란 동사의 명사형일 뿐인가? 

 

지능이 독립적으로 존재하는 어떤 것, 우리가 발견할 수 있는 어떤 것이라는 사고의 기초에는 객관적 세계관이 있다. 그러니까 이 세상은 객관적으로 존재하며, 어떤 질문에 대한 정답은 우리가 그걸 찾아내기 전에 이미 존재한다는 생각으로 현대의 이데아론이라고 할 수 있다. 예를 들어 가장 훌룡한 운전이란게 세상에는 이미 존재하는데 무인자동차는 그걸 찾아내서 그걸 하면 된다. 그 가장 훌룡한 운전에 가까울 수록 그 사람이나 기계는 훌룡한 운전사라고 할 수 있으며 그 가장 훌룡한 운전은 결국 지능의 기준이 된다. 이의 연장선에서 우리는 가장 훌룡한 남자라던가 가장 훌룡한 신부감같은 말을 생각할 수 있다. 그러니까 이 세상에는 가장 훌룡한 이데아적인 남자가 존재하고 그런 이데아적인 신부감이 존재하며 그에 가까울 수록 우리는 그걸 훌룡한 남자, 훌룡한 신부라고 부를 수 있다는 것이다. 이쯤하면 왜 이데아론적이고 객관적인 세계관이 보통명사로서의 지능과 관련되는지가 분명해 졌을 것이다. 그런 세계에서 지능은 확고한 기준을 가진다. 

 

하나 이는 적어도 지능에 관한한 한쪽면만 보는 생각이다. 장자 제물론 23절에는 이런 말이 있다.

 

자네에게 묻겠네. 사람이 습지에서 자면, 허리가 아프고 반신불수가 되겠지. 미꾸라지도 그럴까? 사람이 나무 위에서 산다면 겁이 나서 떨 수 밖에 없을 것일세. 원숭이도 그럴까? 이 셋 중에서 어느 쪽이 거처에 대해 바르게 안것일까?

 

장자는 이미 수천년전에 알았다. 옳고 그른 것은 주체에 달려 있다. 그러니 주체가 서로 다를 때 답이 달라진다. 게다가 장자는 그걸 지적하지 않았지만 문제의 그 주체조차 제자리에 있지 않고 변화하는 것이다. 예를 들어 나에게 좋은 선택이라는 말이 내가 10살때와 내가 50살일 때 다를 것이다. 나는 이 둘을 모두 나라고 부르는데 말이다. 결국 지적인 선택, 옳은 선택이란 환경과 나의 관계에 달린 것이라 주관적인 면이 있을 수 밖에 없고 그 환경과 나도 시시각각 변하는 것이라 더더욱 유령과 같은 것이다. 

 

이제 다시 인공지능으로 돌아가 보자. 우리가 지능을 가진 기계라고 할 때 그 기계는 어떻게 행동해야 한다는 것일까? 이제까지의 생각을 기준으로 보면 그것은 적어도 상당부분 그 기계의 소유자와 같은 판단을 하는 기계를 말한다. 그런데 그 기계의 소유자는 서로 다른 사람일 수도 있을 뿐만 아니라 어떤 기준으로는 바보일 수도 있다. 우리는 저 사람과 데이트를 할 수 있는 방법을 찾아봐라고 기계에게 명령하면 그 기계가 그런 방법을 찾아주기를 기대하지 연애는 부질없는 것이니 데이트는 애초에 필요없다고 조언해주는 기계를 원하는 것이 아니다. 다시 말해 바보에게는 바보처럼 행동하는 기계가 지능적인 기계다. 

 

우리는 지능이 뭔가에 대한 착각때문에 인공지능이 그저 실수를 하지 않고, 올바른 답을 찾는 기계라고 착각한다. 하지만 절대적이고 객관적의미에서 그런 건 세상에 존재하지 않는다. 지능이란 객관적으로 정의될 수 없는 것이다. 지구상의 누군가가 지능을 가진 기계를 하나 만든 후 이 기계가 하는 일이야 말로 지능적인 일이라고 선언하고 지능의 기준을 만드는 것은 불가능하다. 만약 그렇게 한다면 그것이야 말로 인류를 멸망시키는 인공지능 스카이넷의 시작일 것이다. 인공지능 파시즘의 시작이다. 우리는 존재하지 않는 절대적 지능을 가진 기계를 만들려고 해서는 안된다. 지능이란 지렁이에게 미꾸라지에게 인간에게 그리고 존재한다면 외계인에게 모두 서로 다른 것이다. 그러니 지능적 행동이란 이러저러한 거라고 단언한 후 이런 행동을 하는 기계를 만들자는 식의 접근은 문제가 있다. 

 

인공지능이 어떤 것인가를 생각해 보기 위해 읽고 쓰기를 생각해 보자. 읽고 쓰기가 없던 시절 인간은 태어난 기억력에 의존해서 감각적으로 세상을 인식하고 판단을 했다. 그러다보니 지금보면 말도 안되는 신화적 세계를 믿으며 살았다. 그러나 기록을 하고 자신의 생각을 문자를 통해 정리하기 시작하자 우리는 이성의 시대를 시작한다. 과학도 시작되었다. 인간의 생각과 정보는 글자로 기록되어 분석되고 다시 읽혀진다. 그렇게 해서 인간은 전혀 새로운 수준의 지능을 가지게 된 것이다. 

 

인공지능도 마찬가지다. 그건 홀로 독립하여 지능을 가지는 기계가 아니다. 인간의 지능을 올려주고, 저장할 수 있는 수단이다. 아래에 설명할 것처럼 문자와 책을 구분한다면 그것은 문자에 불과하다. 우리가 만들려고 하는 것은 그저 인간의 행동패턴을 보고 배울 수 있는 기계다. 사실 그 안에 들어 있는 지능은 그래서 결국 인간의 지능이다. 책안에 들어 있는 지혜가 그 글을 쓴 인간의 지혜이듯이 말이다.

 

오늘날 사람들은 인공지능의 학습속력에 대해 지나친 기대를 하고 있으며 여기에는 근거가 빈약하다. 분명 알파고는 인간이 몇천년간 학습한 바둑두는 방법을 수일이나 수주만에 따라잡을 수 있기는 하다. 하지만 그것은 바둑이 가능한 상황이 제약된 (가능한 상황이 엄청나게 많기는 하지만) 게임이기 때문이다. 그렇다고 모든 상황에서 인공지능의 학습속력이 그렇게 빠를 수 있다고 믿고 그렇게 빨리 배우지 않으면 실패라고 생각한다면 바로 그 생각이 인공지능의 발달을 막을 것이다. 

 

그건 마치 인류가 문자를 만들자 마자 이건 삼국지나 반지의 제왕같은 작품과는 다르므로 실패라고 말하는 것과 같은 것이 아닐까? 문자가 있다고 해서 인류가 만들어 온 고전작품들이 그 순간 만들어 지는 것이 아니다. 인간이 그 문자를 써서 자신의 생각과 경험을 기록해야 그런 작품들이 만들어 지는 것이다. 여기에는 시간이 필요하다. 우리는 인공지능을 아기나 개처럼 키워야 한다. 우리는 문자와 책을 혼돈해서는 안된다.

 

우리는 또한 문자를 만드는 사람이 모든 일을 다해야 한다는 생각에 빠져서는 안된다. 문자를 만든 사람과 반지의 제왕의 저자는 다르다. 지능을 가질 수 있는 틀을 만드는 사람과 그 틀안에 지능을 담게 되는 사람도 다를 수 있다. 문자가 나타나고 현대에 이르기까지는 6천년이 걸렸다. 우리가 가진 그 거대한 도서관들은 그렇게 오랜 시간에 걸쳐서 만들어진 책들을 가지고 있다. 아마 그 6천년은 60년이나 600년으로 줄어들 지 모른다. 현대에는 변화의 속력이 훨씬 빠르기 때문이다. 하지만 그렇다고 그 기간이 6일이나 6시간이어야 한다고 믿을 근거는 없다. 그 기간은 물론 우리가 연구하는 기계학습의 방법에 달려 있다. 예를 들어 딥러닝으로 학습하는 인공신경망이 어느 정도의 지능까지 가질 수 있고, 어느 속력으로 그렇게 할 수있는가는 바로 딥러닝의 잠재력에 달린 일이다. 

 

나와 똑같다면 우리는 왜 인공지능기계가 필요로 할까? 물론 인공지능은 약간의 차이를 가진다. 대표적으로 기계는 피로를 느끼지 않는다. 나와 똑같이 운전하는 기계는 나보다 훨씬 우수하다. 나는 피곤하면 운전기술이 떨어지지만 기계는 그렇지 않다. 인공지능은 지구상의 모든 책을 다 읽을 수도 있다. 그리고 나에게 내가 지금 필요한 책이 무슨 책인지를 권해 주거나 정보를 줄 수도 있을 것이다. 구글이 하는 것보다 훨씬 더 강력한 방식으로 말이다. 

 

또 인간은 기억력이 나쁘고 편견이나 자극에 쉽게 빠진다. 우리는 상점가를 걷다가 물건을 보고 나는 그걸 내가 사야하는 이유를 합리화하기 쉽지만 나처럼 생각하는 기계는 그런 합리화는 사실 나답지 않은 것이며 오늘 저녁이면 후회하게 될거라고 나에게 알려줄 수 있을 것이다. 그것은 마치 내가 쓴 일기를 보면서 아 내가 이렇게 해서 이런 직업을 택했지라고 기억을 되새기고 지금의 힘듬을 다시 평가하는 것과 정성적으로는 같다. 

 

지능이란 지렁이보다 쥐의 지능이 높고 쥐보다 인간의 지능이 높다는 식으로 늘어놓아서는 말할 수 없는 것을 가지고 있다. 신경세포가 몇개 안되는 모기를 잡지 못하며 행글라이더나 비행기를 조종할 수 없는 인간이 무조건 나는 모기보다 훌룡하다고 말하는 것은 착각에 불과하다. 모기는 자기보다 엄청나게 큰 인간을 비웃을 정도로 멋지게 날지 않는가. 인공지능은 어떤 의미에서 슈퍼지능이다. 그러나 그것은 모든 것이 그렇듯 제한된 의미에서만 그렇다.  

 

문자가 나왔던 초기에는 오직 아주 소수의 인간만이 문자를 알았다. 무엇보다 문자는 지금처럼 간단하지도 않은 복잡한 시스템을 가지고 있어서 배우기도 어려웠다. 이것은 오직 소수의 인간만이 딥러닝 프로그램을 하고 거대한 컴퓨터를 써서 그걸 돌리는 오늘날의 상황을 떠올리게 만든다. 

 

그렇다면 학습하는 기계가 보다 대중화되는 것이 미래가 아닐까? 거대한 애니악같은 컴퓨터가 개인용컴퓨터가 되었듯이 거대한 학습하는 기계가 누구나 가질 수 있는 기계로 변하는 것이 미래가 아닐까? 그렇다면 그걸 가장 이성적인 존재로 키워내는 재능을 가진 사람들이 인공지능 시대의 새로운 작가일 수 있다. 우리 앞에는 도서관에 있는 고전작품처럼 고전적 이성을 가진 로보트를 만들어 낸 작가의 탄생이 기다리고 있는 것은 아닐까?