다시 테두리를 가진 소유

나는 테두리를 가진 소유라는 글을 통해서 AI의 무분별한 사용이 가져올 수 있는 사회적 위기를 논했다. 그것은 근대 사회 전체의 약점을 파고드는 시스템의 위기가 될 수 있는데 말하자면 자본주의가 무한정한 부의 집중따위로 위기에 빠지는 것을 말하는 것이다. 그게 아니면 교육이나 보건이나 건설, 이민등 여러가지 시스템이 위기에 빠지는 것을 말한다. 그런데 AI로 인해서 생겨날 문제들에 있어서 기억해야 할 부분은 우리가 그것을 인간의 이성을 가지고 질서있게 전세계적으로 통제할 수 있을거라는 생각은 무리라는 것이다. 인간이 문제가 뭔지를 파악하고 그것을 법제화하는 것은 너무 느리다. 그때 쯤에는 이미 세계는 불가역적으로 변해있을 것이다. 따라서 이런 문제를 위해서 국제 기구를 창설하자던가, 단순히 AI의 위험성을 우리 모두 자각하자는 말로는 거의 아무 도움도 되지 못할 것이다.

 

이것을 우리는 역사에서부터도 확인할 수 있다. 나는 AI로 인해 생기는 변화를 근대화라는 역사적 현상과 자주 비교하는데 산업혁명이나 근대화의 초기에 누군가가 근대화가 무분별하게 일어나면 비극이 일어나니까 세계 국가 연합을 만들고 그 안에서 전세계적으로 질서있게 근대화를 진행할 방법을 찾자고 주장하면 어떨까? 이것은 윤리적으로 옳은 제안이며 완벽히 포기할 수 없는 것이지만 그 효과는 지극히 낮을 것이다. 이런 일은 너무 느리고 비효율적이라 결국 자원의 낭비만 할 것이다. 근대화의 결과나 의미를 명확히 이해하는 것은 전세계적으로 제국주의의 비극이 일어날만큼 일어난 후의 일이며 더구나 그것을 제어할 법적 제도를 만드는 것은 지금도 가능한 일인지 모르겠다. 트럼프나 시진핑이 강대국의 힘을 배경으로 깡패짓을 하는 것이 21세기에도 있는 일인데 말이다. 그런데 AI로 인해서 벌어질 미래를 국제적 합의를 통해서 통제하겠다고? 그건 실질적으로는 뭔가 하는 척하면서 아무 것도 안하는 것과 같을 것이다.

 

그보다는 개념정리가 더 중요하다. 성공적인 근대화를 위해서는 성공적인 근대 이념이 필요했었듯이 성공적인 AI 문명을 위해서 그에 필요한 개념정리가 필요하다. 그 개념정리가 AI의 위험성을 제한할 것이다. 그리고 더 성공적인 AI 문명이 덜 성공적인 AI 문명을 밀어낼 것이다. 즉 법제화나 국제기구같은 위에서 아래로의 통제가 아니라 철학적, 이념적, 윤리적, 문화적 태도가 더 핵심적이라는 것이다. 뭘 규제할까가 아니라 뭘 만들까를 고민해야 한다.

 

나는 앞의 글에서 그걸 소유의 개념을 다시 생각해 봐야 한다고 말함으로써 지적했다. 우리가 당연시 여기는 소유란 근대적 의미의 개인과 권리등이 당연시 여겨지는 가운데 만들어 진 개념이다. 이와 관련된 중요한 질문은 바로 인간이란 무엇인가라는 것일 것이고 근대의 답은 인간이란 알몸의 육체를 말하는 유물론적인 것이었다. 그리고 나는 그걸 보다 환경적이고 네트웍적이며 정보적인 정의로 바꿔야 한다고 생각하지만 그 문제는 이미 다른 곳에서 이야기했고 여기서는 다른 측면에서 생각을 진행시켜 볼까 한다.

 

그 다른 측면이란 이렇다. 근대적 의미의 소유란 우리가 하나의 절대적인 시공간 안에서 살고 있으며 우리가 만드는 법이나 그 법이 정의하는 권리는 기본적으로 한계없이 그 하나의 절대적 시공간 전체에서 통하는 거라는 개념에 기초해 있다. 따라서 내가 이 집을 소유하고 있다는 말은 절대적이고 완전히 독점적인 의미를 가진다.

 

하지만 시스템과 현실은 같은 것이 아니다. 우린 절대적 의미에서는 아무 것도 소유할 수 없다. 우리가 권리를 주장할 수 있는 것은 우리가 인위적으로 만들어 낸 게임 안에서의 일이다. 그리고 게임은 인간의 참여와 투사를 통해서 현실과 깊은 관계를 가지지만 현실 그 자체는 아니다. 게임은 우리가 재미로 하는 바둑이나 축구처럼 현실 그 자체가 아니다. 시장경제도 인간의 약속에 기반한 그냥 게임일 뿐이다.

 

롤 플레잉 게임안에서 내가 대통령을 하고 있다는 것은 그 게임 안에서는 의미를 가지지만 그 게임에서 벗어나면 아무 의미가 없다. 마찬가지로 내가 어떤 회사에서 말단사원이라는 것은 그 회사라는 시스템 안에서는 의미를 가지지만 그 시스템 바깥에서는 아무 의미도 없어야 한다. 회사 바깥에서는 사장과 말단사원이라는 관계가 성립하지 말아야 한다. 손흥민은 축구의 영웅이지만 축구라는 게임 바깥에서 영역을 착각해서 군사문제나 경제문제를 손흥민에게 해결해 달라고 말하는 사람이 있어서는 안된다.

 

이같은 현실사회의 다원성은 이미 존재하는 것이라 시스템과 현실을 분리하는 일은 어느 정도 이미 존재한다. 다만 우리는 그것을 보다 분명히 규칙화하는 것이 필요하다. 그런 개념정리의 끝에서 우리는 우리가 절대적 의미로는 아무 것도 소유하는 것이 없다는 인식에 도달할 것이며 AI기술을 안전하게 사용할 수 있는 방법을 발견할 수 있을 것이다. AI는 각각의 게임 내부에서 작동하도록 만들어야 하는 것이기 때문이다.

 

근대 사회는 시장경제를 작동시키기 위해서 네것과 내것을 분명히 구분하는 것을 요구했다. 그리고 자본주의 게임은 부를 축적하고, 자본이 자본을 늘리고 거대한 시스템을 구축하는 일을 가능하게 만들었다. 한때는 돈을 빌려주고 이자를 받는 일이 금기시 되는 일이었다. 그것이 상식화되는 것은 자본주의 게임이 정착하는 과정의 일부였다. 이렇게 정착된 자본주의 게임은 정말 많은 일을 해 냈다. 우리는 그것들을 칭찬해야 마땅하다.

 

그런데 이 시장 경제 혹은 자본주의라는 것은 태생적 문제가 있다. 그것은 무한한 확장을 요구하기 때문에 더 큰 소비시장을 찾도록 하고 무한한 소비를 지향하도록 한다. 따라서 지금처럼 그런 소비시장이 없거나 자원이나 환경적 한계가 심각해 지면 모순이 분명해 지는 것이다. 자본주의란 마치 폰지게임 사기처럼 계속 새로운 가입자를 찾지 못하면 한꺼번에 붕괴할 수 있는 게임이다. 게임은 쓸모가 있지만 한계도 있다. 그래서 하나의 게임에 모든 것을 다 걸면 종종 블랙스완이라고도 부르는 예측하지 못한 위기로 거대한 붕괴가 왔을 때 엄청난 피해를 입을 수 있다.

 

그래서 우리는 이제 우리는 실제로는 아무 것도 무한히 소유하지 않으며 다만 우리가 약속에 따라 게임을 하고 있을 뿐이라는 사실을 잊지 않을 필요가 있다. 그럴 때 우리는 우리가 지금 하고 있는 게임이 어떤 게임인가를 보다 잘 알 수 있고 대안적 게임도 동시에 고려할 수 있을 것이다.

 

자본주의 게임은 현실 그 자체가아니다. 그것은 우리가 만들어 낸 것이고 그것이 가지는 의미는 우리의 참여와 투자에 의해서 만들어 지는 것이다. 말하자면 블루마블같은 보드 게임을 하면서 실제로 이 종이돈은 물고기 한마리의 가치가 있다고 정하고 게임을 하는 것과 같다. 프로 축구 경기에 대한 도박을 하면서 우리가 판돈을 설정하면 그게 그 도박판이 가진 소유물이 된다.

 

그런데도 이제까지 우리는 대개 특정한 게임을 현실 그 자체로 여기며 살아왔다. 우리는 마치 태어나자 마자 블루마블같은 보드게임 속에 던져져서는 그 안에 우리가 가지고 있는 모든 것을 던져 넣는 것을 당연하다고 여기는 시간을 보내왔다. 그리고 아주 많은 것들을 관습적으로 당연한 것으로 여겨왔다.

 

이같은 것은 이제까지는 인간의 한계때문에 어느 정도 자연스러운 것이었다. 우리는 여러개의 현실을 혹은 여러개의 상식을 모두 기억하면서 살아갈 만큼 한가하지 않다. 우리는 그냥 지금 우리 주변에서 일어난 일을 보편적 현실이나 상식으로 인정하면서 그것에 맞춰서 살아가기 급급하다. 전근대 시대에 글자도 익히지 못해서 글도 읽지 못하는 농부들이 국가 전체가 가진 봉건적 질서란 어떤 것인가를 고민하고 그에 대한 대안적 질서를 즉 공화국 시스템같은 것을 상상하고는 마침내 그것을 실험하고 비교하는 것이 가능했을까?

 

당연히 불가능했다. 대부분의 사람들은 자기가 살아가는 시스템을 꿰뚫어볼 직관력도 없고 대안도 생각할 수 없고 그걸 실제로 실험해 보는 것도 불가능하다. 그것은 전근대가 아니라 근대 사회에서 조차 사실이다. 몇몇 사상가라는 사람들이 시스템의 본질을 분석하고 알리고 새로운 대안을 상상한다고 해도 그것이 진짜 대안이 되는 것은 아주 어려운 일이다. 능력도 자원도 부족하다.

 

그런데 AI가 상황을 바꿀 수 있다. AI는 인간의 지능을 확장하기 위한 것이다. AI는 인간과 인간을 연결하고 인간을 더 많은 도구와 지식과 연결해 줄 수 있다. 그래서 이전이라면 아무나 할 수 없었던 일이 훨씬 더 실행가능한 일로 변한다. 그 첫걸음은 지금 우리가 하고 있는 게임 즉 사회에 대한 분석일 것이다. AI는 어떤 인간도 가지지 못하는 정보를 가지고 있다. 따라서 적절한 질문이 있으면 사실에 기반하여 그것을 분석할 수 있고 우리가 사는 세상에 대해 알려 줄 수 있다. 이미 그럴 수 있지만 적절한 도구들이 더 많이 사용되어질 가까운 미래에는 더더욱 그렇게 될 것이다. 예를 들어 어떤 특정한 기업에 대한 투자전망을 얻자면 그것은 이전에는 전문가에게 돈을 줘도 시간이 걸리는 일이었다. 이제 그것은 실시간 검색과 분석을 통해서 누구나 AI로부터 바로 얻을 수 있는 것이다. AI는 마치 글자를 읽을 수 있다는 것이 인간을 문맹에서 문명인으로 바꾸듯이 인간의 인지능력을 크게 향상시킨다. 즉 더 많은 것을 인지할 수 있게 하는 것이다.

 

그 뿐만 아니라 AI는 그런 분석과 상상의 끝에서 만들어 낸 새로운 시스템을 실행하는 비용을 줄여 준다. 협동조합을 통해서 뭔가를 한다는 아이디어나 어떤 조직을 통해서 불우한 이웃을 돕자는 아이디어는 실행단계에서는 대개 행정적인 문제로 시간과 비용을 너무 소모하는 나머지 불가능해 지는 일이 많다. 하지만 AI는 빠른 정보처리를 통해서 효율성을 바꾸고 비용절감을 통해서 전에는 불가능했던 일을 실행가능한 일로 바꿀 수 있다. 빠른 물류가 물건들의 가격을 낮추고 경제를 활성화시키듯 AI로 인해 증가하는 효율성은 전에는 불가능했던 일을 더 많은 사람들에게 가능한 것으로 만들 수 있다.

 

그 끝에서 우리는 진정한 다원화 세계를 만나게 될 것이다. 그것은 여러개의 게임이 공존하며 사람들이 여러개의 게임에 참여하는 세계다. 물론 우리는 이미 여러개의 정체성을 가지고 있다. 우리는 학생이며 노동자이고 선생이며 투자가이고 누군가의 가족 일 수 있다. 하지만 진정한 다원화 세계에서 게임들의 다양성과 차이는 극대화될 것이다.

 

그리고 그 안에서 우리의 절대적 소유개념은 사라지거나 흐려질 것이고 소유는 테두리를 가진다는 것이 명백해 질 것이다. 그것은 마치 땅이 평평한 줄 알고 지구 표면위에서만 살던 사람이 갑자기 지구는 둥글고 우주에는 여러개의 행성이 있으며 우리가 다른 행성에도 살 수 있다는 것을 깨닫는 것과 같다. 세상은 전혀 달라 보일 것이고 지금의 권위를 가진 단체들은 그 권위를 많이 상실하게 될 것이다.

 

이런 배경에서 우리는 AI가 어떻게 온 우주를 파괴하지 못하게 하는가를 따져야 한다. 그 방법은 컴퓨터 사이언스에서는 샌드박스라고도 부르는 방법이다. 하나의 AI는 언제나 어떤 테두리를 가진 시스템, 게임에대한 것으로 정의되고 개발되어야 한다. 그래야 그 AI가 만들어 낼 수 있는 최악의 피해가 그 작은 세계 안쪽으로 제한될 것이다. 우리는 AI를 썼을 때 어떤 세계가 어떤 미래를 가질지 미리 알 수 없지만 적어도 미리 그 피해가 한계를 가지게 만들 수는 있다.

 

AI는 언제나 하나의 게임이나 시스템에 대한 것이지 현실 그 자체에 대한 것이 아니다. 앞으로 어떤 사람이나 어떤 위원회나 어떤 회의에서 AI에 대한 대안이 나오건 나는 이 원칙을 피하고서는 AI를 안정적으로 사용할 수 있는 방법이 없다고 생각한다. 왜냐면 AI는 기본적으로 인간이 이해불가능한 것이기 때문이다. 우리가 이해할 수 있는 것은 우리가 참여하는 게임, 공간, 시스템이 가진 규칙이다. 그 규칙이 그 문제가 가지는 테두리를 정의한다. 그것이 우리가 AI를 안정적으로 쓰기 위해 필요한 최소한의 장치다. 우리가 뭘 만드는 지도 모르면서 그렇게 만들어 진 것이 안전한 것이기만을 기대하는 것은 어리석은 일이다. 일단 만들어 놓고 나서 나중에 사람들이 모이면 적절한 통제 방법을 찾을 수 있을 거라고 기대하는 것도 그렇다.