독재와 인공지능

2021.7.28

발달된 과학기술이 독재를 위한 도구가 될 수 있다는 공포는 세상에 오래전부터 존재해왔다. 조지오웰이 그의 소설 1984에서 빅브라더를 말하던 것이 한 예일 것이다. 오늘날 인공지능과 무선통신 기술의 발달로 인해 이러한 우려는 더욱 구체화 되었는데 이는 실제로 수 많은 센서들이 세상을 감시하고 인공지능 기능을 탑재한 컴퓨터는 사람들을 통제할 수 있게 되었기 때문이다. 예를 들어 중국에서는 이미 안면인식 프로그램들이 수없이 많은 CCTV를 통해 정부가 찾아내고자 하는 사람을 빠르게 찾고 있다고 하지 않는가. 

 

그런데 오늘날 몇몇 사람들이 가지는 기술과 독재에 대한 생각은 여기서 멈추지 않고 있다. 인공지능같은 기술이 독재의 도구가 될 뿐만 아니라 독재적 시스템 속에서 그런 기술이 더 빨리 발달할 수 있다는 생각을 하는 것이다.  인공지능은 미래를 바꿀 기술이라고 말해지므로 이 말은 문명적 기술경쟁에 있어서 승리하는 것은 독재국가가 되라라는 예측을 의미한다. 예를 들어 중국같은 독재국가가 먼저 미래기술을 얻게 된다는 것이다. 

 

몇년전에 세상을 알파고라는 프로그램이 놀라게 한 적이 있다. 그런데 그 인간을 이긴 바둑프로그램 알파고보다 오히려 더 놀라운 프로그램이 알파제로다. 알파고는 기본적으로 인간의 바둑에 대한 데이타를 시작으로 훈련되어 발달한 프로그램이지만 2018년에 과학잡지 사이언스에 발표된 이 프로그램은 바둑의 기본 규칙만 입력될 뿐 인간의 기보는 입력되지 않았고 그래도 인간을 이긴 알파고를 능가하는 실력을 보여주었다. 그러니까 인간이 몇천년동안 발달시킨 바둑의 기술들을 알파제로는 30시간만에 모두 제압하는 능력을 보인 것이다.

 

이같은 과정을 보면서 우리가 느낄 수 있는 것은 방대한 데이터를 수집하면 인공지능이 뛰어난 성능을 보일 수 있다는 것이고 게임의 법칙이 확실한 경우에는 데이터 조차 필요없다는 것이다. 물론 여기에는 인적 물적 자원의 집중이 필요하다.  구글같은 곳에서 계속 지원해 주지않았더라면 매년 엄청난 적자를 기록하는 딥마인드같은 회사가 연구를 계속할 수는 없었을 것이다. 데이터의 취득이나 자원의 집중같은 이야기를 들으면 우리는 골치아픈 윤리적 사회적 논쟁을 건너뛸 수 있는 독재가 인공지능의 발달을 촉진할 것이라는 생각을 하게 된다.

 

이러한 생각들은 파시즘으로 세계대전을 겪었을 뿐만 아니라 개인주의 성향이 강한 서구에서 더 큰 문제가 될 것이고 경우에 따라 심각한 사회적 분열을 가져올 가능성이 있다. 이들 사회에서는 독재라고 말할 수 없는 공동체적이고 과학적인 대처들도 모두 억압이고 파시즘이라고 저항하는 모습을 보인다. 이 때문에 앞으로 인공지능의 발달이 본격화될 때 그런 변화의 사회적 의미를 민감하게 받아들인 나머지 발전적으로 사고하는 사람들과 대비되어 문제를 독재냐 민주주의냐의 식으로 양극화시키는 일이 훨씬 쉽게 일어날 것이다.  코로나 방역이 방해받는 가운데 독재와 민주주의중 어느 쪽이 더 효율적인가, 결국 독재가 아니면 코로나와 싸울 수 없지 않는가하는 질문이 세계를 떠돌고 있다. 비슷하게 독재가 아니면 인공지능같은 분야에서 기술경쟁으로 이기기가 불가능한 것이 아닌가하는 생각이 퍼질 수 있다. 선진국들에는 보수적인 사람들이 많다. 그리고 그들은 그들의 보수성을 민주주의로 포장하고는 한다. 일본이 정보산업에서 뒤진 것을 모두 개인정보 보호를 소중히 하는 '선진성' 때문이라고 변명하는 것이 좋은 예다. 이런 보수성은 민주주의와 독재의 경쟁을 더 복잡한 것으로 만들 것이다. 

 

하지만 이건 사소한 측면이며 장기적으로 봐서 기술경쟁에서 독재 국가는 결국 패배할 것이다. 독재가 인공지능의 발달을 빠르게 한다는 것은 세가지를 의미한다. 첫째 우리는 인공지능이란게 뭔지 제대로 안다는 뜻이며 둘째로 우리가 그것을 독재자에게 이해시킬 수 있다는 뜻이고 마지막으로 인공지능의 발달에는 국제적인 협력이 그다지 중요하지 않아서 일개 국가가 혼자 개발을 할 수 있다는 뜻이다.

 

민주주의와 독재가 기술경쟁을 벌인 좋은 예는 원자폭탄이다. 2차 세계당시 세계의 원자이론 선진국은 나치독일이었다. 아인쉬타인이 독일과학자였던 것만 봐도 알 수 있듯이 독일은 미국이상으로 과학의 선진국이었고 원자론의 아버지인 하이젠베르크도 독일인이었다. 미국은 파시즘 국가인 나치독일이 원자폭탄을 먼저 만들 것을 걱정하여 원자폭탄을 만들었는데  실제로 나치도 원폭개발을 하려고 했다. 하지만 결국 원자폭탄을 처음 만든 것은 미국이었고 독일은 지금도 핵보유국이 아니다.  원자폭탄의 원리는 이미 알려졌었고 폭탄이라면 정치가들도 그 의미를 비교적 잘 이해할 수 있었다. 내가 말한 세 가지 조건 중에서 두 가지나 옳았는데도 승리는 미국의 것이었다. 국제적 협력을 얻은 미국의 승리, 심지어 독일 과학자들도 파시즘 정부의 폭력성을 걱정하게 만든 나치의 패배였던 것이다.

 

인공지능의 경우에는 심지어 이 세가지의 조건이 모두 부정적이다. 우리는 인공지능이라고 쉽게 말하지만 정말 그게 뭔지 알고 있는 것일까? 인공지능은 세상을 바꿀 기술이라고 선전되면서도 지나치게 그 어려움이 과소평가 되는 경향이 있다. 이때문에 인간처럼 생각하는 기계가 곧 출현하리라는 예측은 반세기전부터 언제나 빗나가 왔다. 사람마다 의견이 다르겠지만 이런 질문을 던져보자. 중국이나 미국이 큰 돈을 들여서 반도체 기업이나 SNS 사업을 키우려고 하면 그것은 손쉽게 가능한 일일까? 세상을 바꿀 인공지능을 만드는 것이 더 쉬울까 반도체나 SNS를 발전시키는 것이 더 쉬울까? 내가 과소평가라고 할 때 그 말은 많은 사람들이 반도체나 SNS같은 다른 분야는 단순히 돈으로 발전시키기 어렵다고 생각하는 반면 인공지능은 그다지 큰 돈을 들이지 않아도 발전시키고 선두에 설 수 있는 그런 분야로 생각한다는 것을 말한다. 

 

이 같은 착각을 독재국가의 독재자가 하게 될 때 그 나라는 많은 자원을 낭비하게 될 것이다. 그건 이런 식이다. 예를 들어 지금 인공지능 기술이 필요하니까 그 분야에 자원을 집중한다고 해보자. 그런 전공을 한 사람을 교수로 뽑고, 세계적 명사를 초청하려고 돈을 쓰고, 연구소도 새로 세운다. 그런데 언제나 세상에는 돈과 자원이 부족하다. 인공지능 전공자가 교수가 되면 어떤 다른 전공을 한 사람이 교수임용이 어려워지고, 돈 안쓰고 생색내기 좋아하는 정치인과 관료들은 대개 이쪽 돈을 저쪽으로 돌려서 문제를 해결한다. 같은 연구소를 간판만 바꿔단다던가 하는 식으로 말이다. 결국 다른 분야의 상황을 더 나쁘게 만드는 것이다. 그리고 나서 15년쯤 시간이 흐르면 우리는 뭘 발견하게 되는가? 미래의 첨단 기술의 싹을 지금 잘라버렸다는 것을 알게 된다. 사실은 우리도 그 미래의 선진기술 방면에 일찍 들어간 사람들이 있었는데 인공지능을 지원한다고 그 사람들을 외국으로 내몰거나 학문을 포기하게 만들거나 한 것이다. 

 

우리는 미래에 대한 예측을 하고 그것을 바탕으로 현명하게 투자해야 한다. 이 말은 옳은 말이지만 굉장한 겸손을 전제로 하며 현실적으로 사회적 자원이 배분이 어떻게 되는지에 대한 고민도 필요하다. 누구도 미래를 잘 모른다. 하물며 자원 배분에 결정적 힘을 가진 독재자들이 과연 미래 발전에 대해 제대로된 이해가 있을까? 또한 권력자들에게 보고서를 쓰는 사람들이 또 어떤 분야나 파벌의 일원일 수 있다는 점, 그리고 심지어 전문가도 제한된 견해를 가진다는 것을 생각하면 왜 권력이 극도로 집중되는 독재가 기술발전을 도울 수 없는가가 분명해 진다. 독재는 결국 미래를 파괴한다. 그들의 도움은 발전을 느리게 하거나 불가능하게 한다. 사람들은 자신이 모르는 것을 안다고 착각하는 일이 많은 데 독재자는 특히 그러하기 때문에 독재를 하는 것이다. 꼭 독재국가가 아니라도 과학기술의 이해가 떨어지는 정치가들이 과학계를 뒤흔들어 과학을 발전시킨다는 구호아래 과학을 망하게 하는 일은 언제나 일어날 수 있다. 

 

다시 말하지만 우리는 인공지능이 뭔지 아직 모른다. 지능이 뭔지 아직 모른다. 원시인이 처음 문자가 등장했을 때 그 문자가 앞으로 어떤 일을 하게 될지 이해할 수 있을까? 어렴풋이 이해하는 사람이 있다고 해도 대부분의 원시인들은 완전히 엉뚱한 생각을 하고 있을 것이다. 종이에 글자를 쓰면 마법같은 힘이 나온다는 식으로 이해할지도 모른다. 인공지능의 미래도 이와 같다. 인공지능의 시대에 우리는 원시인이다. 우리는 아직 미래를 모른다. 

 

기계는 제한된 영역에서 지능을 배울 때도 인간으로부터의 데이터가 필요하다. 바둑에서 그렇지 않았던 것은 바둑은 그 게임의 법칙이 확실히 존재하기 때문이다. 인간이 포함된 현실 사회를 다루는 문제에서는 그런 법칙은 없다. 무엇보다 인간이 정확히 법칙대로 움직이는 존재가 아니기 때문이다. 결국 우리가 인공지능을 아이처럼 가르쳐야 한다. 이 말은 뒤집어 말하면 인공지능은 한 사회가 가진 집단적 지능에 의해 제약된다는 뜻이다. 제 아무리 멋진 문자가 있어도 멋진 역사학자, 멋진 작가, 멋진 과학자가 없으면 문자의 진정한 힘은 나오지 않는다. 마찬가지로 인공지능의 진정한 힘은 현명한 대중집단과 결합할 때만 발휘된다. 그럴 필요없이 홀로 인간을 무한히 능가하는 지능을 가진 기계가 나온다는 말은 엉터리 상상에 지나지 않는다. 포토그래픽 메모리를 가진 사람이 아인쉬타인처럼 창의적인 과학자가 될 수 없는 것에서 알 수 있듯 이러저러한 것이 지능이다라는 생각은 대개 착각이다. 

 

독재는 대중을 어리석게 만든다. 독재는 대중의 도덕심과 판단력을 약화시킨다. 문화를 검렬당하고, 자유로이 새로운 가능성을 찾지 않고 관행에 매달리게 만든다. 그러므로 독재는 전 세계인을 설득할 수가 없다. 따라서 독재국가가 인공지능을 개발하려고 하면 그것에 전세계적인 힘이 모일 수가 없다. 인공지능 사회로 가는 경쟁에서 민주주의는 결국 이길 것이다.