AI에 대한 과도기적 욕망

사냥꾼에게 기계의 힘을 설명하면 그는 그런 기계를 쓰면 짐승을 더 잘 잡게 되는거냐고 물을 것이다. 농사꾼에게 기계의 힘을 설명하면 그는 그런 기계를 쓰면 농사가 쉬워지냐고 물을 것이다. 우리는 AI 시대에 진입하고 있기 때문에 이런 사례를 기억할 필요가 있다. 우리는 말하자면 과거의 시대의 질서와 욕망에 익숙하고 그래서 새로운 도구인 AI가 등장하면 그 도구가 과거 시대의 질서와 욕망을 어떻게 충족시키냐고 묻기 쉽다. 하지만 사냥꾼이나 농부가 산업혁명을 사냥을 잘하거나 농사를 잘하게 되는 변화로 이해하면 핵심을 놓치는 것이 되듯이 우리는 지금 AI의 핵심을 놓치고 있는 것이 아닐까?

 

우리는 지금 어떤 시대를 살고 있는가? 우리는 산업혁명이후의 시대, 과학혁명 이후의 시대, 자본주의의 시대를 살고 있다. 그래서 우리는 AI를 보고 공장을 돌리는데 직장인을 대체하는데 있어서 얼마나 그것이 쓸모가 있냐고 묻고 있다. AI를 써서 과학기술을 발전시키는일에, 돈을 버는 일에 도움이 되냐고 묻고 있다. 이런 질문들은 물론 의미가 있지만 그것이 정말 길게 봐서 가장 큰 의미를 가지는 것일까? 그것은 마치 근대화의 물결속에서 자기 밭에서 일하는 소를 경운기로 바꿀 생각밖에 하지 못하는 농부와 같은 태도가 아닐까? 경운기를 사고 그걸 쓰는 방법을 배워서 농사를 짓되 예전에 하던대로 소작농으로 농사일만 열심히 하던 사람들은 어떤 미래를 만나게 되었을까? 그들은 근대교육을 받고 새로운 사회가 주는 기회에 대해 배웠어야 한다. 이것은 오늘날 직장에서 자기가 하는 일을 AI를 써서 하는 사람들을 생각나게 하지 않는가?

 

어떤 시대를 단 하나의 자원으로 특정짓는 것은 정확하지 않겠지만 그 시대에 대한 직관적인 이해를 준다. 그러니까 어떤 시대가 토지의 시대라고 한다면 그것은 토지를 소유하는 자가 가장 큰 권력을 가지며 세상의 변화를 주도 한다는 뜻이다. 어떤 시대가 자본의 시대나 지식의 시대라고 한다면 그 시대에도 물론 토지나 자본이나 지식은 모두 가치가 있겠지만 그중에서 자본 또는 지식이 특히 가치있어서 다른 가치있는 자원을 그걸로 쉽게 구할 수 있는 시대라는 뜻이다.

 

사람마다 정확한 시기에는 의견차이가 있겠지만 우리가 역사를 뒤돌아보면 우리는 토지의 시대에서 자본의 시대로 그리고 지식의 시대를 거쳐서 변해왔다. 자본과 지식의 시대가 바로 근대화의 시대다. 그렇다면 이 근대화를 넘어서는 AI의 시대는 어떤 시대인가?

 

그 답은 데이터의 시대가 될 가능성이 크다. 사실 AI는 데이터로 만들어 내는 것이다. 아직 AI 기술이 초보적이라 우리는 지금 데이터에서 AI를 만들어 내는 기술에 더 주목하지만 데이터가 소중한 것이라는 것이 분명해지면 데이터는 점점 귀해질 것이고 AI를 만들어 내는 기술이 발달하면 문제는 데이터가 될 것이다. 사실 최근의 AI는 상당부분 더 많은 데이터를 써서 AI를 만든 것에 힘입어서 발전한 것이다.

 

이렇게 만들어진 AI를 보고 사람들은 이미 당황하고 있다. AI가 내 글들을 가져다가 내가 쓴 것과 아주 비슷한 글을 쓸 수 있다면 내 글의 저작권은 어떻게되는 것인가? 그림그리기나 디자인하기 또는 작곡하기나 반도체칩설계하기등 아주 많은 분야에서 우리는 그걸 느낀다. 아이유의 목소리로 노래 부르는 AI는 아이유에게 저작권을 줘야 할까? 그럴것이다. 그렇다면 몇개의 목소리를 합쳐서 저작권에서 벗어나고 천사처럼 아름다운 목소리를 만들면 어떨까? 이같은 걱정과 질문은 먼 미래에 대한 것이 아니다. 현실이다. 우리는 이미 유튜브에서 실제로 그 가수가 그런 노래를 부른 적이 없는데도 AI가 커버한 노래들에 찬사를 보내는 사람들을 보고 있다.

 

일반 인공지능을 뜻하는 AGI라는 단어가 지나치게 쉽게 세상에 돌아다니고 있다. 모든 AI는 데이터로 만드는 것이고 훈련의 결과로 만들어 지는 것이다. 그것은 자연법칙이나 과학처럼 가치중립적인 것이 아니다. 어떤 데이터를 쓰고 어떻게 훈련시켰는가에 따라 AI는 다른 편향성을 가진다. 그러니까 어떤 방법을 쓰던 21세기에 만든 AI는 22세기나 19세기의 관점으로 보면 편향된다. 가치중립적인 AI란 존재할 수 없다.

 

처음 나타났을때 핵폭탄처럼 충격적이었다는 비키니 수영복을 생각해 보자. 그걸 입는 것이 범죄인지 아니면 개인의 자유인지에 대해서 시공을 초월하는 보편적이고 객관적이 답이 있을 수 있는가? 지금은 누드로 돌아다니는 것이 범죄다. 그것을 과학적이고 최종적으로 합리화할 수 있는가? 그런데 어떻게 AGI라는 것이 공평무사하여서 모두에게 공평하게 이득을 준다고 믿을 수가 있는가? 제한된 AI 훈련과정과 데이터를 생각하면 일반 인공 지능이라는 말은 서양 문화를 당연시해서 그것이 정답이니 모든 세상이 그 문화대로 살아야 한다는 것과 사실 차이가 크지 않다. 그래서 AI 거버넌스니 뭐니 하는 이야기가 나오는 것이다.

 

AI 시대가 데이터의 시대라는 말은 우리가 데이터를 많이 생산할 것이고 그것에 주목할 것이라는 것이다. 내가 특정한 사람에 대해서 모르는 것이 하나도 없으며 그런 데이터를 사용해서 AI를 만들어서 그 사람의 행동을 아주 많이 예측할 수 있을 때 나는 그 AI를 써서 그 사람을 거의 조종할 수 있다. 그 사람을 유혹하는 법, 그 사람을 협박하는 법, 그 사람을 법적으로 처벌받게 하는 방법을 쉽게 찾을 수 있기 때문이다.

 

지식은 힘이다. 하지만 지금까지는 이 말이 제한적이었다. 왜냐면 방대한 데이터를 생산 수집하기도 어렵지만 그걸 분석해서 어떤 결론을 내기도 어려웠기 때문이다. AI의 시대가 데이터의 시대인 이유는 이것이 바뀌고 있기 때문이다. 이제는 기계가 데이터를 생산 수집 분석할 수 있다. 이제는 외장하드나 AI가 우리의 머리에 붙어있는 보조장치처럼 작동할 수 있다. 이미 스마트폰이 그런 식으로 작동하고 있으며 우리는 엄청난 양의 사진을 찍어서 우리의 일상을 보존하고 있다.

 

AI 시대가 데이터의 시대라는 것은 사람들이 데이터를 두고 싸울 거라는 뜻이다. 사람들은 자연히 토지의 시대에는 토지를 가지려고 하고, 자본의 시대에는 자본을 가지려고 한다. 데이터의 시대에는 데이터를 가지는 것이 무엇보다 중요하다. 그리고 여기서 내가 이 글을 쓰기 시작한 핵심이 등장한다.

 

AI가 인류가 이제까지 공유하던 지식을 다 기억하는 시대에 데이터란 실질적으로 다른 사람과 소통하고 공유함으로서 얻어진다. 모두가 다 아는 것은 더 이상 큰 데이터 가치가 없기 때문이다. 그러므로 데이터를 어떻게 공유하는가에 대한 사회적 합의와 협력이 미래를 결정한다. 기술은 아주 중요하다. 하지만 금속활자가 있다고 해서 그것이 과학혁명과 산업혁명을 만들어 내는 것은 아니다. 문자를 만들면 반드시 문명의 발전이 일어나는 것이 아니다. 그것의 가능성을 깨닫는 일이 필요하고 그걸 기반으로 해서 사회적 합의에 이르는 것이 필요하다. 사람들이 미래비전에 동의해줘야 한다.

 

그렇지 않으면 혁명은 실패한다. 근대화를 이룩한 서양도 결국 종교적 질서와 과학적 질서와의 충돌을 극복해야 했다. 다른 지역도 마찬가지다. 다만 그 혁명을 성공한 서양은 그 충돌을 기록했고 정리했지만 반대로 그런 혁명이 좌절된 곳에서는 그런 충돌이 존재한 적도 없을 정도로 그 기록을 남기지 않았을 뿐이다. 인도나 아랍에서도 중국과 조선에서도 근대화 혁명을 위한 작지만 좌절된 움직임은 있었을 것이다.

 

그렇다고 할 때 우리는 처음의 이야기로 돌아가게 된다. 근대화를 해야 하는데 농사꾼에게 경운기를 주는 것이 근대화라고 해서는 혁명적 변화가 일어날 수 없다. 근대화의 핵심은 계몽이다. 보편적 교육이다. 과학적 지식을 퍼뜨리는 것이다. 그렇게 해서 과거의 권위로 유지되던 귀족적 사회, 봉건적 사회가 공화정으로 적어도 법치주의 사회로 바뀌는 것이다. 근대화란 자연이 자연법칙에 따라 움직이듯 사회적 법칙에 따라 움직이는 법치사회를 만드는 것이다. 그러한 관점은 사회를 하나의 거대한 기계로 보게 만든다. 그리고 그 안에서 우리는 기계의 부속품으로서 자기 일을 하는 직장인으로 살게 되었다. 기계를 이해하고 자기 의무를 다하는 이성적 인간이 바로 근대적 인간이다.

 

데이터의 소중함과 위험함은 우리로 하여금 데이터를 독점하겠다는 생각을 하게 하기 쉽다. 데이터를 독점하고 그걸 팔아서 돈을 벌고, 데이터를 써서 로봇을 만들어 돈 안드는 직원을 만들고 싶을 것이다. 하지만 모두가 그런 생각을 한다면 결국 AI 시대는 오지 않을 것이다. 왜냐면 사회적 분업이 없이는 근대화가 불가능하듯이 데이터의 공유가 없으면 AI도 만들 수 없기 때문이다.

 

결국 우리는 서로를 믿고 협력해야 한다. 개인의 소유권을 엄격하게 정의하는 것이 자본주의의 특징인데도 자본주의는 가면 갈 수록 신뢰에 대한 것이 되었다. 신뢰가 없으면 선진국 경제가 돌아가지 않는다. 사람들의 시민의식이 없이는 자본주의 시대에 어떤 나라도 부유해 지는 것이 불가능하다. 사람들이 투표권을 돈주고 팔고, 법은 지키지 않아서 사람들을 감시하는데 비용이 들어가기 시작하면 나라는 점점 가난해 진다.

 

강력한 기술은 데이터의 위험함을 알려주지만 반대로 신뢰와 협력의 가치를 더더욱 크게 만든다. 민주주의를 파괴하고, 중산층을 몰락하게 만드는 쪽으로 데이터 기술이 사용되면 그 사회는 결국에는 더 쓸 데이터도 없을 것이다. 모든 시민들이 수입이 없는 가운데 공장에서 로봇이 제품을 펑펑 만들면 그걸 어디에다가 판다는 말인가? AI 시대를 공장이나 직장에서 로봇이 일하는 시대로 이해하는 것은 근대화된 시대를 농사꾼이 경운기를 써서 일하는 시대로 이해하는 것과 같은 실수를 저지르는 것이다.

 

AI는 인간을 대체하기 위한게 아니다. AI는 인간의 지능을 확장하기 위한 것이며 더 빠르고 효율적인 소통을 위한 것이다. AI 시대는 망의 시대이고 데이터의 시대이다. 이 시대에 사람들은 사회를 하나의 거대한 AI처럼 봐야 한다. 그리고 사람들은 서로간의 연결속에서 어떻게 집단적 결정이 가장 지능적이 될 수 있는가를 이해하고 고민해야 한다. 그런 데이터의 흐름과 최적화속에서 전체 집단이 번성할 수 있다. 이것이 AI 패러다임이며 이는 마치 한 사람 한 사람이 인공신경망의 노드들에 해당하는 역할을 맡는 것에 해당한다.

 

이런 강력한 공동체에 대한 비전은 어떤 의미로 전체주의적으로 보일 수도 있다. 개인들이 뭉쳐서 하나의 거대한 생명체처럼 변한다는 것이기 때문이다. 그러나 실은 현실을 생각하면 그 반대다. 우리는 지난 번 코로나 시절에 이걸 절감할 수 있었다. 우리는 코로나 같은 질병이 빠르게 퍼질 때 개인의 자유 운운하던 나라들이 얼마나 바보같이 행동하는가를 봤고 그래서 선진국으로 자랑하던 나라들이 어떻게 큰 댓가를 치루는가를 봤다.

 

우리는 근대화적 이상으로는 불가능한 것에 도달해야 한다. 그것은 전체 집단이 독재를 하지 않으면서도 빠르고 합리적으로 행동해야 한다는 것이다. 근대적 방식으로는 빠른 행동이 필요할 때 점점 독재가 된다. 코로나를 퍼뜨릴 위험도가 큰 행동을 막기 위해서 중앙은 무력을 동원하고 사람들을 가뒀다. 왜냐면 그렇게 하지 않을 때 사회적 망에서 벗어난 사람들이 개인의 권리라면서 방역대책을 무력화했기 때문이다.

 

결국 복잡하고 빠르게 변하는 환경속에서 근대사회는 군대같은 독재가 된다. 생각은 중앙에서만 하고, 모든 자원을 중앙에서 독차지한 후 그걸 배분해야 한다. 그렇지 않으면 질서가 무너진다. 하지만 중앙독점식으로 반응해도 결과는 마찬가지다. 왜냐면 복잡하고 빠르게 변하는 환경속에서 중앙의 일처리가 너무 늦어지기 때문이다.

 

한국은 비교적 잘 대처했는데 그 이유는 인터넷 인프라를 잘활용해서 자원배분을 하고, 중앙이 아니라도 자원봉사자들이 소통하면서 합리적인 집단적 움직임을 보여줬기 때문이다. 백신을 어디가면 맞을 수 있는지, 마스크는 어디서 구할 수 있는지에 대한 정보가 흘렀고 그런 정보에 기반해서 안심한 사람들은 맘대로 행동하는 일도 없었다.

 

데이터 사회란 그런 모습이 극대화된 것이다. 중앙이 없이 모든 사람들이 자기에게 들어오는 정보를 빠르게 판단해서 집단적으로 합리적인 움직임이 나타나는 것이다. 그것이 가능해지는 것은 물론 우리가 AI 기술을 그 방향으로 개발해야 그렇게 된다. 중국처럼 시민들 감시하는데나 AI 기술을 쓰면 빠른 환경변화속에서 재난은 오히려 더 커질 것이다.

 

AI 시대의 핵심은 또한번 계몽이고, 공동체 정신이다. 모두가 새롭게 등장한 문제 해결의 방식을 숙지하고 그에 맞춰서 사회적으로 협력해야 집단적으로 큰 힘이 날 것이다. 그러기 위해서는 우리는 적어도 한가지가 필요하다. 그것은 과거의 질서에 맞춘 욕망을 자제하는 것이다. 근대화는 농사를 기계로 짓는 것이 핵심이 아니다. AI 시대로 가는 것은 직원을 로봇으로 대체하는 것이 핵심이 아니다.

 

역사 전체를 통털어 핵심은 언제나 같았다. 우리는 우리가 가질 수 있고 기억할 수 있고 분석할 수 있는 정보를 써서 가장 합리적인 방식으로 판단을 내리고, 새로운 환경에 적응해야 한다. 그리고 기술의 발달은 다른 환경을 만들었다. 그래서 문자가 문명을 만들었고, 과학혁명이 근대사회를 만들었다. 이제 발달한 컴퓨터와 통신기술이 데이터의 시대를 열고 있다. 그리고 그것은 과거와는 다른 것이 더 중요해지는 시대고 지금과는 다르게 사람들이 살아가는 시대다. 봉건시대의 백성과 공화국의 시민이 다르게 살아가듯 말이다. 근대화가 일어나고 있는데 왕을 찾고, 지주를 찾는 백성이 되어서는 곤란하다.