인공지능은 정말 두려워해야만 하는 것일까?

23.5.8

인공지능의 아버지라고 불리는 제프리 힌턴이 구글을 퇴사하고 인공지능의 위험성에 대해 경고를 주고 있습니다. 그의 경고가 아니라도 인공지능이 강력하고 위험한 기술인 것은 누구도 부정할 수 없는 일입니다. 하지만 인공지능이 위험한 것이며 따라서 규제해야 하고 천천히 생각하면서 발전시켜야 한다는 생각에도 숨겨진 가정이 있고 위험이 있습니다. 그 위험은 대개 무시되기 때문에 어떤 의미로 더 위험한 것이죠. 

 

인공지능이 위험하다는 경고속에서 생기기 쉬운 착각은 인공지능 기술이라는 것을 우리가 더 욕심내지 않고 지금 이대로 살고 싶으면 꼭 필요하지 않은 것으로 여기는 생각입니다. 우리는 신기술이라는 것을 보통 이런 식으로 생각하기 쉬운데 왜냐면 우리는 지금 이대로의 상태가 그냥 유지된다고 여기기 때문이죠. 나는 다니던 직장에 가서 하던 일을 앞으로 쭉 30년쯤 더 하다가 은퇴하고 살던대로 살다가 죽어도 좋은데 뭘 또 바꾸냐고 생각하기 쉬운 것이죠. 

 

그러나 사실 세상에 변하지 않는 상태는 엄밀히 말해 하나도 없습니다. 사람이 성장하고 늙어서 죽듯이 멀쩡히 잘 돌아가는 것 같아 보이는 시스템은 사실 성장도 하고 모순의 누적으로 인해 노화도 합니다. 그러니까 계속 살아가기 위해서는 새로이 생겨나고 누적되어지는 모순들을 해결해야 하며 그걸 안하면 죽는 겁니다. 즉 가만히 있으면 죽는 것이고 계속 살기 위해서는 새로워 져야 한다는 겁니다.  예를 들어 쓰레기 매립장에 쓰레기를 버리고 있을 때는 그냥 계속 쓰레기를 버리고 살면 되는 것같지만 그게 한계에 도달하도록 아무 일도 안하고 있으면 갑자기 환경문제가 엄청나게 심해져서 죽게 되는 겁니다. 그냥 이대로 살면 계속 이대로 사는게 아니라는 거죠. 세계에 전염병이 퍼져서 그걸 막을 백신기술을 개발하는데 누가 한가하게 이제까지도 백신없이 잘살았는데 앞으로도 그거없이 살거라고 하면서 백신기술의 발전을 막으면 새로운 전염병으로 엄청난 재앙이 올 수도 있는 겁니다. 

 

이런 관점을 가지고 세상을 둘러보면 우리는 즉각 알게 됩니다. 지금 세상에는 누적되어지고 있는 문제가 엄청나게 많습니다. 위에서 거론한 환경문제를 제외하고도 인구증가문제도 있고 경제문제도 있습니다. 사실 세계는 한번도 어딘가에 멈춰서서 그 상태를 유지한 적이 없습니다. 인구만 봐도 지난 몇세기동안 점점 더 빨리 엄청나게 늘었죠. 교육도 세상에 퍼져서 이제는 대학교가 전세계에 엄청나게 많고 그들이 졸업생들을 대량 배출하고 있으며, 따라서 중국이나 인도나 인도네시아, 베트남같은 나라의 경제적 실력도 크게 성장했습니다. 우리나라만 자동차가 2천만대가 넘어가는게 아닙니다. 세계 많은 나라가 정도가 다를 뿐 비슷한 변화를 겪고 있습니다. 지식과 기술과 교육은 이 순간에도 무섭게 퍼져가고 세계적인 규모로 보면 인구는 늘고 있으니까요. 그래서 러시아와 우크라이나가 전쟁을 하고 있고 미국과 중국이 경제전쟁을 하고 있는 겁니다. 

 

이런게 인공지능과 무슨 관계가 있을까요? 앞에서 한 말들은 한마디로 인공지능기술이 없어도 세상은 빠르게 변하고 있으며 훨씬 더 복잡해지고 있다는 겁니다. 더 많은 사람들이 더 많은 정보기술들을 써서 일하고 있으니까요. 과거에는 회사에 중간관리 간부들이 엄청 많이 필요했다고 합니다. 그런데 인터넷과 컴퓨터가 발달하자 그런 사람들을 훨씬 덜 써도 되게 되었죠. 이런 일은 그걸 인공지능이라고 부르지 않아도 진행되어 왔으며 진행되고 있습니다. 

 

저는 이같은 변화를 왕과 관료가 나라를 다스리던 봉건국가에서 선출된 공무원이 정부를 구성하는 공화정으로의 변화를 통해서 이해하고는 합니다. 왜 왕들은 더이상 나라를 다스릴 수 없을까요? 그것은 근본적으로 정보가 힘인데 왕이라는 개인이 국가를 통치하기에는 국가라는 조직이 너무 크고 복잡해졌기 때문입니다. 한 인간이 모든 판단을 하는 것은 불가능합니다. 능력이 안되는데도 왕이 직접 모든 것을 명령하고 결정하겠다고 하면 설사 그 왕이 뛰어난 사람이라도 문제가 생깁니다. 그러면 반란이 생기거나 국가의 성장이 멈추거나 심하면 나라가 망하는 겁니다. 이게 독재의 가장 큰 문제입니다. 악한 독재는 말할 것도 없고 선한 독재라도 독재가 통할만큼 세상이 간단하지 않다는 겁니다. 

 

그러니까 왕을 돕는 관료를 뽑지만 그래도 국가 조직의 최상위권을 혈연에 근거해서 세습하는 봉건제는 빠르게 변하는 현대 사회를 감당할 능력이 없는 겁니다. 그 결과 적어도 선진국중에는 정치적 권력을 가진 왕을 가진 봉건국가가 없습니다. 방대한 관료조직을 선출된 정치가가 관리하는 방식으로 나라가 돌아갑니다. 그래야 국가를 관리할 수가 있으며 그렇지 않으면 앞에서 말한대로 그 나라가 망하거나 성장이 멈추게 되거나 반란이 생기게 되는 겁니다. 

 

이 이야기를 하는 이유는 현대 사회를 보고 있으면 이제는 개인들이 마치 과거의 왕과 비슷한 처지에 있기 때문입니다. 현대 사회에서 일반 시민들은 정치가나 기업가가 아니라고 하더라도 더이상 자기 주변만 보고 학교졸업하면 취직해서 은퇴할 때까지 학교에서 배운 일을 계속 하면서 소시민적으로 살 수가 없습니다. 세상이 너무 복잡해졌고 빨리 바뀌기 때문입니다. 그래서 사람들은 자기 주변을 넘어서 세계를 다 봐야 합니다. 지구반대편에서 일어나는 일을 무시하면 미국의 경제파국이 당장 내 통장이나 연금을 한순간에 날려버릴 수도 있습니다. 자식을 학교에 보내는 것만 해도 공부해야 하는 것이 너무 많습니다. 그래서 요즘은 사는게 전보다 훨씬 더 복잡합니다. 이걸 돕자고 언론이나 전문가들이 동원되지만 그들의 효용성은 날로 떨어집니다.

 

결론적으로 말해 오늘날에는 일개 개인도 자신과 관련된 방대한 정보들을 잘 처리하지 않으면 망하고, 고소당하고, 발전을 멈추게 되는 겁니다. 그런데 세상이 점점 더 복잡해지니 왕국에서 생긴 것과 같은 문제가 발생합니다. 공부를 아무리 열심히 해도 세상은 그것보다 더 복잡해 지는 겁니다. 

 

인공지능은 정보처리기술입니다. 사람들이 그게 무섭다고 하지만 그런 기술없이는 앞으로 점점 더 사람이 살기 힘듭니다. 마치 도시속에 살고 있는 원시인처럼 되는 겁니다. 우리는 이미 노인들에게서 이 비슷한 일들을 봅니다. 그들은 스마트폰 사용을 거부하거나 편향적으로 사용하는 경우가 많습니다. 그러니까 사기도 당하고 가짜 뉴스에 휘둘립니다. 그런데 이런다고 IT기술은 가짜 뉴스나 만들기 쉬우니 더더욱 그런 것으로부터 관심을 멀리하라는 조언을 들으면 어떨까요? 아마 소수의 인맥이 좋은 사람들이나 얼마지나지 않아 죽을 사람은 그것도 좋을 것입니다. 그들은 가지고 있는 인맥이나 자산을 통해 다르게 문제를 해결할 수 있으니까요. 하지만 그렇지 않은 사람들은 그야말로 점점 더 취약해져서 위험에 빠져들 것입니다. 

 

지금의 세상은 말하자면 모든 사람들이 이런 문제를 가지게 만들고 있습니다. 이걸 하나의 질병이라고 해서 정보소화불량병이라고 하면 이 질병과 맞서 싸울 수 있는 백신기술이 인공지능 기술인 겁니다. 이런 상황에서 인공지능 기술이 위험하다, 가짜 뉴스를 만들 수 있다, 그 규제를 생각해야 한다는 말만 하고 있으면 좋은 세상이 올까요? 그게 누구에게 좋을까요? 인공지능 개발을 100% 멈춰도 누군가는 그걸 다른 이름으로 부르면서 개발을 계속하고, 인공지능 기술이 아니더라도 세계에 누적되고 있는 모순은 우리의 생활을 난장판으로 만들 겁니다. 그러니까 인공지능에 대해 두려움을 가지는 것은 옳으면서도 한편으로는 배부른 고민입니다. 백신을 맞으면 부작용이 있을 수 있으니 조심해야 한다는 것도 맞지만 백신없이 살겠다고 하는 것은 전염병의 위험성을 무시하는 배부른 고민이라는 거지요. 

 

인공지능의 위험을 말하는 것은 꼭 도덕적으로 옳은 일일까요? 일론 머스크같은 부자나 제프리 힌턴같은 유명 대학교수는 사실 인공지능이 별로 필요없습니다. 그들은 부자이며 엄청난 인맥을 가지고 있기 때문입니다. 한마디로 세상이 지금처럼 계속 되어서 별로 문제가 있을 사람들이 아닙니다. 인공지능 기술이 발전 안되면 제일 괴멸적인 피해를 입을 사람들은 사실 지금 인공지능이라는 것에 대해 아무런 관심도 의견도 없을 사람들입니다. 말했듯이 인공지능 기술이 발전하건 안하건 지금도 세상은 무섭게 복잡해지고 있기 때문입니다. 

 

조선 말엽에는 서양 선진 문물 따위 들여오지 말고 나라를 폐쇄해서 살자고 하는 쇄국주의가 있었습니다. 확실히 외세의 영향은 무서운 것이죠. 그때 서학이 위험하다고 말하는 사람들이 틀렸다고 할 수는 없습니다. 그런데 그 서양 문물을 누가 막자고 했을까요? 조선의 기득권층이었습니다. 왜냐면 그들은 지금까지 살던대로 살아도 된다고 느꼈기 때문입니다. 외국의 문물이 위험한 것도 분명히 사실이었습니다. 그렇지만 그렇게 해서 어느날 시류에 늦어서 나라가 통째로 망하면 누가 가장 큰 피해를 입을까요? 그때 가장 큰 피해를 입는 것은 서민입니다. 부자나 귀족은 버틸 때까지 버틸 수 있고 나라가 망해도 가장 먼저 새로운 세계에 잘 적응합니다. 하지만 나라가 망하는 것처럼 시스템이 통째로 멈추면 위험하다면서 세상의 변화를 무시하던 서민들은 아무 준비도 없이 삶이 망가집니다. 서양 문물은 위험하다고 겁주던 사람들 때문에 엄청난 피해를 입게 됩니다. 

 

인공지능이 위험하냐 안하냐를 질문하는 것은 애초에 질문이 잘못된 것입니다. 당연히 위험하죠. 문제는 우리 시대가 가진 문제는 뭐고 세상의 흐름이 어떠 한가 하는 것입니다. 그 문제를 해결하는데 있어서 우리가 뭐가 필요한가를 생각해 보는 것입니다. 그걸 외면하고 인공지능은 핵무기보다 위험하다같은 말이나 하고 있으면 판단이 완전히 거꾸로 될 수 있습니다. 오늘날 정보기술은 없어도 되는 기술이 아닙니다. 오히려 인류를 계속 살아가게 할 거의 유일한 동아줄에 가깝습니다. 세상은 그런 구세주같은 기술이 없어도 유지가 계속될 것같은 곳이 아니라 얼마지나지 않아 망할 것같이 문제가 많기 때문입니다.