김어준의 블랙하우스 인공지능 보도를 보고.

2018.2.9

 

김어준의 블랙하우스를 어제밤에 봤다. 거기에는 인공지능에 대한 코너가 있었는데 유익한 방송이었다고 생각하지만 아쉬움도 많이 남았다고 생각한다. 뭐랄까 답이 틀렸다기보다는 질문 자체가 틀려 있어서 정리가 안되는 상황이었달까. 

 

진행자가 반복해서 던진 질문은 인공지능이 자의식을 가지게 되는 날이 올 것인가 하는 것이었고 그건 한마디로 할리우드 영화에서 자주 나온 것처럼 인공지능이 인간을 공격하거나 지배하려고 하는 날이 금방 올 것인가 하는 질문이었다. 그런데 이런 질문은 마치 언젠가는 기계도 영혼을 가지게 될 것인가 같은 질문과 유사한 면이 많다. 이 질문에 대한 답이 뭐건 우리는 물어야 한다. 그런데 영혼이 뭡니까하고 말이다. 인간이 영혼을 가졌다는 말 자체가 과학적으로는 의미가 없는 허구거나 문학적 표현이다. 과학적으로 말하면 영혼이란 존재하지 않거나 그 정의가 뭔지 알 수 없는 것이다. 

 

자의식은 영혼같은 개념보다 훨씬 분명하다고 사람들은 생각한다. 그러나 그런 생각은 인간은 자유의지를 가지고 있다는 가정과 인간은 누구나 스스로 자기를 돌아보았을 때 여기 내가 있다라는 느낌을 분명히 받는다는 개인적 체험에 근거하고 있다. 그러나 자유의지의 가정은 가정일 뿐 과학적으로는 의심스러운 것이다. 게다가 개인적 체험은 더 문제가 되기에 사실 우리는 컴퓨터가 자의식이 있는지 없는지를 따지기 전에 다른 인간이 자의식이 있다는 것도 엄밀히 말하면 그냥 추측할 뿐이다. 이것때문에 동물은 자의식이 있다는 둥 없다는 둥 하는 독단적인 주장이 나오게 된다. 

 

이런 개념적으로 혼란스러운 것들을 우회해서 보다 직설적으로 물어보자. 기계는 인간을 공격할 수 있는가? 있다. 당연히 있으며 지금까지도 공격해 왔다. 이런 상상을 해보자. 가축을 도살하는 기계에 인간이 잘 못들어갔다. 그런 사고때문에 인간이 죽는 일이 가능할까? 그건 당연히 가능하다. 컴퓨터는 나를 도와줘야 하는 기계인데 타인이 보낸 컴퓨터 바이러스의 명령대로 내 파일들을 다 지워버렸다. 이런 일은 언제나 일어나지 않는가?

 

기계가 본래 의도한 일을 하지 않는 것은 이제까지도 일어났고 지금도 일어나고 있다. 새로운 문제는 주로 인간 스스로의 한계때문에 생긴다. 사용하는 시스템이 고도로 복잡해 짐에 따라 인간이 자신이 만든 시스템을 다 이해하기가 불가능해졌다. 전기톱을 쓸 때 우리는 그 톱날에 손을 대면 안된다는 사실을 쉽게 깨달을 수 있다. 그런데 주식거래 프로그램이나 자율운전 자동차를 조작할 때 인공지능 스피커와 대화를 나눌 때에는 우리가 뭘 하면 안되는지를 우리는 다 모른다. 심지어 만든 사람도 다 모른다. 

 

얼마전에 미국에서 아이가 인공지능 스피커에게 배트맨이라고 외쳤더니 아마존에 자동으로 주문이 들어갔다면서 이건 문제라는 지적이 나왔다. 당연히 만든 회사도 그런 일이 일어나라고 의도한 것은 아니다. 인공지능이란 기계학습으로 만들어 지는데 이건 다시 말해서 데이터로 부터 규칙을 학습한다는 뜻이다. 이런 과정에는 우연이나 확률이 중요한 역할을 하기에 누구도 어떤 일이 벌어질지 100% 알 수가 없다. 

 

아이가 배트맨이라고 외치면 인터넷쇼핑을 자동으로 하는 인공지능 스피커에게 핵폭탄을 발사할 권한을 줘야 한다고 생각하는 사람은 없을 것이다. 혹시 미국대통령 트럼프가 저XX들 죽여버려라고 외치면 핵폭탄이 발사될지도 모르지 않은가? 하지만 핵심적 문제는 우리가 인공지능에게 핵폭탄을 발사할 권한을 주지 않을 수 없다는 것이다. 물론 우리는 엄청나게 조심할 것이다. 하지만 비행기가 가끔 떨어지고 일단 사고가 나면 대부분 전원사망이라고 해서 비행기같은 위험한 물건은 금지하자고 하는 사람이 얼마나 되는가? 이미 지금 이 순간에도 세상에는 전쟁때문에 죽는 사람보다 교통사고로 죽는 사람이 더 많다. 인공지능에게 관리를 맡기면 전력 생산을 크게 줄여도 되는데 이러다가 인공지능이 미치면 대참사가 난다면서 굳이 인간이 그걸 수동으로 해야 하고 따라서 엄청난 환경파괴와 자원낭비를 지속해야 한다고 주장할 사람은 얼마나 되겠는가.

 

우리는 이미 어떤 의미에서 인류의 생존을 미국 대통령 트럼프의 손에 맡겨놓고 있다. 그는 인류멸망의 핵전쟁을 시작 시킬 수 있는 자리에 있지 않은가? 물론 거기에는 안전장치가 있지만 말이다. 그런데 트럼프는 믿을 수 있으면서 인공지능은 믿을 수 없는가? 인공지능이 그런 권한을 가진다고 해도 당연히 안전장치는 있을 텐데? 나로서는 인간이 기계보다 언제나 우위라는 것은 괜한 고집처럼 보인다. 내가 보기엔 하나의 개인보다 더 믿음이 가는 인공지능이 출현할 수 있다는 것은 지극히 당연한 일이다. 당신은 친구를 믿으니까 계산기의 답을 안믿고 친구에게 계산을 계속 시키는가? 

 

질문이 애초에 크게 잘못된 더 중요한 이유는 따로 있다. 그것은 판단을 기계가 하는가 인간이 하는가하는 이분법적 시각으로 문제에 접근하는 것이다. 이것은 부분적으로는 인간의 자유의지에 대한 환상때문에 나오는 것이다. 하지만 인간이 뭘 어떻게 판단하는가를 곰곰히 생각해 보면 인간이 자유의지를 가졌는가 아닌가하는 질문은 무한히 의미가 작아진다. 마침 최근 우리는 박근혜 최순실 국정농단 사건을 보게 되었으므로 이 사건을 통해서 이 문제를 생각해 보자. 보도에 따르면 박근혜는 지극히 소수의 사람들을 통해서만 세상을 봤던 것같다. 사람도 안만나고 장관도 비서도 대통령보기가 어려웠다.  그러니까 공식적으로 존재하는 의사결정 시스템이 무시되고 최순실처럼 늘상 박근혜를 만나는 사람의 의견만 청와대로 들어간다. 최순실이 개인적으로 부탁하면 대통령이 시시콜콜 민원을 해결하는 식인 것이다. 

 

이럴 때 박근혜와 최순실의 관계에 대해 우리는 묘한 착각이 있을 수 있다는 느낌을 받는다. 박근혜는 최순실이 자신의 시종이나 아랫사람이라고 생각했을 수 있다. 즉 판단은 자기가 내리고 있으며 최순실은 그저 자신을 약간 도와주고 있을 뿐이라는 것이다. 청와대 문건을 대량유출시키고 있으면서도 말이다. 그러나 수십년전부터 주변사람에게 둘러쌓여서 살아온 박근혜를 보면서 많은 사람은 실상 실권을 쥔 사람은 최순실이라고 말한다. 우리나라의 권력서열 1위는 박근혜가 아니라 최순실이라는 증언이 나오는 것은 이런 현실 때문이다. 최순실이 박근혜가 뭘 볼 것인지를 결정한다면 결국 의지를 가지는 쪽은 최순실 아닌가 하는 것이다.

 

이제 다시 기계로 돌아가보자. 오늘날 인간이 기계에 의지하지 않고 세상을 볼 수가 있는가? 어제 김어준의 블랙하우스는 포털사이트 네이버의 기사배치가 편파적이라는 기사도 보도했다. 사회자가 스스로 말했듯이 기사를 소비하는 소비자의 입장에서 포털 사이트의 기사 편집은 그 자체가 소비자의 의식을 지배한다. 뭘 볼지를 네이버가 결정하고 있는 셈이다. 조선시대에서 온 사람들은 비행기 조종간이나 포털 화면을 보면서 21세기 사람들은 저런 걸 어떻게 믿냐고 물을 것이다. 21세기 사람들은 이미 기계를 너무 믿어서 문제다. 

 

결국 기계가 결정을 하는가 인간이 결정을 하는가 하는 질문은 실질적으로는 무의미하다. 인간과 기계는 융합되어서 결정을 내리고 있으며 사실 시스템이 커짐에 따라 인간의 역할은 점점 더 단순해 진다. 뉴스 소비자의 정신을 포털 사이트의 뉴스편집이 조종할 수 있다면 인공지능이 발달하는 미래에는 그 정도가 비할 수 없을 것이다. 이런 미래에 누군가가 누군가를 공격할 때 그것이 과연 기계의 공격일까 아니면 인간의 공격일까? 인공지능의 도움으로 파악한 통계자료에 근거하여 전쟁을 시작할 때 그 전쟁은 누가 시작하고 있는 것인가. 지금도 우리는 늘상 시스템이 문제라고 말하고들 있지 않은가? 즉 시스템이 부패를 만들어 내는 구조일때 그 안에 있는 인간은 반드시 부패하기 마련이며 따라서 고쳐야 하는 것은 시스템이라고 말하지 않은가? 이런 문맥에서 부패의 원인제공자는 시스템이다. 인공지능 이야기와 거의 같지 않은가? 인공지능은 말하자면 그 시스템을 기계가 스스로 찾아서 만들어 내는 기술이다. 그런데 인공지능이 찾아낸 시스템을 인간은 다 이해할 수 없다. 알파고가 이세돌을 어떻게 이기는지 프로그래머도 모르는 것처럼 말이다. 다만 경험적으로 믿을 만하다고 느낄 뿐이다. 

 

어떤 의미에서 1만년전에 비해 현대는 훨씬 더 위험하다. 1만년전에는 교통사고 사망자도 없었고 총기사고로 죽는 사람도 없었다. 알콜이나 마약 중독자도 없었으며 흡연으로 폐암에 걸리는 일도 없었다. 모르긴 몰라도 우울증같은 정신병이나 자살도 훨씬 적었을 것이다. 그래서 우리는 1만년전으로 돌아가야 할까? 그래서 우리는 정말 1만년전이 더 안전하다고 믿는가? 

 

먼 미래만 바라보면서 애매한 관념으로 평가를 내리는 것은 큰 가치가 없다. 문제는 지금 코앞이 문제고 결국 우리는 더 발달된 시스템을 사용하게 될 것이다. 교통사고로 사람이 죽지만 엠뷸란스가 있으니까 환자를 구한다. 더 발달된 시스템도 결국은 위험이 있지만 인간을 구하기 위해 만들어 지는 것이다. 미래는 확신할수 없지만 이러다가 스카이넷이 우리를 공격할지도 모른다면서 굶주림과 자원고갈과 환경오염과 범죄증가를 방치하자고 하는 주장은 결국 받아들여지지 않을 것이다. 원전이나 네이버도 포기 안하는 인간들이 인공지능기술을 포기하는 일이 일어난다는 것은 상상하기 어렵다. 그건 어느날 인간같은 가정부를 집에 들여놓는 문제가 아니라 조금씩 조금씩 개선되어 보이지 않는 곳으로 침투하는 서비스를 거부하는 것이기 때문이다. 네비를 사용한다던가 전력관리를 인공지능이 한다던가 하는 식으로 말이다. 결국 우리는 그런 시대에 인간은 어떻게 살아야 할 것인가하는 적응의 문제를 고민해야 한다. 거의 필연적으로 보이는 미래를 거부하는 질문을 던지기 보다는 말이다.