구글 듀플렉스와 인공지능의 소유권

2018.5.12

구글에서 듀플렉스라는 서비스를 시연했다 (한글 자막이 없지만 데모 비디오는 이 글의 마지막에 있다). 이 데모는 나를 포함한 많은 사람들을 놀라게 했는데 첫째로 음성이 아주 자연스러웠기 때문이다. 기계가 텍스트를 음성으로 읽는거야 새로울 것이 없지만 대화속에서는 문맥에 따라 톤이 달라지는데 그런 부분까지 아주 완벽해서 아무리 들어도 이걸 기계가 말했다는 것을 믿기 힘들정도다. 

 

 

 

그 보다 더 놀라운 것은 기계가 인간과 대화를 아주 자연스럽게 이어나간다는 사실이다. 사실 데모 영상을 보면 적어도 두번째 통화에서는 기계가 아니라 인간이 멍청하게 느껴진다. 점원은 상대방의 말을 잘못 알아듣고 뻔한 것을 기억못하는 모습을 보인다. 그런 상황에서도 기계는 대화를 잘 이어나가는 것이다. 

 

이 데모 이후 서구 사람들은 이 서비스에 대해 즉각적으로 윤리적이고 법적인 질문을 던지기 시작했다. 예를 들어 상대방이 내가 지금 기계에게 말하고 있는건지 모르게 하는 것이 옳은가 하는 것이나 기계가 음석분석을 한다는 것은 음성녹음을 한다는 뜻인데 상대방허락없이 대화녹음을 하는 것이 합법이냐 같은질문을 던지는 것이다. 실제로 미국의 몇몇 주에서는 감청에 대한 법률에 이것이 걸린다고 한다. 

 

하지만 이런 질문보다 다른 실용적이고 실질적인 질문들도 중요할 것이다. 그 핵심은 누가 인공지능을 소유하고 있는가라던가 어떤 문화에서 인공지능과 인간은 공존하는가 하는 것과 관련이 있다. 

 

사실 실제로는 내가 이야기하고 있는 상대가 기계인지 아닌지 인간이 구분하지 못할 것이라는 점은 크게 문제가 안될 것이다. 만약 이런 서비스가 보편화된다면 식당이며 미장원은 그런 전화를 계속 받게 될 것이고 그런 상황에서는 사람들이 그것이 기계가 거는 전화라는 것을 쉽게 알아차릴 수 있을 것이다. 왜냐면 같은 목소리이거나 같은 패턴으로 말하기 때문이다. 누가 애플의 시리를 사람으로 생각하는가. 그건 마치 수천 수만명을 한 대리인이 처리해 주고 있는 것같은 상황일 것이므로 인간은 아 이 목소리, 이거 기계구만 하고 알아 차릴 것이다. 기계인지 사람인지 구분하기 위한 질문따위도 찾아질 수 있다. 데모의 경우는 그 전화를 받는 점원이 설마 기계가 그렇게 전화를 걸지 몰랐기 때문에 속는 것이다. 그리고 법적이고 윤리적인 문제로 나는 기계라고 말하는 힌트도 주어질 것이다. 

 

물론 언젠가는 이런 문제를 능가할 정도의 다양성을 기계가 가지게 될 것이며 불법적인 기술의 사용도 있겠지만 언젠가는이라는 미래의 일을 너무 미리 당겨서 걱정하지는 말자. 왜냐면 걱정할 문제들은 얼마든지 있기 때문이다. 사실 핵폭탄으로 인류가 멸망할거라는 예상과는 달리 우린 아직 잘 살고 있다. 조심하는 것은 좋지만 미래를 너무 암울하게 볼 필요는 없다. 

 

나는 오히려 사람들이 듀플렉스의 정체를 알아보고 기계에게 학대를 할 것이 걱정된다. 가게에서 전화를 받는 통상적 방식은 최소한 두가지를 전제하고 만들어 졌다. 첫째는 그 통화를 인간이 한다는 것이고 둘째는 그 인간은 손님이라는 것이다. 따라서 가게는 전화를 예의바르고 친절하게 받는다. 

 

그런데 상대방이 사람이 아니라 기계라면 우리가 말하는 방식은 바뀔 수 있다. 습관때문에 즉각적으로 바뀌지는 않겠지만 상대가 기계라는 것을 의식하면 말투가 아주 거칠어 질 가능성이 있다. 기계에게 공손하게 말을 하는 자신이 한심하고 굴욕적이라고 생각하는 사람도 분명히 있을 것이다. 누군가가 직접 전화를 거는 대신 기계에게 가게의 점원과 대신 이야기하라고 한다는 사실이 가게의 점원에게는 모욕이라고 생각할 사람도 있을 것이다.

 

인공지능로봇을 개인이 소유하는 인간의 노예라고 생각한다는 것은 우리가 지금 노예시대로 복귀하고 있다는 뜻이다. 높은 지체를 가진 귀족은 가게에 자기 대신 노예를 보낸다. 그런 노예를 상대하면서 장사하는 자유인은 가면 갈수록 손님을 상대하는 매너가 엉망이 될 것이다. 그런 노예를 자신과 동등한 상대로 인정하는 순간 자신은 귀족의 노예가 아닌데도 노예수준으로 전락하는 느낌을 받기 때문이다. 

 

말하자면 구글의 데모에서 나온 대화는 이런 식이 되기 쉽다는 것이다.

 

듀플렉스 : 안녕하세요. 저는 리사님의 예약을 하고 싶습니다.

점원 : (기계라는 것을 알아차리고) 언제야?

듀플렉스 : 이번주 토요일 12시 입니다.

점원 : 그땐 자리없어. 그리고 나 바뻐 잠깐만 기다려. 

 

점원은 기계에게 무례하니 마니같은 것은 따지지 않을 것이다. 오히려 자신이 인간임을 강조하기 위해 일부러 무례하게 굴지 모른다. 듀플렉스는 수없이 많은 인간과 인간과의 대화에 기초해서 훈련을 했다. 하지만 실은 그들이 배워야 할 것은 어쩌면 노예와 인간의 대화일지도 모른다. 인간이 그들을 노예로 취급할 것이라면 말이다. 인간과 인간 사이의 대화패턴을 크게 벗어나는 일이 생기면 듀플렉스는 오류를 일으킬 가능성도 있다. 

 

한가지 있을 수 있는 반응은 이번에는 가게에서 듀플렉스가 전화를 받기 시작하는 것이다. 이쪽에서 노예가 전화를 걸게 한다면 저쪽에서도 노예가 전화를 받는 것이다. 이것은 약간 웃기는 상황인데 사실 기계끼리 대화를 하는 거라면 인간의 언어로 대화를 해야할 필요가 없다. 기계가 끼어들 필요도 없다. 지금도 영화예매 사이트에서 우리는 직접 컴퓨터를 상대하면서 예매를 한다.

 

정리하면 법적이고 윤리적인 문제로 인해서 그리고 기술적 한계로 인해서 우리는 우리가 상대하고 있는 것이 기계라는 것을 미래에도 대부분 알 수 있을 것이다. 그리고 그것이 기술이 실패하기 시작하는 부분이 될 수 있다. 온 세상에서 나만 듀플렉스를 가지고 누구도 그것이 기계인줄 모른다면 나는 편하다. 그런데 일이 그렇게 흘러가지 않으면 종국에는 편하자고 시작한 일이 쓸데없는 일이 되고 만다. 내가 점원과 대화를 나누는게 피곤해서 기계를 내세웠더니 저쪽도 기계를 내세우면 결국 나는 나와 점원사이에 기계와 기계의 대화라는 불필요한 단계를 끼워넣는 것이 되고 말 것이다. 소통은 결국 이것때문에 더 불편하고 비효율적이 될 수 있다. 

 

내가 여기서 지적하려고 하는 것은 인공지능서비스를 성공시키려면 그것과 인간의 공존에 대해서 우리가 고민할 필요가 있다는 점이다. 이 기술의 성공은 기술이상으로 문화와 철학에 달려 있다. 우리는 변해야 하고 문화적인 보수성으로 그렇게 변하는 것을 거부한다면 기술적으로는 문제가 없어도 그 기술에서 성과를 뽑아내는데 실패할 것이다. 이런 의미에서 인공지능기술의 성공은 공학자가 아니라 인문학자나 정치가 혹은 작가의 손에 더 많이 달려 있을 수 있다. 

 

이런 경우 내가 거론하기 좋아하는 예에는 금속활자가 있다. 서구에서는 천년내 최고의 발명품으로 말하는 금속활자를 우리는 세계최초로 그들보다 앞서서 만들었다. 우리가 금속활자를 처음 쓴 것은 고려 고종 21년으로 1234년의 일이고 이것은 구텐베르크가 금속활자를 만든 1450년 보다 216년이나 앞선 것이다. 하지만 우리가 그걸로 세계를 제패하는 일은 없었다. 한반도에 뉴튼이 나타나는 일도 없었다. 인공지능기술에 대해서도 이것을 단순히 기술적인 문제라고 생각하는 것은 같은 차이를 만들어 낼 것이다. 기술은 귀중한 것이지만 이런 기술의 성공은 단순히 기술 이상의 것이 필요하다. 인공지능기술이 가진 잠재력을 뽑아내는 데에는 문화와 철학이 중요하다. 사회적 변혁이 필요하다. 

 

결론적으로 말해서 인공지능이 효율적으로 사용되기 되기 위해서는 인공지능을 노예취급하는 것이 아니라 동등한 인간처럼 취급하는 것이 필요하다. 이 말은 처음들으면 오해의 소지가 많고 충격적으로 들리겠지만 사실 나는 그렇게 충격적인 말을 하려는 것이 아니다. 결국 이 문제는 누가 인공지능을 소유한다고 생각하는가에 달려 있다. 내가 인공지능을 소유하고 있다고 생각하면 우리는 굳이 인공지능에게 공격적이지 않게 된다. 결국 타인이 독점적으로 소유하는 인공지능 로봇이 문제다. 

 

인공지능 스피커가 나에게 말을 걸 때 우리는 굳이 그 스피커에게 잔혹하게 말하지 않는다. 대개는 동등한 인간과 대화하는 것처럼 말할 것이다. 왜냐면 그 경우 내가 그 인공지능 스피커를 소유하고 있다는 것이 분명하기 때문이다. 실은 인공지능 서비스자체는 먼 곳의 컴퓨터가 하고 있어도 말이다. 문제는 타인이 소유한 인공지능이 나에게 와서 말을 걸때이다. 우리는 그것을 때로 누군가가 발가락으로 음식을 집어서 나에게 내미는 것처럼 무례한 것으로 여길 것이다. 

 

결국 우리는 인공지능을 어떤 개인이나 회사의 소유가 아니라 공공의 소유로 만들어야 하고 그런 인식을 확산시켜야 한다. 누군가의 인공지능이 나에게 말을 거는게 아니라 우리의 인공지능이 나에게 말을 거는 것이다. 공동체 의식이 전제될 필요가 있다. 인공지능은 상하수도나 전기시설처럼 그 사회에 속한 모두가 공유하고 혜택을 보는 존재가 되어야 할 것이다. 이것은 인공지능을 특정한 개인의 소유로 생각하고 마치 로보트 팔이나 망원경처럼 한 개인의 능력을 증강시키는 도구로 여기는 견해와는 크게 다르다. 그런 식으로는 인공지능 기술은 마치 한반도의 금속활자처럼 대단한 결과를 만들어 내지 못하고 시들어 버릴 것이다. 

 

물론 이론적으로 우리는 자기 집에 컴퓨터를 두고 그 컴퓨터에서 작동하는 인공지능 프로그램을 소유할 수 있다. 그러나 그것은 마치 자기 집 정원에서는 집 바깥에서 통용되는 교통법규와는 다른 나만의 교통법규가 통한다고 주장하는 것이나 마찬가지다. 그런 교통법규는 결국 사회적으로 억압된다. 나는 인공지능 기술이 현실적인 것이 되면 될수록 이런 방향의 압력이 발생할거라고 믿는다. 그렇지 않다면 인공지능 기술은 성과없이 억압될 것이다. 

 

예를 들어 조선과 유럽이 다르듯 사회의 문화적 압력이 쉽게 바뀌는 것은 아니다. 이 경우 개인 즉 개인의 소유권을 크게 강조하는 전통을 가진 서구가 오히려 문제를 일으킬 가능성도 있다. 듀플렉스가 나오니까 즉각 윤리적 문제부터 따지기 시작하는 서구인에게서 나는 그런 가능성을 본다. 총기사고가 일어나도 개인의 총기소유를 옹호하는 미국인들에게서 나는 그런 가능성을 본다. 

 

인공지능은 적어도 국가가 개입해야 하는 문제다. 개인이나 특정회사가 할 수 있다고 해도 그들이 계속 그렇게 하게 놔두는 것은 마치 철도나 도로가 깔리기 시작하는 시대에 특정회사가 국가 도로망을 모두 소유하게 만드는 것이나 마찬가지다. 그런 도로는 그 공공성을 인식하는 일이 없으면 특정회사를 부자로 만들어 주기 이전에 별로 사용되지 못할 것이다. 너무 비싸기 때문이다. 즉 공공의 목적을 위한 것으로 생각해서 인공지능서비스를 발전시켜야 인공지능 서비스가 본격적으로 발달할 것이다. 

 

인공지능기술의 가능성은 무척 크다. 그리고 그 성공은 단순히 기술자에게만 달린 것이 아니다. 어쩌면 먼 미래에는 미국인들이 인공지능 기술을 제일 먼저 발전시킨 것은 그들이었다고 말하는 날이 올지 모른다. 그 기술이 성과를 낸 곳은 다른 곳인데 말이다.