누구를 위한 AI인가?

AI에 대한 기사를 보다 보면 곤란하게 느낄 때가 있다. 그것은 AI를 가치 중립적인 것으로 생각하면서 누가 편리해지는 것인지, 누구의 지능을 늘리는 AI인지를 생각하지 않고 AI를 선전하는 글을 볼 때다. 나는 최근에 생성형 AI의 시대가 가고 인터렉티브 AI의 시대가 온다는 기사를 본 적이 있다. 그래서 그게 뭔가를 읽어보니 나로서는 바로 앞에서 말한 곤란한 이야기가 나왔다. 그 기사에 따르면 AI가 데이터를 통해 사람들의 행동을 익히고 나에게 맞춤형인 제안을 해주는 것이 인터렉티브 AI라는 것이다. 그게 멋진 미래라는 것이다. 이건 곤란하다. 왜 그럴까?

 

AI는 그냥 똑똑하고 공평한 프로그램이 아니고 문제를 해결하기 위한 것이다. 그렇다면 우리는 그게 누구의 문제인가를 생각해 봐야 한다. 예를 들어 회사와 소비자가 있다고 할 때 인터렉티브 AI는 지금 누구의 문제를 풀고 있는가? 우리는 이걸 생각해 봐야 한다. AI는 또한 데이터로 만들어진다. 그래서 그 데이터를 생산하는 시스템과 사용자간의 소통을 편하게 만들기 위한 것이라고 할 수 있다. 그러나 이 소통은 항상 양쪽 모두에게 유리한 것이 아니다. 우리는 이것도 생각해 봐야 한다.

 

우리는 자연법칙을 알기에 자연을 길들이고 나아가 지배하기까지 하며 살게 되었다. 마찬가지로 AI의 사용자는 AI를 써서 시스템을 길들이고 지배하는 것이다. 데이터를 노출시킨 시스템은 그 데이터로 만들어진 AI를 사용하는 사용자에게 지배당하게 된다. 그러니까 소비자들이 자신의 데이터를 노출 시키고 그 데이터로 AI가 만들어진다면 그 AI를 사용하는 기업은 소비자를 지배하게 되고 길들이게 된다. 이것은 물론 회사에게는 좋은 일이다. 이것은 회사의 문제를 풀어주는 일이다. 하지만 이것이 정말 소비자에게도 좋은 일이고 소비자의 문제를 풀어주는 일일까? 이런 관점에서 보면 일반 시민들이 보는 기사에서 인터렉티브 AI라는 것이 나왔는데 그게 얼마나 편리한지 아냐고 하는 기사는 노예가 되면 얼마나 세상이 편한지 아냐고 하는 셈이다. 참으로 곤란한 일이다.

 

AI의 핵심이 소통이라는 것을 좀 더 명확하게 보기 위해 예를 들어보자. 컴퓨터는 컴퓨터 언어로 인간과 소통한다. 그런데 컴퓨터 프로그램을 짜는 일은 굉장히 복잡한 일이라서 우리는 프로그래머라는 전문가들을 양성하고 그들이 프로그램을 짜게 한다. 그래서 이제까지는 나같은 보통 사람들이 컴퓨터와 소통하는 방식은 대개 프로그래머가 짠 즉 다른 인간이 짠 프로그램을 사용해서 행해졌다. 그러나 이 방식은 비싸고 느리다.

 

그런데 요즘의 AI는 컴퓨터 프로그래밍을 아주 잘한다. 그래서 클로드나 챗GPT 같은 AI를 쓰면 우리는 우리가 쓰는 컴퓨터와 전과는 다른 소통을 할 수 있다. 내가 원하는 것을 AI에게 말하면 AI가 프로그램을 짜고 그 프로그램을 실행시킬 수도 있다 (챗GPT나 클로드만 가지고 그렇게 할 수는 없다. AIEXE같은 여분의 프로그램을 써서 그렇게 할 수 있다. 하지만 원칙적으로 이 부분은 그냥 프로그램을 복사해다가 내가 내 PC에서 직접 실행시키면 된다.) 예를 들어 최근에 윤석렬대통령에 대해 나온 기사 10개를 가져오라던가, 특정한 디렉토리에 있는 파일들을 내가 원하는 방식대로 분류하고 이름을 다시 지으라던가하면 AI는 컴퓨터로 하여금 내 말을 그냥 실행하게 한다. AI를 쓰면 나는 이제 프로그래머에게 의존할 필요가 없다. 애초에 어떤 프로그램이 나의 주문을 실현시키는지를 알 필요도없다.

 

이런 소통을 우리는 주목해야 한다. 컴퓨터 하드웨어가 있는데 그것에 대한 데이터를 기반으로 AI가 만들어지자 컴퓨터를 우리는 길들이게 되었다. 우리는 이제 원칙적으로 프로그래머에게 의존할 필요가 없다. 나의 능력이 향상되었고 나는 자유로워졌다. 내가 컴퓨터를 지배하게 되었지 컴퓨터가 나를 지배하게 된게 아니다. 이는 내가 지금 쓰는 AI가 컴퓨터의 데이터 즉 어떤 프로그램이 컴퓨터의 어떤 행동을 가져오는가에 대한 데이터에 근거해서 만들어 졌기 때문이다.

 

지배라는 단어는 지나치게 무서운 말이지만 문제를 좀 명확히 하기 위해 나는 지배라는 말을 썼다. 왜냐면 같은 논리로 말하자면 위에서 말한 인터렉티브 AI는 회사가 혹은 컴퓨터가 나를 포함하는 소비자를 지배하게 만드는 AI이기 때문이다. 여기서는 소비자의 데이터를 가지고 AI를 만들어서 회사나 컴퓨터가 소비자와 소통하는 일을 쉽게 하고 있기 때문이다. 누구의 데이터로 AI를 만드는 가하는 것이 이렇게 중요하다.

 

이 점은 반대의 상황을 상상해 보면 더 분명해 질 것이다. 우리는 반대로 회사들의 정보를 기반으로 AI를 만들 수 있다. 그렇게 해서 소비자가 회사와 소통하면 그 AI는 소비자가 회사들을 지배하는 것을 돕는다. 즉 회사가 복잡한 계약서나 복잡한 유통으로 소비자를 속이려고 해도 우리가 그 AI를 사용해서 회사들과 소통하면 회사들을 쉽게 다룰 수 있다는 말이다. 이것은 알파고 같은 바둑 AI를 쓰면 우리의 바둑 실력이 프로 바둑 기사보다 강해지는 것과 같다.

 

다시 말하지만 AI는 그냥 똑똑한게 아니다. 항상 가치 중립적인게 아니다. 우리는 우리가 어떤 문제를 AI를 써서 푸는지, 누구의 데이터를 써서 AI를 만들려고 하는지에 주목해야 한다. 사실 기업들이 자신들의 데이터는 대중에게 나가지 못하게 하면서 대중의 데이터를 잔뜩 수집해서 AI를 만드는 지금의 흐름은 그래서 위험하다. 그들은 기업의 문제해결능력 즉 기업의 지능은 향상시키면서 반대로 시민들을 무력화시키는 길로 가고 있기 때문이다. 국가 공동체는 시민을 대표하는 것이므로 이 점을 생각하면서 시민들을 보호해야 한다. 그렇지 않고 그냥 AI가 발달하면 좋다고 하면서 세금써서 아무 AI나 발달시키면 세금으로 시민을 노예로 만드는 일에 도움을 주는 일이 된다.

 

언론을 자주 타는 발명품이 있다. 바로 휴머노이드 로봇이다. 비록 아직 인간 비서처럼 집에서 일을 시킬 정도는 아니지만 AI의 발달과 함께 확실히 휴머노이드 로봇의 성능은 좋아졌다. 하지만 여기서도 우리는 소통과 지능의 향상이란 것을 생각해 봐야 한다. 여기서 AI는 누구의 지능을 늘리고 있는가? AI는 여기서 누가 누구와 소통하게 하는가? 휴머노이드 로봇에서 AI는 기계의 지능을 늘리고 있다. 기계가 인간을 포함하는 주변 환경과 소통하는 일을 잘 하도록 돕고 있기 때문이다. 공장에서 휴머노이드 로봇을 월급을 주지 않고 일을 시킬 공장주는 그런 로봇을 좋아할지 모르지만 개인들에게 휴머노이드 로봇은 별로 그다지 좋은 뉴스가 아니다. 그리고 사실 환경이라는 것이 가정집이나 일반 오피스의 경우에는 너무 다양하기 때문에 공장같은 제한된 환경이 아니라 일반 가정에서 휴머노이드 로봇을 쓸모있게 쓰는 날은 쉽게 오지 않을 것이다. 교통법이 작동하는 도로에서도 자율운전이 완성되지 못해서 쩔쩔매고 있는 것을 보라.

 

중요한 것은 우리는 개인으로서 개인들의 지능을 향상시키고 개인이 사회를 포함하는 주변 환경과 소통하는 것을 돕는 AI를 발전시켜야 한다는 것이다. 기계의 지능을 향상시키고, 회사의 지능을 향상시키는 것은 상대적으로 개인들을 멍청이로 만드는 일이다. 이게 왜 그렇게 좋은 일일까?

 

이제까지의 이야기를 따라온 사람이라면 이 글이 결코 AI는 위험하니 쓰지 말자고 하는 글이 아니라는 것을 알 것이다. AI 기술을 쓰는 것은 선택의 문제가 아니다. 필수적이다. AI를 쓰는 것은 기본적으로 AI가 아니더라도 지금 우리가 살고 있는 인간 사회가 점점 더 복잡하고 빠르게 변하는 곳이 되어가고 있기 때문이다. 이때문에 소통의 문제가 생긴다. 개인과 사회가 소통해야 문명이 유지가 될텐데 세상이 너무 복잡해지면 이 소통이 점점 더 어려워진다. 그러니까 오히려 우리는 AI 기술을 적극적으로 사용해서 사회의 데이터를 모아다가 AI를 만들고 개개인들이 사회와 소통하는 일을 도와야 하는 것이다. 예를 들어 법률 시스템에 대한 데이터로 AI를 만들어서 법을 몰라서 억울한 개인이 나오지 않도록 다시 말해 개인이 법률시스템을 지배할 수 있도록 해야 한다. 그렇게 하지 않을 때 인간들은 모두 도시속의 원시인처럼 변해갈 것이다. 이미 그렇게 된게 아니라면 말이다.

 

그런데 그 AI 기술을 거꾸로 쓰면 국가나 회사가 개인의 데이터를 사용해서 AI를 만든다. 그렇게 되면 개인의 입장에서는 국가나 회사가 한없이 복잡해서 감당할 수 없는 존재가 되고 국가나 회사는 개인들을 쉽게 다룰 수 있게 된다. 그래서 AI의 발전이란 결코 큰 회사가 혼자 이룩하는게 아니다. AI가 소통에 관련된 점이라는 것을 기억하면서 그런 도구에는 전화기가 있다는 점을 기억해 보자. 전화기가 쓸모 있으려면 시민들과 시민들이 전화를 걸어야 한다. 정보가 더 빨리 시민들 사이로 흘러야 한다. 정부만 전화기를 쓰면 독재의 도구가 될 것이다. 정보가 힘이기 때문이다. 서울의 봄같은 쿠데타 영화를 보면 쿠데타를 하기 위해 보안전화부터 마비시키는 이유는 이때문이다.

 

진정한 AI 사회가 오려면 대중이 AI를 이해하는 일이 필요하고 대중 문화의 변화가 필요하다. 큰 회사들이나 똑똑한 엔지니어가 똑똑한 AI를 만들면 저절로 그게 모두에게 이로운 것이 아니다. 그런 식으로는 오히려 인류에게 해로울 가능성이 크다. 앞에서 말했지만 기업들은 자신의 데이터를 감추면서 개인들의 데이터를 마구 수집하는 형태로 AI를 만들고 있기 때문이다. 그들은 데이터가 돈이라는 것을 이미 알고 있기 때문이다.