AGI는 그 자체가 파씨즘이다.

몇년전부터 나는 AI에 대한 강의를 할 기회가 있으면 맨 처음에 지능이란 객관적인게 아니라는 말부터 한다. 그 이유는 그때도 그렇고 지금도 그러한데 사람들은 전체주의적, 파씨즘적 메시지에 계속 노출되고 있으며 어느새 그것이 당연한 것처럼 말하고 있기 때문이다. 아주 흔한 그 한가지 형태는 이렇다.

 

AGI는 몇년안에 나올 것이다.

 

AGI 즉 인공 일반 지능이란 것이 언제 나오냐고 묻는 건 그것이 언제 나오건 그것이 가능하며 존재할 수 있다고 말하는 것이다. 그래서 위와 같은 질문의 답이 3년내이건 30년은 넘게 걸릴 것이건 위의 질문을 하는 것 자체가 문제다. 예를 들어 이런 질문을 생각해 보자.

 

모든 인간이 시공간에 상관없이 따라야 할 절대윤리는 언제 발견될까요?

 

위에서 말하는 절대윤리라는게 있다면 모든 인간은 그냥 메뉴얼처럼 그걸 따르기만 하면 된다. 자기 판단이 필요없다. 그런게 필요하다면 그건 절대윤리가 없다는 뜻이다. 그런데 절대 윤리나 AGI는 같은 말이다. 일반적이라는 단어를 지능에다가 붙이고 그것이 인간보다 일반적으로 더 지능적이라고 말하면 우리는 언제나 그 AGI의 명령에 따라야 할 것이다. 나는 대학원에 가야할까 취직을 해야할까라던가 이 여자와 결혼을 해야 할까 말아야 할까도 AGI에 물어야 할 것이다. 

 

내 말은 과장도 아니고 먼 미래에 대한 이야기도 아니다. 사실 이미 사람들은 AI에게 물어보고 그 답을 맹신하는 경우가 많아졌다. 우리가 네비에게 길을 물어보고는 정말 그 길이 최선인가를 잘 찾지 않듯이 챗GPT에게 물어보고 그냥 그런가 보다 하는 경우가 많아진 것이다. 앞으로 더 AI가 발달하면 무슨 일이 벌어질 것인가?

 

지능은 절대적인게 없다. IQ 시험에서 점수가 높아도 연애를 잘 못할 수 있고, 축구를 잘 못할 수 있다. 즉 연애 지능과 축구 지능이 떨어질 수 있는 것이다. 지능은 어떤 환경에서 어떤 문제를 풀 것인가를 말해주는 문맥을 제거하고 나면 정의되지 않는다. 지능과 윤리는 구분될 수 없다. 예를 들어 인류를 멸망시키는 것은 지능적인 행동일까 미친 짓일까? 이것은 윤리적인 질문처럼 들린다. 하지만 살인은 나쁘지만 모기를 죽이거나 바이러스를 죽이는 것은 좋다는 건 인간 입장에서의 판단일 뿐이다. 우주적인 스케일에서는 이 지구가 통째로 없어진다고 해도 큰 일이 아니다. 그런데 어떻게 인간의 입장이라는 것을 떼어 놓고 절대적인 의미의 지능이 있을 수 있겠는가?

 

지능은 객관적이지 않고 문맥과 환경에 의존적이라는 사실을 받아들이면 자연스러운 반응이 무엇일까? 우리는 당연히 그 문맥이 뭔지, 환경이 뭔지를 분명히 하려고 할 것이다. 왜냐면 그래야 올바른 혹은 지능적인 결정이 뭔지가 정의된다는 것이 분명하기 때문이다. 바둑판위에 돌을 어떻게 놓아야 하는가는 바둑이라는 게임이 분명할 때 지능적으로 판단될 수 있다. 그게 아니라 오목을 하고 있다면 그 행동은 바보짓이 될 것이다. 

 

문맥과 환경을 AI 모델에게 분명히 주는 것이 바로 AI에서 하네스라는 부분이다. 그러니까 지능을 어떻게 이해하는가가 AI를 어떻게 개발하고 발전시킬 것인가를 결정하게 된다. 지금처럼 AI 모델을 강력하게 개발하면 AGI에 도달하게 될거라는 주장은 단지 틀린 것일 뿐만 아니라 전체주의적인 것을 넘어 파씨즘 적이다. 왜냐면 그 AGI는 결국 이 세계의 어느 나라의 어느 회사가 만들 것이기 때문이다.

 

예를 들어 오픈 AI에서 이것이 AGI이며 이 AI는 모든 면에서 인간의 지능을 능가한다는 주장을 한다면 그 말은 내가 만든 기계의 명령이 다른 어떤 인간의 명령보다도 절대적이고 윤리적이니 세계의 사람들은 닥치고 나의 기계의 명령을 따르라는 말고 같아진다. 따르라고 한다고 따르겠냐고 말하는 사람이 있다면 나는 앞에서도 말했듯이 이미 사람들은 그러고 있다고 답할 것이다. 이건 일종의 군중 세뇌다. 습관적으로 특정회사의 AI를 사용하고 따를 때 그리고 그게 점점 우리의 삶속으로 깊이 얽힐 때 우리는 정말로 그 회사의 노예가 될 것이다. 너무 심한 권위를 만들어 내는 것이기 때문이다. 

 

지금의 상황은 마치 한국어라는 것을 중앙의 어떤 회사가 만들어 내기를 기다리는 것과 같다. 왜냐면 하네스가 바로 AI의 언어이고 그 언어가 AI 모델이 알아야 할 문맥을 제공하는데 그 하네스를 AI 모델과 합쳐서 언제 AGI가 나오냐는 식으로 논의하기 때문이다. 한국어는 그걸 쓰는 대중에 의해서 발달되어져야 한다. 대중을 위해서 그래야 할 뿐만 아니라 그래야 발달이 가장 빠르다. 지금처럼 AGI 운운하면서 그런 부분이 망각되면 AI의 발달은 오히려 늦어질 것이다. 

 

그럼에도 불구하고 언론과 그 언론이 인터뷰하는 많은 사람들은 AGI는 언제 나오냐는 말을 주고 받는다. 과거에도 그렇고 지금도 그렇다. 흔한 일이라서 그런가 하고 넘어갈 수 있지만 그같은 말의 위험성을 생각하면 나는 답답하다. 이건 양심의 문제다. 지금의 AI를 둘러싼 논의는 맹목적으로 흘러가고 있다. 말했듯이 그것은 AI 발전에도 나쁠 것이다.