AI에 대한 잘못된 언어들

나는 벌써 몇년간 AI에 대한 책들을 쓰고 있다. 이번에 출간되는 AI책이 3번째인데 문득 그런 생각이 들었다. 이 모든 일들의 중심에는 잘못된 언어들이 있다고 말이다. 언어가 잘못되니까 사고가 잘못된다. 그래서 온갖 유령같은 생각들이 만들어 진다.

 

예를 들어 내가 인공지능이 할 수 있는 것, 할 수 없는 것에서 강조했던 것은 AI와 AI 패러다임이 서로 다른 것인데 그걸 모두 AI로 부르기 때문에 문제가 생긴다는 것이었다. AI는 구체적으로 어떤 문제를 풀기 위해 만들어진 것이고 AI 패러다임은 AI를 써서 문제를 푸는 접근법이다. 이 두가지를 혼동해서 모두 AI라고 말하면 이상한 결론이 난다.

 

AI는 뭐든지 할 수 있다는 말이 옳을까? 그렇다. 부정하기 어렵다. 그런데 알파고는 바둑 AI 이므로 AI니까 알파고는 뭐든지 할 수 있다는 말일까? 아니다. 알파고는 바둑 이외에는 아무 것도 잘 못한다. 바둑을 열심히 두다 보면 점점 똑똑해져서 인간을 이기는 그런게 아니다.

 

우리는 이 문제를 과학과 과학 패러다임이라는 다른 주제와 연결해서 보면 보다 혼동을 또렷히 알게 된다. 과학은 뭐든지 할 수 있다라고 할 때 우리가 말하는 것은 과학 패러다임이다. 우리는 어떤 문제든 과학적으로 접근해서 해결할 수 있다. 이것이 사실이 아니더라도 그렇다고 주장하는게 과학 패러다임이라고 할 수 있다. 일단 모든 문제를 과학적으로 접근하자는 것이다. 그렇지만 존재하는 어떤 과학 이론은 특수한 경우에 대한 것이다. 고전역학으로 국가 재정문제를 풀거나 애인과 싸운 문제를 풀 수는 없다.

 

이 혼동은 악마를 만들어 낸다. AI가 우리 주변에서 점점 늘어가는데 잘모르는 AI는 뭐든지 할 수 있다니까 공포가 생긴다. 그런데 사실 우리 주변에는 이미 뭐든지 할 수 있게 꽤 있다. 과학은 이미 든 예이고 글자도 뭐든지 쓸 수 있다. 우리는 과학이나 문자는 익숙하기 때문에 그것이 뭐든지 할 수 있다는 말을 들어도 충격받지 않고 공포에 빠지지 않는다. 누군가가 인간은 문자에게 지배당하며 살고 있다라고 해도 그게 무슨 뜻인지 제대로 이해하고 공포에 빠지지 않는다. 그런데 AI가 뭐든지 할 수 있으며 인간은 AI에게 지배당하면서 살게 된다고 하면 갑자기 어떤 인격적인 AI가 등장하는 상상속에서 난리가 난다. 전부는 아니더라도 말의 구분이 엉터리이기 때문에 생기는 일이다.

 

이번에 쓴 책 하네스 AI 시대의 새로운 몸도 한가지 언어적 혼동과 관련이 있다. 그건 AI가 뭐냐는 것이다. 사람들은 AI를 순수한 의미의 AI 모델에 하네스라는 것이 더해진 것이라고 여겨질 않는다. 그냥 AI는 AI다. 그런데 이 차이가 다시 환상을 만들어 낸다.

 

AI는 데이터로 만들어 낸다. 바둑 데이터로 만들면 바둑 AI가 되는 것이고, 인간의 언어 데이터로 만들면 말하는 AI가 되는 것이다. 그런데 바둑은 인간의 언어데이터보다 규모가 작은 특수한 사례라고 할 수 있다. 그래서 우리는 가능한 모든 데이터로 만드는 보다 보편적인 AI가 있는가 하면 아주 특수한 목적으로 제한된 데이터로 만드는 특수화된 AI가 있다는 것을 안다.

 

요즘 사람들이 말하는 AI는 보편적 AI다. 사실 업계에서는 아예 대놓고 AGI를 만들겠다고 한다. 그야말로 가장 보편적으로 모든 문제를 푸는 AI를 만들겠다는 것이다. 그런데 이렇게 되면 될 수록 사람들이 주목하지 않는 하네스라는 부분이 중요해지게 된다.

 

이런걸 생각해 보라. 뉴턴의 운동법칙은 쓰면 몇줄 되지도 않는다. 그런데 그것이 이 세상에 존재하는 무한히 많은 움직임들을 다 설명해낸다. 그렇다면 뉴턴의 법칙만 아는 사람이 그렇다는 것일까? 아니다. 뉴턴의 법칙이 진자의 운동을 설명하려면 진자의 운동이라는 특수한 사례에 적용되어야 한다. 그 적용이 당연한게 아니라서 수학자나 물리학자가 문제를 푸는 것이다. 즉 보편적 법칙이 있어도 특수한 사례를 이해하려면 그 사례에 적용하는 것이 필요하고 그것이 아주 당연한게 아니라는 것이다. 보편적 법칙을 발견하는 것은 대단한 것이지만 그것만으로는 뭐가 되지 않는다.

 

보편적 AI 모델과 하네스의 관계가 이렇다. 보편적 AI 모델은 어쩌면 모든 문제의 답을 알고 있을지도 모른다. 편의상 그렇다고 하자. 그렇다고 해도 그 AI 모델에서 우리가 원하는 지금 이순간 우리가 풀고 싶은 문제를 풀기 위한 답을 나오게 하기 위해서는 우리는 그냥 간단하게 문제를 말할 수 없다. 왜냐면 하나의 문제는 사실상 끝없이 펼쳐지는 문맥속에서 정의되는 것이기 때문이다.

 

문맥의 문제는 그래서 AI가 발달한 이래 계속 지적되었다. 고무밴드가 부족함이 없어지도록 하라고 AI에게 주문했더니 고무밴드를 쓰는 인류를 멸종시키면 고무밴드가 부족할 일이 없어진다라고 판단할 수 있다는 식의 지적들이 그것이다. 즉 우리는 AI에게 인간적 상식을 가지고 말을 하지만 그 말이 꼭 우리가 원하는데로 해석되는게 아니라는 것이다.

 

하네스를 설계하는 것은 그래서 물리학 법칙을 수학공식으로 풀어내서 특수한 문제의 답을 내는 것과 같다. 문자는 뭐든지 쓸 수 있지만 그것과 노벨상을 받은 문학작품이 같은 거라고 생각하는 사람은 없을 것이다. 문자를 사용해서 자신의 생각을 써낼 수 있는 사람이 문학작품을 쓰는 것이다. 이렇게 생각하면 뭐든지 알고 있다는 슈퍼 AI가 좀 시시할지 모른다. 하지만 이게 현실이다. 하네스 없이는 가장 뛰어난 AI도 그렇게 대단하지 않다.

 

그런데 여기서 한가지 지적해 둘 필요가 있다. 보편적 AI를 특수 조건으로 둘러싼 것이 하네스라고 하면 특수목적의 AI는 하네스를 삼킨 AI라고할 수 있다. 그러니까 우리는 바둑 AI를 모든 걸 알고 있는 전지전능한 보편적 AI를 바둑 하네스로 둘러싼 형태라고 할 수 있다는 것이다. 이렇게 하네스를 보편적 AI가 삼키면 그 AI는 특수목적 AI가 되면서 그 특수목적에서는 오히려 더 강해진다. 하지만 그 댓가는 그 목적이 아니면 오히려 약해진다는 것이다. 왜냐면 삼켜진 하네스가 상황에 상관없이 작동하기 때문이다.

 

최근 AI의 성능이 좋아지는 것은 상당부분 AI 모델이 좋아지는 것이 아니라 하네스가 좋아지거나 하네스를 AI 모델이 삼켰기 때문이다. 상업회사는 몇십만줄의 하네스를 짜서 그들이 만든 AI 모델을 둘러싸고, 아예 학습할 때부터 컴퓨터 사용법같은 특수한 데이터를 학습시킨다. AI 모델은 데이터로 만드는 것이다. 그런데 사실 인류가 만든 데이터는 이제 더이상 없다. 오히려 같이 들어간 쓰레기같은 데이터를 골라내야 성능이 좋아진다고 한다. 데이터를 더하는게 아니라 데이터를 학습데이터에서 빼야할 판이다.

 

정리하자면 AI는 AI 모델과 하네스의 합이다. AI 모델은 자연법칙과 같은 것이고 그건 인간이 이해할 수 없는 것이다. 하지만 하네스는 다르다. 하네스는 인간이 만들어야 한다. 왜냐면 그건 문제쪽이기 때문이다. 뭐든지 사줄 수 있는 아빠도 사고 싶은게 없다는 딸에게 뭘 해줘야 할지를 모른다. 하네스는 풀고 싶은 문제가 있어서 특수한 목적을 세운 존재가 만드는 것이다. AI가 스스로 하네스를 만든다고 말하는 사람들도 있지만 그건 착각이다. 왜냐면 물론 AI는 하네스 만들기를 돕지만 궁극에 가면 결국 이러저러한 것을 하고 싶다. 이게 좋다라는 가치판단이 있어야 한다. 그 선택과 판단이 하네스의 핵심이다. 아무 가치판단도 없는데 하네스가 만들어 지지는 않는다. AI가 스스로 하네스를 만든다고 말하는 사람은 그런 가치판단이 당연한거라고 생각하고 있는 것이다.

 

AI에 있어서 모델과 하네스를 구분하지 않는 용어적 혼동이 만들어 내는 결과중 하나는 미래에는 인간이 할 일이 없다는 것이다. 그런데 뉴턴이 고전역학을 발표한 이래 이 세상에는 과학자의 수가 말도 안되게 늘었다. 물리법칙이 이미 발견되었는데 과학자의 수가 왜 늘까? 문자가 뭔지 알면 도서관 가득한 책이 저절로 하늘에서 떨어지나? 하네스는 인간이 만드는 것이고, AI가 발달함에 따라 점점 더 많이 만들어야 할 필요가 있다. AI 시대에는 인간이 할 일이 없어서 놀거라는 생각은 큰 착각이다. 전근대의 농부는 일하는 기계를 보면서 그런 상상을 했겟지만 근대의 인간들은 사무실에서 하루종일 일할 뿐 아니라 엄청나게 긴 시간동안 공부를 하게 되었다. AI 시대도 마찬가지일 것이다. 사람들이 생각하는 미래와는 완전히 반대다.

 

우리가 피해야 할 것은 과로다. 이 점을 지금 AI를 써서 개발하는 사람들은 실제로 느낀다. AI가 코딩을 대신해 주면 개발자들이 놀까? 기대치가 훨씬 더 올라갈 뿐이다. 인간이 할 일없는 세상은 오지 않는다.