AI가 이해하기 어려운 이유

세상에는 AI에 대한 책이 많다 그리고 많은 사람들이 AI가 무엇인지를 설명하고 있다. 하지만 왜 AI는 이해하기 어려울까? 그것은 AI가 새로운 것이며 따라서 개념적인 혼동이 많이 존재하는 분야이기 때문이다. 사람들은 흔히 우리가 이해하려고 하는 대상을 자신이 익숙한 것을 통해서 이해하려고 한다. AI와 관련해서 말해지는 이 익숙한 대상이란 대개 인간과 기계인데 그래서 우리는 AI를 어떤 때는 마치 성장하는 아이처럼 묘사하며 어떤 때는 우리가 가진 기계중의 하나를 설명하는 것처럼 설명한다. 말하자면 우리는 AI란 무엇인가라는 질문을 자동차란 무엇인가라는 질문처럼 던지고 답하는 일이 많은 것이다. 그런데 바로 이것이 왜 AI가 이해하기 어려운가 하는 가장 흔한 이유다. 그렇게 질문하고 답할 때 그 답은 AI에 대한 핵심을 빼먹기 때문이다. 

 

자동차란 무엇인가라는 질문으로 돌아가 보자. 우리는 이 질문에 대해 흔히 두가지 방식으로 답한다. 하나는 자동차의 기능이 무엇인가 하는 것이다. 이에 따르면 자동차는 물건과 사람을 옮겨줄 수 있는 기계다. 또 하나의 방식은 자동차의 제작 방법에 대한 것이다. 이에 따르면 자동차는 엔진과 구동축, 바퀴와 차체들로 이뤄져서 조립될 수 있다. 힘은 연료를 소비하면서 엔진에서 만들어 지는 것이며 이 힘이 바퀴로 전달되면 자동차는 앞으로 가게 된다. 

 

우리가 자동차에 대한 이런 설명을 생각하면서 AI를 생각해 보면 세상에 나와 있는 AI에 대한 설명들도 대개 이런 형식을 따른다는 것을 알게 된다. 먼저 기능에 대해서 생각해 보자. 사람들은 흔히 AI가 뭘 할 수있는가를 설명한다. AI는 게임도 할 수 있고, 운전도 할 수 있다. 음악을 작곡하고 그림을 그릴 수도 있다. 로봇을 조정할 수 있고, 주가예측이나 일기예보도 할 수 있다. 그런데 이런 예들을 나열하다보면 우리의 답은 이렇게 된다. AI는 사실 모든 걸 할 수 있다. 그렇게 할 때 우리에게는 공포감이 몰려온다. AI는 전지전능하다는 말인가? 인간보다도 더 뛰어난 AI가 나올거라는 말인가? 그러면 어떤 사람들은 말한다. 사실 AI는 창의적이지 않다. 따라서 인간은 창의성을 가져야 한다. 그러나 최근의 AI는 AI가 창의성을 가지지 않는다는 말도 의심하게만든다. AI는 작곡도 하고 글도 쓴다. 많은 사람들은 그보다 못하다. 이런걸 보면 결국 AI는 모든 면에서 인간보다 뛰어나다는 것처럼 들리게 된다. 

 

그런데 여기서 우리는 한가지 잘못을 범하고 있다. 우리는 사실상 AI라는 말을 두 가지 의미로 동시에 사용하고 있는 것이다. 이 잘못은 과학과 상대성이론이나 중력법칙같은 구체적 과학이론을 구분하지 못하는 것과 같은 것이다. 상대성이론은 뭘 할 수 있는가라는 질문은 과학적이고 구체적인 답을 가진다. 마찬가지로 자율운전 AI가 뭘 할 수 있는가라는 질문도 구체적인 답을 가진다. 물론 그 답은 운전을 할 수 있다는 것이다. 하지만 과학은 뭘 할 수 있는가라는 질문은 전혀 다른 질문이다. 그 질문은 과학이 어떤 가능성을 가지고 있는가에 대한 질문이 된다. 그리고 이 질문의 답은 과학적 연구 방법의 강력함 때문에 대개 '모든 것'이 된다. 과학은 무한한 가능성을 가지고 있다. 따라서 언제가 될지는 정확히 모르지만 과학이 해낼 수 없는 것은 없을 것이다라는 주장은 증명하기는 어려워도 상당히 그럴듯하게 들린다. 사실 과학이 뭘 할 수 없는지를 정확히 증명하는 일도 불가능하다. 

 

AI와 AI를 만드는 방법론을 구분하지 않고 우리가 AI는 뭘 할 수 있는가라고 질문을 하면 그 답도 비슷하게 나온다. AI 분야는 빠르게 발전하고 있고, AI의 가능성은 무한해 보인다. 따라서 이런 식으로 AI는 뭘 할 수 있는가라고 질문을 하면 그 답도 모든 것이 되는 것이다. 우리는 먼저 과학과 구체적인 과학이론을 구분하듯이 AI와 AI를 만드는 방법론을 구분할 필요가 있다. 이때문에 나는 AI 패러다임이라는 말을 써서 이걸 구분하고 있다. AI는 AI 패러다임과 다르다. AI는 AI 패러다임의 결과물이며 AI 패러다임은 무한한 가능성을 가지지만 각각의 AI는 구체적 기능을 가진다. 우리는 AI 패러다임의 가능성을 구체적인 AI의 가능성과 혼동해서는 안된다. 

 

우리는 여기서 한가지를 주목할 필요가 있다. 그것은 상대성이론이란 무엇인가라는 질문은 과학적 질문이지만 과학이란 무엇인가라는 질문은 과학적 질문이 아니라는 것이다. 과학이란 무엇인가라는 질문은 과학의 영역을 넘어선 철학적 질문이다. 우리는 과학과 과학이 아닌 것을 비교하면서 과학의 한계와 특징에 대해서 생각해 봐야 한다. 그런데 그럼 AI란 무엇인가라던가 AI는 뭘 할 수 있는가라는 질문은 어떤 것일까? 이것은 공학적 질문일까? 철학적 질문일까? 우리는 이런 질문도 AI와 AI 패러다임을 구분하지않으면서 던지고 있다. 

 

우리가 AI는 뭘 할 수 있고, 뭘 할 수 없는가라고 물을 때 우리가 말하고 있는 것은 실은 AI 패러다임이다. 그리고 구체적으로 지금 세상에 존재하는 AI들이 뭘 하고 있는가를 아무리 많이 늘어놓아도 그것만으로 우리가 AI 패러다임을 이해하게 되지는 않는다. 그건 한국에서 평생살았던 사람도 외국에 대해 아무 것도 모르면 한국이 어떤 나라인지를 설명할 수 없는 것과 같다. 우리가 AI에 대한 길고 자세한 설명을 들었다고 하자. 우리는 그 끝에 가서 우리에게 질문을 한다. 그래서 AI가 뭘까? 세부적인 사항은 중요하지 않고 그냥 모든 것을 할 수 있는 괴물같은 기계가 AI라는 생각이 든다. 이건 실은 우리가 AI 패러다임에 대한 진짜 설명을 하나도 듣지 않았기 때문이다. 그 길고 자세한 설명은 핵심을 빼먹고 있는 것이다. 그 핵심이란 AI에 대한 것이 아니라 AI 패러다임과 다른 패러다임을 비교하는 것이다. 그리고 그럴 때 우리는 아 AI 란 이런거구나 하고 이해할 수 있는 것이다. 그런데 우리가 이런 부분을 설명듣는 일은 거의 없다. 그러므로 AI의 이해는 어려워지는 것이다. 

 

AI의 기능에 대한 이야기는 이쯤하고 여기서 AI의 제작방법에 대한 이야기로 넘어가 보자. AI의 제작방법을 자동차의 제작방법을 설명하는 것처럼 설명하는 것은 어떤 문제가 있을까? AI에 대한 제작방법에대한 설명은 대개 수학적이다. 우리는 인공신경망이나 딥러닝이나 트랜스포머 네트웍이나 강화학습같은 말들을 듣게 되는데 대부분의 사람들은 자연히 이런 걸 이해할 수 없다. 그냥 아 복잡한게 있구나 할 뿐이다. 하지만 이런 복잡한 설명속에서 우리는 아주 중요한 것을 놓쳐서는 안된다. 그건 문제와 목적이 있을 때 답이 있다는 것이다. 

 

자동차를 만드는 목적은 어떻게 생각하면 아주 단순하다. 자동차가 달리도록 하는 것이다. 우리가 자동차의 제작방법을 이해하는 이유는 우리가 이렇게 자동차의 목적을 구체적으로 이해하고 있기 때문이다. 그런데 AI의 목적은 그렇게 단순하지 않다. 우리는 AI의 목적을 지능적인 행동이라던가 인간적인 행동이라고 할 수는 없다. 우리는 사실 지능도 인간도 모르기 때문이다. AI는 자주 인간과 비교되지만 AI는 인간을 만드는 일이 될 수 없다. 왜냐면 우리는 인간에 대한 정확한 정의를 가지고 있지 않기 때문이다. 

 

AI와 AI 패러다임을 혼동하면서 생기는 문제중의 하나는 AI란 공학적 발명품이며 따라서 아주 구체적인 목적과 설정이 없이는 만들 수 없다는 사실이 잊혀진다는 것이다. 실질적으로 세상에는 이미 AI라고 불리우는 것들이 있다. 공학자들은 그걸 어떻게 만들고 있을까? 그들은 아주 구체적인 부분이 정의되어져 있는 문제를 풀고 있다. 그들은 지능적인 기계를 만들고 있다기 보다는 특정한 문제를 해결해 주는 AI를 만들고 있는 것이다.

 

이렇게 볼 때 AI 패러다임이란 문제를 해결하는 접근법이라고 말할 수 있다. 그것도 새롭게 등장한 방법이다. 앞에서 AI란 무엇인가는 AI 패러다임과 AI 패러다임이 아닌 것을 비교해서 대답해져야 한다고 말했는데 좀 더 구체적으로 말하면 이것은 AI 패러다임과 AI 패러다임 이전의 문제 해결 패러다임을 비교하는 것을 말하게 된다. 왜냐면 인류는 AI없이도 여러 문제를 해결해 왔기 때문이다. 바로 문자로 기록된 지식이나 과학법칙으로 증명된 지식같은 것을 통해서 말이다. 

 

나는 이런 비교에 대해서는 이미 여러번 설명한 바 있으므로 이 이후의 내용에 대해서는 더이상 언급하지 않을 것이다. AI의 패러다임이 강력한 힘을 가지거나 한계를 가지는 것은 모두 AI 패러다임이 가지는 구체적 특징에 달린 것이다. 그런데 개념적으로 혼동하고, 애매하게 AI에 대해서 설명을 들으면 우리는 그것을 정말 이해할 수 없다. 우리는 결국 AI에 대한 주술적인 공포에나 빠질 뿐이다.