AI는 왜 기계가 아닌가?

23.9.25

안녕하세요. 오늘의 질문 강국진입니다. AI가 무엇일까요? 이런 질문의 답이 무엇이든 간에 우리는 AI를 하나의 새로운 기계로 여기는 관점에 익숙합니다. 그래서 어떤 사람들은 AI가 인간같을 수 없는 이유를 기계는 정해진 규칙대로만 움직이니까 인간과는 다르기 때문이라고 말합니다. 

 

하지만 AI는 기계가 아닙니다. 이 말에는 오해의 소지가 있지만 AI를 기계라고 말하는 것은 더 큰 오해의 소지가 있습니다. 그래서 오늘은 AI는 왜 기계가 아닌가라는 주제로 이야기를 좀 해보겠습니다. 

 

우리는 먼저 기계가 뭔지를 생각해 볼 필요가 있습니다. 기계는 작은 부분들을 모아서 쌓아올린 건축물 같은 겁니다. 이 환원주의적 원리는 기계를 이해하는데 있어서 아주 중요합니다. 왜냐면 그것없이는 사실 복잡한 기계를 만들 수 없기 때문입니다.

 

아주 복잡한 기계를 만들자면 우리는 작은 부분을 먼저 만들고 그 부분을 모아서 더 큰 기계를 만드는 수밖에 없는 겁니다. 그러니까 모래가 모여서 벽돌이 되고 벽돌이 모여서 벽이 되고 벽이 모여서 집이 되듯이 기계는 작은 부분들이 모여서 더 큰 단위가 되고 그 단위를 다시 모아서 더 큰 단위를 만들어 내는 방식으로 만들어 집니다. 

 

이같은 특징은 복잡한 수학공식을 증명할 때 우리가 아는 더 간단한 수학공식을 쓰는 일에서도 반복되어 집니다. 우리는 구구단같은 공식을 모아서 미적분 공식같은 것을 증명하는 것이죠. 즉 기계는 수학공식의 구조를 그대로 가지고 있는 겁니다. 

 

복잡한 기계는 이렇게 만들 수 밖에 없습니다. 간단한 도구는 우연히 만들어 질 수도 있겠지만 깡통속에 부품을 넣고 아무리 오래 흔들어도 그 안에서 컴퓨터가 만들어지는 일은 없습니다. 

 

자동차는 수만개의 부품을 가지고 있는데 그 부품중의 하나만 잘못되어도 자동차는 움직이지 않을 수 있습니다. 자동차같은 복잡한 기계가 움직이는 이유는 기본적으로 우리가 앞에서 말한 환원주의적 원리를 충실히 따르고 있기 때문입니다. 수많은 부품으로 이뤄진 정밀 기계를 대충 만들면 절대 움직이지 않습니다. 

 

그래서 기계의 핵심에는 이렇게 환원주의적 원리가 있다는 것을 우리는 기억할 필요가 있습니다. 

 

자 그럼 이제 AI에 대해서 말해 봅시다. AI에 대해서 우리가 기억해야 하는 가장 첫번째의 사실은 AI의 핵심은 데이터라는 것입니다. 어떤 학습 알고리즘을 쓰던, 어떤 대단한 컴퓨터를 쓰던, AI를 만드는 목표는 데이터에 없는 어떤 것을 찾는게 아닙니다. 그러니까 아무리 대단한 컴퓨터가 있어도 데이터가 없으면 AI는 우리가 지능적이라고 부를만한 행동을 할 수가 없습니다. 

 

그래서 AI의 한계는 주로 이 데이터에서 나옵니다. AI가 전지전능하다고 쉽게 믿는 사람들은 이 데이터가 쉽게 무한히 존재한다고 생각하는 겁니다. 하지만 이건 그렇지 않습니다. 이에 대한 이야기는 다음에 기회가 되면 또 하겠습니다. 

 

AI에 대해서 우리가 주목해야 하는 두번째 사실은 AI는 인간이 이해할 수 없는 지식이라는 점입니다. 세상에서 가장 유명한 AI 중의 하나는 프로 바둑 기사인 이세돌을 바둑으로 이긴 바둑 AI 알파고입니다. 그리고 알파고가 어떻게 이세돌을 이기는지는 AI를 제작한 사람도 알지 못합니다. 

 

알파고도 그 자체가 하나의 지식이라는 점은 분명합니다. 즉 어떤 모델을 쓰고 그 변수값들을 어떻게 정하는지를 알면 우리는 알파고를 만들 수 있습니다. 그리고 우리는 그 알파고를 써서 바둑 문제를 해결할 수 있습니다. 그러니까 알파고도 우리가 하드 디스크에 저장할 수도 있고 주고 받을 수도 있는 하나의 지식인 것입니다. 

 

다만 이 지식은 자동차 설계도와는 다른 점이 있습니다. 인간이 그걸 이해할 수 없다는 겁니다. 인간이 알파고의 변수값들을 들여다보고 있어봐야 그걸 어떻게 바꾸면 알파고가 약간 더 바둑을 잘두거나 못두는지를 이해할 수 없습니다. 그래서 AI는 일종의 지식이지만 인간이 이해할 수 없는 지식이 되는 겁니다. 

 

정리하자면 기계는 환원주의적 원리에 의해서 만들어집니다. 그리고 인간이 이해가능한 것입니다. 그래서 자연히 인간의 한계를 가지게 됩니다. 인간이 이해불가능한 것을 인간이 만들 수는 없으니까요. 

 

그런데 AI는 컴퓨터 최적화를 통해서 대량의 데이터를 가공해서 만들어 지는 겁니다. AI를 설명하는 사람들은 학습 알고리즘 같은 것을 설명하면서 환원주의적으로 이러니 저러니 부분과 전체에 대한 설명을 늘어 놓지만 AI는 기본적으로 작은 부분들을 합쳐서 완성되는게 아닙니다. 인간이 이해할 수도 없는 겁니다. 

 

그러니까 AI도 기계니까 이러니 저러니 하고 말하는 것은 잘못된 것입니다. AI가 한계가 없는 것은 아닙니다. AI의 가장 큰 한계는 데이터 그 자체에서 나옵니다. 데이터가 존재한다는 사실이 당연한 것이 아닙니다. 거기에는 어떤 가정들이 포함되어져 있습니다. 이 이야기는 기회가 되면 다음 시간에 또 하도록 하겠습니다. 

 

하지만 AI의 한계는 기계의 한계가 아닙니다. AI는 애초에 기계가 아니기 때문입니다. 

 

오늘은 여기까지 하겠습니다. 이제까지 오늘의 질문 강국진이었습니다.