인공지능과 추상적인 말들의 위험성

요즘 연일 기사가 나는 것을 보면 사람들은 지나치게 언어를 마구 쓴다는 생각을 하게 된다. 사실 우리가 쓰는 말들은 대개 추상적이고 그래서 그것이 일상생활속에서 쓰이는 것이 가능하더라도 기술 과학 용어로 쓰일 때에는 문제가 있게 된다. 예를 들어 민주주의를 프로그램한다거나 사랑을 프로그램한다고 하자. 그러기 위해서는 이 프로그래머에게 민주주의가 뭔지, 사랑이 뭔지는 아주 구체적인 측정가능한 수치로 표현되어야 한다. 일상용어와 기술용어의 차이를 무시해 버린다면 우리는 이 과정에서 등장하는 암묵적인 가정에 속게 될 것이다. 

 

인공지능에 대한 이야기도 그렇다. 인공지능은 흔히 사람과 비교되고는 하는데 의식, 인간, 지능같은 말은 모두 다 추상적인 말이다. 우리는 물론 일상적으로 그런 단어를 쓰고 있고 쓸 수 있다. 그래서 인간이 추상적인 단어라고는 생각하지 못했을 수도 있다. 하지만 우리가 그걸 구체적으로 정의하려고 하면 인간이 뭔지, 의식이 뭔지, 지능이 뭔지를 정확히 아는 인간은 없다고 할 수 있다. 그러니까 인간같은 기계를 만들자거나 지능적인 기계를 만들자라는 말이 무의미한 것은 아니라고 하더라도 그 자체로는 사실 기술 과학 용어로 쓰일 수 없는 말들인 것이다. 이런 말들은 그런데도 불구하고 기사같은 글을 포함한 많은 곳에서 아주 자유롭게 쓰이고 있다. 나는 당당히 이제 자의식을 가진 기계가 출현하는 것은 당연한 일이 되었다같은 문장을 제목으로 걸고 나와 있는 기사도 본 적이 있다. 이런 식의 논의는 불필요한 혼돈만 만들어 낸다. 

 

이제 조금 더 구체적이 되기 위해 이런 말들 중에 하나만 골라서 조금 더 생각을 해보기로 하자. 내가 선택한 단어는 요즘에 아주 많이 쓰이는 인공일반지능이라는 말이다. AGI라는 약자로도 쓰이는 이 말은 나를 한숨짓게 한다. 앞에서 말했듯이 인공(Artificial)이라는 말은 그렇다고 치더라도 지능이라는 말도 추상적인데 거기에 일반적, 보편적이라는 뜻의 General까지 더했다. 도대체 보편적인 지능이라던가, 일반적인 지능이라는 것이 존재하기나 하는 것일까?

 

우리는 이미 일반이나 보편이라는 단어에 아주 익숙하다. 왜냐면 지금 현재 세상을 지배하는 지식들이 일반적이고 보편적이기 때문이다. 좋은 예는 과학이다. 물리법칙을 이야기하면서 우리는 이 법칙은 19세기 프랑스에서 유행하던 법칙이라고 말하지 않는다. 이 법칙은 인간에게 통하는 법칙이라고 말하지 않는다. 물리법칙은 어디서나 언제나 그리고 누구에게나 옳다고 말한다. 바이러스에서 소나무, 개나 고양이에게도 물리법칙은 같다. 너는 돌맹이니까 이 법칙의 예외라고 하지 않는다. 

 

이런 보편성의 결과 우리는 이런 보편적 지식을 말할 때 그것이 어떤 환경에서, 어떤 문맥에서, 어떤 조건에서 유효한가를 말하지 않는 경향이 있다. 왜냐면 그럴 필요가 없기 때문이다. 그리고 이런 태도는 물리법칙같이 강력한 보편성을 가진 지식이 아닌 경우에도 종종 취해 진다. 사람의 생명은 소중한 것이며 절대로 지켜져야한다는 말은 물리법칙같은 보편성을 가지는 것처럼 보이지는 않는다. 세상에는 다른 무엇보다 전쟁이 있고 사형제도도 있으며 사람의 생명을 소중히 대하는 것같지 않는 사람들의 이야기는 사방에 있다. 중력법칙을 무시하는 사람의 이야기는 들은 적이 없지만 말이다. 

 

그런데 일반적 지능이라니. 일단 AGI를 말하는 사람들의 말을 들어보면 이것은 인간의 사고기능을 모두 재현할 수 있는 기계를 말한다. 다시 말해 그들이 말하는 일반이란 인간을 말하는 것이다. 이것 자체가 큰 오해를 만들어 낸다. AI는 데이터로 만드는 것이다. 그런데 21세기의 인간 데이터로 만들어 진 AI를 가지고 일반적이라는 단어를 붙여도 될까? 그 AI가 지능적이라면 그 지능은 개나 바이러스에게도 지능적일 뿐만 아니라 23세기를 살아갈 인간에게도 지능적일까? 만약 저기 먼 우주에 지능적 생명체가 존재한다면 그 생명체에게도 이 AI가 지능적인 것이어야한다는 말인가?

 

여러분은 학교성적은 좋은데 학교바깥에서는 영 바보가 되고 마는 사람들의 이야기를 종종 들었을 것이다. 지능이란 본래 그런 것이다. 정해진 환경 속에서는 잘 적응한 사람도 그것과 전혀 다른 환경에서는 바보같은 행동을 할 수 있다. 우리가 지능을 어떤 고정된 것으로 여긴다면 그것은 우리가 암묵적으로 우리의 환경을 고정시키고 있기 때문이다. 마치 모두가 축구를 한다고 여기면서 축구를 잘하는 사람을 그냥 똑똑한 사람으로 부르는 거나 마찬가지다. 그런데 복잡하고 빠르게 변하는 현대사회에서는 이런 주장은 틀릴 때가 많다. 우리는 다른 환경에서 다른 게임을 하고, 그 게임의 법칙도 빠르게 변한다. 그러니까 고정된 관점으로 똑똑하다, 뛰어나다라고 말하는 것은 무의미하지는 않더라도 제한된 의미만 가진다. 

 

결론적으로 말해서 지능이란 일반적일 수가 없다. 지능이란 문제에 대한 답같은 것으로 환경과 문제가 주어져야 그에 대응하는 지능적인 판단이라는 것도 존재하는 것이다. 그러니까 개에게 지능적인것은 인간에게 지능적이지 않고, 21세기 인간에게 지능적인 것은 23세기 인간에게도 지능적이지 않을 수 있다. 지능을 물질처럼 객관적으로 홀로 존재하고 소유될 수 있는 것으로 여기며, 거기에 일반이라는 단어까지 붙여서 환경을 초월시키는 것은 지능을 오해하게 만들 것이다. 그리고 이런 오해는 인공지능의 위험을 더 크게 증가시킬 것이다.

 

공학자들이 말하는 AGI란 결국 조금 더 일반적인 문제를 해결하는 기계를 말한다. 즉 지금까지의 AI가 특정한 문제만을 풀었다면 그 AI는 더 일반적인 문제들을 풀 수 있다는 것이다. 좋은 예는 바둑만 잘하던 AI가 있는데 모든 보드게임을 배워서 둘 수 있는 AI를 만드는 일이다. 물론 이런 일들이 무의미한 것은 아니다. 이런 AI가 위험성이 없는 것도 아니다. 인간의 언어데이터를 학습했기에 인간처럼 행동하는 AI인 거대언어모델 LLM이 위험성을 가진 것은 사실이다.

 

그러나 그 위험성을 AI가 일반지능을 가지기 때문이고, 인간을 능가하기 때문이고, 자의식을 가지고, 사악한 의도를 가지기 때문이라고 말하는 것은 AI의 위험성을 줄이는데 아무런 도움이 안된다. 그런데 지금 각종 언론은 AI가 이미 인간의 능력을 초월했느니 뭐니 하면서 공포와 오해를 증폭시키고 있다. 적어도 그들이 자신이 무슨 말을 하는지 모르는 것은 분명하다. 그들은 인간도 지능도 추상적인 단어라는 사실을 간단히 무시하고 비약에 비약을 거듭하고 있기 때문이다. 그럼 뭘 하자는 것인가? 더 강력한 감시를 하거나 발전의 속력을 늦추면 되는 것인가? 법적인 규제나 정치적인 위원회를 믿으면 안전해 질까? 그렇지 않다. 기술의 위험성을 줄이는 방법은 기본적으로 하나 뿐이다. 그것은 그 기술을 이해하는 것이다. 이해는 없이 법적인 규제로 안전을 늘릴 수 있다는 생각은 위험을 늘릴 뿐이며 추상적인 단어를 남발하는 것은 오해만 증가시켜서 이런 이해를 오히려 막는다. 

 

인공지능에 대해 아니 지능 일반에 대해 우리가 기억해야 하는 첫번째 사실은 우리는 환경과 문제를 잊어서는 안된다는 것이다. 특정한 AI는 특정한 데이터를 가지고 특정한 문제를 해결하도록 컴퓨터로 최적화해서 만들어 지는 것이다. 그리고 그 특정한 데이터는 특정한 환경에서 만들어 진다. 예를 들어 바둑을 배우는 AI는 바둑의 규칙이 작동하는 데이터를 기반으로 학습되어지고 챗GPT같은 LLM은 인간의 텍스트 데이터를 가지고 학습되어진다. 더 많은 데이터와 더 강력한 컴퓨터가 있으면 AI를 쓰는 문제해결법이 더 많은 문제를, 더 잘 해결할 수 있는 것은 사실이지만 아무리 강력한 컴퓨터가 있어도 문제가 없는데 답은 없고 데이터에 존재하지 않는 법칙이 찾아지는 것은 아니다. 어떤 환경을, 어떤 문제를 전제하고 데이터가 수집되었는지를 잊어버리면 쓸모 있는 AI를 만들기도 어렵고 AI의 사용은 위험해 질 것이다. 세탁하는 로봇을 만들어 놓고, 거기에서 경영 철학을 물어서는 안된다는 것이다. 21세기 인간의 데이터를 모아다가 AI를 만들고 그걸 신적인 지능, 일반적인 지능운운하면서 과신하게 되면 우리는 마치 제트기 조종석에 앉은 침팬지처럼 위험해질 것이다. 침팬지의 흥분은 제트기 조종에 도움이 안되고 위험을 늘릴 것이다. 마찬가지로 자기도 무슨 뜻인지 깊이 고민하지 않고 추상적인 단어들을 나열하면서 사람들을 흥분하고 걱정하게 만드는 일은 AI를 유익하고 안전하게 사용하는 미래를 만드는데 해롭기만 할 것이다.