인공지능이 아직 잘하지 못하는 것

지난 몇년간 AI의 발달은 눈부셨다. 이미 어떤 일들은 인간을 넘어섰다. 최근에 나온 예를 들어 보자면 구글의 나노바나나같은 이미지 편집 기술을 보면 인간이 그림을 편집하고 그리는 능력과는 비교가 안되는 속도와 정교함을 이미 보여주고 있다.

 

하지만 AI가 진짜로 쓸모가 있어지기 위해서는 AI가 아직 잘 하지 못하는 것을 해내는 것이 필요하다. 어쩌면 AI는 이 한계를 상당히 오랫동안 넘어서지 못할지도 모른다. 그래서 이것은 인간의 영역으로 상당기간 남을지도 모른다. AI가 잘 풀지 못하는 이 문제는 바로 새로운 환경에 작은 량의 데이터에 기반해서 적응하는 문제다.

 

아직 AI 학습은 그 속도가 아주 빠를 수는 있어도 대량의 데이터를 요구한다. 예를 들어 알파제로같은 프로그램은 새로운 보드게임이 있으면 그 게임의 규칙으로부터 시작해서 인간을 훨씬 뛰어넘는 실력을 빠르게 얻을 수 있다. 인간은 게임을 배우고 반나절만에 세계 최고수가 되지는 못한다. 하지만 이것은 내부적으로는 엄청난 수의 게임을 플레이하기 때문에 나오는 결과다. 단지 컴퓨터가 엄청나게 빨라서 그게 시간이 걸리지 않을 뿐이지 뛰어난 실력에 도달할 때까지 인간이라면 지구의 탄생때부터 지금까지 그 게임만 했어도 부족할 정도의 경험을 쌓는다.

 

그런데 인간의 진화는 이런게 아니었다. 적어도 완벽하게 그렇지는 않다. 예를 들어 먹으면 독이 되는지 안되는지를 확인하기 위해서 모든 걸 다 먹어보는 동물이 있다면 그런 동물은 멸종했을 것이다. 위험한 절벽위의 길을 안전하게 걷는 방법을 찾아내기 위해서 수억번의 시도끝에 그걸 해내는 동물이 있다면 그 동물은 멸종했을 것이다. 우리는 그저 몇번의 경험에 기반하여 즉 작은 양의 데이터에 기반하여 상당한 성과를 보일 필요가 있다. 이런 문맥에서 말하자면 지금의 AI는 환경적 변화에 적응하는 능력이 인간보다 훨씬 못하다.

 

AI가 가진 이런 한계를 다르게 조명하는 방법은 요즘 많이 나오고 잇는 컨텍스트 엔지니어링이라는 단어를 통해서다. 지금도 많은 사람들이 모든 경우에 있어서 지능적인 행동을 보여주는 기계를 말하는 AGI라는 개념에 집착하고 있지만 현실은 그와 반대로 흘러가고 있다. 이젠 엄청난 돈을 들여서 더 크게 모델을 만들어도 성능이 급격하게 좋아지지 않는다. 그래서 LLM들의 성능이 상향 평준화를 보이고 있다. 더 데이터도 없고 더 강력한 컴퓨터를 써도 그 결과가 급격하게 좋아지지 않는다. 그래서 중요해지는 것이 이런 보편성이 아니라 특수한 문맥을 강조하는 컨텍스트 엔지니어링이다.

 

컨텍스트 엔지니어링이 인기가 있어진 이유는 AI에게 어떤 문맥에서 어떤 환경에서 답을 찾아야 하는지를 알려주는 가에 따라 그 AI로부터의 답이 얼마나 지능적으로 보일까가 영향을 받기 때문이다. 사실 지능이라는 말은 보편적으로 정의될 수 없다. 우리는 항상 어떤 환경, 문맥, 문제에 있어서 더 좋은 결과를 뽑아내는 행동이나 선택을 말할 수 있는데 이때 지능적이라는 말이 의미를 가지게 된다.

 

예를 들어보자. 부산에서 서울가는데 차를 타지 않고 걸어가는 것은 어리석은 판단이다. 하지만 차가 있다고 계속 걷지 않으면 건강에 나쁘다. 그러니까 걷는것과 차를 타는 것중에 차를 타는 것이 언제나 지능적인 선택일 수는 없다. 이렇게 같은 선택이 지능적인가 아닌가는 문맥에 달린 것이다.

 

그래서 우리는 좋은 즉 지능적인 결과를 얻기 위해서는 우리가 당면하고 있는 문제나 환경이나 문맥에 맞는 AI를 사용해야 할 필요가 있다. 컨텍스트 엔지니어링이란 이 방향으로 나아가는 시작점이다. 궁극적으로는 각각의 환경이나 문제에 맞는 AI를 그 환경에 대한 데이터를 기반으로 학습시켜서 만들어야 할 것이다.

 

인간은 결혼식장에 있을 때와 장례식장에 있을 때 행동방식이 달라야 한다는 것을 즉각 느끼고 행동을 수정할 수 있다. 한번도 장기를 둬본 적이 없어도 규칙을 배우고 남들이 두는 것을 몇번 구경하거나 머릿속에서 시뮬레이션 게임을 몇번 돌리는 것 정도로도 어느 정도는 장기를 둔다. 지금의 AI는 인간보다 더 빠르게 장기를 둘 수는 있어도 장기를 겨우 몇판 둬보는 것정도로는 제대로 장기를 두기 어렵다.

 

우리는 단일한 하나의 절대적 세계안에서 지능을 가진 초지능 AI를 추구하는게 아니라 수 없이 많은 환경과 문제와 문맥속에서 지능적으로 행동하는 AI를 빠르게 많이 만들어야 한다. 예를 들어 컴퓨터 하드웨어와 사용자를 연결해 주는 것이 코딩을 하는 AI다. 코딩을 하는 AI는 인간 사용자와 컴퓨터 하드웨어라는 환경을 연결해주고, 그 환경속에서 찾아낸 질서고 법칙이다.

 

환경과 문맥의 숫자 만큼이나 있을 수 있는 지능적이고 유용한 AI들은 많다. 자동차와 인간을 연결하는 것이 자율주행 AI이고 도로 데이터와 인간을 연결하는 것이 네비다. 이런 많은 AI들은 어떻게 사용되어져야 하는 것일까? 우리는 그것을 인간의 언어나 문자 사용에서 배울 수 있다. 우리는 단어들을 이어서 문장을 만들고 문장을 이어서 작품을 쓴다. 그 작품은 예술작품일 때도 있고 기계의 설계도 일 때도 있을 것이다. 인간의 언어는 이런 구조로 인간이 문명을 만들 수 있게 도왔다.

 

각각의 환경에 대응하는 AI들을 하나의 단어처럼 생각하고 그런 AI들이 연결되어 존재하는 시스템을 하나의 예술작품이나 설계도처럼 생각하면 어떨까? 그런 시스템은 현대 문명이 도달할 수 있는 것보다 훨씬 더 큰 능력을 가질 수 있을 것이다. 인간의 언어에서 하나의 단어가 가지는 뜻은 인간이 직접 만들지만 각각의 특수한 AI를 단어처럼 여기며 만들어 지는 시스템에서 각각의 AI는 데이터에 기반해서 컴퓨터가 만든다.

 

그런데 이렇게 되자면 우리는 일단 단어에 해당하는 특수한 문맥에서 잘 작동하는 AI를 효율적으로 잘 만들 필요가 있다. 그리고 그렇게 하기에는 지금의 AI는 너무 많은 데이터를 요구한다. 그래서 AI가 수 없이 많은 신기한 일을 하지만 실제로는 아직 많은 기업들이 그걸 어떻게 써야하는지 모르고 있는 것이다. 특정한 상황에서 가지는 문제를 푸는 AI를 순식간에 그리고 손쉽게 만들 수 없기 때문이다. 뭐든지 해줄거라고 믿고 챗GPT에게 물어보는 식으로는 한계가 크다. 컨텍스트 엔지니어링으로 좀 더 잘해 보려고 해도 한계는 있을 것이다. 우리는 그 한계를 차츰 넘어야 한다.

 

우리는 말하자면 AGI (artificial general intelligence)에서 ASI(artificial special intelligence)의 시대로 나아가야 한다. 그 시대는 머지 않아 올 것이다. 그리고 이 방향으로 발전이 있으면 우리는 본격적으로 연결과 소통이야 말로 AI 시대의 본질이라는 것을 느낄 것이다. 수없이 존재하는 인간들과 AI들을 서로 연결해야 큰 힘이 나올 것이기 때문이다. 그러나 아직은 AI가 이걸 잘하지 못하고 있다. 부분적으로는 이것은 사람들이 아직도 AGI라는 개념에 지나치게 집착하기 때문이다. 중요한 것은 각각의 환경과 문맥이다. 그걸 잘 고려해야 인간이 지능적이라고 감탄할 결과가 나온다.