하네스란 무엇인가?

하네스란 AI 모델에 더해서 문제를 해결하게 하는 모든 부분을 말한다. 사실 AI 모델은 입력에 대해서 출력을 낼 뿐인 단순한 기능을 가진다. 그래서 보통 우리가 말하는 AI는 AI 모델에 하네스를 더한 것이고 하네스에 무엇이 포함되어야 하는가는 빠르게 늘고 있지만 보통 프롬프트 설계, 에이전틱 루프, 메모리 시스템 그리고 에이전트 오케스트레이션 부분을 포함하는 부분들을 말한다. 2022년 11월에 챗GPT3.5가 발표된 이래 AI의 열풍이 불었지만 그간에는 사람들이 보통 AI 모델에만 신경을 써 왔다. 그래서 더 강력한 AI 모델을 내놓은 것이 곧 AI의 발전이라고 생각했다.

하지만 상황은 빠르게 변하고 있다. AI에 있어서  하네스의 중요성은 빠르게 커지고 있다. 사실 AI 모델의 성능은 빠르게 상향 평준화되고 있으며 같은 모델도 다른 하네스를 가질 때 크게 다른 성능을 보여주기 때문이다. 그러니까 미래에 더 좋은 AI 모델이 나온다고 하면 그때의 하네스는 달라질 수는 있겠지만 하네스 자체가 필요없어 지지는 않을 것이다. 하네스가 무엇인가를 들여다보면 우리는 오히려 반대의 결론에 이르게 된다. 하네스의 상대적 중요성은 점점 더 커질 것이다. 그래서 오히려 AI 모델의 중요성이 점차로 줄어들 것이다. 

왜 그런가? 우리는 하네스가 AI 모델이 문제를 해결하게 해주는 장치라는 점에 주목할 필요가 있다. 프롬프트의 설계나 에이전틱 루프따위의 기술적 세부사항을 몰라도 우리는 일반적으로 문제를 해결하기 위해서 뭐가 필요한가에 대해 이야기할 수 있다. 문제를 해결하기 위해서는 제일 중요한 것이 그 문제를 명확하게 정의하는 것이다. 그리고 문제를 정의한다는 것은 그 문제를 해결할 나를 알고 그 문제가 존재할 세계를 아는 것을 의미한다. 하네스 엔지니어링이 그간에 발전되어 온 자취를 뒤돌아보면 우리는 우리가 결국 이 부분때문에 자꾸 자꾸 더 많은 것을 더하게 되었다는 것을 느끼게 된다. 

문제의 정의가 어떤 것인가를 이야기 하기 위해 부산에서 서울로 가는 문제를 예로 들어 보자. 어떤 사람이 부산에서 서울로 간다는 것은 여러가지 상황이 있을 수 있다. 일단 우리는 부산에서 서울까지의 거리가 얼마인지, 그 사이에 길은 있는 지를 알아야 한다. 부산에서 서울로 가는 것은 육지로 이어진 것이지만 부산에서 제주로 가는 것은 그렇지 않아서 전혀 다른 문제를 만들기 때문이다. 또 다양한 교통수단이 있다면 그것에 따라서도 부산에서 서울로 간다라는 목표는 다른 문제들을 일으킨다. 똑같은 수단을 쓴다고 해도 그렇다. 누군가가 부산에서 서울로 뛰어간다고 할 때 그 사람이 철인 3종 경기의 선수인 경우와 잘 걷지도 못하는 장애인인 경우 그것은 전혀 다른 문제를 불러 일으킨다. 그래서 문제를 제대로 정의하기 위해서는 그 문제를 해결할 자기를 알고 그 문제가 존재하는 세계를 알아야 한다. 

 그런데 보편적인 데이터만 가지고 학습한 AI는 이것을 모른다. 도구를 가진 AI와 도구가 없는 AI는 마치 다리가 없는 사람과 자동차를 타고 가는 사람처럼 차이가 있다. 그런데도 우리는 보통 AI의 사용자로서 그저 명령을 내리면 AI가 문제를 풀거라고 생각한다. AI의 능력을 모르는 것은 둘째치고 명확히 AI가 필요한 수단을 제공하지 않으면 AI가 그 문제를 풀 방법이 없을텐데도 그냥 그런건 다 AI가 알아서 하기 마련이라면서 명령을 하려고 하는 것이 보통이다. 그 결과는 물론 별로 좋지 않다. 이것은 마치 자동차를 엔진과 동일시하고 컴퓨터를 cpu와 동일시하던 것과 마찬가지다. 그래서 사람들은 자꾸 AI에게 여러가지를 더 많이 제공하기 시작한 것이다. 그리고 결국에는 하네스라는 이름을 따로 만들어야 할 정도로 그 AI 모델 이외의 부분이 크게 자라났다. 

여기서 우리는 질문을 던질 수 있다. 그런데 그래서 어떻다는 것인가? AI 모델이 더 많은 것을 필요로 하다면 그걸 제공해 주면 되고 그런건 그걸 분야를 연구하는 사람들이 연구할 일이 아닐까? 그게 자동차 제작에서 있었던 일이고 컴퓨터 제작에서도 있었던 일이 아닌가? 이런 말은 부분적으로만 맞다. 예를 들어 자동차나 컴퓨터를 어떻게 만들 것인가 하는 것은 엔지니어의 영역이기도 하지만 사회적 합의의 문제이기도 하다. 왜냐면 강력한 사회적인 영향을 주는 기술은 그것을 어떻게 만들 것인가 하는 것이 사람들에게 영향을 주기 때문이다.  예를 들어 자동차의 규격은 그 이전에 말이 달리던 길의 규격의 영향을 받아야 했다. 누군가가 전혀 다른 규격의 차를 만들어서 타고다니겠다고 하면 그건 교통법의 규칙에 따라서 금지되게 된다. 매연을 내뿜는 자동차도 그렇다. 컴퓨터 한대를 만들기 위해서는 혼자서 만들 수 없는 많은 부품을 합치게 되고 그 많은 부품들은 모두 사회적 영향력하에서 만들어지고 유통되기 때문에 컴퓨터도 강력하게 사회적 영향력을 받으면서 제작된다. 미국이 중국에 수출을 금지하는 등 AI 칩때문에 난리가 나고 있는 요즘 우리는 그걸 더 잘 느낄 수 있을 것이다. 

AI는 자동차나 컴퓨터보다도 더 강력한 사회적 영향력을 가질 것이 예상되는 기술인만큼 우리는 그것이 강력한 사회적 합의의 영향을 받게될 것이라는 점을 예측할 수 있다. 그런데 우리는 이제까지 그 관심을 주로 AI 모델에만 쏟았기 때문에 그 사회적 합의가 어떤 것이 될지에 대해서 잘 느끼지 못했다고 할 수 있다. 거대 모델은 엄청난 데이터와 돈이 있어야 만들 수 있는 것이기 때문에 그쪽에만 신경을 쓰면 인간이 해야할 일이 딱히 떠오르기 쉽지 않다. 이제 우리의 관심을 하네스로 옮기면 우리는 AI 모델과 하네스의 합으로 이뤄진다는 AI 혹은 AI 에이전트의 미래에 대해서 상당히 다른 관점을 가지게 되고, AI 시대에 인간의 역할과 의미에 대해 대해서도 그렇게 된다. 

다시 하네스는 AI 모델이 문제를 해결해주기 위해 필요한 장치라는 정의로 돌아가 보자. 그리고 문제를 잘 해결하기 위해서는 문제를 풀 주체와 문제가 존재하는 세계에 대한 정보가 필요하다는 지적을 기억해 보자. 그리고 나서 질문을 던져보자. 여기서 말하는 문제는 누구의 문제일가? 물론 사용자의 문제다. 그런데 사용자가 누구인가? 하네스가 문제가 존재하는 세계에 대한 정보를 제공한다는 말은 하네스가 세계 모델을 제공한다는 것과 마찬가지 말이다. 그런데 여기서 말하는 세계는 누구의 세계인가? 

이 점을 기억하면서 자동차나 컴퓨터가 아니라 전혀 다른 기술과 AI를 비교해 보라. 나는 종종 AI 기술을 문자 기술과 비교한다. 실제로 두 기술은 정보를 저장하고 처리하는 기술이라는 점에서 많은 공통점을 가지고 있다. 그런데 문자의 보급과 인류 역사, 사회적 변화는 어떤 관련이 있었는가? 더 많은 사람들이 읽고 쓸 수 있게 되면서 세상은 어떻게 변했는가? 우리는 왜 글을 읽고 쓰는 기본적 교육을 그냥 시장의 결정에 두지 않고 의무교육이라는 법률까지 만들어서 요즘 세상에 태어나면 문자를 익히는 것을 거의 의무화하는가? 의무교육에 AI가 들어간다면 그건 뭘 말하게 되는 것일까? 

AI 기술 그중에서도 하네스는 마치 언어나 책과 같다. AI 모델도 인간이 만드는 것이지만 거대 모델은 상대적으로 마치 인간과 상관없이 존재하는 자연법칙과 비슷하다. 인간이 특히 개인들이 점점 더 많이 관여하게 되는 것은 하네스 쪽이다. 단지 우리는 이제까지 하네스란게 어떤 의미를 가지는 지 모르고 그것을 폄하해 왔을 뿐이다. 하지만 단어 몇개를 만드는 것이 언어가 아니고 글자를 아는 것이 책을 집필하는 것이 아니다. 그것은 마치 사칙연산이 뉴턴역학과 다른 것과 같다. 문자 문명과 비교해서 보면 우리는 이제 겨우 문자를 만든지 얼마 되지 않은 상태와 비슷하다. 그래서 그 문자를 가지고 양의 숫자를 기록하거나 시장에 가서 살 물건의 목록따위를 적으면서 기록의 힘에 대해서 감탄하는 상태와 비슷한 상태에 있다. 그 문자 문명이 충분히 발달한 지금의 사람들이 돌아보면 그 문자를 가지고 얼마나 위대한 고전들과 과학적 이론들이 만들어졌는지를 생각하면서 그때의 사람들이 문자를 완전히 오해하고 있다고 생각할 것이다. 문자를 아는 것과 글쓰기는 다르다. 글쓰기를 해서 위대한 작품을 만들어야 문자의 힘이 진짜 발휘되기 시작한다. 

AI 모델이 더 문제를 잘 풀기 위해서는 지금보다도 훨씬 더 발달한 하네스가 필요하다. AI 문명의 정수는 아마도 AI 모델 이상으로 위대한 하네스에 존재하게 될 것이다. 우리가 오래전에 쓴 고전을 인류의 자산으로 생각하듯이 미래에는 AI 모델 뿐만 아니라 위대한 하네스가 시간의 힘을 이기고 문화유산으로 남게될 것이다. 이 말은 인간이 미래에 가장 힘을 쏟아야 할 분야가 바로 하네스의 개발에 있다는 것을 의미한다. 

미래의 하네스는 마치 세상에 여러 종류의 기계가 있듯이 여러가지 목적을 위해 다양하게 만들어져야 할 것이다. 예를 들어 글쓰기를 생각해 보자. 이미 많은 글들이 AI에 의해서 쓰여지고 있다. 하지만 아주 단순한 하네스만을 가지고 양산되어지는 글의 가치는 매우 작고 AI 기술이 더 보편화되고 발달함에 따라 더더욱 그렇게 될 것이다. 왜 그럴까? 좋은 글을 쓴다라는 문제를 AI에게 제대로 정의하기 위해서는 우리는 끝없이 많은 것을 AI에게 제공해야 할 필요가 있기 때문이다. 이 문제는 수학문제를 풀거나 컴퓨터 코딩처럼 상대적으로 좋고 나쁜 것을 분명히 정의할 수 있는 분야와는 다르다. 우리는 이미 과학 논문을 쓰는 AI를 가지게 되었지만 그런 AI는 그만큼 방대한 하네스를 가져야 쓸모 있는 과학논문을 생산하게 되는 것이다. 다시 말하자면 지금 AI가 당신이라는 개인을 위해 정말로 좋은 글을 써주지 못하는 것은 상당부분 하네스가 좋지 않기 때문이다. 그리고 그 좋은 하네스를 만들기 위해 필요한것은 기술의 발전 이상으로 당신에 대한 데이터다. 당신은 당신 자신의 취향과 목적의식 그리고 당신의 세계에 대한 정보를 AI에게 제공해야 하는데 그것이 방대해지면 질수록 그런 하네스를 가진 AI 모델은 당신의 판단을 더 잘 대체해 줄 수 있을 것이다. 물론 더 빨리 말이다. 

AI 모델이 인간이 생산한 텍스트 데이터를 전부 학습했다는 사실은 사람들에게 AI가 이미 이 세상에 대한 모든 것을 다 알고 있을 거라는 착각을 불러 일으킨다. 나는 그것을 이렇게 설명할 수 있다고 생각한다. 중력법칙이나 뉴턴의 운동법칙은 몇줄되지 않는다. 그런데 그것이 정말 우리에게 세상에 대한 모든 이해를 줄 수 있을까? 그러한 이해는 우리가 특정한 문제가 가지는 조건들을 그 법칙들에 적용했을 때 만들어 진다. 예를 들어 진자의 운동이나 달의 운동을 뉴턴역학으로 이해하는 것은 당연히 그저 운동법칙을 외우고 있다는 것과 다르다. 각각의 문제가 가지는 정보를 경계조건으로 뉴턴역학에 적용해야 우리는 세상에 대한 이해에 도달한다. 특정한 상황에서 그 법칙이 어떻게 적용되는 지를 보게 되는 것이다. 

마찬가지로 이 세상의 모든 데이터를 다 학습한 AI라고 하더라도 아니 그렇게 보편적인 데이터를 학습한 AI 이면 일수록 우리는 지금 바로 이순간 이곳에 존재하는 문제에 대한 세부사항을 방대하게 제공할 필요가 있다. 지금의 AI는 인간이 만든 데이터만 학습한다. 만약 미래에 동물의 언어도 학습한 AI가 있게 된다면 우리는 그 AI에게 나는 인간이다라는 말도해야 할 것이다. 지금도 우리가 영어로 질문하는가와 한국어로 질문하는가가 답의 방향을 바꿀 수 있다. 우리는 지금 점점 더 많은 데이터를 가지고 AI를 만들고 있다. 이 말은 하네스의 역할이 오히려 점점 더 커질거라는 것을 의미한다. 하네스가 바로 그 보편성을 깨고 지금 풀어야 할 문제를 제시하기 때문이다. 

사람들은 AI에게 명령을 하기 시작한지 얼마 되지 않아 AI에게 문맥 즉 컨텍스트를 제공하는 것이 중요하다는 것을 깨달았다. 이것이 프롬프트 엔지니어링에서 컨텍스트 엔지니어링이라는 말이 나오게 된 이유다. AI는 기억력도 없다. 그러니까 자기가 방금 뭘 했는지도 모른다. 따라서 에이전틱 루프라는 것을 만들어서 계속 자기가 뭘 했는지를 말해줘야 하고, 일을 하자면 손발에 해당하는 도구도 제공해줘야 한다. 우리가 이제는 하네스라는 말로 뭉뚱그려서 말하는 모든 것은 AI에게 이런 세계관을 제공해 주기 위한 것이었다. 우리는 이제 AI에게 자아관도 더 주입해줘야 한다. 내가 자동차를 운전하는 자율주행소프트웨어인지, 걸어가야 하는 휴머노이드 육체를 가진 로봇인지를 모르면 AI는 부산에서 서울로 가는 문제를 정의할 수 없다. 내가 팔이 있는지 없는지 모르는데 탁자위의 물컵을 싱크대로 옮기라는 문제를 정의할 수 없다. 

AI가 문자 문명속의 책과 같다는 것 혹은 언어와 같다는 나의 말을 충분히 이해시키기는 쉽지 않다. 하지만 이 말이 옳다면 지금 거대 회사들이 주로 하네스를 개발하는 것이 어떤 상황인지, 그리고 하네스 만들기를 전혀 모르는 대부분의 사람들이 어떤 상황인지를 한번 상상해 보라. 이 글은 한정없이 길어질 수 있으므로 그것만 지적하고 끝낼 것이다. 

그건 아주 소수의 사람들만이 책을 쓰고 즉 문자를 진짜로 사용하고 나머지 사람들은 그들이 뭘 쓰건 그것을 그저 외우면서 사용하고 살아가는 시대와 같다는 의미다. 그들이 암묵적으로 주입하는 세계관이 당신에게 주입된다는 의미다. AI가 극도로 발달한 세상에서 이건 마치 당신이 남의 머리를 빌려 쓰는 것과 같다. 바로 이때문에 문명사회에서는 문맹을 퇴치하려는 노력을 오랜간 한 것이다. 그러니까 하네스 만들기가 뭔지 모르는 채 AI를 쓰는 당신은 지금 문맹상태에 있는 것이다. 

아니 그것보다 더 심할 수도 있다. 문맹은 글자를 모르지만 말하기는 되는 사람인 경우가 대부분이다. AI가 발달한 사회에서 하네스 만들기를 모르는 사람은 아예 언어가 없는 사람 즉 말하기도 안되는 사람일 수도 있다. 그런 사람은 마치 러시아어를 모르는 채 러시아에 떨어진 사람처럼 살아야 할 것이다. 왜냐면 뛰어난 AI를 가지고 일을 처리하는 사람은 빠르게 사회적 소통을 처리할 테고 그럴 수 없는 사람과의 차이가 아주 클 것이기 때문이다. 이건 스마트폰 정도의 기계를 쓸 수 있고 없고의 차이가 아니다.

물론 앞으로 발달한 하네스가 많은 사람들에 의해서 만들어져서 보급될 것이다. 사람들은 교육을 받고 AI를 쓴다는 것이 진짜로 뭔지를 배우게 될 것이다. 하지만 그 말이 당신이 그저 어느날 AI를 쓰기 시작하면 문제가 해결된다는 말이 아니다. 당신의 정보를 학습하고 키워지지 않은 하네스에게 당신은 당신의 판단을 맡길 수 없다. 남이 만들어 준 하네스는 남의 판단을 할 것이고 AI의 성능이 좋으면 좋을 수록 이 상황은 위험해 질 수 있다. 그건 마치 고성능 스포츠카를 운전을 모르는 사람이 운전하면 빠르게 달리는게 아니라 죽는것과 같다. 자신의 하네스를 이해하지 못하는 당신이 조종하는 AI는 당신의 기대와는 다르게 움직일 것이다. 

지금의 학교는 인간이 가지고 태어난 신경망 즉 뇌를 변화시키기 위해 가는 곳이다. 나는 미래의 학교는 기본적으로 자신의 하네스를 성장시키기 위해 가는 곳이 될거라고 생각한다. 그 하네스가 가진 정보와 특징이 자신의 특징이자 경쟁력이 될 것이다. 그건 그냥 모든 지식을 나의 하네스에 집어넣는 것과는 다르다. 하네스에 모든 도구와 정보를 집어넣으면 가장 좋은 하네스가 될거라고 생각하는 사람은 그저 많은 단어를 써서 두꺼운 책을 만들면 그게 좋은 책이 될거라고 생각하는 것과 같다.

하네스는 인간의 새로운 육체가 될 것이며 AI 모델은 인간의 새로운 전두엽과 같다. 그리고 인간은 그렇게 확장된 신체속에서 마치 인간 뇌의 변연계처럼 욕망과 감정을 담당하게 될 것이다. 인간이 욕망하면 그 욕망은 새로운 디지털 육체를 거쳐서 실행될 것이다. 미래의 사회는 그렇게 사이보그가 된 사람들이 전혀 다른 사회적 소통능력속에서 지금과는 전혀 다른 수준의 세상을 만드는 곳이다. 그런 일은 이미 적어도 한번 이상 일어났다. 문자 이전의 세상 즉 선사시대에 살던 수렵채집인은 문자의 힘을 기반으로 전혀 다른 언어능력을 가지고 더 큰 문명을 건설한 사람들이 어떤 세상에 사는 지 상상할 수 없었다. 수렵채집인이 주식 시장이나 비트코인에 대해서 어떻게 상상하겠는가? 수십억의 사람들이 소통하며 살아가는 세상에 대해서 어떻게 상상하겠는가? AI는 인류의 새로운 언어이며 하네스는 그것의 핵심적인 부분이다. 그것이 만드는 세상은 그래서 우리의 상상을 넘어선다.