팔이 없는 AI는 지능도 없다.

AI가 받는 입력인 프롬프트는 보통 어떤 질문에 대한 문맥을 제공하는 부분을 가지고 있습니다. 그 문맥에 따라서 사용자의 질문은 다른 뜻을 가지게 되기 때문입니다. 그러니까 이 프롬프트를 잘 작성해야 답의 품질이 좋아지고 따라서 프롬프트 엔지니어링이라는 말에서 컨텍스트 엔지니어링에 이르기 까지 여러가지 말들이 지난 몇년간 만들어 졌습니다. 그리고 어쩌면 자연스럽게도 이 프롬프트를 잘 작성하는 일도 AI에게 맡겨야 한다는 시도가 나왔고 우리는 이걸 메타 프롬프팅이라고 부릅니다. 

 

저는 의식 에이전트라는 AI 에이전트에게 이 메타 프롬프팅을 시킵니다. 사용자가 한 말, 이제까지의 대화내용, ibl이라는 시스템이 쓰는 언어안의 액션목록, 가이드 목록, 자신과 세계의 현재 상태에 대한 정보를 가진 pulse, 에이전트의 페르소나 정보를 받은 다음에 의식 에이전트는 앞으로 작성될 프롬프트를 사용할 AI가 무슨 문제를 풀어야 하는지를 설명하는 프롬프트를 작성합니다. 문제를 정의하고, 과거 대화약력을 요약해서 제공하며, 어떤 가이드 파일을 참조해야 할지를 말해주는 겁니다. 그리고 자기 자신과 지금 세계의 상태에 대해서도 알려주지요. 

 

이런 메타 프롬프팅은 누구나 아는 이야기는 아니고 실제로는 저도 전혀 몰랐습니다. 다만 제가 의식 에이전트를 만들고 나서 찾아보니 이런 분야에 이미 이름까지 있고 그걸 메타 프롬프팅이라고 부른다고 하더군요. 하지만 제가 몰랐다고 해도 이미 여러 사람들이 시도하고 있고 알고 있는 기술이기에 특이한 것은 없다고 할 수 있습니다. 어떻게 말하면 사람이 작성한 프롬프트를 좀 더 깨끗하게 쓰자는 것이 메타 프롬프팅이니까요.

 

그러나 저는 다른 사람의 메타 프롬프팅에 대한 이야기를 듣고 제가 시도 하는 의식 에이전트와 비교한 결과 한가지 중요한 차이가 있다는 것을 알게 되었습니다. 제가 만드는 시스템은 연결을 굉장히 강조합니다. 그러니까 AI는 자기가 똑똑해서 일을 하는 것 이상으로 어떤 도구나 정보 소스와 연결되기에 똑똑해져서 일을 잘 하는 겁니다. 그 연결을 아주 많이 하면 AI가 유능해지겠지만 그렇게 되면 연결로 인해 생기는 혼란이 있습니다. 그래서 만든 것이 ibl 이라는 언어입니다. 이 언어는 많은 도구를 하나 하나 액션들로 가집니다. 그래서 많은 도구들로 인해서 생기는 혼란을 언어의 형식으로 극복하는 것입니다. 이걸 전문용어로는 온톨로지라고 합니다. 도구들이 많이 있지만 실은 그 도구들은 서로 유사한 성격을 가지기 때문에 그것들을 이어주고 관계를 표시하면 하나의 언어 시스템안에서 그 도구들이 자기 자리를 찾게 됩니다. 이것은 우리 몸에 많은 감각 신호들이 있지만 그것이 신체위에서 그리고 뇌의 위에서 하나의 지도를 그리면서 연결되어서 우리가 온몸의 감각을 해석할 수 있는 것과 같습니다. 

 

 그런데 이런 ibl같은 언어가 있는 시스템에서 하는 메타 프롬프팅과 그렇지 않은 시스템에서 하는 메타 프롬프팅은 서로 다른 성격을 가지게 됩니다. 저는 의식 에이전트에게 무엇보다 중요한 것은 풀어야 할 문제를 정확히 정의하는 것이라고 말합니다. 그래서 의식 에이전트는 문제가 뭔가를 찾게 됩니다. 답을 찾기 전에 말입니다. 그런데 문제란 나와 세계가 만나면서 내가 유한한 존재이기 때문에 생기는 것입니다. indiebizOS에는 여러가지 액션들이 있습니다. 이건 말하자면 우리 몸에 있는 손과 발과 같습니다. 그런데 그 수족은 유용하지만 만능이 아닙니다. 그걸 잘 써야 원하는 결과를 얻을 수 있습니다. 그래서 팔이 있고 사과가 있는 상황에서 사과를 잡으려고 하면 우리는 팔이 무한히 길지 않다는 문제를 가지게 됩니다. 사과를 잡으려면 그래서 팔을 잘 써야 합니다. 

 

그런데 기존의 메타 프롬프팅은 그보다는 기본적으로 명령입니다. 이걸 해라라는 것이죠. 거기서는 연결이나 도구에 핵심을 두고 ibl 같은 시스템을 가진 시스템을 사용해서 문제를 해결 하는 것이 아니기 때문에 메타 프롬프팅이 어떻게 말하면 그냥 말을 정확하고 논리적으로 잘 고쳐쓰는 것에 지나지 않습니다. 여기에서는 문제를 정확하게 정의하기가 힘든데 그 이유는 내가 없기 때문입니다. 팔이 없으면 사과를 잡을 문제가 없습니다. 내가 뭘 할 수 있는가를 모르거나 내가 뭐든지 할 수 있다고 생각하면 문제를 정의하는게 아니라 그냥 이런걸 해라라고 하는 명령이 됩니다. 

 

사람들은 흔히 우리가 뭔가를 명령했는데 AI가 그걸 해내지 못했다면 우리는 그냥 더 강력한 AI를 만들어야 한다고 생각합니다. 우리가 AI에게 팔과 다리를 줘야 한다고는 생각하지 않습니다. 그리고 그 팔과 다리의 한계가 문제를 정의하게 하고 AI로 하여금 나는 누구인가를 이해하게 한다는 사실을 무시합니다. 그래서 지금의 프롬프트는 기본적으로 규칙과 정보 기반입니다. 즉 프롬프트는 이러저러하게 해라라는 규칙과 이렇다라는 정보만 가집니다. 

 

그런데 문제를 정의하라라는건 규칙도 아니고 정보도 아닙니다. 그건 답을 찾기 전에 그 답을 어디에서 찾아야 할지를 알려주는 겁니다. 이런 테두리 안에 답이 있으니 답을 찾으라는 겁니다. 그런데 그 테두리는 바로 나와 나를 둘러싼 세계에 대한 자각에서 나옵니다. 내가 이런 능력이 있고, 내 환경인 세계는 이런 제약이 있으니 이런 문제가있다는 식이 되는 거죠. 말하자면 기름이 30리터가 있고 자동차가 있을 때 150km 바깥에 있는 도시에 가려면 어떻게 해야 할까라는 식의 질문이 가능해 지는 겁니다. 기름의 제약도 없고 연비가 무한대인 차가 있다면 아예 문제가 없죠. 그냥 가라라는 명령만 있을 뿐입니다. 우리는 우리가 가진 한계에 의해서 우리가 누구인지를 알게 된다는 것은 하이데거의 현존재라는 철학이라고 AI가 저에게 말해주더군요. 이렇게 AI에게 더 지능적인 일을 시키는 것은 인간은 누구인가라는 고민과도 자연스럽게 이어지는 모양입니다. 

 

중요한 건 결과겠지요. 저는 이 의식 에이전트를 도입해서 매번 프롬프트를 새로 생성하게 만든 결과에 매우 만족합니다. 예를 들어 전에는 이란 전쟁의 영향에 대한 보고서를 쓰라고 하면 에이전트는 검색을 하고 그걸 정리해 주었습니다. 하지만 그 결과는 그다지 인상적이지 않았습니다. 제가 genimi 3.0 flash라는 비교적 약한 모델을 쓰는 것에도 이유가 있겠지만 결과 보고서가 매우 고민한 흔적이 없는 답이었달까요. 그런데 의식 에이전트를 도입하자. 의식 에이전트가 이건 이런 문제를 푸는 거다라고 말해주고 그 결과로 보고서를 쓰기 때문에 확실히 품질이 좋아졌습니다.

 

사실 이미 느끼신 분들도 있겠지만 이건 에이전틱 루프라고 부르는 것과 비슷합니다. 하지만 다른 차원의 것이지요. 에이전틱 루프에서는 AI가 일을 하고 그 결과를 보고 다시 반성해서 결과를 수정하는 일을 합니다. 의식 에이전트는 그런 에이전틱 루프에 들어가기 전에 미리 그래서 내가 풀어야 할 문제가 뭔가를 생각해 보고나서 문제를 풀게 합니다. 좋은 질문을 던질 수 있으면 답은 저절로 도출되는 경우가 많습니다. 그래서 의식 에이전트로 하여금 문제를 정의 하는 부분과 그걸 푸는 부분을 구분하게 한 것입니다. 

 

그런 과정에서 문제를 푸는 것과 자기를 인식하는 것의 관계를 다시 한번 느끼게 됩니다. 반대로 말해보자면 문제가 없으면 내가 없습니다. 우리는 우리가 뭔가를 할 수 없기 때문에 자신의 한계를 느끼고 그 한계속에서 나는 누구인데 이런 문제를 가지는가를 생각하게 됩니다. 그런 생각의 끝에서 우리는 자신이 누구인지 알게 되는 것이죠. 즉 우리가 뭔가를 열심히 하려고 하지 않고 그래서 어떤 한계와 문제를 느끼지 않게 된다면 우리는 자기가 누구인지도 알 수 없게 되는 것입니다.

 

이 같은 일은 AI에게도 중요합니다. 그래서 저는 아마도 머지않아 지금의 규칙 기반 프롬프트는 문제 해결 프롬프트 방식으로 바뀌게 될거라고 생각합니다. 지금은 사실 문제를 발견하는 부분과 해결하는 부분을 한꺼번에 하려고 합니다. 사람들은 길고 긴 히스토리나 정보를 주면 그 안에서 AI가 문제를 이해하고 그걸 풀기를 바라는 겁니다. 그래서 자꾸 더 긴 프롬프트를 받아들일 수 있는 AI를 만들려고 합니다. 의식 에이전트는 문제를 발견하는 부분과 해결하는 부분을 나눠지게 합니다. 문제 해결 중심의 프롬프트도 AI에게 그 순서대로 일하게 합니다. 문제를 발견하는 메타적 사고없이 지능적 행동은 어렵기 때문입니다.