메타질문과 AI의 자아

최근에는 AI에 관한 개발을 하나둘 해보면서 메타적 질문이라는 것에 대해서 생각해 볼 기회가 있었습니다. 그리고 경험을 통해서 AI는 메타인지가 안된다는 나의 주장을 다시금 생각해 보게 되었습니다. 제가 최근에 만난 메타적 질문이란 이런 것입니다. AI에게 뭔가를 하라는 명령을 프롬프트라고 하죠. 그러면 우리는 이런 질문을 하는 겁니다.

 

너는 이런 상황에서 너에게 어떤 프롬프트를 줘야 그 일을 잘 할 수 있을 것같아?

 

이것이 메타적인 질문인 것은 이 질문은 AI에게 자기 자신을 자각하고 자기를 외부에서 보는 시각을 주문하고 있기 때문입니다. 그냥 네 생각은 어때라고 묻는게 아니라 너는 누구이고 너는 어떤 상황에 있는지를 아느냐고 묻는 것입니다. 이런 자기 인식에 대한 질문은 현실적입니다. 왜냐면 실제로 우리는 좋은 프롬프트가 필요하기 때문입니다. 그러니까 AI에게 좋은 프롬프트를 달라고 부탁해야죠.

 

앞에서 말한 메타적 질문을 저는 최근 거듭 만나고 있지만 그 구체적 사례중의 하나는 제가 AI 가이드 배포법이라고 부르는 것 때문입니다. AI 가이드 배포법이란 내가 어떤 소프트웨어를 설치할 패키지를 줄 때 이걸 인간이 받는다고 생각하지 않고 상대방이 AI를 가져서 그 AI가 상대방과 함께 그 설치를 진행한다고 생각하면서 소프트웨어를 배포하는 것을 말합니다. 그래서 소프트웨어에는 인간이 읽을 설치가이드가 붙듯이 AI가 읽어야 할 AI 가이드가 필요한 겁니다. 그리고 AI가 충분히 똑똑하다면 이 AI 가이드는 소프트웨어의 배포와 설치를 상당히 간단하게 만들 수 있을 겁니다. 왜냐면 AI는 인간이 할 수 없는 일을 할 수 있기 때문입니다.

 

이걸 이렇게 설명할 수도 있습니다. 제가 조각을 누군가에게 준다고 해봅시다. 전에는 그 조각 자체를 그 사람에게 줘야 했습니다. 그런데 그 사람이 3D 프린터가 있다면 저는 3D 정보를 가진 파일만 줘도 됩니다. 그러면 3D 프린터가 그 정보파일로 그 조각을 만들어 내겠죠.

 

이제는 소프트웨어 자체를 주는게 아니라 AI에게 줄 가이드를 주면 그걸 받는 사람의 AI가 그 가이드를 기반으로 인터넷에서 파일을 다운받고, 스스로 코딩을 하기도 하고, 같이 온 필수파일도 참조하면서 소프트웨어를 만들고 설치할 수 있는 겁니다. 이런 방식 잠재적으로 가지는 이득은 많이 있습니다. 그 중의 하나는 설치가 거의 자동이고 자기 시스템에 맞춰서 할 수 있으며 배포판이 아주 가벼워진다는 겁니다. 좀 다르게 말해보자면 전에는 완제품을 줘야했다면 지금은 개념만 주면 그 개념에 기반해서 AI가 그걸 만들어 낸달까요.

 

그런데 여기서 중요한 질문이 나옵니다. 이 AI 가이드는 어떻게 써야 할까요? 이 질문에 대한 자연스러운 답은 또 AI에게 묻는 겁니다. 바로 메타적인 질문을 던지는 것이죠.

 

너에게 어떤 가이드를 주면 이 프로그램을 재현할 수 있겠니? 어떤 가이드가 좋아? 그걸 만들어 내봐.

 

그런데 제 경험에 따르면 이런 메타적인 질문은 좋지 않습니다. 왜냐면 AI는 자기를 모르기 때문입니다. 아는 것같지만 모릅니다. 왜냐면 AI가 만들어진 데이터는 기본적으로 인간이 만든 것이기 때문입니다. 예를 들어 안녕하세요라는 인사에 대해서 안녕하고 대답하는 대화가 있다고 해봅시다. 이건 인간의 대화입니다. AI는 이런 인간의 대화를 기반으로 학습한 것이니까 어떤 의미로 인간처럼 행동하려고 학습한 거라고 할 수 있습니다.

 

그러니까 AI인 네가 너 스스로를 생각해 보았을 때 어떤 프롬프트를 줘야 좋은 결과를 만들 수 있을 것같냐는 질문은 AI로서는 너무 어색하고 어려운 질문인 겁니다. AI는 자기가 누구인지를 인식하기 위한 데이터에 기반해서 학습한게 아니니까요. 극단적으로 단순하게 말하면 강국진의 대화만 학습한 AI는 자기를 강국진으로 인식하게 되는 것이 자연스러운 겁니다. 왜냐면 그 대화에서 대화의 주체는 자기를 강국진으로 인식하니까요. 그런데 AI가 학습한 데이터는 AI가 스스로를 인지하면서 생성해낸 대화가 아닙니다. 그러니 메타적 질문은 AI에게 어려울 수 밖에 없습니다. 실제로 메타적 질문을 던져서 프롬프트를 만들면 그 결과가 좋지 못합니다.

 

그것보다는 이런 식의 질문이 좋습니다. 너는 세계에서 가장 뛰어난 IT 전문가이다. 만약 이 상황에서 AI에게 줄 프롬프트를 써야 한다면 너는 어떤 프롬프트를 쓸까? 이 질문은 자기를 묻는게 아니라 어떤 사람인척 하라는 걸 전제로 한 질문이죠.

 

인간은 매순간 자기 자신으로서 메타적 질문을 던지게 됩니다. 왜냐면 나의 답은 내가 처한 환경에 따라 그리고 나는 누구인가라는 질문에 따라 달라지기 때문입니다. 그 정체성에 대한 생각이 우리의 답을 결정합니다. AI는 너는 누구인가라는 질문에 약합니다. AI는 많은 일을 인간보다 더 잘할 수 있게 될 것이고 이미 그렇지만 메타적 질문에 AI가 잘 대답할 미래는 영영 오지 않거나 매우 어려울 겁니다. 그건 적어도 AI가 스스로 자기는 누구인가라는 고민을 오래하고 행동하고 그 결과로 데이터를 모으고 그렇게 해서 자신의 본질을 바꿀 정도의 데이터를 모아야 하는 것이기 때문입니다. 그런데 AI는 그런 데이터로 만들어지지 않습니다. 그래서 AI는 메타인지가 없다고 할 수 있는 것입니다.