인공지능이 할 수 없는 것

돌아보면 최근 2-3년간은 인공지능이 제 삶에 큰 부분을 차지하게 되었습니다만 최근 한달 반정도간은 정말 개발하는 일로 바빴습니다. 인공지능을 이용해서 개발하는 일을 하면서 저는 새삼 인공지능이 대단하다는 생각을 하면서도 인공지능이 할 수 없는 것이 있다고 느낍니다. 그것은 물론 앞으로 더 좋아지겠지만 사람들이 생각하는 것처럼 그렇게 쉽게 더 좋아지지는 않을 것입니다. 그 핵심은 이것입니다.

 

컨텍스트 즉 문맥의 문제

 

인공지능이 가지는 문제의 핵심은 자신이 해야 할 일이 가지는 의미를 다 모른다는 겁니다. 인공지능은 여전히 시야가 아주 좁습니다. 예를 들어서 저처럼 몇만 라인이나 되는 큰 프로그램을 짜고 있는 경우 그것이 가지는 부분들이 여러가지가 있고 각각의 부분은 또 테스트되어야 합니다. 그런데 뭐가 잘안되서 그걸 고치라고 하면 자꾸 당면 문제에 집중한 해답을 내놓습니다.

 

예를 들어 삼성전자의 주가 그래프를 그리라고 명령했더니 잘 안됐다고 해봅시다. 그런데 왜 안되나를 들여다 보니 삼성전자라는 회사의 회사코드를 불러오는데 실패했기 때문이었습니다. 이걸 고치라고 하면 인공지능은 흔히 회사코드를 불러오는 부분을 철저히 고치기 보다는 그걸 쉽게 포기하고 그냥 삼성전자의 회사코드는 이거라면서 그걸 프로그램 안에 써넣어서 문제를 해결합니다. 그러니까 삼성전자의 주가 그래프를 그리는 문제를 해결했다는 겁니다.

 

인공지능은 적절히 주의를 주고 제어하지 않으면 이런 문제때문에 프로그램 안에 온갖 예외문을 가득 집어넣기 쉽습니다. 그냥 테스트 할 때 잘 안되던 걸 일일이 이런 경우에는 이렇게 해라, 저런 경우에는 이렇게 하라는 식으로 규칙을 만드는 겁니다. 이러면 오히려 되던 프로그램도 엉뚱하게 되고 나중에 그걸 깨끗이하기도 어렵습니다.

 

문제는 인공지능의 시야가 좁다는 겁니다. 문맥 혹은 컨텍스트라고 할 수 있는 이것을 넓히려는 노력은 물론 많은 사람들이 하고 있습니다. 그게 되어야 복잡하고 큰 프로젝트를 AI 에이전트에게 맡겨도 혼자서 그걸 해낼 수 있으니까요. 그리고 진전이 없는 것도 아닙니다.

 

하지만 인공지능이 이런 분야를 잘하게 되는 날이 적어도 금방 오지는 않을 것입니다. 왜냐면 이 문제의 상당히 중요한 부분은 사람 그 자체에게 있기 때문입니다. 잘한다는게 뭘까요? 결국 사용자의 마음에 드는게 잘하는 것이죠. 사용자가 멋진 성을 그리라고 했는데 무덤을 그리면 안되죠. 그런데 간단한 일은 해석의 여지가 작아서 인공지능이 잘 하지만 복잡한 일은 좋다는게 뭔지, 잘한다는게 뭔지를 사람이 설명하라고 해도 긴 설명이 필요하거나 설명이 불가능합니다.

 

예를 들어 그림을 그리는 일은 복잡한 일입니다. 그런데 요즘은 인공지능이 그림을 잘 그리죠. 하지만 이건 계속 사람들이 좋은 그림의 예를 보여주었기 때문입니다. 그렇게 해도 우리는 인공지능이 그린 그림은 어딘지 티가 난다고 말합나다. 이 말은 우리가 인공지능에게 뭔가 복잡한 일을 시키면서 성공한 사례를 많이 줄 수 없는 경우에는 인공지능이 좋은게 뭔지를 몰라서 잘 안될거라는 겁니다. 사용자 입장에서 최대한 길게 좋은게 뭔지 설명해도 그걸로는 어림도 없습니다.

 

예를 들어 우리 아이가 이번에 쪽지시험을 잘 봤으면 해서 그 방법을 찾는다고 해 봅시다. 우리는 그 답이 컨닝이라고는 보통 생각하지 않습니다. 왜냐면 쪽지시험이 교육이나 인생의 끝이 아니니까요. 그런 식으로 쪽지시험 잘보면 오히려 더 장기적인 교육을 망치니까요. 그러니까 이번주 쪽지시험을 잘본다라는 당면한 문제를 넘어서 생각하면서 눈앞의 문제를 푸는 겁니다. 저는 이것을 일종의 메타인지라고 생각합니다. 주어진 문제의 틀을 넘어서 생각하면서 문제를 푸는 거죠.

 

이런 걸 인공지능은 잘 하지 못합니다. 그리고 미래가 되어서 인공지능이 더 똑똑해진다고 해도 한계는 분명해 보입니다. 문제의 원인은 상당부분 데이터가 없다는 사실에 있으니까요. 사람이 아무리 길게 설명을 한다고 해도 그 정도로는 충분치 않으니까요. 엄청난 양의 언어 데이터 없이 말을 어떻게 하는 건지 우리가 열심히 가르친다고 그정도로 챗GPT같은 언어 인공지능이 나올 수는 없는 것과 같은 이유입니다.

 

아마 시간이 지나면 어느 정도는 반대의 일이 일어나기는 할 겁니다. 인간의 행동 데이터에서 인공지능이 학습을 하는게 아니라 그게 뭐던 대중화된 인공지능이 선택한 것을 좋은 것으로 여기게 되는 겁니다. 언뜻 들으면 기분나쁠 수 있는 이런 일이지만 네비를 생각하면 이해가 빠를 겁니다. 사람들이 이제 지도 공부를 하지 않고 네비의 답을 그냥 수용하는 경우에는 점점 더 네비가 가르쳐 주는 답이 정답이 되는 겁니다. 그리고 실제로 그 길로 사람이 많이 다니면 아마 그 길에 상점도 많이 생기고 쉼터도 생길지 모릅니다. 그러면 더욱 더 그 길이 실제로 정답이 되는 거죠.

 

다른 예를 들어 봅시다. 저는 ESP32보드라는 게 뭔지 몰랐습니다. 하드웨어 제어의 쉬운 예를 찾다가 알게 되어서 그걸 샀습니다. 만원 이만원하는 이 기계는 작은 컴퓨터 같은 것인데 센서를 통한 정보수집이나 하드웨어 제어분야에 널리 쓰입니다. 그런데 친구 사무실에 놀러가니까 거기도 ESP32보드가 있어서 저는 제것과 친구것을 비교해 볼 기회를 가졌습니다. 그런데 제 ESP 32보드 모델을 AI가 훨씬 더 쉽게 설정하더군요. 친구것은 사람이 좀 더 관여해야 했습니다. 이 말은 인공지능이 하드웨어 설정을 해주는 시대가 오면 친구것은 안팔릴 거라는 뜻입니다. 하나는 그냥 USB 꼽기만 하면 인공지능이 알아서 다 해주는데 다른 쪽은 사람이 세부사항을 더 관여해야 한다면 가격차이도 얼마 안나는데 누가 그걸 쓰겠습니까.

 

문맥으로 돌아가면 그래서 우리는 인공지능에게 모든 걸 맡길 수 없을 겁니다. 모든 걸 맡기면 인공지능이 선택하는 문맥이 인간의 문맥이 되는데 그래서는 결과가 그리 만족스럽지 않기 때문입니다. 이건 마치 미각이 뛰어난 사람이 먹을 음식을 맛을 전혀 못느끼는 사람이 만드는 것과 비슷합니다. 혀가 없는 로봇, 자기 서사가 없는 로봇이 만들어 주는 음식의 맛은 많은 사람들의 음식의 맛보다는 더 뛰어날 수 있어도 정말 나에게 사람에게 맞추기는 어려운 겁니다. 그 부분은 설명으로 대체하겠다고 생각하신다면 문제는 앞에서 제가 말한 부분으로 돌아갑니다. 그게 사람입장에서 조금 긴 설명으로 다 설명이 되는게 아닙니다.

 

인공지능이 모든 것을 조종하고 결정하는 미래사회는 오지 않을 겁니다. 왜냐면 그런 일을 어떻게 하는 지에 대한 데이터가 없기 때문입니다. 최고의 음식을 만들고, 최고의 음악을 작곡하는 사람도 그걸 공식으로 제공할 수가 없습니다. 더구나 그런 예는 데이터가 많지도 않고 말입니다.

 

이런 말을 하면 한때는 불가능하다고 생각했던 바둑도 인공지능은 정복했다라고 말할 지 모릅니다. 이게 바로 인공지능의 장점이자 단점입니다. 바둑은 복잡한 게임이기는 하지만 분명한 규칙을 가진 게임입니다. 그러니까 작은 세계지요. 그렇게 문제를 분명히 설정하면 인공지능은 그 일을 잘 할 수 있습니다. 그래서 우리는 문제를 분명히 설정하고 인공지능을 쓰는 노력을 해야 합니다. 예를 들어 교통환경을 더 엄격히 만들면 운전이라는 게임이 보다 분명한 경계를 가진 게임이 되겠죠. 그러면 자율주행이 잘되는 겁니다. 그게 아니라 불완전한 경계를 가지고 무수히 많은 예외적인 일이 계속 일어나게 하면 어려운 거죠.

 

그런데 앞에서도 말씀드렸지만 모든 걸 그렇게 분명한 경계를 가지고 말할 수 없습니다. 그렇게 만들 수도 없습니다. 예를 들어 좋은 교육이 뭔지를 환경과 시공을 초월해서 정의하기 어렵습니다. 좋은 사회가 뭔지도 정의하기 어렵습니다. 그게 뭔지 알겠다는 사람은 위험합니다. 지금도 위험하지만 인공지능의 시대에는 더 위험합니다. 그런 사람들은 예를 들어 좋은 교육이란 대학입시에서 성공하는 것이라고 정의해 버린 후 수단을 가리지 않는 기계에게 그걸 하라고 할 수 있기 때문입니다. 그게 당연한거 아니냐고 말하면서 말입니다. 좋은 나라라는건 국민소득이 높은 나라라고 정의해 버리고 그렇게 만들어 버리려고 하는 겁니다. 눈먼 기계가 이런 규칙을 당연한 것으로 여기면 재앙이 올겁니다. 말 몇마디로 정의된 목표를 위해 숨겨진 가정을 가지고 해결책을 찾으려고 할 때 그 숨겨진 가정이 재앙이 되기 쉽습니다.

 

결국 우리는 인공지능에게 모든 걸 맡겨버리고 뒤로 물러나서 할일이 없어지는게 아니라 기계와 한몸이 되어 운전하는 운전자처럼 인공지능과 이어져야 합니다. 인공지능은 연결의 대상이고 협업의 대상입니다. 인간과 인공지능과 기계와 다른 도구들이 서로 연결되어진 전체가 슈퍼 지능을 가진 존재가 되는 것이지 인공지능이 홀로 슈퍼 지능을 가지는게 아닙니다.

 

이런 의미에서 말하자면 자율주행 인공지능은 자동차라는 하드웨어와 인간을 이어주는 미디어 입니다. 그래서 자율주행 인공지능을 통해 우리는 자동차와 한몸이 된다고 할 수있습니다. 자율주행 인공지능이 자동차를 운전하는게 아닙니다. 인간과 인공지능과 자동차가 하나가 되어 의지와 능력을 가진 하나의 새로운 존재가 되는 것입니다. 인간의 의지가 바로 현실화가 되는 겁니다. 목적지로 이동하고, 미디어를 재생하고, 온도를 조절하고 하는 그 모든 걸 인공지능이 미디어가 되어 하드웨어를 컨트롤 해서 해내는 겁니다.

 

이 연결은 인간과 하드웨어간의 연결에서 멈추는게 아니라 인간과 인간의 연결이 되기도 할겁니다. 인간과 인간이 인공지능이라는 미디어를 통해 연결된다고 하면 끔찍한 미래라고 할 분도 있을 겁니다. 하지만 그건 꼭 그렇지는 않습니다. 무엇보다 그 말이 언제나 그렇다는 의미는 아닙니다. 자동차의 시대라고해서 우리가 동네 산책을 안하고 화장실에 차를 타고 가지는 않습니다. 미래에도 인간이 모든 일에 인공지능을 쓰지는 않을 겁니다. 우리가 인공지능의 시대로 나가야 하는 것이 분명하다고 해도 그 말이 우리가 하루 종일 인공지능만 쓰면서 산다는 말이 되지는 않을 겁니다. 우리는 여전히 스스로 요리도 하고, 친구와 얼굴을 대고 잡담도 나눌겁니다.

 

하지만 발달한 언어없이 거대한 사회속에서 인간이 살아가는 것이 불가능하듯이, 미디아와 언론없이 국가가 존재하기 어려운 것처럼, 우리가 앞으로 살아가야 할 세상은 아주 자주 인공지능같은 미디어를 쓰지 않으면 분열될 것이고 그 안에서 사람들은 서로 다투게 될 겁니다. 유튜브나 SNS의 폐해를 말하는 사람들도 있지만 그런 새로운 미디어가 없었다면 지구 반대편의 사람들이 뭘 하는 지를 이렇게 실시간으로 보고 들을 수 없었겠죠. 더 빠르게 변하고 복잡한 세상에서는 인공지능이 인간과 인간을 이어줄 필요가 있는 겁니다. 사실 지금의 세계가 온통 혼란스러운 것은 기존의 방식인 정치라던가 언론같은 방식이 잘 작동을 안해서 입니다. 정의가 실종된 것처럼 보이는 것도 복잡한 시스템의 구멍을 끝없이 이용하는 사람들 앞에서 기존의 방법이 잘 작동하지 않기 때문입니다.

 

인공지능이 발달해도 인간이 필요없지는 않습니다. 인공지능이 아무리 뛰어나도 인공지능 혼자 보다는 인간과 인공지능이 연결된 형태가 더 뛰어납니다. 우리가 고민해야 할 것은 그래서 인공지능이 잘할 수 있는 것과 할 수 없는 것을 이해하고 그 연결을 더 잘하는 방법을 찾는 겁니다. 스위치만 누르면 인공지능이 뭐든지 하고 인간이 할일이 없는 세상은 오지않습니다. 그런 인간이 있다면 그런 인간은 시대에 뒤쳐진 사람일 겁니다. 근대화와 공장의 시대에 낡은 방법으로 농사를 짓던 사람이 할일이 없어졌다고 해서 인간이 할일이 없어지지는 않았습니다. 반대로 인간은 더 바빠졌지요. 앞으로의 시대에도 더 바빠질 사람과 할일이 없어지는 사람이 모두 나올 겁니다. 할일이 없어지는 것은 인간의 운명이 아닙니다. 시대적 변화 그리고 시대적 모순을 무시하는 사람의 운명입니다. 말했듯이 인공지능이 없어도 인간 사회의 문제 즉 복잡하고 거대한 시스템이 만들어 내는 문제는 그대로 있습니다. 그 문제를 회피할 수 없기 때문에 인공지능같은 대안이 떠오르는 겁니다. 우리가 가야할 길은 그래서 분명합니다.