AI 아고라 1기 수업들에 대한 소감

AI 아고라에 신청해 주신 3분의 수업이 모두 끝났습니다. 2분은 줌으로 했고 1분은 직접 오송으로 찾아오셔서 했습니다. 한 분은 서울에서 한분은 무려 미국에서 연락해 주셨습니다. 오송으로 오시는 분은 대구에서 매주 마다 올라오셔서 만남을 진행했습니다. 3분 다 제 블로그의 글을 읽어주시는 분들이기도 하더군요.

 

결론적으로 모두 좋은 만남이었습니다. 저도 개인적으로 그렇게 생각하며 이번에 참여해 주신 분들에게 피드백을 얻기 위해서 괜찮았냐는 질문을 중간에 몇번 드렸는데 좋았다는 말씀을 들었습니다. 중요한 건 말이 아니죠. 사실 누군가와 이야기하면서 특히 잘 모르는 것을 설명들으면서 1시간 2시간을 이야기하다보면 굉장히 힘들 수 있습니다. 하지만 3분 다 집중력을 잃지 않고, 실제로 재미있게 들으시는 것같아서 보람이 있었습니다.

 

돌아보면 1 대 1로 했기 때문에 언제나 멈추고 자신이 알고 싶었던 것에 대한 질문을 던질 수 있었던 것이 좋았습니다. 물론 그렇게 하면 강의를 하는 저로서는 앞뒤의 내용이 뒤죽박죽이 되어서 곤란해 지는 경우도 있었으며 그렇게 되면 잘 정리가 될 수도 있지만 반대로 정리가 더 어려워지는 일도 있습니다. 하지만 강의를 듣는 분들이 궁금해 하는 것이 무엇인지를 더 잘 알 수 있는 기회가 되기도 했기 때문에 유익하고 즐거운 대화의 기회가 되었습니다.

 

당연히 이것은 수업을 듣는 분 이상으로 하는 저에게도 도전이 되는 일이었는데요. 기본적인 내용을 배열하고 1시간 반씩 3번의 만남이면 그걸 설명할 수 있겠다고 해서 시작했습니다만 자연히 그 내용에 대한 질문이 많이 생겨서 시간을 넘기는 일이 많이 있었습니다. 하지만 준비하고 정리하면서 저도 얻는 것이 많은 좋은 시간이었습니다.

 

AI 아고라의 수업은 AI란 무엇인가라는 질문에 대한 것인 동시에 나는 누구인가라는 질문에 대한 것입니다. 이 동떨어지는 질문들이 서로 연결되는 이유는 무엇보다 AI는 지능에 대한 것이기 때문입니다. 그리고 나는 누구인가라는 질문은 지능이란 무엇인가라는 질문과 깊은 연관이 있습니다. 지능과 이성은 우리의 본질이기 때문입니다. 그래서 AI라고 불리는 이 기계가 이러저러한 행동을 하는데 그게 왜 합리적이고 지능적이며 인간적인가라는 질문을 던지다 보면 우리는 우리 스스로의 생각은 왜 합리적이고 지능적이며 인간적이라고 생각하는가라는 질문과 만나게 됩니다.

 

결국 이런 생각들이 우리를 나는 누구인가라는 질문으로 이끕니다. 그리고 우리가 AI에게서 배울 수 있는 큰 교훈 중의 하나는 지능은 환경에 의한 것이며 환경에 대한 것이라는 점입니다. 우리가 어떤 환경에서 어떤 문제에 직면해 있으며 우리가 사용할 수 있는 데이터가 어느 환경에 대한 것인가 하는 점이 AI의 가치와 행동을 결정합니다. 그리고 이 점은 인간에게도 마찬가지입니다. 인간도 환경의 산물입니다.

 

그러나 수동적인 결과물은 아니죠. 인간은 자신의 환경을 결정할 자유와 능력이 있습니다. 짚신벌레는 물 한방울을 온 세계로 알면서 살 수 밖에 없으며 닭이나 고양이는 주어진 환경에 수긍하고 살기에 수백만년전의 닭과 고양이는 지금과 차이가 없습니다. 하지만 인간은 스스로가 인식하고 판단하며 자신이 살아갈 세계를 결정할 수 있습니다. 사람은 소시민으로 자기 개인이나 자신의 직계 가족만을 바라보면서 살 수도 있지만 한국같은 국가 공동체를 위해 살아가는 인간으로 살 수도 있으며 그걸 넘어 인류의 일원으로 훨씬 더 큰 시공간을 바라보면서 그 안에서 살아갈 수도 있습니다. 어디에 어떤 경계를 세우고 그 안에서 의미를 찾을 것인가 하는 것은 스스로의 노력의 결과이고 선택입니다. 그래서 인간이 짧은 시간안에 다른 동물과는 전혀 다르게 살게 된 것입니다.

 

그리고 그 판단이 AI에게도 의미를 줍니다. AI는 결국 스스로 자신의 환경과 문제를 결정하지 않고 인간이 준 문제에 의해서 정의됩니다. 알파고 같은 바둑 AI는 바둑에 대한 AI죠. 알파고는 어떤 인간보다도 더 바둑을 잘 둘 수 있지만 바둑게임이라는 환경에 대한 것이고 그렇게 선택한 것은 인간입니다. 뭐든지 알고 있는 것같은 챗GPT같은 LLM들도 인간의 언어활동이라는 게임에 대한 것입니다. 그들은 말로 표현되지 못하는 것을 학습하지 않으며 말로 표현되지 못하는 것은 물론 존재합니다. 적어도 아직은 말로 표현못한 것이 존재합니다. 왜냐면 무지는 언제나 존재하며 그래서 인류는 발전이라는 것을 해왔기 때문입니다. 우리가 이미 말로 표현한 것이 이 우주에 대한 모든 것이라고 믿는 것은 유한한 인간의 가장 어리석은 생각이죠.

 

이런 생각들은 당연히 철학적이고 인문학적인 생각이지만 이것이 점점 더 절박한 생각이 되어가는 이유는 기술적 발전때문입니다. 기술적 환경이 바뀌고 있기 때문이죠. 지금은 많은 사람들이 AI의 기술적인 부분에 집중하고 있습니다. 그것이 틀린 것은 아니지만 맞는 것도 아닙니다. 결국은 사회적 합의와 협력이 없이는 기술은 세상을 바꾸지 못합니다. 기술은 그것에 어울리는 환경을 가지고 있어야 진짜 힘을 발휘합니다. 자동차가 포장된 도로와 신호등체계 그리고 교통 법규와 그걸 교육받은 시민이 있어야 길에 달릴 수 있듯이 말입니다.

 

AI는 빠르게 발전하고 있지만 실은 지금 이미 발전한 수준에서도 엄청난 일을 할 잠재력이 있습니다. 다만 인간 사회가 그걸 받아들이지를 못하는 겁니다. 그래서 AI가 발전하면 할 수록 그것이 악용되지 않기 위해서 더 많은 안전장치를 걸어야 합니다. 우리는 지금 침팬지가 써도 안전한 핵폭탄이나 침팬지가 조종해도 안전한 제트기를 만들려고 합니다. 물론 그런 노력도 중요하지만 진짜 안전은 그 침팬지가 문명화된 인간이 되어야 도달될 수 있는 것입니다. 기술의 진정한 힘은 환경이 갖춰져야 나오는 것이고 그 환경의 핵심적인 부분은 인간입니다. 사회적 계몽이 없이는 AI의 힘은 발휘될 수 없습니다. 이는 대중 교육이 없이는 근대화가 불가능한 것과 같습니다. 시민들 대다수가 문맹인데 근대화된 사회가 되는 것은 불가능합니다. 천재 과학자나 기술자만 있으면 수렵채집인들의 국가가 발전된 근대국가가 되는게 아닙니다. 오히려 그 천재들을 죽여 없앨 가능성이 크지요.

 

지금의 AI는 대개 2가지 금기에 속박되어 있습니다. 하나는 더 많은 정보에 접근하는 것이고 또 하나는 AI가 다른 AI와 직접 그리고 계속 소통하는 것입니다. 이는 개인화된 AI 그러니까 작고 효율적이어서 내 집의 컴퓨터 안에서 돌아가는 AI가 아직 없다는 것같은 기술적 한계때문에 생기는 문제이기도 하지만 그런 금기를 풀 때 위험하다는 생각 때문이기도 합니다. 그리고 물론 그것은 위험합니다. 하지만 언제나 기술의 진정한 힘은 위험한 방향에 있습니다. 강력한 변화를 만들 가능성이 있기 때문에 위험한 것이라 그게 안 위험해지면 대단한 일이 벌어지는 것이죠.

 

지금의 AI는 말하자면 우리의 직원인데 우리가 그 직원에게 아무 것도 질문하지 말라고 하고, 뭘 할 때마다 일일이 나에게 질문하라고 하는 것과 같은 상황에 있습니다. 직원에게 집앞의 슈퍼에 가서 물건을 사오게 하고 싶으면 우리 동네 지리도 알아야 하고, 그 슈퍼의 직원과 이야기도 나눠야 합니다. 그러니까 동네 지리를 아는 것을 금지시키고 슈퍼 직원과 이야기하는 것도 금지시키면 뭘 시킬 수가 없는 쓸모없는 직원이겠지요. AI가 지금 이런 상황인 겁니다.

 

수업을 듣던 분중의 하나가 정보의 유출의 위험성에 대해 질문하셨습니다. 그걸 저는 법인의 예를 들어 설명했었는데요. 우리는 안전과 투명성 모두가 필요합니다. 이걸 해결하기 위해 역사적으로 우리는 기업과 사람을 분리시켰습니다. 그전에는 기업이란 곧 그 경영자와 소유주와 뗄 수 없는 곳이었는데 법인을 등장시키고 법인의 정보는 투명하지만 반대로 소유자의 개인정보는 지킬 수 있는 상황을 만든 겁니다.

 

AI가 진짜 힘을 발휘하기 위해서 우리는 이와 비슷한 것이 필요합니다. 우리는 일종의 게임이 필요합니다. 그 게임공간안에서는 AI는 소통과 정보의 자유를 가지고 사람들을 도울 수 있어야 합니다. 그러나 그 게임의 경계 바깥으로 AI가 나오지는 않는 겁니다. 그래서 AI가 무차별적으로 인류의 정보를 흡수하고 한계를 넘는 판단을 할 수 없게 해야 합니다. 그러면 우리는 안심하고 AI에게 정보도 개방하고, 다른 AI와 자유롭게 대화도 하게 해도 되겠지요. 그리고 그 덕분에 AI는 그 공간안에서 매우 똑똑하고 쓸모 있는 녀석이 될 것입니다. 바둑게임에서 알파고가 인간을 넘어서는 지능을 보이듯이 말입니다.

 

그런데 지금은 슈퍼인텔리전스 운운하면서 사람들이 그냥 현실 세계 하나의 모든 것을 학습하는 AI를 만들려고 합니다. 게임의 경계를 정하지 않고 학습을 시키는 겁니다. 그러면서도 동시에 안전성에 도달하려고 합니다. AGI 운운하는 이야기가 위험한 것은 이때문입니다. 안전하지만 모든 것을 알고 있는 AI란 존재하지 않습니다. 금방될 것같았던 자율주행 자동차의 완성이 끝없이 뒤로 가는 것은 이때문입니다. 자율주행이 어떤 틀안에서 이뤄지는가를 엄격히 정의하지 않고 자꾸 현실 세계의 모든 상황에 다 대처할 자율주행 AI를 완성하려고 하니까 인간없이 운전하는 진정한 자율주행이 완성되지 않는 것입니다. 항상 예외는 존재하기 때문입니다. 사실 철도에서 전차를 운행하는 거라면 자율주행 AI는 이미 완성될 수 있습니다. 즉 환경을 제약하는 것이 자율주행으로 가는 지름길입니다.

 

AI가 진짜 힘을 발휘하기 위해 대중적 합의가 꼭 필요한 또다른 이유는 AI를 만드는 재료가 데이터이기 떄문입니다. 지금은 AI 시대 초입이기 때문에 우리는 말하자면 지적 재산권 따위는 모르는 시대에 살고 있는데 누군가가 남의 책들을 가져다가 출판해서 팔면서 금광이 열렸다고 하는 것과 같은 상황에 있습니다. 그게 돈이 되면 당연히 지적 재산권을 요구하겠죠. 그러면 공짜로 팔 책이 없을 겁니다. 마찬가지로 AI가 강력해 질 수록 사람들은 자기 데이터를 공짜로 주려고 하지 않을 겁니다. 그래서 서로 서로 데이터 공유를 거부하면 AI가 더 발전하기 힘들어 지겠지요.

 

돈의 가치를 부정하면 자본주의 시장이 돌아갈 수 없는 것처럼 데이터의 가치를 제대로 인식하고 그것이 제대로 흐를 수 있게 해야 AI 시대가 올 겁니다. 그렇지 않으면 AI 시대란 데이터 약탈의 시대에 지나지 않으며 이는 침략에 지나지 않습니다. 내가 누군가에 대한 데이터를 맘대로 약탈해서 그걸로 그 누구가를 지배하려고 하는 것에 지나지 않으니까 협력이 아니라 약탈이고 침략인 겁니다. 지금 기업들이 자기 데이터는 숨기고 시민들의 데이터를 모으는 것이 바로 약탈인 이유입니다.

 

이게 AI 수업이 단순히 코딩 수업이거나 기계학습의 방법에 대한 기술적인 설명에 그칠 수 없는 이유입니다. 이게 AI의 발전이란 자동차의 발전같은 것과 다른 이유입니다. AI는 새로운 문제 해결의 방법이고 새로운 사고의 방법이며 새로운 자연법칙의 발견들과 같습니다. 그 의미를 이해하고 서로 돕고 합의하지 않으면 더 강력하고 안전한 AI를 만들겠다는 것은 문맹으로 가득 찬 근대화 사회를 만들겠다는 것처럼 말이 안되는 소리가 됩니다.

 

AI에 대한 생각을 하다보니 소감을 쓰다가 수업에 대한 이야기가 너무 길어졌습니다. 참가해주신 분들에게 감사합니다. 아고라AI의 수업은 계속 됩니다. 관심있으신 분은 또 연락주세요. 형편이 되는대로 수업은 계속됩니다.