AI 비지니스에 대한 거대한 착각

지금 AI 비지니스에는 거대한 착각이 존재한다. AI란 무엇인가라는 질문의 답에서부터 기원하는 이 착각은 따라서 철학적이고 추상적인것 같지만 결국 엄청난 돈이 관련되어지게 되었다. 이게 착각이었다는 사실이 널리 알려지면 거대한 충격이 불가피하다.

 

AI란 무엇인가? AI는 AI 모델과 하네스라는 부분의 합이다. AI 모델은 단순하게 입력에 대해서 출력을 낸다. 하네스가 그런 AI 모델을 복잡하게 사용해서 사람들이 대단해하는 일을 한다. 하네스가 발달하면서 드디어 인간대신에 AI가 일을 한다는 AI 에이전트의 시대가 열리게 된 것이다.

 

그런데 사람들은 이 둘을 구분하지 않거나 하네스의 중요성을 과소평가한다. 따라서 그들은 AI 모델을 만들고 AI 비지니스를 하면서 그들이 AI 모델을 팔고 있는 거라고 생각한다. 지금 AI 모델을 만드는 회사인 앤스로픽이나 오픈AI 같은 회사가 거대한 돈을 쓰고 있는데 그들의 행동을 보면 딱 이렇다. 첫째로 AI 모델과 하네스를 구분하지 않으며, 둘째로 그들의 비지니스 모델이 AI 모델을 파는 거라고 생각하는 것같다. 이에 따르면 그들의 경제적 경쟁력은 가장 뛰어난 AI 모델을 가진 것이다. 

 

이것이 착각인 이유는 AI 모델이 자연법칙 같은 것이기 때문이다. 그들은 지금 뉴턴과 비슷한 입장에 있다. 뉴턴이 중력법칙을 발견하고 운동방정식을 발표한 후에 앞으로 이것들을 사용할 사람은 나에게 월 100불씩 내고 더 쓰고 싶으면 돈을 더 내라고 하는게 옳았을까? 이 문제는 둘로 나뉘어 진다. 하나는 그게 바람직한가 하는 것이고 또 하나는 그게 가능한가 하는 것이다. 그 답은 둘 다 아니오다. 즉 자연법칙에 대해 돈을 내라고 하는 비지니스 모델은 바람직하지도 가능하지도 않다. 

 

이 글이 내 책의 완전 반복이 되지 않기 위해 짧게 말하자면 AI 모델이란 결국 데이터속에 존재하는 법칙을 컴퓨터 최적화로 찾아낸 것이다. llm 즉 요즘 사람들이 많이 쓰는 AI의 경우 이 데이터란 인류문명이 만들어 온 언어 데이터다. 그 안에 존재하는 법칙을 찾아낸 것이 llm이다. AI 모델이 중력법칙이나 운동방정식 같은 자연의 법칙이라는 말은 이래서 나온 것이다. AI 모델은 자동차처럼 만들어 지는게 아니라 데이터 안에서 발견되어지는 지식이다. 마치 3 사람의 평균 몸무게 같은 것처럼 말이다. 

 

법칙에 돈을 매기는 것이 왜 바람직하지 않을까는 만약 뉴턴이 그럴 수 있다고 하더라도 그랬다면 어땠을까를 생각해 보면 알 수 있다. 당연히 그것은 과학발전을 거의 완전히 멈춘 것처럼 만들었을 것이다. 과학의 발전은 과학자들이 자신의 발견을 돈과 상관없는 것으로 여기면서 논문으로 발표하는 것에 크게 기여한다. 자유로운 지식의 공유가 아니면 지식이 빠르게 누적되지 못한다. 

 

바람직하지 않다면 가능은 할까? 법칙은 이미 존재하는 것이다. 누가 발견하지 못했을 뿐이다. 그래서 그걸 독점해서 돈을 받겠다는 생각은 가능하지 않다. 이미 AI 모델의 세계에도 같은 일이 벌어진다. 세계 최고의 모델은 아주 비싼 사용료를 요구하지만 공짜로 쓸 수 있는 오픈소스는 그걸 1년도 안되는 시차로 쫒고 있다. 뉴턴이 자신의 법칙을 돈을 받고 사용하게 했다면 누군가 다른 사람이 별도로 자연의 법칙을 발견하고 그걸 쓰라고 했을 것이다. 그리고 그 두 법칙은 실질적으로 같을 것이다. 이러니 어떻게 자연의 법칙에 요금을 매기겠는가. 

 

여기에는 아직 확실하지 않은 한가지 전망이 관련되어져 있다. 말했듯이 우리가 만드는 llm은 데이터 안에 있는 질서를 찾아낸 것이기 때문에 한정없이 좋아질 수가 없다. 그런데 초기에는 컴퓨터 최적화로 찾아낸 법칙이 그리 훌룡하지 못했다. 그래서 우리는 엄청나게 규모를 키웠고 그 결과 AI 모델의 성능이 크게 향상된 것이 지난 몇년간의 일이다. 그래서 사람들은 AI가 한정없이 좋아질 수 있다고 믿게 되었다. 이것이 거대한 착각이다. 데이터가 더 없이 때문에 혹은 그 데이터 안에 존재하는 법칙을 이미 찾았기 때문에 AI 성능은 천정에 부딪히게 된다. 그게 언제일까? 내가 보기엔 그 일은 이미 일어나고 있다. 

 

이 문제를 논하기 위해서 우리는 다시 AI가 AI 모델과 하네스의 합이라는 점으로 돌아가야 한다. 이런 총체적 AI를 말할 때 AI의 가능성은 무한하다. AI는 한정없이 좋아질 수 있다. 하지만 무한한 것이 제약이 없다는 뜻은 아니다. 그리고 AI가 그런것이지 AI 모델이 그런게 아니다. 고전역학이라는 현대과학 이전의 과학도 무한한 적용 범위를 가졌다. 하지만 그것은 양자현상을 설명할 수 없는 한계를 가졌다. 이 차이를 우리는 알아야 한다. 

 

AI 모델을 뉴턴의 운동법칙과 중력법칙으로 생각해 보라. 우리는 그것을 단지 몇줄로 쓸 수 있다. 거기에 우리가 더 알고 있는 맥스웰의 법칙이나 통계학 법칙들같은 것을 더해도 마찬가지다. 다 해도 한페이지에 쓸 수 있다. 그런데 그 간결한 법칙들을 알고 있으면 정말 우리가 이 거대한 근대 문명을 곧바로 가지게 되는가? 전자공학과 기계공학적으로 자동차에 설명할 수 없는게 없으면 법칙을 안다는 것이 곧 자동차를 가지는 것과 같은게 되는가? 그건 마치 한글을 알면 한글로 쓸 수 있는 모든 글을 이미 소유한 거나 마찬가지라는 주장과 같다. 전혀 사실이 아니다. 

 

AI의 무한한 가능성을 구현하는 것은 AI 모델이 없으면 불가능하다. 그것은 마치 뉴턴의 운동법칙과 중력법칙이 없이 고전역학을 만드는 것이나 마찬가지다. 하지만 그렇다고 해도 구체적으로 수없는 문제를 이해가능하게 하고 문명을 구축하는 것은 그 법칙을 전개해서 구체적인 발명품을 만들고, 이론을 만드는 과학자들의 작업이다. 기하학의 공리 몇개를 아는 것과 피타고라스 정리를 안다는 것은 논리적으로는 같지만 피타고라스 정리를 증명해내야 그걸 쓸 수 있다. 

 

그러니까 사람들이 비지니스를 하고 돈을 받은 것은 주로 후자의 일이었다. 그것도 제한적으로만 그랬다. 자연법칙이 아니라 과학적 이론에도 사람들은 돈을 달라고 하지 않았고 몇몇 발명품의 경우에만 그걸 가지고 돈을 벌었다. 그것도 시효가 짧았다. 누구도 내가 세계최초로 자동차를 발명했으니 앞으로 자동차를 만들 사람은 다 나에게 돈을 내라고 하지 않았다. 즉 상품과 서비스에 돈을 받았지 법칙과 지식 자체에 돈을 받지는 않았다. 

 

이런 과거를 돌아보면 우리는 AI의 미래는 상당부분 AI 모델이 아니라 하네스에 달려 있다는 것을 알게 된다. 굉장히 완성도 높은 AI 모델을 만들어 낸 사람은 뉴턴처럼 역사에 남는 인물로 기억될지 모르나 세상을 구체적으로 바꿔가는 것은 그 AI 모델을 써서 일을 하게 하는 하네스다. 한글같은 문자를 만드는 것은 세종대왕의 엄청난 업적이지만 그것이 한글로 저술되는 한국 문학 전체를 독점적으로 소유하게 되는 게 아니다. 

 

무엇보다 하네스는 누적된다. AI 모델은 앞에서도 말했듯이 금방 후속모델들이 따라잡는다. 그리고 천장이 있다. 점점 더 비싸지고 더 좋은 걸 만들 수가 없다. 그렇게 보여온 것은 AI 모델과 하네스를 구분하지 않았기 때문이다. 하네스와 결합된 AI 모델의 가능성은 무한하기 때문에 그렇게 되면 AI가 한정없이 좋아지게 된다. 

 

이 구분은 굉장히 중요하다. 세계의 모든 사람들이 중력법칙을 알고, 글자를 알듯이 그래서 그걸로 어떤 이론을 만들고 글을 쓰듯이 하네스는 세계의 모든 사람들이 만들어야 하는 것이다. 그리고 그 과정에서 합쳐지고 누적되어서 하나의 새로운 문명을 쌓아올리게 될 것이다. AI 모델은 모든 사람이 만들 수도 없고 만들 필요도 없지만 하네스는 몇개의 회사가 독점적으로 만들 수도 없고 만들어서도 안된다. 실제로 그래서 AI 분야에는 오픈 클로니 에르메스니 하는 하네스가 따로 나와 있다. AI 모델만으로 성능을 내는 것같은 앤스로픽같은 회사가 실은 수만줄에 달하는 방대한 하네스를 가지고 있다는 점도 알려져 있다. 이미 하네스의 중요성이 두드러지게 된 것이다.  

 

현재의 상황은 하네스의 대중화나 중요성은 무시된 채 AI 모델로 돈을 벌 수 있다는 비지니스 모델을 마음에 가진 사람이 많아 보인다. 그런데 그래서는 결국 그 투자가 경제적으로는 실패하게 될 것이다. 그래서는 결국 자연법칙을 발견하고서는 우리끼리만 쓰겠다는 식의 주장을 하게 될 것이다. 하지만 그런 식으로 폐쇄적으로 굴면 열린 태도를 가진 사람들이 자신을 순식간에 추월해 가는 것을 보게 될 것이다. 뉴턴이 자기만 자기 이론을 알고 내 책을 보고 싶으면 돈을 내라고 했다면 얼마지나지 않아 자유롭게 과학을 하는 커뮤니티가 그런 뉴턴을 잊혀지게 만들었을 것이다. 지금 더 폐쇄적으로 변해가는 미국과 계속 오픈소스를 발표하는 중국의 관계가 이런 모습처럼 보이기 시작하고 있다. 

 

AI 시대는 변화가 매우 빠르다. 하나의 비지니스 모델이 무력화되는 것이 겨우 몇년밖에 걸리지 않을 수 있다. 그래서 착각은 큰 고통을 불러올 것이다. 큰 돈을 벌 수 있다고 엄청난 돈을 걸었는데 겨우 몇년만에 돈이 멈출 수 있고, 수십년 계속될 비지니스 플랜은 잘 나가는 듯 하다가 마법처럼 사라질 수 있다. 지금 AI 모델로 돈을 벌려는 시도가 그런 처지에 있다. 

AI 모델이 공공재가 되어야 한다면 그건 기본적으로 정부의 돈으로 만들어져야 한다. 그래야 모두의 것이 될 것이기 때문이다. 그렇지 않고 개인투자자의 돈으로 만들어 진다면 그 돈이 사회적 기부처럼 되어버리거나 혹은 자신의 투자금을 회수하려는 노력때문에 자연법칙에 돈을 받으려고 하는 폐쇄적 행동으로 나아가게 될 것이다. 이같은 압력은 성공할 수 없고 사회적으로 큰 해를 끼칠 것이다. 그걸 위해서라도 거대한 착각은 사라져야 한다.