AI와 가치판단의 지능

23.10.4

%다음은 유튜브 영상 대본입니다. 다만 이 글은 앞의 글 AI가 대중문화운동이어야 하는 이유를 수정해서 쓴 것이라서 겹치는 곳이 많습니다. 참조 바랍니다. 

안녕하세요. 오늘의 질문 강국진입니다. 요즘은 AI가 무엇인가에 대한 내용을 시리즈로 녹음하고 있습니다. 본래는 시리즈가 될 생각이 없었는데 하다보니 시리즈가 되고 말았군요. 오늘은 이 시리즈의 4번째로 AI와 가치판단의 지능이라는 주제를 가지고 이야기해 보겠습니다. 

 

AI는 인공지능이죠. 그러니까 인공이든 아니든 우리는 AI에 대해 이야기하려면 지능이 무엇인가에 대해 생각하게 됩니다. 그리고 지능에 관련해서는 많은 사람들에게는 놀라운 말이 될 수 있는 한가지 문장이 존재 합니다. 그것은 바로 이 문장입니다.

 

과학은 지능을 가지지 않는다. 

 

매우 똑똑한 사람이 하는 것이 과학인데 과학이 지능을 가지지 않는다라고 하면 놀라는 분들이 있을지 모릅니다. 하지만 이 말은 오늘날에는 꼭 기억해야 하는 문장이 되었습니다. 왜냐면 AI가 발달하고 있기 때문이죠. 흔히 기계로 여겨지는 것이 지능을 가지고 있다고 하니까 지능이 무엇인지에 대해 더 생각해 볼 필요가 있는 것입니다. 

 

이 문제는 과학의 보편성때문에 생기는 겁니다. 과학은 그래서 흔히 가치 중립적이라고 말해집니다. 그것은 너무나 보편적인 지식이기 때문에 좋다 나쁘다가 없고, 어떤 의미도 주지 않는다는 겁니다. 그래서 우리는 과학적으로 평가해서 인생의 의미를 찾을 수 없습니다. 그러니까 만약 여러분이 좋고 나쁜 것을 구분할 수 있는 것이 지능의 최소조건이라고 말한다면 과학은 우리의 삶이 지능적인 것이었는지 그렇지 못한 것이었는지 말할 수 없다는 겁니다. 

 

가치 평가를 포함하지 않는 과학은 우리의 인생이 가지는 의미라던가, 우리 인생에서 풀어야 할 문제같은 것을 말해주지 못합니다. 과학적 지식이 의미를 가지게 되는 것은 그것을 써서 뭔가를 하는 인간이 있기 때문입니다. 과학적 지식으로 뭘 할 것 인가를 결정하는 것은 과학이 아닙니다. 그래서 과학은 지능적 행동의 수단이나 결과일 수는 있지만 그 자체가 지능을 가진 것은 아닙니다. 

 

미묘한 차이처럼 보이는 이런 사실을 강조하는 것은 AI 때문입니다. 우리는 AI가 지능을 가지기를 기대합니다. 그러면서도 어딘가에서 우리는 AI가 그럴 수 있는 것은 본질적으로 계산을 잘해서 그런 거라고 믿는 경향이 있습니다. 과학이 지능을 가지지 않는다면 단순한 계산의 반복도 지능을 가지지 않습니다. AI가 가지는 지능의 본질은 복잡한 계산에 있는게 아닙니다. 

AI가 가지는 지능은 데이터에서 나옵니다. 그리고 데이터는 AI가 놓여진 환경에서, AI가 풀려고 하는 문제에서 나옵니다. 환경과 문제를 빼놓고서는 지능이나 합리적 판단을 이야기할 수 없습니다. 무한한 보편성을 가진 과학이 지능을 가질 수 없는 것은 바로 그 보편성 때문입니다. 시공간의 제약없이 어디서나 옳은 지식이기 때문입니다. 

 

예를 들어 바둑에는 게임의 규칙이 있습니다. 그래서 우리는 바둑게임을 이기기 위한 지능적인 선택이라는 것을 이야기할 수 있습니다. 이 규칙이 데이터를 결정하고 AI가 처한 환경을 결정합니다. 이 규칙이나 환경이 애매하다면 우리는 지능이라던가 합리성같은 것이 뭔지를 이야기할 수 없습니다. 

 

알파고 같은 AI가 바둑 세계 챔피언을 이겼다지만 누군가가 자기 차례에 속임수를 쓴다고 해 봅시다. 바둑알을 두 개 놓거나 바둑알 하나를 바꿔치기 하는 겁니다. 그러면 그 사람은 당연히 알파고를 이길 수 있습니다. 그러나 이럴 때 우리는 알파고가 지능적이지 못하다고 하지는 않습니다. 왜냐면 바둑에는 명확한 게임의 규칙이 있고, 우리는 바둑게임에서는 규칙을 지켜야 한다고 믿기 때문이다. 

 

하지만 바둑판에 앉아 있는 것이 사람이라면 우리의 생각은 좀 다를지 모릅니다. 속이는 사람이 잘못하는 거지만 상대편이 거듭 속임수를 쓴다면 그걸 알아차리지 못하는 사람도 어리석다라고 말할 수 있습니다. 사실 현실 사회속의 많은 문제는 명확한 규칙이 없습니다. 규칙은 바뀌기도 하고, 규칙이 있어도 그걸 지키지 않는 사람들이 있습니다. 그래서 사람들은 누군가가 속임수를 쓸 가능성에 열려 있습니다. 속임수가 있으면 그걸 알아 채야 한다고 생각합니다. 

 

다시 알파고로 돌아가 봅시다. 우리가 속임수를 써서 알파고같은 AI를 이기는 것이 의미가 있을까요? 상대방이 속임수를 쓰지 않는다고 알파고가 믿는다면 그건 어리석은 것이고, 지능이 떨어지는 것일까요? AI가 지능이 있다거나 없다는 것이 무슨 뜻일까요? 

 

우리는 다시 지능과 환경, 지능과 사고의 경계에 대한 생각으로 돌아가야 합니다. 세상에는 절대적 의미에서 지능적인 행동이 있는게 아닙니다. 똑같은 행동을 했는데도 어떤 사람은 그것을 지능적인 것으로 여기고 어떤 사람은 그렇지 않다고 여기게 됩니다. 그 두 사람은 서로 다른 환경, 서로 다른 사고의 경계, 서로 다른 게임의 법칙을 생각하고 있기 때문입니다.

 

이것이 과학과 AI의 큰 차이입니다. 과학은 보편적 법칙이나 지식을 추구합니다. 그러면서 환경은 잊어버리는 경향이 있습니다. 시공의 경계를 가지지 않고 옳은 것이 과학이니까요. 하지만 AI에서 환경은 모든 것입니다. 시공의 경계를 가지지 않고 옳은 AI란 있을 수 없습니다. 이 부분을 무시하기 때문에 AI가 인류를 멸종시킨다는 말이 나오는 겁니다. 

 

AI를 만들기 위해서는 먼저 우리는 그것이 가지는 환경을 정해줘야 합니다. 자율주행 AI에서 말하자면 이것은 어떤 환경에서 자동차를 운전하라고 했는가와 같은 질문이 됩니다. AI는 주어진 문제를 해결할 뿐입니다. AI를 속이는 것은 무의미합니다. 망치로 자기 손을 때린 후에 망치가 나빴다고 말하는 것은 옳지 않습니다. 

 

 

AI가 발달한 미래가 오기 위해서는 여러가지가 필요합니다. 물론 우리는 천재적 엔지니어도 필요할 것입니다. 그러나 AI가 발달하기 위해서 가장 필요한 것은 AI를 이해하고 미래를 수용할 진보적인 대중입니다. 이 대중이 어떤 문제를 AI가 풀어야 할까를 결정합니다. 게임의 법칙을 설정하고, AI가 작동할 환경을 결정하는 것은 대중입니다. 

 

마지막으로 한가지 이야기만 더하고 오늘의 녹음을 마치겠습니다. 우리는 AI에 대해서 이야기하다가 환경과 지능의 관계에 대해서 이야기하게 되었습니다. 이것은 반드시 인공적인 지능에 대해서만 옳은 말이 아닙니다. 사람도 인식의 한계, 사고의 경계를 가집니다. 그리고 그 안에서 윤리적인 판단을 하고 지능적인 판단을 하는 것입니다. 

 

그런데 우리는 행동이나 판단 그 자체에만 주목하고 그것이 객관적으로 윤리적인가 지능적인가를 따지려고 하는 경향이 있습니다. 우리는 대개 스스로가 가지는 인식의 한계, 사고의 경계는 잘 따져 보지 않습니다. 왜냐면 그것이 어렵기 때문입니다. 인식의 한계 너머는 잘 보이지 않고, 사고의 경계 너머는 우리의 생각이 도달하기 어렵습니다. 

 

하지만 어떤 행동이 윤리적인가 가치있는 일인가를 객관적으로 따지는 일은 모든 사람들이 똑같은 상식을 가지고 있는게 아니라면 옳지 않습니다. 그리고 오늘날 처럼 복잡하고 빨리 변하는 세상에서는 그건 불가능합니다. 

 

AI 시대가 오기 위해서는 대중의 사상적 전환이 필요합니다. 그것은 AI를 이해하는 일이고, 우리가 가진 인식의 한계와 사고의 경계를 다시 살피는 일입니다. 이런 것은 결코 연구실에서 일하는 누군가가 대신해 줄 수 없는 것입니다. 

 

오늘의 질문. 오늘은 AI와 가치판단의 지능이라는 주제로 말씀드렸습니다. 여기까지 강국진이었습니다. 안녕히 계세요.