인간의 선택, AI의 선택

나는 일전에 윤리의 미래는 AI라는 글을 쓴 적이 있다. 그 글은 판단은 결국 데이터와 통계분석에 의해 내려져야 하는 경우가 점점 더 많아지며 AI의 판단이란게 그런 것이라서 인간의 선악 판단도 AI에 의존하는 경우가 많아 질 것이라는 주장을 담고 있었다. 예를 들어 아이 앞에서 담배를 피워서 간접흡연을 시키는 일이 얼마나 나쁜 일인가는 통계적 분석에 따라 그같은 일의 의미를 밝히는 것에 크게 의존하게 된다.

시간이 가면 갈 수록 이같은 결론은 보다 자명한 것이 되어 가고 있다. 왜냐면 AI에 의한 자동화가 더 많아지면 질 수록 우리는 그걸 당연하게 여기게 되기 때문이다. 인간이 지하철 시스템에 적응하듯이 인간은 점차 AI로 자동화되는 환경에 적응해야 한다. 그리고 AI에 의한 자동화란 결국 그 의미가 데이터와 통계적 분석에 따른 결과를 받아들이는 것에 해당한다. AI는 전통적인 상징주의 프로그래밍과 달리 결국 데이터에 근거해서 내려지는 결과를 받아들인다는 것이기 때문이다.

이같은 변화는 단순히 자동화라던가, AI의 중요성이 증대한다는 것 이상의 의미를 가지고 있다. 이것은 합리적 판단이란 무엇인가라던가, 어떤 판단이 가지는 궁극적 권위는 어디에서 나오는가 하는 질문으로 이어지며 오늘날 우리가 인본주의라고 부르는 사상과 민주주의 정치 사회라는 것에 대한 생각으로 이어진다.

인본주의란게 뭔가? 그 핵심은 인간이 이성을 가진 숭고한 존재라는 것이다. 왜 이런 사상이 필요한가? 그것은 관습적인, 종교적인 것에서 판단의 권위를 찾았던 인본주의 이전의 사상과 다른 것이 필요했기 때문이다. 종교적인 사상에서 어떤 것이 왜 옳은가에 대해서 우리는 인간의 이성을 강조하지 않는다. 그것은 성스러운 문헌인 성서 같은 것에 이미 적혀 있는 것이고, 그렇지 않다고 하더라도 예언자의 입을 통해서 신이 계시하는 것이다. 즉 위대한 종교지도자도 자신의 이성 때문에 옳고 그른 것을 말하는 것이 아니라 단지 신이 그 입을 통해 말하고 있을 뿐이라는 것이다.

그렇기 때문에 종교적인 질서에서는 인간의 선택이 중요한게 아니라 신의 선택이 중요하고 왕같은 정치적 지도자는 신의 선택을 받은 인간으로 여겨진다. 하지만 우리가 살고 있는 공화국에서는 그렇지 않다. 우리는 인간의 선택으로 지도자를 뽑고 인간의 선택의 숭고함을 강조한다. 학벌이나 재산이나 지역에 상관없이 1인 1표로 해서 사회적인 선택을 할 수 있다는 것은 인간이 동물과는 다른 숭고한 이성을 가진 존재라는 인본주의 사상에 근거한 것이다.

그러나 현실적으로는 이 인본주의 사상은 중대한 도전을 받는다. 하나는 교육에 의한 것이고 또 하나는 전문가적 판단에 의한 것이다. 우리는 과연 교육없이도 인간이 합리적인 판단을 할 수 있다고 말할 수 있을까? 그렇다고 주장하기 어렵다. 그래서 오늘날 전세계에서 교육은 권리이자 의무가 되어 있는 것이다. 국민의 대다수가 문맹인 나라에서 민주적인 절차에 따라 합리적인 결과가 나올 수 있을 것이라고 믿기는 어렵기 때문이다. 즉 우리는 인간은 본래 이성적이고 숭고한 존재라고 주장하지만 현실적으로는 적어도 최소한의 교육이 필요하다는 사실을 부정할 수 없다. 그래서 그런 교육과정을 통과하지 않은 어린이나 청소년은 시민으로서의 기본권을 제약받는 것이 보통이다. 유치원 생도 대통령을 뽑게 하는 나라는 없고 유치원 생은 자신의 재산권도 제대로 행사하지 못한다.

또 다른 도전은 전문가에 의한 것이다. 핵무기의 제조법이라던가 가장 훌룡한 댐을 건설하는 방법에 대한 판단이 필요하다고 할 때 그것이 전문적 지식을 요구한다는 사실은 분명하다. 그걸 국민투표로 결정할 수는 없다. 이렇게 전문화된 분야는 이미 아주 많으며 지금 이순간에도 점점 더 증가하고 있다. 그렇다고 할 때 인간은 이성적 판단을 할 수 있다는 말은 도전받게 된다. 전문적 지식이 없는 사람이 판단에 참여해야 할까? 대통령을 뽑는 것에는 누구나 1인 1표로 참여하는데 누가 좋은 대통령인가라는 질문은 전문적인 지식이 없어도 답할 수 있는 것이 맞는가? 이같은 전문성 문제를 잘 이용하면 민주주의는 와해될 수 있다. 그때 그때마다 이것은 전문가적인 판단이 필요한 것이라고 주장하면서 독재를 할 수 있기 때문이다.

교육과 전문성에 의한 인본주의의 위협이란 측면에서 아주 새로운 변화를 가져온 것이 바로 AI이다. AI는 인류의 모든 지식을 다 가지고 있다. 즉 전문화되지 않은 이성이라고 할 수 있다. 이제까지의 논의를 잘 생각해 보면 우리는 앞으로 점차 합리적 판단이란 AI의 중요성을 인정하면서 그 도움을 받은 인간이 내린 판단이라고 말해야 하는 시대로 우리가 진입하고 있다는 결론을 내리게 될 것이다. 인간은 AI에게 무조건 동의해서도 안되고 그러지도 않을 것이다. 그러나 판단의 기본적 자료는 AI에게 받는 게 필수적일 수 있다. 미래에는 누가 대통령이 되는 것이 바람직한가에 대해서 일단 AI의 말을들어보고 인간이 그걸 기본으로 해서 그 판단을 수정하는 시대가 될 수 있다.

교육없이 전문적 지식 없이 많은 경우에 인간의 판단은 합리적이지도 이성적이지도 않다. 그리고 그런 경우는 세상이 더 복잡해지고 빠르게 변하는 곳이 되어감에 따라 점점 더 증가하고 있다. 그리고 이제 우리는 AI 없이는 인간의 판단은 합리적이지도 이성적이지도 않은 시대로 가고 있는 것이다. 즉 교육이 의무화되듯이 AI의 사용이 의무화되어야 하는 시대로 우리는 가고 있다. 그렇지 않은 경우 그런 사람의 판단은 사회적으로 믿을 수 없는 것으로 여겨질 것이다. 이것을 AI에 의한 인간의 지배 운운하는것은 시대착오적이다. 물론 모든 시스템이 그러하듯이 이런 시스템은 위험한 문제를 가지지만 AI에 의한 판단은 기본적으로 데이터에 기반한 판단이다. 이걸 부정하고, 인간이 데이터를 직접 분석하기가 불가능한 시대에 AI 사용을 피하려는 것은 글읽기를 피하면서 그 판단의 합리성을 주장하는 것처럼 비현실적이기 때문이다.

큰 회사의 사장을 생각해 보라. 그 사장은 중요한 판단을 하겠지만 그러기 위해서는 그 회사에 관련한 데이터를 잘 분석해서 내놓은 보고서가 필요하다. 잘 정리된 보고서에 기반해야 사장은 경영적 판단을 내놓을 수 있는 것이지 자기가 직접 데이터 수집에 분석까지 한다고 하면 큰 기업의 경영은 불가능할 것이다. AI에 의존하는 인간의 판단이란 결국 이런 것이나 마찬가지다. AI는 인간을 위해 일하는 직원의 역할을 할 것이고 해야 한다. 그것없이는 세상은 점점 더 살기 어려운 곳이 될 것이다.

이런 미래에서 중요해 지는 것은 인간이 겸허해 지는 것이다. 인간은 대단한 존재이지만 그 자신이 홀로 대단한 존재가 아니다. 문명이란 건 집단적 결과물이다. 인간이 타고난 DNA에 있는 정보만으로는 생존도 불확실하며 하물며 대단한 일을 할 수가 없다. 그러니까 돌아보면 개인주의적인 인본주의란 AI의 등장 이전에도 옳지 않았다고 할 수 있다. 인간은 결코 독립적으로 옳은 판단을 내릴 수 있는 존재가 아니다. 그건 세상이 천천히 변해서 문명이나 문화적 변화가 거의 없는 시대에 그런 문명적 환경을 당연한 것으로 여겼던 사람들이 가진 착각이다.

이러한 측면은 세상이 빠르게 변하고 그 복잡성이 크게 증가하여 이 세상이 하나의 망처럼 연결되는 시대에는 아주 극명해 질 것이다. 인간은 도구 없이는 변화를 따라갈 수 없을 것이다. 지금도 인간은 문명 사회 바깥에서 무능하다. 최고의 과학자도 문명사회를 벗어나면 생존이 불확실하다. 과학연구를 할 수 없다. 그런데 AI 시대에 인간이 인간과 AI로 이뤄진 망에서 벗어나서 어떤 판단을 홀로 합리적으로 내릴 수 있다는 말은 옳지 않다. 세상에 무슨 일이 벌어지고 있는 지를 전혀 이해할 수 없을 것이기 때문이다.

우리가 이제까지 인간이라고 부르는 존재도 문자같은 문명적 도구에 의존해서 침팬지같은 동물의 이성을 확장한 존재였지만 앞으로의 인간은 더더욱 그럴 것이다. 제대로 된 인간은 망속의 인간이고 AI를 써서 그 지능을 확장한 인간이다. 그렇게 해서 개인은 인류가 이제까지 쌓아온 모든 지식을 보다 적극적으로 사용할 수 있는 존재가 될 것이다.

정리하자면 종교적 시대에 합리적 판단이란 관습적 신적인 권위에 의존하는 것이었다. 그리고 인본주의의 시대는 상당부분 개인주의적인 인간의 판단의 권위에 의존해서 합리적 판단을 내려왔다. 민주주의가 다수결 투표와 같은 것이라는 믿음은 이렇게 만들어진 것이다. 우리는 그걸 인간은 이성을 가진 존재라고 말한다.

AI 시대에는 합리적 판단은 결코 어떤 개인의 독립적인 사고의 결과가 되지는 않을 것이다. 이것이 개인들이 주관적으로 독립적으로 사고하려고 노력하지 않게 된다는 뜻은 아니다. 오히려 그 반대다. 그렇게 하는 것이 데이터의 측면에서 옳다. 사람들은 남들과 같은 것을 해서 같은 데이터를 생산하는 것이 의미가 없다는 것을 절실히 느낄 것이다. 하지만 우리는 결국 우리의 판단의 바닥에서는 우리를 둘러싼 환경의 영향이 절대적이라는 것을 인정할 수 밖에 없다. 최고의 자동차 경주 드라이버도 자신의 주행이 자동차라는 기계의 성능에 기초한다는 것을 부정할 수 없듯이 우리가 최대한 우리 주변을 잘 활용해서 판단을 한다고 해도 그 판단은 우리 주변을 구성하는 것들에 기초한 것이다. 그 주변에서 중요한 것이 바로 사람과 AI가 되는 것이 AI 시대다. 이제 우리는 겸허한 인본주의 시대로 간다.