시스템 그리고 개인의 입장

23.6.7

시스템이 거대해 질 수록 개인의 입장과 시스템의 입장차이에는 간격이 생기게 된다. 이 것에 대해서는 확률이 중요한 역할을 한다. 이런 확률계산을 생각해 보자. 여기 백분의 1로 터지는 폭탄이 있다. 그러니까 이 폭탄의 스위치를 눌러도 터지지 않을 확률이 99%나 된다. 그렇지만 어떤 사람이 이런 폭탄을 천번 만번 점화시킨다면 어떨까? 그렇다면 폭탄은 반드시 터질 것이다. 구체적으로 계산을 해보자면 천번을 시도해서 이 폭탄이 터지지 않을 확률은 0.0043% 밖에 되지 않는다. 반드시 죽는다고 봐야 한다. 

이 확률의 계산은 오늘날 처럼 사람들이 수 없이 많은 사람을 만나고, 수없이 같은 일들을 반복하는 상황에서 의미가 깊다. 앞에서 말한 확률은 소방관이 불속으로 뛰어들어서 사고가 없을 확률일 수도 있고, 의사가 절차를 무시하고 환자를 치료했을 때 파산하거나 고소당하거나 본인이 다칠 확률일 수도 있다. 의사나 소방관만 그런게 아니다. 우리는 수없는 타인들을 만난다. 클럽에 가서 모르는 남자가 주는 술을 마셨을 때 그 술이 마약이나 수면제가 들어있을 확률은 매우 낮을 것이다. 그렇지만 그걸 반복하면 어떻게 될까? 

이렇게 수없이 많은 낯선 사람을 만나고, 수없이 많은 위험한 상황을 만나는 등 같은 행위를 반복할 때 위에서 한 계산을 망각하면 필연적으로 큰 댓가를 치루게 된다. 그런데 그게 현대인의 삶의 특징이다. 그러니까 우리는 예절을 만들고, 절차니 프로토콜이니 하는 것을 만드는 것이다. 그런데 사람은 대개 남의 일에 무관심한 편이고 그게 아니라도 사람은 본래 현대 사회처럼 복잡한 인간관계를 가지고 거대한 시스템의 부속품으로 일하도록 진화한 존재가 아니다. 그러니까 사람들은 이런 기본적인 확률계산이나 서로의 입장을 이해못하거나 무시하게 되기 쉽다. 

우리 집에 불이 났다고 해보자. 내가 보기엔 거기 에 뛰어들어서 위험할 확률은 별로 없다. 그런데도 절차니 뭐니 하면서 위험을 무릅쓰지 않는 소방관을 보면 우리는 무슨 생각을 할까? 그가 겁쟁이이거나 형식에 빠져서 피해자의 아픔을 모른다고 할 것이다. 하지만 개인은 그걸 직업으로 하는 사람과는 입장이 다르다. 불타는 집에 뛰어들어서 죽을 확률이 백분의 1이라면 나에게는 죽을 확률이 그저 백분의 1이다. 왜냐면 나는 화재현장에 날마다 가는 사람이 아니기 때문이다. 그러니까 죽을 확률을 생각했을 때 위험을 무릅쓴 도박을 하고 싶어진다. 충분히 이득이 남는 가능성있는 도박이기 때문이다. 하지만 소방관의 입장에서 생각해 보자. 설사 스스로 뛰어드는 것이 아니라고 해도 매일같이 집주인이 뛰어드는 것을 방치하면 얼마 지나지 않아 소방관이 통제하지 않아서 뛰어든 집주인이 죽는 사고가 반드시 날 것이다. 소방관이 이걸 허락할 수가 있을까?  

이렇게 시스템에서는 필연적으로 개인과 시스템의 입장이 충돌하게 된다. 거대한 시스템은 인간을 부품으로 하고 그 인간의 행동을 더욱 더 정밀하게 제약한다. 요즘 판검사들이 엉터리로 일을 한다고 욕을 하는 일이 많다. 하지만 그들이 도대체 몇  건의 일을 하고 있는가를 생각해 보자. 인간인 그들이 스스로의 안전과 복지를 생각하면서 절차에 따라서 일을 하면 그 서비스를 받는 개인의 입장에서는 매우 무성의한 일처리가 되기 쉽다. 

의료시스템도 다른 예이다. 의사는 환자를 진료하고 치료하는 사람이라고 하면 의사가 해야할 일이 명백한 것같지만 그건 오히려 사회시스템이 후진적일 때나 가능하다. 발달된 사회의 의료시스템은 하나의 거대한 기계처럼 작동한다. 거대한 규모로 볼 때 그것이 더 많은 사람을 살리는 것도 사실이기 때문에 그런 시스템을 부정하기는 논리적으로 쉽지 않다. 손만 잘 씻어도 죽는 사람이 줄어드는가 하면 너무나 비싸고 어려운 치료를 해도 구해지는 목숨의 수는 하나이기 때문이다. 

이렇게 시스템에서 생각하는 안전선과 개인의 입장이 되어 느끼는 안전선은 서로 크게 다르다. 이 차이는 거대한 시스템은 도대체 뭘 위해서 있는 것일까에 대해 의문을 던지게 한다. 보통 규모의 경제라고 해서 우리는 거대한 시스템이 더 효율적이라고 생각하는 일이 많은데 정말 그런거 맞을까? 국가적으로 보면 우리 눈에는 사람을 살리는 시스템만이 보인다.  하지만 하나의 특정한 현장에서 일하는 의사나 그 특정한 환자는 바로 그 시스템이 사람을 죽이는 것처럼 느끼게 만들기 쉽다.  

여기에 뇌물이니 인맥이니 하는 개인적인 유혹이 들어가게 되면 현실 세상이 된다. 힘없고 돈없는 사람에게는 규정상 절대로 안되는 일, 절대로 용납이 안되는 일이 가진 자에게는 다 허용되는 일이 된다. 사실 앞에서 말했듯이 문제의 핵심은 규모에 있다. 불타는 건물로 뛰어들어가지 말라는 것이 규칙인 이유는 대부분 그런 위험한 일을 하는 것을 반복하기 때문이다. 그러니까 이번만 한다는 정신으로 규칙을 어겨도 문제는 사실 대부분 일어나지 않는다. 보상이 있을 때 그런 유혹에 넘어가기 쉬운 이유다. 개인적인 판단으로 어떤 때는 규정이 무시되고 어떤 때는 규정이 변명거리가 된다. 당하는 사람 입장에서 보면 그냥 더러운 부패에 지나지 않게 되는 것이다. 

이 보편성과 특수성의 문제는 아직 답이 없다. 어쩌면 답이 있을 수 없는 문제일지도 모른다. 많은 사람들은 자기 합리화를 하는데 있어서 이 양쪽의 입장을 번갈아 쓰는 편이다. 자기가 원하면 규칙이나 프로토콜 따위는 완전히 무시하면서 현장의 논리를 펴다가 반대로 자기가 그걸 원하지 않으면 시스템이나 원칙이나 보편의 문제를 이야기하는 것이다. 마치 그 두개의 입장이 동시에 성립할 수 있는 것처럼 말이다. 어떤 사람들은 현실 사회의 부패나 현장에 대한 몰이해를 지적하면서 이런 시스템은 아예 없어야 한다고 말할 수도 있다. 1년에 단 한명이 죽는다고 해도 그 한명이 내 가족이라면 내 가족을 죽인 시스템을 용서하기는 힘들다. 그러나 사실 대부분의 경우는 부패한 시스템보다 완전한 무질서가 훨씬 더 나쁘다. 그래서 논란은 끝이 없다.  

이같은 이야기를 천천히 검토하면 우리는 결국 AI같은 자동화 기술에 의지하고 싶은 생각을 하게 된다. 이런 문제의 근본원인은 인간이 거대한 시스템의 부속품이 되기에 적합하지 않다는 사실에  있기 때문이다. 그리고 그것이 시스템의 성장을 막는다. 인간이 병목현상을 만드는 셈이다. 전화기가 나온 초기에는 인간 교환원이 전화를 거는 사람과 받는 사람 사이에 서서 전화를 연결해 주었다. 자동교환기가 나와서 그 시대가 극복되지 않았다면 전화시스템은 오늘날처럼 거대해 질 수 없었을 것이다. 사용자가 많아짐에 따라 전화는 더 불편한 물건이 되어서 결국은 소수의 사람들만 쓰거나 아예 쓰지 않았을 수도 있다. 마찬가지로 도시에서 교통 신호가 자동으로 작동하지 않는다면 도시에서의 교통은 지금보다도 훨씬 더 견딜수 없이 나빴을 것이고 자동차의 인기는 지금같을 수 없었을 것이다. 

사람이 거대한 시스템의 부속품이 되어 일하며 사는 시대는 바로 직업의 시대이다. 인간이 오늘날 안전하고 부유하게 사는 이유는 바로 이 사회나 회사라는 시스템이 멈추지 않고 돌아가기 때문이다. 따라서 우리는 스스로 어떤 직업을 가지고 그 자리에서 자신의 의무를 다하는 것을 도덕적으로 아주 훌룡한 일로 여기면서 살고 있다. 우리는 대개 프로정신이 부족한 것은 인간적인 결함으로 여긴다. 마치 인간의 존재이유가 어떤 직업인으로서 제몫을 다하는데 있다는 식으로 여기는 것이다. 

그렇게 생각하고 AI를 보면 우리는 자연히 AI를 인간의 존엄성을 해치고, 위협하는 존재로 여기게 된다. 이 세상에 부패가 넘치고 사람들이 힘겹게 일하는 이유가 바로 거대해진 시스템의 부품으로 일하기에는 인간이 애초에 결함이 있기 때문이라는 사실은 잊혀진다. 전화자동교환기가 인간을 돕는다고 여기기 보다는 인간 교환수의 인간적 존엄과 의미를 해친다는 식으로 여기는 것이다. 

하지만 인간의 의미는 새로 찾는게 좋다. 직업이 나쁜 것은 아니지만 직업윤리가 곧 인간윤리라고 생각하는 것은 인간을 노예로 여기는 것이다. 우리는 뭔가 크게 착각하고 있다. 우리가 욕하는 세상의 많은 모순은 이 시스템의 입장과 개인의 입장이 서로 다르다는 사실에서 나온다. 그걸 무시하고 인간성을 찬양해 봐야 비극이나 모순에 눈돌리는 일밖에 되지 않을 것이다.