좋은 세상은 좋은 사람이 만든다.

당신이 작은 사업을 하고 있다고 해보자. 어느 날 당신의 AI 변호사가 보고서 하나를 올린다. 현행 세법을 전부 분석한 결과 당신의 사업 구조를 이렇게 저렇게 바꾸면 세금을 거의 0원으로 만들 수 있다는 것이다. 모든 절차가 완전히 합법이다. 회계사에게 물어봐도, 변호사에게 물어봐도, 법 조문을 직접 읽어봐도 문제가 없다.

지금까지 이런 구조를 쓸 수 있었던 것은 수억 원짜리 대형 로펌을 고용한 대기업뿐이었다. 그런데 이제 당신의 AI가 그걸 해준다. 무료로. 몇 분 만에.

당신은 그걸 쓰겠는가?

"쓰겠다"고 답하는 것은 자연스럽다. 합법이고, 내 이득이고, 남들도 다 한다. 그런데 당신이 그걸 쓰는 순간 하나의 사실이 함께 발생한다. 세금이 들어가야 할 공동의 금고에서 그만큼이 빠져나간다. 당신 혼자라면 사회가 흡수할 수 있다. 문제는 같은 AI 변호사를 가진 수천만 명이 같은 선택을 한다는 것이다. 그렇게 되면 금고가 빈다. 학교가 문을 닫고, 병원이 운영을 멈추고, 도로가 무너진다.

아무도 불법을 저지르지 않았는데 국가가 기능을 잃는다.

 

사람들은 AI의 위험을 이야기할 때 보통 컴퓨터 해킹을 먼저 떠올린다. 해커가 AI를 써서 은행 시스템에 침입하고, 발전소 제어를 뚫고, 기밀 문서를 훔친다. 이건 실재하는 위험이지만 해결 방법도 실재한다. 방어 AI를 만들고, 보안 시스템을 강화하고, 중요 인프라를 고립시킨다. 이것은 기술적 문제이고 기술로 대응할 수 있는 문제다.

진짜 위험은 다른 데 있다. AI가 해킹하는 것은 컴퓨터 시스템만이 아니다. AI는 문자 문명 자체를 해킹한다. 법률, 계약, 규제, 제도 — 수천 년에 걸쳐 인간이 문자로 쌓아 올린 사회적 약속의 체계 전체가 해킹 대상이 된다. 이것은 기술적 취약점이 아니다. 문자 문명이 작동하는 방식 자체에서 오는 구조적 취약점이다.

법은 자연어로 쓰인 일종의 금지 목록이다. 단어는 명확해 보이지만 완벽히 명확하지는 않아서 해석의 여지가 있다. 세상이 변함에 따라 현실과 안 맞게 된다. 따라서 구멍이 있다. 인간 변호사가 평생을 들여 익히는 기술이 바로 이 구멍을 정교하게 찾아내는 것이다.

법치주의가 무너지지 않는 것은 이 기술이 비싸기 때문이다. 구멍을 찾을 수 있다고 해도 오직 소수만이 그렇게 할 수 있다.

AI는 이 현실을 바꿔버린다. 그 구멍을 찾는 비용이 0으로 수렴한다. AI는 법 조문을 모두 읽고, 판례를 모두 분석하고, 교차 참조를 몇 초 만에 해낸다. 한 가지 회피 구조가 아니라 수십만 가지 조합을 시뮬레이션한다. 인간 변호사가 평생에 걸쳐 쌓는 직관을 AI는 몇 초 만에 추월한다. 그리고 그 능력이 모든 사람에게 주어진다. 다국적 기업만 쓰던 조세 회피 방법을 식당 사장도 쓸 수 있게 된다.

 

조세만의 문제가 아니다. 모든 규제가 같은 운명에 놓인다.

노동법에는 근로자를 보호하는 조항이 있다. 해고 제한, 근로 시간 규제, 휴가 보장, 4대 보험. 이 조항들을 피하는 "프리랜서 계약"을 설계할 수 있지만 지금까지는 전문 지식이 필요했다. AI는 이걸 누구나 할 수 있게 만든다. 사장이 AI에게 "내 사업 구조를 노동법이 적용되지 않게 재설계해줘"라고 하면 AI가 해준다. 서류상으로는 완전히 독립된 사업자들과 맺는 도급 계약이지만 실질은 고용 관계인 구조가 법률 사무소 없이도 설계된다.

환경 규제도 마찬가지다. 배출 한도를 서류상으로 지키면서 실질적으로 회피하는 구조를 AI가 설계한다. 계열사를 만들어 배출량을 분산하고, 오염 공정을 규제가 느슨한 지역으로 이전하고, 측정 시점을 조정한다. 이 모든 것이 합법이다.

독점 규제, 금융 규제, 의료 규제, 식품 규제 — 모든 규제 영역이 같은 논리로 회피된다. 규제는 언제나 구멍이 있었지만 그 구멍을 찾는 비용이 높아서 대부분의 주체는 정직하게 행동했다. 그 비용이 사라지면 정직한 행동이 오히려 손해가 된다.

계약도 해킹된다. 상대방의 AI가 놓칠 수 있는 모호한 조항을 내 AI가 심는다. 상대방도 AI를 쓰면 이걸 감지한다. 그러면 상대방 AI가 반격 조항을 제안한다. 계약서가 AI들의 군비 경쟁이 된다. 평범한 개인이 자기 계약서의 실제 내용을 이해할 수 없게 된다.

 

AI가 법체계를 공격하는 데 쓰인다면 그걸 방어하는 데도 쓰일 수 있을까?

그렇지 않다. 방어하는데에는 AI가 비효율적이다. 그건 근대 사회의 기본 규칙을 어긴다. 법을 만드는 것은 인간이 해야 한다. 컴퓨터 해킹은 AI가 방어할 수 있지만, 법률 시스템을 AI가 방어하라는 건 AI에게 인간의 합의와 감독 없는 자동 입법권을 준다는 이야기다. 인간의 합의를 제거한 법치는 법치가 아니다. 이때문에 기본적으로 우리가 아는 법치는 느릴 수밖에 없고 AI는 너무 빠르다. 

우리는 결국 금지 목록인 법체계로 이뤄진 시스템을 지킬 수가 없다. 이 일은 먼 미래에 일어나고 있는 것이 아니라 이미 일어나고 있으며, 길어도 10년 안이면 모든 사람이 모든 법의 전문가인 AI를 사용할 수 있게 될 것이다.

 

근대의 기획이 끝나가고 있다. 이것이 왜 단순한 기술 문제를 넘는지를 이해하려면 근대가 무엇을 기획했는지를 봐야 한다.

1787년 필라델피아에서 미국 헌법을 설계하던 제임스 매디슨은 이렇게 썼다. "만약 인간이 천사라면 정부가 필요 없을 것이다."

이 문장이 근대의 기본 기획을 정식화한다. 인간의 도덕적 불완전성을 주어진 조건으로 받아들이자. 그리고 그 조건 위에 시스템을 설계하자. 악한 사람이 권력을 잡아도 시스템이 그를 제약하도록. 나쁜 판사가 나와도 다른 판사가 견제하도록. 부패한 관료가 있어도 감사 제도가 드러내도록. 견제와 균형, 삼권분립, 법 앞의 평등, 선거를 통한 교체 — 이 모든 제도적 장치의 공통된 발상이 그것이다.

법치주의, 민주주의, 시장 경제 — 근대의 세 기둥이 모두 같은 기획이다. 인간 윤리에 의존하지 않는 시스템을 세우는 것. 근대 사회에서는 계약서와 법원이 신뢰를 대신한다. 상대방이 정직한 사람인지 알 필요가 없다. 그가 법을 위반하면 처벌받는다는 사실만 알면 된다. 그리고 필요하면 인간만이 주권을 가지고 합의해서 법을 바꿔왔다.

지금 이런 현실이 피할 수 없는 종말로 다가가고 있다.

 

우리는 피할 수 없는 하나의 결론에 도달하게 된다. 우리는 금지 목록으로 쌓아올린 윤리로 세상을 살 수 없다. 길어봐야 10년 정도 안에 우리가 당연하게 생각하는 근대의 상식은 무력화된다. 그때 우리는 좋은 사람들의 결집만이 문명을 지키는 유일한 길임을 인정하지 않을 수 없게 될 것이다. 합법 불법 따위를 따지지 말고, 우리가 지키려고 하는 것이 무엇인지를 알고 적극적으로 행동에 나서는 인간 집단이 없다면, 그 사회는 와해되기 시작할 것이다. 앞으로는 그 사회를 지키는 뼈대인 법치가 해킹되어 작동하지 않을 것이기 때문이다.

이것은 AI 시대의 제대로 된 시민이 갖춰야 할 자격은 근대 시민의 그것보다 훨씬 높다는 뜻이다. 우리는 이제 수동적으로 금지된 것을 하지 않는 윤리가 아니라 적극적으로 행동하고 지키는 윤리를 가르칠 필요가 있다. 우리는 이 사회의 주인으로서의 강한 책임의식을 가질 필요가 있다. 우리는 그저 내 일만 보는 것이 아니라 사회 전체에 내 행동이 어떤 결과를 가져올까를 내다볼 수 있는 통찰력이 필요하다.

이것은 단순히 매뉴얼을 외우는 교육이 아니라 자기 성찰과 깊은 철학적 훈련을 포함하는 교육을 요구한다. 우리의 교육은 공장 노동자를 위한 교육에서 경영자나 지도자, 그리고 철학자를 위한 교육으로 바뀌어야 한다.

"좋은 세상은 좋은 사람이 만든다." 우리는 이 말을 비웃도록 교육받아왔다. 시스템을 신뢰하고 "불법만 아니면 된다"라는 전제 아래 정신적으로 나태하게 살아도 좋다고 조언받았다. 우리는 자유롭기 때문에 깊이 사유할 책임을 면제받을 수 있다고 여겨왔다.

그 같은 견해는 바뀌어야 한다.

우리는 세상에 책임감을 느끼며 살아야 하고, 자기 성찰을 통해 구도하는 마음으로 살아야 한다. 그런 사람들의 연대가 아니면 이 세상은 지켜질 수 없다. 근대가 종교의 권위로부터 개인을 해방시킨 대가로 시스템을 쌓아 올렸다면, 이제는 그 시스템 자체가 새로운 권위가 되어 개인을 누르는 데까지 왔다. 현대인은 자기 삶의 거의 모든 결정을 이해하지 못하는 시스템에 위임한다. AI에 의해 그 시스템이 해킹되는 것은 재앙이지만, 동시에 그 시스템의 권위가 더 이상 자동으로 유지될 수 없음을 보여 주는 사건이기도 하다. 우리는 근대로부터의 두 번째 해방 앞에 서 있다. 그리고 그 해방은 근대의 해방이 그랬듯이, 자동으로 오지 않는다. 그것은 선택이다.

좋은 사람이란 자기가 선택한 세계에 책임지는 사람을 말한다. AI 시대를 위해 우리가 가장 먼저 해야 하는 것은 "좋은 세상은 좋은 사람이 만든다"라는 결론이 피할 수 없다는 것을 인정하는 것이다.