법과 규제로 인공지능이 안전해 질까?

23.11.21 인공지능에 대한 거의 모든 미디어의 소개에는 인공지능이 위험한 기술이라는 말이 따라붙는다. 인공지능이 핵보다 더 위험하다라는 주장도 있다. 그리고 이런 위험성에 대한 지적이 반복될 때 사람들은 대개 위험한 것이라면 잘 규제해야 하겠다는 반응을 보인다. 일단 인공지능 개발을 규제하는 법을 만들고, 인공지능을 개발할 때에는 어떤 윤리위원회같은 곳에서 그 위험성을 살펴서 규제하게 해야 한다는 식이다. 그런 것이 전혀 필요없지는 않을 것이다. 그러나 법과 규제로 인공지능이 안전하게 발전할 수 있다고 생각하는 것은 말이 안된다. 

 

우리가 필요한 것은 규제가 아니라 이해다. 생각해 보면 기술은 어느 것이나 이해없이 사용하면 위험하다. 거리를 달리는 자동차를 미친 사람이 몰면 살인 무기가 될 수 있다는 지적은 틀리지 않다. 망치와 칼도 흉기로 쓰일 수 있고, 부엌에서쓰는 비닐랩같은 것도 질식사를 가져올 수 있다. 우리가 인공지능에 대해서 하는 말에서 인공지능을 과학이나 영화제작으로 대체하고 그 말을 읽어보면 법과 규제로 인공지능이 안전하게 발전할 수 있다고 생각하는 것이 얼마나 말이 안되는지 알 수 있다. 

 

과학 연구를 규제하는 법을 만들고 과학 연구를 할 때는 어떤 윤리위원회같은 곳에서 그 위험성을 살펴서 규제하게 해야 한다. 

영화제작을 규제하는 법을 만들고 영화를 제작할 때에는 어떤 윤리위원회같은 곳에서 그 위험성을 살펴서 규제하게 해야 한다. 

 

이러면 과학과 영화가 안전하게 발전할 것같은가? 법과 규제는 그 특성상 애매모호하고 세상의 변화에 느리게 따라오게 될 수 밖에 없다. 그러니까 인공지능에 대한 법이나 규제라면 어떤 규칙을 정부나 국회에서 회의해서 통과시키고 '모든 인공지능'에게 똑같이 적용하는 것이 될 수 밖에 없다는 것이다. 세상은 한해 한해가 다르게 흘러가고 인공지능이라고 하나로 말하지만 인공지능은 경우에 따라 끝없이 다양해 지는데 그걸 통채로 규제해서 안전하게 발전시킬 수가 없다. 몇몇 위원회의 위원이라는 사람들이 멋대로 심의를 해서 세상이 발전하는 경우가 있었던가? 결국 규제를 하나 마나 하게 되거나 그 규제로 인해 인공지능의 발전은 완전히 멈춰지게 될 것이다. 즉 위험성이 전혀 개선되지 않거나 인공지능을 써서 해결해야 할 문제들을 해결하지 못하고 인공지능 산업을 멈춰세우게 된다는 것이다. 그럴 때 간섭하지 않는 다른 나라에서 인공지능 발전에서 앞서갈 경우 그 결과는 치명적일 수 있다. 자동차 산업에서 1등을 할 수 있는데 그렇게 되지 못했다거나 인터넷 발전에서 1등을 할 수 있는데 그렇게 되지 못했던 경우는 매우 아까운 일이다. 하지만 발전이 더 빠른 21세기에서 인공지능 산업에 대한 규제로 때를 놓치는 것은 나라를 한 순간에 3류로 만들어 버릴 수도 있다. 

 

그렇다면 인공지능에 대한 이해라는 것은 무엇인가? 그런 건 전문가나 하는 것이거나 아니면 반대로 뻔한 거 아닐까? 인공지능이 뭔지는 우리가 이미 알고 있지 않은가? 이런 생각들은 틀렸다. 인공지능이 발전한 시대와 지금의 차이는 전근대와 근대의 차이를 넘어 수렵채집하면서 살던 문자 시대 이전과 지금의 문명시대의 차이와 비견될 정도로 다를 가능성이 있다. 일단 이런 차이가 난다는 것을 받아들이면서 이해에 대해서 생각해 보자. 

 

수렵채집을 하는 사람이 현대도시에 와서 차를 몰고, 지하철을 타고, 스마트폰을 쓰고, 직장에서 돈을 벌 때 생기는 문제를 생각해 보자. 이 사람이 배워야 하는 것이 전문지식인가? 아니다. 이 사람은 한마디로 현대 사회의 문화를 배워야 한다. 자동차를 몰 때는 교통신호를 지켜야 하고, 지하철을 자기가 타고 싶다고 마음대로 세울 수 없다는 것을 알아야 하며, 밀집하게 사람이 타고 있는 대중교통 차량 안에서 지켜야 할 에티켓도 필요할 것이다. 무엇보다 이 사람은 돈이나 신용카드가 어떤 것인지 알아야 하고, 직장인이 된다는 것이 어떤 것인지 이해해야 한다. 그렇지 않다면 현대 도시속의 삶은 이 사람과 다른 사람에게 모두 위험한 것이 될 것이다. 거대한 시스템의 한 부속품으로 일하는 직장인이 어느 순간 자기 책임을 잊고 마음대로 행동했을 경우 그 결과는 수렵채집인이 상상할 수 있는 것보다 훨씬 더 크다. 증권회사의 직원이 숫자 하나를 잘못기입하고 매매를 눌러서 증권사가 망하는 일도 있는 것이 현대사회다. 

 

그렇다면 현대인들은 이 위험한 도시속의 삶을 어떻게 살아가는가? 주로 학교에서 가정에서 그리고 미디어를 통해 사회로 나가기 전에 장시간 배우기 때문이다. 현대 사회를 지배하고 있는 문화는 상당부분 과학적이고 기계적인 접근법을 당연시하면서 만들어 진 것이다. 이것은 우리가 쓰는 자동차나 티비같은 기계들이 그렇다는 것만을 의미하는 것이 아니다. 우리의 사회 전체가, 우리의 학교, 직장, 공공 시설, 심지어 가정에 이르기 까지 우리는 지금 일들을 계획하고, 분리하고, 엄밀히 조합하는 철학에 따라 그것들을 운영하고 있다. 그걸 가장 잘 보여주는 것은 학교인데 왜냐면 학교란 지금의 사회를 살아갈 사람을 만드는 곳이기 때문이다. 여러개의 교과서를 가지고 전문분야로 지식을 나눈다던가, 모두가 정해진 시간마다 휴식시간을 가지고, 학급안의 모두가 같은 교과서를 공부하고, 학년별로 공부하는 내용을 바꾸며, 시험으로 평가받는 그런 학교의 시스템 자체, 그 형식 자체가 거기서 배우는 지식 이상으로 사람들을 현대 사회에 맞는 사람으로 바꾸고 있는 것이다. 현대학교는 철학적으로 컨베이어 벨트를 도입한 공장인 헨리 포드의 자동차 공장을 그대로 반복하고 있다고 할 수 있다. 가장 효율적으로 가장 많은 수의 교육받은 인간을 생산해 내는 공장이다. 

 

인공지능은 그런데 이제까지의 기계와는 다른 방식에 의해서 만들어 지는 것이다. 인공지능의 발달은 뒤집어 말하면 이제까지의 그 기계적인 문화가 해결하지 못하는 사회적 문제들이 누적되고 있기 때문에 생겨나는 것이다. 인공지능은 시대적 문제에 대한 해약이며 오늘날의 학교가 위기인 것은 사회적 현실과 학교가 대표하는 지식의 형태가 서로 다르기 때문이다. 인공지능은 그러니까 새로운 교육을 요구하고, 문화적 변화를 요구하는 것이다. 이것이 우리가 필요로 하는 이해다. 우리는 새로운 세상에서 살아갈 새로운 방식을 만들고 그걸 익혀야 한다. 그것이 없이는 발달한 인공지능 기술을 쓰는 인간이란 제트기를 모는 침팬지처럼 위험해 질 것이다. 문제는 제트기보다도 교육받지 못한 침팬지에게 있다. 

 

인공지능은 대량의 데이터를 사용하고 컴퓨터 최적화를 통해 만들어지며 특히 다른 기계처럼 환원주의적인 방식으로 만들어 지지 않는다. 즉 문제를 어떤 세부적인 작은 부분으로 나눠서 전체를 만들어 가는 구조가 아니며 이때문에 인간은 인공지능의 방식을 이해할 수 없다. 알파고가 어떻게 이세돌을 이기는지는 논리적인 의미에서는 그걸 만든 엔지니어도 모른다. 

 

우리는 땅을 뛰다가 이제 하늘을 날아야 하는 입장에 있다. 이해가 안되도 대량의 데이터와 빠른 컴퓨터 최적화이면 어떤 답이 나온다는 사실을 이해해야 한다. 그것은 아마도 상당부분 눈을 감고 전력질주를 하는 것처럼 무서운 일일 것이다. 그리고 물론 제대로 된 준비없이는 실제로 사고가 날 것이다. 과학적 사고를 하려면 과학적 논리를 이해야 한다. 그 핵심에는 엄밀한 측정이 있다. 그러니까 부정확한 표현들을 나열하면서 대충 과학 흉내를 내면 아무 쓸모가 없다. 그리고 과학적 기계적 시스템을 믿는 용기도 필요하다. 마찬가지로 인공지능이 쓸모 있는 일을 해내기 위해서는 우리가 그 조건을 이해하고 그 힘을 믿어야 한다. 나는 이것을 인공지능 패러다임의 이해라고 부른다. 수렵채집인에게 과학은 마법이나 다름없다. 하지만 현대인들은 과학의 성과에 익숙하고, 과학적 논리를 이해하기에 그걸 아무렇지도 않게 쓰는 것이다. 그래서 우리는 모르는 사람이 주는 약을 먹고 시속 120킬로미터로 도로를 달릴 수 있다. 마찬가지로 발달한 인공지능 기술은 지금의 우리 눈에는 마법과 비슷해 보일 것이다. 그걸 쓰려면 마치 땅을 걷기만 하던 새가 하늘을 나는 것과 같은 변화가 필요하다. 공기를 느끼고 날개를 믿고 높은 곳에서 뛰어내려야 하늘을 날 것이다. 인공지능이 물류와 교통을 혁신적으로 바꾸기 위해서는 기술적 진보도 필요하지만 그 이상으로 사람들의 협조와 이해가 필요하다. 

 

우리는 지금 그런 시대를 살고 있다. 하늘을 날 수 있다는 것을 자각한 새들이 하늘로 하나 둘씩 날기 시작해도 어떤 새들은 땅위에 머물 것이다. 그들은 그저 비행이 얼마나 위험하고 비윤리적인지를 이야기하고 하늘로 날아오르려고 하는 다른 새들을 말리지 못해서 야단일 것이다. 그런 그들의 입에 가장 많이 나올 말들이 바로 안전을 위한 규제다. 하지만 안전을 이룩하는 것은 이해이지 무지한 규제가 아니다. 게다가 지금 이대로 있어서 안전한게 아니다. 인공지능이 아니라도 세상은 하루가 다르게 복잡해져 가고 있다. 정치적 사회적 문제는 날로 증가할 것이다. 결국 날지 않는 새로 말해진 사람들은 더이상 잡아먹을 것이 없는 데도 수렵채집을 포기하고 농사를 짓지 않는 사람과 같다. 그들은 생각보다 빨리 세상에서 사라질 수 있다. 즉 규제가 오히려 위험을 만드는 것이다.