AI를 전쟁무기로 쓰지 말자고?

최근 이란 전쟁이 세계는 물론 한국 경제를 뒤흔드는 가운데 AI를 전쟁무기로 쓰는게 옳은가에 대한 논쟁이 나오고 있다. 이와 관련된 대표적인 사건은 미국정부와 클로드 AI를 서비스하는 앤스로픽이 설전을 벌인 사건일 것이다. AI 무기를 사용하는 것을 조심해야 한다는 것은 당연한 것이다. 그건 마치 핵무기를 함부로 쓰지 말자는 말과 같다. 다만 나는 오해를 해서는 안된다고 생각한다. 핵무기와는 달리 AI가 전쟁에서 쓰이는 것을 막을 방법은 없다. 우리는 AI가 전쟁에서 쓰이지 않을 것을 추구하는게 아니라 생명을 존중하는 우리의 윤리를 신경써야 한다. AI가 전쟁에 쓰인다는 점에 주목하지 말고 증가한 그 능력으로 사람을 얼마나 쉽게 죽이겠다고 결정하는지 그 결정권자에게 주목해야 한다.

 

어떤 사람들은 이런 내 말이 불편할 것이다. 핵무기를 만드는 과학자들이 사회적 책임을 져야 하는 것처럼 AI를 개발하는 사람들도 사회적 책임을 져야 한다고 주장할 것이다. 하지만 이 둘은 많이 다르다. 핵무기는 그것이 개발된지 70년이 넘은 지금도 아무나 가지고 있는 무기가 아니다. 그걸 가진 나라도 얼마 없지만 무엇보다 앞집에 있는 천재꼬마가 혼자서 집에서 만들 수 있는게 아니며 지식 이상으로 사회적 자본의 투자가 필요하다. 그런데 AI는 그런게 아니다.

 

AI가 무엇인가를 말하는 방법은 여러가지가 있지만 그 중의 두가지는 AI는 중력법칙같은 거라는 것이고 또 하나는 AI는 통계기술이라고 말하는 것이다. 이에 대해서는 아래에 좀 더 설명하겠지만 이런 관점에서 말하면 AI를 전쟁에 쓰지 말자는 이야기는 중력은 전쟁에 관여해서는 안된다는 말이나 혹은 통계는 전쟁에 쓰이면 안된다는 말과 같다는 것이다. 이건 물론 말이 안된다. 중력은 어디나 있는 것이고, 통계는 그냥 아무나 배울 수 있는 것이다. 그걸 어떻게 전쟁이건 아니건 쓰지 못하게 하겠는가?

 

내 말이 맞다면 왜 미국 정부는 앤스로픽과 설전을 벌이는가?라고 지적하는 사람이 있을 수 있다. 맞다. 그래서 그렇게 까지 상황이 단순하지는 않다. 하지만 앤스로픽이 전쟁에 참여하지 않는다고 해도 결국 금방 오픈AI가 대체했다는 사실도 기억하면 좋겠다. 모든 거대 AI 회사가 AI를 전쟁에 쓰는 걸 반대하면 안되냐고? 세상에는 오픈소스 AI도 많고 빠르게 발달하고 있다. 계속 그런 태도를 취하면 아마 테러리스트는 열심히 AI 무기로 공격하는데 정부는 무방비로 당해야 할 것이다. 이런 태도가 유지 가능하다고 생각하는가?

 

그래서 다시 말하지만 이 글의 핵심 주장은 AI 기술 이상으로 그걸 쓰는 사람들의 윤리적 책임에 집중해야 한다는 것이다. 살인은 살인자가 저지르는데 왜 저런 살인자가 칼을 쓸 수 있게 했냐고 식칼을 만든 사람을 욕해서는 안된다는 것이다. 그런데도 이런 태도를 계속 유지하면 오히려 비극은 아주 커질 것이다. 원숭이가 거대한 제트 비행기를 운전하게 되었다면 인간다운 지능을 가져야 한다. 그렇지 않으면 거대한 비극이 생길 것이다. 이미 제트비행기가 발명되었는데 그러니까 애초에 왜 원숭이일 뿐인 나에게 제트 비행기를 줬냐고 비난하는 것으로 이 상황이 없어지지 않는다.

 

이미 이해가 빠른 분들은 설명이 필요없겠지만 AI가 중력법칙이나 통계기술이라는 것에 대해 잠깐 더 이야기해 보자. AI는 사실 그냥 데이터를 다루는 기술이다. 그래서 AI가 나에게 저 사람을 죽이라고 말했다는 말은 통계적 분석에 따르면이라던가 미적분 공식에 따르면 저 사람이 큰 테러를 저지를 테러리스트일 확률은 99%이며, 지금 막지 않으면 사망자가 천명에 이를 가능성이 90% 이상이다라는 말과 완전히 같다. 확률은 수학이니까 틀리지 않지만 AI는 틀릴 수 있다는 말은 엉터리다. 확률은 확률이다. 절대가 없다. 그런데 그걸 수학적으로 말하면 어쩔 수 없다고 하고, AI로 의인화해서 AI가 명령했다라고 말하면 분노하는 건 어리석은 것이다. 저격용총에 망원경이 달려있다고 해서 저격수가 사람을 죽이지 망원경이 사람을 죽이는게 아니다.

 

우리는 AI가 모든 국민들을 감시하는 기술로 쓰일 것을 걱정한다. 그런데 사실 21세기 들어서 반복된 역사를 보면 이런 기술이 발달되는 것을 막기 어려워보인다. 21세기에는 민간인 대량살상의 책임을 피하고자 하는 것 때문에 많은 비극이 벌어져 왔다. 악한 사람들이 다수의 선한 사람들과 섞여들면 그걸 구분하기 어렵기 때문이다. 그래서 이라크 전쟁, 아프칸 전쟁은 누구나 아는 미국의 압도적 전력우위에도 불구하고 실질적으로 미국에게 패배를 안긴 전쟁이 되었다. 강력한 무기로 대량살상은 할 수 없고, 지상군이 들어가서 싸우면 게릴라와 지루한 소모전만 벌이게 된다. 그러다가 소비되는 돈은 물론 피해자의 수도 잔뜩 늘어나고 결국 포기한다.

 

나는 대량학살을 해야 한다고 말하는 것은 절대 아니다. 하지만 우리가 택한 책임회피도 대량학살보다 딱히 더 좋은 것도 아니라는 것을 지적하고 싶다. 전쟁이 오래 지속되면 많은 사람들이 더 장기간에 걸쳐서 고통당하고 죽는다. 그건 꼭 직접 폭탄에 당한 것은 아니지만 그래도 그들도 역시 전쟁의 피해자라고 할 수있다. 지금 벌어지고 있는 이란 전쟁도 사회적 인프라가 망가지면 그로 인해 생기는 피해자의 숫자가 폭탄에 맞아 죽은 사람보다 더 클 것이다. 병원도 없고 깨끗한 물도 없고, 물류도 끊기는데 8천9백만 이란 사람들은 어떤 지옥에 살게 될 것인가? 그런데도 전쟁은 질질 끌기만 한다.

 

이건 답답한 상황이다. 트럼프를 절대 지지하지 않지만 그렇다고 그가 공격하는 이란 정권이 억울한 피해자라고 말하는 것은 너무 단순한 주장이다. 최근들어서 자국민 수만명을 죽였다는 이야기는 제쳐두고라도 21세기에 종교적 지배를 주장하면서 만든 이슬람혁명정권은 수십년간 얼마나 많은 사람들을 억압했는가? 트럼프가 북한을 공격하는 것을 찬성하지 않지만 그렇다고 21세기에 사이비 종교나 할 소리를 늘어놓는 북한 정권이 갑자기 순수한 피해자가 되는가?

 

이것도 저것도 아니고 답도 없다면서 왜 이런 이야기를 늘어놓냐면 바로 AI 기술이 이런 상황을 바꾸기 때문이다. 앞에서 말한 문제들의 공통점은 세상이 너무 복잡해서 강력한 무기로는 안된다는 것이다. 총알이 눈이 달려서 테러리스트 백명의 얼굴을 알아보고 백명만 죽일 수 있으면 민간인 피해없이도 공격할 수 있지 않을까? 실질적으로 이런 식의 일을 가능하게 만드는게 AI 기술이다. 그래서 이스라엘이 테러리스트 검색에 이미 쓰고 있다는 말을 들은 적이 있다. 빠르게 발달하는 AI 기술을 생각하면 수만대의 AI 드론이 날아가서 특정인들만 죽이는 세상이 가까운 미래에 온다고 해도 아주 이상하지 않다.

 

이렇게 우리는 적군을 향해 쓸 때는 이런 기술을 옹호하거나 정당화하기 쉽다. 심지어 필연적이라는 생각조차 든다. 만약 AI 기술을 사용해서 암살기술이 믿을 수 없이 좋아진다고 해보자. 미국 대통령을 누구나 죽일 수 있게 된다면 이런 시대에 테러리스트를 막기 위해서라도 AI 기술을 써서는 안된다는 말은 한가한 말이 될 것이다. 그런데 이런 기술이 일단 존재하게 되면 자국민의 동향을 살피고 그걸 억압하기 위해서 쓰일 수도 있을 것이다. 이것이 두려우니 이런 기술을 개발하지 말자고 해봐야 이제까지 내가 말한대로 비현실적인 이야기가 되기 쉽다.

 

그래서 우리는 결국 제트기를 탄 원숭이의 사례로 돌아가게 된다. 기술의 문이 열리면 우리는 원숭이로 계속 살 수 없다. 원숭이는 사고를 당하던지 인간적인 지능을 갖추던지 해야 한다. 제트기를 만들지 말자고 하는 말은 통하지 않는다. 거듭 말하지만 누군가는 그걸 쓸것이기 때문이다. 자국민에게 총부리를 돌려대는 전두환, 윤석렬같은 인간이 문제지 총이 문제가 아니다. 아마도 인류역사에서 가장 많이 사람을 죽인 기술은 문자를 쓰는 기술일 것이다. 글자가 사람을 죽이는 전쟁도 말들어 낸다. 그렇다고 문자가 위험하니 문맹으로 살자고 한다고 살아지지는 않는다.

 

이 글을 AI로 사람을 죽여도 된다는 주장으로 이해하는 사람이 없으면 한다. 이 글은 그보다 이제 인간에게는 선택의 여지가 없다는 것을 말하는 것이다. 우리는 더 좋은 사람이 되어야 한다. 아니면 망할 뿐이다.