안전한 인공지능을 위한 3가지 원칙

제가 인공지능에 대해 글을 쓰게 만드는 반복되는 질문이 있습니다. 그건 인공지능은 위험하지 않는가라는 질문입니다. 이 질문은 여러가지 관련된 질문으로 이어지는데 그것은 언제 인공지능이 인간보다 지능적이 되는가라던가 인공지능은 언제 자의식을 가지게 되는가 혹은 인공지능이 인류를 멸망시킬 의도를 가질 수 있는가 같은 질문같이 인간과 인공지능을 비교하고 그것을 위협으로 느끼는 질문들입니다. 또다른 질문은 인공지능으로 돈을 벌 수 있냐는 겁니다. 그건 세계적인 대 변혁이 온다고 하는데 그 와중에 혹시 더 많은 이득을 취할 방법이 없겠는가라는 개인적 욕망을 드러내는 질문이지요.

 

이런 종류의 질문들은 인공지능 분야에서 새로운 소식이 들릴 때마다 계속 반복되고 있습니다. 그리고 저는 종종 이런 질문들은 잘못된 질문이란 걸 설명하곤 해왔습니다. 하지만 오늘은 아예 원하는 질문의 답을 말하는 것이 좋겠다는 생각이 들더군요. 그것에 대한 설명은 하면 할 수록 길어질 수 있겠지만 일단은 핵심적 질문과 답을 제시하는 것이 효율적이라는 생각이 들었습니다. 여기서 말하는 핵심적 질문이란 이렇습니다.

Q : 인공지능을 안전하게 쓸 방법이 있습니까?

이에 대한 제 답은 이렇습니다. 

A : 인공지능을 안전하게 쓰기 위한 3가지 원칙들을 기억하십시요. 

 

첫번째 원칙. 사람과의 유사성에 집착하지 말라. 

지금의 인공지능의 위험성은 상당부분 사람들이 인공지능이 얼마나 사람과 비슷한가에 집중하기 때문에 생겨납니다. 미디어는 공학자들 중에서 인간과 비슷하게 행동하는 애니메이션이나 로봇을 만드는 사람이 나오면 훨씬 더 많은 집중을 해줍니다. 그런데 인공지능은 인간이 만이 풀 수 있었던 문제를 해결하기 위한 기술이지 본래 인간같은 존재를 만들어 내기 위한 기술이 아닙니다. 인공지능이 감정을 가지고, 목소리를 가지고, 얼굴표정도 만들어 내는 것이 인공지능 기술의 핵심적 부분이 아니며 겉보기가 아무리 비슷해도 그것은 새와 비행기와의 차이가 있습니다. 즉 날아다닌다고 다 똑같은 것이 아니라는 말입니다. 비행기가 새보다 빠르다고 반드시 비행기의 비행원리가 무조건 위대한 것도 아닙니다. 지금 사람들은 인간이 할 수 없는 것을 해내는 인공지능은 모든 면에서 인간보다 더 위대할 거라는 생각에 너무 쉽게 빠져듭니다. 이미 인간보다 계산을 빨리하는 계산기나 인간보다 빨리 달리는 자동차를 가지고 있으면서도 기계가 자신을 앞선다는 생각에 인간의 본질이 흔들린다고 생각하는 겁니다. 우리는 인간이란 무엇인가에 대해 더 깊은 고민을 해야 합니다. 인간과 비슷하게 움직이는 인형을 보고 공포에 빠져드는 것은 바람직 하지 않습니다. 게다가 거꾸로 그런 대중의 반응이 오히려 자꾸 인간같은 기계를 만드는 일에 공학계가 집중하게 만들고 있습니다. 왜 인간과 비슷해야 하는가도 질문하지 않고 인간과 비슷하면 좋은거라고 여기면서 거기에 연구를 집중하게 만드는 겁니다. '인간적인 것'이 '지능적인 것'이라는 것을 당연하게 여기면 지능적인 기계를 만드는 일이 그렇게 될 수 밖에 없습니다. 그리고 우리가 인간과 비슷하게 욕망을 가지고 실수하는 로봇을 스스로 만들고 위기를 스스로 만들어 낼 수도 있습니다. '인간적인 것'과 '지능적인 것'이 반드시 같은게 아닙니다. 

 

2. 인간의 문제에 집중하라.

앞에서 말했듯이 인공지능은 이제까지 인간만이 풀 수 있었던 문제를 해결하는 기계를 만들기 위한 기술입니다. 이것은 넓은 의미에서 전화기 자동교환기와 다르지 않습니다. 전화서비스의 초기에는 인간교환수가 수신자와 발신자의 통화를 연결했죠. 이제는 그걸 기계가 합니다. 만약 그걸 아직도 인간이 하고 있다면 차를 타고 이동하면서 전화를 하는 핸드폰같은 것은 사용하기 불가능할 겁니다. 지역이 바뀔 때마다 다음 지역에 있는 교환수가 재빨리 다시 일을 해야 할 테니까요. 

 

인공지능은 그냥 인공지능이라는게 있는게 아니라 마치 답같은 겁니다. 질문이 다르면 답이 다르죠. 우리는 제대로 된 질문을 던지고 그에 대한 답을 찾아야 합니다. 여기서 말하는 제대로 된 질문이란 인간의 문제를 고민하고 그걸 풀려고 해야 한다는 겁니다. 환경과는 동떨어지게 인공지능이란게 혼자서 있을 수 있다고 생각해서는 안됩니다. 그건 질문없는 답입니다. 

 

인공지능은 어떤 의미에서 글자로 작성된 글과 비슷합니다. 글자는 어떻게 쓰는가에 따라 협박범의 위협편지가 될 수도 있고, 지독하게 나쁜 생각을 사람들에게 주입하는 사이비 종교의 주장이 될 수도 있는 겁니다. 그러니까 우리는 한글창제에 반대하던 조선 유학자들처럼 되지 말아야 합니다. 글자같은 걸 백성이 알면 위험한 컨텐츠가 만들어 질 수도 있다라고 외치는 대신에 좋은 컨텐츠를 창작해서 널리 사람들을 이롭게 하는 일에 집중해야합니다. 모든 기술은 이해없이 쓰면 위험합니다. 인공지능이 위험할 수 있다라는 질문은 그래서 의미가 별로 없는 겁니다. 

 

우리가 잊지 말아야 하는 것은 인공지능 기술은 없어도 되는 사치같은 것이 아니라 인류가 겪고 있는 문제를 해결할 대안이라는 겁니다. 인공지능을 잊고 세상을 보면 세상은 정치적 경제적 문제로 가득하고, 자원문제에 환경문제 기후문제가 심각하다고 합니다. 인구도 너무 많고 정의가 실종된 것같습니다. 교육비도 너무 비싸고 취직도 힘듭니다. 그런데 이 모든 문제의 바닥에는 80억인 인구가 살기에는 세상이 너무 좁아졌다는 문제가 있습니다. 지금은 마치 수렵채집으로는 더이상 살아가기 힘든 상황에 처한 원시부족의 시대와 같습니다. 그들은 더이상 없는 식량때문에 대부분 굶어죽을 수 있습니다. 아니면 문명의 길로 가서 전과는 달리 훨씬 더 번영할 수도 있겠죠. 그런데 문명은 위험합니다. 비극을 만들어 낼 수 있습니다. 맞습니다. 하지만 그러면 멸종할겁니까? 우리는 포화상태에 다다른 지구에서 새 삶을 살기 위해 인공지능같은 새로운 기술이 필요한 겁니다. 앞에서 말씀드린 전자자동교환기처럼 없어도되는게 아닙니다.  우리는 그걸로 어떻게 인간의 문제를 해결할 수 있을지를 고민해야 하는 겁니다. 

 

3. 만들어진 인공지능을 독점하지 말라. 

 

앞에서 말했듯이 인공지능을 저는 종종 문자와 비교합니다. 말하자면 구술문화가 문자가 나온후 문자문화로 바뀌었듯 우리는 이제 인공지능 문화에 따라 사는 시대로 진입하고 있는 것입니다. 이 비교는 약간 혼란이 있을 수 있지만 많은 사람들이 이 생각을 하지 않기 때문에 이 비교는 중요합니다. 글자로 쓴 소설에는 저작권이 있을 수 있습니다. 하지만 글자 자체를 독점하고, 나아가 어떤 핵심적 지식을 누군가가 독점하려고 하면 그건 재앙이 될 것입니다. 글자로 써져 있다고 소설과 글자가 같은 것이 아니듯 우리는 인공지능들을 만들면서 그것들 중에서 독점할 수 없는 것과 독점권을 어느 정도 인정해 줘야 하는 것을 잘 구분해야 합니다.

 

뉴튼이 자신의 고전역학을 자기만 쓸 수 있는 지식으로 여기고 그걸 쓰려면 돈을 내라고 한다면 그것이 얼마나 우스운 일이었겠습니까? 그런데 지금은 많은 사람들은 인공지능을 마치 현대 자동차의 신형 자동차 같이 그걸 만든 사람이나 회사가 독점할 수 있는 것으로 생각하는 경향이 있는 것같습니다. 철기 문명을 한 부족만 독점하면 그 부족의 정복전쟁이 있을 뿐입니다. 인공지능은 인류 모두를 위한 프로젝트로 기본적으로 독점의 대상이 되어서는 안됩니다. 그건 마치 수돗물이나 공기를 독점하겠다는 말 혹은 쌀의 종자를 독점하겠다는 말과 비슷한 겁니다. 

 

인공지능의 시대가 오면 사람이 할일이 없다고들 하지만 그럴리가 없습니다. 말했듯이 인공지능은 문자와 같은 겁니다. 오히려 인공지능의 시대는 지금보다 훨씬 더 대단한 창작의 시대입니다. 기본적 인공지능을 공유하면서 그 인공지능을 수정하고 연결해서 각자의 문제 해결책을 만들어 내는 일에 사람들은 매진하게 될 것입니다. 마치 오늘날 사람들이 모두 글자로 책을 읽고 쓰는 것처럼 말이지요. 세상은 지금보다도 더 복잡해질 것이고 그래서 문제도 더 많아지겠지요. 하지만 어쩔 수 없는 일입니다. 이미 세상은 인공지능 없이도 시시각각으로 복잡해져서 분열되어가고 있으니까요. 자동교환기가 없이는 돌아가지 않는 시스템이 되어가고 있는 겁니다. 

 

여기에서 중요한 것은 인공지능을 특정인이, 특정회사가, 특정국가가, 독점하지 않는 것입니다. 그 일은 결국 인종청소같은 무서운 결과를 낳게 될 것입니다. 미국에 지금 원주민이었던 인디언이 얼마나 있습니까? 그러므로 인공지능을 독점하려는 시도에 대해서 우리는 경각심을 가져야 합니다.  그 독점의 테두리 바깥에 있는 사람들에게 그것은 천재지변같은 일이 될 수 있기 때문입니다.