생성형 AI와 정신적 포르노

요즘은 생성형 AI가 그린 그림이나 글이 아주 그럴듯해서 실제로 있었던 일인지 사람이 쓴 글인지를 구분하기 어렵다는 말이 나오고 있습니다. 그래서 선거철에 가짜 뉴스를 만들어 내는 일이 쉬워져서 이것이 사회문제가 되지 않을까를 걱정하는 것을 보게 됩니다. 하지만 저는 이것이 그보다 광범위한 문제, 실질로도 그렇거나 상징적으로 정신적 포르노의 문제를 만들어 낼 것이라고 생각합니다.

 

먼저 SNS와 사진에 대해서 잠깐 이야기해 보겠습니다. 오늘날에는 스마트폰을 가지고 다니면서 사진을 찍고 그것을 보관하거나 지인들과 공유하는 일을 흔히 볼 수 있습니다. 이 일이 흔하기 때문에 우리는 이런 행동의 의미를 생각하지 않는 경우가 많습니다만 이것은 정말 대단한 것입니다. 스마트폰이 없던 시절 혹은 아예 사진기가 없던 시절을 생각해 봅시다. 그 시절에는 우리가 뭔가를 보고 경험해도 그걸 다른 사람에게 설명하려면 글솜씨가 뛰어나던가 아니면 그림을 잘 그려야 했습니다. 조선시대에 누군가가 금강산에 가서 경치가 감동적이었다거나 어느 주막에 가서 파전이 너무 맛있었다고 해도 대부분의 사람들은 그런 경험을 공유할 수 없었습니다. 아니 기억도 잘못했습니다. 왜냐면 시인이나 화가의 재능이 없었기 때문입니다. 덕분에 귀중한 경험들도 기록되지 못하고 사라졌지요.

 

이걸 생각하면 오늘날 우리가 늘상 하고 있는 스마트폰으로 사진찍어 그걸 보관하는 일 혹은 SNS로 지인과 그걸 공유하는 일은 거의 문맹자에게 글을 가르쳐 준거나 다름없는 일입니다. 이런 기술의 발전으로 인해 이제 모두가 자신이 경험한 일을 기록하고 공유할 수 있게 되었습니다.

 

보다 추상적인 차원의 일입니다만 글도 마찬가지입니다. 글은 자신의 생각의 기록이라고 할 수 있습니다. 생각을 그림으로 그려낸 것이랄까요. 그런데 누구나 충분히 연습을 하고 재능을 타고나는 것은 아닙니다. 따라서 자신의 생각을 기록하라고 말을 하기는 쉽지만 누구나 글을 쓰는 것은 아닙니다. 따라서 많은 사람들은 자기가 자신의 생각을 뒤돌아보기가 힘듭니다. 왜냐면 기억은 왜곡되고 사라지는데 기록도 없으니까요. 현실적으로 말하면 기록이 곧 현실입니다. 기록되지 않은 것은 망각되고 누구도 모르게 되며, 반면에 기록된 것은 과거로 남아 우리의 정신을 지배하게 됩니다. 심지어 그것이 소설같은 허구라고 해도 어느 정도 그렇습니다.

 

우리는 생성형 AI가 만드는 가짜 이미지에 대해 곧 이야기하게 되겠지만 AI가 없던 시대에도 우리는 가짜 이미지 문제에 시달렸습니다. 실제로 일어났던 일들에 대한 사진만 올린다고 해도 그건 일어난 일 모두에 대한 사진은 아니었으니까요. 사람들은 최대한 좋은 사진만 올리는 것이 보통입니다. 그래서 SNS만 보고 있으면 다른 사람들의 삶이 너무나 자극적이고 화려해 보여서 사람들이 우울증에 걸리게 된다고들 하지요. 최고의 옷과 음식과 여행지만 찍어서 그걸 SNS로 공유하는 것이 바로 이미 가짜 이미지라는 겁니다. 행복한 듯 웃음짓고, 자기가 간 곳을 최대한 멋지게 보이게 사진찍어서 공유하거나 보관하는 것은 이미 어느 정도 이미지 조작인 겁니다.

 

이제 생성형 AI가 발달하고 있습니다. 그래서 세상에 없는 사진을 만드는 것이 점점 더 쉬워지고 있습니다. 실제로 파리에 가서 사진을 찍은 것과 구분할 수 없는 사진, 실제로 5성급 호텔방에 숙박하면서 사진을 찍은 것과 구분할 수 없는 사진들을 AI가 쉽게 만들어 주는 시대가 온 것입니다. 사람들은 가짜 뉴스가 정치적으로 악용되는 사례에 주목하지만 저는 이런 가짜 사진들이 가짜 기억들과 환상을 만들어 내는 현상이 훨씬 더 보편적으로 일어날 거라고 생각합니다.

 

미래는 본격적인 이미지 조작, 아니 기억 조작의 시대입니다. 여행을 갔다오면 남는 건 사진뿐이라는 말이 있습니다. 기억은 금새 희미해 집니다. 사진같은 자료가 있어야 그때의 기억도 되살릴 수 있습니다. 그런데 이집트 피라미드를 보러 갔다온 사람과 같은 사진들을 쉽게 만들 수 있는 기술은 그럼 어떤 결과를 가져올까요? 나의 과거 평생의 기록을 순식간에 AI가 가짜로 만들어 줄 수 있다면 우리는 어느 정도의 강력한 환상에 빠져들까요? 그런 가짜 기억에 넘어갈까요?

 

사람들은 이미 딥페이크같은 기술로 스타워즈의 주인공의 얼굴만 자기 얼굴로 바꾼 영화를 만들 수 있습니다. 원한다면 포르노 영화도 됩니다. 어쩌면 미래의 영화산업은 영화를 만든 후 그걸 보는 사람이 원하는 얼굴만 교체해서 각자 보는 것이 될지도 모릅니다. 영화속에서 송중기와 멜로영화를 찍는 여자가 되는 거지요. 가장 화려한 베니스 여행이나 클럽에 갔던 사진들도 만들 수 있습니다. 지금은 모두가 그렇게 하기 어렵지만 이미 가능하기 때문에 AI가 대중화되는 몇년 후에는 너무나 쉽게 그렇게 할 수 있을 겁니다. BTS 멤버의 비밀 애인으로 살고 있다는 환각을 만드는 것은 너무나 쉬울 겁니다.

 

시뮬라르크는 포스트모던 철학에서 존재하지 않는 것의 모사품을 의미합니다. 우리는 이미 테마파크나 CF등을 통해서 많은 시뮬라르크를 경험하며 살고 있다고 말해지지만 생성형 AI의 발달은 이것을 전혀 다른 수준으로 경험하게 할 것입니다. 우리가 왕처럼 대접받는 술집에 가서 왕처럼 먹고 마시는 것은 왕의 생활을 체험하는 가상현실을 파는 것입니다. 생성형 AI의 발달은 상업적 가상현실의 수준이 그야말로 옛날 영화 토탈리콜의 수준이 될 수 있는 길을 보여줍니다. 그건 뇌 수술을 하는 것이 아닙니다. 내 개인에 맞춰진 환상을 즉각적으로 AI가 만들어 주는 겁니다. 바로 데이터 생성을 통해서 말입니다.

 

이런 환각들이 바로 제가 말하는 정신적 포르노입니다. 그리고 아마 종종은 실질적으로도 포르노겠지요. 사람들은 환각에 빠져들겁니다. 그리고 이성적으로는 그게 가짜일 수도 있다는 것을 충분히 납득해도 그것이 행복하면 거기서 빠져나오지 않으려고 할 수 있습니다. 그리고 이런 시대에 진짜 체험은 촌스럽고 자극적이지 않은 것일 수 있습니다. 진짜로 찾아간 맨하튼은 가기도 힘들고 있기도 비싸지만 별로 재미있는 것도 없을 수 있습니다. 가상현실에 의해서 만들어진 맨하튼에서 유명인의 삶을 체험하는 것이 더 자극적일 수 있습니다. 실체가 가상을 이기지 못하게 되면 사람들은 점점 더 서로 만나지않고 가상의 세계로 빠져들지 모릅니다.

 

매우 우울하게 들리는 예언입니다만 미래는 사실 확실치 않습니다. 이쯤에서 역사를 돌아보면 미래에 대한 전망은 완전히 나쁘지만은 않다는 것을 알게 됩니다. 소설이나 영화같은 것이 큰 인기를 얻을 때도 심지어 SNS가 인기를 얻을 때도 사람들은 그 유해함을 말했고 그것이 어느 정도는 현실화되었지만 그것때문에 세상이 망하지는 않았습니다. 폭력적 게임을 하면 연쇄살인범이 된다고 말하는 사람은 지금도 있지만 현실이 꼭 그렇게만 흘러가는 것은 아닙니다.

 

하지만 AI가 만드는 환상은 어떨지 모릅니다. 우리는 소설을 읽거나 드라마를 보고 우울해지기도 합니다. 그렇다면 충분히 발전한 AI가 만들어 내는 환상속에서 어느 정도의 자극을 받을지 상상하기 어렵습니다. 이렇게 말하면 물론 또 서둘러 규제하자는 분들이 있겠지만 역사를 보면 규제는 답이 아니었습니다. 결국 미래는 오고 우리는 그것에 적응해야 합니다. 그게 현실입니다. 우리는 멋진 소설과 영화를 즐깁니다. 게임도 즐깁니다. 그것이 정신적 포르노들이라서 우리를 망쳤다고 생각하지 않습니다. 생성형 AI가 만들어 내는 환각들에 대해서도 그렇게 말할 수 있게 되기를 바랍니다. 확실한 것이 하나 있다면 환상을 만들어 내는 산업은 미래에 더욱 번창할 것이라는 겁니다. 그게 가능하고 사람들이 좋아하니까요. 이미 우리는 몇천억을 들여서 영화를 찍는 시대에 살고 있습니다. AI 시대에 몇천억을 들이면 어떤 환상을 구현하게 될지는 상상도 하기 어렵습니다.