본문 바로가기

주제별 글모음/인공지능에 대한 글80

인공지능과 추상적인 말들의 위험성 요즘 연일 기사가 나는 것을 보면 사람들은 지나치게 언어를 마구 쓴다는 생각을 하게 된다. 사실 우리가 쓰는 말들은 대개 추상적이고 그래서 그것이 일상생활속에서 쓰이는 것이 가능하더라도 기술 과학 용어로 쓰일 때에는 문제가 있게 된다. 예를 들어 민주주의를 프로그램한다거나 사랑을 프로그램한다고 하자. 그러기 위해서는 이 프로그래머에게 민주주의가 뭔지, 사랑이 뭔지는 아주 구체적인 측정가능한 수치로 표현되어야 한다. 일상용어와 기술용어의 차이를 무시해 버린다면 우리는 이 과정에서 등장하는 암묵적인 가정에 속게 될 것이다. 인공지능에 대한 이야기도 그렇다. 인공지능은 흔히 사람과 비교되고는 하는데 의식, 인간, 지능같은 말은 모두 다 추상적인 말이다. 우리는 물론 일상적으로 그런 단어를 쓰고 있고 쓸 수 있.. 2023. 12. 17.

챗GPT의 한계 챗GPT3.5가 나온 이래 지난 한해동안 거대 언어 모델에 대한 관심 나아가 인공지능(AI)에 대한 관심은 더욱 커졌고 최근에는 openAI의 CEO인 샘 알트만이 쫒겨났다가 돌아오는 소동이 있어서 이제 인간을 능가하는 AI가 나온게 아니냐는 둥, Q* 알고리즘이 뭐냐는둥 하고 말이 많다. 인류에게 위협이 되는 AI가 이미 만들어진 것이 아니냐고 떠들기도 한다. 미리 말해두자면 나는 AI가 정말 대단한 잠재력을 가지고 있으며 챗GPT 같은 AI가 그것을 현실화시키기 시작했다고 믿는다. 모든 기술이 그렇듯 이해없이 기술은 위험할 수 있고 AI도 마찬가지다. 하지만 무슨 신비의 알고리즘이 있어서 그것이 인간을 능가하고 의식을 가진 고도의 생명체같은 것을 만들어 낸다는 식의 비약은 옳지 않다. 그래서 나는 이.. 2023. 12. 4.

안전한 인공지능을 위한 3가지 원칙 제가 인공지능에 대해 글을 쓰게 만드는 반복되는 질문이 있습니다. 그건 인공지능은 위험하지 않는가라는 질문입니다. 이 질문은 여러가지 관련된 질문으로 이어지는데 그것은 언제 인공지능이 인간보다 지능적이 되는가라던가 인공지능은 언제 자의식을 가지게 되는가 혹은 인공지능이 인류를 멸망시킬 의도를 가질 수 있는가 같은 질문같이 인간과 인공지능을 비교하고 그것을 위협으로 느끼는 질문들입니다. 또다른 질문은 인공지능으로 돈을 벌 수 있냐는 겁니다. 그건 세계적인 대 변혁이 온다고 하는데 그 와중에 혹시 더 많은 이득을 취할 방법이 없겠는가라는 개인적 욕망을 드러내는 질문이지요. 이런 종류의 질문들은 인공지능 분야에서 새로운 소식이 들릴 때마다 계속 반복되고 있습니다. 그리고 저는 종종 이런 질문들은 잘못된 질문이.. 2023. 11. 28.

AI와 인문학 2023.11.22 최근 open AI에서 챗GPT4-turbo를 발표하면서 소개한 GPTs가 화제다. 이 기능은 AI를 사용자의 자료와 개인화 전략에 따라서 새롭게 작동하는 AI로 만들 수 있게 해주고 나중에는 그것을 남들이 쓸 수 있게 해준다. 예를 들어 유튜브에 이미 올라온 예를 하나 들어보면 우리는 쇼펜하우어의 책들을 업로드해주고 쇼펜하우어가 심리상담을 하는 것처럼 심리상담을 해주는 챗봇을 만들어 달라고 할 수 있는 것이다. 그림을 그려주는 AI처럼 이렇게 개량된 AI들은 아마도 당장은 그저 신기하기만 할 뿐 큰 쓸모를 찾지는 못할 것이다. 그러나 나는 여기에서 주목해야 할 두 가지 점들이 있다고 생각한다. 하나는 AI가 문학작품이나 예술작품처럼 변해가고 있다는 사실이다. 이제까지의 기계는 대개 .. 2023. 11. 22.

법과 규제로 인공지능이 안전해 질까? 23.11.21 인공지능에 대한 거의 모든 미디어의 소개에는 인공지능이 위험한 기술이라는 말이 따라붙는다. 인공지능이 핵보다 더 위험하다라는 주장도 있다. 그리고 이런 위험성에 대한 지적이 반복될 때 사람들은 대개 위험한 것이라면 잘 규제해야 하겠다는 반응을 보인다. 일단 인공지능 개발을 규제하는 법을 만들고, 인공지능을 개발할 때에는 어떤 윤리위원회같은 곳에서 그 위험성을 살펴서 규제하게 해야 한다는 식이다. 그런 것이 전혀 필요없지는 않을 것이다. 그러나 법과 규제로 인공지능이 안전하게 발전할 수 있다고 생각하는 것은 말이 안된다. 우리가 필요한 것은 규제가 아니라 이해다. 생각해 보면 기술은 어느 것이나 이해없이 사용하면 위험하다. 거리를 달리는 자동차를 미친 사람이 몰면 살인 무기가 될 수 있다는.. 2023. 11. 21.

컴퓨터는 지능을 가질 수 있을까? 23.11.20 미국 다트머스 대학교의 수학과 교수였던 존 매카시는 1955년에 한 학술회의에 대한 제안서를 제출하면서 인공지능이라는 말을 처음 만들었다. 이 제안서에서 그는 이제까지 인간만이 풀 수 있는 것으로 남겨진 문제를 해결하는 기계의 연구를 이야기하면서 이것을 인공지능의 연구라고 불렀던 것이다. 그런데 이 말을 곰곰히 생각해 볼 때 우리는 사람들이 인공지능의 연구를 지능을 가진 기계 혹은 지능을 가진 컴퓨터를 만드는 일이라고 생각하는 착각을 종종 저지르고 있다는 것을 알게 된다. 이 두가지는 서로 같은 것이 아니며 그런 착각은 나쁜 결과를 가져오게 된다. 일단 지능을 잠정적으로 정의하면서 시작해 보자. 누군가는 지능의 정의를 다르게 할 수도 있으며 지능은 결코 완벽히 정의 될 수 없는 것이라고도.. 2023. 11. 20.

진화론은 과학이 아니다. 23.11.8 일찌기 철학자 칼 포퍼는 그의 자서전 끝없는 탐구에서 진화론은 과학이 아니라 형이상학적 연구 프로그램이라고 말한 적이 있다. 이 말은 그가 진화론을 부정했다는 뜻이 아니다. 그는 오히려 진화론을 아주 소중히 여겼다. 그러나 과학이 갖춰야 할 조건을 반증 가능성이라고 말할 때 진화론은 이걸 갖추지 못하고 있다고 그는 말한다. 어느 혹성에 가서 지구와는 다른 생명체를 찾거나 생명이 없다는 것을 알게 되어도 그것이 진화론을 부정하는 것이 아니기 때문이다. 이때문에 진화론은 왜 지구에 생명이 존재하는가라는 질문에 답을 하는 것이 되는 것은 될 수 없다고 그는 말한다. 과학이 아닌데도 소중히 여겼다라는 말은 소중한 것은 꼭 과학뿐이 아니며 합리적 판단이란 반드시 과학적 판단이 아니라는 뜻이다. 이렇.. 2023. 11. 8.

세상에 여러개의 언어가 있는 이유 23.10.24 우리는 우리가 의식적으로 알고 있는 것, 말할수 있는 것만이 존재한다는 착각에 빠질 때가 많다. 그리고 그것에 대해 부정적인 태도를 보이는 것을 서둘러 비과학적이라거나 미신적으로 여기고는 한다. 그러나 이는 인간의 능력이 유한함을 잊어버린 어리석은 태도일 뿐이다. 예를 들어 우리가 개미를 생각하거나 짚신벌레를 생각한다고 해보자. 우리는 개미나 짚신벌레가 아무리 노력한다고 해도 인식하거나 알 수 없는 것이 존재하는 것을 명확히 안다. 개미는 영원히 양자역학을 이해하지 못할 것이다. 그러기에는 양자역학이라는 시스템이 가진 복잡성이 너무 크기 때문이다. 그러니까 양자역학은 비록 존재하는 질서이지만 개미의 의식속에서는 존재하지 않는다. 개미의 의식같은 것이 존재한다면 말이다. 그리고 인간이든 개.. 2023. 10. 24.

AI 시대의 진짜 교육 23.9.17 AI 시대의 교육은 지금과 뭐가 달라야 할까? 나는 전에도 이런 질문을 던지고 답한바 있지만 이제는 꽤 답이 더 구체적으로 변한듯하다. 그래서 이에 대해서 정리해 보겠다. 이런 질문에 답하기 위해서는 우리는 먼저 AI 시대가 이전과는 전혀 다른 시대라는 것을 이해할 필요가 있다. 누군가가 백년뒤의 교육은 지금과는 전혀 다를 거라고 말한다면 사람들은 그것에 쉽게 동의할 것이다. 그러나 시간이 반드시 차이를 의미하는 것은 아니다. 서구를 기준으로 한다면 세계적으로 교육은 몇백년전이나 지금이나 원리적으로 본질적으로 그리 다르지 않다. 한국에서 조차 지금과 백년전의 교육은 그다지 다르지 않다. 그때는 이미 한국이 서구화된 일제에 의해 식민지가 된 이후이기 때문이다. 그러나 2백년전과는 전혀 다르다.. 2023. 9. 17.

제 3의 지식 23.8.17 일찌기 인간을 묻는다를 쓴 제이콘 브로노우스키는 인문학과 과학을 지식의 서로 다른 양태라고 말한 적이 있었다. 그리고 우리는 오늘날 지식의 또 다른 양태 즉 제 3의 지식이라고 부를 만한 것을 가지게 되었다. 그것은 바로 AI다. 우리는 AI를 제 3의 지식으로 인식하고 그것이 가지는 의미를 생각해 보아야 한다. AI가 지식의 다른 양태인 이유는 첫째로 그것은 세상에 대한 정보의 압축물이라고 부를 수 있기 때문이다. AI는 간단히 말해서 많은 데이터를 컴퓨터 최적화를 통해 압축해 놓은 것이다. 이런 면에서 그것은 자연에 대한 관찰에서 찾아낸 자연법칙을 기술하는 수학공식과 비슷한 성격을 가진다. 그러나 AI는 과학적 지식과 다른 성격을 가진다. 그것이 AI가 지식의 다른 양태인 두번째 이유인.. 2023. 8. 17.

인공지능은 무엇과 비교되어야 하는가. 23.8.9. 우리는 모든 것을 비교를 통해 파악한다. 외국을 모르는데 한국을 알 수 없고, 짐승을 모르는데 인간을 알 수 없으며, 뜨거운 것을 모르는 데 차가운 것을 알 수 없다. 그러므로 우리가 뭔가를 파악하려고 할 때 그것과 비교되는 것이 무엇인가를 의식적으로 파악하지 않는다고 하더라도 우리는 암묵적으로 뭔가를 마음속에 가지고 있게 된다. 그리고 그 비교상대가 잘못되었을 때 우리는 그것에 대해서도 제대로 된 지식을 가질 수 없을 것이다. 남자의 반대를 여자로 생각할 때와 남자의 반대를 고릴라로 파악할 때 그리고 남자의 반대를 생명이 없는 바위로 생각할 때 우리는 서로 다른 것을 남자에 대해서 배우게 된다. 그런데 인공지능은 무엇인가를 물을 때 우리는 마음속에 뭘 가지고 있는가? 인공지능은 이런 걸하.. 2023. 8. 9.

인공지능과 새로운 인간 23.7.18 엔진이 없으면 차가 달릴 수 없지만 바퀴가 없어도 마찬가지이듯이 우리는 살아가기 위해서 수많은 것들이 모두 필요하다. 하지만 역사적으로 경제와 사회를 주도하게 만들어 주는 보다 희귀한 자원은 존재해 왔다. 다른 것들은 상대적으로 구하기 더 쉽기 때문에 가장 크게 생산성을 제약하는 요인이 되는 것들이 있었던 것이다. 그것은 시대마다 달랐는데 예를 들어 직업의 종말을 쓴 테일러 피어슨은 시대별로 그 희귀자원들은 다음과 같았다고 말한다. 오늘날처럼 복잡한 세상에서는 기술이나 서비스를 올바르게 결합하고 대중화시키는 능력이 중요해 졌다. 그리고 그 대중화를 위한 비전을 테일러 피터슨은 창업가 정신이라고 말하고 있다. 토지나 자본이나 기술을 가진 사람들이 이제까지 경제와 사회를 주도했다면 기술의 대중.. 2023. 7. 18.

인공지능과 관점의 중요성 23.6.26 %이 글은 제가 쓰고 있는 인공지능에 대한 책의 서문으로 쓸까하고 써 본 글입니다. 책이 실제로 출간될지는 알 수 없으나 그렇게 된다면 이 글은 삭제될 수 있습니다. 이 책은 인공지능에 관한 생각을 소개한다. 그런데 무엇을 논의하든 우리는 그것의 과거와 현재에 기초해서 한가지 질문을 던지는 것을 피하기 어렵다. 그것은 바로 그것이 무엇인가라는 정의나 본질에 대한 질문이다. 예를 들어 이 책은 인공지능에 대한 책이므로 우리는 인공지능이란 무엇인가라는 질문을 피할 수 없을 것이다. 하지만 이러한 질문이 피할 수 없는 면이 있다고 하더라도 이것이 가장 중요하고 가장 핵심적인 질문이 아니라는 것을 이해하는 것은 매우 중요하다. 그것은 출발점에 불과하다. 특히 인공지능처럼 그 역사가 길지않고 빠르게.. 2023. 6. 26.

인공지능과 경제난 23.6.25 요즘 역사상 유례가 없다고 할 정도로 수출이 안된다던가, 부동산 가격하락으로 은행도 위험하다던가 하는 경제 위기설이 나돌고 있다. 이는 IMF때 보다도 더 심각한 상황이라는 것이다. 기업도 가계도 모두 상태가 좋지 않다. 그래서 우리는 뭘 해야 할까? 이에 대해서 각종 매체에서는 경제전문가들이라는 사람들이 금리 문제나 부동산 정책 문제, 외교따위의 문제를 이야기하고 있는데 이런 이야기를 들으면서 내게 떠오른 생각은 이게 다 전부 그냥 응급처방이라는 것이었다. 당장 코앞의 문제에 반응할 뿐이며 한국이 앞으로도 더 잘 나가려면 기초체력이 달라져야 하는데 그것에 대한 이야기는 별로 없었다. 그래서 기초체력을 키운다는게 뭘까? 이것도 아주 여러가지가 있을 것이다. 어떤 분들은 연구개발을 말할지 모.. 2023. 6. 25.

시스템 그리고 개인의 입장 23.6.7 시스템이 거대해 질 수록 개인의 입장과 시스템의 입장차이에는 간격이 생기게 된다. 이 것에 대해서는 확률이 중요한 역할을 한다. 이런 확률계산을 생각해 보자. 여기 백분의 1로 터지는 폭탄이 있다. 그러니까 이 폭탄의 스위치를 눌러도 터지지 않을 확률이 99%나 된다. 그렇지만 어떤 사람이 이런 폭탄을 천번 만번 점화시킨다면 어떨까? 그렇다면 폭탄은 반드시 터질 것이다. 구체적으로 계산을 해보자면 천번을 시도해서 이 폭탄이 터지지 않을 확률은 0.0043% 밖에 되지 않는다. 반드시 죽는다고 봐야 한다. 이 확률의 계산은 오늘날 처럼 사람들이 수 없이 많은 사람을 만나고, 수없이 같은 일들을 반복하는 상황에서 의미가 깊다. 앞에서 말한 확률은 소방관이 불속으로 뛰어들어서 사고가 없을 확률일 .. 2023. 6. 7.

인공지능은 정말 두려워해야만 하는 것일까? 23.5.8 인공지능의 아버지라고 불리는 제프리 힌턴이 구글을 퇴사하고 인공지능의 위험성에 대해 경고를 주고 있습니다. 그의 경고가 아니라도 인공지능이 강력하고 위험한 기술인 것은 누구도 부정할 수 없는 일입니다. 하지만 인공지능이 위험한 것이며 따라서 규제해야 하고 천천히 생각하면서 발전시켜야 한다는 생각에도 숨겨진 가정이 있고 위험이 있습니다. 그 위험은 대개 무시되기 때문에 어떤 의미로 더 위험한 것이죠. 인공지능이 위험하다는 경고속에서 생기기 쉬운 착각은 인공지능 기술이라는 것을 우리가 더 욕심내지 않고 지금 이대로 살고 싶으면 꼭 필요하지 않은 것으로 여기는 생각입니다. 우리는 신기술이라는 것을 보통 이런 식으로 생각하기 쉬운데 왜냐면 우리는 지금 이대로의 상태가 그냥 유지된다고 여기기 때문이죠.. 2023. 5. 8.

이전 1 2 3 4 5 다음

티스토리툴바