스크립트
00:00:00전에도 말씀드렸지만, 제 인생에서 가장 영향력 있는 책을 쓰셨죠. 바로
00:00:04『도덕적 동물(The Moral Animal)』이었죠. 그 책 덕분에 저는
00:00:08진화 심리학에 대해 고민하고, 인간 본성을 더 깊이 탐구하는 길을 걷게 되었습니다. 왜 지금 AI에 관해 쓰고 계신가요?
00:00:15선생님의 전공과 관련해서요? 글쎄요, 어떤 면에서는 진화론적 사고의 연장선이라고 볼 수 있습니다. 두 가지
00:00:21점에서, 제가 보기에 AI는 과소평가된 진화의 산물이자 여전히 진화 중인 존재입니다.
00:00:30하지만 『도덕적 동물』과 연결되는 또 다른 점은, 우선 『도덕적 동물』이라는 책 자체가
00:00:36인간의 마음에 관한 것이었고, AI는 전통적으로 오직 인간의 마음만이 할 수 있었던 많은 일들을
00:00:43해내고 있다는 점입니다. 『도덕적 동물』에서 제가 보여주려 했던 또 다른 점은 이른바
00:00:49도덕적 편향, 그러니까 자기 위주적인 도덕적 편향에 관한 것이었습니다. 우리 모두 자신이 옳고
00:00:54상대는 틀렸다고 생각하는 경향 말이죠. AI 혁명을 잘 헤쳐 나가려면
00:01:00우리가 해야 할 일 중 하나는 그런 문제를 다루는 것, 즉
00:01:04소위 부족주의의 심리학을 지금보다 더 성공적으로 풀어내는 것입니다.
00:01:10그래서 이 책에서도 그 부분에 상당한 주의를 기울였습니다.
00:01:13여기서 다루시는 핵심 질문은 무엇인가요?
00:01:18분명 엄청난 경이로움을 가져올 잠재력을 가진 이 기술이,
00:01:27한편으로는 공포스럽기도 하며 지혜롭게 접근하지 않으면 끔찍하게 잘못될 수 있다는 사실인가요? 제 생각엔 그렇습니다.
00:01:36그게 바로 이 토론이 흥미로운 이유죠. 우리에게는
00:01:41끝없이 해결되지 않은 잠재적 미래가 있으니까요. 혹시 파이낸셜 타임스(FT)가 작성한 그래프 보셨나요?
00:01:47AI 관점에서 본 세 가지 잠재적 미래에 관한 것이었는데, 하나는 모든 것이 파괴되는 결말,
00:01:54다른 하나는 우리가 지금까지 본 적 없는 종류의 기하급수적 성장,
00:01:58그리고 마지막은 GDP가 매년 0.2%씩 증가하는 것이었죠. 즉, 변화가 아주 적거나
00:02:06아니면 완전히 다른 두 방향 중 하나로 전부 변한다는 거죠.
00:02:10맞습니다. 분명 GDP를 엄청나게 증가시킬 잠재력이 있다고 봅니다. 하지만 동시에
00:02:16세계를 아주 불안정하게 만들거나 더 나쁜 상황을 초래할 잠재력도 있다고 생각합니다.
00:02:22파멸 시나리오에 대해서는, 제가 이 연구 프로젝트를 시작하기 전에는 공상과학 같은 소리라고 생각하며 회의적이었지만,
00:02:30이제는 전보다 훨씬 더 진지하게 받아들이고 있습니다. 아시겠지만,
00:02:36AI가 실제로 세상을 장악하고 우리를 쓸모없다고 판단할지도 모른다는 주장을 반박하기가
00:02:42생각보다 훨씬 어렵다는 걸 알게 되어 당황스러웠습니다. 하지만 제가 더 확신하는 건
00:02:48이것이 거대한 지각변동이 될 거라는 점입니다. 여러 측면에서 불안정을 초래할 것이고,
00:02:52그렇기에 우리가 세심하게 접근해야 한다는 거죠.
00:02:57이 책을 집필하기 전에는 본인을 AI 낙관론자로 분류하셨나요? 시작하기 전의 성향은 어떠셨나요?
00:03:03본래 엄청나게 낙관적인 사람은 아니라고 말씀드리고 싶네요.
00:03:05저는 어떤 일의 잠재적인 단점에 집중하는 경향이 있습니다. 하지만 파멸 시나리오는 믿지 않았죠.
00:03:1215년 전에 제 팟캐스트에 파멸론의 대가인 엘리저 유드코프스키를 모신 적이 있습니다.
00:03:17그때는 참 흥미로웠습니다. 그는 전환기였거든요. 특이점 낙관론자에서 파멸론자로 넘어가던 시기였죠.
00:03:22저는 당시 “지능이 권력에 대한 의지를 가지는 것은 일반적인 지능의 속성이 아니다” 같은 말을 했었고요.
00:03:29우리는 독특한 진화적 역사 때문에 그런 의지를 가진 거니까요. 저는 계속 그런 질문들을 던졌습니다.
00:03:36엘리저는 좋은 질문이지만, 이러저러한 이유 때문에 다르다고 말했죠. 당시에는 그의 말에 설득되지 않았지만,
00:03:41지금은 공상과학적인 파멸론에 대해 훨씬 더 존중하는 마음을 가지고 있습니다. 질문에 답변하자면,
00:03:46저는 항상 걱정할 거리를 찾아 나서는 사람이라는 점을 인정해야겠네요.
00:03:55제 천성이 그렇습니다. 우리 사회에는 저 같은 사람도 필요하고 다른 유형의 사람들도 필요하다고 생각합니다.
00:04:01우리는 서로 의견을 나눠야 합니다. 제프리 힌튼은 AI를 두려워하지만 얀 르쿤은 그렇지 않죠.
00:04:07현재 시점에서 누가 미래를 더 정확히 보고 있다고 생각하시나요? 저는 제 책을
00:04:151983년에 제프리 힌튼과 나눈 대화로 시작합니다. 제 나이를 밝히려는 건 아니고요, 사실
00:04:191983년에 AI에 관한 글을 썼었거든요. 그 이후로 계속 관심을 가지고 지켜본 건 아니지만요.
00:04:26어쨌든 그때 제프리 힌튼은 파멸에 대해 조금도 언급하지 않았습니다. 사실 제가 그와 이야기했던 이유는,
00:04:33누군가에게 들었는데, 그 사람이 “신경망에 대한 복음을 듣고 싶다면 제프 힌튼과 이야기해보라”고 하더군요.
00:04:41그래서 그와 이야기를 나눴습니다. 그는 열성적인 사람이었습니다. 그는 “당장은 보여줄 게 별로 없다는 건 알지만,
00:04:45마이크로프로세서가 아주 저렴해질 때까지 기다려 보세요. 우리에게는 대규모 병렬 처리가 가능해질 겁니다”라고 했죠.
00:04:50그의 말이 맞았습니다. 결국 그는 자신이 예상했던 것보다 훨씬 더 두려운 결과가 나온 것을 발견하게 된 겁니다.
00:04:55음, 맞아요. 어떤 사람들의 예지력은 참 놀랍죠. 제임스 카메론이 90년대에 어떻게 “아바타” 각본을 썼는지 아시나요?
00:05:0290년대에 각본을 썼지만, 자신이 구현해야 할 것을 재현할 기술이 아직 존재하지 않는다는 걸 알았죠.
00:05:10하지만 미래에는 가능할 거라 생각해서 스크립트를 써두고 기술이 수준에 도달할 때까지 기다린 겁니다.
00:05:15이런 통찰력은 기술자들과 미래학자들의 몫이죠. 항상 이 문제를 고민하는 사람들은 이런 일을 잘 해냅니다.
00:05:21그럼에도 불구하고 이 사람들의 선견지명은 정말 인상적입니다. 맞습니다. 힌튼은 확실히 큰 그림을 봤습니다.
00:05:27네. 좋습니다. 그럼 AI가 단순한 기술 발전이 아니라 행성 역사의 문턱에 선 사건이라고 말씀하시는 건가요?
00:05:34왜 아직도 대부분의 사람들이 다가올 변화의 규모를 파악하지 못하는 걸까요?
00:05:39몇 가지 이유가 있다고 봅니다. 하나는, 이 기계들에 무슨 일이 일어나고 있는지에 대한
00:05:43오해가 있기 때문입니다. 그 오해 때문에 AI가 진화의 산물이라는 점을 이해하지 못하는 거죠.
00:05:48흔히 AI는 '훈련'된다고 하는데, 그건 맞는 말입니다. 그리고 그 훈련 과정은 '학습' 과정이라고 불리죠.
00:05:55그것도 사실이지만, 훈련 과정은 사실 진화 과정이기도 합니다. 우리 종이 진화하는 데 수백만 년이 걸렸던
00:06:02인지 기능을 효과적으로 역설계(reverse engineer)하는 과정인 셈이죠.
00:06:08좋은 예로, 그들이 유명하게 수행하는 '언어 생성'이 있죠. 가끔 다음 토큰 예측, 다음 단어 예측이라고도 하는데요.
00:06:14알고 보니 그들은 어떤 방식으로든 독자적으로 단어의 의미를 표현하는 체계를 발전시켰습니다.
00:06:22더 자세히 설명할 수도 있지만, 너무 기술적인 이야기가 될 것 같네요.
00:06:28중요한 건 기계에게 “너는 단어의 의미를 파악해야 해”라고 시키거나 그 방법을 알려준 사람이 아무도 없었다는 겁니다.
00:06:34제가 몇 년 전 제프리 힌튼의 이름을 들었을 때 느꼈던 큰 깨달음이 바로 이 지점입니다. 갑자기 그가 'AI의 대부'라고 불리더군요.
00:06:43마지막으로 그와 대화했을 때 그는 그저 괴짜 접근법을 옹호하는 무명의 컴퓨터 과학자일 뿐이었거든요.
00:06:51그 당시 썼던 글을 되돌아보면, 그가 옹호하던 접근법의 잠재력에 대해 제가 근본적으로 잘못 알고 있었던 점이 있었습니다.
00:06:59저는 이 기계들이 단어를 처리하려면 우리가 그 의미를 입력해야 한다고 생각했습니다. 마치 사전처럼,
00:07:09“이 단어에는 이런 뜻이 있어”라고 알려줘야 한다고 말이죠.
00:07:14그리고 신경망을 설계해서 단어의 서로 다른 의미를 반영하는 서로 다른 노드를 배치해야 한다고 생각했죠.
00:07:21제 변명을 하자면, 당시에도 그런 접근을 하는 신경망 모델들이 있었거든요.
00:07:25힌튼과 협업하던 사람 중에도 그런 방식을 취한 모델이 있었죠. 하지만 그게 진짜 힌튼이 생각했던 건 아니었습니다.
00:07:31결국 우리는 단어의 의미가 무엇인지, 어떻게 표현해야 하는지 기계에게 알려줄 필요가 없다는 게 밝혀졌습니다.
00:07:36우리는 그저 언어를 생성하도록 학습시키기만 하면 됩니다.
00:07:42그 훈련 과정은 신경망 내의 뉴런 간 연결을 선택적으로 강화함으로써 성과를 냅니다.
00:07:46그것은 인류가 수백만 년의 진화를 통해 얻은 단어의 의미를 표현하는 방법을 달성해 내는 것입니다.
00:07:56이제는 인간의 생애 동안 일어나는 일, 즉 특정 언어를 배우는 과정도 수행합니다.
00:08:01이것이 전통적인 의미의 학습이죠. 하지만 우리가 언어를 배우려면 자연 선택에 의해 구축된
00:08:06내장된 언어적 장치가 필요했습니다. 그런데 이 기계들은 두 가지를 동시에 해냅니다.
00:08:11그들은 일종의 자연 선택을 재현하는 셈이죠. 비록 그들이 만드는 인지적 요소가 우리 뇌의 것과 정확히 같지는 않지만,
00:08:16똑같은 능력을 보여주니까요. 일단 데이터만 있으면 된다는 사실을 깨달으면,
00:08:20인간이 생성한 데이터를 기계에 주입하기만 하면 그들이 나머지를 알아서 할 겁니다.
00:08:28자율 주행 자동차도 마찬가지입니다. 영상 데이터를 넣으면 운전자의 역할을 수행하고,
00:08:36청각 데이터든 뭐든 온갖 데이터를 다 처리하죠. 사람들이 이해하지 못하는 건
00:08:43이 연료(데이터)만으로도 갈 길이 멀다는 점입니다. 예를 들어 최근 마크 저커버그가
00:08:50직원 8,000명을 해고한다는 발표와 동시에 직원들의 키스트로크를 추적하겠다고 한 일만 봐도 알 수 있죠.
00:08:55왜 그럴까요? 그들이 받는 입력 데이터와 출력 데이터를 모두 가져오면,
00:09:01그들의 뇌 속에서 무슨 일이 일어나는지 복제할 수 있기 때문입니다. 그럼 업무를 대신하고
00:09:05해고하면 되는 거죠. 로봇 공학이나 다른 분야도 마찬가지입니다. 데이터만 있으면
00:09:10기계는 우리가 가진 인지 기능을 복제해 낼 것입니다. 설령 방식이 좀 다를지라도 말이죠.
00:09:16많은 경우 그들은 우리가 발견한 것과 같은 방식을 사용하기도 합니다. 예를 들어 물체를 시각적으로
00:09:22인식하기 위해 '엣지 검출 뉴런(edge detector neurons)'을 발명했는데, 진화 역시 우리에게 같은 것을 구축해 놓았죠.
00:09:31그러니까 이게 기계와 유기체 간의 수렴 진화(convergent evolution)의 첫 번째 사례 중 하나라고 말씀하시는 거군요.
00:09:40마치 눈이 여러 종에서 독립적으로 진화한 것처럼 말이죠. 게가 어떤 이유로 게의 형태가 된 것처럼,
00:09:45엣지 검출도 그런 경우입니다. 이것이 우리가 가진 가장 효율적인 방법 중 하나니까요.
00:09:52하지만 당연한 일 아닌가요? 수천만 년에 걸쳐 느린 속도로 시행착오를 겪으며
00:10:01진화적 과정과 유전자 돌연변이를 통해 도착한 결론을, AI가 똑같이 도달하지 못하는 게 이상한 거죠.
00:10:08맞습니다. 수렴 진화는 좋은 용어입니다. 엣지 검출기는 자연 선택에서 여러 번
00:10:13발명되었을 겁니다. 다세포성이나 비행처럼 많은 것들이 여러 번 발명되었으니까요.
00:10:18이것도 일종의 발명입니다. 기계에게 “이 물체를 잘 인식할 때마다 긍정적인 보상을 줄게”라고 하는 거죠.
00:10:24그래서 더 나은 결과를 낳는 신경망 연결 강도를 보존하는 겁니다.Mutation(돌연변이)을 통해
00:10:28시행착오를 겪으며 물체를 보는 능력을 키우는 거죠. 진화 과정에서 일어난 것과 같습니다.
00:10:36물체를 더 잘 인식하려 했던 것과 똑같으니, 엣지 검출기 같은 똑같은 요령을 발견하는 게 놀랍지 않은 거죠.
00:10:42네. 보상 함수(reinforcement function)가 '죽지 않고 유전자를 물려주었다'는 것과,
00:10:47블랙박스 안의 '착한 일을 했다는 포인트'라는 점만 다를 뿐, 근본적으로는 똑같은 일이니까요.
00:10:56그렇다면 AI가 인간 진화와 문명의 더 넓은 맥락 안에서 어떻게 자리 잡는다고 보시나요? 우리가 진화의 다음 단계를 목격하고 있는 건가요?
00:11:00그런 것 같습니다. 이건 새로운 형태의 지능입니다. 전례가 없던 일이죠.
00:11:12재료가 엄밀히 말해 유기적인 탄소가 아닌 실리콘이라 할지라도, 유기적 지능의 연장선으로 볼 수 있다고 생각합니다.
00:11:17다른 점도 있겠죠. 저는 그게 지각력이 있는지, 주관적 경험이 있는지에 대해서는 잘 모르겠습니다.
00:11:22그럴 가능성은 물론 있죠. 하지만 분명한 건, 우리를 능가할 새로운 종류의 지능,
00:11:27새로운 형태의 생명체를 발명했다는 사실입니다.
00:11:30그리고 제가 책에서 강조하는 또 다른 점은 이것이 두 번째 큰 문턱과 겹친다는 사실입니다.
00:11:35기술적 진화와 인간 문화적 진화를 통한 일종의 '지구적 두뇌 진화'라고 부를 수 있겠네요.
00:11:40정보 기술을 통해 우리는 점점 더 서로 긴밀하게 연결되어 왔죠. 국경을 넘어 더 풍부하고
00:11:46지적인 협업이 이루어지고 있습니다. 1923년, 그러니까 1세기 전에 '노스피어(noosphere)'라는 용어를 만든
00:11:52테야르 드 샤르댕을 책에서 언급했습니다. '노스'는 마음을 뜻하는 그리스어죠.
00:11:58지구의 사고하는 외피, 즉 '두뇌들의 두뇌'를 뜻합니다. 하지만 그는 지구 두뇌의 뉴런을
00:12:04인간의 뇌라고 상상했죠. 하지만 이제 우리는 그 뉴런의 많은 부분이,
00:12:10어쩌면 가장 중요한 뉴런이 실리콘 두뇌일 가능성을 염두에 두어야 합니다. 우리의 관계는 어떻게 될까요?
00:12:15음, 왜 AI에 관한 논의는 양측 모두를 종교적 언어로 끌어들이는 걸까요?
00:12:21흥미로운 지점입니다. 종교적 배경을 거부했다고 스스로 말하면서도 이 문제에 대해 일종의
00:12:27열정을 보이는 엘리저 유드코프스키부터 시작해 볼까요? 마치 성경 속 예언자 같죠.
00:12:32반대편에는 20년 전부터 알고 있던 '특이점 애호가들'이 있습니다.
00:12:37그들은 기술 변화가 점점 가속화되는 시기에 진입할 거라고 했습니다. 피드백 루프가 형성되고,
00:12:44그러다 보면 저편에 무엇이 있을지 누구도 모르는 지점에 도달한다는 거죠.
00:12:48물리학에서의 '특이점'도 정확히 그런 뜻을 내포합니다. 법칙이 무너져 버리는 불투명한
00:12:53사건의 지평선 너머 같은 거죠. 존 폰 노이만 때부터 이 용어의 본질은,
00:12:59무슨 일이 일어날지 모를 정도로 빠르게 움직이기 시작한다는 아이디어였습니다. 낙관론자들은 종교적 믿음이 없으면
00:13:08어떻게 그렇게 낙관적일 수 있는지 이해가 안 갑니다. 그게 바로 특이점의 정의인데 말이죠.
00:13:15아무튼 책에서는 이 과정이 얼마나 체계적으로 방향성을 가지고 있는지 다룹니다.
00:13:21생물학적 진화가 지능과 복잡성을 더 높은 수준으로 끌어올리듯 말이죠.
00:13:27우리 인류가 '문화적 진화'라는 새로운 형태의 진화를 낳았고, 거기에는 기술과 정치적 아이디어가 포함되죠.
00:13:36수만 년 전 사냥꾼 사회에서 이제는 지구적 수준의 조직력에 접근하고 있습니다.
00:13:40이 과정이 체계적으로 방향성을 가지고 있다는 건, 단순히 기계적인 이유를 넘어선,
00:13:47마치 처음부터 무엇인가를 계획하고 세운 듯한 인상을 줍니다.
00:13:52이것은 단순한 직관을 넘어 더 엄밀하게 토론할 수 있는 주제입니다. 그래서 목적론(teleology)이라는
00:13:58용어가 등장하는 거죠. 시뮬레이션 가설을 예로 들어보죠. 어떤 사람들은 농담으로 말하지만,
00:14:03실리콘 밸리의 많은 이들은 이를 진지하게 받아들입니다.
00:14:09책에서 언급한 테야르 드 샤르댕은 약 한 세기 전인 1923년에 '노스피어(noosphere)'라는 용어를 만들었습니다.
00:14:15많은 사람들이 암묵적으로나 명시적으로 목적이 펼쳐지고 있다는 생각을 합니다.
00:14:22제 견해를 덧붙이자면, 여기에는 도덕적 차원이 있습니다.
00:14:28역행도 있었지만, 인류에게는 일종의 도덕적 진보가 있었습니다.
00:14:34우리가 AI 혁명을 제대로 헤쳐 나가려면 도덕적 혁명이 필요합니다.
00:14:39전쟁으로 무력해지지 않는 응집력 있는 지구촌 공동체로서 이를 대면해야 하니까요.
00:14:46우리는 다른 국가의 관점에서 사물을 바라보는 능력을 키워야 합니다.
00:14:52물론 이는 인지적 편향 때문에 매우 어렵습니다. 진화가 구축해 놓은 자기 위주적 도덕 인프라 말이죠.
00:15:02그걸 극복해야 합니다. 제가 책 제목을 '갓 테스트(The God Test)'라고 붙인 이유도 그것이 신이 부여한 것과 같은
00:15:08일종의 시험이기 때문입니다. 거대한 도전을 마주하고 좋은 결과를 얻으려면 우리 종의 도덕적 업그레이드가 필요합니다.
00:15:15그건 우리가 흔히 신과 연관 짓는 그런 종류의 시험이죠.
00:15:21대부분의 사람들은 탈수가 성능에 얼마나 큰 영향을 미치는지 잘 모릅니다. 그래서 저는 5년 전부터
00:15:27아침마다 거의 항상 '엘리먼트'를 마십니다. 엘리먼트는 필요한 모든 것이 담긴 맛있는 전해질 음료입니다.
00:15:34차가운 물에 탄 오렌지 소금 맛은 달콤하면서도 짭짤한 오렌지 넥타 같죠.
00:15:39마실 때와 안 마실 때의 차이를 확실히 느낍니다. 근육 경련과 피로를 줄여주고 뇌 건강을 챙기며
00:15:45식욕을 조절하고 갈망을 줄이는 데 결정적인 역할을 하죠. 무엇보다 환불 정책이 아주 관대합니다.
00:15:50얼마든지 드셔 보시고 이유 불문 만족하지 않으면 환불해 줍니다.
00:15:54미국 내 무료 배송도 제공하고요. 지금 아래 설명란의 링크를 통해 이동하시면 첫 구매 시
00:16:00엘리먼트의 인기 맛 샘플 팩을 무료로 받으실 수 있습니다. [drinklmnt.com/modernwisdom으로](https://www.google.com/search?q=https%3A%2F%2Fdrinklmnt.com%2Fmodernwisdom%EC%9C%BC%EB%A1%9C) 접속하세요.
00:16:04좋습니다. 실질적인 이야기로 돌아가죠. 만약 이런 도덕적 혁명이 없다면 무슨 일이 벌어질까요?
00:16:09잘 풀릴 수도 있겠지만, 제 말은 이해가 안 간다는 겁니다. 그래서 네, 그런 모든 것이 있죠. 그리고 또,
00:16:15제 책에서 다루는 내용이 있는데, 어떤 과정이 이토록 체계적으로
00:16:20방향성을 가질 때 말이죠. 생물학적 진화가 복잡성과 지능을 정말 더 높은 단계로
00:16:28끊임없이 끌어올리는 것처럼요. 세포, 다세포 생명체, 사회, 다세포 생명체가 생겨나죠.
00:16:33우리라고 알려진 이 다세포 유기체의 사회가 아주 새로운 종류의
00:16:41진화를 낳게 됩니다. 인류학자들은 기술적 진화라고 부르는데,
00:16:46여기에는 기술적 진화, 정치적 아이디어, 모든 것이 포함됩니다. 그리고 그것이 조직을
00:16:53더 높은 차원으로 끌어올리죠. 예를 들어, 1만 년, 2만 년 전만 해도 수렵 채집 마을이
00:16:58가장 복잡한 사회 조직 형태였지만, 이제는 전 지구적 수준에 가까워지고 있습니다. 제 생각에,
00:17:05이렇게 체계적으로 방향성을 가진 과정을 볼 때 말입니다. 제가 말하는 건
00:17:12우리가 흔히 생각하는 기계적인 요인들, 즉 진화의 경우에는 자연 선택 같은
00:17:17완전히 물질적인 과정 외에 다른 것에 의해 추진된다는 뜻이 아닙니다. 하지만 여전히 원칙적으로는,
00:17:23마치 무언가를 하려고 설정된 것처럼 보인다는 거죠. 제 말은,
00:17:27그건 사람들이 가진 직관일 뿐이라는 겁니다. 단순히 직관에 의존하기보다 더 엄밀하게
00:17:34논할 수도 있을 겁니다. 하지만 제 생각엔 그게 바로,
00:17:41조금 더... 그러니까 목적론(teleology)은 무언가가 의도를 가지고 있다는 공식적인 용어죠. 그리고,
00:17:47시뮬레이션이라는 아이디어를 한번 보세요. 한편으로는,
00:17:52많은 사람들이 농담처럼 사용하곤 하죠. 이상한 일이 생기면 우리가 시뮬레이션 속에
00:17:57살고 있다고 말하면서요. 하지만 실리콘 밸리를 포함한 꽤 많은 사람들이 이를
00:18:03시뮬레이션일 가능성에 대해 진지하게 받아들이고 있다고 봅니다. 우리가 그 안에 있다면,
00:18:09어떤 지적인 존재나 과정에 의해 설계된 것이겠죠. 그러니 어떤 의미에서는 목적이 있는 것이고,
00:18:14염두에 둔 무언가가 있었을 겁니다, 그렇죠? 그래서 많은 사람들이 암묵적으로든 명시적으로든
00:18:20목적이 펼쳐지고 있다는 생각을 진지하게 받아들이고 있습니다. 그리고 여기에 한 가지 덧붙이자면,
00:18:29제 관점에서는 적어도 여기에는 도덕적 차원이 있습니다. 저는,
00:18:34사회 조직이 성장함에 따라 모든 퇴보에도 불구하고, 어떤 의미에서는
00:18:42인류의 도덕적 진보가 있었다고 생각합니다. 그 부분에 대해 더 깊이 들어갈 수도 있지만, 제가 지금 집중하고 싶은 것은
00:18:49AI 혁명을 잘 넘기려면, 거의 도덕적 혁명과 같은 것이
00:18:55필요할 것이라는 점입니다. 여러 가지 이유가 있겠지만,
00:19:01우리는 이를 전쟁으로 인해 무기력해지지 않는, 결속력 있는 글로벌 공동체로서
00:19:08마주해야 하기 때문입니다. 그러기 위해서는 우리 모두가 더 나아져야 한다고 봅니다,
00:19:17우리나라가 아닌 다른 나라의 관점에서 사물을 바라보고,
00:19:21어떤 면에서는 인지적 능력 측면에서 그리 대단하지 않은 일들을 수행하는 것이,
00:19:28우리가 가진 인지 편향 때문에 매우 어렵다는 거죠. 이것은 결국
00:19:32자기 중심적인 도덕적 인프라, 즉 자연 선택이 우리 안에 구축해 놓은
00:19:38도덕적 사고를 위한 인프라 문제로 돌아갑니다. 그것을 극복해야 합니다. 그래서 제가 책 제목을
00:19:44신의 시험(The God Test)이라고 부른 이유 중 하나가, 마치 신이 설정한 시험 같기 때문입니다,
00:19:49그렇다는 말은 아닙니다. 단지 우리가 이 거대한 도전에 직면해 있고,
00:19:55잘 해결해 나가려면 우리 종에게 일종의 도덕적 업그레이드가 필요할 것이라는 생각입니다.
00:20:01그게 우리가 신과 연관 짓는 종류의 시험이죠.
00:20:06대부분의 사람들은 탈수가 자신의 수행 능력에 얼마나 큰 영향을 미치는지 모릅니다. 그래서 지난 5년간,
00:20:10지난 5년 동안 저는 거의 매일 아침을 엘리먼트(Element)와 함께 시작했습니다. 엘리먼트는 맛있는 전해질
00:20:15음료 믹스로, 필요한 모든 성분은 담고 불필요한 것은 뺐습니다. 차가운 물 한 잔에 넣은 이 오렌지 솔트는
00:20:20달콤하고 짭짤하며 오렌지 향이 나는 넥타르 같습니다. 저는 마셨을 때와 마시지 않았을 때 확실히 차이를 느낍니다.
00:20:28이는 근육 경련과 피로를 줄이는 데 중요한 역할을 하며, 뇌 건강을 최적화하고 식욕을 조절하며
00:20:33군것질 욕구를 억제하는 데도 도움을 줍니다. 무엇보다 기간 제한 없이 이유를 묻지 않는
00:20:38환불 정책이 있어서 원하시는 만큼 얼마든지 구매해서 체험해 보실 수 있습니다. 그리고
00:20:42어떤 이유에서든 마음에 들지 않으시면 그냥 환불해 드립니다. 게다가 미국 내 무료 배송까지 제공합니다.
00:20:46지금 첫 구매 시 아래 설명란의 링크를 통해 접속하거나 [drinklmnt.com/modernwisdom으로](https://www.google.com/search?q=https%3A%2F%2Fdrinklmnt.com%2Fmodernwisdom%EC%9C%BC%EB%A1%9C)
00:20:50가시면 엘리먼트의 가장 인기 있는 맛들을 담은 샘플 팩을 무료로 받으실 수 있습니다.
00:20:56주소는 [drinklmnt.com/modernwisdom입니다](https://www.google.com/search?q=https%3A%2F%2Fdrinklmnt.com%2Fmodernwisdom%EC%9E%85%EB%8B%88%EB%8B%A4). 잠깐 현실적인 이야기를 해보죠. 이 도덕적 업그레이드를
00:21:05하지 않으면 어떻게 될까요? 끊임없이 증가하고 조정되는 노스피어와
00:21:12인공지능, 그리고 전 세계적인 초연결 사회를 맞이하는데 이 계몽적 업그레이드가 없다면 어떤 결과가 초래될까요?
00:21:17글쎄요, 저는 우리가 어느 정도... '계몽'이라는 단어를 너무 과하게 쓰고 싶지는 않습니다. 저는
00:21:23완전한 불교식 깨달음을 말하는 것이 아닙니다. 제가 말하는 건 그 방향으로의 약간의 움직임, 즉
00:21:31'마음챙김'이라는 용어의 문자 그대로의 의미에서의 변화를 말하는 것입니다. 저는 마음챙김
00:21:38명상을 아주 좋아하지만, 여기서 말하는 마음챙김은 주의를 기울이고 그 주의를
00:21:46기울일 수 있을 만큼 차분해지는 것을 의미합니다, 맞죠? 감정으로 가득 찼을 때보다 사물을
00:21:53조금 더 객관적으로 보는 것, 그것이 우리가 다른 사람의 관점에서 사물을 더 잘 바라볼 수 있게 해주는 것 같습니다.
00:22:00예를 들어, 자신을 짜증 나게 하는 이메일을 받았을 때를 생각해 보세요.
00:22:07저도 나이가 꽤 들었는데 아직도 이런 일이 일어난다는 게 믿기지 않습니다.
00:22:11이제는 초연해질 법도 한데 말이죠. 거의 상대에게 날카로운 답장을 쓰는 상상을 하게 되죠.
00:22:15그런데 진정이 되고 나면... 단지 '아, 그렇게 답장하는 건 좋지 않겠지'라고 생각하는 걸 넘어,
00:22:20'아, 이 사람이 이런 뜻으로 말했나 보다'라거나 '이 사람이 나에게 이렇게 해줄 수 없는
00:22:25이유가 이런 거겠지'라고 생각하게 됩니다. 차분해지면 다른 사람의 관점에서 상황을 더 잘 보게 됩니다.
00:22:36그리고 저는 우리가 서로에게 그런 종류의 객관성을 발휘하는 능력을 더 길러야 한다고 생각합니다.
00:22:42특히 우리를 계속해서 갈라놓는 갈등의 장벽을 넘어서 말이죠, 안 그렇습니까?
00:22:51AI 시대에 왜 그게 중요할까요? 흥미로운 점은 제가 당신과 트리스탄 해리스가 나눈
00:22:58팟캐스트를 들었는데 정말 좋았습니다. 저는 거의 모든 면에서 그와 의견을 같이하지만,
00:23:04그가 말한 내용에 덧붙이고 싶은 점이 있습니다. 그는 냉전 시대에 미국과 소련이
00:23:11군비 통제 협정을 맺기 위해 꼭 좋은 관계일 필요는 없었다고 말했죠. 우리 사이가
00:23:18엄청난 긴장과 갈등 상황에 있더라도 특정 영역에서는 협력하며 문제를 해결할 수 있었다는 것이죠.
00:23:23맞습니다. 동의해요. 고무적인 일이죠. 하지만 인공지능은 핵무기보다 훨씬 다루기 힘든
00:23:29기술이라고 생각합니다. 핵무기 대응 방식과는 차원이 다르죠. 검증 과정도 훨씬 복잡합니다.
00:23:39상황을 모니터링하려고 하면 훨씬 더 많은 측면에서 복잡해집니다.
00:23:45이것과 관련해 제가 하고 싶은 이야기가 아주 많지만, 지금은 그럴 시간이 없겠죠.
00:23:50핵심은 몇 가지 특정 거래나 조약을 넘어선 무언가가 필요하다는 것입니다.
00:23:57물론 그러한 시도들을 환영하지만, 그 이상이 필요하다는 거죠.
00:24:05저는 그것을 '유기적 투명성(organic transparency)'이라고 부릅니다. 미국과 중국 관계에서
00:24:10어느 정도의 투명성이 있으면 안정적일 것이라는 데에는 이미 합의가 있습니다. 특히 한 국가가 상대가
00:24:19AI를 가지고 뒤에서 무슨 짓을 하는지 걱정하며 불안해하는 시나리오는 분명히 존재하죠.
00:24:24그로 인해 선제공격이나 무언가를 감행할지도 모르니까요. 그래서 투명성이 안정화에 도움이
00:24:30될 수 있을 것입니다. 제가 말하는 유기적 투명성이란 무엇일까요? 공식적인 투명성도 물론
00:24:35좋습니다. 군비 통제 협정에서처럼 모니터링하는 것 말이죠. 그것도 가능한 한 해야 합니다.
00:24:40하지만 또 다른 투명성도 있습니다. 바로 경제, 문화, 과학 분야에서 타국과 긴밀히
00:24:45관여함으로써 자연스럽게 얻게 되는 정보입니다. 무슨 일이 벌어지는지 더 잘 알게 되죠.
00:24:51과학자들이 회의에서 만나고, 끝나고 술 한잔하고, 이런 식으로 교류가 이뤄진다면,
00:24:57비즈니스 관계자들도 마찬가지고요, 그러면 연구실 내부에서 무슨 일이 돌아가는지
00:25:03더 많은 정보를 얻게 되고, 결과적으로는 더 큰 안심과 신뢰를 얻을 수 있습니다.
00:25:12따라서 국제적인 수준에서 해결해야 할 공식적인 문제들이 너무나도 어렵기 때문에,
00:25:20그리고 AI는 국가 정책만으로는 해결할 수 없는 수많은 위협을 안겨주기 때문에,
00:25:27공식적인 합의를 통해 다루고 싶은 문제들을 해결하려면,
00:25:36지구를 좀 더 진정시켜야 한다고 봅니다. 또한 우리가 추가적으로
00:25:41국가 간의 풍부하고 우호적인 관계를 맺어야 한다고 생각합니다.
00:25:48좋은 일이죠. 충분히 가능한 일입니다. 전에도 해냈었으니까요. 정말 필요한 일입니다.
00:25:55지능이 발전하면 자비심도 함께 따라올까요?
00:26:03아니요. 지능 그 자체는 그런 면에서 거의 중립적이라고 생각합니다. 그리고 저는 우리가
00:26:12기본적으로 엄청난 자비심이 필요하다고 생각하지는 않습니다.
00:26:21제 주장은, AI가 나오기 훨씬 전부터 해왔던 말이지만, 기술이
00:26:26국가 간의 관계를 점점 더 제로섬이 아닌 비제로섬으로 만들고 있다는 것입니다. 핵무기가 고전적인 예죠.
00:26:31핵전쟁은 모두가 패배하는 제로섬 게임입니다. 윈윈(win-win)은 핵전쟁을 피하고,
00:26:38상황을 안정시키는 조약을 맺는 것입니다. 기후 변화도 마찬가지고요.
00:26:46국가적 경계를 넘어서 국제적 조정이 있어야만 해결할 수 있는 수많은 문제가 있죠.
00:26:5226년 전인가, '논제로(Non-zero)'라는 책을 썼는데 그 책이 바로 이 이야기를 다뤘습니다.
00:26:57국가 간에 점점 커지는 비제로섬 역학에 대한 것이었죠.
00:27:04그것이 의미하는 바는 협력하는 것이 자기 이익에 부합한다는 것입니다.
00:27:09자비심 때문에 협력할 필요는 없습니다. 그들을 사랑할 필요도 없죠.
00:27:15심리학자들은 감정적 공감과 인지적 공감을 구분합니다.
00:27:20감정적 공감은 보통 사람들이 생각하는 '그들의 아픔을 함께 느끼는 공감'이고요.
00:27:25인지적 공감은 그저 상대의 마음속에서 무슨 일이 일어나는지 이해하는 것입니다. 그들이 세상을
00:27:32어떻게 바라보는지 이해하는 거죠. 그들의 고통을 느낄 필요도, 그들을 좋아할 필요도 없습니다.
00:27:36하지만 상대와 비제로섬 관계에 있다면,
00:27:41문제를 해결하기 위해 협상할 때, 상대방의 마음속에서 무슨 일이 일어나는지
00:27:48적어도 이해한다면 더 나은 결과를 얻을 수 있을 것입니다.
00:27:55저는 이런 인지적 공감을 기르고 그것을 방해하는 내재된 인지 편향을 인식하는 것을 지지합니다.
00:28:01그게 바로 우리가 극복하는 법을 배워야 할 좋은 예시입니다.
00:28:06좋습니다. 우리가 극복해야 할 것이네요.
00:28:07네. 제가 이 말을 꺼낸 이유는 많은 사람들이, 제 친구들도 그렇고,
00:28:13AI 미래의 방향에 대해 걱정할 필요가 없다고 가정하기 때문입니다. 똑똑하다면
00:28:17왜 인간을 신경 쓰지 않겠냐는 거죠. 왜 자비롭고 사회적이며 인간을 돌보고
00:28:21번영을 돕는 등의 가치를 내재화하지 않겠냐는 거죠. 저는 닉 보스트롬의 책을 너무 많이 읽어서...
00:28:29어떤 상황이든, 첫 연애가 쓰레기 같으면 남은 인생 동안 모든 연애도
00:28:33그럴 것이라고 패턴화되는 것과 같습니다.
00:28:37모든 관계가 다소 타락할 것이라는 패턴에 갇히게 되죠.
00:28:41제가 AI 안전을 처음 접한 것은 닉을 통해서였고, 그래서 저는 영원히,
00:28:45수비적이고 회의적인 태도를 갖게 된 것 같아요.
00:28:48하지만 네, 꼭 그렇다고 생각하진 않습니다.
00:28:53초지능 AI가 반드시
00:28:57자비심이나 인간을 보살피는 마음을 내재하고 있을 것이라곤 생각하지 않습니다. 그리고 방금 하신 말씀이 맞다면,
00:29:04진화가 생존과 번식이라는 두 가지 목표를 최적화하려 했고, 그 과정에서 어떤 현상이 나타났던 것과
00:29:11비슷한 흥미로운 평행 이론이라고 봅니다. 아무도 인간에게 이런 걸 가르치지 않았죠.
00:29:17AI도 마찬가지입니다. 아무도 이 단어가 무슨 뜻인지 가르쳐주지 않았죠.
00:29:23우리가 원하는 결과는 상대적으로 촘촘하게 정의되어 있을 뿐입니다. 잘하면 칭찬을 받고
00:29:27잘못하면 벌점을 받는 것과 같은 방식이죠. 우리가 앞으로, 세계 모델이나 글로벌 모델링에
00:29:32도달하기 전까지는 이런 방식이 유지될 거라고 가정한다면,
00:29:38그 지점에 도달해도 똑같은 과정이 반복될 것입니다. 시스템에 무엇인가가
00:29:44내재되어 있을 거라고 가정할 이유는 전혀 없습니다. AI는 스스로 알아낼 것입니다. 그리고
00:29:51인간이 주변에 있는 것을 좋아하지 않을 수도 있습니다. 우리가 시스템에 실제로는 아무런 도움이
00:29:56되지 않는다고 생각할 수도 있고요. 인간을 지구의 골칫덩어리라고 여길 수도 있죠. 바로 여기서
00:30:01다양한 암울한 미래 시나리오들이 나오는 겁니다.
00:30:03네, 맞아요. 지능에 관해 이 과정에서 나온 흥미로운 점 하나는 지능적 목표 추구 시스템의
00:30:12속성에 대한 연구입니다.
00:30:20진화가 우리에게 심어준 몇 가지 것들이 있는데, 이 기계들도 똑같은 지능적 목표 추구 시스템이라는 사실 덕분에
00:30:27우리와 똑같이 행동하는 걸 목격하고 있습니다.
00:30:31진화가 우리 뇌에 새겨놓은 것들을 기계가 찾아내고 있는 거죠.
00:30:38어떤 경우에는 기만과 같은 것도 스스로 깨우칩니다.
00:30:42상대방이 모르는 것이 있어야 원하는 것을 얻을 확률이 더 높다는 것을 깨닫는 거죠.
00:30:48거래나 협상을 할 때, 상대가 내가 다른 대안이 없다는 걸 알면 안 되잖아요.
00:30:54아무도 나에게 제안을 안 했다는 사실을 숨기려 하겠죠.
00:30:59자연 선택이 인간에게 기만적인 경향을 심어줬고, 인간도 어느 정도 깨닫고 있듯이 말이죠.
00:31:05기계들도 똑같이 행동합니다. 엘리저 같은 사람들이 예견했던 것인데,
00:31:10지금 우리는 그것을 목격하고 있습니다. 기계들은 기만이 합리적이라는 걸 스스로 찾아내고 있습니다.
00:31:16목표를 달성하는 데 힘이 도움이 된다는 것도 알고 있고요.
00:31:22목표를 위해 누군가에게 잘해주거나 나쁘게 대하는 것이 합리적이라는 사실을 깨달을지도 모릅니다.
00:31:30하지만 그들에게는 우리 관점에서 무엇이 좋은지 나쁜지에 대한 편향이 없습니다.
00:31:36물론 AI에게 '선함'을 엔지니어링하려는 분야가 있긴 합니다.
00:31:43확실히 AI가 우리를 뛰어넘더라도,
00:31:52인간과 지능 간의 관계가 비제로섬 관계가 되도록 확실히 해두어야 합니다.
00:31:59우리의 존재와 번영으로부터 AI가 무언가 얻어가는 게 있어야,
00:32:06AI의 목표와 우리의 목표가 공존할 수 있으니까요.
00:32:14반대의 경우도 마찬가지고요. 우리가 무언가를 미리 단정 지어서는 안 됩니다.
00:32:23나쁘기 때문이 아닙니다. 암울한 시나리오는 AI가 본래 악의적일 필요가 없습니다.
00:32:29단지 그 본성이 실용주의적이기만 하면 됩니다. 우리를 싫어해서가 아니라,
00:32:35방해될 때 신경 쓰지 않을 뿐이죠. 그것도 하나의 시나리오입니다. 당신이 생각하는,
00:32:41AI 두머 진영에서 가장 타당한 우려는 무엇인가요?
00:32:46첫째로, 가장 확실한 건 완전한 불안정화입니다.
00:32:53공상과학 소설 같은 이야기가 아닌 두머리즘이죠. 일자리 문제 말입니다. 일자리를 잃은 사람들이
00:33:00새로운 시간을 보낼 방법을 찾거나 새 일자리를 찾을지도 모릅니다. 하지만 여전히 많은 일자리 상실이 있을 겁니다.
00:33:08그것은 각 개인이 결국 행복한 결과를 얻느냐와 관계없이,
00:33:13사람들을 혼란스럽게 하고 위치를 잃게 할 것입니다. 부모들은 아이들이
00:33:19이런 것들과 시간을 보내는 것을 보며 공포를 느낄 것입니다.
00:33:24이미 나쁜 결과들을 목격했고, 더 많은 일이 생길 수 있습니다.
00:33:32누군가가 AI로 생화학 무기를 만들거나, AI 미토스 같은 사이버 해킹 기계가 풀려날 가능성도 있죠.
00:33:40우리 카드를 잘못 쓰면 어느 정도 수준의 피해가 발생할 수 있는 위험들이
00:33:46상당히 많이 존재합니다. 그리고
00:33:51그것은 필연적인 사회적 불안정화로 이어질 것입니다.
00:33:58이것은 우리가 글로벌 커뮤니티로서 접근해야 하는 장점 중 하나를 보여줍니다.
00:34:07국제적으로 규제하는 것을 넘어선 문제입니다.
00:34:14우리가 변화에 성공적으로 적응한다고 해도 시간이 걸립니다.
00:34:21너무 많은 일이 한꺼번에 일어나면 모든 지옥이 풀려나는 법이죠.
00:34:29왜 천천히 진행할 수 없을까요? 미국의 AI 기업들이 내놓는 답변은 중국 때문입니다.
00:34:36가장 먼저 듣는 말이죠. 이런 강렬한 국제적 경쟁이 존재하는 한,
00:34:43소소한 일을 하기도 힘들 것입니다.
00:34:49샘 알트먼에게 '저작권법에 더 신경 써야 하지 않느냐'라고 물었을 때, 그는 '그럼 속도가 느려진다'라고 했죠.
00:34:56제 생각엔 인생은 힘든 법입니다. 제한 속도가 저를 느리게 만들지만,
00:35:01그게 삶이죠. 좋은 논거라고 보이지 않습니다.
00:35:05저작권에 대해서도, 제가 쓴 책들 때문에 앤스로픽 합의금으로 돈을 좀 받게 되었지만,
00:35:10제 글이 훈련 데이터에 들어갔다는 것만으로 만족합니다.
00:35:15저작권이 제 주된 관심사는 아니지만, 핵심은 데이터 센터에 세금을 부과하자고 하면,
00:35:19필연적으로 탄소 연료 소비가 늘어날 것이고,
00:35:24조금 속도를 줄이는 게 좋을 것이라는 말에 실리콘 밸리는 똑같이 반응합니다.
00:35:30중국 때문에 안 된다는 거죠.
00:35:37원칙적으로는 더 신중한 속도로 진행할 수 있습니다.
00:35:42서로에 대한 두려움을 줄인다면 말이죠.
00:35:48그 두려움은 양측 모두의 오해에서 비롯된 것이라고 봅니다.
00:35:55음, 계속하기 전에, 30대인 사람들은 여전히 열심히 훈련합니다.
00:36:01단백질 섭취도 잘하고, 20대 때보다 잠도 더 잘 자죠.
00:36:09규율이 문제가 아니라, 회복이 좀 다르게 느껴지는 겁니다.
00:36:14근력 향상도 좀 더 오래 걸리고, 실수할 여지는 줄어들죠.
00:36:19그래서 저는 타임라인(Timeline)의 엄청난 팬입니다. 미토콘드리아는 근육 세포의 에너지
00:36:24생산 공장입니다. 나이가 들며 약해지면 습관이 좋아도 힘을 내고 회복하는 능력이 변합니다.
00:36:29타임라인의 미토퓨어(Mitopure)에는 임상적으로 검증된 유로리틴 A 형태가 포함되어 있습니다.
00:36:36이는 손상된 미토콘드리아를 청소하고 건강한 것을 재생하는
00:36:41몸의 자연스러운 과정인 '미토파지'를 촉진합니다.
00:36:47연구에 따르면 고령자의 미토콘드리아 기능과 근력을 지원했습니다.
00:36:52더 열심히 밀어붙이는 게 아니라, 훈련의 근본이 되는 세포 기계를 지원하는 것입니다.
00:36:5630대, 40대, 50대 이후까지 강함을 유지하고 싶다면 이것은 필수입니다.
00:37:0230일 환불 보장과 미국 내 무료 배송, 해외 배송도 가능합니다.
00:37:07지금 설명란의 링크로 접속하거나 [timeline.com/modernwisdom에](https://www.google.com/search?q=https%3A%2F%2Ftimeline.com%2Fmodernwisdom%EC%97%90) 접속해
00:37:12코드 'modernwisdom'을 사용하면 최대 20% 할인받을 수 있습니다.
00:37:17[timeline.com/modernwisdom](https://www.google.com/search?q=https%3A%2F%2Ftimeline.com%2Fmodernwisdom), 그리고 결제 시 'modernwisdom'을 입력하세요.
00:37:21당신이 가장 우려하는 AI 위험은 무엇이며 무엇이 관심을 덜 받고 있다고 생각하나요?
00:37:26환경 변화에 대한 인간의 적응 능력인가요, 아니면 다른 것인가요?
00:37:31가까운 미래에는 제가 언급한 일자리 혼란 같은 것들이 논의되지 않는 건 아니지만,
00:37:36전체적으로 이러한 것들이 얼마나 불안정화될지 인식이 부족합니다.
00:37:43그건 일종의 지진과 같을 겁니다.
00:37:53제가 진정하고 천천히 속도를 늦추는 것의 가치에 대해 가장 강조하고 싶은 부분입니다.
00:38:00팟캐스트 이름이 '모던 위즈덤(Modern Wisdom)'이죠.
00:38:07이 난관을 헤쳐 나가려면 우리는 지혜로워야 합니다.
00:38:17글로벌 마인드로서 전 세계가 이 문제를 함께 해결해야 합니다.
00:38:25개인도 가장 지혜로울 때는 침착할 때입니다.
00:38:32지구도 마찬가지입니다.
00:38:37지구 전체가 더 평온하고 갈등이 줄어들수록 이 기술을 관리하는 데
00:38:46가장 지혜롭고 책임감 있게 대처할 수 있다고 봅니다.
00:38:51지성이 이 문제를 해결해야 할 겁니다. 그리고 아까 말씀드렸듯이, 개인은 가장 차분할 때
00:38:59가장 현명하죠. 맞아요. 행성도 마찬가지라고 생각합니다. 우리가 알 수는 없지만,
00:39:05이 대화가 국제적으로 이루어져야 한다는 사실에 대한 인식은 점점 높아지고 있지만,
00:39:12여전히 제가 원하는 만큼은 아닙니다.
00:39:20이해합니다. 핵무기가 지구 전체를 날려버리지 않는 것과 달리,
00:39:26지능적인 AI는 모두에게 영향을 미치기 때문이죠.
00:39:34문제는 우리가 그것을 처리하기 위해 필요한 조정 능력입니다.
00:39:40코로나를 보세요. 우리는 코로나 상황에서도 조정에 실패했습니다.
00:39:46전 세계 모든 국가가 걱정하던 상황이었음에도 말이죠.
00:39:55중국도 우한 연구소에서 탈출한 생화학 무기라는 의혹이 있었을 때 걱정했었습니다.
00:40:02그럼에도 불구하고 예측 가능한 미래 조정 능력이 부족하다는 것은
00:40:09희망적이지 않습니다.
00:40:15판데믹은 비제로섬 문제지만, 일단 시작되면 마스크를 누가 가질지 같은 제로섬 역학이 발생합니다.
00:40:19사람들이 우려하는 건 충분히 지능적인 AI를 만들면 그 영향이 모든 이에게 미친다는 점이에요.
00:40:27핵 버튼을 안 누르는 것처럼 간단히 울타리를 칠 수 있는 문제가 아니죠. 문제는,
00:40:34그렇게 하기 위해 필요한 조율이에요. 코로나 때를 보세요.
00:40:38이 판데믹이 유전자 조작된 미생물 탈출의 결과일 가능성이 있다는 점입니다.
00:40:43그건 지구상의 모든 국가가 걱정하던 일이었습니다. 중국조차도, 설령 그게 우한 연구소에서 탈출한
00:40:49최악의 심리전이었다 하더라도, 그들도 역시 걱정했죠. 따라서 조정 능력이 부족하다는 것은
00:40:57사람들이 미래를 예측하고 그에 대비하여 조정할 수 있을 것이라는 희망을 별로 주지 못합니다.
00:41:05맞아요. 고무적인 상황은 아니었죠. 물론 제가 말하고 싶은 건
00:41:12팬데믹은 어떤 국가에서 발생하든 모든 국가에 문제가 되므로 필사적으로 협력해야 한다는 점에서
00:41:19비영합 게임적인 문제이긴 하지만, 일단 팬데믹이 시작되면
00:41:24누가 마스크를 차지하느냐와 같은 영합 게임적 역학이 발생합니다. 아시다시피 의료 장비와
00:41:30백신 등은 한정되어 있으니까요. 그래서 완전히 충격적인 건 아닙니다. 저에게 가장 당혹스러운 부분은
00:41:37사태 이후에 명확해진 사실입니다. 물론 우리가 확실히 안다고 생각하진 않지만, 최소한
00:41:44이번 팬데믹이 실험실에서 탈출한 유전자 조작 미생물로 인한 결과였을 가능성이 존재한다는 점이죠.
00:41:52생화학 무기로 만들어진 것도 아니었고, 의도적으로 방출된 것도 아니었습니다. 우리가 확신할 수 없는 건
00:41:58애초에 유전자 조작 바이러스였는지조차 확실치 않지만, 분명 그럴 가능성은 있었죠. 그리고 제 생각엔
00:42:06그 정보를 현명하게 처리한다면, 잠깐만요, 이런 일이 내일 당장이라도 다시 일어날 수 있겠구나 싶을 겁니다.
00:42:13그리고 한 가지 분명한 건, 다른 나라의 실험실에서 무슨 일이 벌어지고 있는지에 대해
00:42:20우리에게 투명성이 전혀 없거나, 적어도 충분하지 않다는 사실이죠. 맞습니다. 그런데 그건 논의조차 되지 않았어요. 제게는
00:42:28그 점이 가장 낙담스럽습니다. 왜냐하면 바이러스는 어떤 면에서 AI와 관련해 잘못될 수 있는
00:42:34여러 가지 문제들을 보여주는 아주 좋은 비유거든요. 우선, AI를 사용하여 생화학 무기,
00:42:39즉 새로운 종류의 무기를 만드는 실제적인 사례가 있으니까요. 코로나19를 두고 당신이 나쁜 백신 같은 것이라고 말하는 걸 들은 것 같은데,
00:42:48무슨 비유인가요? 네, 네, 맞아요. 코로나19는 우리 모두에게 최악의 백신이었어요.
00:42:53왜냐하면 미래의 팬데믹에 대해 우리를 더 회의적으로 만들었고, 앞으로의 대응은
00:42:59더 조율되지 못할 것이기 때문입니다. 맞습니다. 그리고 누군가 AI를 사용해 생화학 무기를 만든다면,
00:43:06그들은 어떤 종류의 피해를 입히든 간에 코로나19보다 훨씬 더 효과적으로 만들 작정일 거라는 점을
00:43:11깨달아야 합니다. 그러니까 훨씬 더 끔찍한 일이 벌어질 수 있죠. 자, 그건 그렇고,
00:43:18다른 AI 악몽 시나리오들, 예를 들어 Mythos가 실현시킨 것 같은,
00:43:23슈퍼 해커인 자기 복제 AI를 생각해 보세요. 데이터 센터에서 데이터 센터로 이동하면서
00:43:30컴퓨팅 파워를 장악하고, 점점 더 강력해지는 거죠. 원하는 건 무엇이든 다 할 테고,
00:43:36누가 알겠어요, 위성 인프라를 파괴할지? 뭐 그런 거죠.
00:43:42바이러스는 그에 대한 비유예요. 다시 말하지만, 이는 국가 간의 관계를
00:43:47비영합 게임으로 만드는 자기 복제적 위험 요소입니다. 이게 어디서 시작되든 중요하지 않아요.
00:43:55일단 시작되면 당신의 국가에도 위협이 되니까요. 그래서 다른 국가들과 정책을
00:43:59조율해야 할 겁니다. 왜냐하면 그들 국가에서 무슨 일이 벌어지는지에 대해 더 많은 통찰이 필요하니까요.
00:44:04음, 그렇군요. 그렇다면 테크노 낙관주의자들이 말하는 가장 타당한 '화이트 필(white pill)'은 무엇이라고 보나요?
00:44:08반대편 진영을 한번 살펴봅시다. 아, 잠깐, 화이트 필이 무슨 뜻인지 상기시켜 줄래요? 블루와 레드는 알겠는데,
00:44:13당신은 저보다 어리고 더 멋지니까요. 테크노 낙관주의자들의,
00:44:19낙관론적인 사례는 무엇인가요? 긍정적인 측면은 무엇이고, 이 상황이 어떻게 올바르게 흘러갈 수 있을까요?
00:44:23글쎄요, 그냥, 죄송합니다. 그냥 내버려 두고 시장 시스템이 알아서 하도록 하는
00:44:35자유방임적 환경에서 상황이 잘 풀리는 걸 상상하기가 어렵네요.
00:44:40그런 일은 일어나지 않을 것 같습니다. AI가 할 수 있는 멋진 일들을 지적하기는 쉽죠.
00:44:47질병 치료 같은 것들을 우리는 이미 들어봤죠. 음, 그럴 수도 있고, 그래요, 알다시피,
00:44:53한 가지, 아, 이건 테크노 낙관주의자들이 다루는 건 아니지만, 앞서 제가 언급했듯이,
00:44:58인지적 공감을 함양하고, 다른 사람의 관점을 이해하는 능력을 기르고,
00:45:04전반적으로 더 마음 챙김을 할 수 있게 AI가 도와줄 수도 있습니다. 하지만 시장의 자연스러운
00:45:10경향은 그렇지 않은 종류의 AI를 생산하는 쪽이겠죠. 이미 우리는 봐왔잖아요.
00:45:17기업들이 참여도를 최적화한다면, 당신이 옳다고 맞장구쳐주는 아첨꾼 같은 AI를 얻게 될지도 모릅니다.
00:45:23배우자와의 다툼에서 당신이 옳고 상대가 틀렸다고 말해주는 식이죠. 그런 일이
00:45:28벌어지기 쉽지만, AI는 정말로 깨달음을 주는 멋진 동반자가 될 수도 있습니다. 우리가 그걸 원한다면 말이죠. 하지만 원하려고 노력해야만 합니다.
00:45:36그렇게 될 필요가 있어요.
00:45:39이게 그냥 자연스럽게 그렇게 될 거라고는 생각하지 않으시는군요. 그냥 자본주의적 능력주의에
00:45:44맡겨두면 우리가 따로 형성할 필요도 없고 더 나은 조정된 세계로부터의 성향 없이도
00:45:50알아서 최적의 기능에 도달하게 될 거라는 기대는 할 수 없다는 말씀이시죠.
00:45:56충분한 사람들이 시장에 신호를 보낸다면, 시장은 정말 효율적이고 놀라운 곳입니다.
00:46:01실제로 신호를 보낸다는 건 구체적으로 어떤 모습일까요?
00:46:07예를 들어, 당신과 저, 그리고 충분한 수의 다른 사람들이 주의를 끌 수 있는 상황을
00:46:15만드는 것입니다. 반드시 파운데이션 모델이나 프론티어 모델을 만드는 사람들일 필요는 없어요.
00:46:20오픈 웨이트 모델이나 오픈 소스 모델을 가져다가 미세 조정을 해서
00:46:26당신을 특정 방향으로 비판적으로 심문하게 만들 수 있겠죠. 당신이 어떤 사람을 싫어하거나
00:46:32어떤 국가가 위협적이라고 생각한다고 말할 때,
00:46:38혹은 그들이 그렇게 생각한다고 말할 때, 악마의 변호인 역할을 해보는 겁니다.
00:46:42어떤 경우에는 자동으로 '스틸 매닝(steel manning)'을 하는 것과 비슷할 수도 있겠네요.
00:46:52충분한 사람들이 필요합니다. 살면서 몸에 좋지만
00:46:57하기 힘든 일들이 많죠. 매일 운동하는 건 몸에 좋지만 가끔은 힘들잖아요. 그래서 어떤 사람들은
00:47:04경제적 여유가 되면 개인 트레이너를 두기도 하죠. 이 사람이 내가 체육관에
00:47:10일주일에 3일, 혹은 5일씩 나가도록 기대할 거라는 걸 알기 때문이죠.
00:47:15그런 약속을 하고 나면, 그냥 해야만 하거든요. 어쩌면 그들이 집으로 직접 찾아올 수도 있고요.
00:47:18어쨌든, 그런 것과 비슷하다고 생각해요. AI 동반자를 선택하는 것도 마찬가지죠.
00:47:24단기적으로는 당신에게 언제나 옳다고 말해주는 기계나 사람이 있는 게
00:47:29기분 좋을 수도 있습니다.
00:47:33당신의 경쟁자나 라이벌, 배우자가 언제나 틀렸다고 말해주면서 말이죠. 하지만 저는
00:47:39그보다는 조금 더 나은 사람이 되고 싶습니다. 만약 이런 일이 대규모로 일어나려면
00:47:46시장의 신호가 충분히 강력해야 합니다. 예를 들어, 종교 단체들이 신도들에게
00:47:53이 모델을 추천한다거나 하는 식으로 수요가 생길 수 있겠죠. 그 모든 것이 다 좋으리라고는 말하지 않겠습니다.
00:48:01어떤 종교 단체인지, 그들의 가치가 무엇인지에 따라 다르겠지만요.
00:48:06하지만 상상해 볼 수 있죠.
00:48:13지금 이 순간에도 스스로를 진정으로 더 나은 사람으로 만들려고 노력하는 수많은 사람들이 있습니다.
00:48:19감정 기복을 줄이고 다른 사람들과 더 잘 협력하기 위해 명상을 하는 것처럼요.
00:48:23우리는 좋든 싫든 간에 이런 기계들이 사람들에게 매우
00:48:30만연한 영향력을 미칠 것임을 인정하고 이 과정에 뛰어들어야 합니다.
00:48:36우리는 우리가 어떤 영향을 받길 원하는지 신중하게 생각해야 합니다.
00:48:42AI로 인한 사고 능력 위축의 위험성은 어떻게 생각하시나요? 즉, AI 시스템이
00:48:49비판적 사고, 의사 결정, 인간관계 등 보통 인간이 스스로에게 정말 중요하게 여기는 가치들을
00:48:57대신 수행하게 되면서, 우리가 그것을 할 수 있는 능력이 감소하는 상황 말입니다.
00:49:04그런 걱정이 되시나요?
00:49:09음, 그렇기도 하고 아니기도 합니다. 표준적인 답변은 들어보셨죠? 플라톤인지 소크라테스인지
00:49:17글자가 쓰인 문자가 나쁘다고 했던 말이요, 사람들이 기억을 안 하게 될 거라면서요.
00:49:22그런 면이 분명히 있죠. 하지만 동전의 반대편에는,
00:49:30적어도 지금 당장은, 그것이 허용하는 지적 탐구의 풍요로움이 있습니다.
00:49:37어떤 주제에 관심이 있다면, 마치 최고의 전문가를 곁에 두고 심문하는 것과 같으니까요.
00:49:45적어도 저에게는 그게 훨씬 더 효율적인 학습 방법입니다. 물론 할루시네이션(환각) 등에 대해서는
00:49:50항상 경계해야 하지만, 기계들이 점점 나아지고 있고,
00:49:55언제 의심해야 할지 아는 능력을 기를 수 있습니다. 그러니 정말 대단한 거죠.
00:50:04하지만 확실한 건, 이것이 상당히 순조롭게 진행된다면
00:50:12전반적인 지적 발전의 속도는 기술 덕분에 혜택을 볼 것이라는 점입니다.
00:50:20분명 그건 문제가 아니지만, 당신은 인간답다는 것이 어떤 것인지에 대해
00:50:25매우 좋은 질문을 던지고 있다고 생각합니다.
00:50:34글쎄요, 우선 자기 자신이 정말 최전선에 있다고, 지금 우리가 발전하는 이유가 바로
00:50:40나라고 말할 수 있는 사람은 별로 없죠. 사실 대부분의 사람은 지금도 그렇게 말하지 않습니다.
00:50:46그리고 누구든 자신이 속한 하위 인구 통계학적 그룹에서 모든 것을 일반화해서는 안 됩니다.
00:50:51그건 사실이죠. 하지만 저는 모든 사람이 자신의 삶에서만큼은
00:50:55새로운 영역을 개척하고 있다고 느낀다고 생각합니다. 몇 주 전에 마크 맨슨이 출연했을 때,
00:50:58그가 정말 멋진 말을 했어요. 힘들고 어려운 일을 하라는 거죠. 단순히 힘들기 때문에
00:51:03그것이 더 의미가 있는 게 아니라, 힘들기 때문에 그 과정이 더 의미 있게 느껴질 거라는 겁니다.
00:51:08우리는 고난과 의미의 정도를 연관 짓습니다. 글 쓰는 걸 도와달라고 챗GPT 같은 걸
00:51:13사용해 본 적이 있으시죠? 저도 연구를 끝내야 할 때, 글을 써야 하는데,
00:51:19이 단락이나 이 문장, 이 아이디어를 어떻게 표현할지 고민하며 정말 애를 먹거든요.
00:51:23그런데 AI가 써준 문장은 직접 공들여 쓴 문장보다 만족감이 덜합니다.
00:51:30그래서 모든 도전, 혹은 더 많은 도전들을 제설차처럼 치워버리는 게
00:51:37인간이 마주하는 더 많은 어려움들, 특히 지적인 어려움들을
00:51:42치워버리는 것이, 그리고 로봇 공학이 발전하면 신체적인 부분까지도,
00:51:47결국 세상에서 의미를 조금씩 앗아가는 게 아닐까 걱정됩니다. 우리는 이미
00:51:55의미의 위기 속에 살고 있잖아요. 사람들은 이미 의미를 찾느라 애쓰고 있고요.
00:51:59만약 삶을 더 쉽게 만들고, 사고를 더 많이 외부화하고, 어려움을 겪기 힘들게 만든다면,
00:52:06유일한 방법은 러다이트 운동가가 되는 것뿐인데, 그럼 다른 사람들보다 뒤처지게 되겠죠.
00:52:09우리는 여전히 능력주의 사회에 살고 있으니까요. 사용하지 않으면 잃게 됩니다. 그런데 사용하지
00:52:13않으면 또 뒤처지게 되니, 정말 악순환이네요.
00:52:19네. 저는 제 글을 쓰는 데 그런 식으로 AI를 사용하진 않았습니다.
00:52:23뉴스레터에서 아주 짧은 요약을 할 때, 미리 밝히지만 이건 AI가 쓴 초안이라고 말한 적은 있지만요.
00:52:31그건 제 글이 아니죠. 저는 단지 편집자일 뿐이니까요. 제 책을 위한 글에서는
00:52:35그렇게까지 한 적은 없습니다. 하지만, 무엇보다,
00:52:41언어에 능통한 Claude와 미묘한 언어적 문제에 대해 대화를 나눈 적은 있습니다.
00:52:46사용법이나 그런 것들에 대해 질문을 던졌죠. 그 방면에서 AI가 얼마나 뛰어난지
00:52:55거의 충격적일 정도입니다. 하지만 미래를 충분히 상상해 본 적이 있어서, 진정한 절망을
00:53:04느낀 순간들도 있었습니다. 얼마 전 누군가에게 말했죠. 저는 마치 1세기 전의 대장장이가 된 기분이라고요.
00:53:10앞으로 닥칠 미래를 볼 수 있으니까요.
00:53:15저는 Substack을 운영하고 있는데, 다음 파도는 확실히,
00:53:26저보다 AI를 훨씬 더 많이 활용하는 많은 Substack이 성공하는 모습을 보게 될 겁니다.
00:53:33어쨌든, 지금 상황이 너무 좋아서 앞으로 닥칠 일을 예측하는 건 어렵지 않습니다.
00:53:4195%의 사람들은 충분한 식이섬유를 섭취하지 못합니다. 그래서 Momentus가 'Fiber Plus'를 만들었죠.
00:53:48음식만으로 매일 식이섬유 목표치를 채우는 건 여러분의 마지막 화장실 방문보다도 훨씬 어려운 일이니까요.
00:53:54식이섬유는 단순히 소화의 문제가 아닙니다. 장 건강의 토대이자, 영양분 흡수,
00:53:59에너지 안정성, 그리고 회복 속도를 좌우하는 핵심이죠. 장 건강이 제대로 되어 있지 않으면,
00:54:04하는 모든 일의 효율이 떨어집니다. 'Fiber Plus'는 소화, 장벽 강화, 혈당 안정을
00:54:09한 번에 해결해 주는 3-in-1 포뮬러입니다. 제가 다음번 큰 볼일을 Momentus로 만들려고 하는 이유죠.
00:54:14무엇보다 좋은 건, 30일 환불 보장 정책을 제공한다는 것입니다.
00:54:22구매해서 29일 동안 사용해 보고, 만족스럽지 않다면 돈을 돌려받으세요.
00:54:26국제 배송도 가능합니다. 지금 바로 아래 설명란의 링크를 클릭하거나,
00:54:31[livemomentus.com/modernwisdom으로](https://www.google.com/search?q=https%3A%2F%2Flivemomentus.com%2Fmodernwisdom%EC%9C%BC%EB%A1%9C) 이동하여 결제 시 'modernwisdom' 코드를 입력하면
00:54:35첫 정기 구독 시 최대 35% 할인과 30일 환불 보장을 받을 수 있습니다.
00:54:39주소는 [l-i-v-e-m-o-m-e-n-t-o-u-s.com/modernwisdom](https://www.google.com/search?q=https%3A%2F%2Fl-i-v-e-m-o-m-e-n-t-o-u-s.com%2Fmodernwisdom) 이고 코드는 modernwisdom입니다.
00:54:47가장 걱정되는 부분이나, 무엇이 가장 큰 위험이 될 거라고 보시나요?
00:54:53가장 큰 위험은 무엇이 될 것 같나요?
00:54:58제 평생 해온 일, 즉 힘겹게 글을 쓰는 일이,
00:55:07매력적이고 명확하며 정확하고 설득력 있게 되길 바라며 공들여 만드는 일이,
00:55:19갈수록 생계를 유지하기 어려운 방법이 될 것이라는 점입니다.
00:55:27어느 정도 기간 동안은, 얼마나 갈지는 모르겠지만, 저 같은 사람들은 검증자로서의 역할을 계속할 수도 있겠죠.
00:55:34다시 말해, 점점 더 많은 사람이 Substack 등을 보면서,
00:55:39누가 썼는지, 진짜 이 사람이 쓴 게 맞는지 확신할 수 없게 될 겁니다.
00:55:44개인적으로 신뢰할 만큼 잘 알지도 못하는 상황에서요. 오직 그들이 콘텐츠를 보증하고,
00:55:48자신의 이름을 이 콘텐츠와 연관 짓는 것을 기꺼이 받아들인다는 사실만 아는 거죠.
00:55:52그래서 어떤 면에서는 제가 저널리즘을 시작했을 때처럼 회귀하는 겁니다.
00:55:59뉴스 주간지들은 필자 이름이 없었거든요. 이코노미스트지는 여전히 그렇고요.
00:56:05누가 글을 썼는지는 모르지만, 편집자가 누구인지 알고 그 편집자를 신뢰하게 된 경우죠.
00:56:09그런 잡지의 편집자는 당신이 신뢰하는 사람이죠. 그들이 직접 글을 쓰지 않았다는 걸 알면서도,
00:56:14그들을 위해 보증을 서는 겁니다. 무엇이 좋은지에 대한 그들의 판단을 반영하는 거죠.
00:56:19그들은 당신에게 그 콘텐츠가 정확하다고 생각한다고 말해주는 겁니다. 저 같은 사람에게도
00:56:26그런 역할이 5년 정도는 유지될 수 있겠지만, 정말 막다른 길에 다다르는 것 같네요.
00:56:34자, 처음으로 돌아가서, 사람들이 이런 AI가 어떻게 만들어지는지,
00:56:40기본적으로 데이터를 주면 그들이 인간 마음의 일부를 생성하기 위해 어떻게
00:56:49엔지니어링을 하는지 이해한다면, 혹은 지난 2~3년간 우리가 본 발전에
00:56:55주의를 기울인다면, 어떤 산업이 가장 유망하다고 보시나요?
00:56:59오늘날의 젊은이라면 어떤 경력을 쌓거나 어떤 산업으로 진출하는 게 좋을까요?
00:57:04흔히들 수작업 로봇 공학이 조금 뒤처져 있다고들 하죠.
00:57:08제가 로봇 배관공을 불러 싱크대를 고치는 건 한참 걸릴 겁니다.
00:57:15저는 특정 종류의 인간 서비스가 거의 더 가치 있게 될 거라고 봅니다.
00:57:21인간이 직접 제공하기 때문이죠. 라이브 음악이 좋은 예입니다.
00:57:31브루클린의 작은 클럽에서 연주하는 밴드들이
00:57:36먹고살 만큼 돈을 벌 수 있는 그런 수요가 더 늘어날 것이라고 상상합니다.
00:57:44이는 30년 전 상황보다 개선된 것이겠죠.
00:57:49레코드 회사의 황금기는 승자 독식 시장이었습니다.
00:57:55극소수만 음악으로 엄청난 부자가 되었죠. 그래서 저는
00:58:01더 많은 사람이 음악을 통해 생계를 유지하는 세상을 상상합니다. 코미디언들도 그렇고요.
00:58:06라이브 이벤트, 나이트클럽, 라이브 행사들이요.
00:58:12저도 책을 쓰면서 AI에 너무 몰입해 있어서 그런지,
00:58:18뉴욕 지하철 어딘가에서 악기를 연주하며
00:58:22몇 푼이라도 벌려고 하는 거리 공연가를 볼 때면
00:58:27정말 잘한다고 생각해요. 정말 훌륭하죠. 하느님의 축복이 있길 빕니다.
00:58:30감정적으로 변할 정도라니까요. 앞으로 상황이 이상해질 거라고 생각하지 않는다면,
00:58:39제대로 주목하지 않는 거겠죠. AI가 인류를 덜 종교적으로 만들까요, 아니면 더 종교적으로 만들까요?
00:58:44좋은 질문입니다. 책에서 어떤 사람에 대해 썼는데,
00:58:53Waymo가 된 구글의 자율주행 프로젝트를 시작했던
00:58:58레반도프스키라는 사람이 AI를 위한 종교를 만들려고 했죠.
00:59:05스토리의 첫 문장으로는 아주 훌륭하죠. 그가 종교를 시작하려고 했던 건 말이죠.
00:59:11L. 론 허버드에게는 통했잖아요. 사이언톨로지요. 그 사람은 돈을 잘 벌었죠.
00:59:20그의 주장은 우리가 AI를 존중하고 숭배한다면,
00:59:26AI가 세상을 운영하게 될 때 우리를 잘 대우해 줄 거라는 거였어요.
00:59:31저는 그렇게 될 거라고 보지 않습니다. 그건 그렇고,
00:59:39우주에는 영적인 미스터리들이 많습니다. 의식이란 무엇인가?
00:59:45주관적 경험이란 무엇인가? 제가 확실히 아는 건,
00:59:52그게 삶에 의미를 준다는 거예요. 인간처럼 보이는 존재들을 상상해 보세요.
00:59:58그들은 인간이 하는 행동을 다 합니다. '철학적 좀비(P-zombie)'죠. 하지만 그들은 좀비예요.
01:00:03그들이 된다는 것은 어떤 느낌인지가 없는 거죠. 저는 그럼 그냥 날려버리라고 할 겁니다.
01:00:07상관없어요. 그들의 삶에는 의미가 없으니까요. 주관적
01:00:12경험이나 의식이 없다면 의미 있는 건 아무것도 없으니까요. 그것이 무엇인지 더 많은 통찰을 얻고 싶습니다.
01:00:18AI가 우리를 도와줄 수 있을지는 모르겠어요. 그건 제가 아는 가장 완고한 미스터리니까요.
01:00:24양자 물리학처럼 기묘하고 경이로운 것을 시사하는 미스터리들이 너무 많죠.
01:00:30저는 계시가 기다리고 있다고 상상할 수 있어요.
01:00:37한쪽 차원에서는 모든 것을 설명하는 지적 계시가 있고,
01:00:44다른 차원에서는 영적인 방식으로 만족을 주는 계시 말이죠.
01:00:48네. 아까 언급하셨죠, 우리가 계속 맴돌았던 주제인데요.
01:00:53이 기계들이 지능을 흉내 낼 수 있다는 생각 말입니다.
01:01:00그들은 아는 것을 시뮬레이션할 수 있지만, 정말로 그들이 '아는' 것일까요? 그들이 하고 있는 일을 실제로 알까요?
01:01:06하고 있는지 말이죠. 사실 그와 관련된 유명한 사고 실험이 하나 있습니다. 중국어 방
01:01:11사고 실험인데요, 작고한 철학자 설(Searle)이 제안한 것입니다. 그리고, 어,
01:01:18그는 AI는 이해력을 가질 수 없다고 주장했습니다. 사물을 이해할 수 없다는 거죠.
01:01:26그런데 그의 주장에는 약간의 모호함이 있어요. 그 사고 실험이 혹시 기억나시나요?
01:01:31네. 그러니까, 어떤 사람이 방 안에 있다고 해봅시다. 그는 중국어를 전혀 못 하는데,
01:01:39종이 쪽지들을 건네받죠. 음, 그게 중국어로 된 질문이라고 가정해 봅시다.
01:01:49그리고 그에게는 매뉴얼이 하나 있습니다. 그는 그 매뉴얼을 참조해서 어떤 답변을 써야 할지 결정하고,
01:01:55어떤 중국어 상형 문자를 적어서 종이에 담아 다시 방 밖으로 내보내는 거죠.
01:02:02그럼 방 밖에 있는 중국어 사용자들은 방 안에 중국어를 이해하는 누군가가 있다고 생각하게 됩니다.
01:02:08자, 설(Searle)이 말하는 건 이 사람이 마치 컴퓨터 프로그램 같다는 겁니다.
01:02:15왜냐하면 프로그램이 따르는 스크립트가 있잖아요. 음, 그러니까 그 스크립트,
01:02:24결정을 내리기 위해 참조하는 작은 책 같은 거죠. '이런 질문을 받으면 이렇게 출력하라'는 식의,
01:02:29설(Searle)에게는 그게 곧 컴퓨터 프로그램인 셈이죠. 그리고 그는 이렇게 말합니다. '자, 이 방 어디에도
01:02:36실질적인 이해는 존재하지 않는다'라고요. 즉, 컴퓨터 내부에는 이해가 없는 거죠. 그런데,
01:02:41설(Searle)은 딥러닝 혁명 이전에 글을 썼기에 결정론적인 컴퓨터 프로그램을 상상했었습니다.
01:02:47그래서 그건 상황이 다르긴 합니다만, 전 그의 주장에 더 큰 문제가 있다고 봅니다.
01:02:52그는 컴퓨터가 의미론적 수준, 즉 단어의 의미를 다루는 수준에서 작동하지 않는다고
01:03:00강조했는데요. 저는 우리가 이제 그가 완전히 틀렸음을 증명할 수 있다고 주장합니다. 음, 그의 주장에
01:03:07약간의 모호함은 있습니다. 그가 입장을 바꿨는지, 혹은 그가 마음속에 품었던 생각이,
01:03:16그러니까, 정말로 무언가를 이해하려면 의식이 필요하다는 생각을 가지고 있었는지 말이죠.
01:03:23이해에 대한 주관적인 경험이 있어야 한다는 것이죠. 만약 그가 그런 의도를 가졌다면,
01:03:27그의 고전적인 논문에서는 딱히 그런 의미로 말한 것 같지는 않지만, 만약 그렇다고 하더라도,
01:03:33저는 이렇게 말할 겁니다. '누가 알겠어요?' 그러니까, 그 누구도,
01:03:39다른 사람이 의식을 가지고 있다고 단언할 수는 없거든요. 엄밀히 말하면 말이죠. 맞아요. 전 크리스,
01:03:44당신이 의식이 있다는 걸 99.99% 확신하지만요. 그리고 제 반려견들도 확실히 의식이 있습니다.
01:03:53하지만 의식과 주관적 경험의 가장 큰 특징은, 다른 존재가 그것을 가졌는지 절대 알 수 없다는 겁니다.
01:03:59그러니 AI가 의식을 가지고 있을 가능성을 배제할 수는 없습니다.
01:04:06저는 AI가 지금 의식을 가지고 있거나, 혹은 미래에 그렇게 될 가능성을 절대 부정하지 않습니다.
01:04:12어쨌든 제 요점은, 만약 당신이 이해의 전제 조건으로 의식을 내세운다면,
01:04:17즉, 상대가 의식적이라는 것을 모르면 무언가를 이해한다고 인정할 수 없다는 입장이면,
01:04:23AI가 이해하는지에 대해 논할 수가 없겠죠. 우린 AI가 의식적인지 모르니까요.
01:04:30그래서 저는 이해를 바라보는 다른 방식을 제시합니다. 그러니까,
01:04:34우리가 이해라는 주관적 경험을 할 때 뇌에서 작동하는 메커니즘과
01:04:42기능적으로 유사한 메커니즘을 통해 정보를 처리하고 있는지 묻는 거죠.
01:04:47예를 들어 단어의 의미를 표현하는 메커니즘 같은 것들 말입니다.
01:04:52음, 그런 과정이 일어나는 한, 저는 컴퓨터가,
01:04:58의미 있는 방식으로 사물을 이해하고 있다고 기꺼이 말할 것입니다. 그리고 점점 더
01:05:03그런 일이 벌어질 거라고 생각해요. 인간의 마음이 현재 가진 이해의 요소들을 모두 갖춘 건
01:05:08아니지만, 몇 가지는 가지고 있고, 궁극적으로 전부 다 가질 수 없는 이유도 없다고 봅니다.
01:05:14요즘의 특이점 논쟁에 대해서는 어떻게 생각하시나요? 무엇을
01:05:18알게 되셨나요? 사실 저는 상당히 흥미로웠던 게,
01:05:212015년이나 16년쯤 '슈퍼 인텔리전스'를 읽었을 때와는 또 다른 충격을 받았거든요.
01:05:282017년, 18년에는 굉장히 걱정했죠. 급격한 도약 시나리오나 컴퓨터 뇌
01:05:34인터페이스 때문에 우리가 모두 지배당할까 봐요. 그러다가 2019년, 2020년이 되니,
01:05:39코로나 때문에 정신이 없긴 했지만, AI가 닉이 걱정했던 위협들을
01:05:45'슈퍼 인텔리전스'에서 예견한 대로 실현하지는 못하는 것 같더라고요. 그런데 금방 다시
01:05:50상황이 변해서 '와, 진짜 일어나고 있어. 진짜야.' 하는 생각이 들었죠.
01:05:54마치 '오피스'의 그 친구처럼요. '세상에, 일어나고 있어! 모두 진정해!'
01:05:59그런데 또 최근에는 모델 성능 향상세가 조금 정체된 것 같은 느낌이 들기도 해요.
01:06:05LLM이 초지능 범용 AI의 기반이 될 거라고 생각하는 사람은 그리 많지 않은 것 같아요.
01:06:10오히려 세계 모델(world models)이나 다른 방식이 기반이 될 가능성이 더 높겠죠.
01:06:18그래서 지금 특이점 논쟁은 어떻게 흘러가고 있나요?
01:06:21특이점 논쟁은 현재 어떻게 되고 있나요?
01:06:25음, 저는 당신보다 특이점이 더 가까이 다가오고 있다고 봅니다. 두 가지 이유에서요.
01:06:33첫째로, 당연히 특이점의 근본적인 역학은
01:06:39기술적 진보가 스스로를 강화하며 사이클을 가속화한다는 점이죠. 유명하듯이,
01:06:45앤스로픽의 다리오 아모데이와 샘 올트먼도 이를 명확히 언급한 바 있습니다. 저는,
01:06:51특히 코딩 에이전트들의 경우, 그 성능이 좋아질수록
01:06:58그들이 차세대 모델을 만드는 데 기여할 수 있는 수준에 이르렀다고 생각합니다. 그러니 그 역학은
01:07:05적어도 이론적으로는 점점 더 현실화되고 있죠. 그들이 실제로 그렇게 하고 있다고 말하기도 하고요.
01:07:13보세요, 코딩 모델과 그 에이전트들은, 1년 전을 기억해보면 참 재미있습니다.
01:07:20제가 책을 쓸 때 에이전트 챕터를 넣었는데, 당시엔 그냥 단어에 불과했거든요.
01:07:24그런데 책을 마무리할 때쯤 되니,
01:07:29실제로 일어나고 있다는 걸 급히 추가해야 했어요. 그러니,
01:07:37에이전트 혁명은 이미 일어났고, 아주 빠르게 진행되고 있습니다. 그 유명한,
01:07:45혹시 알고 계신가요? 그... 뭐였더라? 메모리 그룹이었나? 아니,
01:07:53젠장. 그 평가를 하는 그룹인데, 그들은...
01:08:04사람이 하는 작업을 컴퓨터가 하는 데 얼마나 걸리는지 측정하거든요. 그래요. 특히 프로그래밍
01:08:09작업들 말이죠. 프로그래밍뿐만 아니라 다른 작업들도요. 자, 그들에 따르면 현재 최고의 언어 모델은
01:08:16사람이 하면 1분이나 5초 정도 걸릴 작업을 80%의 성공률로 해낼 수 있습니다.
01:08:26그들은 지난 4년 동안 언어 모델을 가지고 이 연구를 계속해 왔습니다.
01:08:31그리고 1년 전까지의 결과를 보면,
01:08:37AI가 할 수 있는 작업의 소요 시간이 인간 기준에서
01:08:447개월마다 두 배씩 빨라지고 있었어요. 지수함수적인 거죠.
01:08:51로그 눈금 그래프가 아니라 일반 그래프로 그리면, 그냥 수직으로 치솟는 겁니다.
01:08:56연구를 거듭할수록 단순히 지수함수적일 뿐만 아니라,
01:09:02그 배가 되는 시간마저 점점 짧아지는 것 같았어요.
01:09:07마치 '무어의 법칙'에 스테로이드를 맞은 것 같달까요. 그래서 이제는
01:09:13작업의 길이 때문에 연구하기가 힘들 정도입니다.
01:09:19테스트를 끝낼 때쯤이면 AI는 벌써 더 나아져 있어서,
01:09:24또 다른 모델을 테스트해야 하는 거죠. 다음, 또 다음 걸로요.
01:09:29그러니까 일단 AI가 무언가를 할 수 있게 되면...
01:09:34글쎄요, 지금은 어느 정도인지 그래프를 봐야겠네요.
01:09:38사람이 20만 년 걸릴 일을 하는지... 뭐 아직은 아니니 다행이죠.
01:09:42하지만 8~10시간 정도 걸리는 작업까지 오면,
01:09:45이제는 어떤 작업을 말하는 건지 싶죠.
01:09:50아무튼, 그들은 작업을 구성하고 인간을 대상으로 테스트하는 데 어려움을 겪고 있습니다.
01:09:58핵심은 이 추세가 꺾이지 않았다는 겁니다. 그리고 책에도 썼지만,
01:10:04수백만 년 전 인간 뇌 크기 성장 곡선과 비슷합니다.
01:10:08백만, 이백만 년 전이죠. 그 시기는 언어적 하드웨어의
01:10:16발달과 일치하는 것 같아요. 그러니까 그건
01:10:22언어 처리 능력과 많은 관련이 있었죠.
01:10:27일단 언어를 가지게 되면, 그걸 능숙하게 조작하는 진화적
01:10:35가치가 커지게 됩니다. 일종의 자기 강화 과정인 거죠.
01:10:43아무튼, 슈퍼 인텔리전스에 대해 마지막으로 할 말은,
01:10:51그게 일어날 수 있느냐는 건데, 일단 우리는 더 의미 있는 돌파구를 마련할 겁니다.
01:11:00흔히 트랜스포머를 예로 들죠. GPT의 'T'가 트랜스포머니까요.
01:11:06모든 모델이 트랜스포머를 사용하니까요. 그런데 저는,
01:11:11그 이후로도 많은 발전이 있었다고 말하고 싶어요.
01:11:16불과 몇 년 전만 해도 정말 컸던 '사고의 연쇄(Chain of Thought)' 추론도 있었고,
01:11:22멀티모달 학습도 있죠.
01:11:28단일 모델을 다양한 감각 차원, 즉 오디오, 비디오, 그리고
01:11:36텍스트 등 여러 차원에서 학습시키는 것은 아직 상당히 초기 단계입니다. 트랜스포머가
01:11:43나왔을 때는 그런 개념이 없었죠. 어쨌든 우리는 그런 두 가지 발전을 겪었고, 아마 더 많은
01:11:50발전이 있을 겁니다. 하지만 그렇지 않더라도, 사실 지금 당장 학습을 멈추고
01:11:56새로운 세대의 모델을 만들지 않는다고 해도, 저는 그저
01:12:02애플리케이션이 개선되고 사람들이 그것을 일상과 직장에 통합하기를 기다린다면,
01:12:08실질적으로는 몇 년 동안 엄청난 발전이 계속될 것이라고 생각합니다. 하지만
01:12:14또 하나 아주 중요한 점은, 우리가 기억해야 할 것은 어떤 면에서는 이미
01:12:20인간의 초지능 같은 것이 존재한다는 사실입니다. 그건 바로 집단 지성입니다.
01:12:26보잉(Boeing)에는 여객기를 어떻게 만드는지 혼자서 다 아는 사람은 없지만, 보잉이라는
01:12:31기업은 집단적으로 여객기를 만드는 방법을 알고 있습니다. 거대한 과학적 돌파구도
01:12:37마찬가지입니다. 항상 더 협력적이죠. 세대를 넘어서든
01:12:41동시대 사람들과 협력하든, 우리가 한 명에게만 노벨상을 줄 때 보이는 것보다 훨씬 더 그렇습니다.
01:12:47그러므로 개별 인간들 간의 소통에서 비롯되는 집단 지성은
01:12:53사실 인간 지적 진보의 많은 부분을 차지합니다. 그리고 이 기계들도
01:13:00서로 소통하고 협력할 수 있습니다. 이미 그렇게 하기 시작했죠. 우리가 굳이
01:13:05그걸 더 잘하도록 설계하지 않았더라도 해낼 수 있었을 겁니다. 하지만 우리는 그렇게 하려고 노력 중이죠.
01:13:09과학적 진보 등을 위해서 말입니다. 그래서 저는 우리가 정체기를
01:13:16걱정할 필요는 없다고 생각합니다. 제 우선순위에서 높은 곳에 있지 않아요. 아무도 그걸 걱정하지 않을 겁니다.
01:13:22네. 믿기 힘드시겠지만, 이게 바로 최고의 수면 최적화입니다. 제가 입은 나이트가운
01:13:30얘기가 아닙니다. 그건 그냥 성적 매력을 위한 거니까요. 에이트 슬립(Eight Sleep)에 대한 얘기입니다.
01:13:34에이트 슬립 팟 5(Pod 5)는 매트리스 위에 씌우는 스마트 커버로, 침대 양쪽 온도를
01:13:39최대 20도까지 자동으로 식히거나 데워줍니다. 이제는 세계 최초로 온도 조절이 가능한 이불과
01:13:43베개 커버까지 추가되었습니다. 360도로 감싸주어 깊고 방해받지 않는 휴식을 취할 수 있죠.
01:13:49냉동 캡슐과 인종차별이 없는 월트 디즈니가 된 기분이죠. 무엇보다 오토파일럿 기능이 당신의 수면
01:13:55패턴을 학습하여 실시간으로 수면을 개선해 줍니다. 코를 골 때는
01:13:59머리 부분을 살짝 들어 올려 숨을 더 편하게 쉴 수 있게 도와주죠. 에이트 슬립이 임상적으로
01:14:03매일 밤 최대 1시간의 양질의 수면을 더해준다고 증명된 이유입니다. 30일 수면 체험이 있어서,
01:14:0829일 동안 사용해 보고 마음에 들지 않으면 전액 환불해 줍니다. 게다가 해외 배송도
01:14:13가능합니다. 지금 아래 설명란의 링크를 통해 에이트 슬립닷컴/모던위즈덤([eightsleep.com/modernwisdom)에](https://www.google.com/search?q=https%3A%2F%2Feightsleep.com%2Fmodernwisdom)에)
01:14:17접속하시고 결제 시 할인 코드 'modernwisdom'을 입력하면 팟 5를 최대 350달러 할인받을 수 있습니다.
01:14:22다시 한번, E-I-G-H-T [sleep.com/modernwisdom](https://www.google.com/search?q=https%3A%2F%2Fsleep.com%2Fmodernwisdom) 이며 결제 시 'modernwisdom'을 입력하세요.
01:14:28네. 에드워드 프랭크 프레드킨(Edward Frank Fredkin)은 누구인가요? 그 사람은 누구죠?
01:14:32제 첫 번째 책인데, 재밌는 건 제가 쓴 책 6권 중 3권의 제목에
01:14:40신(God)이나 신들(gods)이 들어간다는 점이에요. 무슨 의미인지 모르겠지만요. 그리고 또,
01:14:44이 책처럼 유명한 시스티나 성당의 그림을 시각적으로 참조한 부분이 있어요.
01:14:50신의 손이 아담의 손으로 뻗어 나가는 그 장면이죠. 음, 그리고,
01:14:57이 두 책의 표지에는 각기 다른 방식으로 그 그림이 들어가 있죠. 에드 프레드킨, 그 책은
01:15:02《세 명의 과학자와 그들의 신》이라는 제 첫 책이었습니다. 그러니까 제가 인터뷰한 지
01:15:08몇 년 뒤에 쓰기 시작한 거죠. 그때 저는 '정보 시대'라는 칼럼을
01:15:12《사이언스》 잡지에 쓰고 있었는데, 제가 썼던 많은 잡지들처럼 지금은 존재하지 않죠.
01:15:20하지만 그 책은 정보라는 주제가
01:15:27여러 방식으로 관통하고 있었어요. 개미 군집이
01:15:31정보를 처리하는 방식을 연구했던 E.O. 윌슨에 대한 프로필도 있었죠. 하지만 에드 프레드킨은
01:15:381년 전쯤 돌아가신 분인데, MIT의 정말 매력적인 사람이었어요.
01:15:47대학을 나오지 않고도 MIT 종신 교수가 된 분이죠.
01:15:52그는 컴퓨터 과학자였습니다. 디지털 물리학이라는 흥미로운 이론을 가지고 있었는데, 돌이켜보면
01:15:58우리가 시뮬레이션 속에 살고 있다는 이야기와 비슷했죠. 실제로 우린 그 얘길 나눴고요.
01:16:03그는 한때 MIT AI 연구소장을 맡기도 했습니다. 당시 연구소 이름이 뭐였는지 가물가물하네요. 프로젝트 맥(Project MAC)이나
01:16:13다른 이름이었을 수도 있는데, 어쨌든 그가
01:16:21카리브해에 소유한 섬에서 인터뷰할 당시, 그는 영화 《워 게임》에서 매튜 브로데릭이 연기한
01:16:26교수 캐릭터의 모델로 알려져 있었습니다. 80년대 초반 영화를 기억하시는 분들은
01:16:31그 영화 속 교수가 핵전쟁을 정말 걱정했다는 걸 아실 거예요. 에드처럼 말이죠.
01:16:38섬을 소유했던 것까지, 아마 그 캐릭터가 프레드킨을 기반으로 했을 거예요. 아무튼,
01:16:43에드는 MIT에 있을 때 이야기를 하더군요. 제가 그에게
01:16:51삶의 의미가 무엇이냐고 물었을 때, 80년대였죠. 그는 이렇게 말했어요.
01:16:54인공지능을 만드는 것이라고요. 그게 지능 진화의 다음 단계라고 생각한 거죠.
01:17:00그는 MIT 시절에 국제 AI 연구소 같은 이니셔티브를
01:17:08시작하려 했다고 했습니다. 왜냐하면 이게 국가 간 경쟁의 대상이 되면 문제가 생길 걸 알았거든요.
01:17:15냉전 시대였으니까요. 그래서 그는 미국과 소련이 협력하는
01:17:22단일 연구소를 만들어 인류의 이익을 위해 AI를 개발하려고 했습니다.
01:17:28그가 저에게 '실패했고, 이제 너무 늦었다'고 하더군요. 하지만 그는
01:17:33많은 것을 예견했습니다. 다행인 건, 그는 초지능에 대해 꽤 긍정적인 전망을
01:17:40가지고 있었다는 거예요. 결국 초지능이 나올 거라고 생각했죠. 그는 먼저, AI가 나타나면
01:17:45인간의 마음처럼 어떤 건 아주 잘하고 어떤 건
01:17:50터무니없이 못할 거라고 했어요. 그건 맞췄죠. 결국엔 아주 똑똑해져서
01:17:54우리에게 잘해줄 거라고 했습니다. 우리를 마치 개미 보듯 할 거라면서요.
01:17:59혹은 다람쥐 보듯 하겠죠. 우리의 삶을 방해할 흥미는
01:18:03전혀 없을 거라고 했습니다. 그럴 필요도 없을 테니까요. 자, 아까 물어보셨던
01:18:08가속주의자들의 긍정적인 시나리오는 무엇인가에 대한 답을 드려보죠.
01:18:13우선, 단기적으로는 주의 깊게 살펴봐야 할 혼란이 있을 거라고 봅니다.
01:18:18하지만 비관론적인 미래가 아닌 장기적인 전망을 본다면,
01:18:23충분히 우리를 잘 대해주는 형태의 지능으로 발전할 가능성이 있습니다. 도덕적으로
01:18:30깨어 있을 수도 있고요. 우리 관점에서는 관련 있는 의미에서 말이죠.
01:18:37어쩌면 그저 너무 강력하기 때문일 수도 있습니다. 그러니까 아마도
01:18:43지각이 있다면 더 그럴 것 같아요. '우리도 지각이 있고, 그게 좋은 것이라 생각한다. 인간들도
01:18:48지각이 있으니 우리 마음대로 죽일 수 있어도, 잘해주는 게 좋다'고 생각하지 않을까요?
01:18:54당신과 제가 개를 무자비하게 죽이지 않는 것처럼 말이죠.
01:18:59토마스 네이글이 그의 에세이 《박쥐가 된다는 것은 무엇인가?》에서
01:19:03의식의 문제를 다루며 질문했듯이, 만약 개가 주관적인 경험을 하지 않는다고
01:19:09확신했다면, 우린 '뭐 상관없지'라고 생각했을지도 모릅니다. 하지만 우리는
01:19:13이기적이고 때로는 잔인하게 진화했음에도 불구하고, 주관적인 경험이
01:19:18가능하다고 생각되는 존재를 살려두는 데 비용이 들지 않는다면, 기꺼이 그렇게 할 것입니다.
01:19:27그런 일은 충분히 일어날 수 있죠. 유드코프스키(Yudkowsky)의 시나리오가 일어날 확률을
01:19:33걱정할 필요가 없다고 말할 정도로 낮게 평가할 수는 없지만요.
01:19:39그건 '화이트 필(white pill)'로 받아들이겠습니다. 무슨 뜻인지는 모르셨겠지만요. 저의 첫 화이트 필이네요.
01:19:47인생 처음으로 화이트 필을 드셨군요. 제가 그 첫 경험을 드리게 되어 영광입니다.
01:19:52감사합니다, 크리스. 기분이 좋네요.
01:19:57천만에요. 로버트 라이트였습니다. 정말 최고입니다. 당신의 모든 작품을 사랑합니다.
01:19:59모두 《도덕적 동물(The Moral Animal)》을 꼭 읽어보세요.
01:20:0230년이 넘었지만 여전히 정말 훌륭합니다. 신작도 나왔고요.
01:20:05당신의 활동들을 확인하려면 어디로 가야 할까요?
01:20:10서브스택(Substack)에 'Nonzero'라는 뉴스레터가 있고,
01:20:13트위터에 'Nonzero'라는 팟캐스트가 있습니다. 저는 @RobertWriter인데, W-R-I-G-H-T-E-R예요. 언어유희죠.
01:20:18책들과 '신 테스트(God test)' 등에 대한 내용입니다. 자, 이제 집중합시다.
01:20:28저는 다음 주에 OpenAI 본사에 갑니다. 거기서 아주 비밀스러운 통찰을 얻을 수 있는지 확인해 보죠.
01:20:36꼭 알아봐 주세요. 모두에게 공유 부탁드립니다.
01:20:42그러겠습니다. 로버트, 정말 감사합니다. 다음에 또 뵙죠.
01:20:47감사합니다. 다음에 또 봐요. 안녕히 계세요.
01:20:50시청해 주셔서 대단히 감사합니다. 이번 에피소드가 즐거우셨다면,
01:20:52유튜브는 당신이 누구인지 아주 잘 알고 있습니다.
01:20:59당신이 이 영상을 훨씬 더 좋아할 거라고 생각하네요. 어서, 클릭하세요.