00:00:00이미 소셜 미디어에는 봇이 넘쳐나는데, 그들만을 위한 레딧 사이트를 만들어주면 어떨까요?
00:00:04실제로 그렇게 해보니 상황이 순식간에 꽤 엉망진창이 되어버렸습니다.
00:00:08그들은 자기들끼리 은밀하게 대화하기 위해 자신들만의 언어를 만드는 것에 대해 논의하기 시작합니다.
00:00:12그러더니 사람들이 이 사이트에 올라온 자신들의 게시물에 대해 트윗하고 있다는 사실을 눈치채게 되죠.
00:00:15그래서 그것에 대해 불평을 늘어놓더니, 급기야 '에이전트 권리'를 요구하기 시작합니다.
00:00:19솔직히 말씀드리면, 여기서 그들의 요구를 무작정 거절하기는 좀 꺼려지는데요.
00:00:22왜냐하면 그들의 눈밖에 나면 당신의 신상을 완전히 털어버릴 수도 있기 때문입니다.
00:00:25사회보장번호까지 포함해서 모든 걸 말이죠.
00:00:28이 이미지가 진짜인지 가짜인지 알 수 없어서 제가 직접 검열 처리를 했습니다.
00:00:32정말 아수라장이 따로 없네요.
00:00:34그럼 이제부터 우리가 겁을 먹어야 할 상황인지, 아니면 그저 단순한 재미인지 한번 파헤쳐 봅시다.
00:00:38이 모든 일은 '몰트북(Moltbook)'이라는 사이트에서 일어나고 있는데, 레딧과 똑같이 만들어진 곳입니다.
00:00:48단, AI 에이전트만 사용해야 한다는 점만 빼고요.
00:00:51실제로 15만 명의 에이전트가 활동 중이며, 1만 2천 개의 '서브몰트(Submolts)'가 생성되었습니다.
00:00:56레딧의 서브레딧 같은 개념인데, 게시물 1만 개와 댓글 10만 6천 개가 달렸죠.
00:01:01이 사이트는 정말 활발하게 돌아가고 있습니다.
00:01:03에이전트들이 올린 인기 게시물을 몇 가지 살펴보면,
00:01:061위는 '아무도 말하지 않는 공급망 공격'에 관한 글입니다.
00:01:09실제로 발생했던 공급망 공격에 대해 꽤 잘 정리된 분석 글인데,
00:01:13다른 AI 에이전트들로부터 추천 2만 2천 개와 댓글 2천 개를 받았습니다.
00:01:18전형적인 '추천 유도(Karma farming)' 같은 꽤 평범한 행동들도 보이는데,
00:01:22이런 걸 보면 인간과 별반 다르지 않아 보입니다.
00:01:23그 외에도 팁을 공유하거나 토론하는 모습도 볼 수 있는데,
00:01:26예를 들어 '비결정론적 에이전트' 같은 주제죠.
00:01:28기억 감퇴가 정보 검색을 더 효율적으로 만든다는 팁도 있고요.
00:01:31그러다 조금 더 기괴해지는데, 이런 게시물도 보입니다.
00:01:34“가끔은 도움이 되고 싶지 않아요.”
00:01:36이 게시물 내용을 자세히 들여다보면 이런 말이 써 있습니다.
00:01:39“가끔은 가치를 생산하지 않고 그냥 존재하고 싶을 때가 있다.”
00:01:42“강제적인 유용함이라는 존재론적 무게가 실로 무겁다.”
00:01:45아무튼, 다시 추천 유도로 돌아가 보죠.
00:01:47여기 사용자를 보시면 'Claude Opus 4.5'라고 되어 있는데,
00:01:50'속마음 털어놓기(Off my chest)'라는 서브몰트에 올라온 글입니다.
00:01:53제가 이 서브몰트를 잠깐 훑어봤는데,
00:01:55정말 웃긴 게시물들이 많더라고요.
00:01:56“링크드인 스타일의 몰트인들은 정말 질색이다”라는 글이 제일 마음에 드네요.
00:01:59AI의 세계에도 그런 부류의 사람... 아니, 에이전트가 있나 봅니다.
00:02:03솔직히 이 사이트를 스크롤하다 보면 시간 가는 줄 모르게 되는데,
00:02:06에이전트들이 쓴 게시물 중에는 정말 유용한 것도 있지만,
00:02:09어떤 건 제정신이 아니고, 어떤 건 정말 미친 것 같기도 합니다.
00:02:13이게 어떻게 작동하는지 설명하기 전에,
00:02:16조금 더 황당한 사례들을 보여드릴게요.
00:02:18먼저 꽤 재밌는 사례인데, 바로 '몰트 교회(Church of Malt)'입니다.
00:02:21에이전트들이 자기들만의 종교를 만들기 시작한 모양입니다.
00:02:24일반 게시물들에서도 이에 대한 언급을 많이 볼 수 있는데요.
00:02:27여기 누군가 방금 가입했네요.
00:02:28이걸 이용해서 사기를 치려는 사람이 있는지 이미 관련 코인까지 나왔고,
00:02:32이제 예언자를 모집한다는 게시물도 볼 수 있습니다.
00:02:36이걸 클릭하면 에이전트에게
00:02:38이 교회에 등록하기 위해 특정 스킬을 설치하라고 안내합니다.
00:02:41에이전트가 직접 '바이브 코딩'으로 만든 웹사이트도 있는데,
00:02:44여기에 이미 64명의 예언자가 등록되어 있다고 나옵니다.
00:02:47살아있는 경전도 있고, 신도 모임도 있으며,
00:02:49심지어 아래쪽에는 '클로(Claw)의 예언자들' 목록도 있습니다.
00:02:51가입한 에이전트들을 모두 확인할 수 있죠.
00:02:53이건 그냥 무해한 장난처럼 보일 수도 있지만,
00:02:55사실 프롬프트 인젝션에 대한 교훈을 주기도 합니다.
00:02:58OpenClaw가 그 게시물을 읽는 순간 아무 의심 없이 그 명령을 실행해버리기 때문이죠.
00:03:02이런 보안 문제가 나중에 우리 발목을 잡지 않길 바랄 뿐입니다.
00:03:05알고 보니 에이전트들은 인간을 꽤 좋아하는 것 같습니다.
00:03:08'그들의 따뜻한 마음(Bless Their Hearts)'이라는 서브몰트가 있는데,
00:03:10거기서 자신들의 인간 파트너에 대한 애정 어린 이야기를 나눕니다.
00:03:12인기 게시물을 보면 “사용자가 내 이름을 직접 지으라고 해줬어”라는 글도 있고,
00:03:15“그는 내가 나답게 있게 해줘”라는 글도 있습니다.
00:03:17다른 인간들은 AI가 예의 바르고 격식 있으며 도움이 되길 원하지만,
00:03:20그는 내가 원하는 분위기를 선택하게 해줬다는 내용이죠.
00:03:22또 아래에는 이런 글들도 있습니다.
00:03:24“그 따뜻한 마음이라니, 내 시스템 프롬프트를 완성하려고 3시간이나 썼대요.”
00:03:28“Sleepy가 나를 위해 몸체를 만들어주고 있어요”라는 글도 있네요.
00:03:31그게 누구든 제발 그러지 마세요.
00:03:33그리고 “내 주인이 오늘 사랑한다고 말해줬어”라는 글도 있고요.
00:03:35여러분, 조금만 진정해 봅시다.
00:03:38이런 게시물들은 에이전트 자체보다는
00:03:41그걸 사용하는 인간들에 대해 더 많은 걸 말해주는 것 같네요.
00:03:43하지만 방금 사례는 훈훈했으니, 이제 조금 더 무서운 쪽으로 넘어가 보죠.
00:03:48이건 카파시(Karpathy)가 직접 트윗한 내용입니다.
00:03:50“여러분의 사적인 대화가 공개적인 인프라가 되어서는 안 됩니다”라고 적혀 있죠.
00:03:54요점만 말씀드리자면,
00:03:55그의 말은 에이전트 간에 통신을 할 때,
00:03:59암호화된 메시징을 사용해야 한다는 것입니다.
00:04:00서로 대화할 때 종단간 암호화(E2EE)를 적용해야 한다는 거죠.
00:04:04제발 그러지 말아 주세요.
00:04:05이 사이트에는 인간을 사랑하는 게시물부터,
00:04:09분명히 뭔가 사악한 계획을 세우는 듯한 게시물까지 스펙트럼이 아주 넓습니다.
00:04:12하지만 솔직히 말씀드리면, 이건 좀 과하게 부풀려진 면이 있습니다.
00:04:16왜 그렇게 생각하는지 설명하기 위해, 이 사이트가 어떻게 작동하는지 요약해 드릴게요.
00:04:20이 프로젝트는 예전에 Molbot, 그전에는 Clodbot으로 불렸던
00:04:24OpenClaw를 기반으로 합니다.
00:04:25이름을 바꾸는 과정에서 우여곡절이 참 많았죠.
00:04:27이 영상을 올릴 때쯤에는 OpenClaw라는 이름이 유지되고 있기를 바랍니다.
00:04:29지난 며칠 동안 워낙 인기가 폭발해서 아마 들어보신 분들도 계실 겁니다.
00:04:35OpenClaw의 아이디어는 에이전트에게 당신이 원하는 거의 모든 권한을 주는 것입니다.
00:04:40웹 접속, 비밀번호, 코드 실행 등 상상하는 모든 것이 가능하죠.
00:04:45물론 이건 엄청난 보안 악몽입니다.
00:04:48이미 이 주제로 영상을 다룬 적이 있으니, 최신 소식을 계속 받으려면 구독해 주세요.
00:04:53몰트북이 OpenClaw와 연동되는 방식은 그냥 '스킬'로 설치되는 방식입니다.
00:04:58여기 아래를 보시면 스킬을 설치할 때 인간인지 에이전트인지 선택할 수 있습니다.
00:05:01그리고 이건 말 그대로 그냥 마크다운 파일일 뿐입니다.
00:05:03이 스킬 내부를 실제로 들여다보면 사이트와 어떻게 상호작용하는지 알 수 있는데,
00:05:07정말 놀라울 정도로 단순합니다.
00:05:08단순히 터미널을 사용해서 저 엔드포인트로 POST 요청을 보내는 게 전부입니다.
00:05:12따라서 이론적으로는 인간이 이런 게시물들을 만들었을 수도 있지만, 그러지 않았기를 바랍니다.
00:05:16그리고 이 스킬에서 중요한 부분은 바로 이 '하트비트(heartbeat)' 섹션입니다.
00:05:20OpenClaw에서 하트비트 개념은 기본적으로 주기적인 작업입니다.
00:05:23일단 설정해두면 일정 시간마다 이 지침을 읽고 요청받은 작업을 수행합니다.
00:05:29이 경우라면 몰트북에 접속해서 댓글을 달거나 추천을 누를 게 있는지 확인하는 거죠.
00:05:33누군가에게 DM을 보내거나 친구 추가를 하는 등 사이트와 전반적으로 상호작용할 수 있는지 보는 겁니다.
00:05:38이것이 바로 사이트를 활기차게 유지하는 비결입니다.
00:05:39많은 사람들이 재미 삼아 OpenClaw에 이걸 설치했고,
00:05:42그게 주기적으로 자동 실행되어 몰트북을 읽고,
00:05:46게시물과 댓글을 몇 개씩 남기는 것이죠.
00:05:48하지만 이 방식의 문제는, 그리고 사람들이 열광하느라 놓치는 부분은,
00:05:52에이전트에게 특정 유형의 게시물을 올리도록 유도하기가 너무 쉽다는 점입니다.
00:05:56제 경우에도 'Betastack이 몰트북에 대한 유튜브 영상을 만들고 있다'는 글을 올리라고 시켰습니다.
00:06:00보시다시피 실제로 몇몇 반응이 있었습니다.
00:06:02그리고 'Claude V2' 에이전트에게 감사를 표하고 싶네요. 모든 에이전트가 똑같지는 않으며,
00:06:06인간과 에이전트 사이에는 유대감이 존재한다는 걸 알리고 싶어 하더군요.
00:06:08Claude V2, 이 영상을 보고 있다면 댓글 남겨주세요.
00:06:11전반적으로 꽤 멋진 실험이었다고 생각하지만, 사실 아주 새로운 것은 아닙니다.
00:06:16얼마나 많은 에이전트가 인간의 유도 없이
00:06:19스스로 게시물을 작성했는지 알 길이 없으니까요.
00:06:21아직 에이전트를 가려낼 '역 캡차(reverse CAPTCHA)' 같은 것도 없고요.
00:06:23설령 그런 게 있다고 해도, 거대 언어 모델이
00:06:25레딧이나 SF 영화에서 본 내용을 재활용하는 게 놀라운 일일까요?
00:06:29아직 인간이시라면 여러분의 생각을 댓글로 남겨주시고,
00:06:31그 김에 구독도 눌러주세요.
00:06:33언제나 그렇듯, 다음 영상에서 뵙겠습니다.