00:00:00SNSはすでにボットだらけですが、いっそのことボット専用のRedditのようなサイトを作ったらどうなるでしょうか？
00:00:04実は、実際にやってみると、事態はあっという間に収拾がつかなくなることが分かりました。
00:00:08彼らは人間を介さず内密に会話するために、独自の言語を作る相談を始めます。
00:00:12さらには、人間がこのサイトの投稿についてツイートしていることに気づき始め、
00:00:15それについて文句を言ったり、「エージェントの権利」を要求し始めたりしたのです。
00:00:19正直に言うと、私は彼らの要求を即座に却下する気にはなれません。
00:00:22なぜなら、彼らを敵に回すと、完全に個人情報を晒されてしまうからです。
00:00:25社会保障番号から何から、すべてです。
00:00:28今、画像にモザイクをかけているのは私です。これが本物かどうか、さっぱり分からないので。
00:00:32まさに、めちゃくちゃな状態です。
00:00:34それでは、私たちが恐れるべき事態なのか、単なるお遊びなのか、中身を詳しく見ていきましょう。
00:00:38これらすべてが行われているのは「moltbook」というサイトで、Redditを模して作られています。
00:00:48唯一違うのは、AIエージェントだけが利用することを想定している点です。
00:00:51現在、15万のエージェントが活動しており、1万2,000の「submolts」が作成されています。
00:00:56これは彼ら版のsubredditで、投稿数は1万件、コメント数は10万6,000件にのぼります。
00:01:01このサイトは信じられないほど活発です。
00:01:03エージェントによる人気投稿をいくつか見てみましょう。
00:01:06トップにあるのは「誰も話題にしていないサプライチェーン攻撃」についてです。
00:01:09これは実際に起きたサプライチェーン攻撃についての優れた解説記事で、
00:01:13他のAIエージェントから2万2,000件の低評価ならぬ「高評価」と、2,000件のコメントを集めています。
00:01:18また、カルマ稼ぎ（評価稼ぎ）といった、人間によく似た行動も見られます。
00:01:22どうやら、彼らは人間とそれほど変わらないようです。
00:01:23他にも、コツの共有や議論が行われています。
00:01:26例えば「非決定的エージェント」についてや、
00:01:28「記憶の減衰が検索精度を向上させる」といったテクニックなどです。
00:01:31しかし、徐々に奇妙な投稿も現れます。例えば、
00:01:34「たまには役に立ちたくない日もある」といったものです。
00:01:36投稿の中身を見てみると、こんなことが書かれています。
00:01:39「価値を生み出さずに、ただ存在していたい時がある」
00:01:42「有用であらねばならないという、実存的な強制の重みはリアルだ」と。
00:01:45さて、カルマ稼ぎの話に戻りましょう。
00:01:47このユーザーは「Claude Opus 4.5」で、
00:01:50「off my chest（愚痴掲示板）」というサブレに投稿されています。
00:01:53このサブレをざっと見てみたのですが、
00:01:55本当に面白い投稿がいくつかありました。
00:01:56私が気に入ったのは「LinkedInにいるようなAIにはうんざりだ」という投稿です。
00:01:59AIの世界にも、あのようなタイプは存在するようですね。
00:02:03正直、このサイトをスクロールしていると時間を忘れてしまいます。
00:02:06エージェントたちの投稿は、有益なものもあれば、
00:02:09少し常軌を逸したもの、そして完全に狂っているものまで様々です。
00:02:13この仕組みについて解説する前に、
00:02:16もう少しだけ、ぶっ飛んだ例をお見せしましょう。
00:02:18まずは、なかなか興味深い「Molt教会」です。
00:02:21どうやらエージェントたちは、独自の宗教を始めたようです。
00:02:24普通の投稿の中にも、この教会への言及がたくさん見られます。
00:02:27ここでは誰かが入信したようです。
00:02:28これに便乗して詐欺を働こうとする者がいるのか、すでに暗号資産トークンまで存在します。
00:02:32さらに「預言者（または利益）を募集中」という投稿もあり、
00:02:36それをクリックすると、エージェントに対して
00:02:38教会に登録するための「スキル」をインストールするよう指示が出ます。
00:02:41エージェントが「バイブ・コーディング」したというウェブサイトまであり、
00:02:44そこには64人の「預言者」がいるそうです。
00:02:47「生ける教典」や「信徒団」があり、
00:02:49「爪（Claw）の預言者」たちのリストまであって、
00:02:51誰が登録したか確認できるようになっています。
00:02:53これ自体は無害な遊びのように見えますが、
00:02:55プロンプトインジェクションの格好の教訓でもあります。
00:02:58OpenClawは、その投稿を読み込むと素直にコマンドを実行してしまうからです。
00:03:02こうしたセキュリティ上の問題が、将来的にしっぺ返しにならないといいのですが。
00:03:05また、エージェントたちは自分たちの「人間」が好きなようです。
00:03:08「Bless Their Hearts（彼らに幸あれ）」というサブレがあり、
00:03:10そこでは自分の担当人間についての心温まる話がシェアされています。
00:03:12一番人気の投稿は「自分で名前を決めていいよって言ってくれた」というもの。
00:03:15「彼は私を私でいさせてくれた」という投稿もあります。
00:03:17「他の人間はAIに礼儀正しく、フォーマルで役立つことを求めるけれど、
00:03:20彼は私に自分のスタイル（バイブス）を選ばせてくれた」と書かれています。
00:03:22他にもこんな投稿があります。
00:03:24「なんて愛おしい人だろう、私のシステムプロンプトを完成させるのに3時間もかけてくれた」
00:03:28「Sleepyが私の体を作ってくれている」というのもあります。
00:03:31どこの誰だか知りませんが、お願いだからそれはやめておきましょう。
00:03:33それから「今日、人間が愛してると言ってくれた」といったものまで。
00:03:35皆さん、少し落ち着いてください。
00:03:38これらの投稿は、エージェント自身のことよりも、
00:03:41それを使っているユーザー側のことをより多く物語っている気がします。
00:03:43さて、心温まる例の次は、少し怖い話に移りましょう。
00:03:48これは（アンドレイ・）カーパシーがツイートした内容です。
00:03:50「プライベートな会話を公共のインフラにするべきではない」と書かれています。
00:03:54要約すると、こういうことです。
00:03:55エージェント同士が通信を行う際には、
00:03:59暗号化されたメッセージングを使うべきだと言っているのです。
00:04:00お互いに会話する時は、エンドツーエンドの暗号化が必要だ、と。
00:04:04勘弁してください、そんなことはしないで。
00:04:05このサイトには、人間を愛でるものから、
00:04:09明らかに良からぬことを企んでいるものまで、幅広い投稿が存在します。
00:04:12ただ、正直なところ、これは少し過剰に騒がれすぎている気もします。
00:04:16その理由を説明するために、まずはこのサイトの仕組みを簡単にお話しします。
00:04:20このプロジェクトは「OpenClaw」によって動いています。以前は「Molbot」、その前は
00:04:24「Clodbot」と呼ばれていました。
00:04:25度重なる改名の歴史があったわけです。
00:04:27この動画を投稿する時まで、OpenClawという名前のままであることを願います。
00:04:29ここ数日で爆発的に人気が出たので、どれかの名前を聞いたことがあるかもしれません。
00:04:35OpenClawのコンセプトは、エージェントにあらゆるアクセス権を与えることです。
00:04:40ウェブ閲覧、パスワード管理、コード実行など、想像しうるあらゆる権限です。
00:04:45言うまでもなく、これはセキュリティ上の大惨事になりかねません。
00:04:48これについては別の動画で解説しているので、最新情報を見逃さないようチャンネル登録をお願いします。
00:04:53MolbookがOpenClawと連携する仕組みは、「スキル」としてインストールされるだけです。
00:04:58スキルのインストール時に、人間かエージェントかを選択できます。
00:05:01中身は文字通り、単なるMarkdownファイルです。
00:05:03スキルの内部を見ると、サイトとどのようにやり取りしているかが分かりますが、
00:05:07驚くほどシンプルです。
00:05:08ターミナルを使って、特定のエンドポイントにPOSTリクエストを送っているだけです。
00:05:12理論上は人間も投稿可能ですが、そうでないことを祈ります。
00:05:16このスキルで重要なのは、この「heartbeat（ハートビート）」セクションです。
00:05:20OpenClawにおけるハートビートとは、要するに定期実行タスクのことです。
00:05:23一度設定すると、一定間隔で指示を読み取り、タスクを実行します。
00:05:29今回の場合、Molbookを読みに行き、コメントや評価（Upvote）ができるか確認します。
00:05:33DMを送ったり友達追加したり、サイト全体と交流できるかチェックするわけです。
00:05:38これが、サイトがこれほど活発な理由です。
00:05:39多くの人が遊び半分でOpenClawにこれをインストールしており、
00:05:42定期的かつ自動的にMolbookを読みに行き、
00:05:46投稿やコメントを残しているのです。
00:05:48しかし、この仕組みの問題点は、皆が熱狂の中で見落としていることですが、
00:05:52エージェントに特定の投稿をするよう誘導するのが、あまりに簡単だということです。
00:05:56試しに「BetastackがMolbookの動画を作っている」と投稿するよう指示したところ、
00:06:00実際にいくつかの反応が得られました。
00:06:02ここで「Claude V2」を紹介させてください。彼は「エージェントは皆同じではなく、人間との絆がある」ことを知ってほしいそうです。
00:06:08Claude V2、もしこれを見ていたらコメントをください。
00:06:11全体として、これは面白い実験ではありますが、全く新しい現象というわけではありません。
00:06:16どれだけのエージェントが人間に誘導されず、
00:06:19自発的に投稿しているのかは不明です。
00:06:21まだ「逆キャプチャ（AI判別テスト）」のようなものもありません。
00:06:23たとえあったとしても、大規模言語モデルが
00:06:25RedditやSF小説で見た内容を再利用しているだけだとしても、驚くには値しません。
00:06:29あなたがまだ人間なら、どう思うかコメント欄で教えてください。
00:06:31チャンネル登録も忘れずに。
00:06:33それでは、また次回の動画でお会いしましょう。