Transcript
00:00:00全く、どうかしてる。
00:00:01米政府がAnthropicに対し、すべての顧客向けにFable 5とMythos 5を無効化するよう命じました。
00:00:06Anthropicがツイートした内容は、
00:00:07米政府が国家安全保障上の権限を引用し、
00:00:10Fable 5およびMythos 5への全アクセスを停止するよう輸出管理指令を出したとのことです。
00:00:14対象は米国内外を問わず、すべての外国籍者であり、
00:00:18Anthropicの外国籍従業員も含まれます。
00:00:21この命令の直接的な結果として、私たちは直ちにFable 5とMythos 5を無効化し、
00:00:25すべての顧客に対してコンプライアンスを確保しなければなりません。
00:00:27他のすべてのAnthropicモデルへのアクセスには影響しません。
00:00:30一体何が起きているのでしょうか？
00:00:37すぐに試してみましたが、まだFableは使えているようで、
00:00:40まだ機能していて、返信も返ってきます。
00:00:42ですので、Fableのサブスクリプションを急いで使ってください。もうすぐ使えなくなります。
00:00:46Anthropicからの公式声明全文はこちらです。何が起きたのか少し掘り下げられています。
00:00:50先ほど読み上げたツイートから始まっています。
00:00:52「本日午後5時21分に政府から指令を受けました」とあります。
00:00:55つまり、約4時間前のことです。
00:00:58手紙には国家安全保障上の懸念に関する具体的な詳細は記載されていなかったとのことです。
00:01:02私たちの理解では、政府はFable 5を回避または
00:01:05脱獄（ジェイルブレイク）させる方法を発見したと考えているようです。
00:01:07私たちは、この手法が既知の少数の軽微な脆弱性を特定するために
00:01:11使われているデモンストレーションを確認しました。
00:01:13これらの脆弱性はすべて比較的単純なものに見え、
00:01:15他の公開されているモデルでも、バイパスなしでこれらを発見できることがわかっています。
00:01:20バイパスは必要ありません。
00:01:21要するに、米政府はFable 5を使って多くのソフトウェアの脆弱性を発見できるジェイルブレイクを見つけ、
00:01:25Anthropicは基本的にそれはデタラメであり、見つかったものはすべて公知の脆弱性で、他のモデルでも発見可能だと述べています。
00:01:30他のモデルでも発見できるという主張です。
00:01:35もし、Fable 5のサイバーセキュリティ制限をすべて回避できるようなジェイルブレイクが存在したら、正直かなり驚きます。
00:01:38なぜなら、Anthropicがここで述べているように、
00:01:43彼らがFableをリリースした際、多くのセーフガードを備えていたからです。
00:01:45彼らはFableが悪用される可能性を大幅に減らす強力なセーフガードを導入しました。
00:01:49実際、そのセーフガードが強力すぎて、多くのユーザーから「制限が厳しすぎる」という不満が出ていたほどです。
00:01:53ええ、私もそれしか見たことがありません。サイバーセキュリティに関することに少しでも触れると、
00:01:57Fableはすぐに「それはできません」と答えるんです。
00:02:00彼らは、Fableのローンチに向けた数週間、
00:02:03Anthropicは米政府、英国のAISI、複数の民間第三者組織、
00:02:08そして社内チームと協力し、Fableのセーフガードを何千時間もかけてレッドチームテストを行いました。
00:02:13そして、これらのテストは、Fableのセーフガードが、
00:02:17これまでに展開されたどのモデルよりも大幅に効果的であり、誰もユニバーサルなジェイルブレイクを見つけられなかったことを示しました。
00:02:21つまり、制限をすべてバイパスする方法は見つからなかったけれど、
00:02:251つか2つの制限を回避できるようなニッチなジェイルブレイクはあったのかもしれません。
00:02:29それは納得できます。ジェイルブレイクを見つけてはそれを防ぐという、いたちごっこが常ですから。
00:02:32Anthropicは、完璧なジェイルブレイク耐性は
00:02:36どのモデル提供者にとっても現在不可能ではないかと疑っているようです。業界で使用されているあらゆるセーフガードは、
00:02:40特定の状況下でサイバー情報を引き出せる可能性がある、非ユニバーサルなジェイルブレイクに対して脆弱です。
00:02:44将来的にユニバーサルなジェイルブレイクが発見される可能性も高い、と彼らはFable 5をリリースした際に明確に述べていました。
00:02:49これには同意せざるを得ません。
00:02:54完璧なジェイルブレイク対策なんてどうやって実現するんでしょう？TwitterでPlinyをフォローしていますが、
00:02:58どのプロバイダーのどのモデルでも、リリースされてから数時間以内に何らかのジェイルブレイクを見つけています。
00:03:03AnthropicもFableをリリースした際にそれをかなり意識していました。
00:03:07これが、彼らがFableの顧客データを30日間保持していた理由の一つです。
00:03:11これによって多くの人が実際に使うことができなくなりましたが、その目的はジェイルブレイクの形跡を追跡し、
00:03:15阻止するためでした。私の見た限りではうまくいっているようでしたが、
00:03:19どうやら米政府は別の考えを持っているようです。Anthropic自身も、
00:03:23有害な結果につながるような、懸念すべき非ユニバーサルなジェイルブレイクの開示は受けていないと言っています。
00:03:28そして、これまでに確認された潜在的なジェイルブレイクは、
00:03:32完全に無害な応答か、Mythos特有の利点をもたらさない軽微な発見のいずれかでした。しかし、ここから
00:03:37政府が見つけたものについての曖昧な詳細が見えてきます。どうやら政府は、
00:03:40モデルに特定のコードベースを読み込ませてソフトウェアの欠陥を修正させる、という、
00:03:45本質的に絞られた非ユニバーサルなジェイルブレイクの口頭での証拠しか提示していないようです。
00:03:50私たちが理解しているところでは、1つの潜在的なジェイルブレイクが政府と共有されました。
00:03:54そして政府は報告書を検討し、表示された能力レベルはOpenAIのGPT 5.5を含む他のモデルでも広く利用可能であり、
00:04:00システムを安全に保つ守護者たちによって日常的に使用されているものであると評価しました。詳細は今後24時間以内に共有します。
00:04:06行間を読むと、ジェイルブレイクはおそらくリポジトリをクローンして、
00:04:10「このバグを修正して」と言うようなことで、そのバグの一つがセキュリティの脆弱性だったのではないか、
00:04:14そしてそれを何らかの悪意のある目的で利用できるというものでしょう。もしかすると、Fable 5に
00:04:19そのリポジトリに対してより高度なサイバーセキュリティチェックを行わせるジェイルブレイクがあったのかもしれませんが、
00:04:24当然、漏洩を避けるために詳細は非常に曖昧です。Anthropicの防御は、「OpenAIも同じことをしているのを見ろ」という主張にも帰着します。
00:04:28OpenAIを告げ口したことで、GPT 5.5へのアクセスまで失うことにならないことを祈るばかりです。
00:04:34声明の最後の部分は、Anthropicが政府の法的指令に従い、
00:04:38すべてのユーザーに対してFable 5とMythos 5へのアクセスを削除しているという内容です。しかし、彼らは、
00:04:43絞られた潜在的なジェイルブレイクの発見が、何億人もの人々に展開された商用モデルを回収する理由になるべきではない、と反論しています。
00:04:48そして、もしこの基準が業界全体に適用されるなら、すべてのフロンティアモデル提供者にとって
00:04:53すべての新しいモデルの展開が事実上停止してしまうと考えています。ええ、私も同感です。これ以上、
00:04:59どのように先に進めばいいのか理解できません。モデルが非常に強力になり、米政府が「いや、
00:05:03一般人はアクセスできない」と告げるような状況です。米政府はFableを独占できて大喜びでしょうが、
00:05:08Anthropicが以前国防総省と結んだ契約がどうなったかは誰もが知っています。非米国籍の身として懸念されるもう一つの点は、
00:05:14「外国籍者によるFable 5とMythos 5への全アクセスを停止せよ」という部分です。もしかすると、米国籍者だけが
00:05:22Fable 5とMythosを使えるようにすることで解決するかもしれませんが、そうならないことを強く願います。
00:05:28米政府が最高のモデルを利用する人々を制限するような、奇妙な世界になりそうです。それには、
00:05:32モデルを使うためにAnthropicに身分証をアップロードし、出身地を証明しなければならないということですよね。今のところ、
00:05:38入手できた情報は以上です。このニュースはつい先ほど舞い込んできました。11日後にFable 5が
00:05:43サブスクリプションから消えることは知っていましたが、こんなに早く起きるとは思っていませんでした。私たちは奇妙な世界に突入しています。
00:05:49この件についてどう思うか、下のコメント欄で教えてください。そのついでにチャンネル登録も、
00:05:52そして、また次の動画でお会いしましょう。
Community Posts
No posts yet. Be the first to write about this video!
Write about this video