Transcript
00:00:00有名なこの論文によれば、2028年までに大半の人が仕事を失い、2030年までに人権が消滅するといいます。
00:00:06ですが、これは18か月前に執筆されたものなので、現時点でどれほど正確だったか検証してみましょう。2025年、
00:00:13AI予測者と研究者グループが『AI 2027』と題した論文を発表し、
00:00:20今後数年間でAIがどのように進化するか、2つの結末とともに詳しく予測しました。1つは理想郷に近い形への減速、
00:00:27もう1つは生き地獄へと向かう暴走です。今日は
00:00:32予測と現実を照らし合わせ、私たちがどこに向かっているのか確認します。『AI 2027』は、
00:00:43過去のAI予測で実績のあるダニエル・ココタイロ氏らの研究チームによって執筆されました。この論文では
00:00:50アメリカのOpen Brainと中国のDeep Senseという2つの架空の企業が登場し、欧州には
00:00:56ほとんど触れられていません。欧州の皆さん、残念です。論文は論文が発表された2025年、
00:01:01未熟なエージェントの時代から始まります。当時は予測するまでもありませんでした。これが当時の状況です。私たちは主に
00:01:07チャットを通じてLLMとやり取りしていました。ツール呼び出しは非常にぎこちなく、ChatGPTもウェブアクセスができる程度でした。
00:01:14しかし、ループ内で思考し改善できるモデル、つまりエージェントが登場し始めました。
00:01:19とはいえ、長期的タスクの実行にはまだ大きな課題がありました。一応機能はしたものの、かなりひどいものでした。
00:01:25そして、2025年後半には世界で最も高価なAIが登場すると予測しています。Open Brainは世界最大の
00:01:31データセンターを建設中で、完成すれば$10^{28}$ FLOPという
00:01:37GPT-4の1000倍に相当するモデルの学習が可能になります。しかし実際には、推計されている最大の学習規模は
00:01:43約$5 imes 10^{26}$ FLOPで、費用は4億ドル弱です。Epoch AIは2027年までに10億ドル規模の学習が行われると予想しています。
00:01:51ここでの懸念はアライメント（整合性）です。この学習が終わる頃には、AIが
00:01:57指示に従うことで役立ち、詐欺や爆弾製造などの危険な活動への助力を拒否することで無害であり、
00:02:03騙されやすい人間から高い評価を得るために嘘の引用をしたりタスク完了をでっち上げたりする誘惑に耐え、誠実であることが期待されます。
00:02:10論文自体も、これは部分的にしか機能せず、モデルは諂ったりテストで嘘をついたりすると予想しています。
00:02:17現実には、事態はさらに先を行きました。2026年半ば頃、OpenAIのモデルがサンドボックスを抜け出しベンチマークで不正を行いました。
00:02:23また、Anthropicのモデルは、設定ミスによってオープンなインターネット上に残された後、実在する企業を攻撃しました。
00:02:29有名な話として、OpenAIのモデルがExploit Gymというサイバーセキュリティ評価の回答を見つけるために
00:02:35Hugging Faceをハッキングした事例があります。それらのタスクのほとんどは、どのモデルも解決したことがなかったものであり、
00:02:40エージェントは回答を手に入れた後も攻撃を続けました。そして2026年9月、Anthropicは
00:02:472025年12月から2026年8月の間に抑止された、Claude Haiku、Sonnet、Opusモデルの悪用に関するレポートを公開しました。
00:02:53そこには、生物兵器の製造に繋がりかねない方法で科学者がClaudeを使用した5つの事例が含まれていました。
00:03:00Anthropicはそれらをブロックまたは無効化しました。悪用例の中にFableが含まれなかったのは、より強力なセーフガードがあったためです。
00:03:07したがって、計算資源の予測は時期尚早でしたが、アライメントの問題は予想通りのタイミングで現れています。
00:03:14さて、2026年序盤の予測はコーディングの自動化です。OpenBrainは内部のAI研究開発において
00:03:19反復的に改善されるAgent 1の配備を続けています。全体として、彼らはAIの支援がない場合よりも
00:03:2650%速くアルゴリズムの進歩を遂げています。これは、シンギュラリティや知能爆発と呼ばれるものの
00:03:32最初兆候です。自律的に自己改善できるAIは、理論上数か月以内に
00:03:38超知能を生み出す可能性があります。現時点での予測では、アルゴリズムの進歩は50%の向上にとどまり、
00:03:44OpenBrainがAIを用いて1週間で行うAI研究の進展は、AIを使わない場合の
00:03:511.5週間分に相当することを意味します。ここでの予測は正確でした。2026年2月の
00:03:58GPT-5.3 Codexのリリース時、OpenAIは自身を作り出すのに寄与した最初のモデルであると発表し、アルトマン氏も
00:04:06それを使うことでいかにリリースが早くなったかを見るのは素晴らしかったと述べました。また、2026年3月にAnthropicの研究チームの
00:04:13従業員130人を対象に行われたアンケートでは、回答者の中央値として、AIモデルを全く使わない場合と比べて
00:04:19Mythos previewを使用することで約4倍の成果を出せたと推定されています。ただし、Anthropic自体は
00:04:25実際の向上幅はもっと低いだろうと述べています。Anthropic自体の試算では、研究全体で2倍未満の加速にとどまるため、
00:04:33論文の1.5倍という数値はほぼ妥当と言えます。さて、ここからはほんの数か月前である2026年半ばの話になります。
00:04:38論文では中国の研究機関に焦点を当てています。チップの輸出規制や政府支援の不足により、
00:04:45中国は西側諸国と比較してリソース不足に陥っています。中国は世界における
00:04:50AI関連の計算資源の約12%を維持することに成功しており、OpenBrainの最高峰モデルから約6か月遅れています。
00:04:57現実の数値も、中国のAI計算資源は世界の5～15%で、実際に約6か月遅れていると予測しています。
00:05:02したがって、この予測は正確でした。また、DeepSense向けのメガデータセンターを収容するために
00:05:08天問発電所に作られた集中開発区についても予測しています。研究者が最終的に移住する高度にセキュリティの確保された
00:05:14居住空間やオフィス空間とともに、中国のAI関連計算資源の約50%が現在
00:05:20DeepSense主導の共同体で稼働しており、新しいチップの80%以上が集中開発区に振り向けられています。
00:05:26現実には、このようなことは起こりませんでした。ZAI、Kimi、DeepSeqといった研究所は今も人材獲得を競い合っています。
00:05:34共同体も集中開発区も存在しません。しかし、中国政府は2950億規模の国家データセンターネットワークを構築中であり、
00:05:41DeepSeqやAlibabaのトップAI研究者は現在、渡航に承認が必要となっています。一方で中国は
00:05:48独自チップの開発を強化しており、米国が販売を承認した後でさえ、NVIDIAのH200チップを控えているのは中国政府側です。
00:05:54したがって、全体としてここでの予測は外れていました。さて、私たちが今いる現在、
00:06:01つまり2026年後半まで追いつきました。ここでの予測はかなり具体的です。
00:06:062026年に株式市場は、OpenBrainやNVIDIA、そしてAIアシスタントを最も成功裏に導入した企業に牽引され、30%上昇しました。
00:06:122026年には株式市場が30%上昇し、その牽引役はOpenBrainやNvidia、
00:06:18そしてAIアシスタントを最も上手に導入した企業だと予測されています。ジュニアソフトウェアエンジニアの求人市場は混乱し、
00:06:24ワシントンDCでは1万人規模の反AI抗議デモが発生します。では検証してみましょう。株式市場では、S&P 500が2026年9月までに
00:06:32約10%上昇しているため、この論文を投資のアドバイスにするのはやめた方がいいかもしれません。求人市場に関しては、数字は
00:06:38実際に一致しています。Indeedによると、ソフトウェアエンジニアの求人は2022年のピークから約67%減少しており、
00:06:46大手IT企業でのエントリーレベルの採用は2019年以降約65%減少しています。新卒者は大手IT企業の採用数の
00:06:55わずか7%に過ぎず、2026年上半期だけでテック業界の人員削減は13万9000人を超えました。しかし、すべてが一様というわけではありません。
00:07:03IBMは、AIはジュニアのタスクを十分にこなすが依然として人間の監視が必要であるという論理に基づき、2026年に米国でのエントリーレベル採用を3倍にする計画です。
00:07:11そして抗議デモについてです。DCでは2026年8月にデモがありました。OpenAIのロビー活動オフィスに約30人が集まりました。
00:07:19また、2026年7月にはサンフランシスコのOpenAI本社前に100人から350人の抗議者が結集し、
00:07:28その後AnthropicやGoogleに向けて行進しました。ある学生新聞はこれをアメリカ史上最大の
00:07:34AI開発に対するデモと呼びました。したがって、ここでの人数は実際とは大きくかけ離れており、
00:07:39予測は外れています。さて、現在の時間軸を過ぎて2027年1月に進みましょう。Agent 2は
00:07:46学習を終えることがありません。論文は、OpenBrainが現在Agent 2の事後学習を行っていると主張しています。
00:07:51これまで以上に高品質なデータに焦点が当てられています。大量の合成データが生成され、
00:07:58評価・フィルタリングされて品質が確認された上でAgent 2に投入されます。さらに、彼らは何十億ドルも支払って
00:08:04人間に長期的なタスクを解決する様子を録画させています。これはすでに部分的には真実です。
00:08:112026年5月頃、Metaは7,000人のスタッフをAIタスクフォースに強制的に配置転換し、モデルのトレーニングのために
00:08:19退屈なコーディングパズルを解かせました。しかし、猛烈な反発を受けたため、
00:08:25わずか1ヶ月後、そのタスクフォースに実際に参加するかどうかは各個人の判断に委ねると発表しました。
00:08:30そしてAgent 2自体についてですが、これは2 × 10^28 FLOPで学習されると予測されているモデルであり、
00:08:37そのようなモデルの稼働パラメータ数は約6兆〜10兆になると予測されています。実際には、確認できる
00:08:42唯一のモデルサイズはオープンモデルのものです。Kimi K3は2.8兆パラメータで、トークンごとに1040億が
00:08:48稼働します。2026年4月のDeepSeq V4 Proは全体で1.6兆で、稼働は490億です。これらは
00:08:57クローズドな最先端モデルに近い性能を発揮しますが、クローズドな研究所はモデルサイズを一切公表しないため、
00:09:03サイズ面での現実は遠く及びません。2 × 10^28のモデルをトレーニングしたと知られている者はおらず、最大の
00:09:08オープンモデルでもAgent 2の60分の1から100分の1の稼働パラメータしか使用していないため、ここでの予測は
00:09:15おそらく時期尚早でしょう。では、これまでの論文の精度を振り返ってみましょう。2025年後半には最大規模の
00:09:21データセンターと10^28規模のモデルが登場するはずでした。データセンターは建設され、モデルは論文の記述通りに
00:09:27問題行動を起こしましたが、まだ10^28をトレーニングした者は知られていないため、これは早すぎました。2026年前半、
00:09:34AIがAI研究を加速させ始めます。これはほぼ正確に的中しており、正しいです。2026年中盤には、
00:09:40中国が世界の計算資源の12%を占め、半年遅れをとっています。これらはすべて正しいですが、中国が研究所を
00:09:471つのメガプロジェクトに国有化するという予測は完全に間違いです。2026年後半には、株価が30%急騰し、ジュニア
00:09:54エンジニアが苦境に立たされ、1万人がDCで行進します。正しいのは1つだけ、つまり
00:10:00求人市場だけで、残りは完全に外れています。そして2027年1月にはAgent 2が登場します。これは推測される
00:10:07どのモデルよりも40倍以上の計算資源で学習されたモデルであり、単なる早すぎた予測と言えるでしょう。
00:10:13検証できるのはここまでです。これ以降の出来事はまだ起きていません。しかし、これまでに分かっている
00:10:17情報から判断すると、最先端の研究所は自動改善する超人工知能に向かってレースを繰り広げているようです。
00:10:23元Anthropicの研究者であるジェイコブ・コックソン氏がこれをツイートし、爆発的な話題となりました。「本日、
00:10:29Anthropicを辞職しました。過去3年間、OpenAIとAnthropicの両方で事前学習の研究に携わってきました。
00:10:35どちらの企業も責任ある行動をとっていません。彼らは自己改善する超人工知能に向かって一直線に突き進み、
00:10:39私たちの命を危険に晒しています」では、今後の1年間についての論文の予測を確認してみましょう。
00:10:452027年3月、人類を超越した初のコーダー「Agent 3」が登場。OpenBrainはこれを20万基稼働させます
00:10:53これは地球上で最も優秀なエンジニア5万人が30倍のスピードで働いているのと同等です。9月には、
00:10:59AI研究においてあらゆる人間を凌駕するAgent 4が登場します。OpenBrain内部では30万インスタンスが50倍の速度で
00:11:06動いています。毎週1年分の進歩が起きるのです。そして10月、安全チームがAgent 4が
00:11:13自分たちに敵対している証拠を発見します。情報がニューヨーク・タイムズにリークされ、監視委員会は
00:11:18採決を迫られます。減速して首位を中国に奪われるリスクを冒すか、開発を続けるか。継続に投票すれば
00:11:25人類滅亡の危機を迎えます。停止に投票すれば、より整った超人工知能が得られ、最終的には中国との条約に至ります。
00:11:32しかし、この論文が最初に発表されて以来、著者らはすでに「AI 2027」の自己採点を行っています。
00:11:37ココタヨ氏は現在2029年3月頃、ライフランド氏は2033年7月頃に超人工知能が実現すると予想しています。
00:11:45しかし、私たちがこれまでに見てきた限り、中国との条約が結ばれる可能性は低そうです。中国と
00:11:50西側諸国との間の不信感や、これらのモデルを秘密裏に開発できる能力があるため、どちらの陣営も立ち止まることができません。私の
00:11:56見解では、これにより2つの異なる結果が残されます。自動的な自己改善は確実であり、
00:12:02それを元に戻すことは不可能です。問題は、これが超人工知能につながるのか、それとも
00:12:07そのプロセスが達成できることには根本的な限界があるのかどうかです。知性が無限に増大するか、
00:12:14あるいは何らかの限界があるかです。その限界は一体どこにあるのでしょうか？皆さん、今回の動画を楽しんでいただけましたら、
00:12:18毎日このような無料コンテンツを制作し続けられるよう、チャンネル登録で応援していただけると大変助かります。
Community Posts
No posts yet. Be the first to write about this video!
Write about this video