なぜ人間はAIが書いたコードに追いつけないのか - タリック・シャウカト（Sonar）

Highlights

• 非同期エージェントの導入によりコードの作成量は2450%増加したものの、リリースの増加率は30%にとどまる。

• コードベースの規模が1万行から5万行へ拡大すると、エージェントの変換精度は大きく崩壊する。

• 長時間のタスクを実行する場合、各ステップの精度が95%であっても20ステップ目には全体の精度が36%まで低下する。

• 人間はAIが間違っているときであっても、5回に4回の確率でAIに同意してしまう認知的降伏を引き起こしている。

• 意図とガイドレールを整備してエージェントを支援することにより、トークンコストが36%削減され、コミット時の問題発生率が92%減少した。

Timeline

1. 00:00 - 05:19

   ソフトウェア生産の歴史的背景とエージェント時代の到来

   産業革命期からの製造業の変遷を振り返りながら、トヨタが品質重視のシステム設計によって自動車製造のあり方を変えた歴史を紹介している。同様の原則がこれまでのソフトウェア開発を支えてきたが、現在はAIエージェントの登場によって開発のボリュームと環境が根本から変わりつつある現状を指摘している。

   • トヨタ生産方式は量より品質を優先し、システム全体の修正や問題の早期解決という原則を確立した。
   • 現代のソフトウェア開発におけるアジャイルやCIなどの手法は、機能する工場を築く発想から派生したものである。
   • 開発ライフサイクルに非同期エージェントを導入した調査では、コード行数が2450%増加した。
   • 開発者の5%がすでにエージェント型ソフトウェアファクトリーを稼働させており、金融サービスでは39%に達する予定である。
2. 05:19 - 10:29

   エージェント駆動開発が直面する5つの限界

   企業がAIガバナンスとして頼りにするヒューマン・イン・ザ・ループが、人間の認知的降伏も含めて機能不全に陥っていることを論じている。さらに、大規模なコードベースにおけるナビゲーションの非効率性、ステップごとのエラーの蓄積、LLM自体の判定の揺らぎといった、実務上の重大な障害を具体的なデータで示している。

   • ヒューマン・イン・ザ・ループの仕組みは、コード量の爆発的増加に対して出荷数が追いつかずスケールしない。
   • コードベースが5万行に達すると、エージェントはナビゲーションに苦戦し精度が崩壊するとともにトークン消費が30倍に膨らむ。
   • 長時間のタスクではエラーが複合し、20ステップ目に達すると全体精度が36%まで低下する。
   • LLMは判定の7%から17%が再現時に変化し、人間の問いかけによって34%も意見を変える信頼性の低い審査員である。
3. 10:29 - 16:25

   コード信頼度フォーミュラと検証による解決策

   不確実なAI出力を実務で信頼するための「コード信頼度フォーミュラ」を提示し、具体的なプロダクト運用の成果を解説している。品質ゲートや規制基準をクリアするエビデンスを伴う仕組みをファクトリーに組み込むことで、コードが溢れる時代においても確かな信頼を届けることができると結論づけている。

   • 成果に対して確信を持つためには、意図、ガイドレール、検証、エビデンスの4つの要素を掛け合わせたフォーミュラが不可欠である。
   • 意図のガイドレールを適用すると、トークンコストが36%削減され、コミット時の問題発生率が92%減少する。
   • CPUとGPU、決定論的手法とエージェント的手法を組み合わせた独立した検証がゴールドスタンダードとなる。
   • 検証を強力に構築したユーザーは、コードの安全性に対する肯定的な影響を非ユーザーより81%高く実感している。