Fast AIパネル：Cerebras、TypeSafe AI、Vercelとの対談

하이라이트

• Cerebras Systemsは、AI計算用フルサーバーやチップを構築し、どのGPUよりもおよそ15倍から20倍高速な推論を実現している。

• 速度は単なる待ち時間の短縮にとどまらず、NetflixがDVD配送からストリーミングへ移行したように新しい市場を切り開く。

• クラウドストライクなどの企業は、インラインでトラフィックを完全に検査・スクラブするAIベースのセキュリティ製品にこの技術を組み込んでいる。

• ソフトウェアの完全な自律的信頼性はまだ完全に解決されておらず、信頼性の閾値を超えることがインナーループへの普及の前提となる。

• 計算処理の歴史と同様に、ハードウェアの進化と効率化によって今後10倍、さらには100倍の高速化が十分に実現可能である。

타임라인

1. 00:00 - 03:30

   高速推論アプローチと自動化の現在地

   アンドリューとディオゴが登壇し、それぞれハードウェアとソフトウェアの視点からAIの現状を語る。Cerebrasは専用のチップ設計によって圧倒的な高速推論を実現し、OpenAIを含む数百社の顧客に採用されている。一方、ソフトウェア側では信頼性の確保が最優先課題とされ、完全な自律化に向けた段階的な取り組みが続けられている。

   • Cerebras Systemsは、標準的なGPUと比較して15倍から20倍高速な推論用チップやサーバーを構築している。
   • ソフトウェア作成の自律的信頼性はまだ完全には満たされておらず、AIはソフトウェアのインナーループに組み込まれるべきである。
   • 言語モデルと高度なUI構築の融合により、コンパイラやOSのあり方が根本から書き換えられる可能性がある。
2. 03:30 - 11:00

   スピードによる市場の創出とユーザー体験の変革

   データの処理速度が向上することで、ユーザーはコーヒーを淹れに行くような無駄な待ち時間から解放され、思考のループにとどまり続けることができる。音声入力システムと知的なルーティングを組み合わせた新しいインターフェースのデモが登場し、キーボードに依存しない操作体系の可能性が示されている。さらに、セキュリティ分野ではすべてのトラフィックをフルスピードで検査するインライン処理が行われている。

   • AIが実用的なレベルに達したことで、ユーザーは結果を待たずに素早く手に入れる即時性を求めている。
   • Netflixが高速インターネットの普及によって映画スタジオへと成長したように、圧倒的なスピードは常に新しい市場を創出する。
   • 100ミリ秒未満のモデル応答を活用した音声コマンドによるアプリケーション操作や、トラフィックの動的フィルタリングが実現しつつある。
3. 11:00 - 18:00

   さらなる高速化とコンピューティングの未来

   現状のモデル速度やインフラ環境にはまだ改善の余地があり、ハードウェアの進化と効率的なモデル配置により劇的な高速化が見込まれる。価格低下に伴う利用増加というジェヴォンズのパラドックスの文脈において、計算能力の供給は常に新しい需要によって満たされてきた。主流の物語にとらわれず、未知の領域や異なる設計思想を探求することが開発者にとって重要であると指摘されている。

   • 米国以外の地域での遅延や、インフラの最適化余地を考慮すると、将来的な10倍や100倍の高速化は十分に達成可能である。
   • コンピューティングの歴史において、計算能力の向上はその容量を常に使い果たす形で拡張されてきた。
   • 業界全体が一つのAIの道に過度に執着している現状に対し、異なるアプローチやリスクを取る独自の道を追求することが推奨される。
4. 18:00 - 24:11

   開発者が選ぶべき道と自動化の展望

   多様なモデル技術を適切に使い分けるマルチモデルの未来について言及し、インフラ構築者としての情熱やビルダーとしてのモチベーションの重要性を強調する。さらに、開発者がAIを活用して日常的なタスクやソフトウェアの自動化を進めることで、開発効率と可能性が大きく広がることを示している。

   • 今後のインフラでは、用途に応じた多様なモデルの盛り合わせから適切な技術を選択して処理を振り向ける時代が訪れる。
   • モデルが人間の好みに最適化されている一方で、ソフトウェアの信頼性と意思決定能力の閾値を超えることが普及のカギとなる。
   • 開発者は自らの情熱に従ってインフラや独自の領域を構築し、AIを用いたバックグラウンドでの自動化を実践すべきである。