Googleが最強のエッジAIモデルを開発？ (Gemma 4)

하이라이트

• Gemma 4はApache 2.0ライセンスを採用したオープンソースモデルであり、23億パラメータのエッジ専用版を備えている。

• 層別埋め込み（per-layer embeddings）技術により、推論時に約23億のアクティブパラメータのみを使用しながら50億パラメータ規模の推論深度を実現した。

• 1.5GB未満のRAM消費で動作し、128Kのコンテキストウィンドウと140以上の言語サポートを統合している。

• E4BモデルはAIME 2026数学ベンチマークで42.5%を記録し、前世代の大型モデルの2倍以上の性能を示した。

• 2025年1月までの知識を保持しており、オフライン環境のiPhone上でLiteRT LLMフレームワークを通じて高速なレスポンスを生成する。

타임라인

1. 00:00 - 01:45

   Gemma 4のアーキテクチャと層別埋め込み

   従来のトランスフォーマーは全レイヤーで一つの埋め込みを共有していたが、Gemma 4は必要な場所に新しい情報を導入できる。E2BやE4Bといったモデル名の「E」は有効パラメータを指しており、効率的なリソース活用が設計の核となっている。これによりRaspberry Piやスマートフォンなどのエッジデバイスでオフライン動作が可能になった。

   • 各レイヤーが独自の埋め込みセットを持つ層別埋め込みを採用した。
   • 推論に使用するアクティブパラメータを23億に抑えつつ、50億パラメータモデルと同等の推論深度を確保した。
   • 1.5GB未満の低メモリ消費環境でも複雑なロジック処理が可能になった。
2. 01:46 - 03:19

   マルチモーダル性能と思考モードの導入

   後付けのモジュールではなく統合されたアーキテクチャを持つことで、スモールモデルに特有の無限ループや論理エラーを抑制した。ベンチマークではAIME 2026で42.5%のスコアを出し、エージェントとしてのツール利用精度も飛躍的に向上した。エージェント・スキル機能により、ライブデータの検索といった動的なワークフローにも対応している。

   • 画像、テキスト、音声を単一のアーキテクチャ内でネイティブに処理する。
   • 回答生成前に論理を自己検証する内部推論チェーン「思考モード」を搭載した。
   • ネイティブな関数呼び出しによりWikipedia検索やウィジェット構築などのマルチステップタスクを実行する。
3. 03:20 - 05:28

   ローカル環境およびコーディングタスクの検証

   LM StudioとClineを使用したオフライン環境でテストを実施した。E2BはJavaScriptファイルの生成に失敗したが、E4Bではデザインが簡素ながらも機能性を備えたコードを出力した。これは非常に小さなパラメータ数において、複雑なコーディングタスクへの適応性を示す結果となった。

   • E2Bモデルは約1.5分でウェブサイトを構築したが、出力に不要なリストが含まれるなどのエラーが発生した。
   • E4Bモデルは約3.5分を要したものの、ショッピングカート機能が正常に動作する成果物を作成した。
   • 23億パラメータ規模のモデルで意味のあるコーディング結果を出力できることを実証した。
4. 05:29 - 10:09

   iPhoneでの実機テストと多言語・知識制限の確認

   Google提供のEdge Galleryアプリを用いて、iPhone上での画像認識や対話性能を検証した。コーギーをボーダー・コリーと誤認するなどの限界はあるが、20億パラメータ級としては十分な認識能力を維持している。現在は公式のiOSバインディングが不足しているが、SwiftLMなどのコミュニティによるネイティブ実装の開発が進められている。

   • LiteRT LLMフレームワークを使用することで、iPhone上で極めて高速なレスポンス速度を記録した。
   • ラトビア語のOCRテストにおいて、不自然な文法は見られるものの高い正確性でテキストを認識した。
   • モデルの知識カットオフは2025年1月であり、当時の米国大統領名を正確に回答した。