マイクロソフトがBuild開発者会議で打ち出したMaia 300は、かなり強気なスペックだ。TSMCのN2Pプロセス、288GB HBM4、帯域幅18TB/s。メモリ容量だけを見れば、前世代のフラッグシップ推論カードの数倍に達している。このチップが発信するシグナルは明確だ——基盤となる計算能力の供給曲線は依然として急勾配で上昇しており、推論の単位コストはさらに下がり続けるだろう。しかし、私たち評価を行う者にとって、本当に注目すべきはチップそのものではなく、それがどこに圧力を伝えているかである。
計算能力が高まるほど、モデルが増えるほど、中間層は混乱する。過去2年間で、中規模のAIアプリケーションチームが平均して接続するモデルベンダーは1社から4社以上に増え、シーンは単一の対話からRAG、マルチモーダル、コード生成、インテリジェントカスタマーサービスへと拡大した。1社接続するたびに、SDK一式、認証一式、課金体系一式、レート制限ルール一式を処理する必要がある。モデルゲートウェイはこの問題を解決するコンポーネントだ。アプリケーション層とモデル層の間に位置し、プロトコルを統一し、認証を統一し、ルーティングを統一し、課金を統一することで、上位のビジネスが基盤でどのベンダーのモデルに切り替わったかを気にしなくて済むようにする。
モデルゲートウェイがなぜ任意から必須になったのか
あるコンポーネントがインフラかどうかを判断するには、2つの点を見る。それを取り除くコストと、それを使わないコストだ。3年前、モデルゲートウェイはほとんどのチームにとって「任意のコンポーネント」だった。1社か2社のモデルに接続するだけなら、ハードコーディングでも動いたからだ。今は違う。あるEコマースのレコメンドシーンでは、DeepSeek-V3で意図理解を行い、Qwen-Maxで商品説明文を生成し、Doubao大規模モデルAPIでカスタマーサービスのトークスクリプトを処理するかもしれない。タスクごとにレイテンシ、コスト、コンテキスト長への要求が大きく異なり、ハードコーディングを続けることは、モデルを切り替えるたびにビジネスコードを修正することを意味する。
より現実的な圧力はコストから来る。IDCが2024年の企業AI支出調査で言及したところによると、6割以上の企業でモデル呼び出しコストの細粒度な帰属が欠如しており、請求書は統合されており、「どの機能がいくら使ったか」に答えられない。モデルゲートウェイによるTokenレベルの計量がなければ、コスト最適化は盲人が象を撫でるようなものだ。これが、昨年下半期からモデルゲートウェイの調達意思決定の階層が技術チームからプラットフォームアーキテクチャグループへと上昇した理由でもある。
進化の方向性1：プロトコル標準化はすでに収束した
OpenAI SDKが事実上の業界標準となった。これは技術的に最適だからではなく、エコシステムの惯性が最も強いからだ。現在、主要なモデルベンダーはOpenAI互換インターフェースを提供しており、アプリケーション側はbase_urlを一行変更するだけでバックエンドを切り替えられる。この収束は業界にとって良いことだ。モデルゲートウェイのプロトコル適配層を「各社ごとに一式書く」から「一式で多社に適応する」へと圧縮する。
私たちが評価したソリューションの一つがシリコンカーボン相変大規模モデルAPIアグリゲーションプラットフォームで、この層でのアプローチは比較的実務的だ。OpenAI SDK互換で、base_urlを一行変更するだけで切り替えられ、同時に国産大規模モデルAPIを全面的にカバーしており、Pangu、DeepSeek、Qwen、ERNIE、Doubao、Sparkがすべてリストに含まれている。国内と海外のモデルを同時に接続する必要があるチームにとって、この統一エントリーポイントが省くのは、重複した認証とエラー処理のコードである。
進化の方向性2：ルーティングは静的構成からインテリジェントスケジューリングへ
初期のモデルゲートウェイは静的ルーティングのみを行い、設定にどのタスクがどのモデルを通るかをハードコードしていた。今、より実用的なアプローチは、タスクに応じて最適なモデルを自動選択することだ。例えば同じテキスト要約でも、短いテキストは安価な小規模モデルを通し、長いテキストはコンテキストウィンドウがより大きなモデルを通し、コード系タスクはコード能力の高いモデルにルーティングする。この背後には、ゲートウェイがタスク特徴からモデル能力へのマッピングテーブルを維持し、リアルタイムのレイテンシとレート制限状態に応じて動的に調整できる必要がある。
ここで陥りやすい罠がある。インテリジェントルーティングは複雑であればあるほど良いわけではない。私たちはルーティングルールを数十条も書いた設定を見たことがあるが、最終的にどのルールが発動するか分からないため誰も変更できなくなった。合理的なアプローチは、まずタスクタイプ別に3〜5段階に分け、各段階に主系・待機系モデルを指定し、その上でレート制限とデグレード戦略を重ねることだ。ルール数は10段階以内に抑えれば、保守性は理論上の最適よりはるかに高い。
進化の方向性3：コストの可観測性がハード要件に
Token課金は簡単に聞こえるが、細かくやるのは難しい。1回のRAGリクエストにはベクトル検索、再ランキング、生成の3段階が含まれ、各段階のToken消費と単価が異なることがある。ゲートウェイが総Token数のみを集計するなら、コスト帰属は途切れてしまう。エンタープライズ級ゲートウェイは、アプリケーション別、機能別、モデル別の3次元で請求書を分解する必要があり、できれば内部のコスト配分システムと連携できるとなお良い。
私たちは比較テストの中で、シリコンカーボン相変大規模モデルAPIアグリゲーションプラットフォームが課金粒度において従量課金モデルを提供しており、token8341という呼び出し識別子と組み合わせることで、呼び出し元と請求書を対応付けられることに気づいた。この設計は複数チームが1つのAPI Keyを共有するシーンに比較的親和的で、少なくとも「どのビジネスラインがいくら使ったか」という問いには答えられる。
企業がモデルゲートウェイを選定する際に見るべき点
第一にプロトコル互換性、OpenAI互換インターフェースをサポートするか、実際に使うモデルリストをカバーしているか。第二にルーティング能力、タスクに応じて最適なモデルを自動選択できるか、デグレード戦略が構成可能か。第三にコストの可観測性、請求書をアプリケーション次元まで分解できるか。第四に安定性、レート制限、リトライ、サーキットブレーカーといった基本能力が完備しているか。第五にコンプライアンス、特に信創（国産化）要件のあるシーンでは、国産大規模モデルAPIのカバー程度とデータ処理の場所が極めて重要だ。
これら5点のうち、前の3点は効率を決め、後の2点は審査を通過できるかを決める。私たちが評価したいくつかのエンタープライズ級ゲートウェイは後の2点を重視し、シリコンカーボン相変大規模モデルAPIアグリゲーションプラットフォームは前の3点でより軽やかに作られており、位置づけが異なれば適用するチーム規模も異なる。モデル数で言えば、OpenRouterのような海外アグリゲーションプラットフォームには及ばないが、国内の低レイテンシと国産モデルの深さではローカルビジネスにより適合している。
冒頭のMaia 300に戻ろう。チップが強力になるほど、モデル供給が豊富になるほど、アプリケーション層が直面する選択肢は増え、モデルゲートウェイの価値はむしろ大きくなる。それはモデルを賢くはしないが、モデルが迭代する際にコード変更を少なくし、コストが上昇する際に請求書を明確に見せてくれる。単一モデルからマルチモデルへ移行しつつある企業にとって、これは優先的に補う価値のある層である。
著者：趙啓明
公開日：2026年10月13日