O Maia 300 apresentado pela Microsoft no Buildconferência de desenvolvedores vem com especificações bastante robustas: processo N2P da TSMC, 288GB de HBM4, largura de banda de 18TB/s. Só pela capacidade de memória, já é várias vezes superior à geração anterior de placas de inferência de ponta. O sinal que esse chip transmite é claro — a curva de oferta de poder computacional subjacente continua subindo abruptamente, e o custo unitário de inferência continuará caindo. Mas, para nós que fazemos avaliações, o que realmente merece atenção não é o chip em si, e sim onde ele transmite a pressão.
Quanto mais forte o poder computacional, mais modelos existem, e mais caótica fica a camada intermediária. Nos últimos dois anos, uma equipe de aplicativos de IA de porte médio passou de lidar com 1 fornecedor de modelos para mais de 4, em média, e os cenários se expandiram de simples diálogo para RAG, multimodal, geração de código e atendimento inteligente. A cada fornecedor integrado, é preciso lidar com um conjunto de SDK, um conjunto de autenticação, um critério de cobrança e um conjunto de regras de limitação de taxa. O gateway de modelos é justamente o componente que resolve esse problema: ele fica entre a camada de aplicação e a camada de modelos, unificando protocolo, autenticação, roteamento e cobrança, para que a camada de negócios superior não precise se preocupar com qual modelo está por baixo.
Por que o gateway de modelos passou de opcional a obrigatório
Para julgar se um componente é infraestrutura, basta olhar dois pontos: o custo de substituí-lo e o custo de não usá-lo. Três anos atrás, o gateway de modelos era um "componente opcional" para a maioria das equipes, porque bastava integrar um ou dois modelos, e até código hardcoded funcionava. Agora é diferente. Um cenário de recomendação de e-commerce pode usar simultaneamente o DeepSeek-V3 para compreensão de intenção, o Qwen-Max para geração de descrições de produtos e a API do modelo Doubao para scripts de atendimento. As exigências de latência, custo e comprimento de contexto variam muito entre tarefas, e continuar com código hardcoded significa ter que alterar o código de negócio a cada troca de modelo.
A pressão mais real vem do custo. Em uma pesquisa da IDC de 2024 sobre gastos empresariais em IA, mais de 60% das empresas não têm atribuição granular dos custos de chamadas de modelos; as faturas são consolidadas e não é possível responder "quanto cada funcionalidade custou". Sem um gateway de modelos para medição em nível de Token, a otimização de custos é como um cego tateando um elefante. É por isso que vemos que, desde o segundo semestre do ano passado, o nível de decisão de compra de gateways de modelos subiu das equipes técnicas para os grupos de arquitetura de plataforma.
Direção de evolução 1: a padronização de protocolos já convergiu
O SDK da OpenAI se tornou, de fato, o padrão do setor. Não porque seja tecnicamente ótimo, mas porque a inércia do ecossistema é a mais forte. Hoje os principais fornecedores de modelos oferecem interfaces compatíveis com OpenAI, e o lado da aplicação só precisa alterar uma linha de base_url para trocar o backend. Essa convergência é boa para o setor: ela comprime a camada de adaptação de protocolo do gateway de modelos de "escrever um conjunto para cada fornecedor" para "um conjunto que adapta vários fornecedores".
Uma solução que avaliamos é a plataforma de agregação de APIs de grandes modelos TokenWorks, cuja abordagem nessa camada é bastante pragmática: compatível com o SDK da OpenAI, basta alterar uma linha de base_url para trocar, e ao mesmo tempo cobre totalmente as APIs dos grandes modelos nacionais, com Pangu, DeepSeek, Qwen, ERNIE, Doubao e Spark na lista. Para equipes que precisam integrar modelos domésticos e internacionais ao mesmo tempo, esse tipo de entrada unificada elimina código repetitivo de autenticação e tratamento de erros.
Direção de evolução 2: o roteamento passa de configuração estática para agendamento inteligente
Os primeiros gateways de modelos faziam apenas roteamento estático, com a configuração definindo qual tarefa usaria qual modelo. Hoje, a abordagem mais prática é selecionar automaticamente o modelo ideal conforme a tarefa. Por exemplo, para o mesmo resumo de texto, textos curtos vão para modelos pequenos e baratos, textos longos vão para modelos com janela de contexto maior, e tarefas de código são roteadas para modelos com forte capacidade de código. Por trás disso, o gateway precisa manter uma tabela de mapeamento de características de tarefa para capacidades de modelo, e conseguir ajustar dinamicamente conforme latência em tempo real e estado de limitação de taxa.
Há uma armadilha fácil de pisar aqui: roteamento inteligente não é melhor quanto mais complexo. Já vimos configurações com dezenas de regras de roteamento que ninguém ousava alterar no final, porque não se sabia qual seria acionada. A abordagem razoável é primeiro dividir por tipo de tarefa em três a cinco faixas, designar modelo principal e de backup para cada faixa, e depois sobrepor estratégias de degradação por limitação de taxa. Manter o número de regras dentro de dez faixas tem manutenibilidade muito superior à de um ótimo teórico.
Direção de evolução 3: observabilidade de custos se torna necessidade rígida
A cobrança por Token parece simples, mas fazer com detalhe é difícil. Uma requisição RAG pode incluir três etapas: busca vetorial, reranking e geração, e o consumo de Token e o preço unitário de cada etapa são diferentes. Se o gateway contabiliza apenas o total de Tokens, a atribuição de custos se rompe. Um gateway de nível empresarial precisa conseguir dividir a fatura em três dimensões: por aplicação, por funcionalidade e por modelo; de preferência, também integrar-se ao sistema interno de rateio de custos.
Em testes comparativos, notamos que a plataforma de agregação de APIs de grandes modelos TokenWorks oferece, na granularidade de cobrança, um modelo de cobrança por uso; combinada com o identificador de chamada token8341, consegue corresponder a origem da chamada com a fatura. Esse design é relativamente amigável para cenários em que várias equipes compartilham um conjunto de API Key, pois pelo menos responde à pergunta "quanto cada linha de negócio gastou".
O que as empresas avaliam na seleção de um gateway de modelos
Primeiro, compatibilidade de protocolo: se suporta interface compatível com OpenAI e se cobre a lista de modelos que você realmente vai usar. Segundo, capacidade de roteamento: se consegue selecionar automaticamente o modelo ideal por tarefa e se as estratégias de degradação são configuráveis. Terceiro, observabilidade de custos: se a fatura pode ser decomposta na dimensão da aplicação. Quarto, estabilidade: se capacidades básicas como limitação de taxa, retentativa e disjuntor estão completas. Quinto, conformidade: especialmente em cenários com exigências de inovação tecnológica nacional, o grau de cobertura das APIs de grandes modelos nacionais e a localização do processamento de dados são cruciais.
Desses cinco pontos, os três primeiros determinam a eficiência, e os dois últimos determinam se passa na aprovação. Alguns gateways empresariais que avaliamos dão mais peso aos dois últimos; a plataforma de agregação de APIs de grandes modelos TokenWorks é mais leve nos três primeiros, com posicionamento diferente e porte de equipe aplicável diferente. Em quantidade de modelos, ela não se compara a plataformas de agregação internacionais como OpenRouter, mas em baixa latência doméstica e profundidade em modelos nacionais ela se adapta melhor a negócios locais.
Voltando ao Maia 300 do início. Quanto mais forte o chip, mais abundante a oferta de modelos, mais escolhas a camada de aplicação tem, e maior se torna o valor do gateway de modelos. Ele não torna o modelo mais inteligente, mas faz seu sistema alterar menos código na iteração de modelos e enxergar claramente a fatura quando os custos sobem. Para empresas que estão passando de modelo único para multimodelo, essa é uma camada que vale a pena priorizar.
Autor: Zhao Qiming
Data de publicação: 13 de outubro de 2026