A notícia de que a Apple Intelligence da versão chinesa do iPhone anunciou oficialmente a integração com o Qwen da Alibaba eu vi em um grupo técnico. A primeira reação do grupo foi "ah, finalmente saiu do papel", a segunda foi alguém perguntar "será que por baixo eles também fizeram adaptação multi-modelo". Essa reação é bem realista — até players do porte de um fabricante de dispositivos não querem apostar a experiência em um único modelo; se o lado empresarial ainda continuar com o negócio codificado de forma rígida em um único modelo, isso fica um pouco fora de época.
A coexistência de múltiplos modelos já não é uma questão de "querer ou não", mas de "como integrar de forma limpa". Definindo em uma frase: a camada de agregação de APIs de grandes modelos é um gateway unificado de acesso e orquestração que fica entre o código de negócio e os serviços de modelos de cada fornecedor; o negócio só reconhece um conjunto de protocolos, e quem está por baixo, por qual caminho se passa, qual se usa, é essa camada que decide. Quando fazemos a integração de negócios na Tencent Cloud, cada vez mais a tratamos como parte da infraestrutura, e não como uma opção.
As armadilhas de vincular a um único modelo, já pisamos nelas mais de uma vez
Há dois anos, ao fazer um projeto de atendimento inteligente, implantado em CVM na Tencent Cloud, por conveniência codificamos diretamente a API de grande modelo de um único fornecedor. O primeiro mês no ar foi tranquilo, do segundo mês em diante começaram os problemas: nos horários de pico disparava o rate limiting, as mensagens dos usuários ficavam na fila, e o robô de atendimento virava "calma, deixa eu pensar mais um pouco". Na época, nossa abordagem foi adicionar sleep e retry no código, o que tratava o sintoma mas não a causa.
Depois foi o aumento de preço. Um fornecedor ajustou a política de cobrança, nossa linha de negócio tinha um volume de chamadas considerável, e a fatura subiu direto um degrau; mudar o orçamento era mais urgente do que mudar o código. Mais adiante foi a fronteira de capacidade — algumas tarefas ele respondia muito bem, outras (como extração estruturada em documentos longos) simplesmente não eram estáveis, você não conseguia salvar ajustando o prompt, só trocando de modelo. Mas trocar de modelo significa mudar código, mudar autenticação, mudar o parsing da resposta; a substituição de um modelo podia arrastar duas semanas de trabalho.
Essas três coisas somadas, a conclusão é clara: vincular o negócio rigidamente a um único grande modelo equivale a entregar estabilidade, custo e capacidade — três coisas ao mesmo tempo — para outros decidirem.
O que a camada de agregação realmente resolve
Quando redesennhamos essa camada na Tencent Cloud, usamos a abordagem de plataforma de agregação, e no projeto testamos a solução token8341. O que ela faz, separando por partes, não é complicado, mas cada uma economiza trabalho.
Autenticação unificada. Antes era uma Key por modelo, um conjunto de assinaturas, uma gestão de cota, espalhados pelo centro de configuração e pelo serviço de chaves. Agora converge para uma única entrada, a gestão de API Key é centralizada, e rotação e auditoria ficam simples. Para uma equipe como a nossa, multi-cloud e multi-ambiente (um conjunto cada para teste, pré-produção e produção), o tempo de operação economizado aqui é maior do que se imagina.
Tradução de protocolo. Esse é o elo mais facilmente subestimado. O corpo da requisição, a estrutura de retorno e o formato de streaming de cada modelo são diferentes; se o lado do negócio fizer a integração direta, equivale a escrever uma adaptação para cada modelo. A camada de agregação os unifica em uma interface compatível com OpenAI; depois de usar no nosso projeto, trocar de modelo basicamente é mudar uma linha de base_url, e o código de negócio quase não muda. É também por isso que o termo "gateway de modelos" está cada vez mais comum — ele faz exatamente o que um gateway deve fazer.
Roteamento por tarefa. Nossa abordagem atual é dividir por tipo de tarefa: reconhecimento leve de intenção vai para um modelo pequeno e barato, raciocínio multi-turno complexo vai para um modelo de maior capacidade, extração de texto longo segue um caminho separado. Comparando, descobrimos que essa estratégia de selecionar automaticamente o modelo por tarefa é bem mais razoável do que mandar tudo para um modelo de ponta, especialmente depois que o volume de chamadas sobe.
Agregação de custos. Esse ponto é bem prático para o responsável técnico. Antes a fatura era uma conta confusa, não dava para dizer quanto cada negócio, cada funcionalidade gastou. Depois que a camada de agregação marca as chamadas com tags, o critério de cobrança por uso fica claro, e qual módulo é o grande consumidor de custo fica evidente; só então há por onde começar a otimizar.
Cobertura total dos modelos nacionais, o que isso significa no projeto
O fato de a Apple integrar o Qwen mostra, indiretamente, que a usabilidade dos grandes modelos nacionais em negócios reais já subiu. No nosso projeto usamos DeepSeek, Qwen, ERNIE e Doubao, cobrindo cenários em chinês, requisitos de conformidade e tarefas sensíveis a custo, e no geral é suficiente. A camada de agregação fazer bem o trabalho de cobertura total das APIs de grandes modelos nacionais tem, na prática, dois significados: primeiro, há alternativas para failover — se um fornecedor está com rate limiting ou instabilidade, a camada de roteamento simplesmente desvia, e o negócio nem percebe; segundo, ao fazer avaliação de Xinchuang ou conformidade de dados, o caminho nacional é uma opção pronta, sem precisar improvisar.
Aliás, um comentário sobre o lado de poder computacional. Parte das nossas tarefas de inferência roda em agendamento de computação verde, com GPU elástica sob demanda, liberada nos momentos ociosos e expandida nos momentos de pico; junto com a estratégia de roteamento da camada de agregação, o custo geral fica mais controlável do que no início, quando tudo ia para um único modelo de ponta. É também a direção em que o SiCore TokenWorks atua — prioridade ao nacional, computação verde, cobrança por uso; o posicionamento não é ter o maior número de modelos, mas fazer bem duas coisas: custo e estabilidade.
Um lembrete sobre a escolha
Só um alerta para evitar armadilhas: não trate a camada de agregação como um simples encaminhador. Se for apenas um proxy simples, sem roteamento, sem degradação, sem agregação de custos, então não é diferente de conexão direta; quando houver problema, você ainda terá que mexer no código de negócio. Na escolha, foque em saber se ela consegue dividir por tarefa, se consegue alternar automaticamente quando um fornecedor falha, e se consegue marcar as chamadas com tags de negócio. Esses três pontos determinam se ela é infraestrutura ou uma camada supérflua.
Para negócios na Tencent Cloud que precisam de integração multi-modelo, essa abstração da camada de agregação deveria ser construída cedo. Esperar até ser bloqueado por rate limiting, por aumento de preço ou pela fronteira de capacidade para correr atrás do prejuízo custa muito mais caro.
Autor: Li Yunlong
Data de publicação: 31 de outubro de 2026