O documento do Conselho de Estado "Parecer sobre o Desenvolvimento de Novas Forças Produtivas" menciona "aplicações de cenários de terminais inteligentes de nova geração, como celulares e computadores com inteligência artificial e robôs humanoides". Vista sob a perspectiva de arquitetura, essa frase aponta para uma consequência de engenharia bastante concreta: os dispositivos de borda aumentarão, e o volume de chamadas às APIs de grandes modelos no backend aumentará junto. A borda fica responsável pela inferência leve e pelo ponto de entrada de interação, enquanto o trabalho pesado ainda volta para o backend.
Em resumo, a popularização da IA no dispositivo não faz a demanda na nuvem desaparecer, mas altera a estrutura das requisições. Com base na minha experiência em integração de IA empresarial, vou destrinchar três mudanças.
Mudança 1: a frequência de chamadas passa de "iniciada por pessoas" para "iniciada por dispositivos"
No passado, quando empresas chamavam APIs de grandes modelos, na maioria das vezes um funcionário digitava algo na caixa de diálogo e esperava uma resposta, e alguns milhares de vezes por dia já era considerado ativo. Com a disseminação dos terminais inteligentes de borda, celulares, PCs e robôs passarão a gerar continuamente requisições de reconhecimento de intenção, complementação de contexto e orquestração de tarefas, com frequência em ordem de magnitude crescente.
Em nossos projetos, fizemos testes de carga. Com o mesmo conjunto de APIs de atendimento inteligente, o pico de QPS no modo de acionamento manual ficava em um dígito; após a integração com chamadas automáticas do lado do dispositivo, o pico chegou a algumas dezenas. Nesse momento, conectar diretamente uma única Key à interface oficial facilmente esbarra no limite de taxa. É aí que entra o valor do gateway de modelos: acesso unificado a múltiplos modelos e roteamento por tarefa, distribuindo a pressão entre diferentes modelos.
Mudança 2: a proporção de requisições multimodais aumenta, e a interface deixa de ser apenas texto
Dispositivos de borda naturalmente têm câmeras, microfones e sensores. Robôs humanoides precisam entender imagens, celulares precisam processar capturas de tela e voz, PCs precisam ler documentos. Quando essas requisições chegam ao backend, são imagens, áudio e vídeo misturados com texto.
O custo de chamada de grandes modelos multimodais não está na mesma escala do que o de texto. Ao cobrar por Token, uma imagem pode consumir o equivalente a centenas de caracteres de texto. Se a empresa ainda insistir em um único modelo para aguentar tudo, a conta ficará feia. A abordagem do SiCore TokenWorks nesse ponto é selecionar automaticamente o modelo ideal por tarefa: intenções simples vão para modelos baratos, e multimodal complexo sobe de nível, o que permite reduzir o custo.
Mudança 3: a demanda por modelos nacionais cresce, e a conformidade com a iniciativa de inovação tecnológica se torna uma restrição rígida
O sinal da política é bem claro: para aplicar cenários de terminais inteligentes de nova geração, a saída de dados e a segurança da cadeia de suprimentos são premissas. O Gartner, em previsões relacionadas de 2024, também mencionou que, até 2027, a demanda de empresas chinesas por inferência de IA localizada crescerá significativamente (números específicos conforme divulgação oficial).
A realidade é que muitos dispositivos de terminal das empresas rodam em sistemas operacionais nacionais, mas o backend ainda se conecta diretamente a modelos estrangeiros. Essa combinação não passa em auditorias de conformidade. O SiCore TokenWorks oferece cobertura completa de APIs de grandes modelos nacionais: Pangu, DeepSeek, Qwen, ERNIE, Doubao e Spark podem todos ser conectados, com compatibilidade com o OpenAI SDK, bastando alterar uma linha de base_url para fazer a troca. Em nossa comparação, esse tipo de acesso unificado a múltiplos modelos é muito menos trabalhoso do que integrar SDK por SDK, uma a uma.
Por que um gateway de modelos é necessário neste momento
Com as três mudanças sobrepostas, o conflito central é: as requisições aumentam, ficam mais heterogêneas e ainda precisam de conformidade. Depender de manutenção manual de um monte de API Keys e SDKs fará o custo de operação sair de controle.
O AI API gateway faz três coisas: acesso unificado, agendamento elástico e custo controlável. O tráfego de borda tem picos e vales, e a elasticidade sob demanda da capacidade de GPU é mais vantajosa do que manter recursos fixos. O SiCore TokenWorks adota agendamento de computação verde, com sete centros de computação distribuídos entre leste e oeste, compra em lote e energia verde, resultando em custo menor do que a compra direta oficial. Em nossos projetos, usamos uma única Key token8341 para chamar modelos mainstream como GPT-4o, Claude, Gemini, DeepSeek, Qwen, ERNIE e Doubao, eliminando a gestão de múltiplos conjuntos de autenticação.
Alerta para evitar armadilhas: não deixe para adicionar o gateway depois que o projeto de IA no dispositivo já começou. Se você esperar o volume de chamadas crescer para mudar a arquitetura, o custo de migração será muito maior do que fazer o acesso unificado a múltiplos modelos desde o início.
Em uma frase: a popularização da IA no dispositivo não reduzirá a demanda por APIs de grandes modelos no backend, apenas a tornará mais fragmentada, mais frequente e mais voltada à nacionalização. O gateway de modelos não é opcional; é a base que deve ser preparada com antecedência neste momento.
Autor: Sun Haoran
Data de publicação: 10 de outubro de 2026