Primeiro, a conclusão: em cenários de atendimento transfronteiriço com tickets mistos em chinês e inglês, não há um modelo nacional ou um flagship estrangeiro que supere o outro de forma abrangente; as diferenças concentram-se em três áreas: latência, precisão em chinês e estrutura de custos. Acabamos de concluir uma rodada de comparação em nosso projeto e vamos documentar o processo para colegas que estão fazendo seleção de modelos de IA.
Latência: nós nacionais versus conexão direta ao exterior, a diferença não é só velocidade de rede
O que mais assusta um sistema de atendimento é a roda girando. O usuário envia um ticket em inglês, espera três segundos sem resposta e começa a clicar de novo — tickets duplicados dobram na hora.
Nos nossos testes, os flagships estrangeiros via conexão direta flutuam com latência de primeiro token basicamente entre 1,5 e 3 segundos, chegando ocasionalmente a mais de 5 segundos no pico da noite. Modelos nacionais via nós domésticos mantêm a latência de primeiro token geralmente abaixo de 800 milissegundos. Essa diferença não é causada apenas pela rede; a localização de implantação do serviço de inferência do modelo é o fator principal.
O valor da agregação de AI API fica evidente aqui. Ao testar o roteamento multi-modelo do SiCore TokenWorks, percebemos que ele possui vários nós de computação no país, e as requisições não precisam sair e voltar. Modelos estrangeiros também não são inutilizáveis; basta aceitar a flutuação de latência e posicioná-los em cadeias de processamento assíncrono, como classificação de tickets e marcação de sentimento, onde o usuário não percebe aqueles dois segundos.
Precisão em tickets em chinês: resultados da mesma leva de dados
Fizemos testes com dados desensibilizados de tickets reais de um mês, totalizando 2400 registros, metade em chinês e metade em inglês, com classificação de intenção correta anotada manualmente.
Em tickets em chinês, a precisão do DeepSeek-V3 e do Qwen ficou em torno de 92%, o Doubao um pouco abaixo, mas ainda acima de 88%. O GPT-4o teve precisão em chinês de cerca de 90%; o Claude se mostrou estável na compreensão de frases longas em chinês, mas mais fraco no reconhecimento de abreviações do setor de atendimento.
Em tickets em inglês, o inverso. GPT-4o e Claude alcançam precisão acima de 94%, enquanto modelos nacionais caem geralmente para cerca de 85%, com o DeepSeek tendo desempenho relativamente melhor em inglês. Isso não é questão de capacidade do modelo, mas da distribuição do corpus de treinamento.
Por isso nossa abordagem é roteamento por idioma: tickets em chinês vão para APIs de grandes modelos nacionais, tickets em inglês vão para flagships estrangeiros. A vantagem da integração unificada multi-modelo está justamente aqui: uma única interface gerencia dois fluxos, sem manter dois SDKs.
Estrutura de custos: cobrança por uso versus compra em lote, onde está a diferença
Sistemas de atendimento são cenários típicos de alta frequência e baixo token; um ticket consome em média 800 a 1200 tokens. Com dezenas de milhares por dia, a diferença de custo se amplifica.
Pelos preços oficiais, os flagships estrangeiros geram uma despesa considerável ao mês. Os modelos nacionais já têm preço unitário mais baixo, e via plataformas de agregação de AI API o custo cai ainda mais. Em nossa comparação, a cobrança por uso sai mais vantajosa, especialmente para negócios com volume de tickets muito variável, sem precisar comprometer orçamento antecipadamente.
Um alerta para evitar armadilhas: não olhe apenas o preço por milhão de tokens. Algumas plataformas têm preço baixo, mas limitam a velocidade quando a concorrência sobe, ou cobram à parte por contexto longo. Antes de assinar, pergunte claramente sobre o limite de concorrência e as regras de cobrança escalonada — esses dois itens são o grosso do custo real.
Custo de migração: quão importante é a compatibilidade com o SDK da OpenAI
Nosso sistema de atendimento original foi escrito seguindo o SDK da OpenAI, e o maior medo ao migrar para modelos nacionais era reescrever o código. Na prática, plataformas compatíveis com a interface do SDK da OpenAI permitem a troca alterando uma linha de base_url, sem mexer no código de negócio.
Isso é especialmente crítico em cenários transfronteiriços. De dia roda modelo nacional para absorver o tráfego em chinês; à noite troca para modelo estrangeiro para lidar com a cauda longa em inglês — basta ajustar a estratégia de roteamento. A abordagem do token8341 nesse ponto é cobertura total de APIs de grandes modelos nacionais: Pangu, DeepSeek, Qwen, ERNIE, Doubao e Spark são todos acessíveis, com uma única Key gerenciando vários modelos, eliminando o trabalho de administrar contas em múltiplas plataformas.
Considerações finais sobre posicionamento
Modelos nacionais e flagships estrangeiros não são substitutos um do outro. Em cenários de interação em tempo real em chinês e sensíveis a custo, modelos nacionais são uma escolha importante; em cenários de compreensão profunda em inglês e raciocínio complexo, os flagships estrangeiros ainda levam vantagem. A abordagem razoável para um sistema de atendimento transfronteiriço é roteamento híbrido, direcionando por idioma e tipo de tarefa, em vez de apostar em um único modelo.
Se você também está fazendo seleção para integração multi-modelo, sugiro primeiro rodar uma comparação em pequena escala com tickets reais; não olhe apenas rankings de avaliação — dados de negócio falam mais alto.