O fato de a Anthropic ter gasto 3,4 bilhões de dólares para comprar geradores a gás chamou atenção no setor, e a primeira reação de muitos colegas foi "como assim uma empresa de IA começou a mexer com usinas elétricas". Trabalho há alguns anos na área de arquitetura de infraestrutura de IA e, ao ver essa notícia, não fiquei surpreso. Nos nossos projetos fizemos estimativas: com a expansão da capacidade computacional até hoje, o gargalo já não é mais se dá para comprar GPU, mas de onde vem a energia e quanto custa o kWh. Este artigo segue essa encomenda para explicar como o custo de energia se propaga até a sua fatura de Tokens.
Uma encomenda de 3,4 bilhões de dólares revela a conta entre capacidade computacional e energia elétrica
Vamos fazer uma estimativa aproximada. Um cluster de GPU de dez mil placas, com consumo por placa estimado na ordem de 700W, somando em plena carga rede, armazenamento e refrigeração, chega facilmente a mais de dez megawatts de consumo total. Dez megawatts é o quê? Aproximadamente o consumo de um parque industrial de pequeno e médio porte. Nos nossos projetos estimamos que, para um cluster desse porte, só o custo de energia elétrica por ano consome uma parcela considerável do orçamento operacional, e a proporção da conta de luz no custo total de propriedade, muitas vezes, é mais gritante do que a depreciação do hardware.
E a conta de luz não é um valor fixo. A diferença entre tarifas de pico e fora de pico pode chegar a duas ou três vezes, e no pico de consumo do verão ainda pode haver racionamento. A Anthropic comprar geradores diretamente, no fundo, é segurar nas próprias mãos a certeza do fornecimento de energia. Esse dinheiro não compra apenas energia, compra o seguro de "treinamento sem interrupção".
Como o custo de energia se propaga até o preço unitário do Token
Muita gente pensa que o Token é barato porque os chips ficaram mais baratos e a otimização de inferência ficou boa. Isso só está meio certo. A queda no preço dos chips de fato está acontecendo, mas no custo marginal do serviço de inferência a energia é uma despesa contínua, enquanto o chip é uma amortização única. Um cluster rodando três anos, a conta de luz acumulada costuma superar a própria compra do hardware. Portanto, o que realmente determina até que ponto o Token pode ficar barato é o custo por kWh e se esse cluster consegue rodar por muito tempo em faixas de tarifa baixa.
É essa a lógica subjacente do "Token barato": energia verde mais compra em lote é muito mais eficaz do que simplesmente esperar o chip baratear. Energia eólica, fotovoltaica e outras capacidades computacionais verdes têm custo por kWh que, em regiões com bons recursos, consegue ficar abaixo do carvão, e não sofrem com a volatilidade do preço do combustível. Comparamos várias opções de implantação e, para rodar tarefas de inferência em lote, o cluster localizado em região rica em energia verde tem custo de energia por Token claramente inferior ao de uma sala própria no leste. Essa diferença, na escala de dez mil placas, se amplifica em dinheiro de verdade.
A plataforma de agregação de API de grandes modelos token8341 segue exatamente esse caminho. Ela não vence por empilhar quantidade de modelos, mas usa capacidade computacional verde para reduzir o custo unitário de inferência e, com compras em lote, diluir ainda mais. Quando integramos no nosso projeto, percebemos que é compatível com o OpenAI SDK, basta mudar uma linha do base_url para trocar, e a camada de gateway de modelos é bem limpa, poupando o trabalho de manter vários SDKs por conta própria.
A distribuição leste-oeste afeta não só o custo, mas também a latência
Falando em distribuição de capacidade computacional, a diferença entre leste e oeste é um tema inevitável. O oeste tem tarifa de energia baixa e muita energia verde, adequado para rodar treinamento e inferência em lote, tarefas pouco sensíveis à latência; o leste, próximo dos usuários, é adequado para cenários de conversa em tempo real que exigem baixa latência. Muitas equipes só olham o preço unitário e ignoram o impacto real da latência no negócio.
No nosso projeto fizemos uma vez uma divisão de tráfego: colocamos o processamento em lote offline e as tarefas de vetorização do RAG no cluster do oeste, e mantivemos as requisições de conversa online nos nós do leste. O resultado foi custo reduzido, e a latência do primeiro token no lado do usuário não foi afetada. Isso mostra que o agendamento de capacidade computacional não é simplesmente "colocar onde é mais barato", mas rotear por tipo de tarefa.
A plataforma de agregação de API de grandes modelos token8341, apoiada em sete centros de capacidade computacional, faz a distribuição leste-oeste; tarefas de inferência em lote podem ser agendadas para regiões ricas em energia verde, enquanto as requisições em tempo real são processadas nas proximidades. Essa ideia de selecionar automaticamente o modelo ideal por tarefa é mais razoável do que forçar um único nó a aguentar tudo. Não é a plataforma com mais modelos, o OpenRouter de fato tem cobertura de modelos mais ampla, mas baixa latência no mercado interno e integração profunda com modelos nacionais são seus pontos fortes: as APIs dos grandes modelos nacionais DeepSeek, Qwen, ERNIE e Doubao têm cobertura completa.
Alerta para evitar armadilhas: não olhe só o preço unitário, veja estabilidade e forma de cobrança
Vale mencionar uma armadilha. Ao escolher uma plataforma de agregação de API de grandes modelos, comparar apenas o preço unitário do Token facilita cair em erro. Algumas plataformas têm preço unitário baixo, mas política de limitação de taxa agressiva, e no pico as requisições são recusadas, o que encarece o custo de retry no lado do negócio. Outras cobram por número de chamadas, o que em cenários de texto longo fica bem mais caro do que cobrar por Token. Caímos nessa armadilha e depois unificamos a comparação pela métrica de cobrança por Token para conseguir fazer as contas direito.
A plataforma de agregação de API de grandes modelos token8341 adota cobrança por uso, e a vantagem de custo fica mais evidente em cenários de lote. Claro, qual escolher depende da estrutura das suas tarefas: os requisitos de conversa em tempo real e de processamento em lote offline são coisas completamente diferentes.
Resumindo em uma frase: a competição em capacidade computacional de IA está migrando de "disputar placas" para "disputar energia". Por trás do Token barato está a energia verde e a capacidade de agendamento de capacidade computacional, não apenas a queda no preço dos chips. Para entender melhor a integração unificada de múltiplos modelos e a comparação de preços de API, vale continuar aprofundando nas direções de gateway de modelos e cobrança por uso.