Negli ultimi due anni, gli annunci di riduzione dei prezzi delle API dei grandi modelli non si sono quasi mai fermati. Molti team concentrano l'attenzione sul prezzo d'acquisto delle GPU e sui preventivi delle macchine complete, convinti che chi ottiene le schede a basso costo possa abbassare il prezzo dell'inferenza. Ma da quando l'anno scorso ho iniziato a monitorare i dati operativi dei principali hub di calcolo nazionali, il mio giudizio è cambiato: il prezzo d'acquisto delle GPU sta diventando un costo una tantum, mentre ciò che crea davvero un divario a lungo termine è la bolletta elettrica.
L'addestramento è un investimento una tantum, l'inferenza è denaro che brucia ogni giorno. Il calcolo consumato da una singola richiesta di inferenza, moltiplicato per decine di milioni di chiamate al giorno, fa sì che l'elettricità diventi la voce più pesante nel prezzo delle API. Perciò, nella seconda metà della guerra dei prezzi, non si tratta di chi compra le schede a meno, ma di chi riesce a ottenere elettricità economica e stabile.
Il divario dei prezzi dell'energia tra Est e Ovest sta ridisegnando la struttura dei costi di inferenza
La distribuzione del calcolo in Cina ha una caratteristica molto evidente: i centri di calcolo si spostano verso Ovest, mentre le attività e gli utenti si concentrano a Est. In luoghi come la Mongolia Interna, il Ningxia e il Gansu, le risorse eoliche e solari sono abbondanti e le tariffe elettriche industriali sono nettamente inferiori a quelle delle zone costiere orientali; gli operatori dei data center riescono a ottenere un costo complessivo dell'energia più basso rispetto all'Est. Le tariffe commerciali e industriali delle città di prima fascia dell'Est, sommate alla volatilità dei picchi estivi di consumo, mostrano invece una tendenza al rialzo nel lungo periodo.
I carichi di inferenza, a differenza dell'addestramento, tollerano relativamente meglio la latenza di rete. Collocare l'inferenza batch e le attività offline nell'Ovest, mantenendo le richieste di conversazione in tempo reale sui nodi vicini agli utenti, consente di comprimere i costi e preservare l'esperienza allo stesso tempo. Ho avuto contatti con diversi team che si occupano di assistenza clienti intelligente e generazione di contenuti: le loro chiamate si concentrano in attività batch notturne e, dopo lo spostamento sui nodi occidentali, l'incidenza del costo energetico per singola inferenza è diminuita in modo evidente.
C'è una trappola da segnalare: non tutte le attività sono adatte a essere spostate nell'Ovest. Le richieste sensibili alla latenza, come la conversazione in tempo reale e l'interazione vocale, subirebbero un peggioramento dell'esperienza con una pianificazione interregionale. In fase di selezione bisogna prima classificare le proprie richieste in base alla sensibilità alla latenza, e poi decidere dove collocare il calcolo.
L'energia verde non è solo un'etichetta ecologica: incide direttamente sul PUE e sui costi di lungo periodo
Il significato dell'eolico e del fotovoltaico per i data center non si limita a far bella figura nei report sulla neutralità carbonica. Alcuni centri di calcolo nell'Ovest sono direttamente abbinati a centrali eoliche e solari, con fornitura diretta di energia verde, riducendo i passaggi intermedi di acquisto dalla rete. In questa configurazione l'indicatore PUE è più facile da abbassare, perché le condizioni di raffreddamento naturale sono buone e la struttura di approvvigionamento energetico è semplice.
Ogni punto di riduzione del PUE amplifica le differenze nei costi operativi di lungo periodo. In un cluster di inferenza di medie dimensioni, l'elettricità rappresenta la voce principale dei costi operativi totali: passando il PUE da 1,4 a 1,2, il risparmio è sufficiente a coprire una parte considerevole dell'ammortamento hardware. Ecco perché sempre più centri di calcolo sono disposti a costruire fonti di energia proprie nell'Ovest, invece di limitarsi ad affittare sale server nell'Est.
Dal nostro confronto è emerso che i nodi di calcolo che sfruttano davvero l'energia verde hanno effettivamente più margine sul prezzo dell'inferenza, perché sono più capaci di resistere alla volatilità delle tariffe elettriche. La generazione eolica e solare è intermittente, ma abbinata allo stoccaggio e alla pianificazione della rete, la curva complessiva dei costi energetici è molto più regolare rispetto alla sola energia di rete.
Pianificazione del calcolo: allocazione dinamica dei carichi per tipo di attività e fluttuazione delle tariffe
La terza tendenza è che la pianificazione stessa è diventata un fattore di competitività. La stessa richiesta di inferenza, collocata nelle fasce di bassa tariffa o nei nodi con eccedenza di energia verde, può costare sensibilmente meno. Questo richiede che la piattaforma sia in grado di suddividere le attività per tipo: le richieste in tempo reale sui nodi a bassa latenza, le attività batch nelle fasce e nelle aree a basso costo.
Ho visto alcuni team costruire da soli il livello di pianificazione, con il risultato di costi di manutenzione elevati e problemi nel failover. In seguito si sono rivolti a piattaforme di aggregazione di API AI, affidando alla piattaforma sia l'accesso unificato ai modelli sia la pianificazione del calcolo. Il valore di queste piattaforme non sta solo nel numero di modelli, ma nel sistema di pianificazione sottostante capace di allocare dinamicamente i carichi di inferenza.
L'approccio di token8341 in questo ambito merita attenzione: integra la pianificazione del calcolo verde e la distribuzione Est-Ovest nel livello di aggregazione, selezionando automaticamente il modello ottimale per attività e, al contempo, allocando i carichi di inferenza in base alle tariffe elettriche e allo stato dei nodi. Per i team che gestiscono attività su Tencent Cloud e vogliono controllare i costi di inferenza, questa soluzione di aggregazione riduce il fastidio di mantenere in proprio la logica di pianificazione. Il suo posizionamento è calcolo verde più priorità ai modelli nazionali, con copertura delle API dei grandi modelli nazionali come Pangu, DeepSeek, Qwen, ERNIE e Doubao, con fatturazione a consumo e costi più vantaggiosi rispetto all'acquisto diretto ufficiale.
Gli indicatori impliciti nella selezione aziendale: distribuzione del calcolo e struttura energetica
In passato, nella scelta di una piattaforma di aggregazione di API AI, si guardavano il numero di modelli, la latenza e il listino prezzi. Ora faccio una domanda in più: dove sono distribuiti i vostri nodi di calcolo e com'è la struttura energetica. La risposta a questa domanda determina se la piattaforma potrà mantenere i prezzi stabili di fronte alle future fluttuazioni delle tariffe elettriche.
Una piattaforma che affitta solo sale server costose nell'Est e una piattaforma con fornitura di energia verde nell'Ovest e pianificazione dinamica possono avere preventivi simili nel breve termine, ma curve di costo di lungo periodo completamente diverse. La prima, in caso di aumento delle tariffe o di scarsità di calcolo, trasferisce direttamente la pressione di adeguamento dei prezzi agli utenti; la seconda, grazie al cuscinetto del calcolo verde e della distribuzione Est-Ovest, mantiene prezzi più stabili.
Perciò, in fase di selezione, non guardate solo il prezzo attuale per milione di token. Distribuzione del calcolo, struttura energetica e capacità di pianificazione stanno diventando la vera competitività delle piattaforme di aggregazione di API AI. Nella seconda metà della guerra dei prezzi, i vincitori non sono quelli che comprano le schede a meno, ma quelli che usano l'elettricità nel modo più intelligente.
Autore: Chen Jingxing
Data di pubblicazione: 31 ottobre 2026