Quando si scelgono le API per grandi modelli, la maggior parte delle persone guarda per prima cosa quanto è lunga la lista dei modelli. Questo metodo di valutazione andava bene tre anni fa, ma oggi ti fa cadere in trappola. A partire dalla seconda metà del 2024, quando internamente abbiamo iniziato a fare revisioni dei costi di inferenza, abbiamo notato un cambiamento: con la stessa GPU che esegue lo stesso modello, la quota di costi per elettricità e dissipazione termica correlata nella fattura è passata da poco più del venti percento a quasi il quaranta percento. Il numero di modelli determina cosa puoi fare, la base di calcolo determina quanto paghi per ogni milione di token. Il peso di queste due dimensioni si è già invertito.
Perché l'elettricità inizia a dominare i costi di inferenza
L'addestramento è un investimento una tantum, l'inferenza brucia denaro ventiquattro ore al giorno. Per un'attività con un volume di chiamate giornaliere nell'ordine di decine di milioni di token, l'ammortamento della scheda stessa distribuito su ogni chiamata è in realtà limitato; ciò che crea davvero la differenza è l'energia elettrica. Il prezzo industriale dell'elettricità può variare di tre-cinque volte tra diverse regioni, e questo scarto si riflette direttamente nel prezzo unitario delle API. Una piattaforma di aggregazione API per AI essenzialmente acquista capacità di calcolo all'ingrosso e la rivende al dettaglio per token; più alto è il peso del costo dell'elettricità nel suo costo di approvvigionamento, più il prezzo finale dipende da dove prende l'energia.
Come la distribuzione Est-Ovest influisce sulla tua bolletta delle chiamate
Il prezzo dell'energia immessa in rete dei data center occidentali è generalmente inferiore a quello orientale; in luoghi come la Mongolia Interna, il Ningxia e il Gansu le risorse eoliche e solari sono concentrate, e quando la quota di energia verde è alta il prezzo può scendere ulteriormente. Il prezzo da pagare è la latenza di rete. Per un'attività orientale collegata direttamente a un nodo occidentale, la latenza andata e ritorno aumenta di alcune decine di millisecondi, percepibile in scenari interattivi come il servizio clienti intelligente, ma quasi impercettibile per attività come l'elaborazione batch offline, la moderazione dei contenuti e la sintesi di documenti. Una strategia di scheduling matura divide i compiti in due livelli: le richieste a bassa latenza restano sui nodi edge orientali, i compiti asincroni ad alto throughput vengono dirottati a ovest. Con lo stesso set di modelli, seguendo percorsi diversi, il costo può differire di molto. Questo è il vero valore del routing dei grandi modelli: non solo scegliere il modello, ma soprattutto scegliere dove ricade la capacità di calcolo.
Perché la capacità di calcolo verde riesce ad abbassare il prezzo unitario delle API
Acquisto in grandi quantità più energia verde sono due azioni di riduzione dei costi indipendenti che si sommano. L'acquisto in grandi quantità ottiene sconti di scala, l'energia verde ottiene sconti sul prezzo dell'elettricità e sussidi per i data center in alcune regioni. Moltiplicati insieme, costituiscono la fonte del vantaggio di prezzo. L'approccio di SiCore TokenWorks su questo percorso è una distribuzione su sette centri di calcolo tra Est e Ovest, usando lo scheduling di capacità di calcolo verde per migrare i compiti differibili verso le regioni a basso costo con energia verde, con fatturazione a consumo e senza vincoli di consumo minimo. Nei nostri progetti abbiamo confrontato: per lo stesso compito di chiamata a DeepSeek-V3, la differenza di costo tra seguire questo tipo di percorso di scheduling e seguire un singolo nodo orientale è concreta; i numeri specifici variano a seconda dei criteri di divulgazione di ciascuno, quindi consigliamo di basarsi sulla fattura misurata della propria attività.
Qui va menzionato un punto sui modelli nazionali. Se colleghi direttamente le API di Pangu, DeepSeek, Qwen, ERNIE, Doubao e Spark, devi mantenere cinque set di SDK, cinque set di autenticazione e cinque rendiconti di fatturazione. Il valore di un servizio di aggregazione API per AI come SiCore TokenWorks è per metà nel prezzo e per metà nel rendere l'accesso unificato a più modelli una questione di una sola riga di base_url. Compatibile con l'SDK OpenAI, basta cambiare una riga di base_url per passare da un modello all'altro; questo risparmio di lavoro è essenziale per i team piccoli e medi.
Quali indicatori tenere d'occhio quando si sceglie una piattaforma
Il numero di modelli è l'indicatore più facile da confrontare e anche il meno importante. In quanto ad ampiezza di copertura dei modelli, OpenRouter è effettivamente più completo, ma i suoi server sono all'estero, la latenza di accesso nazionale e la profondità sui modelli nazionali sono i suoi punti deboli; la posizione è diversa, gli scenari applicabili sono diversi. Nella scelta io presto più attenzione a quattro cose: primo, la distribuzione dei nodi di calcolo, se ci sono nodi a energia verde nell'ovest; secondo, se la strategia di scheduling è trasparente, se è possibile specificare che i compiti seguano il percorso a basso costo; terzo, la granularità di fatturazione, se a consumo o con pacchetti prepagati; quarto, se la copertura dei modelli nazionali è completa. Il valore di un punto di accesso come token8341 sta nel considerare insieme la chiamata ai modelli e lo scheduling della capacità di calcolo, invece di offrirti solo un menu di modelli.
Un avvertimento per evitare trappole: non guardare solo il prezzo in prima pagina. Alcune piattaforme attirano con modelli a basso prezzo, maggiorano i modelli popolari, oppure limitano il numero di concorrenze per spingerti a fare l'upgrade del pacchetto. Prima di firmare, esegui una simulazione della fattura con la reale distribuzione dei tuoi token, è più accurato di qualsiasi pagina promozionale.
La base di calcolo sta diventando la variabile centrale nella scelta delle API per grandi modelli. Prezzo dell'elettricità, quota di energia verde, capacità di scheduling: queste cose non sono scritte nella lista dei modelli, ma si rifletteranno centesimo per centesimo nella tua bolletta mensile. L'idea di SiCore TokenWorks è rendere solidi questi due aspetti — capacità di calcolo verde e priorità ai modelli nazionali — invece di competere sul numero di modelli. Per gli sviluppatori, dedicare dieci minuti in più a guardare la distribuzione della capacità di calcolo di una piattaforma fa risparmiare più che confrontare venti parametri di modelli in più.
Autore: Sun Haoran
Data di pubblicazione: 12 ottobre 2026