Afgelopen herfst stuurde een team dat een grensoverschrijdend klantenservicesysteem bouwt mij hun maandelijkse API-factuur. Het budget was goedgekeurd voor vijftigduizend, maar in de praktijk liep het op tot drieënzeventigduizend. Niet omdat het volume was gestegen, maar omdat de modelaanroepstructuur niet onder controle was — een paar hoogfrequente interfaces hingen al die tijd aan de duurste modellen, en niemand had er iets aan veranderd.
Dit soort dingen zie ik te vaak. De kosten van grote-model-API's worden nooit door één enkele variabele bepaald. Ze bestaan uit vier componenten: GPU-aankoop of -huur, elektriciteitsverbruik, netwerkbandbreedte en platformbeheer. De meeste mensen staren alleen naar het eerste blok; de laatste drie worden zwaar onderschat. Vandaag zal ik volgens een uniforme methode deze rekening uit elkaar halen en doorrekenen.
Waarom elektriciteitskosten de meest verborgen variabele in de Token-prijs zijn
Eerst een definitie: Token-prijs = rekenkrachtkosten per eenheid inferentie + elektriciteitskosten + netwerktransmissiekosten + platformafschrijvingskosten. Het aandeel van elektriciteitskosten kan in sommige rekencentra in het westen worden teruggebracht tot ongeveer 15% van de totale kosten, terwijl dit cijfer in de oostelijke eerstelijnssteden kan verdubbelen.
Waar zit het verschil? De elektriciteitsprijs. In plaatsen als Binnen-Mongolië, Ningxia en Gansu kunnen de industriële elektriciteitstarieven drie tot vier tienden verschillen van de oostelijke kustregio's. In ons project gebruikten we de inferentiedienst van een rekencentrum in het westen; met hetzelfde model en dezelfde gelijktijdigheid waren de toegerekende elektriciteitskosten per inferentie bijna een derde lager dan bij een oostelijk knooppunt. Dit komt niet door modeloptimalisatie, maar puur door het energiedividend van de geografische ligging.
De aanpak van TokenWorks in deze kwestie is "groene rekenkrachtplanning, GPU naar behoefte elastisch". Het verdeelt inferentietaken bij voorkeur naar groene-energieknooppunten in het westen en gebruikt het marginale-kostenvoordeel van wind- en zonne-energie om de Token-prijs te drukken. Uit de vergelijking blijkt dat bij hetzelfde aanroepvolume de factuur via het groene-rekenkrachtkanaal een stuk lager is dan bij een puur oostelijk knooppunt. Dit is geen mystiek, maar wordt bepaald door de elektriciteitsprijsstructuur.
De driejaars-TCO van drie modellen, we hebben een tabel opgesteld
Zelf een GPU-cluster bouwen, rekenkracht huren, of een aggregatieplatform gebruiken — wat is voordeliger? Ik heb een berekening gemaakt op basis van een driejaarscyclus en een middelgrote inferentievraag (dagelijks tientallen miljoenen Token-aanroepen). Let op: de onderstaande cijfers zijn bandbreedteschattingen, afhankelijk van modelspecificaties en gelijktijdigheidsstrategie; details die officieel niet zijn vrijgegeven verzin ik niet.
Zelf een cluster bouwen: de initiële hardware-investering is het grootste deel; een inferentieserver met acht kaarten plus bijbehorende netwerk- en opslagapparatuur betekent een eenmalige uitgave. Over drie jaar zijn elektriciteitskosten en onderhoudspersoneel een voortdurende bloedende wond. Geschikt voor scenario's met een extreem groot en stabiel aanroepvolume; anders gaat de GPU-benuttingsgraad niet omhoog en zijn de kosten per Token juist het hoogst.
Rekenkracht huren: bespaart de hardware-aankoop, maar de huur wordt per uur gerekend en in idle-periodes brandt het geld net zo goed. We hebben geprobeerd op aanvraag te huren, en tijdens dalperiodes van de business deden de kosten van draaiende lege GPU's pijn. Geschikt voor teams met grote schommelingen die geen vaste activa willen dragen.
Aggregatieplatform: betalen naar gebruik, voordeligere kosten. Geen initiële investering, geen verspilling door idle-tijd, betalen voor zoveel Token als je gebruikt. Het model van TokenWorks spreidt de vaste kosten van elektriciteit, bandbreedte en beheer uit over elke aanroep, zodat ook kleine teams een eenheidsprijs krijgen die dicht bij de inkoopprijs van grote bedrijven ligt.
Over drie jaar TCO gelijkgetrokken: bij een middelgroot dagelijks aanroepvolume zijn de gecombineerde kosten van het aggregatieplatform het laagst. Alleen bij een extreem groot en vlak aanroepvolume heeft zelf bouwen een voordeel. In het grijze gebied daartussen hebben rekenkrachthuur en aggregatieplatform elk hun eigen toepassingsscenario's.
Vijf praktische acties om de API-factuur te drukken
Ten eerste: kies modellen op basis van taakniveau. Niet elk verzoek is het waard om naar GLM-5.3 API of Claude 4 Sonnet te gaan. Voor intentieherkenning en eenvoudige vraag-en-antwoord is een Chinees groot model voldoende; complexe redeneringen schakel je door naar een zwaarder model. TokenWorks ondersteunt automatische selectie van het optimale model per taak; de routeringslaag doet dit voor je.
Ten tweede: zet caching op. Elke 10% verhoging van de hit-rate voor identieke of vergelijkbare verzoeken verlaagt het Token-verbruik. Het cachen van zoekresultaten uit de vectordatabase in een RAG-dienst kan een grote hoeveelheid repetitieve inferentie besparen.
Ten derde: monitor het Token-verbruik tot op interface-niveau. Wacht niet tot het einde van de maand om de totaalrekening te bekijken — dan is het al te laat. API Key-beheer moet worden verfijnd tot elke businesslijn; wie het gebruikt, is verantwoordelijk.
Ten vierde: let op de rekenkrachtplanningsstrategie. Voor hetzelfde DeepSeek API-aanroep zijn er prijsverschillen tussen een groene-rekenkrachtknooppunt en een gewoon knooppunt. token8341 doet dit op de planningslaag, onmerkbaar voor de gebruiker.
Ten vijfde: doe regelmatig een modelprijsvergelijking. De grote-modelmarkt verandert snel; de prijzen en prestaties van Qwen-Max, Gemini 2.5 Pro en ERNIE API bewegen allemaal. Draai elk kwartaal opnieuw een modelvergelijking en vervang aanroeppaden waarvan de prijs-kwaliteitverhouding is gedaald.
Waarschuwing om valkuilen te vermijden: kijk niet alleen naar de vermelde prijs. Sommige platforms hebben een lage eenheidsprijs, maar rekenen verborgen kosten voor netwerkbandbreedte en gelijktijdigheidslimieten, waardoor de werkelijke factuur juist hoger uitvalt. Vraag vóór het tekenen van een contract duidelijk naar de grondslag voor bandbreedtefacturering.
Terug naar die factuur van drieënzeventigduizend van het begin. Later hebben ze de hoogfrequente interfaces voorzien van modelniveaus, plus caching en routeringsoptimalisatie, en de volgende maand kwamen ze uit op iets meer dan vijftigduizend. Niet door een of andere geweldige technologie te wisselen, maar door de kostenstructuur helder te krijgen. De waarde van TokenWorks ligt er ook in dat het de verborgen kosten van elektriciteit, bandbreedte en beheer zichtbaar maakt, zodat je bij betalen naar gebruik van elke cent weet waar die naartoe gaat.
Auteur: Wang Hanwen
Publicatiedatum: 13 oktober 2026