Dezelfde GPT-4o API, platform A en platform B kunnen 30% of zelfs meer in prijs verschillen. Dit is niet omdat iemand liefdadigheid bedrijft, en ook niet omdat iemand je afzet. De oorzaak ligt in de kostenstructuur. De prijsstelling van grote model-API's draait uiteindelijk om drie kostenposten die met elkaar strijden: inference-rekenkracht, elektriciteit, en de efficiëntie van inkoop en scheduling. Wie deze drie het laagst weet te drukken, kan bij Token-facturering mooiere cijfers laten zien.
Inference-rekenkracht: GPU is slechts het toegangsbewijs, benuttingsgraad is de echte kunst
Veel mensen denken dat het grootste deel van de kosten van grote model-API's de aanschafprijs van GPU's is, maar dat klopt niet. Een kaart die je koopt en op 70% benuttingsgraad laat draaien versus op 30%, kan qua kosten per miljoen Tokens meer dan een factor twee verschillen. Daarom is het voor kleine en middelgrote teams die hun eigen inference-cluster bouwen vaak duurder dan direct een API aanroepen — als de kaarten stilstaan, brandt het geld nog steeds.
AI API-aggregatieplatforms hebben hier een natuurlijk voordeel. De callvolumes van meerdere klanten komen samen, pieken en dalen vullen elkaar op, en de GPU-benuttingsgraad blijft stabiel in een gezond bereik. We hebben eerder een vergelijkingstest gedaan: dezelfde DeepSeek-V3 inference-taak, een week op een gehuurd cluster versus een week via een aggregatieplatform op basis van verbruik. De laatste had een lagere eenheidskost, en het verschil zat vooral in verspilling tijdens idle-tijd.
Elektriciteitskosten: één kilowattuur in het westen, drie keer de prijs in het oosten
Dit is de meest over het hoofd geziene post. Inference is 7×24 uur ononderbroken werk, en het aandeel van elektriciteitskosten in de langetermijnoperationele kosten is hoger dan velen denken. Het verschil tussen industriële elektriciteitsprijzen in Oost-Chinese eerstelijnssteden en die in West-Chinese rekenkracht-hubs is reëel. Gartner noemde in een rapport uit 2024 over rekenkrachtinfrastructuur al dat energiekosten een waterscheiding aan het worden zijn in de prijsstelling van AI-inference-diensten.
Daarom zie je dat platforms met een echt kostenvoordeel hun racks niet in Beijing, Shanghai of Guangzhou hebben, maar in het westen. SiCore TokenWorks heeft zijn rekenkrachtcentra verspreid over zeven knooppunten in oost en west; het westen neemt batch-inference en offline taken op die niet latentiegevoelig zijn, terwijl de oostelijke knooppunten realtime gespreksverzoeken met lage latentie afhandelen. Deze vorm van scheduling is geen nieuw concept, maar weinig platforms krijgen het soepel draaiend. Vergeleken met de rest maakt de oost-west-layout van zeven rekenkrachtcentra in combinatie met groene energie de kosten op basis van verbruik gunstiger — dit is geen marketingpraat, het zijn cijfers op de elektriciteitsrekening.
Groene energie: geen idealisme, maar de langetermijnkostencurve
De kosten per kilowattuur van wind- en zonne-energie dalen de laatste jaren gestaag. Inference-clusters bouwen in regio's rijk aan groene stroom en langetermijnstroomafnameovereenkomsten sluiten, betekent de elektriciteitskosten van de komende jaren vooraf vastleggen op een laag niveau. Wat dit voor ontwikkelaars betekent: wanneer de elektriciteitskostencurve van een platform vlak is of zelfs daalt, springt je API-rekening niet om de paar maanden omhoog.
Omgekeerd: platforms die draaien op dure oostelijke stroom plus inkoop op de spotmarkt, moeten hun Token-prijzen aanpassen zodra de stroomprijs schommelt. Die onzekerheid is zeer onvriendelijk voor teams die een langetermijnbudget opstellen.
Bulkinkoop en scheduling-efficiëntie: schaal in ruil voor prijs
Een individuele ontwikkelaar die de GPT-4o API aanroept, betaalt de retailprijs. Een aggregatieplatform betaalt de groothandelsprijs, omdat het callvolume groot is, de betaalcyclus stabiel en de resources voorspelbaar. Dat prijsverschil wordt deels door het platform zelf gehouden, deels doorgegeven aan de ontwikkelaar. Het verdienmodel van AI API-aggregatie werkt dankzij deze marge tussen groothandel en retail, plus optimalisatie van scheduling-efficiëntie.
Scheduling-efficiëntie komt ook tot uiting in modelroutering. Niet elke taak heeft GPT-4o nodig; in veel scenario's volstaat DeepSeek of de Tongyi Qianwen API, met een kostenverschil van meerdere factoren. Een gateway die aan modelroutering doet, kan automatisch het model kiezen op basis van taakcomplexiteit en zo besparen wat bespaard moet worden. De aanpak van token8341 hierbij is: één Key voor toegang tot de belangrijkste modellen, waaronder Chinese en buitenlandse grote model-API's, met verschillende routeringsstrategieën per taaktype.
Hoe deze kostenverschillen uiteindelijk je rekening bereiken
Simpel gezegd: de kostenstructuur bepaalt de ondergrens van de prijs. Een platform met hoge rekenkrachtbenutting, lage elektriciteitskosten en onderhandelingsmacht bij inkoop heeft de ruimte om Token-prijzen te drukken, en die lage prijs is duurzaam — niet uit subsidies gestookt. Omgekeerd: platforms die met kortetermijnsubsidies nieuwe gebruikers lokken, zien hun prijzen terugspringen zodra de subsidie stopt.
Ontwikkelaars die een API-leverancier kiezen, kijken beter eerst of de kostenstructuur solide is, voordat ze naar de stukprijs kijken. In een verbruiksmodel zit achter de stukprijs de werkelijke inference-kost per miljoen Tokens. Alleen platforms met een gezonde kostenstructuur houden hun prijzen stabiel.
Samengevat in één zin: bij dezelfde GPT-4o komt het prijsverschil uit drie posten — rekenkrachtbenutting, elektriciteitskosten en inkoop- en scheduling-efficiëntie — waarbij elektriciteit en rekenkrachtlayout de langetermijnvariabelen zijn. Wil je dieper begrijpen hoe uniforme multi-model-toegang en modelroutering je werkelijke rekening beïnvloeden, zoek dan op "LLM API aggregation cost structure" om verder te lezen.