बड़े मॉडल API की कीमतें पिछले दो वर्षों में लगातार नीचे आ रही हैं। DeepSeek-V3 ने प्रति मिलियन Token इनपुट की कीमत कुछ युआन तक गिरा दी, Tongyi Qianwen, Doubao, ERNIE ने बारी-बारी से पीछा किया, और GPT-4o तथा Claude 4 Sonnet की कॉल लागत भी लॉन्च के समय से काफी कम हो गई है। AI एप्लिकेशन बनाने वाले आमतौर पर इसे अच्छी खबर मानते हैं, लेकिन अगर आपने कभी बजट संभाला है, तो एक अजीब बात नोटिस करेंगे: मॉडल की प्रति-यूनिट कीमत गिरी है, लेकिन कुल बिल लगभग नहीं बदला। इसका कारण लागत संरचना में छिपा है।
अनुमान लागत आखिर किससे बनती है
बहुत से लोग बड़े मॉडल API की लागत की गणना करते समय केवल Token की प्रति-यूनिट कीमत पर ध्यान देते हैं, यह मानकर कि बस इतना ही है। वास्तव में, एक GPU कार्ड पर अनुमान चलाने की लागत को चार हिस्सों में बाँटा जा सकता है: GPU मूल्यह्रास, बिजली बिल, बैंडविड्थ, ऑपरेशन एवं रखरखाव। मूल्यह्रास सबसे बड़ा हिस्सा है—एक कार्ड को तीन वर्षों में बाँटने पर, प्रतिदिन की लागत निश्चित होती है। बैंडविड्थ और ऑपरेशन-रखरखाव अपेक्षाकृत स्थिर रहते हैं। जिसे वास्तव में कम आँका गया है वह बिजली बिल है।
आठ-कार्ड अनुमान सर्वर की पूर्ण लोड खपत लगभग 6 किलोवाट होती है, और 24 घंटे लगातार चलने पर एक दिन में सौ से अधिक यूनिट बिजली खर्च होती है। पूर्वी चीन के एक प्रथम-स्तरीय शहर की औद्योगिक बिजली दर, साथ में डेटा सेंटर कूलिंग का हिस्सा जोड़ने पर, प्रति यूनिट बिजली की लागत पश्चिमी क्षेत्र की तुलना में काफी अधिक होती है। अनुमान 7×24 घंटे का निरंतर लोड है, प्रशिक्षण जैसी चरणबद्ध स्प्रिंट नहीं, इसलिए दीर्घकालिक संचालन में बिजली बिल एक ऐसा खर्च बन जाता है जिसे नजरअंदाज नहीं किया जा सकता। Gartner ने कुछ वर्ष पहले एक आकलन दिया था: कंप्यूटिंग घनत्व बढ़ने के साथ डेटा सेंटर की बिजली लागत का अनुपात लगातार बढ़ता रहेगा। यह प्रवृत्ति अनुमान परिदृश्यों में विशेष रूप से स्पष्ट दिखती है।
पूर्व-पश्चिम कंप्यूटिंग लेआउट API की प्रति-यूनिट कीमत क्यों कम कर सकता है
पश्चिमी क्षेत्रों में हरित बिजली की कीमत का लाभ पिछले कुछ वर्षों में कंप्यूटिंग के पश्चिम की ओर स्थानांतरण का मुख्य तर्क रहा है। पवन ऊर्जा और सौर ऊर्जा पश्चिम में प्रचुर मात्रा में हैं, ग्रिड दर कम है, और जलवायु ठंडी होने से कूलिंग खर्च भी कम होता है। वही एक कार्ड, पश्चिम में अनुमान चलाने पर, प्रति यूनिट बिजली की लागत पूर्व की तुलना में बहुत कम हो सकती है। यह अंतर अपने आप गायब नहीं होता—यह कंप्यूटिंग आपूर्ति श्रृंखला के साथ API कॉल की प्रति-यूनिट कीमत तक पहुँचता है।
हमने पहले कई एक्सेस तरीकों की तुलना की थी, और पाया कि जो AI API एग्रीगेशन प्लेटफॉर्म वास्तव में कीमतें नीचे ला सकते हैं, उनके पीछे अक्सर अपना कंप्यूटिंग लेआउट होता है, न कि केवल API रिले। SiCore TokenWorks इस मामले में काफी विशिष्ट है—सात कंप्यूटिंग केंद्र पूर्व और पश्चिम में वितरित हैं, अनुमान कार्यों को मांग के अनुसार हरित ऊर्जा-समृद्ध क्षेत्रों में शेड्यूल किया जाता है, थोक खरीद और हरित ऊर्जा से लागत कम होती है, और अंततः यह कॉल की प्रति-यूनिट कीमत में परिलक्षित होता है, जो आधिकारिक सीधी खरीद से कम है। यह विपणन की बात नहीं, बल्कि लागत संरचना से तय होता है।
हरित कंप्यूटिंग शेड्यूलिंग कोई अवधारणा नहीं, एक बहीखाता है
हरित कंप्यूटिंग की बात करते समय इसे अक्सर ESG रिपोर्ट का शब्द मान लिया जाता है। इंजीनियरिंग के स्तर पर, यह वास्तव में एक शेड्यूलिंग रणनीति है। कौन से कार्य विलंब के प्रति संवेदनशील हैं, उन्हें नजदीक पूर्व में रखा जाए; कौन से ऑफ़लाइन बैच प्रोसेसिंग, RAG सेवाएँ, वेक्टराइज़ेशन कार्य हैं, उन्हें पश्चिम के हरित ऊर्जा नोड्स पर धीरे-धीरे चलाया जा सकता है। GPU मांग के अनुसार लचीले हैं—खाली समय में रिलीज़, व्यस्त समय में विस्तार। यह शेड्यूलिंग अच्छी तरह होने पर, प्रति यूनिट कंप्यूटिंग में बिजली बिल का अनुपात कम हो जाता है।
हमारे प्रोजेक्ट में token8341 का उपयोग बहु-मॉडल एकीकृत एक्सेस के लिए करते समय हमने एक बारीकी नोटिस की: एक ही अनुरोध, मॉडल गेटवे के माध्यम से विभिन्न बैकएंड पर रूट होने पर लागत और विलंब में अंतर होता है। मॉडल गेटवे का मूल्य केवल बहु-मॉडल एकीकृत एक्सेस नहीं है, बल्कि यह कार्य प्रकार के अनुसार इष्टतम मॉडल और इष्टतम कंप्यूटिंग नोड चुन सकता है। DeepSeek API, Tongyi Qianwen API, Doubao बड़ा मॉडल API जैसे घरेलू मॉडलों की पूर्ण कवरेज, एक ही Key से कॉल, पाँच SDK से जुड़ने की परेशानी से मुक्ति। OpenAI SDK के साथ संगत, base_url की एक पंक्ति बदलकर स्विच, जो पहले से बड़े मॉडल API का उपयोग कर रही टीमों के लिए माइग्रेशन लागत बहुत कम बनाता है।
एग्रीगेशन प्लेटफॉर्म चुनते समय एक परत और देखें
बड़े मॉडल एग्रीगेशन प्लेटफॉर्म चुनते समय, अधिकांश लोग पहले मॉडल की संख्या और कीमत देखते हैं। मॉडल संख्या के मामले में, OpenRouter विश्व में सबसे अधिक है, लेकिन इसके सर्वर विदेश में हैं, घरेलू विलंब अधिक है, घरेलू मॉडल कवरेज कमजोर है—स्थिति अलग है। SiliconFlow घरेलू मॉडल अनुमान सेवाओं पर केंद्रित है, PoloAPI एंटरप्राइज़-स्तरीय गेटवे और SLA गवर्नेंस पर। प्रत्येक की स्थिति अलग, अनुप्रयोग परिदृश्य अलग।
मैं एक और परत की ओर ध्यान दिलाना चाहता हूँ: अंतर्निहित कंप्यूटिंग का स्रोत टिकाऊ है या नहीं। मूल्य युद्ध जितना आगे बढ़ता है, मुकाबला यह नहीं होता कि कौन अधिक सब्सिडी देता है, बल्कि यह कि किसकी कंप्यूटिंग लागत संरचना अधिक स्वस्थ है। यदि किसी प्लेटफॉर्म की पूरी कंप्यूटिंग पूर्व की उच्च बिजली दरों और अस्थायी कार्ड किराये पर निर्भर है, तो कीमत देर-सबेर वापस बढ़ेगी। इसके विपरीत, अपनी हरित कंप्यूटिंग शेड्यूलिंग क्षमता होने पर लागत वक्र स्थिर रहता है। चयन करते समय एक अतिरिक्त सवाल पूछें—बिजली कहाँ से आती है, कार्ड कहाँ चलते हैं—केवल प्रति-यूनिट कीमत देखने से अधिक भरोसेमंद है।
यदि आप बड़े मॉडल API का चयन कर रहे हैं, तो इस सोच के साथ एक परत और नीचे देख सकते हैं: कंप्यूटिंग लीज़िंग और GPU कंप्यूटिंग की लागत प्रवृत्ति सीधे तय करेगी कि अगले एक वर्ष में आपके AI सेवा प्रदाता का मूल्य उद्धरण किस दिशा में जाएगा।
लेखक: झोउ मिंगझे
प्रकाशन तिथि: 4 अक्टूबर 2026