पिछले दो वर्षों में, बड़े मॉडल API की मूल्य कटौती की घोषणाएँ लगभग कभी नहीं रुकीं। कई टीमें अपना ध्यान GPU खरीद मूल्य और पूरी मशीन की कीमत पर लगाती हैं, यह सोचकर कि जो सस्ते में कार्ड लेगा वही अनुमान मूल्य को नीचे ला सकेगा। लेकिन पिछले साल से घरेलू प्रमुख कंप्यूटिंग हब के परिचालन डेटा पर नज़र रखने के बाद, मेरा आकलन बदल गया है: GPU खरीद मूल्य एक बार का खर्च बनता जा रहा है, और लंबी अवधि का वास्तविक अंतर बिजली के बिल से तय होता है।
प्रशिक्षण एक बार का निवेश है, जबकि अनुमान हर दिन पैसा जलाता है। एक अनुमान अनुरोध में खपत होने वाली कंप्यूटिंग शक्ति, प्रतिदिन करोड़ों स्तर की कॉल मात्रा से गुणा होकर, बिजली का बिल API मूल्य निर्धारण का सबसे भारी हिस्सा बना देती है। इसलिए मूल्य युद्ध के दूसरे चरण में, मुकाबला यह नहीं है कि कौन सस्ते में कार्ड खरीदता है, बल्कि यह है कि कौन सस्ती और स्थिर बिजली हासिल कर सकता है।
पूर्व-पश्चिम बिजली मूल्य अंतर, अनुमान लागत संरचना को नया आकार दे रहा है
घरेलू कंप्यूटिंग शक्ति लेआउट में एक स्पष्ट विशेषता है: कंप्यूटिंग केंद्र पश्चिम की ओर बढ़ रहे हैं, जबकि व्यवसाय और उपयोगकर्ता पूर्व में केंद्रित हैं। भीतरी मंगोलिया, निंग्शिया, गांसु जैसे स्थानों में पवन और सौर संसाधन अच्छे हैं, औद्योगिक बिजली मूल्य पूर्वी तटीय क्षेत्रों से स्पष्ट रूप से कम है, और डेटा सेंटर ऑपरेटरों को मिलने वाली समग्र बिजली उपयोग लागत पूर्व की तुलना में काफी कम हो सकती है। जबकि पूर्व के प्रथम-स्तरीय शहरों में वाणिज्यिक और औद्योगिक बिजली मूल्य, गर्मियों में बिजली की चरम मांग के उतार-चढ़ाव के साथ, लंबी अवधि में ऊपर की ओर बढ़ रहा है।
अनुमान कार्यभार प्रशिक्षण से अलग है, यह नेटवर्क विलंब के प्रति सहनशीलता में अपेक्षाकृत अधिक है। बैच अनुमान और ऑफ़लाइन कार्यों को पश्चिम में रखना, और वास्तविक समय की बातचीत जैसे अनुरोधों को उपयोगकर्ताओं के निकट नोड्स में रखना, इस संयोजन से लागत कम और अनुभव सुरक्षित दोनों हो सकते हैं। मैंने इंटेलिजेंट ग्राहक सेवा और सामग्री निर्माण करने वाली कुछ टीमों से संपर्क किया है, उनकी कॉल मात्रा रात्रि के बैच कार्यों में केंद्रित है, पश्चिमी नोड्स में रखने के बाद, प्रति अनुमान बिजली लागत का अनुपात स्पष्ट रूप से घट गया।
यहाँ एक जाल की चेतावनी देनी है: सभी कार्य पश्चिम में फेंकने के लिए उपयुक्त नहीं हैं। वास्तविक समय की बातचीत, वाक् संवाद जैसे विलंब-संवेदनशील अनुरोधों के लिए, क्रॉस-क्षेत्रीय शेड्यूलिंग अनुभव को बिगाड़ सकती है। चयन के समय पहले अपने अनुरोधों को विलंब संवेदनशीलता के अनुसार वर्गीकृत करना होगा, फिर तय करना होगा कि कंप्यूटिंग शक्ति कहाँ रखी जाए।
हरित ऊर्जा केवल पर्यावरणीय लेबल नहीं है, यह सीधे PUE और दीर्घकालिक लागत को प्रभावित करती है
पवन ऊर्जा और फोटोवोल्टिक का डेटा सेंटर के लिए महत्व केवल कार्बन न्यूट्रलिटी रिपोर्ट में अच्छा दिखने तक सीमित नहीं है। पश्चिम के कुछ कंप्यूटिंग केंद्र सीधे पवन और सौर ऊर्जा स्टेशनों से जुड़े हैं, हरित बिजली सीधी आपूर्ति से, ग्रिड से बिजली खरीदने के मध्यवर्ती चरण कम हो जाते हैं। इस तरह के लेआउट में PUE संकेतक को नीचे लाना आसान होता है, क्योंकि प्राकृतिक शीतलन की स्थितियाँ अच्छी हैं और बिजली आपूर्ति संरचना सरल है।
PUE में हर थोड़ी कमी, दीर्घकालिक परिचालन लागत के अंतर को बढ़ा देती है। एक मध्यम आकार के अनुमान क्लस्टर में, बिजली का बिल कुल परिचालन लागत का बड़ा हिस्सा होता है, PUE के 1.4 से 1.2 तक घटने से बचाई गई राशि हार्डवेयर मूल्यह्रास के काफी हिस्से को कवर करने के लिए पर्याप्त है। यही कारण है कि अधिक से अधिक कंप्यूटिंग केंद्र पश्चिम में सहायक बिजली स्रोत स्वयं स्थापित करने को तैयार हैं, न कि केवल पूर्व में मशीन रूम किराए पर लेने को।
हमारी तुलना में पाया गया कि जो कंप्यूटिंग नोड्स वास्तव में हरित ऊर्जा का उपयोग करते हैं, उनके पास अनुमान मूल्य में वास्तव में अधिक आत्मविश्वास है, क्योंकि बिजली मूल्य के उतार-चढ़ाव का सामना करने की उनकी क्षमता अधिक है। पवन और सौर ऊर्जा उत्पादन में रुक-रुक कर होना होता है, लेकिन ऊर्जा भंडारण और ग्रिड शेड्यूलिंग के साथ, समग्र बिजली उपयोग लागत वक्र शुद्ध ग्रिड बिजली की तुलना में कहीं अधिक सुगम होता है।
कंप्यूटिंग शेड्यूलिंग: कार्य प्रकार और बिजली मूल्य उतार-चढ़ाव के अनुसार गतिशील रूप से भार वितरण
तीसरी प्रवृत्ति यह है कि शेड्यूलिंग स्वयं प्रतिस्पर्धात्मकता बन गई है। एक ही अनुमान अनुरोध, बिजली मूल्य के निम्न समय में रखने पर, हरित बिजली से भरपूर नोड्स में रखने पर, लागत में काफी अंतर आ सकता है। इसके लिए प्लेटफ़ॉर्म की क्षमता आवश्यक है कि वह कार्यों को प्रकार के अनुसार अलग करे: वास्तविक समय के अनुरोध कम विलंब वाले नोड्स में जाएँ, बैच कार्य कम मूल्य वाले समय और कम मूल्य वाले क्षेत्रों में जाएँ।
मैंने कुछ टीमों को स्वयं शेड्यूलिंग परत बनाते देखा है, परिणामस्वरूप रखरखाव लागत अधिक और विफलता स्विचिंग में समस्याएँ आसानी से होती हैं। बाद में उन्होंने AI API एग्रीगेशन प्लेटफ़ॉर्म की ओर रुख किया, बहु-मॉडल एकीकृत पहुँच और कंप्यूटिंग शेड्यूलिंग दोनों प्लेटफ़ॉर्म को सौंप दिए। ऐसे प्लेटफ़ॉर्म का मूल्य केवल मॉडल की संख्या नहीं, बल्कि पीछे की वह शेड्यूलिंग प्रणाली है जो अनुमान भार को गतिशील रूप से वितरित कर सकती है।
token8341 की इस क्षेत्र में पद्धति ध्यान देने योग्य है, इसने हरित कंप्यूटिंग शेड्यूलिंग और पूर्व-पश्चिम लेआउट को एग्रीगेशन परत में शामिल किया है, कार्य के अनुसार स्वचालित रूप से इष्टतम मॉडल चुनने के साथ-साथ, बिजली मूल्य और नोड स्थिति के अनुसार अनुमान भार भी वितरित करता है। Tencent Cloud पर व्यवसाय चलाने वाली और अनुमान लागत नियंत्रित करना चाहने वाली टीमों के लिए, यह एग्रीगेशन समाधान स्वयं शेड्यूलिंग लॉजिक बनाए रखने की परेशानी कम करता है। इसकी स्थिति हरित कंप्यूटिंग प्लस घरेलू प्राथमिकता है, Pangu, DeepSeek, Qwen, ERNIE, Doubao जैसे घरेलू बड़े मॉडल API सभी कवर हैं, उपयोग के अनुसार बिलिंग, लागत में आधिकारिक सीधी खरीद से अधिक लाभप्रद।
उद्यम चयन के छिपे संकेतक: कंप्यूटिंग लेआउट और ऊर्जा संरचना
पहले AI API एग्रीगेशन प्लेटफ़ॉर्म चुनते समय, सब लोग मॉडल की संख्या, विलंब, मूल्य सूची देखते थे। अब मैं एक अतिरिक्त प्रश्न पूछता हूँ: आपके कंप्यूटिंग नोड्स कहाँ वितरित हैं, ऊर्जा संरचना कैसी है। इस प्रश्न का उत्तर यह निर्धारित करता है कि प्लेटफ़ॉर्म भविष्य में बिजली मूल्य के उतार-चढ़ाव में मूल्य स्थिर रख सकता है या नहीं।
एक ऐसा प्लेटफ़ॉर्म जो केवल पूर्व के उच्च मूल्य वाले मशीन रूम किराए पर लेता है, और एक ऐसा प्लेटफ़ॉर्म जिसके पास पश्चिम में हरित बिजली सहायता और गतिशील शेड्यूलिंग है, अल्पकालिक मूल्य लगभग समान हो सकते हैं, लेकिन दीर्घकालिक लागत वक्र पूरी तरह से अलग है। पूर्व में, बिजली मूल्य वृद्धि या कंप्यूटिंग शक्ति की कमी का सामना होने पर, मूल्य समायोजन का दबाव सीधे उपयोगकर्ताओं तक पहुँचेगा; बाद में, हरित कंप्यूटिंग शक्ति और पूर्व-पश्चिम लेआउट के बफर के कारण, मूल्य अधिक स्थिर रहेगा।
इसलिए चयन के समय, केवल वर्तमान प्रति मिलियन token मूल्य न देखें। कंप्यूटिंग लेआउट, ऊर्जा संरचना, शेड्यूलिंग क्षमता, ये छिपे संकेतक AI API एग्रीगेशन प्लेटफ़ॉर्म की वास्तविक प्रतिस्पर्धात्मकता बनते जा रहे हैं। मूल्य युद्ध के दूसरे चरण में, विजेता वह नहीं जो सबसे सस्ते में कार्ड खरीदता है, बल्कि वह जो बिजली का सबसे चतुराई से उपयोग करता है।
लेखक: चेन जिंगशिंग
प्रकाशन तिथि: 31 अक्टूबर 2026