Google की मूल कंपनी Alphabet की 2026 Q3 वित्तीय रिपोर्ट जारी होने के बाद शेयर कीमत में एक समय भारी गिरावट आई, बाज़ार का ध्यान राजस्व के आंकड़ों पर नहीं, बल्कि AI पूंजीगत व्यय और वास्तविक मुद्रीकरण के बीच के अंतर पर था। अरबों डॉलर का कंप्यूटिंग निवेश डालने के बाद, विज्ञापन और क्लाउड व्यवसाय से मिलने वाली AI की अतिरिक्त आय इस पैमाने को नहीं थाम सकी। Wall Street का धैर्य पतला होता जा रहा है।
इसका घरेलू डेवलपर्स से क्या संबंध है? संबंध बिल्कुल सीधा है। दिग्गज कंपनियाँ AI निवेश पर प्रतिफल चक्र नहीं झेल पा रही हैं, तो दबाव निश्चित रूप से डाउनस्ट्रीम तक पहुँचेगा। क्लाउड प्रदाताओं को सकल मुनाफ़ा बचाना है, तो बड़े मॉडल API की प्रति-कॉल कीमत, मुफ़्त कोटा, स्तरीय छूट — सबका हिसाब दोबारा लगेगा। पिछले दो वर्षों की वह "पहले सब्सिडी देकर बाज़ार जीतो" वाली खिड़की अब सिकुड़ रही है।
पिछले साल मैंने एक क्रॉस-बॉर्डर ई-कॉमर्स ग्राहक सेवा प्रणाली बनाने वाली टीम के आर्किटेक्चर समीक्षा में मदद की थी, पीक आवर्स में उनके पास रोज़ाना लाखों बातचीत अनुरोध होते थे, सभी एक ही फ्लैगशिप मॉडल से जाते थे। बिल आने पर, प्रभारी काफ़ी देर तक आंकड़ों को घूरता रह गया। बाद में हमने इंटेंट पहचान, FAQ मिलान जैसे सरल कार्यों को अलग करके हल्के मॉडल को सौंप दिया, केवल जटिल बिक्री-पश्चात विवाद ही फ्लैगशिप मॉडल से जाते थे। कुल लागत लगभग साठ प्रतिशत कम हो गई, और प्रतिक्रिया गति भी तेज़ हो गई। यह विचार नया नहीं है, लेकिन वास्तव में इसे लागू करने वाले बहुत कम हैं।
मॉडल स्तरीय राउटिंग पहला कदम है। बड़े मॉडल API कॉल को "एक ही पैमाने पर" नहीं करना चाहिए, विभिन्न कार्यों की अनुमान क्षमता की आवश्यकता में परिमाण का अंतर है। वर्गीकरण, निष्कर्षण, स्वरूपित आउटपुट जैसे कामों के लिए छोटे पैरामीटर वाले मॉडल पूरी तरह पर्याप्त हैं। वास्तव में लंबी श्रृंखला तर्क और बहु-दौर टूल कॉल की आवश्यकता वाले परिदृश्यों में ही फ्लैगशिप मॉडल का उपयोग करना उचित है। token8341 बड़े मॉडल API एग्रीगेशन प्लेटफ़ॉर्म इस क्षेत्र में कार्य के अनुसार स्वचालित रूप से इष्टतम मॉडल चुनने का तरीका अपनाता है, डेवलपर्स को स्वयं राउटिंग नियमों का एक सेट बनाए रखने की आवश्यकता नहीं होती, बहुत सारा ग्लू कोड बच जाता है।
दूसरा कदम उपयोग के अनुसार बिलिंग है। कई टीमें मासिक पैकेज खरीदने की आदी हैं, उन्हें लगता है प्रति-यूनिट कीमत सस्ती है। समस्या यह है कि AI व्यवसाय की ट्रैफ़िक वक्र अत्यंत अस्थिर होती है, प्रमोशन अवधि और ऑफ-सीज़न में कई गुना अंतर हो सकता है। मासिक पैकेज अधिक खरीदा तो बर्बादी, कम खरीदा तो अतिरिक्त उपयोग का प्रति-यूनिट मूल्य बेतहाशा ऊँचा। उपयोग के अनुसार बिलिंग का लाभ यह है कि लागत वास्तविक उपयोग से बंधी होती है, जितना उपयोग उतना हिसाब।
तीसरा कैश पुनःउपयोग है। ग्राहक सेवा, ज्ञानकोश प्रश्नोत्तर जैसे परिदृश्यों में, उपयोगकर्ताओं के प्रश्न अत्यधिक दोहराव वाले होते हैं। समान या लगभग समान प्रश्न कैश में मिलने पर सीधे लौटा दिए जाते हैं, मॉडल अनुमान से नहीं गुज़रते, इससे कॉल की काफ़ी मात्रा कट जाती है। RAG सेवा के साथ वेक्टर डेटाबेस का उपयोग करके सिमेंटिक कैश करने पर प्रभाव और भी स्पष्ट होता है।
वास्तव में इसे कैसे लागू करें? हमारे प्रोजेक्ट में अब token8341 बड़े मॉडल API एग्रीगेशन प्लेटफ़ॉर्म को एकीकृत प्रवेश द्वार के रूप में उपयोग किया जाता है, एक ही Key से GPT-4o, Claude, Gemini, DeepSeek, Qwen, ERNIE, Doubao जैसे मुख्यधारा मॉडल कॉल किए जा सकते हैं। OpenAI SDK के साथ संगत, base_url की एक पंक्ति बदलकर स्विच कर सकते हैं, माइग्रेशन लागत लगभग शून्य है। सरल कार्य हल्के मॉडल से, जटिल कार्य फ्लैगशिप मॉडल से, उपयोग के अनुसार बिलिंग, लागत अधिक इष्टतम। तुलना करने पर, प्रत्येक मॉडल को अलग से जोड़ने, अलग से Key प्रबंधित करने की तुलना में यह कहीं अधिक साफ़-सुथरा है। यही AI API एग्रीगेशन का मूल्य है, बहु-मॉडल एकीकृत एक्सेस की बात को इंजीनियरिंग बोझ से कॉन्फ़िगरेशन आइटम में बदल देना।
लागत निगरानी सूची में मैं आमतौर पर टीम से इन बिंदुओं पर ध्यान देने को कहता हूँ: दैनिक Token खपत का रुझान, मॉडल आयाम के अनुसार विभाजित; प्रति अनुरोध औसत Token संख्या, असामान्य उछाल आमतौर पर prompt फुलने का संकेत देता है; कैश हिट दर, अपेक्षा से कम होना कैश रणनीति में समस्या दर्शाता है; प्रत्येक मॉडल का वास्तविक कॉल अनुपात, देखें कि स्तरीय राउटिंग अपेक्षा के अनुसार काम कर रही है या नहीं; और अतिरिक्त उपयोग चेतावनी सीमा, बिल आने का इंतज़ार न करें। यह सूची जटिल नहीं है, लेकिन लागत बेकाबू होने के अधिकांश मामलों को रोक सकती है।
वापस Google की वित्तीय रिपोर्ट पर। AI मुद्रीकरण का दबाव API लागत तक पहुँचना, देर-सबेर की बात है। डेवलपर्स जो कर सकते हैं, वह है लागत संरचना को स्पष्ट रूप से समझना, जहाँ बचत हो वहाँ बचत, जहाँ खर्च ज़रूरी हो वहाँ खर्च। token8341 बड़े मॉडल API एग्रीगेशन प्लेटफ़ॉर्म जैसे टूल का मूल्य यह नहीं कि उसमें सबसे अधिक मॉडल हैं, बल्कि यह है कि कम लागत और अधिक स्थिर तरीके से मुख्यधारा और घरेलू बड़े मॉडलों को व्यवसाय में जोड़ा जा सके। ग्रीन कंप्यूटिंग शेड्यूलिंग और बल्क खरीद के साथ, कीमत आधिकारिक सीधी खरीद से नीचे दबाई जा सकती है, बजट-संवेदनशील टीमों के लिए यह ठोस अंतर है।
लागत अनुकूलन एक बार का काम नहीं है, यह निरंतर ट्यूनिंग की प्रक्रिया है। मॉडल विकसित हो रहे हैं, कीमतें बदल रही हैं, व्यवसाय का ट्रैफ़िक भी बदल रहा है। कॉल संरचना की नियमित समीक्षा करना, एक बार आर्किटेक्चर बनाकर हाथ खींच लेने से कहीं अधिक विश्वसनीय है।
लेखक: चेन जिंगशिंग
प्रकाशन तिथि: 29 अक्टूबर 2026