अगर आपने कभी केवल एक LLM प्रदाता का उपयोग किया है, तो उस प्रदाता के मूल्य पृष्ठ पर सूचीबद्ध मूल्य शायद कीमत जैसा लगता है। ऐसा नहीं है। यह खुदरा मूल्य है, और अधिकांश खुदरा कीमतों की तरह इसमें बहुत अधिक मार्जिन और संरचना छिपी होती है। एग्रीगेटर ठीक उसी संरचना पर हमला करके पैसा कमाते हैं।
सीधे सूची मूल्य अधिक क्यों होते हैं
सीधे मूल्य निर्धारण में ऐसी लागतें होती हैं जो मॉडल चलाने से संबंधित नहीं हैं। जब आप सीधे किसी विक्रेता से खरीदते हैं तो आप इनके लिए भी भुगतान कर रहे होते हैं:
•न्यूनतम प्रतिबद्धताएं। कुछ प्रदाता अपनी सर्वोत्तम दर देने से पहले प्रीपेड बैलेंस या प्रतिबद्ध खर्च चाहते हैं। छोटी टीमें शायद ही उन स्तरों तक पहुंचती हैं।
•एक प्रदाता, एक अनुबंध। प्रत्येक विक्रेता का अपना साइनअप, अपना बिलिंग, अपनी मुद्रा होती है। तीन प्रदाताओं को चलाने का मतलब है तीन चालान और तीन भुगतान विधियां।
•आपके अपने बिल में कोई प्रतिस्पर्धा नहीं। जब आप एक विक्रेता से बंधे होते हैं, तो उस विक्रेता के पास छूट देने का कोई कारण नहीं होता। आप उनकी दर चुकाते हैं या चले जाते हैं।
•रेट लिमिट जो उनकी सुरक्षा के लिए तय हैं, आपकी सुविधा के लिए नहीं।
एग्रीगेटर इसलिए मौजूद हैं क्योंकि वे बड़ी मात्रा में अपस्ट्रीम क्षमता खरीद सकते हैं और छूट का कुछ हिस्सा नीचे भेज सकते हैं। वे आपको प्रदाताओं के बीच खर्च स्थानांतरित करने की भी सुविधा देते हैं, जो असली लाभ है: अगर अगले महीने मॉडल A सस्ता हो जाता है, तो आप विक्रेता बदले बिना अपना ट्रैफिक स्विच कर सकते हैं।
गणित, गोल संख्याओं के साथ
मैं जानबूझकर सरल उदाहरण संख्याएं उपयोग करता हूं ताकि इसका स्वरूप स्पष्ट हो। वास्तविक कीमतें लगातार बदलती रहती हैं, लेकिन अंकगणित वही रहता है।
मान लें कि एक प्रदाता एक मॉडल को $2.50 प्रति मिलियन इनपुट टोकन और $10.00 प्रति मिलियन आउटपुट टोकन पर सूचीबद्ध करता है। एक सामान्य कार्यभार, मान लें एक सपोर्ट-टिकट सारांशक जो प्रति माह 10 मिलियन इनपुट टोकन और 4 मिलियन आउटपुट टोकन करता है, की लागत होगी:
Direct: (10M x $2.50) + (4M x $10.00) = $25 + $40 = $65.00 / monthएक एग्रीगेटर जिसने वॉल्यूम मूल्य निर्धारण पर बातचीत की है, वही मॉडल सूची मूल्य के लगभग एक चौथाई पर दे सकता है, $0.60 प्रति मिलियन इन और $2.40 प्रति मिलियन आउट:
Aggregated: (10M x $0.60) + (4M x $2.40) = $6.00 + $9.60 = $15.60 / monthयह एक मामूली कार्यभार पर प्रति माह लगभग $49 की बचत है, ~76% की कमी, इससे पहले कि आप कुछ और छुएं। टोकन गणना को एक क्रम बढ़ाएं और पूर्ण बचत भी उसी अनुपात में बढ़ेगी।
मुख्य बात ये विशिष्ट संख्याएं नहीं हैं। बात यह है कि "सूची मूल्य" और "वॉल्यूम मूल्य" के बीच का अंतर वास्तविक है, और एग्रीगेटर का काम उस अंतर में बैठकर उसका कुछ हिस्सा आपको वापस देना है।
बारीक छपाई में छिपी अन्य लागतें
प्रति-टोकन मूल्य सुर्खियों में है, लेकिन यह पूरा बिल नहीं है। तीन चीजें लोगों को उलझाती हैं:
कैश-हिट मूल्य निर्धारण। कुछ मॉडल प्रॉम्प्ट कैश में आने वाले टोकन पर छूट देते हैं। अगर एक प्रदाता कैश्ड इनपुट पर पूरा मूल्य लेता है और दूसरा उसका 10% लेता है, तो दोहराव वाले प्रॉम्प्ट वाले कार्यभार की लागत समान सूची मूल्य पर भी बहुत भिन्न हो सकती है। प्रतिबद्ध होने से पहले पूछें।
मुद्रा और भुगतान घर्षण। ऐसे विक्रेता से खरीदना जिसका बिलिंग आपके कार्ड को पसंद न आने वाली मुद्रा या क्षेत्र में है, रूपांतरण शुल्क और विफल-चार्ज की परेशानियां जोड़ता है। आपकी अपनी मुद्रा में एक ही एग्रीगेटर बिल इसे हटा देता है।
छिपी लागत के रूप में रेट लिमिट। एक सस्ता मॉडल जिसे आप प्रति मिनट केवल 10 बार कॉल कर सकते हैं, सस्ता नहीं है; भरपाई के लिए आपको रिट्राई और क्यूइंग लॉजिक बनाना होगा, और वह इंजीनियरिंग समय है। थ्रूपुट सीमाएं मूल्य तुलना में शामिल होनी चाहिए, भले ही वे मूल्य पृष्ठ पर न हों।
एक त्वरित लागत अनुमानक
संख्याएं पता होने के बाद निर्माण से पहले खर्च का अनुमान लगाना सीधा है। इसी भावना में एक छोटी Python स्क्रिप्ट यहां है:
def monthly_cost(input_tokens, output_tokens, in_price, out_price):
# prices are per million tokens
return (input_tokens / 1e6) * in_price + (output_tokens / 1e6) * out_price
# Direct list price
direct = monthly_cost(10_000_000, 4_000_000, 2.50, 10.00)
# Aggregator price (example values)
aggregated = monthly_cost(10_000_000, 4_000_000, 0.60, 2.40)
print(f"Direct: ${direct:.2f}")
print(f"Aggregated: ${aggregated:.2f}")
print(f"Saved: ${direct - aggregated:.2f}")अपनी वास्तविक टोकन गणना को अपनी वास्तविक कीमतों के साथ इसमें चलाएं। केवल वही संख्या मायने रखती है।
जहां एग्रीगेटर आपके पैसे नहीं बचाते
मुझे सीमाओं के बारे में स्पष्ट होना चाहिए। एग्रीगेटर एक पुनर्विक्रेता है। कुछ मॉडल पुनर्विक्रेताओं के माध्यम से बिल्कुल उपलब्ध नहीं हैं, और कुछ विशिष्ट मॉडलों के लिए एग्रीगेटर का मार्कअप सीधे जाने से बदतर हो सकता है। बचत उन लोकप्रिय सामान्य-उद्देश्य वाले मॉडलों पर सबसे अधिक होती है जहां वॉल्यूम छूट मौजूद है। किसी विदेशी मॉडल के लिए जिसे आप शायद ही कॉल करते हैं, अंतर नगण्य है।
साथ ही, सस्ती कीमत बेकार है अगर एग्रीगेटर की विश्वसनीयता खराब है। 30% की बचत जो आपको एक अस्थिर एंडपॉइंट देती है, रिट्राई, सपोर्ट टिकट और आपके अपने समय को जोड़ने पर 30% से अधिक महंगी पड़ती है। कीमत और विश्वसनीयता एक ही निर्णय हैं, दो नहीं।
SiCore TokenWorks इस मॉडल का एक सीधा संस्करण है: OpenAI-संगत, पे-एज़-यू-गो, DeepSeek, Qwen, ERNIE, Doubao, Spark, और Pangu के लोकप्रिय मॉडलों की सूची GPT-4o, Claude, और Gemini के साथ, आधिकारिक प्रति-टोकन दरों से काफी नीचे सूचीबद्ध।