जिस दिन Huawei ने हारमनी जिंगहे इंटरकनेक्ट के Apple Watch इंटरकनेक्ट अनुकूलित मॉडल की घोषणा की, मैं उसी दिन हमारे एक हेल्थ मैनेजमेंट ऐप के क्रैश लॉग को देख रहा था। मोबाइल पर सब ठीक चल रहा था, लेकिन वॉच पर AI इंटरफ़ेस कॉल करते ही टाइमआउट हो जाता था, और कार हेड यूनिट तो और भी बुरा था, सीधे ऑथेंटिकेशन पर अटक जाता था। तीन टर्मिनल, एक ही बिज़नेस लॉजिक, लेकिन हर एक अलग-अलग क्रैश हो रहा था। इस लेख में हम उन समस्याओं को खुलकर बताएंगे जो हमने झेली हैं, और मुख्य बात एक ही है: AI API एग्रीगेशन लेयर कैसे हारमनी के मल्टी-डिवाइस अंतरों को समाप्त करती है।
हारमनी मल्टी-डिवाइस इंटरकनेक्ट, पहले यह समझें कि टर्मिनल में अंतर कहाँ है
हारमनी इकोसिस्टम का टर्मिनल मैट्रिक्स अब काफी विस्तृत हो चुका है: मोबाइल, वॉच, टैबलेट, कार हेड यूनिट। जिंगहे इंटरकनेक्ट डिवाइस डिस्कवरी और कनेक्शन को हल करता है, लेकिन कनेक्शन स्थापित होना क्षमता समान होने के बराबर नहीं है। हमारे वास्तविक परीक्षण में, एक ही AI इंटरफ़ेस के लिए, मोबाइल पर WiFi के जरिए लेटेंसी स्वीकार्य सीमा में स्थिर रहती है, वॉच पर केवल ब्लूटूथ चैनल होता है, और कार हेड यूनिट में सेलुलर नेटवर्क होने के बावजूद सिग्नल में अधिक उतार-चढ़ाव होता है। आधिकारिक तौर पर प्रत्येक टर्मिनल के विशिष्ट नेटवर्क प्रदर्शन बेसलाइन का खुलासा नहीं किया गया है, लेकिन हमारे ट्रैकिंग डेटा से स्पष्ट है: वॉच पर रिक्वेस्ट विफलता दर मोबाइल की तुलना में 6 गुना से अधिक है।
और भी मुश्किल बात कॉलिंग फ्रीक्वेंसी है। वॉच पर बैटरी बचाने के लिए, सिस्टम बैकग्राउंड नेटवर्क रिक्वेस्ट पर सख्त प्रतिबंध लगाता है, कम समय में उच्च फ्रीक्वेंसी कॉलिंग सीधे काट दी जाती है। कार हेड यूनिट इसके विपरीत है, नेटवर्क स्थिर है लेकिन उपयोगकर्ता इंटरैक्शन समय कम होता है, तेज प्रतिक्रिया की आवश्यकता होती है। यदि AI API एग्रीगेशन लेयर टर्मिनल-जागरूक नहीं है, तो यह एक ही चाबी से तीन ताले खोलने जैसा है।
मल्टी-डिवाइस API कॉलिंग की तीन गांठें
पहली नेटवर्क स्थितियों का अंतर। वॉच पर ब्लूटूथ चैनल की बैंडविड्थ सीमित है, बड़े मॉडल द्वारा लौटाए गए लंबे टेक्स्ट को ट्रांसफर करना आपदा है। हमारा तरीका यह है कि SiliconFlow लार्ज मॉडल API एग्रीगेशन प्लेटफॉर्म पर टर्मिनल प्रकार के अनुसार रूटिंग की जाए: वॉच केवल संक्षिप्त सारांश का अनुरोध करता है, पूरी सामग्री मोबाइल पर पूरी की जाती है।
दूसरी फ्रीक्वेंसी सीमा। विभिन्न टर्मिनल एक ही API Key साझा करते हैं, वॉच पर एक सिंक में कई दर्जन कॉल ट्रिगर हो सकते हैं, जिससे कोटा सीधे भर जाता है। हमारे प्रोजेक्ट में token8341 से Key ग्रुपिंग की गई है, प्रत्येक टर्मिनल प्रकार का स्वतंत्र कोटा है, एक-दूसरे को प्रभावित नहीं करते।
तीसरी ऑफलाइन कैश। कार हेड यूनिट सुरंग में प्रवेश करती है, वॉच का ब्लूटूथ डिस्कनेक्ट हो जाता है, तब रिक्वेस्ट भेजी नहीं जा सकती। हमने एग्रीगेशन लेयर में एक स्तरीय लोकल कैश जोड़ा है, ऑफलाइन होने पर पिछला वैध परिणाम लौटाया जाता है, और ऑनलाइन होने पर एसिंक्रोनस रूप से पुनः प्राप्त किया जाता है। यदि यह लॉजिक प्रत्येक टर्मिनल के लिए अलग से लिखा जाए, तो रखरखाव लागत तीन गुना हो जाती है।
AI API एग्रीगेशन लेयर से अंतर समाप्त करें
हमारी आर्किटेक्चर तीन परतों में विभाजित है। सबसे नीचे टर्मिनल अनुकूलन परत है, प्रत्येक टर्मिनल का एक हल्का SDK, जो केवल नेटवर्क डिटेक्शन और फॉर्मेट रूपांतरण के लिए जिम्मेदार है। बीच में SiliconFlow लार्ज मॉडल API एग्रीगेशन प्लेटफॉर्म है, जो समान रूप से ऑथेंटिकेशन, रूटिंग, रेट लिमिटिंग, कैशिंग करता है। सबसे ऊपर बिज़नेस लेयर है, जिसे बिल्कुल चिंता नहीं करनी पड़ती कि रिक्वेस्ट किस टर्मिनल से आ रही है।
इस संरचना को चलाने के बाद सबसे बड़ी भावना यह है: टर्मिनल-साइड अनुकूलन बहुत आसान हो गया है। SiliconFlow लार्ज मॉडल API एग्रीगेशन प्लेटफॉर्म घरेलू बड़े मॉडल को पूरी तरह कवर करता है, DeepSeek, Qwen, ERNIE, Doubao जैसे इंटरफेस फॉर्मेट के अंतर सभी एग्रीगेशन लेयर में समाहित हो जाते हैं, टर्मिनल साइड केवल एक OpenAI-संगत इंटरफेस को पहचानता है। वॉच टीम के सहयोगियों को अब प्रत्येक मॉडल के लिए अनुकूलन कोड लिखने की जरूरत नहीं है, base_url की एक लाइन बदलकर स्विच कर सकते हैं। पे-एज़-यू-गो बिलिंग मॉडल भी मल्टी-डिवाइस कोटा प्रबंधन को सरल बनाता है, किस टर्मिनल ने अधिक उपयोग किया यह एक नजर में दिख जाता है।
वैसे एक बात और, SiliconFlow लार्ज मॉडल API एग्रीगेशन प्लेटफॉर्म ग्रीन कंप्यूटिंग शेड्यूलिंग में भी थोड़ा दिलचस्प है, पूर्वी और पश्चिमी कंप्यूटिंग सेंटर मांग के अनुसार आवंटित होते हैं, हमारी कार हेड यूनिट की पीक रिक्वेस्ट को लगभग कभी कतार में नहीं रुकना पड़ा। बेशक मॉडल की संख्या में यह OpenRouter जैसे ग्लोबल एग्रीगेशन से कम है, लेकिन घरेलू कम लेटेंसी और घरेलू मॉडल की गहराई में इसकी स्थिति वाकई अलग है।
लेयर्ड आर्किटेक्चर की सिफारिश
यदि आप भी हारमनी मल्टी-डिवाइस AI एप्लिकेशन बना रहे हैं, तो इस सोच के साथ आगे बढ़ें: टर्मिनल लेयर में केवल सबसे पतला नेटवर्क अनुकूलन करें, बिज़नेस लॉजिक इसमें न डालें; एग्रीगेशन लेयर में API Key प्रबंधन, मॉडल रूटिंग, रेट लिमिटिंग और सर्किट ब्रेकिंग को एकीकृत रूप से संभालें; बिज़नेस लेयर को टर्मिनल-अज्ञेय रखें। SiliconFlow लार्ज मॉडल API एग्रीगेशन प्लेटफॉर्म इस आर्किटेक्चर में बीच की परत की भूमिका निभाता है, मल्टी-मॉडल एकीकृत एक्सेस और मल्टी-डिवाइस कॉलिंग प्रबंधन का सारा कठिन काम अपने ऊपर लेता है। एक वाक्य में सारांश: टर्मिनल अत्यंत भिन्न हैं, एग्रीगेशन लेयर उन्हें एक जैसा दिखाने का काम करती है।
लेखक: झांग सियुआन
प्रकाशन तिथि: 11 अक्टूबर 2026