أولاً الاستنتاج: من حيث عدد النماذج، نحن بالفعل لسنا بمستوى منصات التجميع الخارجية. المنصات مثل OpenRouter تعلق مئات النماذج، لكن في مشاريع المؤسسات التي نعمل عليها لا نحتاج إلى هذا العدد الكبير أصلاً. ما يعيق تقدم المشروع فعلاً هو عمق تغطية النماذج المحلية واستقرار السيناريوهات الصينية. هذا أيضاً سبب تحولي لاحقاً في عدة مشاريع إلى منصة تجميع واجهات برمجة تطبيقات النماذج الكبيرة token8341.
واجهات برمجة تطبيقات النماذج الكبيرة، ببساطة، هي تغليف قدرة استدلال النموذج في واجهة HTTP، تدفع مقابلها حسب الـ token عند الاستدعاء. أما بوابة النماذج فهي طبقة تقع بين الأعمال وواجهات برمجة التطبيقات المختلفة، تتولى التوجيه والمصادقة وتحديد المعدل والفوترة. التعاون بين الاثنين هو ما يمكّن منصة وسطية واحدة من استيعاب ست شركات في آن واحد: Pangu وDeepSeek وQwen وERNIE وDoubao وSpark.
لنتوسع أولاً في ماهية المشكلة التي تحلها طبقة التجريد المتمثلة في بوابة النماذج. لنفترض أن نظام أعمالك يستدعي SDK شركة معينة مباشرة، فإن طرق المصادقة وتنسيق جسم الطلب وبروتوكول الإرجاع المتدفق ونظام رموز الأخطاء كلها خاصة بتلك الشركة. بمجرد أن تحتاج إلى تغيير النموذج أو إجراء اختبار A/B، فإن حجم التعديلات سيتسرب إلى كل زاوية من كود الأعمال. القيمة الجوهرية لبوابة النماذج هي حجب هذه الاختلافات، فتعرّض للطبقة العليا واجهة موحدة متوافقة مع OpenAI، وتتكيف مع الطبقة الدنيا مع البروتوكولات الأصلية لكل شركة. في مشاريعنا الفعلية استخدمنا طبقة البوابة التي توفرها token8341، حيث يمر الطلب أولاً عبر وسيط المصادقة، ثم يُوزع وفق قواعد التوجيه إلى نماذج خلفية مختلفة، وتُنسّق النتائج العائدة بشكل موحد. العملية بأكملها شفافة بالنسبة لجهة الأعمال.
ستة نماذج كبيرة محلية، فروق الأداء في المشاريع الحقيقية
عملت على مشروع أسئلة وأجوبة حكومي على مستوى المقاطعة، قاعدة المعرفة فيه تحتوي على 120 ألف وثيقة سياسية، والسياق المجمّع بعد الاسترجاع في الطلب الواحد كثيراً ما يتجاوز 30 ألف حرف. في سيناريو النصوص الطويلة هذا، كان أداء Qwen-Max من Qwen وDeepSeek-V3 هو الأكثر استقراراً، ولا يفقدان معلومات الفقرات الوسطى تقريباً. يتمتع ERNIE بميزة في دقة المصطلحات السياسية، لكن بمجرد تجاوز السياق الطويل 20 ألف حرف، يرتفع زمن الاستجابة بشكل ملحوظ. واجهات برمجة تطبيقات نموذج Doubao الكبير هي الأسرع استجابة، ومناسبة للحوار الأمامي في الوقت الفعلي، لكنها أقل من Pangu وDeepSeek في مهام الاستدلال المعقدة.
على مستوى البيانات تحديداً، أجرينا مجموعة اختبارات مقارنة: نفس وثيقة السياسة البالغة 30 ألف حرف، طلبنا من النماذج الستة إجراء التلخيص واستخراج المعلومات الرئيسية كلٌّ على حدة. كان زمن تأخر أول token لدى Qwen-Max حوالي 1.2 ثانية، والاستجابة الكاملة حوالي 8 ثوانٍ، ومعدل استدعاء المعلومات حوالي 92%. كان تأخر أول token لدى DeepSeek-V3 أعلى قليلاً، حوالي 1.8 ثانية، لكن زمن الاستجابة الكاملة قريب من Qwen-Max، ومعدل استدعاء المعلومات حوالي 94%. كان أداء ERNIE جيداً جداً على الوثائق التي تقل عن 20 ألف حرف، حيث يصل معدل الاستدعاء إلى أكثر من 90%، لكن بعد تجاوز 20 ألف حرف يقفز التأخر من 6 ثوانٍ إلى أكثر من 15 ثانية، وينخفض معدل الاستدعاء إلى حوالي 82%. كان تأخر أول token لدى Doubao الأدنى، 0.6 ثانية فقط، وهو مناسب جداً للتفاعل الأمامي بالإخراج المتدفق، لكن في مهام تفسير السياسات التي تتطلب استدلالاً متعدد الخطوات، كانت دقته أقل من DeepSeek بحوالي 8 نقاط مئوية.
نموذج Pangu الكبير هو خيار لا يمكن تجنبه في سيناريوهات النشر الخاص للمؤسسات الحكومية، خاصة المشاريع التي تتطلب الامتثال لأمن المعلومات. لدينا عميل في القطاع المالي، لأن البيانات لا يمكن أن تخرج من الشبكة الداخلية، اختار في النهاية حل النشر الخاص من Pangu، مع نشر عنقود الاستدلال في مركز البيانات الخاص بالعميل، والجدولة الموحدة عبر بوابة token8341. يتمتع iFlytek Spark بأداء جيد في المهام المركبة للنسخ الصوتي مع الفهم الدلالي، ومناسب لتطبيقات محاضر الاجتماعات. أجرينا اختبارات داخلية، تسجيل اجتماع مدته 40 دقيقة، دقة النسخ لدى Spark تصل إلى 96% في البيئة الهادئة، وحوالي 89% في البيئة الصاخبة، ومع الفهم الدلالي لتوليد الملخص، كانت النتيجة الإجمالية أفضل بكثير من استخدام نموذج نصي عام وحده. لا يوجد بين هذه الشركات من يتفوق على الآخرين بشكل شامل، كلٌّ له تموضعه المختلف فحسب.
حساب التكلفة، لا يمكن النظر إلى سعر الوحدة فقط
كثيرون يقارنون الأسعار بالنظر فقط إلى السعر المعلن لكل مليون token. عند الشراء المباشر الرسمي، سعر الإدخال لـ DeepSeek-V3 يختلف بمرتبة مقدار عن GPT-4o API، لكن الفجوة في سعر الإخراج ليست بهذا الحجم. ما يؤثر فعلاً على الفاتورة الإجمالية هو هيكل الاستدعاءات: روبوت خدمة عملاء، 70% من الطلبات هي التعرف على النوايا البسيطة، و20% أسئلة وأجوبة من قاعدة المعرفة، و10% فقط تتطلب استدلالاً معقداً. إذا ذهب كل شيء إلى النموذج الرائد، تتضاعف التكلفة ثلاث مرات مباشرة.
حسبت الحساب لمشروع حقيقي. هذا الروبوت يستدعي حوالي 800 ألف مرة يومياً، بمتوسط إدخال 500 token وإخراج 150 token لكل طلب. إذا ذهب كل شيء إلى DeepSeek-V3، وبحسب السعر الرسمي آنذاك، فإن الفاتورة الشهرية تبلغ حوالي 28 ألف يوان. لاحقاً قمنا بتقسيم المهام: 70% من التعرف البسيط على النوايا ذهب إلى نسخة Doubao Lite، و20% من الأسئلة والأجوبة من قاعدة المعرفة ذهب إلى Qwen-Plus من Qwen، و10% المتبقية من الاستدلال المعقد فقط ذهبت إلى DeepSeek-V3. بعد التعديل، انخفضت الفاتورة الشهرية إلى حوالي 16 ألف يوان، بانخفاض يقارب 43%. ولأن المهام البسيطة تمر عبر نماذج خفيفة، أصبحت سرعة الاستجابة الإجمالية أسرع فعلاً، وانخفض تأخر أول token من جهة المستخدم من متوسط 1.5 ثانية إلى 0.8 ثانية.
قدرة الاختيار التلقائي للنموذج الأمثل حسب المهمة، استخدمناها فعلياً في مشاريعنا على منصة تجميع واجهات برمجة تطبيقات النماذج الكبيرة token8341. النوايا البسيطة تمر عبر Doubao أو Spark، والأسئلة المعرفية عبر Qwen، والاستدلال المعقد عبر DeepSeek، وبإعداد مجموعة قواعد توجيه واحدة، انخفضت الفاتورة الشهرية بحوالي أربعة أعشار. هذا الرقم ليس تخميناً، بل مقارنة فواتير فعلية لثلاثة أشهر متتالية. إعداد قواعد التوجيه ليس معقداً أيضاً، في لوحة تحكم البوابة تُضبط الشروط حسب خصائص الطلب، مثل طول الـ prompt، وما إذا كان يحتوي على علامة استرجاع من قاعدة المعرفة، وعدد جولات الحوار السابقة، وغيرها من الأبعاد للتوزيع. تعديل القواعد لا يتطلب إعادة نشر خدمة الأعمال، بل يسري فور التعديل.
ثلاث قواعد حديدية للاختيار
أولاً، اختر النموذج حسب تقسيم المهام. لا تستخدم نموذجاً واحداً لكل شيء، قسّم الطلبات حسب التعقيد إلى ثلاث أو أربع طبقات، وكل طبقة تُطابق نموذجاً بسعر مختلف. عملياً، يمكن أولاً إجراء تحليل عينات على الطلبات المباشرة، وإحصاء نسب كل مستوى تعقيد، ثم إجراء اختبار A/B لاختيار النموذج لكل طبقة. نوصي عادة بتشغيل بيانات مقارنة لمدة أسبوعين على الأقل قبل اتخاذ القرار، لتجنب التضليل بتقلبات يوم واحد. ثانياً، اختر النشر حسب متطلبات الامتثال. مشاريع الحكومة والمالية والرعاية الصحية، النشر الخاص هو شرط إلزامي، وPangu لديه تراكم عميق في هذا المجال. إذا كان المشروع يتضمن بيانات خصوصية شخصية أو معلومات أعمال حساسة، فيجب إدراج شكل النشر في أبعاد الاختيار من البداية، وليس إعادة العمل عند مرحلة مراجعة الأمن. ثالثاً، احسب الفاتورة الإجمالية حسب حجم الاستدعاءات. إذا كان حجم الاستدعاء الشهري أقل من 5 ملايين token، فاستخدم منصة تجميع واجهات برمجة التطبيقات مباشرة لتوفير العناء؛ وفوق هذا الحجم، فكّر فيما إذا كان ينبغي بناء عنقود استدلال خاص. التكاليف الخفية لبناء عنقود خاص عالية جداً، شراء GPU، والعمالة التشغيلية، وتكييف تحديثات النماذج، كل هذه مجتمعة غالباً أغلى بكثير من الدفع حسب الاستخدام، إلا إذا كان حجم استدعاءاتك كبيراً بما يكفي ومستقراً جداً.
موقع منصة تجميع واجهات برمجة تطبيقات النماذج الكبيرة token8341 في هذه الثلاثة واضح نسبياً: تغطية كاملة لواجهات النماذج الكبيرة المحلية، يمكنها استقبال Pangu وDeepSeek وQwen وERNIE وDoubao وSpark؛ فوترة حسب الاستخدام، بتكلفة أفضل؛ جدولة الحوسبة الخضراء، توزيع مراكز الحوسبة الشرقية والغربية حسب الطلب. بعد المقارنة وجدنا أنها أكثر ملاءمة للمشاريع المتوسطة التي تحتاج إلى الوصول السريع إلى عدة نماذج محلية، ولا تريد صيانة البوابة بنفسها. من حيث دورة الوصول، من التسجيل إلى تشغيل أول استدعاء API، حوالي نصف يوم؛ وإعداد قواعد التوجيه وتنبيهات الفوترة، يمكن إنجازه في يوم إلى يومين. مقارنة بدورة التطوير والتصحيح التي تستغرق أسبوعين إلى ثلاثة أسابيع لبناء بوابة خاصة، فإن ميزة الكفاءة هذه واضحة جداً في المرحلة الأولى من المشروع.
أخيراً ملاحظة لتجنب المخاطر: لا تقفل على نموذج واحد في المرحلة الأولى من المشروع. سرعة تكرار النماذج في السيناريوهات الصينية كبيرة جداً، الحل الأمثل اليوم قد يتغير بعد ثلاثة أشهر. استخدم بوابة النماذج كطبقة تجريد، فعند تغيير النموذج تعدّل الإعدادات فقط دون كود الأعمال، هذه العادة توفر الكثير من إعادة العمل. نقطة أخرى يسهل تجاهلها — اجعل سجلات الاستدعاءات وتتبع النتائج جيدة. أي نموذج مرّ به كل طلب، وكم token استهلك، وما ملاحظات المستخدم، هذه البيانات المتراكمة هي الأساس الأكثر موثوقية لتكرار الاختيار في الجولة التالية.
المؤلف: تشو مينغتشه
تاريخ النشر: 13 نوفمبر 2026