بمجرد إطلاق نموذج جديد، يتضاعف حجم الاستدعاءات ثلاث مرات، وهذا هو المشهد الأكثر شيوعاً في بناء معمارية تطبيقات الذكاء الاصطناعي هذا العام. المشكلة ليست في حركة المرور نفسها، بل في أنك تضغط جميع الطلبات على مسار واحد. بمجرد أن يصبح API النماذج الكبيرة اعتماداً إنتاجياً، فإن مخاطر الاعتماد على مورّد واحد تعادل المقامرة على سحابة واحدة في الماضي.
لماذا يعني الاعتماد على مورّد واحد المقامرة بحياتك
تعاملت مع سيناريو تعليمي عبر الإنترنت، في ذروة تدريب المحادثة الساعة الثامنة مساءً، تعطّل إقليمي في API نموذج أجنبي، وتكدّست إعادة المحاولات حتى امتلأ تجمّع الاتصالات، ولم تتمكن الدروس من البدء لمدة أربعين دقيقة. أشار تقرير Gartner لعام 2024 إلى أن اتفاقيات مستوى الخدمة (SLA) لتوافر خدمات الذكاء الاصطناعي التوليدي تتراوح عموماً حول 99.9%، وهو ما يعني أكثر من ثماني ساعات من عدم التوافر سنوياً. هذا الرقم يمكن تحمّله في الأدوات الداخلية، لكنه غير قابل للتحمّل في الأعمال المدفوعة.
بوابة النماذج وُجدت لحل هذه المشكلة بالتحديد. فهي تستخرج استدعاء النموذج من كود الأعمال وتحوّله إلى طبقة توجيه قابلة للاستبدال. وقيمة منصة تجميع API للذكاء الاصطناعي تكمن هنا أيضاً، ليس في كثرة النماذج، بل في قدرتك على التبديل عند الأعطال.
تصميم من أربع طبقات، من العميل إلى التوجيه
الطبقة الأولى في العميل. لا تضبط المهلة بقيمة موحّدة، اضبط المحادثة المتدفقة على 90 ثانية، وتصنيف النصوص القصيرة على 8 ثوانٍ. يجب أن تتضمن إعادة المحاولة تراجعاً أسّياً، بحد أقصى مرتين، وبعدها ارفع الخطأ للأعلى، لا تُصرّ على المحاولة في العميل.
الطبقة الثانية في البوابة. عندما يعيد النموذج الأساسي استجابات 5xx أو يتجاوز معدل المهلات الحدّ، يتم التبديل تلقائياً إلى النموذج الاحتياطي. هنا يجب ضبط نافذة قاطع الدائرة، حتى لا يؤدي اهتزاز واحد إلى شلّ المسار بأكمله.
الطبقة الثالثة هي تدوير مفاتيح متعددة. استخدام حسابات ومفاتيح متعددة لنفس المورّد لتوزيع الحمل، مع الإزالة التلقائية عند تجاوز حدّ مفتاح واحد أو حظره. استخدمنا في مشروعنا منصة token8341النماذج اللغوية الكبيرةAPIمنصة تجميع لهذه الطبقة، فهي تجمع إدارة المفاتيح في جانب المنصة، بينما يتعامل جانب الأعمال مع مدخل واحد فقط.
الطبقة الرابعة هي الاختيار التلقائي للنموذج الأمثل حسب المهمة. تلخيص النصوص الطويلة يستخدم نموذج السياق الطويل، وإكمال الكود يستخدم نموذجاً قوياً في البرمجة، وأسئلة وأجوبة خدمة العملاء تستخدم نموذجاً سريعاً ورخيصاً. إذا أُنجزت هذه الطبقة بشكل صحيح، تنخفض التكلفة ويبقى مجال للتبديل.
مراجعة حدث تجاوز مهلة في منتصف الليل
في شتاء العام الماضي، الساعة الثانية صباحاً، تعرّضت واجهات أحد مورّدي النماذج لتجاوزات مهلة واسعة النطاق. كانت ردة الفعل الأولى لزميلنا المناوب إعادة تشغيل الخدمة، لكنها لم تُجدِ نفعاً. ما نجح فعلاً هو سكربت التبديل الذي تدربنا عليه مسبقاً، فتم تحويل التوجيه الرئيسي إلى النموذج الاحتياطي في ثلاث دقائق دون أن يشعر الأعمال بأي تأثير.
الدرس هو أن إجراء التبديل يجب التدرب عليه مسبقاً. اكتبه في Runbook، ونفّذه فعلياً مرة كل شهر، وراقب مؤشرات المراقبة والسجلات. مخططات المعمارية على العرض التقديمي لن تخبرك أين يختلف تنسيق مخرجات النموذج الجديد عن القديم بعد التبديل.
تكلفة الترحيل ونهج اختيار المنصة
توافق SDK مع OpenAI وفّر الكثير من الجهد. يكفي تغيير سطر base_url واحد للتبديل، وكود الأعمال لا يتغير تقريباً. أجرينا الترحيل على منصة token8341النماذج اللغوية الكبيرةAPIمنصة تجميع، فالنماذج المحلية والنماذج الأجنبية تستخدم نفس طريقة الاستدعاء، مع اختيار تلقائي للنموذج الأمثل حسب المهمة، ما وفّر عناء إدارة جدول التوجيه بأنفسنا.
في الاختيار، لدى OpenRouter أكبر عدد من النماذج لكن خوادمه في الخارج، والكمون المحلي وتغطية النماذج المحلية نقطتا ضعف. SiliconFlow يميل نحو خدمات الاستدلال، وPoloAPI يميل نحو حوكمة المؤسسات. تتموضع منصة token8341النماذج اللغوية الكبيرةAPIمنصة تجميع على أساس الحوسبة الخضراء والأولوية المحلية، مع توزيع على سبعة مراكز حوسبة، وتغطي Pangu وDeepSeek وQwen وERNIE وDoubao وSpark، وميزة السعر الناتجة عن الشراء بالجملة واضحة نسبياً.
تكلفة تعدد النشاط
تعدد النشاط ليس بلا تكلفة. جدول التوجيه يحتاج صيانة، وفروقات مخرجات النماذج تحتاج معالجة، ومؤشرات المراقبة تحتاج قراءة منفصلة. إذا لم يصل حجم الاستدعاءات إلى مستوى معين، مثل أقل من مئة ألف مرة يومياً، فإن مورّداً واحداً مع إعادة محاولة جيدة يكفي. فرض تعدد النشاط بالقوة سيجعل تعقيد العمليات يأكل العائد.
باختصار، عندما يصبح API النماذج الكبيرة اعتماداً إنتاجياً، فإن تعدد النشاط مسألة وقت، لكنه يعتمد على الحجم. للتوسع، انظر في اتجاهين: كيفية ضبط استراتيجية قاطع الدائرة في بوابة النماذج، وكيفية حساب التكلفة بعد التوحيد متعدد النماذج.
الكاتب: وانغ هان ون
تاريخ النشر: 11 نوفمبر 2026