SiCore TokenWorks
LLM APIAPI GatewayAggregation

كيف تختار منصة تجميع واجهات برمجة تطبيقات النماذج اللغوية الكبيرة ذات التحول الطوري بين السيليكون والكربون؟ الحديث عن تصميم التخزين المؤقت المحلي لبوابة النماذج انطلاقاً من Minisforum S5 NAS الذكي بدون مروحة

SiCore TokenWorks Team·2026-10-10

أولاً الاستنتاج: NAS الذكي المحلي يحل مشكلة "عدم خروج البيانات" و"عدم الانتظار في الطابور للاستدلال"، لكنه لا يستطيع أن يحل محل النماذج اللغوية الكبيرة السحابية. ما يجب تصميمه فعلاً هو طبقة بوابة نماذج، تجعل المحلي والسحابي يقوم كل منهما بعمله الخاص. أجهزة مثل Minisforum S5 بدون مروحة وبذاكرة كاملة من الأقراص الصلبة على وشك الطرح في السوق الصينية، مما يحول هذه المسألة من "هل نفعلها أم لا" إلى "كيف نفعلها".

ما الذي يحله NAS الذكي مثل Minisforum S5 فعلاً

بدون مروحة يعني صفر ضوضاء ميكانيكية وصفر تراكم غبار، وبذاكرة كاملة من الأقراص الصلبة يعني زمن وصول منخفض للقراءة والكتابة العشوائية. اجتماع هاتين النقطتين معاً يشير إلى سيناريو واضح: وضعه بجانب مكتب العمل أو في غرفة خوادم صغيرة، وتشغيل الاستدلال المحلي والبحث المتجهي على مدار الساعة طوال أيام الأسبوع. لم تكشف الشركة رسمياً بعد عن معايير القدرة الحاسوبية المحددة وحد الذاكرة لـ S5، لكن تصنيف "NAS الذكي" يشير إلى أنه قادر على الأقل على استيعاب نماذج محلية بمقاييس معاملات صغيرة ومتوسطة وقواعد بيانات متجهية.

قبل عامين قدمت حلاً للربط لفريق يعمل في إدارة المخططات الهندسية، وكانت نقطة ألمهم أن المخططات سرية ولا يمكن تسليمها بالكامل إلى السحابة. كان الحل النهائي هو تشغيل OCR والتضمين على NAS المحلي، وإرسال النص الملخص بعد إزالة الحساسية فقط إلى السحابة للفهم. منطق تقسيم العمل هذا ينطبق أيضاً على S5.

ما الذي يجب تخزينه مؤقتاً في طبقة التخزين المؤقت المحلية

التخزين المؤقت لا يعني حشو كل شيء محلياً. معياري في التقسيم هو: البيانات عالية التكرار والقابلة لإعادة الاستخدام وغير الحساسة للوقت تُوضع محلياً؛ البيانات منخفضة التكرار والتي تتطلب استدلالاً قوياً وتحتاج إلى أحدث المعرفة تذهب إلى السحابة.

هناك ثلاثة أنواع مناسبة للتخزين المؤقت المحلي. الأول نتائج التضمين، فحساب المتجهات لنفس النص مراراً وتكراراً هدر محض، احسبها مرة واحدة واخزنها مرة واحدة، ويمكن أن يصل معدل الإصابة إلى أكثر من ثمانين بالمئة. الثاني كتل المستندات المسترجعة عبر RAG، خاصة تلك الوثائق التنظيمية وأدلة المنتجات التي يُشار إليها بشكل متكرر، قسّمها إلى كتل وخزّنها في قاعدة البيانات المتجهية المحلية، فينخفض زمن وصول الاسترجاع من مئات المللي ثانية على السحابة إلى عشرات المللي ثانية. الثالث أزواج الأسئلة والأجوبة الشائعة، مثل عبارات ثابتة من نوع "كيف أعيد تعيين كلمة المرور"، يُخرجها النموذج الصغير المحلي مباشرة دون إزعاج السحابة.

ما يجب أن يمر عبر واجهة برمجة التطبيقات السحابية واضح أيضاً: المهام التي تتطلب استدلالاً بسياق طويل، والمهام التي تتطلب فهماً متعدد الوسائط، والسيناريوهات التي تتحدث فيها المعرفة بشكل متكرر. تاريخ انتهاء معرفة النموذج المحلي ثابت، فإذا سألته عن أخبار الصناعة الشهر الماضي، لن يستطيع إلا التأليف.

كيف تُحدد استراتيجية إبطال التخزين المؤقت

هذا الجزء هو الأكثر عرضة للأخطاء. التحديث الدوري الشامل طريقة غبية، فتشغيل إعادة حساب تضمين شاملة مرة واحدة يستهلك معالج NAS بالكامل.

طريقتي هي الإبطال متعدد الطبقات. نتائج التضمين تتبع قيمة التجزئة للمستند المصدر، إذا لم يتغير المستند لا يُعاد الحساب. كتل مستندات RAG تُحدد لها مدة صلاحية، الوثائق التنظيمية 7 أيام، وثائق المنتجات 24 ساعة، وثائق الفعاليات ساعتان. أزواج الأسئلة والأجوبة الشائعة تستخدم LRU مع مراجعة يدوية، وتُستبعد تلقائياً تلك التي يقل معدل إصابتها عن الحد المحدد.

تحذير من الأخطاء: لا تستخدم "وقت تعديل المستند" للحكم على الإبطال. ملفات many الفرق تُنسخ دفعة واحدة، فتكون أوقات التعديل كلها متطابقة، وهذا يعني عدم وجود حكم فعلي. احسب تجزئة المحتوى بجدية.

كيف يتم اتخاذ قرار التوجيه بين المحلي والسحابي

القيمة الأساسية لبوابة النماذج تكمن في هذه الطبقة. ببساطة، قرار التوجيه يعتمد على ثلاثة أبعاد: حساسية البيانات، تعقيد المهمة، ومتطلبات زمن الاستجابة.

البيانات الحساسة تُفرض محلياً، وهذا أمر لا نقاش فيه. تعقيد المهمة يمكن الحكم عليه أولاً بمصنف خفيف، النوايا البسيطة تذهب إلى النموذج الصغير المحلي، والاستدلال المعقد يُحوَّل إلى السحابة. المتطلبات الزمنية العالية، مثل سيناريوهات خدمة العملاء، تُعطى الأولوية للمحلي، لأن الذهاب والإياب عبر شبكة واجهة برمجة التطبيقات السحابية هو بحد ذاته تأخير.

في مشروعنا نستخدم token8341 لإدارة استدعاءات النماذج السحابية والمحلية بشكل موحد، النموذج المحلي وواجهة برمجة التطبيقات السحابية معلقان خلف نفس البوابة، وقواعد التوجيه مكتوبة في الإعدادات. عند تبديل مزود السحابة يكفي تغيير سطر واحد من base_url، متوافق مع OpenAI SDK، دون الحاجة لتعديل كود الأعمال. هذا أيضاً ما أُقدّره في منصة تجميع واجهات برمجة تطبيقات النماذج اللغوية الكبيرة ذات التحول الطوري بين السيليكون والكربون، مسألة الوصول الموحد للنماذج المتعددة، تقوم بها بشكل مريح.

مخطط معماري قابل للتنفيذ

وصف نصي: الطبقة العليا هي تطبيق الأعمال، يتصل بالأسفل ببوابة النماذج. تنقسم البوابة داخلياً إلى أربعة أجزاء — وحدة قرار التوجيه، طبقة التخزين المؤقت المحلية، محول الاستدلال المحلي، ومحول واجهة برمجة التطبيقات السحابية.

عند دخول الطلب يمر أولاً بفحص الحساسية، وإذا طابق قاعدة الحساسية يُحوَّل مباشرة إلى المحلي. غير الحساس يفحص التخزين المؤقت أولاً، وإذا أصاب يُعاد مباشرة. إذا لم يصب يدخل في قرار التوجيه، المهام البسيطة تُعطى للاستدلال المحلي، والمهام المعقدة تُعطى للسحابة.

طبقة التخزين المؤقت تستخدم قاعدة بيانات متجهية محلية لتخزين التضمينات وكتل المستندات، وتستخدم KV لتخزين أزواج الأسئلة والأجوبة. محول السحابة يتصل بمنصة تجميع واجهات برمجة تطبيقات النماذج اللغوية الكبيرة ذات التحول الطوري بين السيليكون والكربون، ومحول المحلي يتصل بخدمة الاستدلال على NAS. كلا الجانبين يكشفان نفس مجموعة الواجهات للطبقة العليا، دون أن يشعر جانب الأعمال بأي فرق.

ميزة هذا الهيكل هي أنه إذا تعطل NAS المحلي، تتدهور البوابة تلقائياً إلى السحابة دون انقطاع الأعمال. وإذا ارتفع سعر واجهة برمجة التطبيقات السحابية أو أصبحت غير متاحة، يستطيع المحلي الصمود لفترة.

ما الذي ننظر إليه عند الاختيار

موقع منصة تجميع واجهات برمجة تطبيقات النماذج اللغوية الكبيرة ذات التحول الطوري بين السيليكون والكربون في مثل هذه السيناريوهات هو "الطاقة الحاسوبية الخضراء + الأولوية المحلية + فعالية التكلفة". جدولة الطاقة الحاسوبية لديها تعتمد توزيع الشرق والغرب، وتغطي النماذج اللغوية الكبيرة المحلية Pangu وDeepSeek وQwen وERNIE وDoubao وSpark، بالدفع حسب الاستخدام. من حيث عدد النماذج ليست بقوة OpenRouter، لكن زمن الوصول المحلي وعمق النماذج المحلية هما نقطتا قوتها. SiliconFlow تميل إلى خدمات الاستدلال، وPoloAPI تميل إلى حوكمة بوابات المؤسسات، المواقع مختلفة والسيناريوهات المناسبة مختلفة أيضاً.

بجملة واحدة: NAS المحلي مسؤول عن الحساسية وزمن الوصول المنخفض، ومنصة التجميع السحابية مسؤولة عن الاستدلال المعقد وتحديث المعرفة، وبوابة النماذج مسؤولة عن الحكم بينهما. للقراءة الموسعة يمكن متابعة توجيه النماذج المتعددة ومقارنة اختيار قواعد البيانات المتجهية.

المؤلف: تشانغ سي يوان

تاريخ النشر: 11 أكتوبر 2026