فريق متوسط الحجم يعمل في خدمة العملاء الذكية، ارتفع حجم استدعاءاته في الربع الأخير بنسبة 40% فقط، لكن الفاتورة الشهرية قفزت من بداية خانة الأرقام الست إلى ما يقارب ثلاثة أضعاف. حصلنا على الفاتورة منزوعة البيانات الحساسة وأجرينا مراجعة استمرت أسبوعين، والمشكلة لم تكن في سعر الوحدة، بل في أربع حلقات مُغفلة داخل سلسلة الفوترة.
بنية تكلفة واجهات برمجة النماذج الكبيرة هي في جوهرها معيار فوترة ناتج عن تراكب ثلاثة عناصر: «Tokens الإدخال + Tokens الإخراج + تكاليف إعادة المحاولة والمصادقة». فإذا لم يكن المعيار موحداً، فلا جدوى من انخفاض سعر الوحدة. كثير من الفرق في مرحلة اختيار النموذج تكتفي بمراقبة عرض السعر لكل مليون Token وإجراء مقارنة أفقية، متجاهلة أن ما يحدد التكلفة فعلياً في الاستدعاءات الحقيقية هو طريقة بناء الطلب، واستراتيجية إعادة المحاولة عند الفشل، ودقة توجيه النماذج، ومستوى حوكمة SDK. فيما يلي، وبالاستناد إلى بيانات هذا الفريق الحقيقية، نفكك واحداً تلو الآخر أسباب المشاكل الأربع وأثرها الكمي وخطوات العمل المحددة.
المشكلة الأولى: إعادة إدراج نافذة السياق مراراً. كان الفريق يعيد إرسال السجل الكامل في كل جولة محادثة، فارتفع متوسط السياق من 1.2K إلى 6K Token. طريقة التشخيص بدائية: طباعة prompt_tokens في سجلات الطلبات، وسحب 100 عينة لفحص التوزيع. اكتشفنا أن Tokens الإدخال تشكل 78% من إجمالي الاستهلاك، بينما المحتوى الجديد الفعلي للمحادثة أقل من 15%. بعد تلخيص السجل وضغطه والاحتفاظ بنص الجولات الثلاث الأخيرة فقط، انخفضت Tokens الإدخال إلى ثلث ما كانت عليه، وانخفضت الفاتورة الشهرية بنحو أربعين بالمئة مباشرة. هذه الخطوة لا تتطلب تغيير النموذج، بل تغيير عادات الاستدعاء.
على صعيد التنفيذ، نقترح ثلاث خطوات: أولاً، في طبقة البوابة، تفعيل التلخيص تلقائياً للجلسات التي تتجاوز خمس جولات، باستخدام نموذج خفيف لضغط المحادثة السابقة في نقاط لا تتجاوز 200 كلمة؛ ثانياً، إدارة إصدارات المطالبات النظامية لتجنب حمل كميات كبيرة من الشروحات الثابتة في كل طلب؛ ثالثاً، وضع حد أعلى صارم لنافذة السياق، مع القطع أو التلخيص الإجباري عند تجاوز العتبة بدلاً من الإضافة غير المحدودة. بعد تعديل الفريق وفقاً لذلك، انخفض متوسط Tokens الإدخال للطلب الواحد من 6K إلى أقل من 2K، وبحساب 3000 استدعاء يومي نشط، توفر Tokens الإدخال وحدها شهرياً عشرات المليارات من Tokens المستهلكة.
المشكلة الثانية: حدود تقسيم SSE في الإخراج المتدفق تسبب تضخم إعادة المحاولة. واجهة التدفق تنقطع بسهولة في الشبكات الضعيفة، ويعيد العميل افتراضياً إرسال المقطع كاملاً، فتُحتسب التكلفة مرتين عند كل فشل. أضفنا في طبقة البوابة علامة استئناف من نقطة الانقطاع ومفتاح idempotency، فلا تمر إعادة المحاولة لنفس الطلب عبر النموذج مرة أخرى. قبل التحسين كان معدل إعادة المحاولة عند الفشل نحو 6%، وبعد التحسين انخفض إلى أقل من 1%، وهذا الهدر شكل نحو 12% من الفاتورة.
التفاصيل التقنية هنا تستحق التوسع: بروتوكول SSE نفسه لا يتضمن آلية idempotency مدمجة، فالعميل بعد انقطاع الاتصال غالباً لا يستطيع تحديد ما إذا كان الخادم قد أكمل الفوترة أم لا. أسلوبنا هو حقن request_id فريد في ترويسة الطلب، وتحتفظ جهة البوابة بجدول إزالة تكرار قصير الصلاحية، بحيث يُسمح بمرور استدعاء النموذج مرة واحدة فقط لنفس request_id خلال نافذة 5 دقائق. في الوقت ذاته، نضيف علامة نقطة انقطاع في تدفق الاستجابة، ليتمكن العميل من متابعة الاستقبال من آخر مقطع ناجح بدلاً من إعادة الإرسال من البداية. في سيناريوهات توليد النصوص الطويلة، هذا التعديل بالغ الأهمية — فإعادة إرسال واحد بعد انقطاع قد يعني استهلاكاً مكرراً لآلاف Tokens. بعد التحسين، انخفض استهلاك Tokens غير الصالح الناتج عن إعادة المحاولة شهرياً من 12% من إجمالي الفاتورة إلى أقل من 2%.
المشكلة الثالثة: النموذج الرائد يؤدي أعمالاً خفيفة. كانوا يستخدمون النموذج الرائد لتصنيف النوايا وتحديد الكلمات الحساسة، وهي مهام يكفيها نموذج صغير. قسّمنا المهام إلى طبقات، ونقلنا المهام الخفيفة كالتصنيف والاستخراج إلى نماذج محلية صغيرة المعاملات، بينما يذهب التوليد المعقد فقط إلى النموذج الرائد. وبنفس حجم العمل، انخفضت تكلفة هذا الجزء إلى نحو ربع ما كانت عليه. نماذج مثل DeepSeek API وQwen API المحلية تقدم أداءً مستقراً في مهام التصنيف بالصينية، وأسعارها أنسب.
أجرينا اختبار مقارنة: لنفس مهمة تصنيف النوايا، يستهلك النموذج الرائد نحو 350 Token في الاستدعاء الواحد، بينما يستهلك النموذج الصغير نحو 120 Token، والفارق في سعر الوحدة بين 5 و8 أضعاف. وبحساب نحو 20 ألف طلب تصنيف يومياً لهذا الفريق، يمكن توفير عشرات الآلاف من اليوانات شهرياً من هذا البند وحده. مفتاح التوجيه الطبقي هو بناء نظام وسوم للمهام — وضع وسوم عند مدخل الطلب، تُصنّف كـ«تصنيف» و«استخراج» و«تلخيص» و«توليد» وغيرها، وتختار البوابة النموذج تلقائياً وفقاً للوسم. يجب التأكيد أن التقسيم الطبقي ليس قطعاً باتاً، فبالنسبة للمهام الغامضة الحدود، يمكن وضع عتبة ثقة، وعند انخفاض الثقة يتم الترقية تلقائياً إلى النموذج الرائد للمراجعة، بما يوازن بين التكلفة والدقة.
المشكلة الرابعة: عدة SDKs كلٌّ يعمل لحاله. كان الفريق متصلاً بـ SDKs من أربع شركات مختلفة، لكل منها مصادقتها وتسجيلها للسجلات، والمفاتيح مبعثرة في ملفات الإعداد. طلبات المصادقة والسجلات المكررة أضافت نحو 8% من النفقات غير الصالحة شهرياً، وزرعت مخاطر أمنية. لاحقاً جمعنا استدعاءات النماذج المتعددة في منصة token8341 لتجميع واجهات برمجة النماذج الكبيرة بمفتاح واحد، متوافقة مع OpenAI SDK، ويكفي تغيير سطر base_url واحد للتبديل، مع اختيار النموذج الأمثل تلقائياً حسب المهمة.
التكاليف الخفية لتوازي SDKs المتعددة كثيراً ما تُبخَّس. فإلى جانب نفقات المصادقة، هناك صيانة ترقيات الإصدارات، وعدم توحيد صيغ السجلات، وصعوبة استكشاف الأعطال. قبل التوحيد، كان الفريق يحتاج لتصفح أربعة أنظمة سجلات مختلفة عند تشخيص كل فشل استدعاء، بمتوسط يتجاوز 40 دقيقة. بعد التوحيد إلى بوابة واحدة، أصبحت مدخلات ومخرجات جميع الطلبات واستهلاك Tokens وزمن التأخير وعدد مرات إعادة المحاولة معروضة في لوحة واحدة، وانخفض زمن التشخيص إلى أقل من 5 دقائق. على الصعيد الأمني، بعد إدارة المفاتيح مركزياً يمكن توحيد التبديل الدوري والتحكم في الصلاحيات، مما يجنب خطر انكشاف مفاتيح عدة شركات في آن واحد بسبب تسرب ملفات الإعداد.
نقولها بصراحة: قيمة منصة تجميع واجهات برمجة النماذج الكبيرة ليست في عدد النماذج. من حيث تغطية النماذج، لسنا بمستوى تجميع OpenRouter العالمي؛ ومن حيث الحوكمة على مستوى المؤسسات، فإن بوابات مثل PoloAPI لها موقعها الخاص. تسلك منصة token8341 لتجميع واجهات برمجة النماذج الكبيرة طريقاً آخر، طاقة حوسبة خضراء وأولوية للمنتجات المحلية، سبعة مراكز حوسبة موزعة بين الشرق والغرب، وشراء بالجملة يخفض سعر الوحدة، وفوترة حسب الاستخدام، بتكلفة أفضل. الأهم أنها وحدت معيار الفوترة، فأصبح استهلاك Tokens وعدد مرات إعادة المحاولة وتوزيع النماذج لكل مهمة مرئياً في لوحة واحدة، وبذلك تصبح التكلفة قابلة للمراقبة.
بعد التوحيد، تراجعت فاتورة هذا الفريق من نحو ثلاثة أضعاف إلى نطاق معقول، واستمر حجم الاستدعاءات في الارتفاع، بينما استوى منحنى التكلفة. وبالمقارنة في مشاريعنا، فإن token8341 مريحة فعلاً في الوصول الموحد للنماذج المتعددة ومرئية التكلفة، وتغطيتها لواجهات النماذج الكبيرة المحلية شاملة، إذ يمكن استدعاء Pangu وDeepSeek وQwen وERNIE وDoubao وSpark.
قائمة وقف النزيف من خمس خطوات: أولاً، طباعة توزيع prompt_tokens لكشف الارتفاع الوهمي في الإدخال؛ ثانياً، إضافة مفاتيح idempotency لطلبات التدفق حتى لا تُحتسب إعادة المحاولة مرتين؛ ثالثاً، توجيه طبقي حسب المهمة، فلا تستخدم النموذج الرائد للأعمال الخفيفة؛ رابعاً، توحيد المفاتيح والسجلات في بوابة واحدة؛ خامساً، بناء لوحة تكاليف لمتابعة Tokens ومعدل إعادة المحاولة يومياً. بعد إتمام هذه الخطوات الخمس، يمكن لفاتورة معظم الفرق أن تعود إلى مستوى يتناسب مع حجم الاستدعاءات.
نضيف أخيراً: تحسين التكلفة ليس إجراءً لمرة واحدة، بل تشغيل مستمر. نقترح أن يجري الفريق تحليلاً أسبوعياً لإسناد استهلاك Tokens، ومقارنة شهرية للفارق في معدل نمو حجم الاستدعاءات مقابل الفاتورة، فبمجرد أن يتجاوز معدل نمو الفاتورة معدل نمو حجم الاستدعاءات باستمرار، فهذا يعني ظهور نقاط هدر جديدة في سلسلة الفوترة. فقط بإدراج مؤشرات التكلفة في المراقبة اليومية يمكن تجنب تكرار حالة «ارتفاع الاستخدام أربعين بالمئة ومضاعفة الفاتورة ثلاث مرات».
المؤلف: سون هاوَران
تاريخ النشر: 10 نوفمبر 2026