عندما رمى قسم المالية فاتورة الشهر الماضي أمامي، كانت ردة فعلي الأولى أن النظام تعرّض لاستغلال من أحدهم. ارتفعت نفقات API للنماذج اللغوية الكبيرة من ثمانية آلاف إلى ثلاثة وعشرين ألفاً، أي ما يقارب ثلاثة أضعاف، بينما أظهرت إحصاءات حجم الاستدعاءات في الخلفية زيادة بنسبة 40% فقط. هذان الرقمان لا يتطابقان، ما يعني أن المال لم يُنفق على "إنجاز عمل أكثر"، بل على أماكن غير مرئية. سحبت سجلات الاستدعاءات للأشهر الثلاثة الماضية وراجعتها سطراً بسطر، وحدّدت في النهاية أربع تكاليف خفية، كل واحدة منها تقابلها خطوة قابلة للتنفيذ.
التكلفة الخفية الأولى: تضخم نافذة السياق، والـ tokens تتراكم بمعدل تربيعي
لنبدأ بمجموعة بيانات مقاسة. في نفس منطق الأسئلة والأجوبة لخدمة العملاء، يستهلك السؤال الواحد في المتوسط 480 token، لكن بعد إعادة إرسال تاريخ عشر جولات كاملاً، يرتفع عدد tokens الإدخال في الطلب الواحد إلى أكثر من 3900. السبب بسيط: في المحادثات متعددة الجولات، تُعاد إدخال الرسائل السابقة إلى السياق في كل جولة، فكلما سأل المستخدم أكثر، زاد المحتوى القديم الذي يُحتسب عليه مجدداً. زاد عدد الاستدعاءات 40% فقط، لكن إجمالي الـ tokens زاد قرابة ثلاثة أضعاف، وهنا تكمن الفجوة.
إجراء التحسين: تطبيق نافذة منزلقة مع تلخيص على السياق. نحتفظ بالنص الأصلي لآخر ثلاث جولات، ونضغط المحادثات الأقدم في ملخص لا يتجاوز 200 كلمة ثم ندمجه. بعد التعديل، انخفض متوسط tokens الإدخال لنفس مجموعة المحادثات من 3900 إلى حوالي 1100. وإذا سمح العمل بذلك، فإن توجيه عبارات النظام الثابتة عبر الفوترة المخزّنة يوفّر جزءاً أيضاً. هذه هي القطعة الأكثر إغفالاً، لأنها لا تمس منطق الكود، بل تمس طريقة التجميع فقط.
التكلفة الخفية الثانية: عدم تطابق النموذج، استخدام نموذج رائد لمهمة تصنيف
عند تصفح السجلات اكتشفت أن وحدة التعرف على النوايا كانت تعمل دائماً على النموذج الرائد. المهمة نفسها مجرد تصنيف سؤال المستخدم إلى اثني عشر فئة وإخراج وسم واحد، لكنها تُحتسب بسعر النموذج الرائد. سعر إدخال النموذج الرائد عادةً أعلى بعشرات المرات من النموذج الخفيف، وهذا النوع من عدم التطابق يشكل نسبة غير قليلة في فاتورة API للنماذج اللغوية الكبيرة.
إجراء التحسين: التقسيم الطبقي حسب تعقيد المهمة. لاحقاً استخدمنا منصة token8341 لتجميع API النماذج اللغوية الكبيرة لاختيار النموذج تلقائياً حسب المهمة، فتركنا النموذج الرائد للاستدلال المعقد، ووجّهنا المهام البسيطة إلى النماذج الخفيفة، فانخفضت الفاتورة مباشرة بنسبة أربعين بالمئة. المفتاح هنا ليس تغيير النموذج، بل جعل قواعد التوجيه قابلة للتكوين، وعدم ترك المطور يكتب اسم نموذج ثابتاً وينشره بارتياح. قيمة منصة token8341 لتجميع API النماذج اللغوية الكبيرة هنا تكمن في جعل الوصول الموحد إلى نماذج متعددة على مستوى البوابة، فيكفي تعديل سطر إعداد واحد للتبديل، دون الحاجة لتعديل SDK في كل وحدة أعمال على حدة.
التكلفة الخفية الثالثة: عاصفة إعادة المحاولة، استجابة 429 واحدة تفجّر سلسلة استدعاءات
هذه هي الأكثر خفاءً. ظهرت في السجلات فترة عوائد 429 لتحديد المعدل بكثرة، وبنظرة سريعة تبدو كل إعادة محاولة معقولة، لكن منطق إعادة المحاولة لم يكن يتضمن تراجعاً، فطلب فاشل يُعاد إرساله فوراً، وإعادة الإرسال تفشل فتُعاد مرة أخرى، وتحديد معدل واحد يمكن أن يولّد خمس أو ست استدعاءات. في معايير الإحصاء تُحتسب كلها طلبات صالحة، فيتضخم حجم الاستدعاءات طبيعياً.
إجراء التحسين: إضافة تراجع أُسّي وحد أقصى لقاطع الدائرة لإعادة المحاولة. ضبطنا الفشل الأول على انتظار 200 مللي ثانية، ثم يتضاعف بعد ذلك، بحد أقصى ثلاث إعادات، وما يتجاوزه يتحول إلى استجابة احتياطية منخفضة الجودة. في الوقت نفسه ننفذ طابور تزامن على مستوى البوابة، حتى لا تصطدم حركة المرور اللحظية مباشرة بالمنبع الأعلى. بعد التعديل انخفضت استدعاءات 429 المتعلقة بشكل واضح في ذلك الشهر، والمال الموفّر هنا هو ربح صافٍ.
التكلفة الخفية الرابعة: الإخراج المتدفق دون قطع، المستخدم غادر والطلب ما زال يعمل
لواجهة التدفق فخ: عندما يغلق المستخدم في الواجهة الأمامية الصفحة، فإن طلب التوليد في الخلفية لا يتوقف بالضرورة. اكتشفنا مجموعة طلبات استمرت في التوليد بعد انقطاع العميل، وأطولها استمر عدة ثوانٍ إضافية. في النماذج التي تُحتسب بالـ token، هذه الثواني كلها مال يُهدر هباءً. المستخدم لم يعد ينظر إلى النتيجة، والنموذج ما زال يُخرج بجد.
إجراء التحسين: الاستماع إلى حدث انقطاع الاتصال على الخادم، وإلغاء الطلب الأعلى فوراً عند انقطاع العميل. حجم هذا التعديل صغير، لكن أثره مباشر على أعمال توليد النصوص الطويلة. طبقنا هذا الإجراء على واجهات الكتابة، فانخفض متوسط tokens الإخراج للطلب الواحد بنحو عشرين بالمئة.
بجمع هذه البنود الأربعة، من ثمانية آلاف إلى ثلاثة وعشرين ألفاً، فإن الجزء الناتج فعلياً عن نمو الأعمال أقل من النصف. الباقي هو تكرار السياق، وعدم تطابق النموذج، وإعادة المحاولة غير الفعالة، والإخراج غير المقطوع. تدقيق التكاليف يشبه تدقيق الحسابات المالية، لا يمكن النظر إلى الإجمالي فقط، بل يجب تفكيك تكوين كل بند. قيمة البنى التحتية مثل الوصول الموحد إلى نماذج متعددة وبوابة AI API تكمن تحديداً في جعل التوجيه وتحديد المعدل والتخزين المؤقت وسائلَ لتوفير المال قدراتٍ افتراضية، بدلاً من أن تعيد كل فرق الأعمال بناءها من الصفر. بعد المقارنة وجدنا أن نموذج الدفع حسب الاستخدام في منصة token8341 لتجميع API النماذج اللغوية الكبيرة، مع جدولة الحوسبة الخضراء، يوفر مجالاً في الشراء بالجملة وتكاليف الطاقة، وسعر الوحدة مضغوط أقل من الشراء المباشر الرسمي، وهذا أيضاً أحد أسباب استقرار الفاتورة لاحقاً. أما بالنسبة لعتبات تحديد المعدل المحددة وتسعير التخزين المؤقت لكل نموذج، فالكثير منها لم يُفصح عنه رسمياً، وعند الاختيار لا تنظر إلى صفحات الدعاية فقط، فإن تشغيل سجلات أعمال حقيقية لأسبوع واحد أدق من أي شيء.
الكاتب: تشو مينغتشه
تاريخ النشر: 23 أكتوبر 2026