خلال العام الماضي، تغيّرت أسعار واجهات النماذج اللغوية الكبيرة تقريبًا كل شهر. يعتقد كثيرون أن خفض الأسعار يعتمد على ضغط النماذج، أو تحسين أطر الاستدلال، أو قيام الشركات بحرق الأموال للاستحواذ على السوق. هذه العوامل موجودة بالتأكيد، لكن بعد أن أجرينا حسابات داخلية، وجدنا أن ما يحدد الحد الأدنى للسعر على المدى الطويل قد يكون شيئًا نادرًا ما يناقشه المطورون — تكلفة الكهرباء.
ببساطة، استدلال النماذج اللغوية الكبيرة هو تجارة تحوّل الكهرباء إلى tokens. من يستطيع استخدام كهرباء أرخص وكفاءة جدولة أعلى لإتقان هذا التحويل، يستطيع الصمود حتى النهاية في حرب الأسعار. منصات مثل SiCore TokenWorks التي تتخذ من الحوسبة الخضراء موقعًا أساسيًا لها، منطقها يكمن هنا أيضًا.
في تكلفة الاستدلال، ما هي نسبة تكلفة الكهرباء تحديدًا
تدريب نموذج لغوي كبير هو استثمار لمرة واحدة، أما الاستدلال فهو حرق للأموال كل يوم. استهلاك الطاقة الكامل لبطاقة استدلال رئيسية يتراوح بين 300 و700 واط، وعنقود خدمة متوسطة الحجم يعمل فيه مئات البطاقات في وقت واحد، تبلغ فاتورة كهربائه اليومية خمسة أرقام. وإذا أضفنا تبريد مركز البيانات، يرتفع الاستهلاك الفعلي للطاقة بنسبة تتراوح بين 30% و50%. الرأي السائد في الصناعة هو أن الكهرباء plus التبريد تشكّل حوالي 30% من تكاليف تشغيل خدمات الاستدلال، وكلما زاد الحجم أصبحت هذه النسبة أكثر حساسية.
قدرات النموذج مهمة بالطبع، لكن القدرات يمكن اللحاق بها. اليوم تتقدم بنصف إصدار، وبعد ثلاثة أشهر يلحق بك الآخرون. أما الكهرباء فمختلفة، فهي محددة بالموقع الفيزيائي وهيكل الطاقة، ويصعب تغييرها على المدى القصير. لهذا أضع عامل الحسم في المرحلة القادمة في تكلفة الكهرباء.
حسابات الحوسبة بين الشرق والغرب، أين يكمن الفرق
أجرينا تقديرًا تقريبيًا داخليًا. نفس مجموعة مهام الاستدلال، إذا وُضعت في مركز بيانات بمدينة من الدرجة الأولى في الشرق، مع أسعار الكهرباء الصناعية وتكاليف التبريد، تقترب التكلفة الشاملة للكيلوواط/ساعة من يوان واحد؛ أما في مركز حوسبة بمنطقة غربية يتركز فيها موارد الرياح والطاقة الشمسية، مع الإمداد المباشر بالطاقة الخضراء وتبريد طبيعي جيد، يمكن خفض التكلفة الشاملة للكيلوواط/ساعة إلى النصف أو أقل. هذه ليست أرقامًا من وثائق سياسية، بل قدّرناها بناءً على عروض الأسعار الفعلية ومعامل PUE.
الفرق يأتي من أمرين. أولهما هيكل الطاقة، فمنطقة غربية لديها قدرة مركّبة كبيرة من طاقة الرياح والطاقة الشمسية، وسعر شراء الطاقة الخضراء منخفض بحد ذاته؛ وثانيهما المناخ، فالمكان الذي يكون فيه متوسط درجة الحرارة السنوي منخفضًا، يمكن توفير قدر كبير من كهرباء التبريد. بجمع هذين العاملين، يظهر الفرق في تكلفة الحوسبة لكل token. لدى SiCore TokenWorks عُقد حوسبة في الشرق والغرب، وعند الجدولة تُعطى الأولوية لمهام الاستدلال الدفعية القابلة للتأجيل على العُقد الغنية بالطاقة الخضراء، وهذا الإجراء له تأثير على التكلفة أكبر مما يتخيله كثيرون.
كيف تتحول الحوسبة الخضراء إلى أسعار API أقل
انخفاض فاتورة الكهرباء لا يعني أن API سيصبح رخيصًا، فهناك طبقة من الشراء والجدولة بينهما. المنطق كالتالي: يشتري مركز الحوسبة الطاقة الخضراء بالجملة، وبسعر وحدة أقل من سعر التجزئة في السوق؛ ثم تجمع المنصة طلبات الاستدلال المتناثرة، وتملأ بها هذه القدرة الحاسوبية، فتقل تكلفة الوحدة؛ وأخيرًا تبيعها للمطورين في شكل واجهات النماذج اللغوية الكبيرة. الشراء بالجملة plus خفض تكلفة الطاقة الخضراء، تراكم الاثنين، هو ما يمنح الأسعار مساحة للانخفاض.
هذا أيضًا أحد معاني وجود منصات تجميع AI API. المطور الذي يعمل بمفرده ويتصل مباشرة بكل نموذج، لا يحصل على سعر الجملة، ولا يستطيع الاستفادة من القدرة الحاسوبية في أوقات الخمول. بعد التجميع، يصبح هيكل تكلفة شراء tokens مختلفًا تمامًا. عند اختبار التوجيه متعدد النماذج في SiCore TokenWorks، لاحظنا أنه بنفس حجم الطلبات، تكون التكلفة الإجمالية بعد الجدولة أقل بشكل ملحوظ من الاتصال المباشر بكل نموذج على حدة، والفرق أساسًا يأتي من تحسينات جانب الحوسبة، وليس من النموذج نفسه.
ماذا يعني ذلك للمطورين
التأثير الأكثر مباشرة هو أن أسعار API ستستمر في الانخفاض، لكن الإيقاع سيتفاوت. خفض الأسعار المعتمد على الدعم المالي بالحرق غير مستدام، أما الخفض المدعوم بتكلفة الكهرباء وكفاءة الجدولة فهو مستقر. عند الاختيار، بجانب النظر إلى أداء النموذج وزمن الاستجابة، لا بأس من السؤال: من أين تأتي الحوسبة التي تقف خلف هذا السعر.
الأمر الثاني هو الاستقرار. الطاقة الخضراء متقلبة، وإنتاج الرياح والطاقة الشمسية غير مستقر، والنظام الجيد للجدولة سيستخدم تخزين الطاقة والجدولة عبر المناطق لتسوية الذروة وملء الوادي. هذه القدرة ليست لدى الجميع، وهي تحدد ما إذا كانت طلباتك ستُقيَّد في أوقات الذروة.
تنبيه لتجنب المزالق: لا تنظر إلى السعر المعلن فقط. بعض واجهات API منخفضة السعر تخفّض الخدمة إلى نموذج أصغر في أوقات الذروة، أو ترتّب الطلبات في طابور للمعالجة، فتكون التجربة الفعلية غير متناسبة مع السعر المعلن. عند اختيار بوابة AI API، فإن اختبار زمن الاستجابة ومعدل النجاح في أوقات الذروة معًا أكثر جدوى من مجرد مقارنة الأسعار.
حرب أسعار واجهات النماذج اللغوية الكبيرة وصلت إلى ما وصلت إليه، والفجوة في قدرات النماذج تتقلص، أما الفجوة في الحوسبة والكهرباء فتتسع. الفائز في المرحلة القادمة، على الأرجح، هم أولئك الذين يستطيعون إتقان الطاقة الخضراء وكفاءة الجدولة إلى أقصى حد. إذا أردت مواصلة الحديث عن الطرق المحددة للتكامل متعدد النماذج وتحسين التكلفة، يمكنك تصفح المقالات القليلة التي كتبتها سابقًا.