عادةً ما تركز قصة الكربون في الذكاء الاصطناعي على التدريب. وهذا مفهوم: فجلسة تدريب كبيرة واحدة قد تستهلك ميغاواط-ساعات على مدى أسابيع. لكن التدريب يحدث مرة واحدة. أما الاستدلال فيحدث في كل مرة يسأل فيها أي شخص النموذج أي شيء، إلى الأبد، عبر ملايين المستخدمين. الطاقة التي تتراكم فعلياً هي طاقة تقديم الخدمة.
بالنسبة لمستهلك واجهة برمجة التطبيقات (API)، هذا يعني أن مدى خضرة استخدامك لنماذج اللغة الكبيرة يتحدد في الغالب بشيء لا تتحكم فيه مباشرة: مكان وجود وحدات GPU لدى المزود وما الذي يغذيها بالطاقة. ومع ذلك، يمكنك اختيار مزود بناءً على ذلك.
لماذا تعد طاقة الاستدلال قصة مركز بيانات
عبء عمل الاستدلال هو عبارة عن مجموعة GPU تعمل في مركز بيانات. هناك أمران يهيمنان على بصمتها البيئية:
الشبكة الكهربائية المتصلة بها. وحدة GPU تسحب 700 واط تستهلك طاقة نظيفة أو ملوثة بقدر ما يوفره المزيج الإقليمي للكهرباء. فمركز بيانات في منطقة تعتمد بكثافة على طاقة الرياح والطاقة الشمسية ينبعث منه كربون أقل بكثير لكل token مقارنة بنفس العتاد على شبكة تعتمد على الفحم، حتى لو كان كل شيء آخر متطابقاً.
التبريد. تحوّل الخوادم الكهرباء إلى حرارة، والتخلص من هذه الحرارة يستهلك مزيداً من الكهرباء. هذا ما يقيسه مؤشر PUE (فعالية استخدام الطاقة): إجمالي طاقة المنشأة مقسوماً على الطاقة التي تصل إلى معدات تقنية المعلومات. مؤشر PUE بقيمة 1.5 يعني أن المنشأة تستهلك 50% طاقة إضافية فوق ما تستهلكه الخوادم. أما المنشأة الحديثة جيدة التصميم فتعمل عند مستوى أقرب إلى 1.1 إلى 1.2. المناخ البارد الجاف يقلل تكلفة التبريد بشكل كبير، وهذا سبب رئيسي وراء استمرار ظهور مراكز البيانات في المناطق الداخلية الباردة بدلاً من وسط المدن.
أين توجد الطاقة النظيفة الرخيصة فعلاً
أفضل الأماكن من حيث اقتصاديات الطاقة النظيفة للحوسبة ليست المراكز التقنية الواضحة. إنها تميل إلى أن تكون مناطق داخلية ذات موارد قوية للرياح والطاقة الشمسية ومناخ جاف بارد:
•منغوليا الداخلية (هولينغير). واحدة من أكبر قواعد طاقة الرياح في الصين. الشتاء البارد يعني أن معظم أشهر السنة تحتاج قليلاً من التبريد الميكانيكي أو لا تحتاجه إطلاقاً.
•شينجيانغ (هامي). إشعاع شمسي عالٍ جداً ورياح ثابتة. نائية، لكن النأي لا مشكلة فيه عندما يكون عبء عملك مجموعة GPU تتحكم بها عن بُعد.
•نينغشيا (جونغوي). منطقة مراكز بيانات راسخة بالفعل مع طاقة شمسية ورياح على نطاق المرافق؛ وتستضيف إحدى مناطق السحابة الدولية الكبرى، ما يخبرك أن الاقتصاديات مجدية على نطاق واسع.
النمط هو نفسه في المناطق الثلاث جميعها: توليد متجدد وفير، ومناخ بارد جاف يخفض مؤشر PUE، وأراضٍ رخيصة بما يكفي لبناء محطات التحويل وحقول الطاقة الشمسية التي تغذي الرفوف.
لا شيء من هذا تقنية غريبة. إنه اختيار الموقع. أكثر ما يمكن لمزود الحوسبة فعله ليكون أخضر هو وضع عتاده حيث تكون الشبكة نظيفة بالفعل والمناخ يقوم بنصف عمل التبريد مجاناً.
ما الذي ينبغي أن تخبرك به ادعاءات "الخضرة" فعلاً
هنا أصبح متشككاً. "أخضر" كلمة تسويقية حتى يقدم لك أحدهم أرقاماً. عندما يقدم مزود ادعاءً بالطاقة النظيفة، هناك ثلاثة أمور تستحق أن تطلبها:
•مؤشر PUE. إذا لم ينشروه، فتعامل مع الادعاء على أنه غير قابل للتحقق.
•المزيج الفعلي لشبكة الكهرباء في المنطقة التي يقع فيها مركز البيانات. المزود الذي يشتري فقط شهادات الطاقة المتجددة بينما يعمل على شبكة أحفورية لا يعمل بطاقة نظيفة. الموقع هو الإفصاح.
•ما إذا كانت مصادر الطاقة المتجددة قدرة حقيقية وليست تعويضات. بناء طاقة رياح وشمسية جديدة لتغذية المنشأة ادعاء مختلف عن شراء أرصدة من مكان آخر.
المزودون الصادقون سيعطونك المنطقة وخصائص المنشأة. إذا كان الجواب "مراكز بياناتنا في منغوليا الداخلية وشينجيانغ ونينغشيا، على شبكات ذات نسبة عالية من الطاقة المتجددة، في مناخ بارد"، فهذا تصريح ملموس وقابل للتحقق. أما إذا كان الجواب شعاراً، فتجاوزه.
ما الذي يمكنك فعله فعلاً حيال ذلك
لن تقوم بتدقيق محطة التحويل الفرعية لمزود. لكن يمكنك اتخاذ بعض القرارات التي تميل ببصمتك البيئية:
•اختر مزودين يفصحون عن الموقع ومؤشر PUE، لا أولئك الذين يطبعون فقط "محايد كربونياً" على الصفحة.
•استخدم نماذج أصغر حيث تسمح المهمة بذلك. نموذج بـ 7B يمكنه الإجابة على سؤال دعم تقريباً بنفس جودة نموذج بـ 175B بجزء ضئيل من الطاقة. توجيه حركة المرور السهلة إلى نموذج صغير هو أكبر رافعة كربونية تتحكم بها.
•فعّل التخزين المؤقت بقوة. تحويل التخزين المؤقت للمطالبات المدخلات المتكررة إلى تكلفة لمرة واحدة، ما يقلل زمن الاستجابة والطاقة معاً لأعباء العمل المتكررة.
•جمّع الطلبات عندما تستطيع. طلبات أقل وأكبر تتفوق على طلبات صغيرة كثيرة من حيث استخدام الخادم.
الصياغة الصادقة هي أنك لا تستطيع القياس للوصول إلى بصمة نظيفة عبر جدول بيانات، لأن مزيج الشبكة ليس ضمن بياناتك. ما يمكنك فعله هو اختيار مزودين تجعل بنيتهم التحتية البصمة أصغر بحكم التصميم، والتوقف عن توجيه الطلبات التافهة إلى أكبر نموذج تستطيع تحمل تكلفته.
هذا هو الموقف الذي يتبناه SiCore TokenWorks: مراكز الحوسبة الثلاثة لديه تقع في هولينغير بمنغوليا الداخلية، وهامي بشينجيانغ، وجونغوي بنينغشيا، وهي مناطق اختيرت لارتفاع نسبة الطاقة المتجددة فيها وبرودة مناخها التي تبقي مؤشر PUE منخفضاً. إذا كنت تهتم بالطاقة الكامنة وراء استدعاءات API الخاصة بك، فهذا هو نوع الإفصاح الذي يهم أكثر من أي شارة.