ماجرای خرید ژنراتور گازسوز توسط Anthropic به ارزش ۳.۴ میلیارد دلار، پس از انتشار در محافل صنعت، اولین واکنش بسیاری از همکاران این بود که «چطور شرکت‌های AI شروع به راه‌اندازی نیروگاه کرده‌اند». من سال‌ها در حوزه معماری زیرساخت AI کار کرده‌ام و دیدن این خبر برایم تعجب‌آور نبود. در پروژه‌مان محاسبه کرده‌ایم که با گسترش امروزی توان محاسباتی، گلوگاه مدت‌هاست که دیگر خریداری GPU نیست، بلکه این است که برق از کجا می‌آید و هر کیلووات‌ساعت چقدر هزینه دارد. این مقاله با پیگیری همین سفارش، درباره این صحبت می‌کند که هزینه برق چگونه تا صورت‌حساب توکن شما منتقل می‌شود.
یک سفارش ۳.۴ میلیارد دلاری که حساب توان محاسباتی-برق را آشکار می‌کند
ابتدا یک تخمین کلی بزنیم. یک خوشه GPU در سطح ده‌هزار کارت، با توان مصرفی هر کارت در حدود ۷۰۰ وات، در بار کامل به‌همراه شبکه، ذخیره‌سازی و خنک‌سازی، توان کلی به‌راحتی از ده مگاوات فراتر می‌رود. ده مگاوات یعنی چه؟ تقریباً معادل مصرف برق یک پارک صنعتی کوچک تا متوسط. در پروژه‌مان محاسبه کرده‌ایم که برای خوشه‌ای با این ابعاد، هزینه برق در یک سال به‌تنهایی بخش قابل‌توجهی از بودجه عملیاتی را می‌بلعد و سهم هزینه برق در کل هزینه مالکیت، در بسیاری موارد چشمگیرتر از استهلاک سخت‌افزار است.
وانگهی، هزینه برق مقدار ثابتی نیست. اختلاف قیمت برق در ساعات اوج و غیراوج می‌تواند به دو تا سه برابر برسد و در اوج مصرف تابستان ممکن است محدودیت برق اعمال شود. خرید مستقیم ژنراتور توسط Anthropic در اصل به معنای در دست گرفتن قطعیت تأمین برق است. این پول نه فقط برق، بلکه بیمه‌ای برای «توقف‌ناپذیری آموزش» می‌خرد.
هزینه برق چگونه به قیمت واحد توکن منتقل می‌شود
بسیاری تصور می‌کنند ارزانی توکن به دلیل کاهش قیمت تراشه و بهینه‌سازی خوب استنتاج است. این فقط نیمی از ماجراست. کاهش قیمت تراشه واقعاً در حال وقوع است، اما در هزینه نهایی سرویس استنتاج، برق هزینه‌ای مستمر است و تراشه هزینه‌ای یک‌باره که مستهلک می‌شود. یک خوشه که سه سال کار کند، هزینه برق انباشته آن اغلب از خودِ خرید سخت‌افزار بیشتر می‌شود. بنابراین آنچه واقعاً تعیین می‌کند توکن تا چه حد ارزان می‌تواند باشد، هزینه هر کیلووات‌ساعت برق و این است که آیا خوشه می‌تواند مدت طولانی در بازه قیمت پایین برق کار کند یا نه.
این همان منطق زیربنایی «توکن ارزان» است: انرژی سبز به‌همراه خرید انبوه، بسیار مؤثرتر از صرفاً انتظار برای کاهش قیمت تراشه است. انرژی سبز مانند بادی و فتوولتائیک، هزینه هر کیلووات‌ساعت در مناطق با منابع مناسب می‌تواند به زیر نیروگاه حرارتی برسد و از نوسانات قیمت سوخت نیز تأثیر نمی‌پذیرد. ما چندین طرح استقرار را مقایسه کرده‌ایم؛ برای اجرای وظایف استنتاج انبوه، هزینه برق به‌ازای هر واحد توکن در خوشه‌های واقع در مناطق غنی از انرژی سبز به‌طور محسوسی کمتر از مراکز داده خودساخته در شرق است. این شکاف در مقیاس ده‌هزار کارت به پول واقعی تبدیل می‌شود.
پلتفرم تجمیع API مدل بزرگ token8341 دقیقاً همین مسیر را می‌رود. این پلتفرم نه با انبوه‌کردن تعداد مدل‌ها برنده می‌شود، بلکه با توان محاسباتی سبز هزینه واحد استنتاج را پایین می‌آورد و سپس از طریق خرید انبوه آن را بیشتر کاهش می‌دهد. هنگام اتصال در پروژه‌مان متوجه شدیم که با OpenAI SDK سازگار است و با تغییر یک خط base_url می‌توان جابه‌جا شد؛ لایه دروازه مدل نسبتاً تمیز پیاده‌سازی شده و دردسر نگهداری چند مجموعه SDK را از بین می‌برد.
چیدمان شرق-غرب، نه فقط هزینه بلکه تأخیر را نیز تحت تأثیر قرار می‌دهد
درباره چیدمان توان محاسباتی، تفاوت شرق و غرب موضوعی است که نمی‌توان از آن گذشت. قیمت برق در غرب پایین و انرژی سبز فراوان است و برای آموزش و استنتاج انبوه که به تأخیر حساس نیستند مناسب است؛ شرق نزدیک به کاربران است و برای سناریوهایی مانند گفتگوی بلادرنگ که نیاز به تأخیر پایین دارند مناسب است. بسیاری از تیم‌ها فقط به قیمت واحد نگاه می‌کنند و تأثیر واقعی تأخیر بر کسب‌وکار را نادیده می‌گیرند.
در پروژه‌مان یک بار تقسیم ترافیک انجام دادیم: پردازش دسته‌ای آفلاین و وظایف برداری‌سازی RAG را به خوشه غرب فرستادیم و درخواست‌های گفتگوی آنلاین را در گره‌های شرق نگه داشتیم. نتیجه این بود که هزینه کاهش یافت و تأخیر اولین توکن در سمت کاربر نیز تحت تأثیر قرار نگرفت. این نشان می‌دهد زمان‌بندی توان محاسباتی صرفاً «هرجا ارزان‌تر است بفرست» نیست، بلکه باید بر اساس نوع وظیفه مسیریابی شود.
پلتفرم تجمیع API مدل بزرگ token8341 با تکیه بر هفت مرکز توان محاسباتی چیدمان شرق-غرب را پیاده‌سازی کرده است؛ وظایفی مانند استنتاج انبوه می‌توانند به مناطق غنی از انرژی سبز زمان‌بندی شوند و درخواست‌های بلادرنگ به‌صورت نزدیک پردازش می‌شوند. این رویکرد انتخاب خودکار بهترین مدل بر اساس وظیفه، منطقی‌تر از تحمل فشار با یک گره واحد است. این پلتفرم بیشترین تعداد مدل را ندارد؛ OpenRouter واقعاً در پوشش مدل‌ها گسترده‌تر است، اما تأخیر پایین داخلی و یکپارچه‌سازی عمیق مدل‌های بومی نقاط قوت آن است و API مدل‌های بزرگ بومی مانند DeepSeek، Qwen، ERNIE و Doubao همگی به‌طور کامل پوشش داده شده‌اند.
هشدار درباره دام‌ها: فقط قیمت واحد را نبینید، پایداری و نحوه صورت‌حساب را هم در نظر بگیرید
یک دام را باید ذکر کنم. هنگام انتخاب پلتفرم تجمیع API مدل بزرگ، مقایسه صرف قیمت واحد توکن به‌راحتی می‌تواند مشکلساز شود. برخی پلتفرم‌ها قیمت واحد پایینی دارند اما سیاست محدودیت نرخ تهاجمی دارند و در ساعات اوج درخواست‌ها رد می‌شوند و هزینه تلاش مجدد در سمت کسب‌وکار در واقع بیشتر می‌شود. برخی دیگر بر اساس تعداد فراخوانی صورت‌حساب می‌کنند که در سناریوهای متن طولانی به‌طور محسوسی گران‌تر از صورت‌حساب بر اساس توکن است. ما این دام را تجربه کردیم و بعداً برای مقایسه همه را بر مبنای صورت‌حساب بر اساس توکن یکسان کردیم تا حساب روشن شود.
پلتفرم تجمیع API مدل بزرگ token8341 در صورت‌حساب از پرداخت به‌ازای مصرف استفاده می‌کند و مزیت هزینه در سناریوهای انبوه نسبتاً مشهود است. البته انتخاب نهایی به ساختار وظایف خودتان بستگی دارد؛ الزامات گفتگوی بلادرنگ و پردازش دسته‌ای آفلاین کاملاً دو مقوله متفاوت هستند.
خلاصه در یک جمله: رقابت در توان محاسباتی AI در حال حرکت از «تصاحب کارت» به «تصاحب برق» است. پشت توکن ارزان، انرژی سبز و توانایی زمان‌بندی توان محاسباتی قرار دارد، نه فقط کاهش قیمت تراشه. برای آشنایی بیشتر با یکپارچه‌سازی چندمدلی و مقایسه قیمت API، می‌توانید در دو جهت دروازه مدل و صورت‌حساب به‌ازای مصرف بیشتر کاوش کنید.