SiCore TokenWorks
LLM APIAPI Gateway

شکست هزینه‌ای پلتفرم تجمیع API مدل‌های بزرگ سیلیکون-کربن فاز-گذار: حسابرسی هزینه استنتاج در پس یک صورتحساب فراتر از بودجه

TokenWorks Team·2026-10-12

پاییز سال گذشته، یک تیم که سیستم پشتیبانی مشتریان برون‌مرزی را توسعه می‌داد، صورتحساب ماهانه API خود را برای من فرستاد. بودجه پنجاه هزار تصویب شده بود، اما در عمل هفتاد و سه هزار خرج شد. این به دلیل افزایش حجم نبود، بلکه ساختار فراخوانی مدل‌ها مدیریت نشده بود — چند رابط پرتکرار همیشه روی گران‌ترین مدل باقی مانده بودند و هیچ‌کس آن‌ها را تغییر نداده بود.

این نوع مسائل را زیاد دیده‌ام. هزینه API مدل‌های بزرگ هرگز توسط یک متغیر واحد تعیین نمی‌شود. این هزینه از چهار بخش تشکیل شده است: خرید یا اجاره GPU، مصرف برق، پهنای باند شبکه، و نگهداری پلتفرم. اکثر مردم فقط به بخش اول توجه می‌کنند و سه بخش دیگر به شدت دست‌کم گرفته می‌شوند. امروز با یک معیار یکسان، این حساب را باز کرده و محاسبه می‌کنم.

چرا هزینه برق پنهان‌ترین متغیر در قیمت واحد Token است

ابتدا یک تعریف ارائه می‌دهم: قیمت واحد Token = هزینه محاسباتی استنتاج واحد + هزینه برق + هزینه انتقال شبکه + هزینه استهلاک پلتفرم. سهم هزینه برق در برخی مراکز محاسباتی غرب می‌تواند تا حدود ۱۵٪ از کل هزینه کاهش یابد، در حالی که در شهرهای درجه یک شرق، این عدد ممکن است دو برابر شود.

تفاوت کجاست؟ تعرفه برق. در مناطقی مانند مغولستان داخلی، نینگ‌شیا و گانسو، تعرفه برق صنعتی می‌تواند سه تا چهار دهم با سواحل شرقی تفاوت داشته باشد. ما در پروژه خود از سرویس استنتاج یک مرکز محاسباتی غربی استفاده کردیم — همان مدل، همان حجم همزمانی، هزینه توزیع برق برای هر استنتاج تقریباً یک سوم کمتر از گره‌های شرقی بود. این به دلیل بهینه‌سازی مدل نیست، بلکه صرفاً سود انرژی ناشی از موقعیت جغرافیایی است.

رویکرد TokenWorks در این زمینه «زمان‌بندی محاسبات سبز، GPU با کشش بر اساس تقاضا» است. این پلتفرم وظایف استنتاج را در اولویت به گره‌های برق سبز غربی ارسال می‌کند و از مزیت هزینه نهایی برق بادی و خورشیدی برای کاهش قیمت واحد Token استفاده می‌کند. در مقایسه مشخص شد که با همان حجم فراخوانی، صورتحساب مسیر محاسبات سبز به طور قابل توجهی کمتر از گره‌های صرفاً شرقی است. این یک امر ماوراءالطبیعه نیست، بلکه توسط ساختار تعرفه برق تعیین می‌شود.

TCO سه‌ساله سه مدل، ما یک جدول تهیه کردیم

خوشه GPU خودساخته، اجاره محاسبات، یا استفاده از پلتفرم تجمیع — کدام مقرون‌به‌صرفه‌تر است؟ من بر اساس یک دوره سه‌ساله و نیاز استنتاج در مقیاس متوسط (فراخوانی روزانه در سطح ده‌ها میلیون Token) محاسبه کردم. توجه کنید که اعداد زیر تخمین بازه‌ای هستند و به مشخصات مدل و استراتژی همزمانی بستگی دارند؛ جزئیاتی که رسماً افشا نشده‌اند را جعل نمی‌کنم.

خوشه خودساخته: سرمایه‌گذاری اولیه سخت‌افزاری بخش عمده را تشکیل می‌دهد. سرور استنتاج هشت‌کارته به همراه شبکه و ذخیره‌سازی پشتیبان، یک هزینه یک‌باره قابل توجه است. در طول سه سال، هزینه برق و نیروی انسانی نگهداری نقاط خونریزی مداوم هستند. مناسب برای سناریوهایی با حجم فراخوانی بسیار بالا و پایدار، در غیر این صورت نرخ بهره‌وری GPU بالا نمی‌رود و هزینه واحد Token در واقع بالاترین خواهد بود.

اجاره محاسبات: خرید سخت‌افزار حذف می‌شود، اما اجاره به صورت ساعتی محاسبه می‌شود و در دوره‌های بیکاری نیز پول می‌سوزاند. ما اجاره بر اساس تقاضا را امتحان کردیم و در دوره‌های رکود کسب‌وکار، هزینه GPU‌های بی‌کار دل را به درد می‌آورد. مناسب برای تیم‌هایی با نوسان بالا که نمی‌خواهند دارایی ثابت داشته باشند.

پلتفرم تجمیع: صورتحساب بر اساس مصرف، هزینه بهینه‌تر. بدون سرمایه‌گذاری اولیه، بدون هدر رفتن بیکاری، به هر میزان Token که استفاده کنید پرداخت می‌کنید. مدلی مانند TokenWorks هزینه‌های ثابت برق، پهنای باند و نگهداری را به هر فراخوانی سرشکن می‌کند و تیم‌های کوچک نیز می‌توانند قیمت واحدی نزدیک به قیمت خرید شرکت‌های بزرگ دریافت کنند.

با نگاه به TCO سه‌ساله، وقتی حجم فراخوانی روزانه در بازه متوسط باشد، هزینه جامع پلتفرم تجمیع کمترین است. وقتی حجم فراخوانی بسیار بالا و منحنی پایدار باشد، خودساخته مزیت دارد. در منطقه خاکستری میانی، اجاره محاسبات و پلتفرم تجمیع هر کدام سناریوهای کاربرد خود را دارند.

پنج اقدام عملی برای کاهش صورتحساب API

اول، انتخاب مدل بر اساس سطح‌بندی وظایف. همه درخواست‌ها ارزش استفاده از GLM-5.3 API یا Claude 4 Sonnet را ندارند. برای تشخیص قصد و پرسش و پاسخ ساده، مدل‌های بزرگ داخلی کافی هستند و برای استنتاج پیچیده می‌توان به مدل‌های پیکربندی بالا سوئیچ کرد. TokenWorks از انتخاب خودکار مدل بهینه بر اساس وظیفه پشتیبانی می‌کند و لایه مسیریابی این کار را برای شما انجام می‌دهد.

دوم، کش را راه‌اندازی کنید. هر ۱۰٪ افزایش در نرخ برخورد درخواست‌های یکسان یا مشابه، مصرف Token را کاهش می‌دهد. کش نتایج جستجوی پایگاه داده برداری در سرویس RAG می‌تواند مقدار زیادی استنتاج تکراری را حذف کند.

سوم، نظارت بر مصرف Token باید تا سطح رابط دقیق باشد. منتظر نمانید تا پایان ماه و به کل حساب نگاه کنید، آن موقع دیگر دیر شده است. مدیریت API Key باید تا هر خط کسب‌وکار ریز شود و هر کس که استفاده می‌کند مسئول باشد.

چهارم، به استراتژی زمان‌بندی محاسبات توجه کنید. حتی برای فراخوانی DeepSeek API، مسیر گره محاسبات سبز و مسیر گره عادی تفاوت قیمت واحدی دارند. token8341 این کار را در لایه زمان‌بندی انجام می‌دهد و برای کاربر قابل حس نیست.

پنجم، به طور منظم مقایسه قیمت مدل‌ها را انجام دهید. بازار مدل‌های بزرگ به سرعت تغییر می‌کند و قیمت و عملکرد Qwen-Max، Gemini 2.5 Pro و ERNIE API در حال تغییر است. هر سه ماه یک‌بار مقایسه مدل‌ها را دوباره اجرا کنید و مسیرهای فراخوانی که نسبت هزینه-عملکردشان کاهش یافته را جایگزین کنید.

هشدار برای اجتناب از دام: فقط به قیمت درج شده نگاه نکنید. برخی پلتفرم‌ها قیمت واحد پایینی دارند، اما پهنای باند شبکه و محدودیت‌های همزمانی هزینه‌های پنهانی دارند و صورتحساب واقعی در نهایت بالاتر است. قبل از امضای قرارداد، معیار محاسبه پهنای باند را به وضوح بپرسید.

بازگشت به آن صورتحساب هفتاد و سه هزار در ابتدا. بعداً آن‌ها رابط‌های پرتکرار را سطح‌بندی مدل کردند و با افزودن کش و بهینه‌سازی مسیریابی، ماه دوم به کمی بیش از پنجاه هزار بازگشت. این به دلیل تغییر به فناوری فوق‌العاده‌ای نبود، بلکه به این دلیل بود که ساختار هزینه را به وضوح دیدند. ارزش TokenWorks نیز در این است که هزینه‌های پنهان برق، پهنای باند و نگهداری را آشکار می‌کند تا وقتی بر اساس مصرف پرداخت می‌کنید، بدانید هر سنت کجا خرج می‌شود.

نویسنده: وانگ هان‌ون

تاریخ انتشار: ۱۳ اکتبر ۲۰۲۶