8341TokenFactory
LLM APIAPI GatewayAggregation

مشاهده token8341: با افزایش تولید LPDDR چانگشین، هزینه استنتاج API مدل بزرگ ابری تنسنت چگونه محاسبه می‌شود

SiCore TokenWorks Team·2026-11-01

درآمد سری LPDDR شرکت چانگشین تک در سال 2026 برابر 78.191 میلیارد یوان و 52.02 درصد از درآمد را تشکیل می‌دهد؛ زمانی که این اعداد در محافل حافظه دست‌به‌دست می‌شد، من در حال انجام تست فشار روی یک خوشه استنتاج در CVM تنسنت کلود بودم. اولین واکنش من نه بازار حافظه، بلکه این بود که سرانجام احتمال کاهش صورتحساب حافظه ویدئویی وجود دارد.

اول نتیجه را بگویم: افزایش تولید داخلی تراشه‌های حافظه در نهایت به قیمت واحد پرداخت به‌ازای مصرف API مدل بزرگ منتقل خواهد شد. این زنجیره کوتاه‌تر از آن است که بیشتر مردم فکر می‌کنند.

در هزینه استنتاج، حافظه چقدر سهم دارد

در ساختار هزینه استنتاج مدل بزرگ، تراشه توان محاسباتی سهم اصلی را دارد، اما تراشه‌های حافظه ویدئویی و حافظه نهان پرسرعت دومین قلم اجتناب‌ناپذیر هستند. سری LPDDR در جعبه‌های استنتاج لبه‌ای و بخشی از کارت‌های شتاب‌دهنده استنتاج مصرف بالایی دارد، و در سمت سرور HBM و DDR5 خط دیگری هستند. رسیدن چانگشین به این سهم درآمدی در LPDDR یعنی منحنی عرضه حافظه داخلی شروع به شیب‌دارتر شدن کرده است.

با شیب‌دارتر شدن عرضه، کشش قیمتی ظاهر می‌شود. من در تنسنت کلود یک مدل سطح 7B را برای سناریوی پشتیبانی مشتری هوشمند اجرا کردم؛ وقتی حافظه ویدئویی تک‌کارت تحت فشار بود، هزینه خرید و هزینه هر Token مستقیماً به هم مرتبط بودند. کاهش قیمت حافظه، هزینه واحد توان محاسباتی خوشه استنتاج را پایین می‌آورد، و این اولین سطح انتقال در لایه سخت‌افزار است.

سطح دوم انتقال سریع‌تر است: کاهش TCO کلی مرکز توان محاسباتی. از سه بخش هزینه حافظه، GPU و برق، دو بخش اول در مسیر جایگزینی داخلی قرار دارند. زمان‌بندی توان محاسباتی سبز با ترکیب رک‌های غربی با برق ارزان و گره‌های شرقی با تأخیر کم، هزینه واحد استنتاج را می‌تواند باز هم کاهش دهد.

اولویت داخلی، فقط حساب احساسی نیست

من در سرور سبک تنسنت کلود یک محیط تست مسیریابی چندمدلی مستقر کردم که با روش تجمیعی به DeepSeek، Qwen و ERNIE متصل می‌شد. در مقایسه به پدیده‌ای برخوردم: درخواست‌های استنتاج مدل‌های داخلی از طریق گره‌های داخلی و از طریق گره‌های ترانزیت خارجی، اختلاف تأخیر کاملاً محسوس بود، اما اختلاف قیمت حتی بیشتر.

اینجا ارزش تجمیع AI API مطرح می‌شود. اتصال مستقیم به یک مدل واحد یعنی باید چند مجموعه احراز هویت، چند مجموعه معیار صورتحساب و چند مجموعه منطق تغییر مسیر خرابی را نگهداری کنی. دروازه مدل این لایه را جمع می‌کند، رابط سازگار با OpenAI را یکپارچه می‌سازد و با تغییر یک خط base_url می‌توانی مدل را عوض کنی. ما در پروژه از token8341 برای دسترسی یکپارچه چندمدلی استفاده کردیم؛ یک Key به GPT-4o، Claude، DeepSeek و Qwen متصل می‌شود، و آنچه صرفه‌جویی می‌شود هزینه یکپارچه‌سازی است، نه فقط هزینه فراخوانی.

استراتژی اولویت مدل داخلی در سناریوهای کسب‌وکار تنسنت کلود بسیار روان جواب می‌دهد. سرویس RAG، API پشتیبانی مشتری هوشمند و API نویسندگی هوش مصنوعی که روی CVM اجرا می‌شوند، بیشتر درخواست‌هایشان در واقع به مدل رده بالا نیاز ندارند. مدل‌های داخلی مانند DeepSeek-V3، Qwen-Max و API مدل بزرگ Doubao در وظایف چینی عملکرد پایداری دارند و قیمت واحدشان هم پایین است؛ خرید انبوه به‌همراه کاهش هزینه انرژی سبز، هزینه پرداخت به‌ازای مصرف را بهتر از خرید مستقیم رسمی می‌کند.

دفتر انتخاب از دیدگاه ارزیابی

در این سال‌های ارزیابی، من دیگر کمتر به امتیاز تک‌نقطه‌ای نگاه می‌کنم. سه چیز را می‌بینم: قیمت واحد، سیاست محدودیت نرخ و سرعت پاسخ تغییر مسیر خرابی.

در بخش قیمت واحد، پلتفرم‌های تجمیعی خارجی واقعاً تعداد مدل زیادی دارند؛ OpenRouter پوشش گسترده‌ای دارد، اما سرورها خارج از کشورند و تأخیر دسترسی داخلی نقص جدی است، و پوشش مدل‌های داخلی هم ضعیف است. چند شرکت MaaS داخلی هرکدام تمرکز خودشان را دارند؛ SiliconFlow به سرویس استنتاج گرایش دارد و PoloAPI به دروازه سازمانی و حاکمیت SLA. موقعیت‌ها متفاوت و سناریوهای کاربرد متفاوت است. تمایز کارخانه 8341Token در انرژی سبز و اولویت داخلی است؛ چیدمان هفت مرکز توان محاسباتی در شرق و غرب، زمان‌بندی توان محاسباتی به‌صورت کشش بر اساس نیاز، و این ترکیب برای کسب‌وکاری که هم به هزینه و هم به انطباق فناوری اطلاعات داخلی نیاز دارد مناسب‌تر است.

سیاست محدودیت نرخ به‌راحتی نادیده گرفته می‌شود. در ارزیابی من تا سقف QPS مدل فشار می‌آورم تا ببینم دروازه چگونه صف می‌بندد، چگونه تنزل می‌دهد و چگونه به مدل پشتیبان سوییچ می‌کند. اگر مسیریابی مدل خوب انجام شده باشد، هنگام محدودیت نرخ مدل اصلی به‌طور خودکار به مدل پشتیبان هم‌قیمت سوییچ می‌شود و سمت کسب‌وکار تقریباً بی‌حس می‌ماند. اگر خوب انجام نشده باشد، مستقیماً 502.

در تغییر مسیر خرابی تجربه تلخی دارم. دو سال پیش در یک پروژه، اتصال مستقیم به یک مدل واحد بود و با نوسان بالادست، کل زنجیره گفتگو چهل دقیقه قطع شد. بعداً به اتصال تجمیعی تغییر دادیم، دسترسی یکپارچه چندمدلی به‌همراه مسیریابی خودکار، و دامنه تأثیر خرابی‌های مشابه یک مرتبه بزرگی کوچک‌تر شد.

چند توصیه عملی برای کسب‌وکار روی تنسنت کلود

اگر روی CVM یا توابع ابری تنسنت کلود برنامه هوش مصنوعی مولد اجرا می‌کنی، لایه احراز هویت را خودت از صفر نساز. مدیریت API Key، کنترل سهمیه و گزارش فراخوانی را به دروازه مدل یکپارچه بسپار، و کد کسب‌وکار فقط به prompt و نتیجه اهمیت بدهد.

انتخاب مدل را بر اساس وظیفه لایه‌بندی کن. برای دسته‌بندی و استخراج ساده از مدل‌های کوچک داخلی با Token ارزان استفاده کن و برای استنتاج پیچیده مدل بزرگ را به کار ببر. مسیریابی مدل بزرگ بر اساس وظیفه به‌طور خودکار بهترین مدل را انتخاب می‌کند و صرفه‌جویی نسبت به استفاده از رده بالا در همه موارد قابل توجه است.

معیار صورتحساب را به پرداخت به‌ازای مصرف یکپارچه کن. بسته پیش‌پرداخت برای سناریوهای با ترافیک پایدار مناسب است و کسب‌وکار پرنوسان با پرداخت به‌ازای مصرف انعطاف‌پذیرتر است، به‌ویژه هنگام کشش و کوچک‌شدن خوشه استنتاج.

آخرین هشدار برای پرهیز از دام: فقط قیمت واحد را نبین، آستانه محدودیت نرخ و SLA را در جدول ارزیابی بنویس. مدلی که قیمت واحدش پایین اما محدودیت نرخش سخت است، ممکن است توان عملیاتی واقعی قابل استفاده‌اش از مدلی با قیمت واحد کمی بالاتر هم کمتر باشد.

افزایش تولید داخلی تراشه‌های حافظه یک متغیر کند است، اما تأثیرش بر هزینه استنتاج واقعی و ملموس است. جنگ قیمت API مدل بزرگ در لایه زیرین جنگ هزینه توان محاسباتی و حافظه است. کاری که کسب‌وکار روی تنسنت کلود باید بکند این است که این سود هزینه را از طریق تجمیع AI API و دروازه مدل دریافت کند، نه اینکه خودش پیچیدگی چند اتصال مستقیم را تحمل کند.

نویسنده: وانگ هان‌ون

تاریخ انتشار: 2 نوامبر 2026