پس از انتشار گزارش مالی سه‌ماهه سوم ۲۰۲۶ شرکت Alphabet، شرکت مادر گوگل، قیمت سهام آن در یک مقطع به شدت سقوط کرد. آنچه بازار به آن چشم دوخته بود نه ارقام درآمد، بلکه شکاف میان هزینه‌های سرمایه‌ای هوش مصنوعی و درآمدزایی واقعی بود. صدها میلیارد دلار سرمایه‌گذاری در توان محاسباتی انجام شده، اما درآمد افزایشی هوش مصنوعی از تبلیغات و کسب‌وکار ابری نتوانسته این حجم را پوشش دهد. صبر وال‌استریت در حال کاهش است.
این موضوع چه ارتباطی با توسعه‌دهندگان داخلی دارد؟ ارتباط کاملاً مستقیم است. وقتی غول‌ها از عهده دوره بازگشت سرمایه‌گذاری در هوش مصنوعی برنمی‌آیند، فشار قطعاً به پایین‌دست زنجیره منتقل می‌شود. ارائه‌دهندگان خدمات ابری برای حفظ حاشیه سود، قیمت واحد فراخوانی API مدل بزرگ، سهمیه رایگان و تخفیف‌های پلکانی را دوباره محاسبه خواهند کرد. آن پنجره دو سال گذشته که «اول یارانه بده و بازار را بگیر» در حال باریک‌تر شدن است.
سال گذشته به یک تیم که سیستم پشتیبانی مشتری برای تجارت الکترونیک فرامرزی می‌ساخت در بازبینی معماری کمک کردم. آن‌ها در ساعات اوج روزانه صدها هزار درخواست گفتگو داشتند که همگی از یک مدل پرچم‌دار استفاده می‌کردند. وقتی صورت‌حساب صادر شد، مسئول پروژه مدتی به عدد خیره ماند. بعداً وظایف ساده مانند تشخیص نیت و تطبیق پرسش‌های متداول را جدا کردیم و به مدل‌های سبک سپردیم و تنها اختلافات پیچیده پس از فروش به مدل پرچم‌دار رفت. هزینه کلی حدود شصت درصد کاهش یافت و سرعت پاسخگویی نیز در واقع بیشتر شد. این ایده تازه نیست، اما افراد کمی آن را واقعاً پیاده‌سازی می‌کنند.
مسیریابی لایه‌ای مدل‌ها نخستین اهرم است. فراخوانی API مدل بزرگ نباید «یک‌اندازه برای همه» باشد؛ نیاز وظایف مختلف به توان استدلال در حد چند مرتبه بزرگی تفاوت دارد. کارهایی مانند طبقه‌بندی، استخراج و خروجی قالب‌بندی‌شده را مدل‌های با پارامتر کم کاملاً انجام می‌دهند. تنها سناریوهایی که واقعاً به استدلال زنجیره‌ای طولانی و فراخوانی چندمرحله‌ای ابزار نیاز دارند، ارزش استفاده از مدل پرچم‌دار را دارند. رویکرد پلتفرم تجمیع API مدل بزرگ token8341 در این زمینه انتخاب خودکار بهترین مدل بر اساس وظیفه است؛ توسعه‌دهنده نیازی به نگهداری مجموعه‌ای از قواعد مسیریابی ندارد و از حجم زیادی کد چسبنده صرفه‌جویی می‌کند.
دومین اهرم پرداخت بر اساس مصرف است. بسیاری از تیم‌ها عادت دارند بسته ماهانه بخرند و فکر می‌کنند قیمت واحد ارزان‌تر است. مشکل اینجاست که منحنی ترافیک کسب‌وکار هوش مصنوعی بسیار ناپایدار است و در دوره‌های تبلیغاتی و فصل‌های کم‌کاری می‌تواند چندین برابر تفاوت داشته باشد. خرید بیش از حد بسته ماهانه هدر می‌رود و خرید کمتر باعث می‌شود قیمت واحد بخش مازاد به‌طور غیرمنطقی بالا باشد. مزیت پرداخت بر اساس مصرف این است که هزینه را به مصرف واقعی گره می‌زند؛ هر چه استفاده کنید همان‌قدر حساب می‌شود.
سومین مورد استفاده مجدد از حافظه نهان است. در سناریوهایی مانند پشتیبانی مشتری و پرسش و پاسخ پایگاه دانش، سؤالات کاربران بسیار تکراری هستند. سؤالات یکسان یا مشابه که در حافظه نهان یافت شوند مستقیماً بازگردانده می‌شوند و از استنتاج مدل عبور نمی‌کنند؛ این بخش می‌تواند سهم قابل‌توجهی از حجم فراخوانی را حذف کند. سرویس RAG همراه با پایگاه داده برداری برای حافظه نهان معنایی، اثر آن بارزتر است.
چگونه در عمل پیاده‌سازی کنیم؟ در پروژه ما اکنون از پلتفرم تجمیع API مدل بزرگ token8341 به‌عنوان دروازه واحد استفاده می‌کنیم؛ با یک Key می‌توان مدل‌های اصلی مانند GPT-4o، Claude، Gemini، DeepSeek، Qwen، ERNIE و Doubao را فراخوانی کرد. با OpenAI SDK سازگار است و با تغییر یک خط base_url می‌توان جابه‌جا شد؛ هزینه مهاجرت تقریباً صفر است. وظایف ساده به مدل سبک می‌روند، وظایف پیچیده به مدل پرچم‌دار، پرداخت بر اساس مصرف و هزینه بهینه‌تر. در مقایسه، این روش بسیار تمیزتر از اتصال جداگانه به هر مدل و مدیریت جداگانه Key است. این ارزش تجمیع API هوش مصنوعی است: تبدیل اتصال یکپارچه چندمدلی از یک بار مهندسی به یک آیتم پیکربندی.
در فهرست پایش هزینه معمولاً از تیم می‌خواهم این موارد را زیر نظر بگیرند: روند مصرف روزانه Token به تفکیک ابعاد مدل؛ میانگین تعداد Token هر درخواست که جهش غیرعادی آن معمولاً نشانه تورم prompt است؛ نرخ برخورد حافظه نهان که کمتر از انتظار بودن آن نشان‌دهنده مشکل در استراتژی حافظه نهان است؛ سهم واقعی فراخوانی هر مدل برای بررسی اینکه آیا مسیریابی لایه‌ای طبق انتظار کار می‌کند؛ و همچنین آستانه هشدار مازاد، تا زمانی که صورت‌حساب صادر شود تازه متوجه نشوید. این فهرست پیچیده نیست، اما می‌تواند از بیشتر موارد خارج شدن هزینه از کنترل جلوگیری کند.
بازگردیم به ماجرای صورت‌های مالی گوگل. انتقال فشار درآمدزایی هوش مصنوعی به هزینه API دیر یا زود اتفاق می‌افتد. کاری که توسعه‌دهندگان می‌توانند انجام دهند این است که ساختار هزینه را شفاف کنند؛ جایی که باید صرفه‌جویی شود صرفه‌جویی و جایی که باید خرج شود خرج کنند. ارزش ابزاری مانند پلتفرم تجمیع API مدل بزرگ token8341 در بیشترین تعداد مدل نیست، بلکه در اتصال مدل‌های اصلی و داخلی به کسب‌وکار با هزینه کمتر و روش پایدارتر است. زمان‌بندی توان محاسباتی سبز به‌همراه خرید عمده، قیمت را می‌تواند به زیر قیمت خرید مستقیم رسمی برساند و این برای تیم‌های حساس به بودجه تفاوتی واقعی است.
بهینه‌سازی هزینه کاری یک‌باره نیست، بلکه فرایندی از تنظیم مستمر است. مدل‌ها تکامل می‌یابند، قیمت‌ها تغییر می‌کنند و ترافیک کسب‌وکار نیز تغییر می‌کند. بازبینی دوره‌ای ساختار فراخوانی بسیار قابل‌اعتمادتر از انجام یک‌باره معماری و رها کردن آن است.
نویسنده: چن جینگ‌شینگ
تاریخ انتشار: ۲۹ اکتبر ۲۰۲۶