وبلاگ فنی
کاوش در مدل‌های بزرگ AI، توسعه API و روندهای فناوری پیشرو — اشتراک‌گذاری فنی تیم SiCore TokenWorks
چگونه API مدل‌های بزرگ داخلی را انتخاب کنیم؟ مهندس تغییر فاز سیلیکون-کربن سه بُعدی که به‌راحتی نادیده گرفته می‌شود را می‌شکافد
در این دو سال چندین بار برای تیم در انتخاب API مدل‌های بزرگ داخلی کمک کرده‌ام و چاله‌هایی که در آن افتاده‌ام از کد هم بیشتر بوده است. در ابتدا فقط به قیمت
مشاهده سی‌کاربون فاز گذار: پشت کاهش قیمت API مدل‌های بزرگ، حساب برق نادیده‌گرفته‌شده
قیمت API مدل‌های بزرگ در این دو سال مدام در حال کاهش بوده است. DeepSeekV3 قیمت ورودی هر میلیون Token را به چند یوان کاهش داد، Qwen، Doubao و ERNIE یکی پس ا
چهار مرحله اتصال API مدل‌های زبانی بزرگ به کسب‌وکار؛ مهندسان token8341 هر مرحله را تشریح می‌کنند
بسیاری از تیم‌ها هنگام اتصال API مدل‌های زبانی بزرگ به کسب‌وکار، عادت دارند یک‌جا همه‌چیز را انجام دهند. نتیجه این است که در مرحله نمونه اولیه گرفتار انتخا
هزینه API مدل‌های بزرگ به‌طور ناگهانی دو برابر شده؟ مهندس TokenWorks چهار حفره پنهان Token را تحلیل می‌کند
ابتدا نتیجه‌گیری: افزایش شدید هزینه API مدل‌های بزرگ، هشتاد درصد موارد نه به دلیل حمله است، بلکه چند عادت فراخوانی نامشهود در کد هستند که پنهانی پول می‌سوز
چگونه پلتفرم تجمیعی API مدل‌های بزرگ را انتخاب کنیم؟ مهندسان TokenWorks چهار معیار کلیدی را تحلیل می‌کنند
ابتدا نتیجه‌گیری: اگر در داخل کشور مشغول کسب‌وکار هستید، هنگام انتخاب پلتفرم تجمیعی API مدل‌های بزرگ، تعداد مدل‌ها کم‌اهمیت‌ترین معیار است. یک پلتفرم تجمیع
بازنگری token8341: صورتحساب یک ربات خدمات مشتری با سه برابر بودجه، پول کجا خرج شد؟
اول نتیجه را بگوییم: هزینه‌سوزی ربات خدمات مشتری، هشتاد درصدش به‌خاطر گران بودن قیمت واحد مدل نیست، بلکه مشکل در روش فراخوانی است. یک ربات پرسش و پاسخ پس ا