وبلاگ فنی
کاوش در مدل‌های بزرگ AI، توسعه API و روندهای فناوری پیشرو — اشتراک‌گذاری فنی تیم SiCore TokenWorks
روندهای token8341: انتخاب API مدل‌های بزرگ — چرا دیگر تنها به رتبه‌بندی‌ها نگاه نمی‌کنیم
دو سال پیش به یک تیم که روی سیستم پشتیبانی مشتریان بین‌المللی کار می‌کرد، در بازبینی معماری کمک می‌کردم. روی وایت‌برد اتاق جلسات پر بود از جدول‌های مقایسه
چگونه بدون تغییر کد، بین ارائه‌دهندگان LLM جابه‌جا شویم
بیشتر مردم وقتی پروژه‌ای را شروع می‌کنند، به قابلیت انتقال بین ارائه‌دهندگان فکر نمی‌کنند. آن‌ها از هر فروشنده‌ای که ثبت‌نام در آن آسان‌تر باشد یک کلید می
مقایسه قیمت‌گذاری API مدل‌های زبانی بزرگ: چگونه Aggregatorها در هزینه شما صرفه‌جویی می‌کنند
اگر تنها از یک ارائه‌دهنده LLM استفاده کرده‌اید، احتمالاً قیمت درج‌شده در صفحه قیمت‌گذاری آن ارائه‌دهنده به نظرتان همان قیمت واقعی است. اما این‌طور نیست. آ
یک API Key برای همه مدل‌ها: استدلالی برای یک LLM Gateway
هر provider به شما یک کلید می‌دهد. بعد از سومی، کلیدها دیگر یک راحتی نیستند و به سیستمی تبدیل می‌شوند که باید بسازید و نگهداری کنید. شما N provider دارید،
هوش مصنوعی سبز: اجرای استنتاج LLM با انرژی پاک
داستان کربنی هوش مصنوعی معمولاً بر آموزش تمرکز دارد. این قابل درک است: یک اجرای بزرگ آموزش می‌تواند در طول چند هفته مگاوات‌ساعت انرژی مصرف کند. اما آموزش ی
برای انتخاب ارائه‌دهنده API مدل زبانی بزرگ به چه نکاتی توجه کنیم: یک چک‌لیست
انتخاب یک ارائه‌دهنده LLM بر اساس نمرات بنچمارک مثل انتخاب رستوران بر اساس عکس‌های منو است. مدل مهم است، اما همه‌چیزِ اطراف مدل هم مهم است، و همین موارد جا