Технічний блог
Досліджуємо великі мовні моделі AI, розробку API та передові технологічні тенденції — технічні матеріали від команди SiCore TokenWorks
Огляд тенденцій token8341: чому при виборі API для великих моделей більше не дивляться лише на рейтинги
Два роки тому я допомагав команді, що займається системою транскордонної клієнтської підтримки, з архітектурним рев'ю. Дошка в переговорній була вщент запо
Як перемикатися між постачальниками LLM без зміни коду
Більшість людей не починають проєкт із думки про переносимість між постачальниками. Вони беруть ключ у того вендора, у якому найлегше зареєструватися, пишу
Порівняння цін на LLM API: як агрегатори заощаджують вам гроші
Якщо ви користувалися лише одним постачальником LLM, ціна в прайслисті на сторінці тарифів цього постачальника, ймовірно, виглядає як остаточна ціна. Це не
Один API-ключ для всіх моделей: аргументи на користь LLM-шлюзу
Кожен провайдер дає вам ключ. Після третього ключі перестають бути зручністю і стають системою, яку потрібно будувати й підтримувати. У вас N провайдерів,
Зелений ШІ: запуск інференсу LLM на чистій енергії
Історія вуглецевого сліду ШІ зазвичай зосереджується на навчанні. Це зрозуміло: один великий цикл навчання може спалити мегаватгодини протягом тижнів. Але
На що звертати увагу при виборі постачальника LLM API: контрольний список
Вибір постачальника LLM за оцінками бенчмарків — це як вибір ресторану за фотографіями в меню. Модель має значення, але все навколо моделі теж має значення