Якщо ви користувалися лише одним постачальником LLM, ціна в прайс-листі на сторінці тарифів цього постачальника, ймовірно, виглядає як остаточна ціна. Це не так. Це роздрібна ціна, і, як більшість роздрібних цін, вона містить чимало націнки та прихованої структури. Агрегатори заробляють саме на тому, що атакують цю структуру.
Чому прямі ціни з прайс-листа високі
Пряме ціноутворення включає витрати, не пов'язані із запуском моделі. Коли ви купуєте безпосередньо в постачальника, ви також платите за:
•Мінімальні зобов'язання. Деякі постачальники вимагають передоплачений баланс або зобов'язання щодо витрат, перш ніж дати вам найкращу ставку. Невеликі команди рідко досягають цих рівнів.
•Один постачальник, один договір. Кожен вендор має власну реєстрацію, власний білінг, власну валюту. Робота з трьома постачальниками означає три рахунки та три способи оплати.
•Жодної конкуренції всередині вашого власного рахунку. Коли ви прив'язані до одного вендора, цей вендор не має причин давати знижку. Ви платите його ставку або йдете.
•Обмеження швидкості, встановлені для їхнього захисту, а не для вашої зручності.
Агрегатори існують тому, що можуть купувати upstream-потужності оптом і передавати частину знижки далі. Вони також дозволяють вам переміщати витрати між постачальниками, і це справжній важіль: якщо модель A наступного місяця подешевшає, ви перемикаєте свій трафік, не змінюючи вендора.
Математика, з округленими числами
Дозвольте навести навмисно прості приклади чисел, щоб форма була зрозумілою. Реальні ціни постійно змінюються, але арифметика залишається тією самою.
Скажімо, постачальник вказує модель за $2.50 за мільйон вхідних токенів і $10.00 за мільйон вихідних токенів. Типове навантаження, скажімо, сумаризатор тікетів підтримки, що обробляє 10 мільйонів вхідних токенів і 4 мільйони вихідних токенів на місяць, коштуватиме:
Direct: (10M x $2.50) + (4M x $10.00) = $25 + $40 = $65.00 / monthАгрегатор, який домовився про об'ємне ціноутворення, може запропонувати ту саму модель приблизно за чверть ціни з прайс-листа, $0.60 за мільйон на вході та $2.40 за мільйон на виході:
Aggregated: (10M x $0.60) + (4M x $2.40) = $6.00 + $9.60 = $15.60 / monthЦе близько $49 економії на місяць на одному скромному навантаженні, зниження приблизно на 76%, ще до того, як ви торкнетеся чогось іншого. Збільште кількість токенів на порядок, і абсолютна економія зросте відповідно.
Ключовий момент — не ці конкретні числа. Момент у тому, що розрив між «ціною з прайс-листа» та «об'ємною ціною» реальний, і завдання агрегатора — сидіти в цьому розриві та повертати частину його вам.
Інші витрати, що ховаються в дрібному шрифті
Ціна за токен — це заголовок, але це не весь рахунок. Три речі збивають людей з пантелику:
Ціноутворення при влучанні в кеш. Деякі моделі дають знижку на токени, що влучають у кеш промпту. Якщо один постачальник стягує повну ціну за кешований вхід, а інший — 10% від неї, навантаження з повторюваними промптами може відрізнятися за вартістю дуже суттєво навіть за однакової ціни з прайс-листа. Запитайте перед тим, як зобов'язуватися.
Валютні та платіжні тертя. Купівля у вендора, чий білінг у валюті або регіоні, які не подобаються вашій картці, додає комісії за конвертацію та головний біль із невдалими списаннями. Єдиний рахунок агрегатора у вашій власній валюті прибирає це.
Обмеження швидкості як прихована витрата. Дешева модель, яку ви можете викликати лише 10 разів на хвилину, не є дешевою; ви побудуєте логіку повторних спроб і черг для компенсації, а це інженерний час. Обмеження пропускної здатності належать до порівняння цін, навіть якщо їх немає на сторінці тарифів.
Швидкий оцінювач вартості
Оцінити витрати до того, як ви почнете будувати, просто, коли у вас є числа. Ось невеликий скрипт на Python у цьому дусі:
def monthly_cost(input_tokens, output_tokens, in_price, out_price):
# prices are per million tokens
return (input_tokens / 1e6) * in_price + (output_tokens / 1e6) * out_price
# Direct list price
direct = monthly_cost(10_000_000, 4_000_000, 2.50, 10.00)
# Aggregator price (example values)
aggregated = monthly_cost(10_000_000, 4_000_000, 0.60, 2.40)
print(f"Direct: ${direct:.2f}")
print(f"Aggregated: ${aggregated:.2f}")
print(f"Saved: ${direct - aggregated:.2f}")Проженіть через нього свої реальні кількості токенів зі своїми реальними цінами. Це єдине число, яке має значення.
Де агрегатори не заощаджують вам гроші
Маю бути відвертим щодо обмежень. Агрегатор — це перепродавець. Деякі моделі взагалі недоступні через перепродавців, а для деяких нішевих моделей націнка агрегатора може бути гіршою, ніж пряма купівля. Економія найбільша на популярних моделях загального призначення, де існують об'ємні знижки. Для екзотичної моделі, яку ви викликаєте рідко, різниця — це шум.
Також дешевша ціна нічого не варта, якщо надійність агрегатора погана. Економія 30%, яка дає вам нестабільний ендпоінт, коштує більше ніж 30%, коли ви врахуєте повторні спроби, тікети підтримки та ваш власний час. Ціна та надійність — це одне рішення, а не два.
SiCore TokenWorks — це проста версія цієї моделі: сумісний з OpenAI, оплата за фактом використання, з каталогом популярних моделей від DeepSeek, Qwen, ERNIE, Doubao, Spark і Pangu поряд із GPT-4o, Claude і Gemini, за цінами значно нижчими за офіційні ставки за токен.