LLM 제공업체를 한 곳만 사용해 본 적이 있다면, 그 제공업체의 가격 페이지에 있는 정가가 곧 가격이라고 생각하기 쉽습니다. 하지만 그렇지 않습니다. 그것은 소비자가 가격이며, 대부분의 소비자가 가격처럼 그 안에는 상당한 마진과 구조가 녹아 있습니다. 어그리게이터는 바로 그 구조를 공략하여 수익을 법니다.
직접 정가가 비싼 이유
직접 가격에는 모델을 실행하는 것과 무관한 비용이 포함됩니다. 공급업체에서 직접 구매하면 다음에 대한 비용도 함께 지불하게 됩니다:
•최소 약정. 일부 제공업체는 최상의 요율을 주기 전에 선불 잔액이나 약정 지출을 요구합니다. 소규모 팀은 좀처럼 그 등급에 도달하지 못합니다.
•한 제공업체, 한 계약. 모든 공급업체는 자체 가입, 자체 청구, 자체 통화를 가지고 있습니다. 세 곳의 제공업체를 운영하면 세 장의 청구서와 세 가지 결제 수단이 필요합니다.
•자체 청구서 안에서의 경쟁 부재. 한 공급업체에 묶여 있으면 그 공급업체는 할인할 이유가 없습니다. 그들의 요율을 지불하거나 떠나야 합니다.
•귀하의 편의가 아닌 그들의 보호를 위해 설정된 속도 제한.
어그리게이터가 존재하는 이유는 대량으로 업스트림 용량을 구매하고 할인의 일부를 귀하에게 전가할 수 있기 때문입니다. 또한 제공업체 간에 지출을 이동할 수 있게 해주는데, 이것이 진정한 레버리지입니다. 모델 A가 다음 달에 더 저렴해지면 공급업체를 바꾸지 않고도 트래픽을 전환할 수 있습니다.
숫자로 보는 계산
이해를 돕기 위해 의도적으로 간단한 예시 숫자를 사용하겠습니다. 실제 가격은 끊임없이 변하지만 산수는 동일합니다.
한 제공업체가 어떤 모델을 백만 입력 토큰당 $2.50, 백만 출력 토큰당 $10.00에 책정했다고 가정해 봅시다. 일반적인 워크로드, 예를 들어 월 1,000만 입력 토큰과 400만 출력 토큰을 처리하는 지원 티켓 요약기의 비용은 다음과 같습니다:
직접: (10M x $2.50) + (4M x $10.00) = $25 + $40 = $65.00 / 월대량 가격을 협상한 어그리게이터는 동일한 모델을 정가의 약 4분의 1, 즉 백만 입력당 $0.60, 백만 출력당 $2.40에 제공할 수 있습니다:
어그리게이터: (10M x $0.60) + (4M x $2.40) = $6.00 + $9.60 = $15.60 / 월이는 하나의 적당한 워크로드에서 월 약 $49를 절약하는 것으로, 약 76% 감소이며, 다른 어떤 것도 건드리기 전의 수치입니다. 토큰 수를 10배로 늘리면 절대 절감액도 그에 비례해 커집니다.
핵심은 이 특정 숫자가 아닙니다. 핵심은 "정가"와 "대량 가격" 사이의 격차가 실제로 존재하며, 어그리게이터의 역할은 그 격차에 자리 잡고 그 일부를 귀하에게 돌려주는 것입니다.
세부 약관에 숨어 있는 다른 비용
토큰당 가격이 헤드라인이지만 전체 청구서는 아닙니다. 사람들을 걸려 넘어지게 하는 세 가지가 있습니다:
캐시 적중 가격. 일부 모델은 프롬프트 캐시에 적중한 토큰을 할인합니다. 한 제공업체가 캐시된 입력에 정가를 부과하고 다른 제공업체가 그 10%를 부과한다면, 반복적인 프롬프트가 있는 워크로드는 동일한 정가에서도 비용이 크게 달라질 수 있습니다. 약정하기 전에 문의하세요.
통화 및 결제 마찰. 귀하의 카드가 선호하지 않는 통화나 지역으로 청구하는 공급업체에서 구매하면 환전 수수료와 결제 실패 문제가 추가됩니다. 귀하의 통화로 된 단일 어그리게이터 청구서는 이를 제거합니다.
숨겨진 비용으로서의 속도 제한. 분당 10회만 호출할 수 있는 저렴한 모델은 저렴하지 않습니다. 이를 보완하기 위해 재시도 및 대기 로직을 구축해야 하며, 이는 엔지니어링 시간입니다. 처리량 제한은 가격 페이지에 없더라도 가격 비교에 포함되어야 합니다.
간단한 비용 추정기
숫자만 있으면 구축 전에 지출을 추정하는 것은 간단합니다. 다음은 그 취지에 맞는 작은 Python 스크립트입니다:
def monthly_cost(input_tokens, output_tokens, in_price, out_price):
# prices are per million tokens
return (input_tokens / 1e6) * in_price + (output_tokens / 1e6) * out_price
# Direct list price
direct = monthly_cost(10_000_000, 4_000_000, 2.50, 10.00)
# Aggregator price (example values)
aggregated = monthly_cost(10_000_000, 4_000_000, 0.60, 2.40)
print(f"Direct: ${direct:.2f}")
print(f"Aggregated: ${aggregated:.2f}")
print(f"Saved: ${direct - aggregated:.2f}")실제 토큰 수와 실제 가격을 넣어 실행해 보세요. 그것이 유일하게 중요한 숫자입니다.
어그리게이터가 비용을 절감해 주지 않는 경우
한계에 대해 솔직해져야 합니다. 어그리게이터는 재판매업자입니다. 일부 모델은 재판매업자를 통해 전혀 이용할 수 없으며, 일부 틈새 모델의 경우 어그리게이터의 마크업이 직접 구매보다 더 나쁠 수 있습니다. 절감 효과는 대량 할인이 존재하는 인기 있는 범용 모델에서 가장 큽니다. 거의 호출하지 않는 특수한 모델의 경우 그 차이는 미미합니다.
또한 어그리게이터의 신뢰성이 나쁘면 더 저렴한 가격은 무의미합니다. 불안정한 엔드포인트를 얻는 30% 절감은 재시도, 지원 티켓, 그리고 귀하의 시간을 고려하면 30% 이상의 비용이 듭니다. 가격과 신뢰성은 두 가지가 아니라 하나의 결정입니다.
SiCore TokenWorks는 이 모델의 직관적인 버전입니다: OpenAI 호환, 종량제, DeepSeek, Qwen, ERNIE, Doubao, Spark, Pangu의 인기 모델과 GPT-4o, Claude, Gemini를 함께 제공하며, 공식 토큰당 요율보다 훨씬 저렴하게 책정되어 있습니다.