เปรียบเทียบราคา LLM API: Aggregator ช่วยคุณประหยัดเงินได้อย่างไร

หากคุณเคยใช้ผู้ให้บริการ LLM เพียงรายเดียว ราคาที่แสดงบนหน้าราคาของผู้ให้บริการรายนั้นอาจดูเหมือนเป็นราคาที่แท้จริง แต่ไม่ใช่ นั่นคือราคาขายปลีก และเช่นเดียวกับราคาขายปลีกทั่วไป มันมีกำไรและโครงสร้างซ่อนอยู่เป็นจำนวนมาก Aggregator ทำเงินได้ด้วยการโจมตีโครงสร้างนั้นโดยตรง

ทำไมราคา Direct list ถึงสูง

ราคาแบบ Direct มีค่าใช้จ่ายที่ไม่เกี่ยวกับการรันโมเดล เมื่อคุณซื้อจากผู้ขายโดยตรง คุณยังจ่ายสำหรับ:

•ข้อผูกมัดขั้นต่ำ ผู้ให้บริการบางรายต้องการยอดคงเหลือแบบ prepaid หรือยอดใช้จ่ายที่ผูกมัดก่อนที่จะให้ราคาที่ดีที่สุดแก่คุณ ทีมเล็กๆ แทบไม่ถึงระดับนั้น

•ผู้ให้บริการเดียว สัญญาเดียว ผู้ขายแต่ละรายมีการสมัคร การเรียกเก็บเงิน และสกุลเงินของตัวเอง การรันสามผู้ให้บริการหมายถึงสามใบแจ้งหนี้และสามวิธีการชำระเงิน

•ไม่มีการแข่งขันภายในบิลของคุณเอง เมื่อคุณถูกล็อกกับผู้ขายรายเดียว ผู้ขายรายนั้นไม่มีเหตุผลที่จะให้ส่วนลด คุณจ่ายในอัตราของพวกเขาหรือจากไป

•Rate limit ที่ตั้งขึ้นเพื่อprotectionของพวกเขา ไม่ใช่ความสะดวกของคุณ

Aggregator มีอยู่เพราะพวกเขาสามารถซื้อความจุจากต้นทางในปริมาณมากและส่งต่อส่วนลดบางส่วนลงมา พวกเขายังให้คุณย้ายการใช้จ่ายระหว่างผู้ให้บริการได้ ซึ่งเป็นอำนาจต่อรองที่แท้จริง: หากโมเดล A ถูกลงในเดือนหน้า คุณเปลี่ยนทราฟฟิกโดยไม่ต้องเปลี่ยนผู้ขาย

คณิตศาสตร์ ด้วยตัวเลขกลมๆ

ผมจะใช้ตัวเลขตัวอย่างที่เรียบง่ายโดยตั้งใจเพื่อให้เห็นรูปร่างชัดเจน ราคาจริงเปลี่ยนตลอดเวลา แต่การคำนวณก็เหมือนเดิม

สมมติว่าผู้ให้บริการตั้งราคาโมเดลที่ $2.50 ต่อล้าน input token และ $10.00 ต่อล้าน output token งานทั่วไป เช่นตัวสรุป ticket support ที่ใช้ 10 ล้าน input token และ 4 ล้าน output token ต่อเดือน จะมีค่าใช้จ่าย:

Direct:  (10M x $2.50) + (4M x $10.00) = $25 + $40 = $65.00 / เดือน

Aggregator ที่ได้เจรจาราคาตามปริมาณอาจเสนอโมเดลเดียวกันในราคาประมาณหนึ่งในสี่ของราคา list คือ $0.60 ต่อล้าน input และ $2.40 ต่อล้าน output:

Aggregated:  (10M x $0.60) + (4M x $2.40) = $6.00 + $9.60 = $15.60 / เดือน

นั่นคือประหยัดได้ประมาณ $49 ต่อเดือนสำหรับงานขนาดพอประมาณหนึ่งงาน ลดลงประมาณ 76% ก่อนที่คุณจะแตะอะไรอื่น ขยายจำนวน token ขึ้นสิบเท่าและเงินที่ประหยัดได้ก็จะขยายตามไปด้วย

ประเด็นสำคัญไม่ใช่ตัวเลขเฉพาะเหล่านี้ ประเด็นคือช่องว่างระหว่าง "ราคา list" กับ "ราคาตามปริมาณ" นั้นมีอยู่จริง และหน้าที่ของ aggregator คือการอยู่ในช่องว่างนั้นและคืนบางส่วนกลับให้คุณ

ค่าใช้จ่ายอื่นที่ซ่อนอยู่ในตัวอักษรเล็กๆ

ราคาต่อ token คือพาดหัวข่าว แต่มันไม่ใช่บิลทั้งหมด มีสามสิ่งที่ทำให้คนสะดุด:

ราคา cache-hit โมเดลบางตัวให้ส่วนลดกับ token ที่ตรงกับ prompt cache หากผู้ให้บริการรายหนึ่งคิดราคาเต็มสำหรับ cached input และอีกรายคิด 10% ของมัน งานที่มี prompt ซ้ำๆ อาจมีค่าใช้จ่ายต่างกันมากแม้ในราคา list เดียวกัน ถามก่อนที่คุณจะตัดสินใจ

สกุลเงินและความยุ่งยากในการชำระเงิน การซื้อจากผู้ขายที่เรียกเก็บเงินในสกุลเงินหรือภูมิภาคที่บัตรของคุณไม่รองรับจะเพิ่มขึ้นค่าธรรมเนียมการแปลงและปัญหาเรื่องการเรียกเก็บเงินล้มเหลว บิล aggregator เดียวในสกุลเงินของคุณเองขจัดปัญหานั้น

Rate limit เป็นค่าใช้จ่ายที่ซ่อนอยู่ โมเดลราคาถูกที่คุณเรียกได้แค่ 10 ครั้งต่อนาทีไม่ใช่ราคาถูก คุณจะต้องสร้าง logic การ retry และ queueing เพื่อชดเชย และนั่นคือเวลาของวิศวกร ขีดจำกัด throughput ควรอยู่ในตารางเปรียบเทียบราคาแม้ว่าจะไม่อยู่บนหน้าราคาก็ตาม

เครื่องมือประมาณค่าใช้จ่ายอย่างรวดเร็ว

การประมาณการใช้จ่ายก่อนที่คุณจะสร้างนั้นตรงไปตรงมาเมื่อคุณมีตัวเลขแล้ว นี่คือสคริปต์ Python สั้นๆ ในแนวทางนั้น:

def monthly_cost(input_tokens, output_tokens, in_price, out_price):
    # prices are per million tokens
    return (input_tokens / 1e6) * in_price + (output_tokens / 1e6) * out_price

# Direct list price
direct = monthly_cost(10_000_000, 4_000_000, 2.50, 10.00)

# Aggregator price (example values)
aggregated = monthly_cost(10_000_000, 4_000_000, 0.60, 2.40)

print(f"Direct:     ${direct:.2f}")
print(f"Aggregated: ${aggregated:.2f}")
print(f"Saved:      ${direct - aggregated:.2f}")

รันจำนวน token จริงของคุณผ่านมันด้วยราคาจริงของคุณ นั่นคือตัวเลขเดียวที่สำคัญ

ที่ที่ aggregator ไม่ได้ช่วยคุณประหยัดเงิน

ผมควรพูดตรงๆ เกี่ยวกับข้อจำกัด Aggregator คือตัวแทนจำหน่าย โมเดลบางตัวไม่มีให้ผ่านตัวแทนจำหน่ายเลย และสำหรับโมเดลเฉพาะทางบางตัว markup ของ aggregator อาจแย่กว่าการซื้อโดยตรง การประหยัดจะมากที่สุดกับโมเดลทั่วไปยอดนิยมที่มีส่วนลดตามปริมาณ สำหรับโมเดลแปลกใหม่ที่คุณแทบไม่เรียกใช้ ความแตกต่างนั้นไม่มีนัยสำคัญ

นอกจากนี้ ราคาที่ถูกกว่าไม่มีค่าอะไรหากความน่าเชื่อถือของ aggregator แย่ การประหยัด 30% ที่แลกมาด้วย endpoint ที่ไม่เสถียรมีต้นทุนมากกว่า 30% เมื่อคุณรวม retry, support ticket และเวลาของคุณเอง ราคาและความน่าเชื่อถือเป็นการตัดสินใจอย่างเดียวกัน ไม่ใช่สองอย่าง

SiCore TokenWorks เป็นเวอร์ชันที่ตรงไปตรงมาของโมเดลนี้: เข้ากันได้กับ OpenAI, จ่ายตามการใช้งานจริง พร้อมแค็ตตาล็อกโมเดลยอดนิยมจาก DeepSeek, Qwen, ERNIE, Doubao, Spark และ Pangu ควบคู่กับ GPT-4o, Claude และ Gemini ในราคาที่ต่ำกว่าอัตราต่อ token อย่างเป็นทางการมาก