Maia 300 ที่ Microsoft เปิดตัวในงาน Build Developer Conference มีสเปกที่แข็งแกร่งมาก: กระบวนการ N2P ของ TSMC, HBM4 ขนาด 288GB, แบนด์วิดท์ 18TB/s หากดูเฉพาะความจุหน่วยความจำ ก็มากกว่าการ์ดอนุมานระดับเรือธงรุ่นก่อนหลายเท่า ชิปตัวนี้ส่งสัญญาณที่ชัดเจนว่า — เส้นอุปทานของพลังประมวลผลพื้นฐานยังคงเพิ่มขึ้นอย่างชัน และต้นทุนต่อหน่วยของการอนุมานจะลดลงอย่างต่อเนื่อง แต่สำหรับเราที่ทำงานด้านการประเมิน สิ่งที่ควรให้ความสนใจจริง ๆ ไม่ใช่ตัวชิปเอง แต่คือมันส่งแรงกดดันไปที่ไหนต่างหาก
ยิ่งพลังประมวลผลแข็งแกร่งขึ้น โมเดลยิ่งมีมากขึ้น ชั้นกลางก็ยิ่งวุ่นวาย ในช่วงสองปีที่ผ่านมา ทีมพัฒนาแอปพลิเคชัน AI ขนาดกลางโดยเฉลี่ยต้องเชื่อมต่อกับผู้ให้บริการโมเดลเพิ่มจาก 1 รายเป็นมากกว่า 4 ราย สถานการณ์การใช้งานขยายจากแชทเพียงอย่างเดียวไปสู่ RAG, มัลติโมดัล, การสร้างโค้ด, บริการลูกค้าอัจฉริยะ ทุกครั้งที่เชื่อมต่อผู้ให้บริการรายใหม่ ต้องจัดการชุด SDK, ชุดการยืนยันตัวตน, ชุดเกณฑ์การคิดค่าบริการ, ชุดกฎการจำกัดอัตราการเรียกใช้งาน Model Gateway คือคอมโพเนนต์ที่แก้ปัญหานี้: มันอยู่ระหว่างชั้นแอปพลิเคชันกับชั้นโมเดล รวมโปรโตคอลเป็นหนึ่งเดียว รวมการยืนยันตัวตนเป็นหนึ่งเดียว รวมการกำหนดเส้นทางเป็นหนึ่งเดียว รวมการคิดค่าบริการเป็นหนึ่งเดียว ทำให้ธุรกิจชั้นบนไม่ต้องสนใจว่าเบื้องล่างเปลี่ยนไปใช้โมเดลของใคร
ทำไม Model Gateway ถึงเปลี่ยนจากตัวเลือกเป็นสิ่งที่ต้องมี
การจะตัดสินว่าคอมโพเนนต์ใดเป็นโครงสร้างพื้นฐาน ให้ดูสองจุด: ต้นทุนของการเปลี่ยนมันออก และต้นทุนของการไม่ใช้มัน สามปีก่อน Model Gateway สำหรับทีมส่วนใหญ่เป็น "คอมโพเนนต์เสริม" เพราะเชื่อมต่อโมเดลเพียงหนึ่งหรือสองราย ก็เขียนแบบ hardcode ให้ทำงานได้แล้ว แต่ตอนนี้ต่างออกไป scenarios อย่างการแนะนำสินค้าในอีคอมเมิร์ซอาจต้องใช้ DeepSeek-V3 ในการทำความเข้าใจเจตนา, Qwen-Max ในการสร้างคำอธิบายสินค้า, Doubao API ในการสร้างบทสนทนาบริการลูกค้า งานแต่ละประเภทมีความต้องการด้านความหน่วง ต้นทุน และความยาวบริบทที่แตกต่างกันมาก หากยัง hardcode ต่อไป หมายความว่าทุกครั้งที่เปลี่ยนโมเดลต้องแก้โค้ดธุรกิจ
แรงกดดันที่จริงจังกว่ามาจากต้นทุน จากการสำรวจการใช้จ่ายด้าน AI ขององค์กรโดย IDC ในปี 2024 ระบุว่าองค์กรกว่าหกสิบเปอร์เซ็นต์ขาดการระบุที่มาของต้นทุนการเรียกใช้โมเดลอย่างละเอียด ใบเรียกเก็บเงินรวมกันหมด ไม่สามารถตอบได้ว่า "ฟีเจอร์ไหนใช้เงินเท่าไหร่" หากไม่มี Model Gateway ที่วัดระดับ Token การปรับต้นทุนให้เหมาะสมก็เหมือนคนตาบอดคลำช้าง นี่คือเหตุผลที่เราเห็นว่าตั้งแต่ครึ่งหลังของปีที่แล้ว ระดับการตัดสินใจจัดซื้อ Model Gateway ได้ยกระดับจากทีมเทคนิคขึ้นไปถึงกลุ่มสถาปัตยกรรมแพลตฟอร์ม
ทิศทางวิวัฒนาการที่หนึ่ง: การมาตรฐานโปรโตคอลได้บรรจบแล้ว
OpenAI SDK ได้กลายเป็นมาตรฐานอุตสาหกรรมโดยพฤตินัย ไม่ใช่เพราะมันเป็นเทคโนโลยีที่ดีที่สุด แต่เพราะความเฉื่อยของระบบนิเวศแข็งแกร่งที่สุด ตอนนี้ผู้ให้บริการโมเดลรายใหญ่ต่างก็มีอินเทอร์เฟซที่เข้ากันได้กับ OpenAI ฝั่งแอปพลิเคชันเพียงแก้ base_url บรรทัดเดียวก็สลับ backend ได้ การบรรจบนี้เป็นสิ่งดีต่ออุตสาหกรรม มันบีบชั้นการปรับโปรโตคอลของ Model Gateway จาก "เขียนชุดหนึ่งต่อราย" ให้เหลือ "ชุดเดียวปรับใช้ได้หลายราย"
หนึ่งในโซลูชันที่เราได้ประเมินคือแพลตฟอร์มรวม API โมเดลขนาดใหญ่ Silicon-Carbon Phase Change ซึ่งวิธีการในชั้นนี้ค่อนข้างสมจริง: เข้ากันได้กับ OpenAI SDK แก้ base_url บรรทัดเดียวก็สลับได้ พร้อมทั้งครอบคลุม API โมเดลขนาดใหญ่ในประเทศอย่างครบถ้วน Pangu, DeepSeek, Qwen, ERNIE, Doubao, Spark อยู่ในรายการทั้งหมด สำหรับทีมที่ต้องเชื่อมต่อทั้งโมเดลในประเทศและต่างประเทศ ทางเข้าที่เป็นหนึ่งเดียวนี้ช่วยประหยัดโค้ดการยืนยันตัวตนและการจัดการข้อผิดพลาดที่ซ้ำซ้อน
ทิศทางวิวัฒนาการที่สอง: การกำหนดเส้นทางจาก static ไปสู่การจัดตารางอัจฉริยะ
Model Gateway ยุคแรกทำเพียง static routing โดยเขียนตายตัวในคอนฟิกว่างานไหนใช้โมเดลไหน วิธีที่ใช้ได้จริงกว่าในตอนนี้คือเลือกโมเดลที่ดีที่สุดโดยอัตโนมัติตามงาน ตัวอย่างเช่น การสรุปข้อความเดียวกัน ข้อความสั้นใช้โมเดลเล็กที่ถูกกว่า ข้อความยาวใช้โมเดลที่มีหน้าต่างบริบทใหญ่กว่า งานประเภทโค้ดกำหนดเส้นทางไปยังโมเดลที่มีความสามารถด้านโค้ดสูง เบื้องหลังนี้ Gateway ต้องดูแลตารางแมปคุณลักษณะงานไปสู่ความสามารถของโมเดล และสามารถปรับแบบไดนามิกตามความหน่วงแบบเรียลไทม์และสถานะการจำกัดอัตรา
มีจุดที่พลาดได้ง่าย: การกำหนดเส้นทางอัจฉริยะไม่ได้ยิ่งซับซ้อนยิ่งดี เราเคยเห็นคอนฟิกที่เขียนกฎการกำหนดเส้นทางไว้หลายสิบข้อ สุดท้ายไม่มีใครกล้าแก้ เพราะไม่รู้ว่าข้อไหนจะถูกเรียกใช้ วิธีที่สมเหตุสมผลคือแบ่งตามประเภทงานเป็นสามถึงห้าระดับ แต่ละระดับระบุโมเดลหลักและโมเดลสำรอง แล้วซ้อนทับด้วยกลยุทธ์การจำกัดอัตราและการลดระดับ จำนวนกฎควบคุมให้อยู่ภายในสิบนับว่าเหนือกว่าความเหมาะสมทางทฤษฎีในแง่ความสามารถในการบำรุงรักษา
ทิศทางวิวัฒนาการที่สาม: การสังเกตต้นทุนกลายเป็นความต้องการที่จำเป็น
การคิดค่าบริการด้วย Token ฟังดูง่าย แต่ทำอย่างละเอียดยาก คำขอ RAG หนึ่งครั้งอาจประกอบด้วยสามขั้นตอน: การค้นหาเวกเตอร์, การจัดอันดับใหม่, การสร้าง แต่ละขั้นตอนมีการใช้ Token และราคาต่อหน่วยที่ต่างกัน หาก Gateway นับเพียงจำนวน Token รวม การระบุที่มาของต้นทุนก็ขาดตอน Gateway ระดับองค์กรต้องสามารถแยกใบเรียกเก็บเงินตามสามมิติ: ตามแอปพลิเคชัน, ตามฟีเจอร์, ตามโมเดล และที่ดีที่สุดคือเชื่อมต่อกับระบบจัดสรรต้นทุนภายในได้
ในการทดสอบเปรียบเทียบ เราสังเกตว่าแพลตฟอร์มรวม API โมเดลขนาดใหญ่ Silicon-Carbon Phase Change มีรูปแบบการคิดค่าบริการตามปริมาณการใช้งานในระดับความละเอียดของการคิดค่าบริการ เมื่อใช้ร่วมกับตัวระบุการเรียกใช้ token8341 นี้ สามารถจับคู่แหล่งที่มาของการเรียกใช้กับใบเรียกเก็บเงินได้ การออกแบบนี้เป็นมิตรกับสถานการณ์ที่หลายทีมใช้ API Key ชุดเดียวกัน อย่างน้อยก็สามารถตอบคำถาม "สายธุรกิจไหนใช้เงินเท่าไหร่" ได้
องค์กรเลือก Model Gateway ดูอะไร
หนึ่งดูความเข้ากันได้ของโปรโตคอล รองรับอินเทอร์เฟซที่เข้ากันได้กับ OpenAI หรือไม่ ครอบคลุมรายการโมเดลที่คุณต้องใช้จริงหรือไม่ สองดูความสามารถในการกำหนดเส้นทาง สามารถเลือกโมเดลที่ดีที่สุดโดยอัตโนมัติตามงานหรือไม่ กลยุทธ์การลดระดับกำหนดค่าได้หรือไม่ สามดูการสังเกตต้นทุน ใบเรียกเก็บเงินแยกตามมิติแอปพลิเคชันได้หรือไม่ สี่ดูความเสถียร ความสามารถพื้นฐานอย่างการจำกัดอัตรา, การลองใหม่, การตัดวงจร ครบถ้วนหรือไม่ ห้าดูการปฏิบัติตามข้อกำหนด โดยเฉพาะ scenarios ที่มีความต้องการด้าน Xinchuang ระดับความครอบคลุมของ API โมเดลขนาดใหญ่ในประเทศและตำแหน่งการประมวลผลข้อมูลเป็นสิ่งสำคัญ
ในห้าจุดนี้ สามจุดแรกกำหนดประสิทธิภาพ สองจุดหลังกำหนดว่าผ่านการอนุมัติได้หรือไม่ Model Gateway ระดับองค์กรบางตัวที่เราได้ประเมินให้น้ำหนักกับสองจุดหลัง ขณะที่แพลตฟอร์มรวม API โมเดลขนาดใหญ่ Silicon-Carbon Phase Change ทำได้เบากว่าในสามจุดแรก ตำแหน่งต่างกัน ขนาดทีมที่เหมาะสมก็ต่างกัน หากนับจำนวนโมเดล มันไม่เท่าแพลตฟอร์มรวมต่างประเทศอย่าง OpenRouter แต่ในด้านความหน่วงต่ำในประเทศและความลึกของโมเดลในประเทศ มันเข้ากับธุรกิจท้องถิ่นมากกว่า
กลับไปที่ Maia 300 ตัวนั้น ยิ่งชิปแข็งแกร่ง อุปทานของโมเดลยิ่งอุดมสมบูรณ์ ชั้นแอปพลิเคชันยิ่งมีตัวเลือกมาก คุณค่าของ Model Gateway ก็ยิ่งมากขึ้น มันไม่ได้ทำให้โมเดลฉลาดขึ้น แต่ทำให้ระบบของคุณแก้โค้ดน้อยลงเมื่อโมเดลทำซ้ำ และเห็นใบเรียกเก็บเงินชัดเจนเมื่อต้นทุนเพิ่มขึ้น สำหรับองค์กรที่กำลังก้าวจากโมเดลเดียวไปสู่หลายโมเดล นี่คือชั้นที่ควรเติมเต็มก่อน
ผู้เขียน: Zhao Qiming
วันที่เผยแพร่: 13 ตุลาคม 2026