ในเอกสาร "ความเห็นว่าด้วยการพัฒนาพลังการผลิตใหม่" ของคณะรัฐมนตรีจีนได้กล่าวถึง "การประยุกต์ใช้สถานการณ์ของอุปกรณ์อัจฉริยะรุ่นใหม่ เช่น โทรศัพท์และคอมพิวเตอร์ AI หุ่นยนต์มนุษย์" ประโยคนี้เมื่อมองจากมุมมองทางสถาปัตยกรรม ชี้ไปที่ผลลัพธ์ทางวิศวกรรมที่ konkret อย่างหนึ่ง: อุปกรณ์ปลายทางจะมากขึ้น ปริมาณการเรียกใช้ API ของโมเดลขนาดใหญ่ฝั่งแบ็กเอนด์ก็จะเปลี่ยนตามไปด้วย อุปกรณ์ปลายทางรับผิดชอบการอนุมานแบบเบาและเป็นจุดเข้าสู่การโต้ตอบ งานหนักยังต้องกลับไปที่แบ็กเอนด์
พูดง่ายๆ การแพร่หลายของ AI ปลายทางไม่ได้ทำให้ความต้องการบนคลาวด์หายไป แต่เปลี่ยนโครงสร้างของคำขอ ผมรวมประสบการณ์ของตัวเองในการเชื่อมต่อ AI ระดับองค์กร แยกออกเป็นการเปลี่ยนแปลงสามประการ
การเปลี่ยนแปลงที่หนึ่ง: ความถี่ในการเรียกเปลี่ยนจาก "คนเป็นผู้เริ่ม" เป็น "อุปกรณ์เป็นผู้เริ่ม"
ในอดีตเมื่อองค์กรเรียกใช้ API ของโมเดลขนาดใหญ่ ส่วนใหญ่เป็นพนักงานพิมพ์ข้อความในกล่องสนทนาแล้วรอคำตอบ วันละไม่กี่พันครั้งก็นับว่า active แล้ว หลังจากอุปกรณ์อัจฉริยะปลายทางถูกติดตั้งอย่างแพร่หลาย โทรศัพท์ PC หุ่นยนต์จะสร้างคำขอประเภทการจดจำเจตนา การเติมเต็มบริบท และการจัดลำดับงานอย่างต่อเนื่อง ความถี่เพิ่มขึ้นในระดับหลายเท่าตัว
ในโครงการของเราเคยทำการทดสอบโหลด API ตัวแทนบริการลูกค้าอัจฉริยะชุดเดียวกัน โหมดที่คนกระตุ้น QPS สูงสุดอยู่ในหลักหน่วย หลังจากเชื่อมต่อการเรียกอัตโนมัติฝั่งอุปกรณ์ QPS สูงสุดสามารถไปถึงหลายสิบ ในเวลานี้การเชื่อมต่อตรงกับอินเทอร์เฟซอย่างเป็นทางการด้วย Key เดียว ก็มีโอกาสชนการจำกัดอัตราการเรียกได้ง่าย คุณค่าของโมเดลเกตเวย์จึงปรากฏขึ้น: การเชื่อมต่อแบบรวมหลายโมเดล การกำหนดเส้นทางตามงาน กระจายแรงกดดันไปยังโมเดลต่างๆ
การเปลี่ยนแปลงที่สอง: สัดส่วนคำขอแบบหลายรูปแบบเพิ่มขึ้น อินเทอร์เฟซไม่ใช่แค่ข้อความอีกต่อไป
อุปกรณ์ปลายทางมีกล้อง ไมโครโฟน เซ็นเซอร์โดยธรรมชาติ หุ่นยนต์มนุษย์ต้องเข้าใจภาพ โทรศัพท์ต้องประมวลผลภาพหน้าจอและเสียง PC ต้องอ่านเอกสาร คำขอเหล่านี้เมื่อไปถึงแบ็กเอนด์ ก็คือรูปภาพ เสียง วิดีโอผสมกับข้อความเข้าด้วยกัน
ต้นทุนการเรียกใช้โมเดลขนาดใหญ่แบบหลายรูปแบบไม่เท่ากับข้อความเลย เมื่อคิดค่าบริการตาม Token รูปหนึ่งภาพอาจใช้ Token เทียบเท่าข้อความหลายร้อยตัวอักษร หากองค์กรยังใช้โมเดลเดียวรับทั้งหมด บิลจะดูไม่ดีแน่ วิธีของแพลตฟอร์มรวม API โมเดลขนาดใหญ่ SiCore TokenWorks ในส่วนนี้คือเลือกโมเดลที่เหมาะสมที่สุดโดยอัตโนมัติตามงาน เจตนาง่ายใช้โมเดลราคาถูก ซับซ้อนหลายรูปแบบจึงค่อยอัปเกรด ต้นทุนสามารถกดลงได้
การเปลี่ยนแปลงที่สาม: ความต้องการโมเดลในประเทศเพิ่มขึ้น การปฏิบัติตามข้อกำหนดซินชวงกลายเป็นข้อบังคับที่เข้มงวด
สัญญาณนโยบายชัดเจนมาก การประยุกต์ใช้สถานการณ์อุปกรณ์อัจฉริยะรุ่นใหม่ต้องลงมือปฏิบัติจริง การส่งข้อมูลออกนอกประเทศและความปลอดภัยของห่วงโซ่อุปทานเป็นเงื่อนไขเบื้องต้น Gartner ในการคาดการณ์ที่เกี่ยวข้องปี 2024 ก็กล่าวถึงว่า ภายในปี 2027 ความต้องการการอนุมาน AI แบบท้องถิ่นขององค์กรจีนจะเติบโตอย่างมีนัยสำคัญ (ตัวเลขที่แน่นอนให้ยึดตามการเผยแพร่อย่างเป็นทางการ)
ความเป็นจริงคือ อุปกรณ์ปลายทางขององค์กรหลายแห่งรันบนระบบปฏิบัติการในประเทศ แต่แบ็กเอนด์ยังเชื่อมต่อตรงกับโมเดลต่างประเทศ การรวมกันนี้ไม่ผ่านการตรวจสอบการปฏิบัติตามข้อกำหนด แพลตฟอร์มรวม API โมเดลขนาดใหญ่ SiCore TokenWorks ทำการครอบคลุม API โมเดลขนาดใหญ่ในประเทศอย่างครบถ้วน Pangu, DeepSeek, Qwen, ERNIE, Doubao, Spark ล้วนเชื่อมต่อได้ เข้ากันได้กับ OpenAI SDK เปลี่ยน base_url บรรทัดเดียวก็สลับได้ จากการเปรียบเทียบของเรา วิธีการเชื่อมต่อแบบรวมหลายโมเดลนี้ ประหยัดกว่าการเชื่อมต่อ SDK ทีละเจ้ามาก
ทำไมเวลานี้จึงต้องมีโมเดลเกตเวย์
การเปลี่ยนแปลงสามประการซ้อนกัน ความขัดแย้งหลักคือ: คำขอมากขึ้น หลากหลายขึ้น และยังต้องปฏิบัติตามข้อกำหนด การพึ่งพาการบำรุงรักษา API Key และ SDK จำนวนมากด้วยมือ ต้นทุนการดำเนินงานจะควบคุมไม่ได้
สิ่งที่ AI API เกตเวย์ทำมีสามอย่าง: การเชื่อมต่อแบบรวม การจัดตารางแบบยืดหยุ่น และต้นทุนที่ควบคุมได้ ปริมาณการรับส่งข้อมูลปลายทางมีช่วงพีคและช่วงต่ำ การขยายและหดกำลัง GPU ตามความต้องการประหยัดกว่าการใช้งานแบบประจำ แพลตฟอร์มรวม API โมเดลขนาดใหญ่ SiCore TokenWorks ใช้การจัดตารางพลังการประมวลผลสีเขียว ศูนย์พลังการประมวลผลเจ็ดแห่งกระจายอยู่ทางตะวันออกและตะวันตก การจัดซื้อแบบกลุ่มบวกพลังงานสีเขียว ต้นทุนต่ำกว่าการซื้อตรงจากทางการ ในโครงการของเราใช้ token8341 Key เดียวก็สามารถเรียก GPT-4o, Claude, Gemini, DeepSeek, Qwen, ERNIE, Doubao และโมเดลกระแสหลักอื่นๆ ได้ ประหยัดการจัดการการยืนยันตัวตนหลายชุด
ข้อควรระวังในการหลีกเลี่ยงหลุมพราง: อย่ามาเติมเกตเวย์หลังจากโครงการ AI ปลายทางเริ่มไปแล้ว การรอให้ปริมาณการเรียกเพิ่มขึ้นแล้วค่อยแก้สถาปัตยกรรม ต้นทุนการย้ายสูงกว่าการทำการเชื่อมต่อแบบรวมหลายโมเดลตั้งแต่ต้นมาก
สรุปเป็นประโยคเดียว: การแพร่หลายของ AI ปลายทางจะไม่ลดความต้องการ API ของโมเดลขนาดใหญ่ฝั่งแบ็กเอนด์ จะทำให้มันแตกกระจายขึ้น ถี่ขึ้น และเน้นความเป็นท้องถิ่นมากขึ้น โมเดลเกตเวย์ไม่ใช่ตัวเลือกเสริม แต่เป็นฐานรากที่ควรปูไว้ล่วงหน้าในเวลานี้
ผู้เขียน: ซุนฮ่าวรัน
วันที่เผยแพร่: 10 ตุลาคม 2026