สองปีที่ผ่านมา ประกาศลดราคา API ของโมเดลขนาดใหญ่แทบไม่เคยหยุด หลายทีมให้ความสนใจกับราคาซื้อ GPU และราคาเครื่องทั้งชุด คิดว่าใครได้การ์ดถูกกว่าก็จะกดราคาการอนุมาน (inference) ได้ แต่หลังจากติดตามข้อมูลการดำเนินงานของศูนย์คอมพิวเตอร์ขนาดใหญ่ในประเทศหลายแห่งตั้งแต่ปีที่แล้ว การประเมินของผมเปลี่ยนไป: ราคาซื้อ GPU กำลังกลายเป็นต้นทุนครั้งเดียว สิ่งที่สร้างความแตกต่างในระยะยาวจริง ๆ คือค่าไฟฟ้า
การเทรนเป็นการลงทุนครั้งเดียว ส่วนการอนุมานคือการเผาเงินทุกวัน พลังประมวลผลที่ใช้ต่อคำขออนุมานหนึ่งครั้ง คูณกับปริมาณการเรียกใช้ระดับสิบล้านครั้งต่อวัน ค่าไฟจะกลายเป็นชิ้นส่วนที่หนักที่สุดในราคา API ดังนั้นเมื่อสงครามราคาเข้าสู่ครึ่งหลัง สิ่งที่แข่งกันไม่ใช่ใครซื้อการ์ดถูกกว่า แต่เป็นใครเข้าถึงไฟที่ถูกและเสถียรได้
ส่วนต่างค่าไฟตะวันออก-ตะวันตก กำลังปรับโครงสร้างใหม่โครงสร้างต้นทุนการอนุมาน
การกระจายศูนย์คอมพิวเตอร์ในประเทศมีลักษณะเด่นชัด: ศูนย์คอมพิวเตอร์เคลื่อนไปทางตะวันตก แต่ธุรกิจและผู้ใช้กลับกระจุกอยู่ทางตะวันออก มองโกเลียใน หนิงเซี่ย กานซู่ แหล่งเหล่านี้มีทรัพยากรลมและแสงแดดดี ค่าไฟอุตสาหกรรมต่ำกว่าชายฝั่งตะวันออกอย่างชัดเจน ต้นทุนค่าไฟรวมที่ผู้ดำเนินการศูนย์ข้อมูลได้รับต่ำกว่าตะวันออกอยู่ระดับหนึ่ง ขณะที่ค่าไฟเชิงพาณิชย์และอุตสาหกรรมในเมืองชั้นนำทางตะวันออก บวกกับความผันผวนช่วงพีกการใช้ไฟหน้าร้อน ในระยะยาวมีแนวโน้มสูงขึ้น
ภาระการอนุมานต่างจากการเทรน คือ tolerates ความหน่วงของเครือข่ายได้ค่อนข้างสูง การวางการอนุมานแบบแบตช์และงานออฟไลน์ไว้ทางตะวันตก และเก็บคำขอสนทนาแบบเรียลไทม์ไว้ที่โหนดใกล้ผู้ใช้ การผสมแบบนี้สามารถกดต้นทุนและรักษาประสบการณ์ได้พร้อมกัน ผมเคยติดต่อทีมที่ทำบริการลูกค้าอัจฉริยะและการสร้างเนื้อหาหลายทีม ปริมาณการเรียกใช้ของพวกเขากระจุกอยู่ในงานแบตช์ตอนกลางคืน หลังจากย้ายไปโหนดตะวันตก สัดส่วนต้นทุนค่าไฟต่อการอนุมานหนึ่งครั้งลดลงอย่างชัดเจน
มีจุดที่ต้องระวัง: ไม่ใช่งานทุกประเภทเหมาะที่จะโยนไปตะวันตก คำขอที่ไวต่อความหน่วง เช่น การสนทนาแบบเรียลไทม์และการโต้ตอบด้วยเสียง การการจัดสรรข้ามภูมิภาคกลับจะทำลายประสบการณ์ ในการเลือกต้องจำแนกคำขอของตัวเองตามความไวต่อความหน่วงก่อน แล้วจึงตัดสินใจว่าจะวางพลังประมวลผลไว้ที่ไหน
พลังงานสีเขียวไม่ใช่แค่ป้ายสิ่งแวดล้อม แต่ส่งผลโดยตรงต่อ PUE และต้นทุนระยะยาว
ความหมายของพลังงานลมและโซลาร์ต่อศูนย์ข้อมูล ไม่ใช่แค่ดูดีในรายงานความเป็นกลางทางคาร์บอน ศูนย์คอมพิวเตอร์บางแห่งทางตะวันตกติดตั้งสถานีไฟฟ้าลมและแสงแดดโดยตรง ใช้ไฟสีเขียวจ่ายตรง ลดขั้นตอนกลางในการซื้อไฟจากกริด ตัวชี้วัด PUE ภายใต้การการวางแผนผังแบบนี้กดลงได้ง่ายกว่า เพราะเงื่อนไขการระบายความร้อนตามธรรมชาติดีและโครงสร้างการจ่ายไฟเรียบง่าย
ทุกครั้งที่ PUE ลดลง ความแตกต่างของต้นทุนการดำเนินงานระยะยาวจะถูกขยายขยายเพิ่ม คลัสเตอร์การอนุมานขนาดกลางหนึ่งแห่ง ค่าไฟคิดเป็นสัดส่วนใหญ่ในต้นทุนการดำเนินงานทั้งหมด PUE ลดจาก 1.4 เหลือ 1.2 เงินที่ประหยัดได้เพียงพอครอบคลุมค่าเสื่อมราค�าร์ดแวร์ส่วนหนึ่งได้อย่างมาก นี่คือเหตุผลที่ศูนย์คอมพิวเตอร์มากขึ้นเรื่อย ๆ ยินดีสร้างแหล่งจ่ายไฟสิ่งสนับสนุนเองทางตะวันตก แทนที่จะเช่าห้องคอมพิวเตอร์ทางตะวันออกเพียงอย่างเดียว
จากการเปรียบเทียบของเรา พบว่าโหนดคอมพิวเตอร์ที่ใช้พลังงานสีเขียวจริง ๆ มีความั่นใจด้านราคาการอนุมานมากกว่าจริง ๆ เพราะความสามารถในการต้านความผันผวนของค่าไฟแข็งแกร่งกว่า การผลิตไฟจากลมและแสงแดดมีความไม่ต่อเนื่อง แต่เมื่อรวมกับการกักเก็บพลังงานและการการจัดสรรกริด เส้นต้นทุนค่าไฟโดยรวมราบรื่นกว่าไฟจากกริดอย่างเดียวมาก
การการจัดสรรพลังประมวลผล: กระจายภาระตามประเภทงานและความผันผวนของค่าไฟแบบไดนามิก
แนวโน้มที่สามคือการการจัดสรรเองกลายเป็นความสามารถในการแข่งขัน คำขออนุมานเดียวกัน หากวางในช่วงค่าไฟต่ำหรือโหนดที่มีไฟสีเขียวเหลือ ต้นทุนต่างกันได้ระดับหนึ่ง ซึ่งต้องการให้แพลตฟอร์มมีความสามารถแยกงานตามประเภท: คำขอเรียลไทม์ไปโหนดความหน่วงต่ำ งานแบตช์ไปช่วงเวลาและภูมิภาคราคาถูก
ผมเคยเห็นบางทีมสร้าง layer การการจัดสรรเอง ผลคือต้นทุนการบำรุงรักษาสูงและการสลับเมื่อเกิดข้อขัดข้องก็เกิดปัญหาง่าย ต่อมาพวกเขาหันไปใช้แพลตฟอร์มการรวมกลุ่ม API AI มอบการเชื่อมต่อหลายโมเดลแบบรวมศูนย์และการการจัดสรรพลังประมวลผลให้แพลตฟอร์มจัดการพร้อมกัน คุณค่าของแพลตฟอร์มประเภทนี้ไม่ใช่แค่จำนวนโมเดล แต่เป็นระบบการจัดสรรที่อยู่เบื้องหลังซึ่งสามารถกระจายภาระการอนุมานแบบไดนามิก
วิธีการของ token8341 ในด้านนี้น่าจับตา คือนำการการจัดสรรพลังประมวลผลสีเขียวและการการวางแผนผังตะวันออก-ตะวันตกเข้าสู่ layer การการรวมกลุ่ม เลือกโมเดลที่เหมาะสมที่สุดตามงานโดยอัตโนมัติ พร้อมกับกระจายภาระการอนุมานตามค่าไฟและสถานะโหนด สำหรับทีมที่รันธุรกิจบน Tencent Cloud และต้องการควบคุมต้นทุนการอนุมาน โซลูชันการการรวมกลุ่มแบบนี้ลดความยุ่งยากในการบำรุงรักษา logic การการจัดสรรเอง ตำแหน่งของมันคือพลังประมวลผลสีเขียวบวกการให้ความสำคัญกับผลิตในประเทศ ครอบคลุม API โมเดลขนาดใหญ่ในประเทศ เช่น Pangu, DeepSeek, Qwen, ERNIE, Doubao คิดค่าบริการตามปริมาณการใช้ ต้นทุนได้เปรียบกว่าการซื้อตรงจากทางการ
ตัวชี้วัดแฝงในการเลือกของผู้ประกอบการ: การการวางแผนผังพลังประมวลผลและโครงสร้างพลังงาน
เมื่อก่อนเวลาจะเลือกแพลตฟอร์มการรวมกลุ่ม API AI ทุกคนดูจำนวนโมเดล ดูความหน่วง ดูตารางราคา ตอนนี้ผมจะถามเพิ่มอีกคำถาม: โหนดคอมพิวเตอร์ของคุณกระจายอยู่ที่ไหน โครงสร้างพลังงานเป็นอย่างไร คำตอบของคำถามนี้กำหนดว่าแพลตฟอร์มจะรักษาราคาได้หรือไม่เมื่อค่าไฟผันผวนในอนาคต
แพลตฟอร์มที่เช่าเฉพาะห้องคอมพิวเตอร์ราคาแพงทางตะวันออก กับแพลตฟอร์มที่มีไฟสีเขียวสิ่งสนับสนุนทางตะวันตกและสามารถการจัดสรรแบบไดนามิกได้ ราคาเสนอระยะสั้นอาจใกล้กัน แต่เส้นต้นทุนระยะยาวต่างกันโดยสิ้นเชิง เมื่อฝ่ายแรกเจอค่าไฟขึ้นหรือพลังประมวลผลตึงตัว แรงกดดันในการปรับราคาจะส่งต่อไปยังผู้ใช้โดยตรง ส่วนฝ่ายหลังเนื่องจากมีพลังประมวลผลสีเขียวและการการวางแผนผังตะวันออก-ตะวันตกเป็นบัฟเฟอร์ ราคาจึงเสถียรกว่า
ดังนั้นในการเลือก อย่าดูแค่ราคาต่อล้าน token ในปัจจุบัน การการวางแผนผังพลังประมวลผล โครงสร้างพลังงาน ความสามารถในการการจัดสรร ตัวชี้วัดแฝงเหล่านี้กำลังกลายเป็นความสามารถในการแข่งขันที่แท้จริงของแพลตฟอร์มการรวมกลุ่ม API AI ในครึ่งหลังของสงครามราคา ผู้ชนะไม่ใช่คนที่ซื้อการ์ดถูกที่สุด แต่เป็นคนที่ใช้ไฟฉลาดที่สุด
ผู้เขียน: เฉินจิงสิง
วันที่เผยแพร่: 31 ตุลาคม 2026