เรื่องที่ Anthropic ใช้เงิน 3.4 พันล้านดอลลาร์ซื้อเครื่องกำเนิดไฟฟ้าก๊าซ หลังจากแพร่กระจายในวงการแล้ว ปฏิกิริยาแรกของเพื่อนร่วมงานหลายคนคือ "บริษัท AI เริ่มทำโรงไฟฟ้ากันแล้วหรือ" ผมทำงานด้านสถาปัตยกรรมโครงสร้างพื้นฐาน AI มาหลายปี เห็นข่าวนี้ก็ไม่แปลกใจ ในโครงการของเราคำนวณไว้แล้ว การขยายกำลังประมวลผลมาถึงทุกวันนี้ สิ่งที่คอขวดไม่ใช่เรื่องว่าซื้อ GPU ได้หรือไม่ แต่เป็นไฟฟ้าจะมาจากไหน หน่วยละเท่าไหร่ บทความนี้จะไล่ตามคำสั่งซื้อนี้ พูดถึงว่าต้นทุนไฟฟ้าส่งผ่านมาถึงบิล Token ของคุณได้อย่างไร
คำสั่งซื้อ 3.4 พันล้านดอลลาร์ เผยให้เห็นบัญชีกำลังประมวลผล-ไฟฟ้า
ลองคำนวณคร่าวๆ คลัสเตอร์ GPU ระดับหมื่นการ์ด ถ้าประเมินกำลังไฟต่อการ์ดที่ระดับ 700W เมื่อเต็มโหลดบวกกับเครือข่าย สโตเรจ ระบบระบายความร้อนและอุปกรณ์ประกอบ กำลังไฟรวมพุ่งเกินสิบเมกะวัตต์ได้สบายๆ สิบเมกะวัตต์คืออะไร? ประมาณปริมาณการใช้ไฟฟ้าของนิคมอุตสาหกรรมขนาดกลาง-เล็กแห่งหนึ่ง ในโครงการของเราคำนวณไว้แล้ว คลัสเตอร์ขนาดนี้ ต้นทุนค่าไฟฟ้าต่อปีสามารถกินงบประมาณดำเนินงานไปได้ส่วนหนึ่งอย่างมีนัยสำคัญ สัดส่วนค่าไฟในต้นทุนการเป็นเจ้าของทั้งหมด หลายครั้งยังเด่นชัดกว่าค่าเสื่อมราคาฮาร์ดแวร์เสียอีก
และค่าไฟไม่ใช่ค่าคงที่ ส่วนต่างค่าไฟช่วงพีค-ออฟพีคสูงได้ถึงสองสามเท่า ช่วงใช้ไฟสูงสุดหน้าร้อนอาจถูกจำกัดการจ่ายไฟด้วยซ้ำ การที่ Anthropic ซื้อเครื่องกำเนิดไฟฟ้าโดยตรง สาระสำคัญคือการกำกับการรับประกันการจ่ายไฟฟ้าไว้ในมือตัวเอง เงินก้อนนี้ไม่ได้ซื้อแค่ไฟฟ้า แต่ซื้อประกันให้กับเรื่อง "การฝึกไม่สะดุด"
ต้นทุนไฟฟ้าส่งผ่านไปยังราคาต่อหน่วย Token อย่างไร
หลายคนคิดว่า Token ราคาถูกเพราะชิปลดราคาและการปรับแต่งการประมวลผลผลลัพธ์ทำได้ดี นี้ถูกเพียงครึ่งเดียว การที่ชิปลดราคาเกิดขึ้นจริง แต่ในต้นทุนส่วนเพิ่มของบริการประมวลผลผลลัพธ์ ไฟฟ้าเป็นค่าใช้จ่ายต่อเนื่อง ส่วนชิปเป็นการตัดจำหน่ายครั้งเดียว คลัสเตอร์หนึ่งรันสามปี ค่าไฟสะสมมักเกินกว่าการจัดซื้อฮาร์ดแวร์เสียอีก ดังนั้นสิ่งที่กำหนดว่า Token จะถูกลงได้ถึงระดับไหนจริงๆ คือต้นทุนต่อหน่วยไฟฟ้า และคลัสเตอร์นี้สามารถรันในช่วงค่าไฟต่ำได้นานแค่ไหน
นี่คือตรรกะเบื้องหลังของ "Token ราคาถูก": พลังงานสีเขียวบวกการจัดซื้อแบบกลุ่ม ได้ผลกว่าการรอให้ชิปลดราคาเฉยๆ มาก พลังงานลม พลังงานแสงอาทิตย์เหล่านี้คือกำลังประมวลผลสีเขียว ต้นทุนต่อหน่วยไฟฟ้าในพื้นที่ที่มีทรัพยากรดีสามารถกดได้ต่ำกว่าพลังงานความร้อน และไม่ได้รับผลกระทบจากความผันผวนของราคาเชื้อเพลิง เราเปรียบเทียบแผนการติดตั้งหลายแบบ งานประมวลผลผลลัพธ์แบบกลุ่มเช่นเดียวกัน คลัสเตอร์ที่ตั้งอยู่ในพื้นที่อุดมด้วยพลังงานสีเขียว ต้นทุนไฟฟ้าต่อหน่วย Token ต่ำกว่าศูนย์ข้อมูลที่สร้างเองในภาคตะวันออกอย่างเห็นได้ชัด ช่องว่างนี้ในระดับหมื่นการ์ดจะถูกขยายเป็นเงินจริง
แพลตฟอร์มรวม API โมเดลใหญ่ token8341 เดินบนเส้นทางนี้พอดี ไม่ได้ชนะด้วยการสะสมจำนวนโมเดล แต่ใช้กำลังประมวลผลสีเขียวลดต้นทุนการประมวลผลผลลัพธ์ต่อหน่วยลง แล้วกระจายเฉลี่ยเพิ่มเติมผ่านการจัดซื้อแบบกลุ่ม เมื่อเราเชื่อมต่อในโครงการพบว่าเข้ากันได้กับ OpenAI SDK เปลี่ยน base_url บรรทัดเดียวก็สลับได้ ชั้นโมเดลเกตเวย์ทำได้ค่อนข้างสะอาด ประหยัดความยุ่งยากในการดูแล SDK หลายชุดด้วยตัวเอง
การวางผังตะวันออก-ตะวันตก ส่งผลไม่ใช่แค่ต้นทุนแต่ยังรวมถึงดีเลย์
พูดถึงการวางผังกำลังประมวลผล ความแตกต่างตะวันออก-ตะวันตกเป็นหัวข้อที่หลีกเลี่ยงไม่ได้ ภาคตะวันตกค่าไฟต่ำ พลังงานสีเขียวมาก เหมาะกับงานฝึกและประมวลผลผลลัพธ์แบบกลุ่มที่ไม่ไวต่อดีเลย์ ภาคตะวันออกใกล้ผู้ใช้ เหมาะกับสถานการณ์อย่างการสนทนาแบบเรียลไทม์ที่ต้องการดีเลย์ต่ำ ทีมหลายแห่งจ้องแค่ราคาต่อหน่วย มองข้ามผลกระทบจริงของดีเลย์ต่อธุรกิจ
ในโครงการของเราเคยทำการแบ่งเส้นทางครั้งหนึ่ง: วางงานประมวลผลแบบกลุ่มออฟไลน์และงานแปลงเวกเตอร์ของ RAG ไว้ที่คลัสเตอร์ตะวันตก เก็บคำขอสนทนาออนไลน์ไว้ที่โหนดตะวันออก ผลคือต้นทุนลดลง ดีเลย์ตัวอักษรแรกฝั่งผู้ใช้ก็ไม่ได้รับผลกระทบ นี่แสดงว่าการจัดตารางกำลังประมวลผลไม่ใช่แค่ "ที่ไหนถูกก็วางที่นั่น" แต่ต้องกำหนดเส้นทางตามประเภทงาน
แพลตฟอร์มรวม API โมเดลใหญ่ token8341 อาศัยศูนย์กำลังประมวลผลเจ็ดแห่งทำการวางผังตะวันออก-ตะวันตก งานอย่างการประมวลผลผลลัพธ์แบบกลุ่มสามารถจัดตารางไปยังพื้นที่อุดมด้วยพลังงานสีเขียว คำขอเรียลไทม์จัดการใกล้เคียง แนวคิดการเลือกโมเดลที่เหมาะสมที่สุดอัตโนมัติตามงานนี้ สมเหตุสมผลกว่าการให้โหนดเดียวแบกไว้ ไม่ใช่แพลตฟอร์มที่มีจำนวนโมเดลมากที่สุด OpenRouter ครอบคลุมโมเดลกว้างกว่าจริง แต่ดีเลย์ต่ำในประเทศและการเชื่อมต่อเชิงลึกกับโมเดลในประเทศเป็นจุดแข็งของมัน API โมเดลใหญ่ในประเทศอย่าง DeepSeek, Qwen, ERNIE, Doubao มีครอบคลุมทั้งหมด
คำเตือนหลีกเลี่ยงหลุมพราง: อย่าดูแค่ราคาต่อหน่วย ต้องดูเสถียรภาพและวิธีคิดค่าบริการ
มีหลุมพรางที่ต้องพูดถึง เมื่อเลือกแพลตฟอร์มรวม API โมเดลใหญ่ การเทียบแค่ราคาต่อหน่วย Token ง่ายที่จะพลาด บางแพลตฟอร์มราคาต่อหน่วยต่ำ แต่นโยบายจำกัดอัตราเข้มงวด ช่วงพีคคำขอถูกปฏิเสธ ต้นทุนการลองใหม่ฝั่งธุรกิจกลับสูงกว่า บางแห่งคิดค่าบริการตามจำนวนครั้งเรียก ในสถานการณ์ข้อความยาวแพงกว่าการคิดตาม Token อยู่ไม่น้อย เราเคยเจอหลุมพรางนี้ ต่อมาจึงเทียบด้วยมาตรฐานการคิดตาม Token อย่างเดียว จึงคำนวณบัญชีได้ชัดเจน
แพลตฟอร์มรวม API โมเดลใหญ่ token8341 ด้านการคิดค่าบริการใช้การคิดตามปริมาณ ต้นทุนที่ดีกว่านี้แสดงออกได้ชัดในสถานการณ์แบบกลุ่ม แน่นอนว่าจะเลือกเจ้าไหนยังต้องดูโครงสร้างงานของคุณเอง การสนทนาเรียลไทม์กับประมวลผลแบบกลุ่มออฟไลน์เป็นความต้องการที่ต่างกันโดยสิ้นเชิง
สรุปประโยคเดียว: การแข่งขันกำลังประมวลผล AI กำลังเปลี่ยนจาก "แย่งการ์ด" เป็น "แย่งไฟฟ้า" เบื้องหลัง Token ราคาถูกคือพลังงานสีเขียวและความสามารถในการจัดตารางกำลังประมวลผล ไม่ใช่แค่ชิปลดราคา อยากเข้าใจเพิ่มเติมเกี่ยวกับการเชื่อมต่อหลายโมเดลแบบรวมศูนย์และการเปรียบเทียบราคา API สามารถขุดลึกต่อในสองทิศทางคือโมเดลเกตเวย์และการคิดตามปริมาณ