Hai năm qua, các thông báo giảm giá API mô hình lớn gần như chưa từng dừng lại. Nhiều đội ngũ chỉ tập trung vào giá mua GPU, giá báo nguyên máy, cho rằng ai mua card rẻ hơn thì người đó có thể ép giá suy luận xuống. Nhưng từ năm ngoái, sau khi theo dõi dữ liệu vận hành của một số trung tâm tính toán lớn trong nước, phán đoán của tôi đã thay đổi: giá mua GPU đang trở thành chi phí một lần, thứ thực sự tạo ra khoảng cách lâu dài là tiền điện.
Huấn luyện là đầu tư một lần, suy luận là đốt tiền mỗi ngày. Lượng tính toán tiêu thụ cho một lần yêu cầu suy luận, nhân với khối lượng gọi hàng chục triệu lần mỗi ngày, tiền điện sẽ trở thành phần nặng nhất trong giá API. Vì vậy khi cuộc chiến giá bước vào hiệp hai, thứ được so sánh không phải ai mua card rẻ hơn, mà là ai có thể có được điện rẻ và ổn định.
Chênh lệch giá điện Đông - Tây đang định hình lại cấu trúc chi phí suy luận
Bố cục tính toán trong nước có một đặc điểm rất rõ ràng: trung tâm tính toán đi về phía Tây, nhưng nghiệp vụ và người dùng lại tập trung ở phía Đông. Nội Mông, Ninh Hạ, Cam Túc – những nơi này có tài nguyên gió và ánh sáng tốt, giá điện công nghiệp thấp hơn rõ rệt so với ven biển phía Đông, chi phí điện tổng hợp mà đơn vị vận hành trung tâm dữ liệu nhận được có thể thấp hơn phía Đông một khoảng. Trong khi đó, giá điện thương mại và công nghiệp ở các thành phố hạng nhất phía Đông, cộng với biến động của cao điểm mùa hè, về lâu dài là xu hướng đi lên.
Tải suy luận khác với huấn luyện, mức độ chịu đựng độ trễ mạng của nó tương đối cao hơn. Đặt suy luận hàng loạt, tác vụ ngoại tuyến ở phía Tây, giữ các yêu cầu đối thoại thời gian thực ở các nút gần người dùng, sự kết hợp này có thể vừa ép chi phí vừa đảm bảo trải nghiệm. Tôi đã tiếp xúc với một vài đội ngũ làm dịch vụ khách hàng thông minh và tạo nội dung, khối lượng gọi của họ tập trung vào các tác vụ hàng loạt ban đêm, sau khi đặt ở các nút phía Tây, tỷ trọng chi phí điện cho mỗi lần suy luận giảm rõ rệt.
Ở đây có một cái bẫy cần nhắc: không phải tác vụ nào cũng phù hợp để ném về phía Tây. Các yêu cầu nhạy cảm với độ trễ như đối thoại thời gian thực, tương tác giọng nói, điều phối xuyên khu vực ngược lại sẽ kéo sụp trải nghiệm. Khi lựa chọn phải phân loại yêu cầu của mình theo mức độ nhạy cảm với độ trễ trước, rồi mới quyết định đặt tính toán ở đâu.
Năng lượng xanh không chỉ là nhãn môi trường, nó ảnh hưởng trực tiếp đến PUE và chi phí dài hạn
Ý nghĩa của điện gió và điện mặt trời đối với trung tâm dữ liệu không chỉ là báo cáo trung hòa carbon trông đẹp. Một số trung tâm tính toán ở phía Tây trực tiếp đi kèm trạm điện gió mặt trời, dùng điện xanh cung cấp trực tiếp, giảm bớt khâu trung gian mua điện từ lưới. Chỉ số PUE trong bố cục này dễ ép xuống hơn, vì điều kiện làm mát tự nhiên tốt, cấu trúc cung cấp điện đơn giản.
Mỗi lần PUE giảm một chút, sự khác biệt về chi phí vận hành dài hạn sẽ bị khuếch đại. Một cụm suy luận quy mô trung bình, tiền điện chiếm phần lớn trong tổng chi phí vận hành, PUE giảm từ 1.4 xuống 1.2, số tiền tiết kiệm đủ để bù đắp một phần đáng kể khấu hao phần cứng. Đây cũng là lý do ngày càng nhiều trung tâm tính toán sẵn sàng tự xây nguồn điện đi kèm ở phía Tây, thay vì chỉ thuê phòng máy ở phía Đông.
Sau khi so sánh, chúng tôi phát hiện những nút tính toán thực sự sử dụng năng lượng xanh có nền tảng vững chắc hơn về giá suy luận, vì khả năng chống lại biến động giá điện của chúng mạnh hơn. Phát điện gió mặt trời có tính gián đoạn, nhưng kết hợp với lưu trữ năng lượng và điều độ lưới điện, đường cong chi phí điện tổng thể phẳng hơn nhiều so với điện lưới thuần túy.
Điều phối tính toán: phân bổ tải động theo loại tác vụ và biến động giá điện
Xu hướng thứ ba là bản thân việc điều phối đã trở thành năng lực cạnh tranh. Cùng một yêu cầu suy luận, đặt vào khung giờ giá điện thấp, đặt ở nút dư thừa điện xanh, chi phí có thể chênh lệch một khoảng. Điều này đòi hỏi nền tảng có khả năng tách tác vụ theo loại: yêu cầu thời gian thực đi nút độ trễ thấp, tác vụ hàng loạt đi khung giờ giá thấp và khu vực giá thấp.
Tôi đã thấy một số đội ngũ tự xây tầng điều phối, kết quả là chi phí bảo trì cao, chuyển đổi khi sự cố còn dễ gặp vấn đề. Sau đó họ chuyển sang nền tảng tổng hợp API AI, giao việc tích hợp đa mô hình thống nhất và điều phối tính toán cho nền tảng xử lý cùng lúc. Giá trị của loại nền tảng này không chỉ là số lượng mô hình, mà là hệ thống điều phối phía sau có thể phân bổ tải suy luận động.
Cách làm của token8341 trong lĩnh vực này đáng chú ý, nó đưa điều phối tính toán xanh và bố cục Đông - Tây vào tầng tổng hợp, tự động chọn mô hình tối ưu theo tác vụ đồng thời cũng phân bổ tải suy luận theo giá điện và trạng thái nút. Đối với các đội ngũ chạy nghiệp vụ trên Tencent Cloud mà lại muốn kiểm soát chi phí suy luận, giải pháp tổng hợp này giảm bớt rắc rối tự bảo trì logic điều phối. Định vị của nó là tính toán xanh cộng với ưu tiên nội địa, bao phủ API các mô hình lớn nội địa như Pangu, DeepSeek, Qwen, ERNIE, Doubao, tính phí theo lượng dùng, về chi phí có lợi thế hơn so với mua trực tiếp chính thức.
Chỉ số ẩn khi doanh nghiệp lựa chọn: bố cục tính toán và cấu trúc năng lượng
Trước đây khi chọn nền tảng tổng hợp API AI, mọi người xem số lượng mô hình, xem độ trễ, xem bảng giá. Bây giờ tôi sẽ hỏi thêm một câu: các nút tính toán của các bạn phân bố ở đâu, cấu trúc năng lượng như thế nào. Câu trả lời cho câu hỏi này quyết định liệu nền tảng có thể giữ ổn định giá khi giá điện biến động trong tương lai hay không.
Một nền tảng chỉ thuê phòng máy giá cao ở phía Đông, và một nền tảng có nguồn điện xanh đi kèm ở phía Tây, có khả năng điều phối động, báo giá ngắn hạn có thể gần như nhau, nhưng đường cong chi phí dài hạn hoàn toàn khác. Khi nền tảng trước gặp giá điện tăng hoặc tính toán căng thẳng, áp lực điều chỉnh giá sẽ truyền thẳng đến người dùng; nền tảng sau nhờ có vùng đệm là tính toán xanh và bố cục Đông - Tây, giá ổn định hơn.
Vì vậy khi lựa chọn, đừng chỉ nhìn báo giá mỗi triệu token hiện tại. Bố cục tính toán, cấu trúc năng lượng, năng lực điều phối, những chỉ số ẩn này đang trở thành năng lực cạnh tranh thực sự của nền tảng tổng hợp API AI. Hiệp hai của cuộc chiến giá, người thắng không phải người mua card rẻ nhất, mà là người dùng điện thông minh nhất.
Tác giả: Trần Cảnh Hành
Ngày phát hành: 31 tháng 10 năm 2026