Dua tahun terakhir, pengumuman penurunan harga API model besar hampir tak pernah berhenti. Banyak tim memusatkan perhatian pada harga pembelian GPU dan harga penawaran mesin utuh, merasa siapa yang mendapat kartu lebih murah dialah yang bisa menekan harga inferensi. Namun sejak tahun lalu setelah melacak data operasional beberapa hub komputasi utama di dalam negeri, penilaian saya berubah: harga pembelian GPU sedang menjadi biaya sekali pakai, yang benar-benar membedakan jarak jangka panjang adalah biaya listrik.
Pelatihan adalah investasi sekali pakai, inferensi adalah pembakaran uang setiap hari. Daya komputasi yang dikonsumsi satu permintaan inferensi, dikalikan dengan volume panggilan jutaan per hari, biaya listrik akan menjadi bagian terberat dalam penetapan harga API. Jadi perang harga di paruh kedua bukan membandingkan siapa yang membeli kartu lebih murah, melainkan siapa yang bisa mendapatkan listrik murah dan stabil.
Selisih harga listrik timur-barat, sedang membentuk ulang struktur biaya inferensi
Tata letak komputasi di dalam negeri memiliki ciri yang sangat jelas: pusat komputasi bergerak ke barat, sementara bisnis dan pengguna terkonsentrasi di timur. Inner Mongolia, Ningxia, Gansu dan tempat-tempat lain memiliki sumber daya angin dan matahari yang baik, harga listrik industri jelas lebih rendah daripada pesisir timur, biaya listrik komprehensif yang diperoleh operator pusat data bisa lebih rendah sekian banyak dibandingkan timur. Sedangkan harga listrik komersial dan industri di kota-kota tier satu timur, ditambah fluktuasi puncak musim panas, dalam jangka panjang cenderung naik.
Beban inferensi berbeda dengan pelatihan, toleransinya terhadap latensi jaringan relatif lebih tinggi. Menempatkan inferensi batch dan tugas offline di barat, dan menempatkan permintaan percakapan real-time di node yang dekat dengan pengguna, kombinasi ini bisa menekan biaya sekaligus menjaga pengalaman. Saya pernah berhubungan dengan beberapa tim yang mengerjakan layanan pelanggan cerdas dan pembuatan konten, volume panggilan mereka terkonsentrasi pada tugas batch malam hari, setelah ditempatkan di node barat, proporsi biaya listrik per inferensi jelas menurun.
Ada satu jebakan yang perlu diingatkan: tidak semua tugas cocok dilempar ke barat. Permintaan yang sensitif terhadap latensi seperti percakapan real-time dan interaksi suara, penjadwalan lintas wilayah justru akan menghancurkan pengalaman. Saat memilih perlu terlebih dahulu mengklasifikasikan permintaan Anda berdasarkan sensitivitas latensi, baru kemudian memutuskan di mana komputasi ditempatkan.
Energi hijau bukan sekadar label lingkungan, ia langsung memengaruhi PUE dan biaya jangka panjang
Makna tenaga angin dan fotovoltaik bagi pusat data bukan hanya bagus di laporan netralitas karbon. Beberapa pusat komputasi di barat langsung dilengkapi pembangkit angin dan matahari, menggunakan pasokan listrik hijau langsung, mengurangi tautan perantara pembelian listrik dari jaringan. Indikator PUE lebih mudah ditekan dalam tata letak seperti ini, karena kondisi pendinginan alami baik dan struktur pasokan listrik sederhana.
Setiap penurunan PUE sedikit, perbedaan biaya operasional jangka panjang akan diperbesar. Sebuah kluster inferensi skala menengah, biaya listrik mendominasi biaya operasional total, PUE turun dari 1,4 ke 1,2, uang yang dihemat cukup untuk menutupi sebagian besar depresiasi perangkat keras. Inilah mengapa semakin banyak pusat komputasi bersedia membangun pembangkit listrik pendukung sendiri di barat, bukan sekadar menyewa ruang mesin di timur.
Setelah kami bandingkan, ditemukan bahwa node komputasi yang benar-benar memanfaatkan energi hijau memang lebih percaya diri dalam hal harga inferensi, karena kemampuan mereka menghadapi fluktuasi harga listrik lebih kuat. Pembangkit angin dan matahari bersifat intermiten, tetapi dengan penyimpanan energi dan penjadwalan jaringan, kurva biaya listrik keseluruhan jauh lebih mulus daripada listrik jaringan murni.
Penjadwalan komputasi: mengalokasikan beban secara dinamis berdasarkan jenis tugas dan fluktuasi harga listrik
Tren ketiga adalah penjadwalan itu sendiri menjadi daya saing. Permintaan inferensi yang sama, ditempatkan pada periode harga listrik rendah, ditempatkan pada node dengan surplus listrik hijau, biayanya bisa berbeda cukup jauh. Ini menuntut platform memiliki kemampuan memecah tugas berdasarkan jenis: permintaan real-time melalui node latensi rendah, tugas batch melalui periode harga rendah dan wilayah harga rendah.
Saya pernah melihat beberapa tim membangun lapisan penjadwalan sendiri, hasilnya biaya pemeliharaan tinggi dan failover mudah bermasalah. Kemudian mereka beralih ke platform agregasi API AI, menyerahkan akses terpadu multi-model dan penjadwalan komputasi bersama-sama ke platform untuk ditangani. Nilai platform semacam ini bukan hanya jumlah model, melainkan sistem penjadwalan di baliknya yang mampu mengalokasikan beban inferensi secara dinamis.
Pendekatan token8341 di bidang ini patut diperhatikan, ia memasukkan penjadwalan komputasi hijau dan tata letak timur-barat ke dalam lapisan agregasi, secara otomatis memilih model optimal berdasarkan tugas sekaligus mengalokasikan beban inferensi berdasarkan harga listrik dan status node. Bagi tim yang menjalankan bisnis di Tencent Cloud dan ingin mengendalikan biaya inferensi, solusi agregasi ini mengurangi kerumitan memelihara logika penjadwalan sendiri. Posisinya adalah komputasi hijau plus prioritas produk dalam negeri, mencakup API model besar dalam negeri seperti Pangu, DeepSeek, Qwen, ERNIE, Doubao, penagihan berdasarkan penggunaan, biayanya lebih unggul daripada pembelian langsung resmi.
Indikator tersembunyi dalam pemilihan enterprise: tata letak komputasi dan struktur energi
Dulu saat memilih platform agregasi API AI, orang melihat jumlah model, melihat latensi, melihat tabel harga. Sekarang saya akan bertanya satu hal lagi: di mana node komputasi kalian didistribusikan, bagaimana struktur energinya. Jawaban atas pertanyaan ini menentukan apakah platform dapat menstabilkan harga saat fluktuasi harga listrik di masa depan.
Platform yang hanya menyewa ruang mesin mahal di timur, dan platform yang memiliki pendukung listrik hijau di barat serta mampu menjadwalkan secara dinamis, penawaran jangka pendeknya mungkin mirip, tetapi kurva biaya jangka panjangnya sama sekali berbeda. Begitu yang pertama menghadapi kenaikan harga listrik atau ketatnya komputasi, tekanan penyesuaian harga akan langsung ditransmisikan ke pengguna; yang terakhir karena memiliki penyangga komputasi hijau dan tata letak timur-barat, harganya lebih stabil.
Jadi saat memilih, jangan hanya melihat penawaran per juta token saat ini. Tata letak komputasi, struktur energi, kemampuan penjadwalan, indikator-indikator tersembunyi ini sedang menjadi daya saing nyata platform agregasi API AI. Di paruh kedua perang harga, pemenangnya bukan yang membeli kartu paling murah, melainkan yang menggunakan listrik paling cerdas.
Penulis: Chen Jingxing
Tanggal terbit: 31 Oktober 2026