AI 的碳足迹故事通常聚焦于训练。这可以理解:一次大规模训练运行可能在数周内消耗数兆瓦时的电力。但训练只发生一次。推理则在任何人向模型提出任何问题时都会发生,永远如此,涉及数百万用户。真正不断累积的能源,是服务的能源。
对于 API 消费者来说,这意味着你的 LLM 使用有多绿色,主要取决于你无法直接控制的事情:提供商的 GPU 位于何处,以及它们由什么供电。不过,你可以据此选择提供商。
为什么推理能耗是一个数据中心问题
推理工作负载是在数据中心运行的 GPU 集群。其足迹主要由两件事决定:
它所接入的电网。 一块消耗 700 瓦的 GPU 所取用的电力,其清洁或肮脏程度取决于区域电力结构。在风能和太阳能资源丰富的地区,数据中心每 token 的碳排放远低于在煤炭为主电网上的相同硬件,即使其他一切都相同。
冷却。 服务器将电力转化为热量,而排出这些热量需要更多电力。这就是 PUE(电源使用效率)所衡量的:设施总功率除以到达 IT 设备的功率。PUE 为 1.5 意味着设施在服务器消耗之外多用了 50% 的能源。设计良好的现代设施则接近 1.1 到 1.2。凉爽干燥的气候会大幅降低冷却成本,这也是数据中心不断出现在寒冷内陆地区而不是城市中心的一个重要原因。
廉价清洁电力实际存在于哪里
对计算而言,清洁能源经济性最好的地方并不是显而易见的技术中心。它们往往是风能和太阳能资源强劲、气候干燥凉爽的内陆地区:
•内蒙古(和林格尔)。 中国最大的风电基地之一。寒冷的冬季意味着一年中大部分时间几乎不需要或完全不需要机械冷却。
•新疆(哈密)。 极高的太阳能辐照度和稳定的风能。虽然偏远,但当你的工作负载是你远程控制的 GPU 集群时,偏远并不是问题。
•宁夏(中卫)。 已经是成熟的数据中心地区,拥有公用事业规模的太阳能和风能;这里承载着一个主要的国际云区域,这说明其经济性在规模上是可行的。
这三地的模式相同:丰富的可再生发电、降低 PUE 的凉爽干燥气候,以及足够便宜的土地来建设为机架供电的变电站和太阳能电场。
这些都不是什么奇特技术。这是选址。计算提供商能做的最绿色的事情,就是把硬件放在电网已经清洁、气候又能免费完成一半冷却的地方。
“绿色”声明实际上应该告诉你什么
这正是我持怀疑态度的地方。“绿色”是一个营销词,除非有人给你数字。当提供商做出清洁能源声明时,有三件事值得追问:
•PUE。 如果他们不愿意公布,就把该声明视为无法验证。
•数据中心所在地区的实际电网结构。 一个只是在化石能源电网上运行、却购买可再生能源证书的提供商,并不是在绿色运行。位置本身就是披露。
•可再生能源是否是真实容量,而不是抵消。 为建设该设施而新建的风能和太阳能,与在其他地方购买信用额度是不同的声明。
诚实的提供商会告诉你地区和设施特征。如果答案是“我们的数据中心位于内蒙古、新疆和宁夏,接入可再生能源渗透率高的电网,处于凉爽气候中”,那就是一个具体、可核查的陈述。如果答案是一句口号,那就别理它。
你实际上能做什么
你不会去审计提供商的变电站。但你可以做出一些决定,来调整自己的足迹:
•选择披露位置和 PUE 的提供商,而不是只在页面上印着“碳中和”的提供商。
•在任务允许时使用更小的模型。 一个 7B 模型回答支持问题的效果几乎可以媲美 175B 模型,而能耗只是其一小部分。将简单流量路由到小模型,是你所能控制的单一最大碳杠杆。
•积极缓存。 提示缓存将重复输入变成一次性成本,为重复性工作负载同时降低延迟和能耗。
•尽可能批处理。 更少、更大的请求在服务器利用率上胜过许多微小请求。
诚实的说法是,你无法用电子表格测量出清洁足迹,因为电网结构并不在你的数据中。你能做的,是选择那些基础设施在设计上就让足迹更小的提供商,并停止把琐碎请求路由到你负担得起的最大的模型。
这就是 SiCore TokenWorks 所表明的立场:它的三个计算中心位于内蒙古和林格尔、新疆哈密和宁夏中卫,这些地区因可再生能源渗透率高、气候凉爽且能保持低 PUE 而被选中。如果你关心 API 调用背后的能源,那么这种披露比一个徽章更重要。