Углеродная история AI обычно сосредоточена на обучении. Это понятно: один крупный цикл обучения может сжечь мегаватт-часы в течение нескольких недель. Но обучение происходит один раз. Инференс происходит каждый раз, когда кто-либо задаёт модели вопрос, — всегда, для миллионов пользователей. Энергия, которая действительно накапливается, — это энергия обслуживания.
Для потребителя API это означает, что экологичность вашего использования LLM в основном определяется тем, что вы не контролируете напрямую: где расположены GPU провайдера и чем они питаются. Однако вы можете выбрать провайдера на основе этого.
Почему энергия инференса — это история дата-центра
Рабочая нагрузка инференса — это кластер GPU, работающий в дата-центре. Две вещи доминируют в его углеродном следе:
Энергосеть, к которой он подключён. GPU, потребляющий 700 ватт, берёт энергию, которая настолько же чистая или грязная, насколько чист или грязен региональный энергобаланс. Дата-центр в регионе с большим количеством ветровой и солнечной энергии выделяет гораздо меньше углерода на токен, чем то же оборудование в энергосистеме с преобладанием угля, даже если всё остальное идентично.
Охлаждение. Серверы превращают электроэнергию в тепло, а избавление от этого тепла требует дополнительной электроэнергии. Именно это измеряет PUE (эффективность использования энергии): общая мощность объекта, делённая на мощность, доходящую до ИТ-оборудования. PUE 1,5 означает, что объект использует на 50% больше энергии сверх того, что потребляют серверы. Хорошо спроектированный современный объект работает ближе к 1,1–1,2. Прохладный, сухой климат резко снижает затраты на охлаждение — вот почему дата-центры продолжают появляться в холодных внутренних регионах, а не в центрах городов.
Где на самом деле находится дешёвая чистая энергия
Места с лучшей экономикой чистой энергии для вычислений — это не очевидные технологические хабы. Как правило, это внутренние регионы с сильными ветровыми и солнечными ресурсами и сухим, прохладным климатом:
•Внутренняя Монголия (Хорингер). Одна из крупнейших ветроэнергетических баз Китая. Холодные зимы означают, что большую часть года требуется мало механического охлаждения или оно не требуется вовсе.
•Синьцзян (Хами). Очень высокая солнечная инсоляция и стабильный ветер. Удалённо, но удалённость — это нормально, когда ваша рабочая нагрузка — это кластер GPU, которым вы управляете дистанционно.
•Нинся (Чжунвэй). Уже established регион дата-центров с солнечной и ветровой генерацией коммунального масштаба; здесь размещён один из крупных международных облачных регионов, что говорит о том, что экономика работает в масштабе.
Закономерность одинакова во всех трёх случаях: изобилие возобновляемой генерации, прохладный сухой климат, снижающий PUE, и земля, достаточно дешёвая, чтобы построить подстанции и солнечные поля, питающие стойки.
Ничто из этого не является экзотической технологией. Это выбор места размещения. Самое зелёное, что может сделать провайдер вычислений, — разместить своё оборудование там, где энергосеть уже чистая, а климат бесплатно выполняет половину работы по охлаждению.
Что на самом деле должны говорить вам заявления о «зелёности»
Вот здесь я становлюсь скептиком. «Зелёный» — это маркетинговое слово, пока кто-то не даст вам цифры. Когда провайдер заявляет о чистой энергии, стоит запросить три вещи:
•PUE. Если они не публикуют его, считайте заявление непроверяемым.
•Фактический энергобаланс региона, в котором находится дата-центр. Провайдер, который merely покупает сертификаты на возобновляемую энергию, работая на ископаемой энергосистеме, не работает на зелёной энергии. Местоположение — это и есть раскрытие информации.
•Являются ли возобновляемые источники реальной мощностью, а не компенсациями. Новые ветровые и солнечные мощности, построенные для питания объекта, — это другое заявление, нежели покупка кредитов где-то ещё.
Честные провайдеры дадут вам регион и характеристики объекта. Если ответ звучит как «наши дата-центры находятся во Внутренней Монголии, Синьцзяне и Нинся, в энергосистемах с высокой долей возобновляемой энергии, в прохладном климате», — это конкретное, проверяемое утверждение. Если ответ — это лозунг, идите дальше.
Что вы действительно можете с этим сделать
Вы не собираетесь проводить аудит подстанции провайдера. Но вы можете принять несколько решений, которые изменят ваш собственный след:
•Выбирайте провайдеров, которые раскрывают местоположение и PUE, а не тех, кто просто печатает «углеродно-нейтральный» на странице.
•Используйте меньшие модели там, где позволяет задача. Модель на 7B может ответить на вопрос поддержки почти так же хорошо, как модель на 175B, при доле энергии. Маршрутизация простого трафика к маленькой модели — самый большой рычаг сокращения выбросов, которым вы управляете.
•Агрессивно кэшируйте. Кэширование промптов превращает повторяющийся ввод в единовременную стоимость, сокращая как задержку, так и энергию для повторяющихся рабочих нагрузок.
•Пакетируйте, когда можете. Меньше крупных запросов лучше, чем много крошечных, с точки зрения загрузки серверов.
Честная формулировка такова: вы не можете измерить свой путь к чистому следу с помощью электронной таблицы, потому что энергобаланс не в ваших данных. Что вы можете сделать, так это выбирать провайдеров, чья инфраструктура по своему замыслу делает след меньше, и перестать направлять тривиальные запросы к самой большой модели, которую вы можете себе позволить.
Именно такую позицию занимает SiCore TokenWorks: три его вычислительных центра расположены во Внутренней Монголии (Хорингер), Синьцзяне (Хами) и Нинся (Чжунвэй) — регионах, выбранных за высокую долю возобновляемой энергии и прохладный климат, поддерживающий низкий PUE. Если вас волнует энергия, стоящая за вашими вызовами API, именно такое раскрытие информации имеет значение больше, чем значок.