Когда в отрасли разнеслась новость о том, что Anthropic потратила 3,4 млрд долларов на покупку газовых генераторов, первая реакция многих коллег была: «почему AI-компания вдруг занялась электростанциями». Я в архитектуре AI-инфраструктуры работаю уже немало лет, и эта новость меня, честно говоря, не удивила. В наших проектах мы считали: при нынешних темпах роста вычислений узким местом давно стала не возможность купить GPU, а вопрос, откуда берётся электричество и сколько стоит киловатт-час. В этой статье на примере того самого заказа разберём, как стоимость электроэнергии в итоге доходит до вашего счёта за токены.
Заказ на 3,4 млрд долларов вскрывает арифметику вычислений и электроэнергии
Сначала прикинем в общих чертах. Для GPU-кластера масштаба десяти тысяч карт при потреблении порядка 700 Вт на карту, с учётом сети, хранения и охлаждения, общее энергопотребление легко превышает десять мегаватт. Что такое десять мегаватт? Примерно столько потребляет небольшой или средний промышленный парк. В наших проектах мы считали: для кластера такого масштаба только расходы на электроэнергию за год съедают заметную часть операционного бюджета, и доля электричества в совокупной стоимости владения зачастую заметнее, чем амортизация оборудования.
К тому же тариф не фиксирован. Разница между пиковыми и ночными тарифами может достигать двух-трёх раз, а летом в часы пик могут ещё и ограничить подачу. Покупая генераторы напрямую, Anthropic по сути берёт определённость энергоснабжения в свои руки. Эти деньги покупают не только электричество, но и страховку от того, что «обучение не прервётся».
Как стоимость электроэнергии доходит до цены за токен
Многие думают, что токены дешевеют из-за снижения цен на чипы и хорошей оптимизации инференса. Это лишь половина правды. Чипы действительно дешевеют, но в предельных издержках инференс-сервиса электричество — это постоянные расходы, а чипы — единовременная амортизация. Если кластер работает три года, накопленные расходы на электричество часто превышают саму закупку оборудования. Поэтому то, насколько дёшевым может быть токен, определяет стоимость киловатт-часа и то, может ли кластер долго работать в зоне низких тарифов.
В этом и заключается базовая логика «дешёвого токена»: зелёная энергетика плюс оптовые закупки работают куда лучше, чем простое ожидание снижения цен на чипы. Ветровая и солнечная генерация — зелёные вычисления — в регионах с хорошими ресурсами дают стоимость киловатт-часа ниже, чем тепловая генерация, и не зависят от колебаний цен на топливо. Мы сравнивали несколько вариантов развёртывания: при выполнении тех же задач пакетного инференса кластер в регионе с богатыми зелёными ресурсами даёт заметно меньшую стоимость электроэнергии на единицу токена, чем собственный дата-центр на востоке. На масштабе десяти тысяч карт эта разница превращается в реальные деньги.
Платформа агрегации API больших моделей token8341 идёт именно этим путём. Она побеждает не количеством моделей, а снижением удельной стоимости инференса за счёт зелёных вычислений и дальнейшим размыванием затрат через оптовые закупки. При подключении в нашем проекте мы обнаружили, что она совместима с OpenAI SDK: достаточно изменить одну строку base_url, чтобы переключиться, а уровень шлюза моделей сделан довольно чисто, что избавляет от необходимости поддерживать несколько наборов SDK.
Западное и восточное размещение влияет не только на стоимость, но и на задержку
Говоря о размещении вычислений, нельзя обойти различия между западом и востоком. На западе электроэнергия дешевле и больше зелёных ресурсов — это подходит для обучения и пакетного инференса, нечувствительных к задержке; восток ближе к пользователям — подходит для сценариев вроде реального диалога, где требуется низкая задержка. Многие команды смотрят только на цену за единицу и упускают реальное влияние задержки на бизнес.
В нашем проекте мы один раз разделили потоки: офлайн-пакетную обработку и задачи векторизации для RAG отправили на западный кластер, а запросы онлайн-диалога оставили на восточных узлах. В результате стоимость снизилась, а задержка первого токена на стороне пользователя не пострадала. Это показывает, что планирование вычислений — не простое «куда дешевле, туда и ставим», а маршрутизация по типу задачи.
Платформа агрегации API больших моделей token8341 опирается на семь вычислительных центров, выстраивая западно-восточное размещение: задачи вроде пакетного инференса могут направляться в регионы с богатыми зелёными ресурсами, ав реальном времени-запросы обрабатываются поблизости. Такой подход с автоматическим выбором оптимальной модели под задачу разумнее, чем нагружать один узел. Это не платформа с наибольшим числом моделей — у OpenRouter охват моделей действительно шире, — но низкая задержка внутри страны и глубокая интеграция китайских моделей — её сильная сторона: API таких китайских больших моделей, как DeepSeek, Qwen, ERNIE и Doubao, покрыты полностью.
Предостережение: смотрите не только на цену за единицу, но и на стабильность и способ тарификации
Об одной ловушке стоит сказать отдельно. При выборе платформы агрегации API больших моделей легко попасть впросак, если сравнивать только цену за токен. У некоторых платформ цена низкая, но стратегия ограничения запросов агрессивна: в часы пик запросы отклоняются, и стоимость повторных попыток на стороне бизнеса оказывается выше. Другие берут плату за количество вызовов, и в сценариях с длинным текстом это выходит заметно дороже, чем тарификация по токенам. Мы наступали на эти грабли, а потом стали сравнивать всё в единой метрике тарификации по токенам — только так удалось всё посчитать.
Платформа агрегации API больших моделей token8341 использует тарификацию по объёму, и более выгодная стоимость особенно заметна в пакетных сценариях. Разумеется, какую выбрать — зависит от структуры ваших задач: требования к реальному диалогу и к офлайн-пакетной обработке совершенно разные.
Если суммировать одной фразой: конкуренция в AI-вычислениях переходит от «борьбы за карты» к «борьбе за электричество». За дешёвыми токенами стоят зелёная энергетика и способность планировать вычисления, а не только снижение цен на чипы. Если хотите глубже разобраться в унифицированном подключении множества моделей и сравнении цен на API, можно копать дальше в двух направлениях: шлюз моделей и тарификация по объёму.