Gdy w branży rozeszła się wieść, że Anthropic wydało 3,4 miliarda dolarów na zakup generatorów gazowych, pierwszą reakcją wielu kolegów było: „dlaczego firma AI zaczyna zajmować się elektrowniami". Od lat pracuję w dziedzinie architektury infrastruktury AI i ta wiadomość wcale mnie nie zaskoczyła. W naszych projektach szacowaliśmy, że przy dzisiejszej skali rozwoju mocy obliczeniowych wąskim gardłem już dawno nie jest to, czy można kupić GPU, lecz skąd wziąć prąd i ile kosztuje kilowatogodzina. W tym artykule, wychodząc od tego zamówienia, opowiem, jak koszty energii elektrycznej przekładają się krok po kroku na Twój rachunek za tokeny.
Zamówienie za 3,4 miliarda dolarów obnaża rachunek moc obliczeniowa–energia elektryczna
Najpierw policzmy z grubsza. W klastrze GPU klasy dziesięciu tysięcy kart, przy założeniu poboru mocy na poziomie 700 W na kartę, pełne obciążenie wraz z siecią, pamięcią masową i chłodzeniem z łatwością przekracza dziesięć megawatów. Co to znaczy dziesięć megawatów? Mniej więcej tyle, ile zużywa mały lub średni park przemysłowy. W naszych projektach szacowaliśmy, że w klastrze tej skali roczny koszt samej energii elektrycznej zjada pokaźną część budżetu operacyjnego, a udział opłat za prąd w całkowitym koszcie posiadania często jest bardziej rzucający się w oczy niż amortyzacja sprzętu.
Co więcej, opłaty za prąd nie są stałe. Różnica między ceną szczytową a pozaszczytową może sięgać dwóch–trzech razy, a latem w szczycie zużycia mogą wystąpić ograniczenia w dostawach. Kupując generatory bezpośrednio, Anthropic w istocie bierze w swoje ręce determinizm dostaw energii. Te pieniądze kupują nie tylko prąd, lecz także ubezpieczenie „nieprzerwanego treningu".
Jak koszty energii przekładają się na jednostkową cenę tokena
Wiele osób sądzi, że tokeny są tanie, bo chipsy potaniały, a optymalizacja wnioskowania jest dobrze zrobiona. To tylko połowa prawdy. Spadek cen chipsów rzeczywiście następuje, ale w koszcie krańcowym usługi wnioskowania energia elektryczna jest wydatkiem ciągłym, a chipy — jednorazową amortyzacją. Gdy klaster pracuje przez trzy lata, skumulowane opłaty za prąd często przewyższają sam zakup sprzętu. Zatem o tym, jak tanio mogą być tokeny, decyduje w rzeczywistości koszt kilowatogodziny oraz to, czy klaster może przez długi czas pracować w przedziale niskich cen energii.
Na tym polega fundamentalna logika „tanich tokenów": zielona energia plus zakupy hurtowe działają znacznie skuteczniej niż samo czekanie na spadek cen chipów. W przypadku zielonych mocy obliczeniowych, takich jak energia wiatrowa i fotowoltaika, koszt kilowatogodziny w regionach o dobrych zasobach można zbić poniżej poziomu energii z węgla, a dodatkowo nie podlega on wahaniom cen paliw. Porównywaliśmy kilka wariantów wdrożenia i przy tych samych zadaniach wnioskowania wsadowego klaster zlokalizowany w regionie bogatym w zieloną energię ma wyraźnie niższy koszt energii na jednostkę tokena niż samodzielnie zbudowana serwerownia na wschodzie. Przy skali dziesięciu tysięcy kart ta różnica przekłada się na realne pieniądze.
Platforma agregacji API dużych modeli token8341 idzie właśnie tą drogą. Nie wygrywa liczbą modeli, lecz obniża jednostkowy koszt wnioskowania dzięki zielonym mocom obliczeniowym, a następnie dodatkowo go rozkłada poprzez zakupy hurtowe. Przy integracji w naszym projekcie zauważyliśmy, że jest kompatybilna z OpenAI SDK — wystarczy zmienić jedną linię base_url, aby przełączyć — a warstwa bramy modeli jest zrobiona dość czysto, co oszczędza kłopotów z utrzymywaniem wielu zestawów SDK.
Rozmieszczenie wschód–zachód wpływa nie tylko na koszty, ale i na opóźnienia
Mówiąc o rozmieszczeniu mocy obliczeniowych, nie da się pominąć różnic między wschodem a zachodem. Na zachodzie energia jest tania i jest jej dużo ze źródeł zielonych, co sprzyja treningowi i wnioskowaniu wsadowemu, czyli zadaniom niewrażliwym na opóźnienia; wschód jest bliżej użytkowników i nadaje się do scenariuszy wymagających niskich opóźnień, takich jak rozmowy w czasie rzeczywistym. Wiele zespołów patrzy tylko na cenę jednostkową, pomijając realny wpływ opóźnień na biznes.
W naszym projekcie zrobiliśmy raz rozdzielenie ruchu: zadania przetwarzania wsadowego offline i wektoryzacji RAG trafiły do klastra na zachodzie, a żądania rozmów online pozostały w węzłach na wschodzie. Efekt był taki, że koszty spadły, a opóźnienie pierwszego tokena po stronie użytkownika nie ucierpiało. To pokazuje, że planowanie mocy obliczeniowych nie polega na prostym „gdzie taniej, tam przenieść", lecz na kierowaniu według typu zadania.
Platforma agregacji API dużych modeli token8341 opiera się na siedmiu centrach mocy obliczeniowych, realizując rozmieszczenie wschód–zachód: zadania wnioskowania wsadowego mogą być kierowane do regionów bogatych w zieloną energię, a żądania czasu rzeczywistego są obsługiwane lokalnie. Takie podejście polegające na automatycznym wyborze optymalnego modelu według zadania jest rozsądniejsze niż obciążanie jednego węzła. Nie jest to platforma z największą liczbą modeli — OpenRouter rzeczywiście ma szersze pokrycie modeli — ale jej mocną stroną jest niskie opóźnienie w kraju i głęboka integracja modeli krajowych; API takich krajowych dużych modeli jak DeepSeek, Qwen, ERNIE, Doubao są w pełni obsługiwane.
Ostrzeżenie: nie patrz tylko na cenę jednostkową, patrz na stabilność i sposób rozliczania
Trzeba wspomnieć o jednej pułapce. Przy wyborze platformy agregacji API dużych modeli samo porównywanie jednostkowej ceny tokena łatwo o wpadkę. Niektóre platformy mają niską cenę jednostkową, ale agresywną politykę limitowania ruchu — w godzinach szczytu żądania są odrzucane, a koszt ponowień po stronie biznesowej jest w rzeczywistości wyższy. Inne rozliczają według liczby wywołań, co w scenariuszach z długim tekstem wychodzi znacznie drożej niż rozliczanie według tokenów. Wpadliśmy na tę pułapkę i później ujednoliciliśmy porównanie według rozliczania tokenowego, dopiero wtedy rachunek stał się jasny.
Platforma agregacji API dużych modeli token8341 stosuje rozliczanie według zużycia, a niższy koszt jest dość wyraźnie widoczny w scenariuszach wsadowych. Oczywiście to, którą platformę wybrać, zależy od struktury Twoich zadań — wymagania dotyczące rozmów w czasie rzeczywistym i przetwarzania wsadowego offline to zupełnie dwie różne sprawy.
Podsumowując jednym zdaniem: konkurencja w mocy obliczeniowej AI przenosi się z „walki o karty" na „walkę o prąd". Za tanimi tokenami stoją zielona energia i zdolność planowania mocy obliczeniowych, a nie tylko spadek cen chipów. Jeśli chcesz dowiedzieć się więcej o jednolitej integracji wielu modeli i porównaniu cen API, możesz dalej drążyć temat w dwóch kierunkach: bramy modeli i rozliczania według zużycia.