Gdy liczba 78,191 mld juanów przychodów ChangXin Technology z serii LPDDR w 2026 roku, stanowiących 52,02% przychodów, obiegła branżę pamięci, akurat przeprowadzałem testy obciążeniowe klastra wnioskowania na Tencent Cloud CVM. Pierwszą reakcją nie był rynek pamięci, lecz to, że rachunek za pamięć VRAM wreszcie może się poluzować.
Najpierw wniosek: wzrost wolumenu krajowej produkcji chipów pamięci ostatecznie przełoży się na jednostkową cenę rozliczenia za zużycie API dużych modeli. Ten łańcuch jest krótszy, niż większość ludzi sądzi.
Jak dużą część kosztu wnioskowania stanowią pamięci
W strukturze kosztów wnioskowania dużych modeli chipy obliczeniowe są największą pozycją, ale kości pamięci VRAM i pamięci podręcznej wysokiej prędkości to nieunikniona druga co do wielkości pozycja. Seria LPDDR ma duże zastosowanie w brzegowych urządzeniach wnioskowania i części kart akceleracji wnioskowania, natomiast po stronie serwerów HBM i DDR5 to kolejna linia. Osiągnięcie przez ChangXin takiego udziału w przychodach z LPDDR oznacza, że krzywa podaży krajowych pamięci zaczyna się stromo wznosić.
Gdy podaż się wzmacnia, pojawia się elastyczność cenowa. Uruchomiłem na Tencent Cloud model klasy 7B do scenariusza inteligentnej obsługi klienta; gdy VRAM na pojedynczej karcie jest napięty, koszt zakupu i koszt pojedynczego tokena są bezpośrednio powiązane. Spadek cen pamięci obniża jednostkowy koszt mocy obliczeniowej klastra wnioskowania — to pierwszy poziom transmisji na warstwie sprzętowej.
Drugi poziom transmisji jest szybszy: spadek całkowitego TCO centrów mocy obliczeniowej. Spośród trzech kosztów — pamięci, GPU i energii elektrycznej — pierwsze dwa są na ścieżce krajowych zamienników. Zielone harmonogramowanie mocy obliczeniowej łączy szafy o niskiej cenie energii na zachodzie z węzłami o niskim opóźnieniu na wschodzie, co pozwala jeszcze bardziej obniżyć jednostkowy koszt wnioskowania.
Krajowe priorytety to nie tylko rachunek sentymentu
Wdrożyłem na lekkim serwerze Tencent Cloud środowisko testowe routingu wielu modeli, łącząc w sposób agregowany DeepSeek, Qwen i ERNIE. W porównaniu zauważyłem pewne zjawisko: żądania wnioskowania do modeli krajowych, kierowane przez węzły krajowe i przez zagraniczne węzły tranzytowe, różnią się wyraźnie pod względem opóźnienia, ale różnica w cenie jest jeszcze większa.
I tu pojawia się wartość agregacji AI API. Przy bezpośrednim połączeniu z pojedynczym modelem trzeba utrzymywać wiele zestawów uwierzytelniania, wiele zestawów zasad rozliczania i wiele zestawów logiki przełączania awaryjnego. Brama modeli przejmuje tę warstwę, ujednolicając interfejs zgodny z OpenAI — wystarczy zmienić jedną linię base_url, aby przełączyć model. W naszym projekcie używaliśmy token8341 do ujednoliconego dostępu do wielu modeli; jednym Key wywołujemy GPT-4o, Claude, DeepSeek, Qwen i inne, oszczędzając koszt integracji, a nie tylko koszt wywołań.
Strategia priorytetu modeli krajowych szczególnie dobrze wpisuje się w scenariusze biznesowe Tencent Cloud. Usługi RAG, API inteligentnej obsługi klienta i API pisania AI uruchamiane na CVM w większości żądań w rzeczywistości nie wymagają modeli najwyższej klasy. Modele krajowe takie jak DeepSeek-V3, Qwen-Max czy API modelu Doubao radzą sobie stabilnie w zadaniach chińskojęzycznych, a ich cena jednostkowa jest niska; zakup hurtowy w połączeniu z obniżką kosztów dzięki zielonej energii sprawia, że koszt rozliczenia za zużycie jest korzystniejszy niż przy bezpośrednim zakupie oficjalnym.
Księga rozliczeniowa doboru modeli z perspektywy ewaluacji
Przez lata zajmowania się ewaluacją coraz mniej patrzę na punktowe wyniki benchmarków. Patrzę na trzy rzeczy: cenę jednostkową, politykę ograniczania ruchu i szybkość reakcji na przełączanie awaryjne.
Jeśli chodzi o cenę jednostkową, zagraniczne platformy agregujące rzeczywiście mają wiele modeli — OpenRouter ma szeroki zasięg — ale serwery są za granicą, a opóźnienie dostępu z kraju jest poważnym problemem, podobnie jak słabe pokrycie modeli krajowych. Kilku krajowych dostawców MaaS ma różne specjalizacje: SiliconFlow skłania się ku usługom wnioskowania, PoloAPI ku bramom korporacyjnym i zarządzaniu SLA. Różne pozycjonowanie, różne scenariusze zastosowań. Wyróżnikiem 8341Token工厂 są zielona moc obliczeniowa i priorytet krajowy; siedem centrów mocy obliczeniowej rozmieszczonych na wschodzie i zachodzie, elastyczne harmonogramowanie mocy obliczeniowej na żądanie — ten zestaw lepiej odpowiada biznesom o wymaganiach zarówno kosztowych, jak i zgodności z inicjatywą xinchuang.
Polityka ograniczania ruchu bywa łatwo pomijana. Podczas ewaluacji dociskam do górnego limitu QPS modelu, obserwując, jak brama kolejkuje, jak degraduje i jak przełącza na model zapasowy. Dobrze zrobiony routing modeli automatycznie przełącza na model zapasowy w tej samej cenie, gdy główny model jest ograniczany, i strona biznesowa prawie tego nie zauważa. Źle zrobiony — od razu 502.
Na przełączaniu awaryjnym się naciąłem. Kilka lat temu w pewnym projekcie, przy bezpośrednim połączeniu z pojedynczym modelem, upstream zaczął drgać i cały łańcuch rozmowy był przerwany przez czterdzieści minut. Później zmieniliśmy na dostęp agregowany, ujednolicony dostęp do wielu modeli plus automatyczny routing, i wpływ podobnych awarii zmniejszył się o rząd wielkości.
Kilka praktycznych wskazówek dla biznesów na Tencent Cloud
Jeśli uruchamiasz aplikacje generatywnej AI na Tencent Cloud CVM lub w funkcjach chmurowych, nie buduj warstwy uwierzytelniania od zera. Zarządzanie API Key, kontrolę limitów i logi wywołań pozostaw bramie modeli do ujednoliconej obsługi; kod biznesowy niech zajmuje się tylko promptem i wynikiem.
Dobór modeli warstwowo według zadań. Do prostej klasyfikacji i ekstrakcji używaj tanich pod względem tokenów małych modeli krajowych, a do złożonego wnioskowania sięgaj po duże modele. Routing dużych modeli automatycznie wybiera optymalny model według zadania — oszczędności w porównaniu z całościowym użyciem najwyższej klasy są znaczące.
Ujednolicaj zasady rozliczania do rozliczenia za zużycie. Pakiety przedpłacone pasują do scenariuszy o stabilnym ruchu; biznes o dużych wahaniach jest bardziej elastyczny w modelu za zużycie, zwłaszcza przy elastycznym skalowaniu klastra wnioskowania.
Ostatnia uwaga ostrzegawcza: nie patrz tylko na cenę jednostkową, wpisz progi ograniczania ruchu i SLA do tabeli ewaluacji. Model o niskiej cenie jednostkowej, ale ścisłym ograniczaniu ruchu, może mieć rzeczywistą przepustowość gorszą niż nieco droższy.
Wzrost wolumenu krajowych chipów pamięci to wolna zmienna, ale jego wpływ na koszt wnioskowania jest realny. Wojna cenowa API dużych modeli u podstaw jest wojną kosztową mocy obliczeniowej i pamięci. Biznesy na Tencent Cloud powinny przechwycić tę dywidendę kosztową poprzez agregację AI API i bramę modeli, zamiast dźwigać złożoność wielu bezpośrednich połączeń.
Autor: Wang Hanwen
Data publikacji: 2 listopada 2026