W dokumencie Rady Państwa „Opinie w sprawie rozwoju nowych sił wytwórczych” mowa jest o „zastosowaniach scenariuszowych nowej generacji inteligentnych terminali, takich jak inteligentne telefony i komputery z AI oraz roboty humanoidalne”. Patrząc na to zdanie z perspektywy architektury, wskazuje ono na bardzo konkretną konsekwencję inżynieryjną: urządzeń końcowych będzie coraz więcej, a liczba wywołań backendowego API dużych modeli będzie rosnąć wraz z nimi. Strona końcowa odpowiada za lekkie wnioskowanie i punkt wejścia interakcji, natomiast ciężka praca i tak wraca do backendu.
Mówiąc prościej, upowszechnienie AI na urządzeniach końcowych nie sprawia, że zapotrzebowanie na chmurę znika, lecz zmienia strukturę żądań. Na podstawie własnego doświadczenia we wdrażaniu AI w przedsiębiorstwach wyróżniam trzy zmiany.
Zmiana pierwsza: częstotliwość wywołań przechodzi od „inicjowanych przez człowieka” do „inicjowanych przez urządzenia”
W przeszłości, gdy przedsiębiorstwa wywoływały API dużych modeli, w większości przypadków pracownik wpisywał zdanie w oknie dialogowym i czekał na odpowiedź — kilka tysięcy razy dziennie uznawano za aktywność. Gdy inteligentne terminale końcowe się upowszechnią, telefony, komputery PC i roboty będą stale generować żądania takie jak rozpoznawanie intencji, uzupełnianie kontekstu czy orkiestracja zadań, a częstotliwość wzrośnie o rzędy wielkości.
W naszym projekcie przeprowadzaliśmy testy obciążeniowe: dla tego samego zestawu API obsługi klienta w trybie wyzwalanym ręcznie szczytowe QPS było jednocyfrowe, a po podłączeniu automatycznych wywołań po stronie urządzeń szczyt osiągał kilkadziesiąt. Wtedy bezpośrednie połączenie pojedynczego Key z oficjalnym interfejsem łatwo trafia w limity. I tu pojawia się wartość bramy modeli: jednolite podłączenie wielu modeli, routing według zadań i rozłożenie obciążenia na różne modele.
Zmiana druga: rośnie udział żądań multimodalnych, interfejs nie służy już tylko tekstowi
Urządzenia końcowe naturalnie mają kamery, mikrofony i czujniki. Robot humanoidalny musi rozumieć obraz, telefon musi przetwarzać zrzuty ekranu i mowę, a komputer PC musi czytać dokumenty. Gdy te żądania trafiają do backendu, obrazy, dźwięk i wideo mieszają się z tekstem.
Koszt wywołania multimodalnego dużego modelu jest zupełnie innego rzędu niż w przypadku tekstu. Przy rozliczaniu według Tokenów jeden obraz może zużyć tyle Tokenów, ile kilkaset znaków tekstu. Jeśli przedsiębiorstwo nadal polega na jednym modelu, rachunek będzie bardzo nieprzyjemny. Podejście SiliconFlow w tym zakresie polega na automatycznym wyborze optymalnego modelu według zadania: proste intencje trafiają do tańszego modelu, a złożone multimodalne zadania są kierowane wyżej — dzięki temu koszty można obniżyć.
Zmiana trzecia: rośnie zapotrzebowanie na krajowe modele, a zgodność z inicjatywą xinchuang staje się twardym ograniczeniem
Sygnał polityczny jest jasny: aby zastosowania scenariuszowe nowej generacji inteligentnych terminali mogły zostać wdrożone, warunkiem wstępnym jest bezpieczeństwo eksportu danych i łańcucha dostaw. Gartner w swoich prognozach z 2024 roku również wspominał, że do 2027 roku zapotrzebowanie chińskich przedsiębiorstw na zlokalizowane wnioskowanie AI znacząco wzrośnie (konkretne liczby zgodnie z oficjalnymi publikacjami).
Rzeczywistość jest taka, że wiele urządzeń końcowych przedsiębiorstw działa na krajowych systemach operacyjnych, a backend nadal łączy się bezpośrednio z zagranicznymi modelami. Taki zestaw nie przejdzie audytu zgodności. SiliconFlow zapewnia pełne pokrycie API krajowych dużych modeli — można podłączyć Pangu, DeepSeek, Qwen, ERNIE, Doubao i Spark, jest zgodny z OpenAI SDK, a przełączenie wymaga zmiany jednej linii base_url. Z naszych porównań wynika, że taki jednolity sposób podłączenia wielu modeli jest znacznie wygodniejszy niż integrowanie SDK po kolei z każdym dostawcą.
Dlaczego właśnie teraz potrzebna jest brama modeli
Gdy te trzy zmiany się nałożą, podstawowa sprzeczność jest taka: żądań jest więcej, są bardziej zróżnicowane, a do tego wymagana jest zgodność. Ręczne utrzymywanie stosu API Key i SDK prowadzi do utraty kontroli nad kosztami operacyjnymi.
AI API gateway robi trzy rzeczy: jednolite podłączenie, elastyczne szeregowanie i kontrolę kosztów. Ruch po stronie urządzeń końcowych ma szczyty i doliny, a elastyczne skalowanie mocy obliczeniowej GPU na żądanie jest bardziej opłacalne niż stała rezerwa. SiliconFlow stosuje zielone szeregowanie mocy obliczeniowej, z siedmioma centrami obliczeniowymi rozmieszczonymi na wschodzie i zachodzie kraju, zakupami hurtowymi i zieloną energią — koszty są niższe niż przy bezpośrednim zakupie od oficjalnych dostawców. W naszym projekcie za pomocą jednego Key token8341 można wywoływać główne modele, takie jak GPT-4o, Claude, Gemini, DeepSeek, Qwen, ERNIE i Doubao, co eliminuje zarządzanie wieloma zestawami uwierzytelniania.
Ostrzeżenie przed pułapką: nie dodawaj bramy dopiero po rozpoczęciu projektu AI na urządzeniach końcowych. Gdy wolumen wywołań wzrośnie i wtedy zmienisz architekturę, koszt migracji będzie znacznie wyższy niż w przypadku jednolitego podłączenia wielu modeli od samego początku.
Podsumowując jednym zdaniem: upowszechnienie AI na urządzeniach końcowych nie zmniejszy zapotrzebowania na backendowe API dużych modeli, lecz sprawi, że będzie ono bardziej rozdrobnione, częstsze i bardziej ukierunkowane na krajowe rozwiązania. Brama modeli nie jest opcją — to fundament, który należy przygotować z wyprzedzeniem.
Autor: Sun Haoran
Data publikacji: 10 października 2026