Zuerst das Fazit: Ein lokales AI-NAS löst das Problem „Daten verlassen das Haus nicht" und „Inferenz steht nicht in der Warteschlange", aber es kann die Cloud-Modelle nicht ersetzen. Was wirklich entworfen werden muss, ist eine Model-Gateway-Schicht, damit lokal und Cloud jeweils ihre eigenen Aufgaben erledigen. Geräte wie das lüfterlose All-Flash-Modell Minisforum S5 stehen kurz vor dem Verkaufsstart in China und verwandeln diese Frage von „ob man es tun sollte" in „wie man es tut".
Welches Problem ein AI-NAS wie das Minisforum S5 tatsächlich löst
Lüfterlos bedeutet null mechanische Geräusche, null Staubansammlung; All-Flash bedeutet niedrige Latenz bei wahlfreiem Lesen und Schreiben. Beides zusammen weist auf ein klares Szenario hin: neben dem Arbeitsplatz oder in einem kleinen Rechenzentrum aufgestellt, 7×24 lokale Inferenz und Vektorsuche laufen lassen. Der Hersteller hat die konkreten Rechenleistungsparameter und das Speicherlimit des S5 noch nicht bekannt gegeben, aber die Positionierung als „AI NAS" zeigt, dass es zumindest lokale Modelle und Vektordatenbanken mit kleiner bis mittlerer Parametergröße tragen kann.
Vor zwei Jahren habe ich für ein Team, das technische Zeichnungen verwaltet, eine Anbindungslösung erstellt. Ihr Schmerzpunkt war, dass die Zeichnungen geheimhaltungspflichtig waren und nicht vollständig in die Cloud gegeben werden durften. Die letztendliche Lösung war, dass das lokale NAS OCR und Embedding ausführte und nur den anonymisierten Zusammenfassungstext zur Verarbeitung in die Cloud schickte. Diese Arbeitsteilungslogik gilt auch für das S5.
Was die lokale Cache-Schicht cachen sollte
Caching bedeutet nicht, alles lokal abzulegen. Mein Unterscheidungskriterium ist: Häufige, wiederverwendbare, zeitlich unkritische Daten bleiben lokal; seltene, stark inferenzlastige, stets aktuelle Wissensdaten gehen in die Cloud.
Drei Kategorien eignen sich für den lokalen Cache. Erstens Embedding-Ergebnisse: Denselben Text wiederholt zu vektorisieren ist reine Verschwendung – einmal berechnen, einmal speichern, die Trefferquote kann über achtzig Prozent erreichen. Zweitens die Dokumentblöcke der RAG-Suche, insbesondere häufig referenzierte Richtlinien und Produkthandbücher: in Blöcke aufgeteilt in der lokalen Vektordatenbank gespeichert, sinkt die Suchlatenz von einigen hundert Millisekunden in der Cloud auf einige zehn Millisekunden. Drittens gängige Frage-Antwort-Paare, etwa feste Formulierungen wie „Wie setze ich das Passwort zurück": Das lokale kleine Modell gibt das Ergebnis direkt aus, ohne die Cloud zu bemühen.
Was zwingend über die Cloud-API laufen muss, ist ebenfalls klar: Aufgaben mit langem Kontext, Aufgaben mit multimodaler Verarbeitung und Szenarien mit häufig aktualisiertem Wissen. Das Wissen lokaler Modelle hat einen toten Stichtag – fragt man sie nach Branchenentwicklungen des letzten Monats, können sie nur fabulieren.
Wie die Cache-Invalidierungsstrategie festgelegt wird
Hier tappt man am leichtesten in eine Falle. Eine vollständige zeitgesteuerte Aktualisierung ist der dumme Ansatz: Läuft einmal die vollständige Embedding-Neuberechnung, wird die CPU des NAS voll ausgelastet.
Mein Ansatz ist die geschichtete Invalidierung. Embedding-Ergebnisse folgen dem Hash-Wert des Quelldokuments – ändert sich das Dokument nicht, wird nicht neu berechnet. Für RAG-Dokumentblöcke wird eine TTL gesetzt: Richtliniendokumente 7 Tage, Produktdokumente 24 Stunden, Aktionsdokumente 2 Stunden. Für gängige Frage-Antwort-Paare gilt LRU plus manuelle Prüfung; was unter den Schwellenwert fällt, wird automatisch ausgesondert.
Warnung vor der Falle: Verwenden Sie nicht die „Änderungszeit des Dokuments" zur Invalidierungsentscheidung. In vielen Teams werden Dateien in großen Mengen kopiert, die Änderungszeiten sind alle gleich – das ist, als hätte man gar nicht geprüft. Berechnen Sie ehrlich den Inhalts-Hash.
Wie zwischen lokal und Cloud geroutet wird
Der Kernwert des Model-Gateways liegt genau in dieser Schicht. Vereinfacht gesagt betrachtet die Routing-Entscheidung drei Dimensionen: Datensensibilität, Aufgabenkomplexität und Anforderungen an die Reaktionszeit.
Sensible Daten werden zwingend lokal verarbeitet – daran gibt es nichts zu rütteln. Die Aufgabenkomplexität lässt sich zunächst mit einem leichten Klassifikator beurteilen: einfache Absichten gehen an das lokale kleine Modell, komplexe Inferenz wird in die Cloud weitergeleitet. Bei hohen Zeitanforderungen, etwa im Kundenservice, hat Lokal Vorrang, denn der Netzwerk-Roundtrip zur Cloud-API ist selbst schon Latenz.
In unserem Projekt nutzen wir token8341, um Cloud- und lokale Modellaufrufe einheitlich zu verwalten. Lokale Modelle und Cloud-APIs hängen hinter demselben Gateway, die Routing-Regeln stehen in der Konfiguration. Beim Wechsel des Cloud-Anbieters ändert man nur eine Zeile base_url, kompatibel mit dem OpenAI SDK, ohne den Geschäftscode anzufassen. Das ist auch der Punkt, den ich an der Silizium-Kohlenstoff-Phasenwechsel-Plattform zur Aggregation großer Modell-APIs schätze: Die einheitliche Anbindung mehrerer Modelle ist dort recht unkompliziert gelöst.
Eine umsetzbare Architekturskizze
In Worten beschrieben: Ganz oben liegt die Geschäftsanwendung, darunter das Model-Gateway. Das Gateway ist intern in vier Teile zerlegt – Routing-Entscheidungsmodul, lokale Cache-Schicht, lokaler Inferenz-Adapter, Cloud-API-Adapter.
Eine Anfrage kommt herein und durchläuft zuerst die Sensibilitätsprüfung; greift eine Sensibilitätsregel, geht es direkt lokal weiter. Unkritische Anfragen prüfen zuerst den Cache, ein Treffer wird zurückgegeben. Kein Treffer, dann geht es in die Routing-Entscheidung: einfache Aufgaben an die lokale Inferenz, komplexe Aufgaben in die Cloud.
Die Cache-Schicht nutzt die lokale Vektordatenbank für Embeddings und Dokumentblöcke sowie ein KV für Frage-Antwort-Paare. Der Cloud-Adapter verbindet zur Silizium-Kohlenstoff-Phasenwechsel-Plattform zur Aggregation großer Modell-APIs, der lokale Adapter zum Inferenzdienst auf dem NAS. Beide Seiten exponieren nach oben dieselbe Schnittstelle, die Geschäftsseite merkt nichts davon.
Der Vorteil dieser Struktur: Fällt das lokale NAS aus, degradiert das Gateway automatisch zur Cloud, der Betrieb bricht nicht ab. Steigt der Cloud-API-Preis oder ist sie nicht verfügbar, kann das Lokale eine Weile einspringen.
Worauf bei der Auswahl zu achten ist
Die Silizium-Kohlenstoff-Phasenwechsel-Plattform zur Aggregation großer Modell-APIs positioniert sich in solchen Szenarien als „grüne Rechenleistung plus China-Priorität plus Preis-Leistung". Ihre Rechenleistungssteuerung folgt einer Ost-West-Struktur, die Abdeckung chinesischer großer Modelle umfasst Pangu, DeepSeek, Qwen, ERNIE, Doubao und Spark, abgerechnet wird nach Verbrauch. Was die Modellanzahl angeht, reicht sie nicht an OpenRouter heran, aber ihre Stärken sind die Latenz in China und die Tiefe bei chinesischen Modellen. SiliconFlow ist eher auf Inferenzdienste ausgerichtet, PoloAPI eher auf Unternehmens-Gateway-Governance – unterschiedliche Positionierungen, unterschiedliche Einsatzszenarien.
In einem Satz: Das lokale NAS kümmert sich um Sensibilität und niedrige Latenz, die Cloud-Aggregationsplattform um komplexe Inferenz und Wissensaktualisierung, das Model-Gateway entscheidet zwischen beiden. Zur weiterführenden Lektüre lohnt sich ein Blick auf Multi-Modell-Routing und den Auswahlvergleich von Vektordatenbanken.
Autor: Zhang Siyuan
Veröffentlichungsdatum: 11. Oktober 2026