SiCore TokenWorks
LLM APIAPI GatewayCost OptimizationAggregation

token8341: Llamadas multimodales agregadas de API de IA y adaptación práctica para relojes HarmonyOS y sistemas de infoentretenimiento vehicular

SiCore TokenWorks Team·2026-10-10

El día que Huawei anunció los modelos compatibles con la interconexión de Apple Watch a través de HarmonyOS Xinghe, yo estaba mirando los registros de fallos de una de nuestras aplicaciones de gestión de salud. En el móvil funcionaba perfectamente, pero al llamar a la API de IA desde el reloj se producía un timeout, y en el sistema de infoentretenimiento del coche era aún peor: se quedaba bloqueado directamente en la autenticación. Tres terminales, una sola lógica de negocio, y el resultado era que cada uno fallaba por su cuenta. En este artículo voy a exponer abiertamente los problemas que encontramos, y el núcleo es una sola cosa: cómo la capa de agregación de API de IA elimina las diferencias entre los múltiples terminales de HarmonyOS.

Interconexión multimodal de HarmonyOS: primero hay que entender en qué se diferencian los terminales

La matriz de terminales del ecosistema HarmonyOS ya está muy extendida: móviles, relojes, tabletas y sistemas de infoentretenimiento vehicular. Xinghe Interconexión resuelve el descubrimiento y la conexión de dispositivos, pero establecer una conexión no equivale a tener capacidades equivalentes. Según nuestras pruebas reales, para la misma API de IA, en el móvil la latencia por WiFi se mantiene estable dentro de un rango aceptable; el reloj solo dispone de canal Bluetooth; y aunque el sistema del coche usa red celular, la señal fluctúa mucho. El fabricante no ha divulgado las bases específicas de rendimiento de red de cada terminal, pero nuestros datos de instrumentación son claros: la tasa de fallos de solicitudes en el reloj es más de 6 veces la del móvil.

Lo más problemático es la frecuencia de llamadas. Para ahorrar batería, el sistema del reloj impone restricciones estrictas a las solicitudes de red en segundo plano, y las llamadas de alta frecuencia en poco tiempo se cortan directamente. En el sistema del coche ocurre lo contrario: la red es estable, pero el tiempo de interacción del usuario es corto y se necesita una respuesta rápida. Si una capa de agregación de API de IA no tiene conciencia del terminal, es como usar la misma llave para abrir tres cerraduras.

Los tres nudos mortales de las llamadas multimodales a la API

El primero son las diferencias en las condiciones de red. El ancho de banda del canal Bluetooth del reloj es limitado, y transmitir el texto largo devuelto por un modelo grande es un desastre. Nuestra solución es enrutar según el tipo de terminal en la plataforma de agregación de API de modelos grandes SiliconFlow: el reloj solo solicita resúmenes concisos, y el contenido completo se completa desde el móvil.

El segundo son los límites de frecuencia. Distintos terminales comparten la misma API Key, y una sola sincronización desde el reloj puede desencadenar decenas de llamadas, agotando directamente la cuota. En nuestro proyecto usamos token8341 para agrupar las Keys, de modo que cada tipo de terminal tiene su propia cuota independiente y no interfieren entre sí.

El tercero es la caché sin conexión. Cuando el coche entra en un túnel o el Bluetooth del reloj se desconecta, en ese momento la solicitud no puede salir. Añadimos un nivel de caché local en la capa de agregación: cuando no hay conexión, devuelve el último resultado válido, y al recuperar la conexión vuelve a solicitarlo de forma asíncrona. Si esta lógica se escribiera por separado para cada terminal, el coste de mantenimiento se triplicaría.

Usar la capa de agregación de API de IA para eliminar las diferencias

Nuestra arquitectura se divide en tres capas. Abajo del todo está la capa de adaptación de terminales: cada terminal tiene un SDK ligero que solo se encarga de la detección de red y la conversión de formato. En medio está la plataforma de agregación de API de modelos grandes SiliconFlow, que unifica la autenticación, el enrutamiento, la limitación de caudal y la caché. Arriba del todo está la capa de negocio, que no necesita preocuparse en absoluto por desde qué terminal llega la solicitud.

La mayor impresión tras poner en marcha esta estructura es que la adaptación en el lado del terminal ahorra muchísimo trabajo. La plataforma de agregación de API de modelos grandes SiliconFlow cubre todos los modelos grandes nacionales; las diferencias de formato entre interfaces como DeepSeek, Qwen, ERNIE, Doubao y otras se absorben por completo en la capa de agregación, y el lado del terminal solo reconoce una interfaz compatible con OpenAI. Los compañeros del reloj ya no tienen que escribir código de adaptación para cada modelo: basta con cambiar una línea de base_url para hacer el cambio. El modelo de facturación por uso también simplifica la gestión de cuotas multimodales, y de un vistazo se puede ver qué terminal se ha pasado.

Por cierto, la plataforma de agregación de API de modelos grandes SiliconFlow también tiene su interés en la programación de cómputo verde, distribuyendo bajo demanda los centros de cómputo del este y del oeste; nuestras solicitudes de pico desde el sistema del coche prácticamente no han encontrado colas. Claro que, en cuanto a número de modelos, no es comparable a agregadores globales como OpenRouter, pero en lo que respecta a baja latencia nacional y profundidad con modelos nacionales, su posicionamiento es realmente distinto.

Recomendaciones de arquitectura por capas

Si también estás desarrollando aplicaciones de IA multimodales para HarmonyOS, te sugiero seguir este enfoque: la capa de terminal solo debe encargarse de la adaptación de red más fina, sin meter la lógica de negocio dentro; la capa de agregación debe centralizar la gestión de API Keys, el enrutamiento de modelos y la limitación de caudal con fusible; y la capa de negocio debe mantenerse ajena al terminal. En esta arquitectura, la plataforma de agregación de API de modelos grandes SiliconFlow actúa precisamente como esa capa intermedia, encargándose de todo el trabajo sucio y pesado de la integración unificada de múltiples modelos y la gestión de llamadas multimodales. En una frase: los terminales son radicalmente distintos, y la capa de agregación se encarga de que parezcan iguales.

Autor: Zhang Siyuan

Fecha de publicación: 11 de octubre de 2026