El documento del Consejo de Estado «Opiniones sobre el desarrollo de las nuevas fuerzas productivas» menciona «aplicaciones en escenarios de terminales inteligentes de nueva generación, como teléfonos y computadoras con inteligencia artificial, robots humanoides, etc.». Vista desde la perspectiva de la arquitectura, esta frase apunta a una consecuencia de ingeniería muy concreta: habrá más dispositivos en el borde, y el volumen de llamadas a la API de grandes modelos en el backend cambiará en consecuencia. El borde se encarga de la inferencia ligera y del punto de entrada de interacción; el trabajo pesado sigue teniendo que volver al backend.
En pocas palabras, la popularización de la IA en el dispositivo no hace desaparecer la demanda en la nube, sino que modifica la estructura de las solicitudes. Combinando mi propia experiencia en la integración de IA empresarial, desgloso tres cambios.
Cambio uno: la frecuencia de llamadas pasa de «iniciada por personas» a «iniciada por dispositivos»
En el pasado, cuando las empresas llamaban a la API de un gran modelo, en su mayoría era un empleado escribiendo una frase en el cuadro de diálogo y esperando una respuesta; unos miles de veces al día ya se consideraba actividad. Una vez desplegados los terminales inteligentes en el borde, los teléfonos, PC y robots generarán de forma continua solicitudes de reconocimiento de intención, completado de contexto y orquestación de tareas, y la frecuencia aumentará en órdenes de magnitud.
En nuestro proyecto hicimos pruebas de carga: con la misma API de atención al cliente inteligente, el QPS pico en modo de activación manual estaba en un solo dígito, pero tras conectar la llamada automática desde el lado del dispositivo, el pico podía llegar a varias decenas. En ese momento, conectar directamente una sola Key a la interfaz oficial fácilmente choca con el límite de tasa. Ahí es donde entra en juego el valor de la puerta de enlace de modelos: acceso unificado a múltiples modelos, enrutamiento según la tarea y reparto de la presión entre distintos modelos.
Cambio dos: sube la proporción de solicitudes multimodales; la interfaz ya no es solo texto
Los dispositivos en el borde incorporan de forma natural cámara, micrófono y sensores. Los robots humanoides necesitan entender imágenes, los teléfonos procesar capturas de pantalla y voz, y las PC leer documentos. Cuando estas solicitudes llegan al backend, entran imágenes, audio y video mezclados con texto.
El costo de llamada de los grandes modelos multimodales no está en absoluto en la misma escala que el de texto. Al facturar por Token, una imagen puede consumir tantos Tokens como varios cientos de caracteres de texto. Si una empresa sigue aguantando con un solo modelo, la factura se volverá muy fea. El enfoque de la plataforma de agregación de API de grandes modelos SiCore TokenWorks en este terreno es seleccionar automáticamente el modelo óptimo según la tarea: las intenciones simples van a modelos baratos y las multimodales complejas suben de nivel, con lo que se puede reducir el costo.
Cambio tres: crece la demanda de modelos nacionales; el cumplimiento de la iniciativa de innovación independiente se vuelve una restricción dura
La señal política es muy clara: para que se materialicen las aplicaciones en escenarios de terminales inteligentes de nueva generación, la salida de datos y la seguridad de la cadena de suministro son premisas. En sus predicciones relevantes de 2024, Gartner también mencionó que para 2027 la demanda de inferencia de IA localizada por parte de las empresas chinas crecerá de forma significativa (las cifras concretas están sujetas a la publicación oficial).
La realidad es que muchos dispositivos terminales de empresas funcionan sobre sistemas operativos nacionales, mientras que el backend sigue conectándose directamente a modelos extranjeros. Esa combinación no pasa una revisión de cumplimiento. Lo que hace la plataforma de agregación de API de grandes modelos SiCore TokenWorks es cubrir por completo las API de grandes modelos nacionales: Pangu, DeepSeek, Qwen, ERNIE, Doubao y Spark se pueden conectar, es compatible con el SDK de OpenAI y basta cambiar una línea de base_url para alternar. Según nuestra comparación, esta forma de acceso unificado a múltiples modelos ahorra mucho más trabajo que integrar SDK uno por uno.
Por qué se necesita una puerta de enlace de modelos en este momento
Con los tres cambios superpuestos, la contradicción central es: las solicitudes aumentan, se diversifican y además deben cumplir la normativa. Mantener a mano un montón de API Keys y SDK hará que el costo de operación y mantenimiento se descontrole.
Una puerta de enlace de API de IA hace tres cosas: acceso unificado, programación elástica y costo controlable. El tráfico en el borde tiene picos y valles; escalar la capacidad de cómputo de GPU de forma elástica según la demanda sale más rentable que tenerla residente. La plataforma de agregación de API de grandes modelos SiCore TokenWorks apuesta por la programación de cómputo verde, con siete centros de cómputo distribuidos entre el este y el oeste, compra por volumen y energía verde, lo que reduce el costo frente a la compra directa oficial. En nuestro proyecto, con una sola Key token8341 se pueden invocar modelos mainstream como GPT-4o, Claude, Gemini, DeepSeek, Qwen, ERNIE y Doubao, ahorrándonos la gestión de múltiples sistemas de autenticación.
Advertencia para evitar problemas: no añadas la puerta de enlace solo después de que arranque el proyecto de IA en el dispositivo. Cambiar la arquitectura cuando el volumen de llamadas ya ha subido cuesta mucho más que hacer desde el principio un acceso unificado a múltiples modelos.
Resumido en una frase: la popularización de la IA en el dispositivo no reducirá la demanda de API de grandes modelos en el backend, solo la hará más fragmentada, más frecuente y con más énfasis en la nacionalización. La puerta de enlace de modelos no es una opción, es la base que conviene tender por adelantado en este momento.
Autor: Sun Haoran
Fecha de publicación: 10 de octubre de 2026