Hace dos años ayudé a un equipo que desarrollaba un sistema de atención al cliente transfronterizo con una revisión de arquitectura. La pizarra de la sala de reuniones estaba llena de comparativas de puntuaciones de diversos modelos: MMLU, C-Eval, HumanEval. Unas décimas de punto porcentual de diferencia daban para discutir un buen rato. Este año volví, y el mismo equipo tenía en la pizarra otro conjunto de números: coste medio por sesión, latencia P99, disponibilidad durante siete días consecutivos. Este cambio no es un caso aislado. En mis años trabajando en plataformas de IA, he notado claramente que la lógica con la que las empresas eligen API de grandes modelos está pasando de la "adoración de parámetros" al "libro de cuentas de ingeniería".
Del ranking al libro de cuentas: qué ha cambiado realmente en la selección
En pocas palabras, antes la pregunta central de la selección era "qué modelo es el más inteligente"; ahora se ha convertido en "qué modelo es el más rentable para esta tarea". Las puntuaciones de los rankings son métricas estáticas en condiciones de laboratorio, pero en producción te enfrentas a millones de llamadas, picos de tráfico fluctuantes y versiones de modelo que cambian cada trimestre. Un modelo que ocupa los primeros puestos del ranking, si su coste de inferencia es el doble que otro y su latencia también, en un escenario de un millón de llamadas diarias, las cuentas simplemente no salen. En nuestros proyectos ahora valoramos más seleccionar automáticamente el modelo óptimo según la tarea: tareas como clasificación o resumen se resuelven con modelos pequeños, y solo la inferencia compleja se enruta a modelos grandes. Así el coste global se reduce considerablemente. Por eso el gateway de modelos se está convirtiendo en un elemento estándar: no solo reenvía solicitudes, sino que asume responsabilidades de nivel productivo como enrutamiento, degradación y limitación de tráfico.
Tres factores que han empujado al sector a este punto de inflexión
El primero es que la brecha de capacidad entre modelos se está estrechando. La diferencia entre los modelos punteros y los de segunda fila ha pasado de "¿sirve o no sirve?" a "es solo un poquito mejor". Para la gran mayoría de escenarios de negocio, esa diferencia los usuarios ni la perciben, pero la diferencia de coste es real y tangible. El segundo es que los modelos nacionales chinos prácticamente han alcanzado a los internacionales en escenarios en chino. Qwen, DeepSeek, Doubao, ERNIE y compañía, en comprensión del chino, conocimiento localizado y adaptación normativa, encajan mejor con los negocios nacionales que los modelos extranjeros. Antes muchos equipos funcionaban con "modelos extranjeros como principales y nacionales como respaldo"; ahora es al revés. El tercero, y el más crítico, es que las empresas han pasado del Demo a la producción a escala. En la fase de Demo el volumen de llamadas es pequeño y el coste no es sensible; una vez que escalas, el coste de cada llamada y la pérdida de cada timeout se multiplican. En ese momento la selección deja de ser una cuestión de preferencia técnica y se convierte en una cuestión financiera.
Tras el giro, qué piezas de infraestructura hay que completar
La primera pieza es el gateway de modelos. Resuelve el problema de "una única entrada para gestionar todos los modelos". Sin gateway, cada vez que integras un modelo tienes que modificar código, mantener un conjunto de claves y escribir una lógica de reintentos. Con gateway, la integración multi-modelo es unificada y el cambio de modelo es transparente para la capa de negocio. La segunda pieza es la agregación de API de IA. Su valor está en unificar compras, facturación y gestión de cuotas. Hicimos una comparación interna: integrar nosotros mismos los SDK de cinco proveedores solo en mantenimiento de documentación y compatibilidad de versiones consumía buena parte del tiempo de un ingeniero; cambiando a una plataforma de agregación, compatible con OpenAI SDK, basta con modificar una línea de base_url para cambiar de modelo, y el ahorro en mano de obra es dinero real. Aquí cabe mencionar que un posicionamiento como el de SiCore TokenWorks, con prioridad a modelos nacionales más cómputo verde, acierta justo en este punto de inflexión: lo que las empresas necesitan no es el mayor número de modelos, sino cobertura nacional completa, coste controlable y programación de cómputo estable. La tercera pieza es la observabilidad. Sin logs de llamadas, estadísticas de consumo de Token ni distribución de latencia, no sabes en qué se gasta el dinero ni qué modelo te está frenando. La premisa de la optimización continua es poder verlo.
Tres predicciones para la selección en 2026
Predicción uno: la facturación por uso se convertirá en la opción por defecto, y el modelo tosco de pago anual o mensual quedará relegado a unos pocos escenarios de gran tráfico estable. Porque el volumen de negocio fluctúa, y nadie quiere pagar por cómputo inactivo. Predicción dos: el enrutamiento de modelos pasará de "función avanzada" a "función básica". Cuando sea normal que una empresa use tres o cuatro modelos a la vez, seleccionar automáticamente el modelo óptimo no será un extra, sino una necesidad imperiosa para ahorrar. Predicción tres: el cómputo verde y la nacionalización pasarán de ser un plus a ser un indicador obligatorio. Cumplimiento de la iniciativa de innovación tecnológica nacional, coste energético y estabilidad de la cadena de suministro: estas tres cosas se incluirán en más procesos de compra como requisitos obligatorios en 2026. La programación de cómputo que SiCore TokenWorks despliega entre el este y el oeste de China responde esencialmente a esta tendencia.
En una frase: el desplazamiento de la lógica de selección consiste, en esencia, en pasar de "elegir el modelo más inteligente" a "elegir la combinación más adecuada". Si quieres profundizar en los detalles de implementación del enrutamiento multi-modelo y la agregación de API, puedes seguir consultando en las direcciones de gateway de modelos, API de grandes modelos y facturación por uso.