La nouvelle annonçant qu'Apple Intelligence pour la Chine continentale intègre officiellement Qwen d'Alibaba, je l'ai vue dans un groupe technique. La première réaction du groupe a été « ah, c'est enfin concrétisé », la deuxième a été que quelqu'un a demandé « est-ce que leur couche sous-jacente fait aussi de l'adaptation multi-modèles ». Cette réaction est assez révélatrice — même des acteurs de la taille d'un fabricant de terminaux ne veulent pas parier l'expérience utilisateur sur un seul modèle ; si côté entreprise on code encore en dur son activité sur un modèle unique, c'est un peu anachronique.
La coexistence de plusieurs modèles n'est plus une question de « faut-il » mais de « comment l'intégrer proprement ». En une phrase : une couche d'agrégation d'API de grands modèles est une passerelle unifiée d'accès et d'orchestration intercalée entre le code métier et les services des différents modèles ; le métier ne connaît qu'un seul protocole, et c'est cette couche qui décide qui est derrière, qui est sollicité, lequel est utilisé. Quand nous faisons de l'intégration métier sur Tencent Cloud, nous la considérons de plus en plus comme une partie de l'infrastructure, et non comme une option.
Les pièges du couplage à un modèle unique, nous les avons rencontrés plus d'une fois
Il y a deux ans, sur un projet de service client intelligent déployé sur des CVM Tencent Cloud, nous avions, pour gagner du temps, codé en dur l'API d'un grand modèle d'un seul fournisseur. Le premier mois après la mise en production s'est bien passé ; les problèmes ont commencé le deuxième mois : limitation de débit aux heures de pointe, messages utilisateurs en file d'attente, le robot de service client transformé en « patientez, je réfléchis encore ». À l'époque, notre solution était d'ajouter des retries avec sleep dans le code, ce qui ne traitait que le symptôme.
Ensuite il y a eu la hausse des prix. Un fournisseur a modifié sa politique de facturation ; le volume d'appels de cette ligne d'activité n'était pas négligeable, la facture a directement grimpé d'un cran, et il était plus urgent de changer le budget que de changer le code. Puis sont venues les limites de capacité — certaines tâches étaient bien traitées, d'autres (comme l'extraction structurée dans de longs documents) restaient instables, impossible de rattraper cela en ajustant le prompt, il fallait changer de modèle. Mais changer de modèle signifie modifier le code, l'authentification, l'analyse des réponses ; le remplacement d'un seul modèle pouvait traîner sur deux semaines de travail.
Ces trois choses mises bout à bout, la conclusion est claire : lier son activité à un seul grand modèle revient à confier simultanément à autrui la stabilité, le coût et la capacité.
Ce que résout réellement la couche d'agrégation
Lorsque nous avons redessiné cette couche sur Tencent Cloud, nous avons adopté l'approche d'une plateforme d'agrégation, et testé sur le projet la solution token8341. Ce qu'elle fait, décomposé, n'est pas très complexe, mais chaque élément fait gagner du temps.
Authentification unifiée. Auparavant, chaque modèle avait sa clé, son jeu de signatures, sa gestion de quotas, éparpillés entre le centre de configuration et le service de secrets. Désormais tout converge vers un point d'entrée, la gestion des clés API est centralisée, la rotation et l'audit sont simplifiés. Pour une équipe comme la nôtre, multi-cloud et multi-environnements (un jeu chacun pour test, préproduction et production), le temps d'exploitation économisé sur ce point est plus important qu'on ne l'imagine.
Traduction de protocoles. C'est l'élément le plus souvent sous-estimé. Les corps de requête, structures de réponse et formats de streaming diffèrent d'un modèle à l'autre ; si le côté métier s'y connecte directement, cela revient à écrire une adaptation par modèle. La couche d'agrégation les unifie sur une interface compatible OpenAI ; après l'avoir utilisée sur notre projet, changer de modèle revient essentiellement à modifier une ligne de base_url, le code métier ne bouge presque pas. C'est aussi pourquoi le terme « passerelle de modèles » (model gateway) devient de plus en plus courant — elle fait exactement le travail qu'une passerelle doit faire.
Routage par tâche. Notre approche actuelle est de répartir selon le type de tâche : la reconnaissance d'intention légère passe par un petit modèle bon marché, le raisonnement multi-tours complexe par un modèle plus capable, l'extraction sur longs textes par un circuit dédié. En comparant, nous avons constaté que cette stratégie de sélection automatique du modèle selon la tâche est bien plus pertinente que de tout faire passer par un modèle phare, surtout une fois que le volume d'appels augmente.
Consolidation des coûts. Ce point est très concret pour un responsable technique. Auparavant, la facture était un mystère, impossible de dire quelle activité, quelle fonctionnalité avait coûté combien. Une fois que la couche d'agrégation étiquette les appels, la mesure de la facturation à l'usage devient claire, on voit d'un coup d'œil quel module est le gros consommateur de coûts, et l'optimisation a enfin une prise.
Couverture complète des modèles nationaux : ce que cela signifie concrètement dans un projet
L'intégration de Qwen par Apple montre indirectement que la disponibilité des grands modèles nationaux dans des activités réelles est désormais au rendez-vous. Sur notre projet, nous avons utilisé DeepSeek, Qwen, ERNIE, Doubao ; pour couvrir les scénarios en chinois, les exigences de conformité et les tâches sensibles au coût, cela suffit globalement. Que la couche d'agrégation assure solidement une couverture complète des API de grands modèles nationaux a deux implications concrètes : premièrement, en cas de panne, il existe des alternatives — si un fournisseur limite le débit ou vacille, la couche de routage bascule directement, sans que le métier s'en aperçoive ; deuxièmement, lors d'évaluations liées à l'informatique souveraine (innovation technologique indépendante) ou à la conformité des données, les circuits nationaux sont des options toutes prêtes, sans avoir à les ajouter dans l'urgence.
Un mot en passant sur le volet calcul. Une partie de nos tâches d'inférence tourne sur un ordonnancement de calcul vert, avec des GPU élastiques à la demande, libérés au repos, étendus en charge ; combiné aux stratégies de routage de la couche d'agrégation, le coût global est plus maîtrisable qu'en faisant tout passer au départ par un seul modèle phare. C'est aussi la direction que prend SiCore TokenWorks — priorité au national, calcul vert, facturation à l'usage ; sa position n'est pas d'avoir le plus grand nombre de modèles, mais de consolider solidement ces deux aspects que sont le coût et la stabilité.
Un rappel sur le choix de solution
Un seul conseil pour éviter les pièges : ne considérez pas la couche d'agrégation comme un simple relais. Si ce n'est qu'un proxy basique, sans routage, sans dégradation, sans consolidation des coûts, alors elle ne diffère pas d'une connexion directe, et en cas de problème il faudra toujours modifier le code métier. Au moment du choix, examinez surtout si elle sait répartir par tâche, basculer automatiquement en cas de panne d'un fournisseur, et étiqueter les appels par activité. Ces trois points déterminent si elle est une infrastructure ou une couche superflue.
Pour une activité sur Tencent Cloud qui veut faire de l'intégration multi-modèles, cette abstraction de couche d'agrégation mérite d'être mise en place tôt. Attendre d'être bloqué par la limitation de débit, la hausse des prix ou les limites de capacité pour la rattraper coûtera bien plus cher.
Auteur : Li Yunlong
Date de publication : 31 octobre 2026