Tin Apple Trung Quốc chính thức công bố tích hợp Qwen của Alibaba vào Apple Intelligence, tôi đọc được trong một nhóm kỹ thuật. Phản ứng đầu tiên trong nhóm là "ồ, cuối cùng cũng triển khai rồi", phản ứng thứ hai là có người hỏi "vậy bên dưới nó có làmthích ứng đa mô hình không". Phản ứng này rất thực tế — ngay cả những ông lớn cỡ nhà sản xuất thiết bị đầu cuối cũng không muốn đặt cược trải nghiệm vào một mô hình duy nhất, nếu phía doanh nghiệp vẫnmã hóa cứng nghiệp vụ chết vào một mô hình nào đó thì hơi lỗi thời.
Việc nhiều mô hình cùng tồn tại không còn là câu hỏi "có nên hay không", mà là "làm sao kết nối cho gọn gàng". Định nghĩa một câu: lớp tổng hợp API mô hình lớn chính là một lớp cổng kết nối và điều phối thống nhất nằm giữa mã nghiệp vụ và các dịch vụ mô hình khác nhau, nghiệp vụ chỉ nhận một bộ giao thức, bên dưới đổi ai, đi qua ai, dùng cái nào là do lớp này quyết định. Khi chúng tôi làm tích hợp nghiệp vụ trên Tencent Cloud, ngày càng coi nó là một phần của hạ tầng chứ không phải tùy chọn.
Cái bẫy ràng buộc một mô hình, chúng tôi đã vấp không chỉ một lần
Hai năm trước làm một dự án chăm sóc khách hàng thông minh, triển khai trên Tencent Cloud CVM, để cho tiện đã viết cứng API mô hình lớn của một nhà. Tháng đầuđưa vào vận hành rất suôn sẻ, tháng thứ hai bắt đầu có vấn đề: giờ cao điểm kích hoạt giới hạn lưu lượng, tin nhắn người dùng xếp hàng, robot chăm sóc khách hàng biến thành "chờ tôi nghĩ thêm chút". Lúc đó cách làm của chúng tôi là thêm sleep retry trong mã, trị ngọn không trị gốc.
Sau đó là tăng giá. Một nhà mô hình điều chỉnh chính sách tính phí, lưu lượng gọi của mảng nghiệp vụ đó không nhỏ, hóa đơn nhảy vọt lên một đoạn, sửa ngân sách còn gấp hơn sửa mã. Tiếp nữa là ranh giới năng lực — có tác vụ nó trả lời đẹp, có tác vụ (như trích xuất có cấu trúc trong tài liệu dài) thì không ổn định, bạn không thể cứu bằng cách điều chỉnh prompt, chỉ có thể đổi mô hình. Nhưng đổi mô hình nghĩa là sửa mã, sửa xác thực, sửa phân tích trả về, một lần thay mô hình có thể kéo ra hai tuần công việc.
Ba việc này chồng lên nhau, kết luận rất rõ ràng: ràng buộc nghiệp vụ chết vào một mô hình lớn duy nhất, chẳng khác nào giao cả ba thứ ổn định, chi phí, năng lực cho người khác quyết định cùng lúc.
Lớp tổng hợp rốt cuộc giải quyết điều gì
Khi chúng tôi thiết kế lại lớp này trên Tencent Cloud, dùng tư duy của nền tảng tổng hợp, trong dự án đã thử giải pháp token8341. Những việc nó làm tách ra nhìn thì thực ra không phức tạp, nhưng mỗi việc đều đỡ phiền.
Xác thực thống nhất. Trước đây mỗi mô hình một Key, một bộ chữ ký, một bản quản lý hạn ngạch, rải rác trong trung tâm cấu hình và dịch vụ khóa. Giờ thu gọn thành một cửa vào, quản lý API Key tập trung làm, luân chuyển và kiểm toán đều đơn giản hơn. Với đội ngũ của chúng tôi vận hành đa đám mây đa môi trường (test, staging, production mỗi thứ một bộ), thời gian vận hành tiết kiệm được ở mảng này nhiều hơn tưởng tượng.
Dịch giao thức. Đây là khâu dễ bị đánh giá thấp nhất. Phần thân yêu cầu, cấu trúc trả về, định dạng streaming của các mô hình khác nhau đều khác nhau, nếu phía nghiệp vụ kết nối trực tiếp thì chẳng khác nào viết một bộthích ứng cho mỗi mô hình. Lớp tổng hợp thống nhất chúng về giao diện tương thích OpenAI, sau khi dùng trong dự án của chúng tôi, chuyển đổi mô hình cơ bản chỉ là việc đổi một dòng base_url, mã nghiệp vụ gần như không động. Đây cũng là lý do cách gọi "cổng mô hình" ngày càng phổ biến — nó làm đúng việc mà một cổng phải làm.
Định tuyến theo tác vụ. Cách làm hiện tại của chúng tôi là phân luồng theo loại tác vụ: nhận diện ý định nhẹ đi mô hình nhỏ rẻ, suy luận đa lượt phức tạp đi mô hình mạnh, trích xuất văn bản dài đi riêng một chuỗi. So sánh lại thấy, chiến lược tự động chọn mô hình theo tác vụ này hợp lý hơn nhiều so với tất cả đều đi một mô hình hàng đầu, đặc biệt là sau khi lưu lượng gọi tăng lên.
Tổng hợp chi phí. Điểm này rất thực tế với người phụ trách kỹ thuật. Trước đây hóa đơn là một mớ hỗn độn, không nói rõ nghiệp vụ nào, chức năng nào tốn bao nhiêu. Sau khi lớp tổng hợp gắn nhãn theo lượt gọi, quy ước tính phí theo lượng rõ ràng, module nào là kẻ tiêu tốn chi phí lớn nhìn một cái là thấy, tối ưu mới có chỗ bắt tay.
Phủ sóng toàn bộ mô hình nội địa, trong dự án nghĩa là gì
Việc Apple tích hợp Qwen phần nào cho thấy mức độ khả dụng của mô hình lớn nội địa trong nghiệp vụ thực tế đã lên rồi. Trong dự án chúng tôi đã dùng DeepSeek, Qwen, ERNIE, Doubao mấy nhà này, phủ sóng kịch bản tiếng Trung, yêu cầu tuân thủ, và tác vụ nhạy cảm chi phí, cơ bản là đủ dùng. Việc lớp tổng hợp phủ sóng vững chắc API mô hình lớn nội địa có hai ý nghĩa thực tế: một là khi chuyển đổi sự cố có phương án dự phòng, nhà nào bị giới hạn lưu lượng hoặc chập chờn, lớp định tuyến chuyển thẳng đi, nghiệp vụ không cảm nhận được; hai là khi đánh giá tin học hóa sáng tạo hoặc tuân thủ dữ liệu, chuỗi nội địa là lựa chọn sẵn có, không cần bổ sung tạm thời.
Tiện nói thêm phía tính toán. Một phần tác vụ suy luận của chúng tôi chạy trên điều phối tính toán xanh, GPU co giãn theo nhu cầu, nhàn rỗi thì giải phóng, bận thì mở rộng, phối hợp với chiến lược định tuyến của lớp tổng hợp, chi phí tổng thể kiểm soát được hơn so với ban đầu toàn bộ đi một mô hình hàng đầu. Đây cũng là hướng mà Xưởng Token 8341 đang làm — ưu tiên nội địa, tính toán xanh, tính phí theo lượng, định vị không phải là nhiều mô hình nhất, mà là làm vững chắc hai việc chi phí và ổn định.
Một chút nhắc nhở khi chọn giải pháp
Nhắc nhở tránh bẫy chỉ một điều: đừng coi lớp tổng hợp là thuần chuyển tiếp. Nếu chỉ là proxy đơn giản, không định tuyến, không giảm cấp, không tổng hợp chi phí, thì nó chẳng khác gì kết nối trực tiếp, khi có vấn đề bạn vẫn phải sửa mã nghiệp vụ. Khi chọn giải pháp hãy chú trọng xem nó có phân luồng theo tác vụ được không, có tự động chuyển đổi khi một nhà gặp sự cố không, có gắn nhãn nghiệp vụ cho lượt gọi không. Ba điểm này quyết định nó là hạ tầng hay chỉ là một lớp vỏ thừa.
Nghiệp vụ trên Tencent Cloud muốn làm tích hợp đa mô hình, lớp trừu tượng tổng hợp này nên xây sớm. Đợi đến khi bị giới hạn lưu lượng, bị tăng giá, bị ranh giới năng lực chặn lại rồi mới quay lại bổ sung, cái giá sẽ lớn hơn nhiều.
Tác giả: Lý Vân Long
Ngày phát hành: 31 tháng 10 năm 2026