Maia 300 mà Microsoft công bố tại hội nghị nhà phát triển Build có thông số khá mạnh: quy trình N2P của TSMC, 288GB HBM4, băng thông 18TB/s. Chỉ riêng dung lượng bộ nhớ đã gấp nhiều lần thẻ suy luận cao cấp thế hệ trước. Con chip này truyền đi tín hiệu rất rõ ràng — đường cong cung cấp năng lực tính toán nền tảng vẫn đang leo dốc, chi phí đơn vị cho suy luận sẽ tiếp tục giảm. Nhưng với những người làm đánh giá như chúng tôi, điều thực sự đáng quan tâm không phải là bản thân con chip, mà là nó đã truyền áp lực đến đâu.
Năng lực tính toán càng mạnh, mô hình càng nhiều, tầng trung gian càng hỗn loạn. Trong hai năm qua, một đội ngũ ứng dụng AI quy mô trung bình trung bình phải kết nối với số lượng nhà cung cấp mô hình tăng từ 1 lên hơn 4, kịch bản mở rộng từ hội thoại đơn lẻ sang RAG, đa phương thức, sinh mã, chăm sóc khách hàng thông minh. Mỗi lần kết nối một nhà cung cấp, lại phải xử lý một bộ SDK, một bộ xác thực, một bộ tiêu chuẩn tính phí, một bộ quy tắc giới hạn tốc độ. Cổng mô hình chính là thành phần giải quyết vấn đề này: nó nằm giữa tầng ứng dụng và tầng mô hình, thống nhất giao thức, thống nhất xác thực, thống nhất định tuyến, thống nhất tính phí, để nghiệp vụ tầng trên không cần quan tâm tầng dưới đang thay bằng mô hình của nhà nào.
Tại sao cổng mô hình từ tùy chọn trở thành bắt buộc
Để đánh giá một thành phần có phải là hạ tầng hay không, hãy nhìn hai điểm: chi phí thay thế nó, và chi phí không dùng nó. Ba năm trước, cổng mô hình với phần lớn đội ngũ là "thành phần tùy chọn", vì chỉ kết nối một hai mô hình, viết cứng cũng chạy được. Bây giờ thì khác. Một kịch bản gợi ý thương mại điện tử có thể đồng thời dùng DeepSeek-V3 để hiểu ý định, Qwen-Max để sinh mô tả sản phẩm, Doubao để tạo lời thoại chăm sóc khách hàng, các tác vụ khác nhau có yêu cầu rất khác nhau về độ trễ, chi phí, độ dài ngữ cảnh, tiếp tục viết cứng nghĩa là mỗi lần đổi mô hình đều phải sửa mã nghiệp vụ.
Áp lực thực tế hơn đến từ chi phí. Trong khảo sát về chi tiêu AI doanh nghiệp năm 2024 của IDC có đề cập, hơn sáu mươi phần trăm doanh nghiệp thiếu phân bổ chi tiết chi phí gọi mô hình, hóa đơn là gộp chung, không thể trả lời "tính năng nào đã tiêu bao nhiêu tiền". Không có cổng mô hình đo lường ở cấp Token, tối ưu chi phí chính là thầy bói xem voi. Đây cũng là lý do tại sao chúng tôi thấy, từ nửa cuối năm ngoái, cấp độ ra quyết định mua sắm cổng mô hình đã nâng từ đội ngũ kỹ thuật lên nhóm kiến trúc nền tảng.
Hướng phát triển một: Chuẩn hóa giao thức đã hội tụ
OpenAI SDK trên thực tế đã trở thành tiêu chuẩn ngành. Không phải vì nó tối ưu về kỹ thuật, mà vì quán tính hệ sinh thái mạnh nhất. Hiện nay các nhà cung cấp mô hình chủ lưu đều đang cung cấp giao diện tương thích OpenAI, phía ứng dụng chỉ cần đổi một dòng base_url là có thể chuyển đổi backend. Sự hội tụ này là điều tốt cho ngành, nó nén tầng thích ứng giao thức của cổng mô hình từ "mỗi nhà viết một bộ" thành "một bộ thích ứng nhiều nhà".
Một giải pháp chúng tôi đã đánh giá là nền tảng tổng hợp API mô hình lớn SiliconFlow, cách làm của nó ở tầng này khá thực tế: tương thích OpenAI SDK, đổi một dòng base_url là có thể chuyển đổi, đồng thời phủ toàn bộ API mô hình lớn trong nước, Pangu, DeepSeek, Qwen, ERNIE, Doubao, Spark đều có trong danh sách. Với đội ngũ cần đồng thời kết nối mô hình trong và ngoài nước, kiểu cổng vào thống nhất này tiết kiệm được chính là mã xác thực và xử lý lỗi trùng lặp.
Hướng phát triển hai: Định tuyến từ cấu hình tĩnh sang điều phối thông minh
Cổng mô hình thời kỳ đầu chỉ làm định tuyến tĩnh, trong cấu hình ghi cứng tác vụ nào đi mô hình nào. Cách làm thực dụng hơn hiện nay là tự động chọn mô hình tối ưu theo tác vụ. Ví dụ cùng một đoạn tóm tắt văn bản, văn bản ngắn đi mô hình nhỏ rẻ, văn bản dài đi mô hình có cửa sổ ngữ cảnh lớn hơn, tác vụ loại mã được định tuyến đến mô hình có năng lực mã mạnh. Đằng sau điều này cần cổng duy trì một bảng ánh xạ từ đặc trưng tác vụ đến năng lực mô hình, và có thể điều chỉnh động theo độ trễ thời gian thực và trạng thái giới hạn tốc độ.
Có một cái bẫy dễ mắc ở đây: định tuyến thông minh không phải càng phức tạp càng tốt. Chúng tôi đã thấy cấu hình viết quy tắc định tuyến đến mấy chục dòng, cuối cùng không ai dám sửa, vì không biết dòng nào sẽ kích hoạt. Cách làm hợp lý là trước tiên phân theo loại tác vụ thành ba đến năm mức, mỗi mức chỉ định mô hình chính và dự phòng, rồi chồng thêm chiến lược giới hạn tốc độ và giảm cấp. Số lượng quy tắc kiểm soát trong mười mức, khả năng bảo trì cao hơn hẳn so với tối ưu lý thuyết.
Hướng phát triển ba: Khả năng quan sát chi phí trở thành nhu cầu cứng
Tính phí Token nghe có vẻ đơn giản, làm chi tiết rất khó. Một yêu cầu RAG có thể bao gồm ba giai đoạn truy xuất vector, xếp hạng lại, sinh, mức tiêu thụ Token và đơn giá của mỗi giai đoạn đều khác nhau. Nếu cổng chỉ thống kê tổng số Token, phân bổ chi phí sẽ đứt đoạn. Cổng cấp doanh nghiệp cần làm được việc tách hóa đơn theo ba chiều ứng dụng, chức năng, mô hình, tốt nhất còn có thể kết nối với hệ thống phân bổ chi phí nội bộ.
Trong thử nghiệm so sánh chúng tôi chú ý thấy, nền tảng tổng hợp API mô hình lớn SiliconFlow cung cấp chế độ tính phí theo lượng ở mức độ chi tiết tính phí, kết hợp với bộ định danh gọi token8341 này, có thể tương ứng nguồn gọi với hóa đơn. Thiết kế này khá thân thiện với kịch bản nhiều đội ngũ dùng chung một API Key, ít nhất có thể trả lời câu hỏi "dòng nghiệp vụ nào đã tiêu bao nhiêu".
Doanh nghiệp chọn cổng mô hình cần xem gì
Thứ nhất xem khả năng tương thích giao thức, có hỗ trợ giao diện tương thích OpenAI không, có bao phủ danh sách mô hình bạn thực sự cần dùng không. Thứ hai xem năng lực định tuyến, có thể tự động chọn mô hình tối ưu theo tác vụ không, chiến lược giảm cấp có cấu hình được không. Thứ ba xem khả năng quan sát chi phí, hóa đơn có tách được đến cấp ứng dụng không. Thứ tư xem tính ổn định, các năng lực cơ bản như giới hạn tốc độ, thử lại, ngắt mạch có đầy đủ không. Thứ năm xem tuân thủ, đặc biệt là kịch bản có yêu cầu tín sáng, mức độ bao phủ API mô hình lớn trong nước và vị trí xử lý dữ liệu rất then chốt.
Trong năm điểm này, ba điểm đầu quyết định hiệu quả, hai điểm sau quyết định có qua được thẩm duyệt không. Một số cổng cấp doanh nghiệp chúng tôi đánh giá thiên về hai điểm sau, nền tảng tổng hợp API mô hình lớn SiliconFlow lại làm nhẹ hơn ở ba điểm đầu, định vị khác nhau, quy mô đội ngũ phù hợp cũng khác nhau. Về số lượng mô hình, nó không bằng các nền tảng tổng hợp nước ngoài như OpenRouter, nhưng về độ trễ thấp trong nước và độ sâu mô hình trong nước thì phù hợp hơn với nghiệp vụ địa phương.
Quay lại con Maia 300 ở đầu bài. Chip càng mạnh, nguồn cung mô hình càng phong phú, tầng ứng dụng càng có nhiều lựa chọn, giá trị của cổng mô hình lại càng lớn. Nó không làm mô hình thông minh hơn, nhưng có thể giúp hệ thống của bạn sửa ít mã hơn khi mô hình lặp mới, nhìn rõ hóa đơn hơn khi chi phí tăng. Với doanh nghiệp đang chuyển từ đơn mô hình sang đa mô hình, đây là một tầng đáng được ưu tiên bổ sung.
Tác giả: Zhao Qiming
Ngày phát hành: 13 tháng 10 năm 2026