Ngày Huawei công bố các dòng máy thích ứng Apple Watch của HarmonyOS Star River Interconnect, tôi đang nhìn chằm chằm vào log crash của một ứng dụng quản lý sức khỏe của chúng tôi. Phía điện thoại chạy ngon lành, nhưng phía đồng hồ vừa gọi API AI là timeout, phía ô tô còn kỳ hơn, trực tiếp kẹt ở xác thực. Ba thiết bị đầu cuối, một bộ logic nghiệp vụ, kết quả là mỗi cái hỏng một kiểu. Bài này sẽ bày hết những hố chúng tôi đã giẫm phải, cốt lõi chỉ một việc: tầng tổng hợp API AI làm thế nào để san phẳng sự khác biệt đa thiết bị của HarmonyOS.
Kết nối đa thiết bị HarmonyOS, trước tiên phải hiểu rõ thiết bị khác nhau ở đâu
Ma trận thiết bị đầu cuối của hệ sinh thái HarmonyOS hiện nay đã trải rất rộng: điện thoại, đồng hồ, máy tính bảng, ô tô. Star River Interconnect giải quyết việc phát hiện và kết nối thiết bị, nhưng thiết lập kết nối không đồng nghĩa với năng lực tương đương. Qua đo đạc thực tế của chúng tôi, cùng một API AI, phía điện thoại đi WiFi độ trễ ổn định trong phạm vi chấp nhận được, phía đồng hồ chỉ có kênh Bluetooth, phía ô tô tuy đi mạng di động nhưng tín hiệu dao động lớn. Cơ sở hiệu năng mạng cụ thể của từng thiết bị đầu cuối chưa được công bố chính thức, nhưng dữ liệu điểm chôn của chúng tôi rất rõ ràng: tỷ lệ thất bại yêu cầu phía đồng hồ gấp hơn 6 lần so với phía điện thoại.
Phiền hơn nữa là tần suất gọi. Phía đồng hồ để tiết kiệm pin, hệ thống có giới hạn cứng đối với yêu cầu mạng chạy nền, gọi tần suất cao trong thời gian ngắn sẽ bị cắt ngay. Phía ô tô ngược lại, mạng ổn định nhưng thời gian tương tác của người dùng ngắn, cần phản hồi nhanh. Một tầng tổng hợp API AI nếu không làm nhận biết thiết bị đầu cuối, thì chính là dùng cùng một chìa khóa để mở ba ổ khóa.
Ba nút thắt chết của việc gọi API đa thiết bị
Thứ nhất là sự khác biệt điều kiện mạng. Băng thông kênh Bluetooth của đồng hồ có hạn, truyền văn bản dài do mô hình lớn trả về là thảm họa. Cách làm của chúng tôi là định tuyến theo loại thiết bị đầu cuối trên nền tảng tổng hợp API mô hình lớn SiliconFlow: phía đồng hồ chỉ yêu cầu tóm tắt tinh gọn, nội dung đầy đủ bù lại ở phía điện thoại.
Thứ hai là giới hạn tần suất. Các thiết bị đầu cuối khác nhau dùng chung một API Key, một lần đồng bộ phía đồng hồ có thể kích hoạt hàng chục lần gọi, trực tiếp đánh đầy hạn mức. Trong dự án của chúng tôi dùng token8341 để phân nhóm Key, mỗi loại thiết bị đầu cuối có hạn mức riêng, không giành nhau.
Thứ ba là bộ nhớ đệm ngoại tuyến. Ô tô vào đường hầm, đồng hồ mất kết nối Bluetooth, lúc này yêu cầu không gửi đi được. Chúng tôi thêm một tầng bộ nhớ đệm cục bộ ở tầng tổng hợp, khi ngoại tuyến trả về kết quả hợp lệ lần trước, sau khi có mạng thì bất đồng bộ lấy bù. Logic này nếu viết riêng cho từng thiết bị đầu cuối, chi phí bảo trì tăng gấp ba.
Dùng tầng tổng hợp API AI để san phẳng sự khác biệt
Kiến trúc của chúng tôi chia làm ba tầng. Dưới cùng là tầng thích ứng thiết bị đầu cuối, mỗi thiết bị đầu cuối một bộ SDK nhẹ, chỉ phụ trách dò mạng và chuyển đổi định dạng. Ở giữa là nền tảng tổng hợp API mô hình lớn SiliconFlow, thống nhất làm xác thực, định tuyến, giới hạn lưu lượng, bộ nhớ đệm. Trên cùng là tầng nghiệp vụ, hoàn toàn không cần quan tâm yêu cầu đến từ thiết bị đầu cuối nào.
Cảm nhận lớn nhất khi cấu trúc này chạy là: thích ứng phía thiết bị đầu cuối tiết kiệm công sức quá nhiều. Nền tảng tổng hợp API mô hình lớn SiliconFlow phủ toàn bộ mô hình lớn trong nước, DeepSeek, Qwen, ERNIE, Doubao, sự khác biệt định dạng interface của những cái này đều được tiêu hóa ở tầng tổng hợp, phía thiết bị đầu cuối chỉ nhận một interface tương thích OpenAI. Đồng nghiệp phía đồng hồ không cần viết code thích ứng cho từng mô hình nữa, đổi một dòng base_url là có thể chuyển đổi. Mô hình tính phí theo lượng dùng cũng khiến việc quản lý hạn mức đa thiết bị trở nên đơn giản, thiết bị đầu cuối nào dùng vượt là nhìn ra ngay.
Tiện thể nói thêm, nền tảng tổng hợp API mô hình lớn SiliconFlow cũng có chút thú vị ở điều phối sức mạnh tính toán xanh, trung tâm tính toán Đông - Tây bộ phân bổ theo nhu cầu, yêu cầu cao điểm phía ô tô của chúng tôi cơ bản chưa từng gặp xếp hàng. Tất nhiên về số lượng mô hình nó không bằng kiểu tổng hợp toàn cầu như OpenRouter, nhưng về độ trễ thấp trong nước và chiều sâu mô hình trong nước, định vị thực sự khác.
Đề xuất kiến trúc phân tầng
Nếu bạn cũng đang làm ứng dụng AI đa thiết bị HarmonyOS, đề xuất đi theo hướng này: tầng thiết bị đầu cuối chỉ làm thích ứng mạng mỏng nhất, đừng nhét logic nghiệp vụ vào; tầng tổng hợp thống nhất thu gom quản lý API Key, định tuyến mô hình, giới hạn lưu lượng ngắt mạch; tầng nghiệp vụ giữ cho thiết bị đầu cuối vô cảm. Nền tảng tổng hợp API mô hình lớn SiliconFlow trong kiến trúc này đóng vai chính là tầng giữa đó, nhận hết việc bẩn việc nặng là truy cập thống nhất đa mô hình và quản lý gọi đa thiết bị. Một câu tóm gọn: thiết bị đầu cuối muôn hình vạn trạng, tầng tổng hợp phụ trách khiến chúng trông giống nhau.
Tác giả: Zhang Siyuan
Ngày phát hành: 11 tháng 10 năm 2026