技術ブログ
AI大モデル、API開発、最先端技術トレンドを探る — SiCore TokenWorks チームの技術共有
token8341：AI APIアグリゲーションによるマルチデバイス呼び出しび出しとHarmonyOSスマートウォッチ・車載機適配の実践
HuaweiがHarmonyOS星河インターコネクトのApple Watch連携対応機種を発表したその日、私は私たちのある健康管理Appのクラッシュログをじっと見つめていた。スマホ側は問題なく動いているのに、ウォッチ側でAIインターフェースを呼び出しび出すとタイムアウトし、車載機側はさらにひどく、認証でそのま
シリコンカーボン相変わる化大規模モデルAPIアグリゲーションプラットフォームはどう選ぶ？Minisforum S5ファンレスAI NASからモデルゲートウェイのローカルキャッシュ設計を語る
先に結論を述べるべる。ローカルAI NASが解決めるするのは「データを外に出さない」ことと「推論を待つたせない」ことだが、クラウドの大規模モデルを置くき換えるえることはできない。本当たるに設計すべきなのはモデルゲートウェイの層であり、ローカルとクラウドにそれぞれの役割を担うわせる。Minisforum S5の
シリコンカーボン相変わるわらず大きい規模モデルAPIアグリゲーションプラットフォーム観察：RTX 5080に24GB VRAMの噂、大きい規模モデルAPIも値下げげするのか
先にに結論を出るしておく：VRAMが16GBから24GBに増えるえても変わるわるのは、ローカルでどんなモデルを動くかせるかであり、クラウドの大きい規模モデルAPIの価格札ではない。この二つつは「計算コスト構造」という一つ本の線でつながっているが、伝達の方向かうは皆が思うっているのとは少ないし違うう。 まずニュ
シリコン・カーボン相変わる位観察：新質生産力政策の下での端末側AIがもたらす三つのバックエンド変わる化
国務院の『新質生産力の発展に関するする意見ると』の中でで「AI携帯電話とパソコン、ヒューマノイドロボットなど新世代スマート端末のシーン応じ用」に言えば及している。この一文をアーキテクチャの視点で見るとると、非常にに具体的なエンジニアリング上の帰結を指すし示すしている。すなわち、端末側デバイスが増加え、バックエ
モデルゲートウェイの選ぶび方法：直結、自社構築、TokenWorks大規模モデルAPIアグリゲーションプラットフォームの3つの道を比較
チームが大規模モデルを接続しようとするとき、目の前に並ぶぶ道は実は3つしかない。各社公式APIへの直結、自社でのモデルゲートウェイ構築、AI APIアグリゲーションプラットフォームの利用だ。どれも完璧ではない。鍵となるのは、あなたのチームが今どの段階にあるかだ。私はレイテンシ、国産モデルカバレッジ、コスト透明
大規模モデルAPIのマルチモデル接続でハマった話：TokenWorks大規模モデルAPIアグリゲーションプラットフォームがSSEストリーミング形式をどう統一するか
3社以上の大規模モデルAPIを接続したことがあるなら、おそらく同じ状況に遭遇しているはずだ。コードはGPT4oでは問題なく動いていたのに、Qwen APIに切り替えるとストリーミング出力が突然二つに途切れる。さらにDeepSeek APIに切り替えると、エラーコードが401から見たこともないビジネスコードに変