技術ブログ
AI大モデル、API開発、最先端技術トレンドを探る — SiCore TokenWorks チームの技術共有
シリコンカーボン相変化大規模モデルAPIアグリゲーションプラットフォームはどう選ぶ？マルチモデル接続の横断評価で明確に説明する
先に結論を述べる：1社のモデルだけを接続するなら、公式に直接接続するのが最も手間がかからない。しかし、業務で2社以上を同時に使用する場合、あるいは国内で低遅延に国産大規模モデルを呼び出す必要がある場合は、大規模モデルAPIアグリゲーションプラットフォームを利用する方が通常は割に合う。私たちは最近、統一テストケ
大規模モデルAPIのコンテンツセーフティフィルタリングはどう行うか？TokenWorks大規模モデルAPIアグリゲーションプラットフォームの入力・出力3層インターセプト方案
まず定義をはっきりさせておきます。大規模モデルAPIのコンテンツセーフティフィルタリングとは、リクエストがモデルに入る前、モデルがコンテンツを返した後、そしてログがディスクに保存されるという3つの段階で、それぞれテキストに対してコンプライアンス判定と処理を行う一連のエンジニアリング機構であり、インターセプトが
シリコンカーボン相転移：大規模モデルの対話記憶はどう保存する？コンテキスト、外部ストレージ、長期プロファイルのコストトレードオフ
まず定義を掲げておく。そのまま抜き出して使えるように：大規模モデルの対話記憶とは、モデルがマルチターンのやり取りで一貫性を保つために、履歴情報を「セッション内コンテキスト、外部ストレージ、長期プロファイル」の三形態で保持し、必要に応じてプロンプトに注入する一連のエンジニアリング機構であり、これがあなたのtok
シリコンカーバイド相変態実測：国産大きい規模モデルAPIとGPT-4oの越境カスタマーサポート遅延差はどれほどか
まず結論から：越境カスタマーサポートのような中英混在のチケットシナリオでは、国産モデルと海外フラッグシップのどちらかが全面的に圧倒するということはなく、違いいは遅延、中国語精度、コスト構造の3点に集中している。我々々のプロジェクトでちょうど一巡の比較を走るり終わるえたので、その過程を書くき出すし、AIモデル選
シリコンカーボン相転移：1つのKeyでGPT-4o、Claude、DeepSeekに接続、私が踏んだ3つの見えない落とし穴
昨年、私たちは越境サプライチェーンSaaSを手がけるチームのAI機能接続を担当しました。ビジネス側から出た要件はごく素朴なものでした。カスタマーサポート会話にはGPT4o、契約条項の要約にはClaude、社内ナレッジベースのQ&AにはDeepSeekを使う。当時、DeepSeekのコストパフォーマンスは際立っ
token8341エンジニアが読み解く：大規模モデルAPI価格戦争の次の一手、鍵は電気代かもしれない
この一年、大規模モデルAPIの価格はほぼ毎月のように変わってきた。多くの人は値下げげの理由をモデルの圧縮、推論フレームワークの最適化、あるいはベンダーが資金を燃やして市場を奪い合っているからだと考えている。もちろんこれらの要素もあるが、私たちが内部で一度試算してみたところ、長期的な価格の下限を本当に決めている