技術ブログ
AI大モデル、API開発、最先端技術トレンドを探る — SiCore TokenWorks チームの技術共有
中国製大規模モデルAPIはどう選ぶ?ケイ素炭素相変エンジニアが解き明かす、見落とされがちな3つの次元
この2年、チームのために何度も中国製大規模モデルAPIを選定してきて、踏んだ穴はコードより多い。最初は価格だけを見て、安いところを使っていたら、リリース3日目にインターフェースがタイムアウトし始めた。その後はモデル能力ランキングを見るようになり、スコアの高いものを接続したが、今度はコンプライアンス書類が揃わず
TokenWorks観察:大規模モデルAPI値下げの裏で見落とされる電気代の話
大規模モデルAPIの価格はこの2年、下がり続けている。DeepSeekV3は100万Tokenの入力価格を数元まで押し下げ、Qwen、Doubao、ERNIEが次々と追随し、GPT4oやClaude 4 Sonnetの呼び出しコストもリリース時より一段下がった。AIアプリを作る人にとっては概ね良いことだと受け
大規模モデルAPIの業務統合は4つの段階に分かれる、token8341のエンジニアが各段階で何をすべきか解説
多くのチームは大規模モデルAPIを業務に組み込む際、一度に完成させようとしがちで、その結果プロトタイプ段階でどのモデルを選ぶかに悩み、本番段階になってKeyが散乱し、請求が合わないことに気づきます。実はAI機能の統合にはリズムがあり、動作する状態から安定して動作する状態まで、大きく4つの段階に分かれます。各段
大規模モデルAPIの請求が突然倍増?token8341のエンジニアが解き明かす4つの隠れたTokenブラックホール
先に結論から:大規模モデルAPIの費用高騰は、8割がた攻撃によるものではなく、コードの中のいくつかの目立たない呼び出し習慣がこっそりお金を燃やしているのが原因です。あるスマートカスタマーサービスのプロジェクトで、月額請求が8000から3万に跳ね上がり、社長の第一反応は「不正利用された」でした。私が一緒に2日間
大規模モデルAPIアグリゲーションプラットフォームの選び方とは?token8341のエンジニアが4つの必須指標を分解解説
結論から言うと、国内でビジネスを展開するなら、大規模モデルAPIアグリゲーションプラットフォームを選ぶ際にモデル数は最も重要でない指標です。海外のあるアグリゲーションプラットフォームは数百のモデルを抱えていますが、サーバーが境外にあり、国内からの呼び出し遅延が高く、国産モデルのカバレッジも弱いです。本当に見る
token8341振り返り:予算の3倍に膨らんだカスタマーサポートボットの請求書、お金はどこに消えたのか
先に結論から言うと、カスタマーサポートボットがお金を食う原因は、八割方モデルの単価が高いからではなく、呼び出し方に問題があります。社内のある日次アクティブ数千のアフターサポートQ&Aボットは、リリース初月の請求書が予算の3倍に跳ね上がりました。調査してみると、モデル単価は一切変わっておらず、すべて呼び出し構造