オピニオン

AIエージェント構築ではルーティング設計を優先すべき

原題:Most AI Work Can Wait

AI 要約

AIエージェントを構築する際は、モデル選択よりもルーティング(router)の設計を優先すべきだ。ルーティングは各リクエストをどの層のモデルで処理するかを決める。適切なルーティングにより、トラフィックの70〜80%を無料のローカルモデルや非同期推論で実行でき、AIコストを90%以上削減できる。Brian Armstrong氏は、Coinbaseがより良いデフォルト設定、ルーティング、キャッシュにより、トークン使用量が増える中でAI支出を半減させたと指摘した。ルーティングはスキル分類器、ルーター、モデルセレクターの3層に分かれる。ローカル計算はほぼゼロコストで、非同期バッチ推論はリアルタイム推論より2桁安い。ほとんどの作業は秒単位の応答を必要としない。同期予測器が複雑なタスクをマークし、夜間のバッチ評価器がルーティングの重みを更新する。スキル蒸留後、非コーディング系タスクではエージェントトラフィックの70〜80%をローカルモデルで処理できる。

要点

  • AIエージェントを構築する際は、モデル選択よりもルーティング(router)の設計を優先すべきだ。
  • ルーティングは各リクエストをどの層のモデルで処理するかを決める。
  • 適切なルーティングにより、トラフィックの70〜80%を無料のローカルモデルや非同期推論で実行でき、AIコストを90%以上削減できる。
  • Brian Armstrong氏は、Coinbaseがより良いデフォルト設定、ルーティング、キャッシュにより、トークン使用量が増える中でAI支出を半減させたと指摘した。
  • ルーティングはスキル分類器、ルーター、モデルセレクターの3層に分かれる。

概要

公開日時
更新日時
出典
Tomasz Tunguz 博客(VC 分析)
カテゴリ
オピニオン
AI スコア
60
原文を読む 情報源で全文を読む
おすすめの理由

Tunguz 把代理架构的设计重心从模型选择拉回到路由上,三层分类器-路由器-选择器的划分很清晰,做 AI 应用的团队可以参考,但其中的新东西不多。

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:AIエージェント構築ではルーティング設計を優先すべき。2026年7月1日。https://new.nat6.net/ja/news/cmr2jc03c08kssl8zf2bmdjlj/

すべて見る →
  • チャットボットの黄昏

    最先端AIモデルの能力向上が加速し、米国のラボのリリース速度も速まっているが、政府の介入によりClaude FableとGPT-5.6へのアクセスは制限されている。Epochのテストでは、Opus 4.7が自律稼働14時間で、人間なら2〜…

    Ethan Mollick:One Useful Thing(RSS)オピニオンAI スコア 73

  • Claude Fable 5のサイバーセキュリティ分類器とジェイルブレイク深刻度フレームワークの詳細

    AnthropicはClaude Fable 5を再展開し世界のユーザーに開放するとともに、内蔵の安全分類器の設計を公開した。分類器はサイバーセキュリティの利用シーンを4種類に分類する。禁止使用(ランサムウェアや物理的破壊など)、高リスク…

    Anthropic:Newsroom(网页)オピニオンAI スコア 64

  • OpenAI Signalsのデータが示すChatGPTの世界的採用動向

    OpenAI Signalsのデータによると、ユーザーは登録から6カ月後に1日当たりのメッセージ量が50%増加し、試すタスクの種類も2倍になった。2023年7月以来、各大陸でアクティブユーザーが大幅に増加し、アフリカとアジアの伸びが最も速…

    OpenAI:官网动态(RSS · 排除企业/客户案例)オピニオンAI スコア 62

  • Metaの大規模AIストレージ構想

    Metaは数百EB級のストレージクラスタを運用し、Tectonic階層ストレージ層に基づくBLOBストレージアーキテクチャを構築して、GPU利用率の最大化と研究イテレーション速度という2つの課題に対応している。従来のBLOBアーキテクチャ…

    Meta Engineering Blog(RSS)オピニオンAI スコア 71

  • AIと雇用をめぐる議論はさらに混乱

    2026年5月時点でAI関連の人員削減は約9万人に達し、今後5年間で米国の最大15%の職がAIに代替されると予測されている。しかしRampとRevelio Labsが約2万2000社を対象にした報告書によると、AIへの投資額が高い企業(最…

    TechCrunch:AI(RSS)オピニオンAI スコア 71

  • 千問チームの朱達氏:C向けAgent Harnessの「多快好省」エンジニアリング哲学と能動的サービスへの模索

    千問チームは2026年1月に汎用複雑タスクAgent(千問Appのカプセル入口)をリリースし、「多快好省」の方法論をまとめた。情報収集や研究分析などのタスクを支援し、実行時間は初期の3分の1に短縮、検索パラダイムとコンテキスト管理で納品品…

    公众号:千问APP(阿里)オピニオンAI スコア 62