誰も予算に組み込まなかった「税金」が、企業AIエージェントを沈没させている
企業テクノロジーの導入において、熱狂が会計上の義務へと変わる特定の瞬間がある。企業製品に組み込まれた人工知能エージェントにおいては、その瞬間が大多数の技術チームの予想よりも早く訪れた。そして、それを引き起こしたメカニズムは、間違った言語モデルでも、データ不足でもなかった。それは、誰も「決断」として提示しなかったアーキテクチャ上の選択だった。
これを「コンテキスト税」と呼ぶことは——Anthropicのエンジニアリングチームや増加する数の分析家がそう呼んでいるように——正確な表現だ。それが比喩的だからではなく、正確に税金と同様に機能するからだ。個々の取引では見えないが、集計すると壊滅的な結果をもたらす。企業向けエージェントが5行のデータに関する質問を処理するために150キロバイトの生のHTMLを受け取るたびに、企業は価値を生み出さない約37,500トークンの推論コストを支払う。それを、アクティブなユーザーの数、セッションの数、そして毎月のスケーリングで掛け合わせると、技術的な細部のように見えたものが、製品のグロスマージンが生き残れるかどうかを左右する要素になる。
エコシステム内を流通するデータは、複数の角度からこれを裏付けている。Splunkが孤立したエージェントのコストについて行った分析では、単一のカスタマーサポートインタラクションのコストが、トークンあたりの価格が下落していた3年間でさえ、4セントから1ドル20セントへ上昇した経緯が記録された。この増加の背後にあるメカニズムは、プロバイダーのインフレではなかった。それは、エージェントがフローの各ステップで中継するコンテキストの量だった。コンコルディア大学の研究は、エージェントフローにおける入力トークンと出力トークンの比率を2対1と定量化し、コード見直しだけで消費されるトークンの59%を占めることを発見した。これらの数字は、インフラ予算をロードマップに記載されていたものとはまったく異なるものへと変容させる。
「決断している」と言わずに行われる決断
Forbes Technology Councilの分析——マーケットプレイスの売り手向けにエージェント体験の構築を主導するWalmart Global Techのソフトウェアエンジニアが執筆——が導入する中心的な主張は、ツールやプロバイダーについてではない。それは、チームがデフォルトとして、設計会議で誰かがその名前を口にする前に、暗黙のうちに行ってしまう3つのアーキテクチャ上の決断についてである。
1つ目は、モデルが受け取る表現だ。生のHTML、スクリーンショット、そして意味的なフラグメントの間には、タスクあたりのコストで30倍から50倍の差があり、精度への影響は直感が示唆するものとは逆の方向に働く。AgentOccamエージェントに関するAmazon Scienceの研究では、視覚的表現から構造化されたアクセシビリティツリーに切り替えることで、WebArenaベンチマークにおいて29.4%の改善が記録された。モデルは変更されていない。モデルが見るものが変わったのだ。
2つ目の決断は、キャプチャのタイミングだ。エージェントが送信時ではなくページ読み込み時にページの状態を取得すると、ユーザーが見ているデータではなく、読み込みのスケルトンをキャプチャしてしまう。レポートは、APIが応答する1,500ミリ秒前にスナップショットが発動するケースを記述している。エージェントは空のページから自信を持って応答した。それは技術的な意味でのハルシネーションではない。間違ったコンテキストが、間違ったタイミングで提供されたのだ。
3つ目は、直接送信しないものだ。取得前にルーティングを行う軽量クラシファイアは、実際のフローにおいてコンテキストスナップショットの70%から85%を排除できる。一括設定の更新方法を尋ねるユーザーには、現在のデータビューの写真ではなく、ドキュメントが必要だ。それらは決して消費されることのないトークンだ。
これら3つの決断が特にコストの高いものとなる理由は、それらが悪い決断だからではなく、誰もそれらを決断として提示しないからだ。それらはデフォルトとして実行される。生のHTMLは前処理を必要としない選択肢だ。読み込み時のキャプチャは、フレームワークが自動的に行うことだ。利用可能なコンテキストをすべて送信することは「安全」に見える。その慣性にはコストが伴う。
社内製品と市場向け製品の違い
この分析は、企業向けエージェントに関する大多数の議論が十分に明確に分離していないポイントを正確に区別している。社内の従業員にサービスを提供するエージェントと、マルチテナントの商業製品に組み込まれたエージェントとの間には、構造的な違いがある。
社内ITチームは、欠陥のあるコンテキストアーキテクチャを吸収できる。彼らはそれを再デプロイする。調整する。管理された爆発半径を持っている。製品にAIアシスタントを組み込んだB2B SWソフトウェアプロバイダーは、インフラではなく、シートに基づいて課金する。コンテキスト表現における非効率性はすべて、顧客ベース全体に同時に掛け合わさる。記事が説明するアクティブユーザーあたりのコスト——一般提供開始から8週間で月0.40ドルから1.10ドルへの上昇——は、誤ったキャリブレーションのデプロイの逸話ではない。それは、コンテキストアーキテクチャを最初に監査せずにスケールしたときに何が起こるかのメカニズムだ。
Chromaは2025年に18のフロンティアモデルの評価を公開し、問題に別の次元を加えた。精度はコンテキストが高コストなときだけ低下するのではなく、コンテキストが広範なときにも低下する。入力コンテキストの量が多いほど、モデルに関係なく、長いコンテキストタスクにおける精度の損失は大きくなる。コンテキスト税は単なるマージンの問題ではない。それはプロダクトの問題だ。
これは、プロジェクト承認委員会がめったに明確に表現しない方法で議論を再構成する。SaaSプラットフォームにAIエージェントを組み込むかどうかを評価するとき、会話は通常、モデル、プロバイダー、データセキュリティに集中する。コンテキスト表現アーキテクチャは、グロスマージンに影響を与える変数として、その会話にほとんど登場しない。それは後から、事後検討で登場する。機能がマージン拡大を約束し、それを圧縮された形で提供した後に。
最初の失敗の波の後に来る市場
2027年末までに40%以上のエージェントプロジェクトがキャンセルされると予測するGartnerの統計は、単に技術的成熟度に関する警告ではない。それは、隠れたコストが当初の予測を超えるあらゆる採用サイクルの後に続く淘汰プロセスの先行的な記述だ。生成AIデプロイメントの95%が測定可能なビジネス価値を生み出さなかったと発見したMITの分析は、別の角度から同じ圧力を記録している。
エージェントに関する公開討論でまだ明確でないのは、プロジェクトをキャンセルする組織がモデルの理由でそうするのか、アーキテクチャの理由でそうするのかだ。失敗の大部分がコンテキストの決断——表現、キャプチャのタイミング、送信量——に起因するのであれば、問題はエージェントが機能しないことではない。それを構築するチームが、間違った変数を測定しているのだ。
Hylandが企業におけるAI投資対効果について行った分析では、統一された企業コンテキスト層がAIと自動化への投資に対して最大10.3倍のリターンを生み出せると算出している。彼らが説明するメカニズムは直接的だ。新しいエージェントのたびに統合、マッピング、ビジネスルールを再構築するチームは、エージェントが稼働し始める前に断片化税を支払っている。各エージェントは前のエージェントのアーキテクチャ負債を引き継ぐ。スケールはその問題を解決しない。それを増幅させる。
浮かび上がりつつある移行は、より強力かそうでないかの言語モデル間のものではない。それは、コンテキストアーキテクチャをインフラ変数——時間があるときに最適化する——として扱う組織と、最初のデプロイメント前に設計するグロスマージン変数として扱う組織との間の移行だ。両者の立場の違いは、パイロットの最初の数か月には現れない。ユーザーベースが成長し、クエリあたりのコストが、その機能が存在できるかどうかを支配するメトリクスになったときに現れる。
次の戦線はモデルではなく、コンテキストを誰が管理するかだ
言語モデル戦争は、理解できる幻想を生み出した。企業向けエージェントの中心的な問題は推論の品質だという幻想だ。その幻想は実験フェーズには有用だった。企業がモデルは自分たちのドメインで有用な何かができるということを検証する必要があった時期に。そのフェーズは終わった。
今始まりつつあること——そして、コンテキスト税に関する分析が技術的な詳細を超えて関連性を持つ理由——は、企業コンテキスト層を誰が構築し、管理するかをめぐる競争だ。推論するモデルではなく、モデルが何を見るか、いつ見るか、そして何を決して見る必要がないかを決定するインフラだ。
シグナルはすでに見えている。エージェントはデータへ行くべきであり、データがエージェントへ旅するのではないというCIO Diveの主張は、同じ核心を指している。生のトークンコストの代わりに検証可能な応答あたりのコストを測定するというSeekrの提案は、損益計算書においてコンテキスト税を透明にするメトリクスを導入する。Forbesの分析が説明する取得前のルーティングクラシファイアは、まだ確立された市場名を持っていないコンポーネントだが、成熟したエージェントプラットフォームがネイティブに提供する必要がある機能を表している。
今まさにアーキテクチャの決断を下しているリーダーにとって、運用上の教訓は戦略的なフレームワークよりも限定的だ。モデルがボトルネックではない。コンテキスト表現こそがボトルネックだ。そして、それは設計変数であり、プロバイダーの決断ではない。つまり、その結果に対する責任は内部にある。2026年にマージンの基準でそのレイヤーを構築する組織は、2027年に市場が説明責任を求め始めたときに、クエリあたりのコストデータを持っているだろう。そうしない組織は、マージンを拡大すると約束したAI機能が、なぜ最大のマージン圧縮の源となって終わったのかを説明することになるだろう。
