ガバナンスなしのAIエージェントが、今まさにあなたの会社の中で動いている
大企業における人工知能をめぐる議論は、居心地のよいシナリオに沿って進む傾向がある。プラットフォームを評価し、予算を承認し、パイロットプロジェクトを設計する。その一方で、CRMシステムの中で、カスタマーサポートの業務の中で、財務承認のワークフローの中で、AIエージェントが意思決定を下している。それが何体存在するのか、どのデータに触れているのか、誰にも監視されていないとき何をしているのか、正確に把握している者は誰もいない。
これこそ、業界がここ数ヶ月、巧みにかわし続けてきた不都合なデータだ。これは将来の見通しではない。Salesforceは自社プラットフォームAgentforceの契約を29,000件締結した。ソフトウェア開発ツールのCursorは、従業員数わずか50人強で年間経常収益約20億ドルに達したが、クラウド上の自律エージェントによって書かれたマージ済みプルリクエストの割合が約35%に上ることを記録している。Global 2000に名を連ねる企業では、エージェントが顧客データに触れ、資金を動かし、本番環境の設定を変更している。ガバナンスはその後からやってきた。多くのケースでは、まだ到達していない。
これが明らかにするのは、計画上のミスではない。非常に具体的な心理的ロジックを持った導入パターンであり、技術的な解決策を列挙することよりも、それを理解することの方がはるかに重要だ。
なぜ、誰も気づかないうちにスピードがコントロールを打ち負かしたのか
テクノロジーリスク分析が見落としがちな区別がある。ツールを導入することと、自律性を委ねることの違いだ。あるチームが、回答を提案したり文書を要約したりするAIアシスタントを導入するとき、コントロールの感覚は損なわれない。決定を下すのは依然として人間だ。エージェント型のエージェントはその方程式を根底から変える。計画を立て、複数のステップを実行し、外部システムを呼び出し、行動する。もはや提案するのではない。実行するのだ。
この変化は、組織内のリスク認識における同等のアップデートを伴わなかった。そしてそれには、行動科学的に正確な説明がある。認知的継続性バイアスだ。新しいテクノロジーが段階的に導入されるとき、各ステップは前のステップの合理的な延長のように見える。サポート対応を自動化した最初のエージェントは、2019年のチャットボットと同等のものに見えた。CRM内のレコードを更新し始めた次のエージェントは、論理的な改善のように見えた。誰も、支援ツールと重要インフラへのアクセスを持つ自律システムとの境界線を越えた瞬間を宣言しなかった。
テクノロジーチームが不注意によって失敗したわけではない。リスクを評価するための思考フレームワークが、自律性を捉えるのではなく、技術的複雑さを捉えるようにしか調整されていなかったために失敗したのだ。そして自律性は、複雑さとは異なり、アーキテクチャ図では検出できない。
その結果がBoomiが非常に的確に呼ぶエージェントスプロールだ。異なるビジネスユニットによって、異なるプロバイダーのもとで、異なるレベルのアクセス権限を持ってデプロイされたエージェントの増殖であり、いくつ存在するかすら把握できる一元的なインベントリが存在しない。組織が十年前半に体験した管理されていないSaaSソフトウェアの拡散と同じ問題だ。しかし、材質的に異なる点がある。これらのエージェントはデータを保存するだけでなく、それを処理し、それに基づいて行動する。
コントロールレイヤーになるための競争
その空白を前に、大手エンタープライズプラットフォームプロバイダーたちは特定のポジションを奪い合っている。エージェントのガバナンスレイヤーだ。より優れたエージェントを構築するための競争ではない。他のすべてを制御するシステムになるための競争だ。
Salesforceは自社環境内にコントロールを統合し、Einstein Trust LayerをAgentforce内のポリシー境界として機能させている。Microsoftは生産性インフラとAzureからガバナンスを拡張し、Copilot Studioを管理パネルとして使用している。ServiceNowはKnowledge 2026イベントでAI Control Towerを発表し、マルチプラットフォームのガバナンスを統合して、VezaとArmisの買収を組み込み、エンタープライズスケールでエージェントのアイデンティティと権限をマッピングしている。IBMはwatsonx Orchestrateで規制対象産業における監査可能性に賭けている。Googleはその提案をGoogle Cloudの境界内に固定している。
パターンは一貫している。各プロバイダーはすでにコントロールしている資産からガバナンスを拡張する。それはビジネスの観点からは合理的であり、顧客の観点からは構造的な問題を生み出す。Global 2000の中規模または大規模な企業は、単一プロバイダーのエージェントだけを運用しているわけではない。あるデパートメントではLangGraphを、営業ではAgentforceを、オペレーションでは社内システムを、財務では自社開発のものを動かしているかもしれない。どのプロバイダーも、競合他社のエージェントに等しく機能するガバナンスを構築するインセンティブを持っていない。
そこに独立系プレイヤーが資本化しようとしている隙間がある。規制対象産業のGlobal 2000の450社以上のクライアントと取引していると言うKore.aiは、2026年3月にマルチフレームワークエージェント管理プラットフォームを立ち上げ、同年5月にMicrosoft Agent 365のローンチパートナーとしてMicrosoft Azure上にそれを拡張した。彼らが提案する技術アーキテクチャは、エージェント的推論と決定論的コントロールを異なるレイヤーに分離し、Agent Blueprint Languageという宣言型コンパイル言語を使ってエージェントを定義し、6つのマルチエージェントオーケストレーションパターンを備えている。設計上のロジックは、ガバナンスルールがモデルの外側で動作し、プロンプトの内側ではないということだ。これが重要なのは、プロンプトはモデルによって再解釈される可能性があるが、外部の決定論的レイヤーはそうならないからだ。
まだ解決されていないのは、各プラットフォームが自社の境界内にエージェントを維持するインセンティブを持っている中で、マルチプロバイダーガバナンスの約束が持続できるかどうかだ。実際の本番環境条件下でのそのアーキテクチャの検証が、価値提案とセールスのスライドを分ける基準であり続けるだろう。
CIOたちが名付けることを避けている問題
これらすべての根底にある組織的な摩擦があり、技術的分析はそれを省略しがちだ。エージェントのガバナンスは、誰も答えたくない質問に答えることを強制する。
組織内のすべてのアクティブエージェントをインベントリ化することは、正式な承認なしにデプロイされたものがいくつあるかを明らかにすることを意味する。アクセス権限を定義することは、どのビジネスユニットが機密データに対して過大な権限を持っているかについての会話を開くことを意味する。各エージェントの各アクションの監査ログを作成することは、何かがうまくいかなかったとき、責任者を指し示す痕跡が残ることを意味する。それは技術的な会話ではない。政治的な会話だ。
省略バイアスはここで強力に作用する。発見されたら行動を強いられる問題を掘り起こすよりも、監査しない方が心理的に楽だ。エージェントが機能している間は、そのレベルのアクセス権限で機能すべきかどうかを検討するインセンティブは低い。発見のコストは現在に集中しており、摩擦と困難な会話として現れる。コントロールしていたことの利益は何かが失敗したときにのみ具現化され、その瞬間は起こるまでは抽象的に見える。
IBMはエージェントガバナンスの分析の中でそれを直接的に表現している。組織は、障害を起こしているか予期しない方法で行動している自律システムのための緊急停止手順が必要だ。これは、誰かがエージェントが行うことができるすべてのことの完全なマップを文書化しておく必要があることを意味する。エージェントが誰も予期しないことをする前に。準備には可視性が必要だ。そして可視性には、現在それが存在しないことを認める必要がある。
世界経済フォーラムは、エージェントのオンボーディングプロセスを従業員のオンボーディングと同じ厳格さで扱うことを提案している。機能、役割、自律性のレベル、ユースケース、環境、能力と制限を定義することだ。これは心理的に重要な何かを捉えたメタファーだ。何ができるか、どのシステムにアクセスできるか、誰が仕事を監督するかを定義せずに従業員を雇うことを考える企業はない。エージェントに対しては、同じ基本的なロジックが省略された。なぜなら、その技術的オブジェクトは人間よりも小さく、より制御しやすく、より可逆的なものに見えたからだ。結果的にそうではなかった。
それを「フェーズ2」と呼び続けるコスト
エンタープライズテクノロジー導入において最もコストのかかるフレーズは「これは機能しない」ではない。最もコストがかかるのは「ガバナンスは次のフェーズで実装する」だ。なぜなら、次のフェーズになるとシステムはすでに依存関係を持ち、すでにそれを待っているユーザーがいて、すでに誰かが意思決定に使っている結果を生み出しており、それを解体したり深く監査したりすることは、組織が受け入れる準備のできていない摩擦を生み出すからだ。
Credo AIはそれを正確に描写している。自律エージェントが直接的なアクションを実行するときでさえ、責任と説明責任は組織に引き続き課せられると指摘している。それは、テクノロジーチームが通常一人で吸収できる立場にない法的、規制的、評判上の含意を持つ。それはCFO、CISO、取締役会レベルの会話だ。
組織が明示的に行うことを避けている計算は次のとおりだ。すでにデプロイされたエージェントにガバナンスを実装するコストは高い。財務データ、与信判断、顧客との規制対象コミュニケーションにおけるエージェントの障害のコストは、その初期コストの何倍にもなり得る。紙の上では非対称性は明確だ。明らかに機能しているシステムを監査するための予算を承認しなければならない人の心の中ではそうではない。
Palo Alto Networksは、エージェント型AIが安全にスケールすれば最大2兆6,000億ドルの経済的価値を解放できると推定している。条件節が重要だ。潜在的な価値と管理されていないリスクは、同じインフラ上に共存している。CIO、CISO、CFOへの問いは、どのガバナンスプラットフォームを評価するかではない。問いは、今まさに組織内で、何をしたのか、なぜそうしたのか、誰が止められるのかを証明する能力がまったく存在しないエージェントが、何体動いているかということだ。
今後2年間でその能力を構築する企業はスケールできる立場に立つだろう。ガバナンスを将来の会話として扱い続ける企業は、取締役会に、そしておそらく規制当局に、説明すべきことが生じる前になぜ構築しなかったのかを説明しなければならなくなるだろう。
