役員がAIレポートで決して触れない盲点
企業におけるAI導入の公式イメージは整然として見える。承認済みの投資、進行中のパイロットプロジェクト、生産性指標を示すダッシュボード。しかし、そうしたレポートが捉えられない層が存在し、実際のリスクが蓄積されているのはまさにそこだ。
ガートナーのハイプ・サイクルでは、現在、生成AIは「幻滅のトラフ」、つまり5段階のうちの第3段階に位置している。期待が具体的な成果と照らし合わされ始める時期だ。これは清算の時である。そして浮かび上がってくる数字は決して居心地よいものではない。テクノロジー界隈で広く流通しているMITの研究によれば、企業における生成AIパイロットの95%が失敗しているという。劇的な形で失敗しているわけではなく、単純に何も測定可能な成果に至っていないのだ。
その数字が隠しているものは、数字そのものよりも興味深い。これはテクノロジーの問題ではない。組織構造の問題であり、可視性の問題であり、突き詰めれば、企業が自分たちの目が追いつかないスピードで動くものをどのように管理しているかという問題だ。
導入が観察能力を超えるとき
大規模組織におけるAI導入は、2つの経路を同時に辿ってきた。経営層からトップダウンで下りてくる指令と、現場の運用チームからボトムアップで広がる自発的なツール活用だ。そのどちらも、共通の地図を持たないまま前進している。
その結果が断片化したインベントリだ。異なる事業部門が、類似のタスクに対して異なるツールを使用しており、監督のレベルは厳格なコントロールから完全な非公式性まで幅広い。これは些細な話ではない。AIシステムとのやり取りの1つひとつが行動の記録を生む。何が質問されたか、どのようなデータが共有されたか、どのようなワークフローが起動されたか。その情報は存在しているが、ほとんどの場合、体系的に収集されることも分析されることもない。
問題は、組織がAIを分散型で使用していることではない。問題は、リーダーたちがその使用について、実証的な根拠のない仮定のもとで行動していることだ。どのツールが稼働しているか、どのようなデータがそこを流れているか、どのような条件下にあるかを知っていると思っている。しかし実際には、その知識は断片的であり、しばしば古くなっている。
ISACAは2026年のリスク分析において、これを正確に描写している。AIの企業リスクの中核に盲点があるのであり、それはモデルの能力の問題ではなく、その使用に対するコントロールの問題だ、と。脆弱性は、モデルが誤って行うことのできる行為にあるのではない。組織が個々のインタラクションのレベルで何が起きているかを把握するための十分な可視性を持っていない点にある。
可視性が低い場合、リスクは複数の形を同時にとる。認可されていないツールを通じた機密データの漏洩がある。正式にレビューされたことのないアクセス権を持つAIエージェントがある。最初のパイロットを承認した後、誰も監査しなかった自動化された意思決定がある。そして何よりも、リーダーたちが上位にレポートするAIイニシアティブのパフォーマンスと、日常業務で実際に起きていることとの間に、拡大し続けるギャップが存在する。
セキュリティ研究が使用中のモデルについて明らかにすること
盲点に関する議論には、取締役会の議論からこぼれ落ちがちな技術的な側面がある。言語モデルのセキュリティ評価はその方法論を変えており、標準的なベンチマークに基づいて実装を承認したチームにとって、その結果は居心地の悪いものとなっている。
重要な区別は、シングルターンのテストとマルチターンのテストの間にある。前者では、モデルが1回のやり取りで問題のある指示を拒否するかどうかを評価する。後者では、攻撃者が各応答の後に戦略を調整する反復的な会話をシミュレートする。その結果は大きく乖離する。
National CIO Review が引用した調査によれば、主要プロバイダーのモデルにおいて、会話型攻撃の成功率は7.89%から88.30%の範囲にあり、モデルと攻撃の種類によって異なる。これは統計的なノイズではない。すでに展開済みのシステムの堅牢性についての組織の考え方を変えるべき幅だ。
実践的な含意は直接的だ。シングルターンのセキュリティテストに基づいて実装を承認した組織は、長期的な使用条件や敵対的なプレッシャーのもとで何が起きるかを過小評価したリスクイメージを持っている。そして、展開前に正式なテストを一切行わなかった組織は、宣言された信頼と実際のエクスポージャーとの間にさらに大きなギャップを抱えている。
問題はモデルのセキュリティで終わらない。AIエージェントの話になると、リスクの境界はさらに拡大する。エージェントは単に質問に答えるのではなく、行動する。社内システムにアクセスし、プロセスを実行し、委任された意思決定を下すことができる。それによってエージェントは組織内の運用上のアイデンティティとなり、それに伴うすべてのリスクを抱えることになる。取り消されることのなかったアクセス権、パイロット中に付与されたまま再調整されなかった許可、そして誰かが定期的に確認するログに記録されていない活動だ。
TechRadar Pro は、あらゆる運用リスクに関する会議で注目に値する形でこれを表現している。問題はAIではなく、AIに与えられたアクセス権だということだ。インシデント発生率が大幅に低いと報告している組織は、エージェントに対して最小権限のコントロールを実装したところ、つまりエージェントをプロビジョニング、定期的なレビュー、および失効を必要とする正式なアイデンティティとして扱ったところだ。
自己説明できないAI支出
この問題には、AIガバナンスに関する議論が通常回避する財務的な側面がある。組織がAI投資の使われ方を観察できないなら、そのリターンを信頼性をもって測定することもできない。
これには具体的な結果が伴う。AIの予算は生産性の予測に基づいて承認されるが、その多くは大規模な使用条件を代表しない管理されたパイロットの上に構築されたものだ。その大規模な使用が到来すると、認可されていないツール、監督されていないフロー、誰も予期しなかった行動とともにやってくる。生産性は向上しているかもしれないが、何がそれを生み出しているのか、どのような条件下にあるのかが見えなければ、リーダーたちはそれを意図的に再現することも、制御された形でスケールさせることもできない。
ここでの脆弱性のメカニズムは具体的だ。可視性が低い場合、資本は最も多くの価値を生み出すツールではなく、社内で最もうまく売り込めるツールに流れる。実際の成果を生み出すやり方でAIを使用しているが正式な文書化のないチームは、次のサイクルの予算から外れる。より洗練されたプレゼンテーションをするチームは、指標が弱くても追加リソースを獲得する。
これは内部腐敗の問題ではない。情報アーキテクチャの問題だ。実際の使用状況に関するデータがなければ、投資委員会は観察されたパターンではなく定性的な証言をもとに運営することになる。そして定性的な証言は、コストを積み上げながら価値を生み出さない静かな失敗ではなく、成功ストーリーに向けて系統的にバイアスがかかっている。
コンプライアンスリスクがこの状況をさらに悪化させる。金融、医療、重要インフラ分野におけるAI利用に関する規制は、組織が予想していたよりも速く成熟しつつある。規制当局がすでに問いかけており、多くの企業が答えられない質問はシンプルだ。どのモデルが、どのデータを使って、どのポリシーのもとで、どの意思決定を下したのか？その問いに答えられないことは、単に評判上のリスクではない。規制された市場では、事業認可のリスクだ。
ハイプ・サイクルだけでは解決しない構造的問題
企業におけるテクノロジー導入の歴史的なパターンが示すのは、能力とガバナンスの間のギャップは時間とともに自動的に縮まるわけではないということだ。クラウドはシャドーITを生んだ。SaaSは管理されていないアイデンティティを増殖させた。企業モビリティは、カタログ化するのに何年もかかった攻撃対象領域を開いた。AIは同じパターンをたどっているが、伝播速度はより高く、エージェントは単に保存したり通信したりするのではなく行動できるという実質的な違いがある。
持続的な価値を獲得しようとしている組織と、リターンなくコストを吸収し続ける組織とを分けるのは、選択するモデルでも、契約するプロバイダーでもない。自社の使用状況を体系的に観察する能力、インタラクションデータを運用上のシグナルとして扱う能力、そして問題が外部から見えるようになる前にその観察の上にコントロールを構築する能力だ。
これをうまく解決している組織は、3つの具体的なことを実践している。第1に、あらゆる企業ソフトウェア資産と同様に、AIアセットをカタログ化している。インベントリ、バージョン、アクセス権、オーナーだ。第2に、従業員監視としてではなく、投資判断とリスク管理の実証的な基盤として、重要なシステムのインタラクションレベルで活動ログを実装している。第3に、人間のアクセス権を見直すのと同じ厳格さで、AIエージェントに付与された権限を定期的に見直している。
これら3つのいずれも、存在しないテクノロジーを必要としない。必要なのは、問題が単にITの問題ではないこと、そして解決策を技術チームだけに委任することはできないと認識するための組織的な意志だ。取締役会のプレゼンテーションで誰も触れない盲点はまさにそこにある。リーダーたちが自社のAI利用について知っていると思っていることと、個々のインタラクションのレベルで実際に起きていることとの間の距離は、静かに蓄積し続ける運用上、財務上、そして規制上の結果を伴う情報のギャップなのだ。
このサイクルにおける脆弱性はモデルにあるのではない。それを展開する者たちの観察アーキテクチャにある。規制当局やインシデントがそれを明らかにする前に理解する組織は、反応的な形でそれを学ぶ組織に対して構造的な優位性を持つことになるだろう。
