AIモデルの95%が本番環境に届かない理由

企業が構築するAIモデルの95%は本番環境に届かない

グローバルな大企業のある最高技術責任者は先日、BMCソフトウェアのシニアバイスプレジデントであるAbhijit Kakhandikiに、市場の現状を不快なほど正確に言い表すエピソードを語った。自社のデータサイエンスチームが200を超えるAIモデルを構築したが、本番稼働しているのは10未満だったというのだ。

コンバージョン率は5%未満。新技術を試している中小企業の話ではなく、それを適切に実行するだけのリソース、人材、競争的プレッシャーを持つ組織の話だ。この数字は例外ではない。これがパターンなのだ。

マッキンゼーは2025年のグローバル調査でこれを裏付けた。AIの利用は広く浸透しているものの、横断的なAIプログラムのスケールアップを開始していた組織はわずか3分の1にすぎなかった。一方ガートナーは、2026年のAI関連グローバル支出を約2兆5900億ドルと予測しており、これは前年比47%増に相当する。資金は流れ続けている。しかし本番稼働は、そうではない。

この矛盾こそ、注目に値するケーススタディだ。なぜなら、それは人材の問題でも技術の問題でもないからだ。この投資を率いる人々にとって、認めがたいより深い問題を指し示している。

市場で最もコストのかかる実験に、成果のオーナーがいない

企業AIをめぐる支配的な語りは、依然としてモデルを中心に展開している。精度はどれほどか、どのアーキテクチャを使っているか、パラメータ数はいくつか。技術的な議論は高度化している。しかし頻繁に欠けているのは、はるかに根本的な問いへの明確な答えだ。これによってどのビジネス指標がどれだけ改善するのか、という問いだ。

Kakhandikiが記録しているのは、変奏なく繰り返されるケースだ。あるチームが、拡張検索パイプライン、定期的に更新されるベクトルデータベース、ファインチューニング済みモデルを備えた生成AIソリューションを構築する。どのビジネス指標が改善されているかを尋ねると、具体的な答えが返ってこない。数カ月後、相当な投資が積み上がった時点でも、システムはパイロット段階のままだ。

問題は技術ではない。何も構築する前に、成功の基準が誰にも定義されていなかったことだ。

「生産性を向上させる」というのが、そのような基準を尋ねたときに最も多く聞かれる答えだ。しかし分類精度を5ポイント改善するモデルは、それ自体には価値がない。その価値が生まれるのは、サイクルタイムの短縮、回避できた運用コスト、もはや発生しないサービスレベル合意の不履行率といった形に翻訳できるときだ。その翻訳なしには、パイロットが本番運用へと移行する論拠が存在しない。

ガートナーは関連する相関関係を特定した。AIの成熟度が高い組織は、一貫して、構築後ではなく構築前にビジネス価値と技術的実現可能性に基づいてイニシアチブを定義している。意思決定の順序のその逆転——まず成果、次にアーキテクチャ——こそが、スケールアップできる組織と、停滞したプロジェクトを積み上げるだけの組織とを分ける。

制御された環境で機能するモデルと、本番で稼働するシステムとのギャップは、その大半が技術的なものではない。組織的なものだ。成果のオーナーがいない。意思決定を迫る指標がない。多くの場合、「もし支払わなければならないとしたら、誰かがその成果に対価を払うだろうか」という問いすら存在しない。

自ら説明できないシステムを信頼することには、正確な運用上の限界がある

並行して働く第二のブロックメカニズムがある。これには単純な技術的解決策がない。組織は制御できないものをデプロイしないのだ。

モデルが融資申請を拒否した場合、銀行はどのデータを使用したか、その時点でどのバージョンのモデルが稼働していたか、どのようにしてその推奨に至ったか、そのプロセスを誰が承認したかを正確に説明できなければならない。それは自発的な透明性の表明としてではなく、欧州連合のAI法やNISTのAIリスク管理フレームワークのような枠組みが明示的に要求するからだ。トレーサビリティと説明可能性は、任意の特性ではなくなり、運用の条件となった。

繰り返されるミスは、モデルが本番環境に向けて準備できた段階でガバナンスを追加の層として加えようとすることだ。それは機能しない。データとモデルのリネージ、統計的ドリフトのモニタリング、バイアス検出メカニズム——これらは、設計の最初から組み込まれていた場合と同じ堅固さで、後付けで構築することはできない。

ガートナーは、AIの成熟度が高い組織ほど、事業部門がデプロイされたシステムを信頼し、積極的に活用しようとしていると報告する可能性が高いと指摘している。その信頼は、モデルがパフォーマンス指標で良好に機能することから自動的に生まれるわけではない。そのモデルが下す一つひとつの意思決定を監査できることの結果として生まれる。

BMCのチームが関与したある医療提供者は、精度が低くても医師が説明を理解できるモデルを意図的に選択した。それは、医師が推奨に基づいて行動しなければならなかったからだ。その決断が導入を加速させ、完全なデプロイを可能にした。より精度は高くても不透明なモデルはパイロット段階にとどまった。技術的な精度は、検証可能性という特性に敗北した。

本番環境における真の閾値は、モデルの精度ではない。それは、そのモデルが下すすべての意思決定の下に、その判断を下すために利用可能な情報をもって、組織内の誰かが署名できるかどうかだ。

そのためには、本番のモニタリングが推論と並行して稼働することが必要だ。統計的ドリフトとバイアスの検出が定期的なプロセスではなく継続的なものであることが求められる。各実行が、トレーニングデータおよびそれを生み出した開発プロセスに紐付いた記録を残すことが必要だ。その連鎖が断ち切られた瞬間、システムは平均的なパフォーマンスにかかわらず信頼できないものとなる。

モデルをビジネスに統合することは、APIを接続することではない

最後の障壁は、モデル開発の世界から来た人々を最も驚かせる。それは、それ以前のすべてがうまくいっているときに発生するからだ。モデルは精度が高く、説明でき、ガバナンスのチェックをパスしている。それでも、ビジネスは改善されない。

ある金融サービス機関は、トランザクション処理フローの中にAIモデルを実装した。モデルは設計通りに動作した。しかし、AIサービスは同社のサービスレベル合意の枠組みに組み込まれていなかった。顧客に対してコミットしていた期限が守られなかった。モデルは成功した。システムは失敗した。

このケースは問題を明確に示している。AIを自律的な機能として導入し、企業の運用構造に統合しないでいると、まさにその結果が生まれる。モデルはその役割を果たす。しかし企業は、その周囲で運用を維持することができない。

本番環境へのスケールアップを実現したリーダーたちは、最初から異なる問いを立てる。AIシステムが、すでに運用を支えているバッチ処理システムやビジネスシステムとどのようにオーケストレーションされるか。連鎖したプロセスにわたって、可用性、フェイルオーバー、明確な所有権をどのように確保するか。推論や自律エージェントが中断なく稼働する際に、コスト、パフォーマンス、スケールをどのように管理するか。

有効な答えは、本番環境のAIを、あらゆるビジネスクリティカルな機能と全く同じように扱う。すなわち、オーケストレーション、サービスレベル合意の管理、ガバナンス、モニタリング、コスト管理という同じ規律を持って。ビジネスに接続される別物としてではなく、組織がすでに信頼している自動化インフラの延長として。

AIシステムが受動的なモデルから、推奨し、開始し、実行できるエージェントへと進化するにつれ、この重要性はさらに増す。自律性の段階が上がるごとに、監視、監査能力、制御メカニズムへの要件も高まる。実行できるエージェントは、資金、顧客データ、外部コミットメントに触れるあらゆるシステムと同じセーフガードなしには稼働できない。

競争優位性はモデルではなく運用にある

スケールアップできる組織と、パイロットを積み上げるだけの組織とを分けるパターンは、より洗練されたモデルでも、より大きなデータサイエンスチームでもない。それは、AIを、運用が依拠する他のあらゆるシステムと同じ要求水準を持つビジネスインフラとして扱うという決断だ。

デロイトは、従業員のAIへのアクセスが2025年に50%増加したと報告し、AIプロジェクトの少なくとも40%を本番環境で稼働させている企業の数が、その後6カ月で倍増すると予測した。しかし、システムが本番環境にあることと、システムがビジネスの運用組織に統合されていることは、異なる二つの状態だ。前者は比較的容易に達成できる。後者こそが、投資対効果が生まれるか失われるかが決まる場所だ。

ガートナーによれば、AIへのグローバル支出は2027年には3兆4900億ドルに達すると予測されており、その投資を測定可能な成果で正当化するプレッシャーは今後さらに強まるばかりだ。200を超えるモデルを構築しながら10未満しか本番稼働させていない組織は、技術的な能力の問題を抱えているのではない。成果に対する責任の所在、設計に統合されたガバナンス、クリティカルなシステムの運用管理という問題を抱えているのだ。

多くの経営幹部レベルで先送りにされている議論は、どのモデルを選ぶかについてではない。組織が所有権を引き受け、成功を定義し、運用を維持する方法の何を変えなければならないかについてだ。そうすることで初めて、すでに手元にあるモデルがパイロット生活から脱し、重要な数字を動かし始めることができる。