AIプロジェクトの95％は成果を生まず、侵害への備えもできていない
これは、組織が無視できない増大するサイバーリスクを生み出しています。
私と同様に、このニュースはほとんどすべてのAI愛好家に衝撃を与えたことでしょう。
GenAIのゴールドラッシュは、どうやら反動の局面へと変わったようです。そしてその余波は、次のサイバー攻撃となる可能性があります。
最近のレポートは、AI市場における予想外の展開を明らかにし、経営層やリーダー層の間で波紋を広げています。
このレポートは、300以上のAI導入の分析、52の組織へのインタビュー、そして153人のシニアリーダーへの調査に基づいており、不都合な真実を明らかにしています。
企業によるGenAIへの投資額は300億～400億ドルに達しているにもかかわらず、最大で95％の組織がリターンを得ていません。
これは誤記ではありません。95％です。
この調査結果は厳しいものであり、率直に言って、サイバーセキュリティやデジタルトランスフォーメーションに携わる多くの人々が長年指摘してきたことを裏付けています。
能力の導入を急いでも、その価値を確実に得られるわけではありません。
大企業は最も多くのAIパイロットを実施し、最も多くのリソースを投入し、最大規模のチームを編成している一方で、パイロットから本番運用への移行率は最も低いと報告されています。
これに対し、中堅企業はより迅速に行動し、優れた企業ではパイロットから本格導入までの平均期間がわずか90日と報告されています。
この停滞は、サイバーセキュリティ業界にも似ています。
サイバーセキュリティ市場は2025年には5000億ドル規模に迫っていますが、攻撃は減少するどころか増加し続けています。
AI予算は急増しているにもかかわらず、ビジネスへの影響は依然として見えにくいままです。
そして私は、両分野に共通する本当の問題は同じであると確信しています。
それは、問題解決をテクノロジーに過度に依存し、それを管理し適応するために必要な基盤的能力への投資を行っていないことです。
世界がAIプロジェクトの価値向上や成功率の改善について議論している一方で、私は放棄されたAIプロジェクトがもたらす侵害リスクについて考えています。
デジタル化の進展と人工知能の導入によって、脅威アクターが悪用できる攻撃対象領域が指数関数的に拡大していることは周知の事実です。
そして、サイバー攻撃を予測し、耐え、進化して対応できるマイクロセグメンテーションの機能を導入している組織は1％未満にとどまっています。
これは、ほとんどの組織が著しく準備不足であり、侵害への備えができていない状態にあることを意味します。
レポートでは、「ほとんどの組織がGenAIの分断において不利な側に位置している。
導入率は高いが、変革は小さい。9つのセクターのうち7つで構造的な変化はほとんど見られない。
企業はGenAIツールのパイロットを実施しているが、本番導入に至るケースはごくわずかである。汎用ツールは広く利用されている一方で、カスタムソリューションは統合の複雑さや既存ワークフローとの不適合により停滞している」と述べられています。
AIシステムは従来のITシステムと同じではありません。
これらはデータを大量に必要とし、複数の機密データセットへのアクセスを要求することが多く、高度に相互接続されており、クラウド、SaaSプラットフォーム、API、内部システムにまたがっています。
また、モデル、機能、依存関係が変化し続けるため、継続的に進化します。
これは、デジタル産業システム（OT/ICS/CPS/IIoT/IoMD）においてさらに大きな問題を引き起こします。
これらの環境は、古く異種の機器に依存していることが多く、データの集約が困難であるため、学習データセットの品質が低下します。
また、AIシステムは工場現場における「常識」や物理的制約を理解できないことが多いため、不正確であったり、過剰な誤検知を発生させたりし、オペレーターの信頼を急速に失う可能性があります。
さらに重要なのは、デジタル産業システムは安全性と信頼性を最優先とするため、AIシステムの「最大95％」の精度では到底受け入れられないという点です。
それにもかかわらず、ほとんどのAIプロジェクトは、信頼された内部ネットワーク、広範な東西アクセス、境界中心の防御といった従来のセキュリティ前提に基づいて設計されています。
ビジネス上の信頼が低下すると、プロジェクトは一時停止または放棄されました。
しかし、スピードを優先する中で当初は許容されていた異常は、静かに恒常的な運用へと変わり、一時的な例外はアーキテクチャとして固定化されていきました。
放棄されたAIプロジェクトやパイロットは、予期せず、かつ検知が困難な脆弱性を生み出します。
これらは、従来のサイバーセキュリティツールを回避するAI駆動の攻撃によって悪用される可能性があります。
例えば、プロンプトインジェクション（Webサイトのコンテンツやメール経由）、学習データのポイズニング、微細な敵対的入力（データに加えられた知覚できないノイズなど）、モデルの逆解析や抽出、さらには安全制御を回避するためのLLMのジェイルブレイクなどが挙げられます。
侵害への備えという観点では、放棄されたAIシステムは、運用中のシステムよりも危険です。
それは、AIワークロードが制限のないラテラル接続を持つフラットなネットワークセグメントに配置されることで、「封じ込められていない」被害範囲を残してしまうためです。
マイクロセグメンテーションがなければ、侵害されたAIワークロードは単一の孤立したインシデントではなく、企業全体への侵入口となります。
生産性のない、あるいは放棄されたAIパイロットは、この被害範囲を縮小するどころか、そのまま固定化してしまいます。
AIパイプラインは、自律的に機能するためにサービスアカウント、トークン、APIキーに依存しています。
プロジェクトが停止しても、これらのアイデンティティは残存します。
時間の経過とともに、それらは可視化されなくなり、更新も行われず、静かにアクセスを狙う攻撃者にとって非常に魅力的な対象となります。
学習データセット、特徴量ストア、埋め込み、そして中間成果物には、規制対象データ、独自データ、またはミッションクリティカルなデータが含まれていることが多いです。
これらの成果物は分類、暗号化、ライフサイクル管理がほとんど行われていません。
放棄されたシステムは、これらのデータを露出させたまま検知されない状態にします。
しかし、これらが生み出す最大のリスクは、シャドーAIとサプライチェーン攻撃への露出です。
多くのAIプロジェクトは、ガバナンスが不十分なインターフェースを通じて外部のモデルプロバイダーやデータソースと連携しています。
プロジェクトが停滞すると、ベンダー管理は弱まり、侵害後には検知が困難で説明も難しい潜在的なサプライチェーンリスクが生じます。
私たちは今すぐ行動する必要があります。
もし私の見解が危機感をあおるものに聞こえるのであれば、最近のAnthropicによるレッドチーミング研究を考えてみてください。
AIモデルのサイバー能力に関する最近の評価では、現在のClaudeモデルが、従来の世代で必要とされていた専用ツールではなく、標準的なオープンソースツールのみを用いて、数十のホストを持つネットワークに対する多段階攻撃に成功しました。
これは、AIを活用したサイバー攻撃の障壁がいかに急速に低下しているかを示しており、既知の脆弱性に対する迅速なパッチ適用といった基本的対策の重要性を改めて強調しています。
結論として、すべての組織が対応を強化する必要があります。ガバナンスを改善し、放棄された、または成果を生まないAIプロジェクトはすべて正式に停止し、廃止する必要があります。
ほとんどのAI施策は侵害を防ぐことを前提に設計されており、侵害を受けた後に耐えることは想定されていませんでした。
後からコントロールを追加すればリスクは管理可能であるという暗黙の前提がありました。
しかし実際には、AIシステムはデータ、自動化、信頼の交差点に位置するため、リスクを増幅させます。
侵害への備えには、異なる考え方が求められます。
侵害を前提とし、封じ込めを前提に設計し、デフォルトで被害範囲を最小化することが重要です。
まだ実施していない場合は、基盤となるマイクロセグメンテーションへの投資を行い、AIプロジェクトは本番システムから切り離されたマイクロセグメント内で運用し、最小権限アクセスが明示的に付与されるまで接続しないようにしてください。
もしAIの拡大によってリスクが増大しているのであれば、リスクの封じ込めと真の侵害対応力の構築について、ぜひColorTokens（カラートークンズ）日本語公式サイトからお問い合わせください。
翻訳元記事
「95% of AI Projects Are Unproductive and Not Breach Ready」
公開日：2026/1/27
著者：Tanuj Mitra
※本記事では、アメリカのサイバーセキュリティ企業 ColorTokens（カラートークンズ）社が発信しているセキュリティ情報（英文）を、日本の代理店である株式会社電巧社が許諾を得て日本語に翻訳し、要約して掲載しています
※記事は掲載後に修正される可能性がございますので、ご了承ください
※過去の記事もアップしておりますので、現在の情報と異なる可能性がございます。上記の公開日をご参考ください
この記事の著者：電巧社セキュリティブログ編集部
