COLUMN誰でもわかる!お役立ちコラム

システム開発とAI活用コラム

パイロット85%、本番5% ── AIエージェント導入が止まる本当の理由

AIエージェントのPoCで手応えを得ても、本番運用の段階で計画が止まるケースは少なくありません。Ciscoの調査で示された「試験導入85%、本番5%」という差は、何を意味しているのでしょうか。数字の読み方から、本番化を阻む壁、PoCの段階で備えるべきことまでを解説します。

「85%がパイロット、5%が本番」の意味を正しく理解する

AIエージェントの実証実験では、資料の検索や申請書の作成ができるようになり、現場からも期待の声が上がります。ところが、実際の業務で使う段階になると、システム連携やセキュリティ審査で計画が止まる。

こうした課題を考える手がかりが、Ciscoの示す「85%/5%」という数字です。本番化には、AIが処理できることに加えて、任せる範囲、失敗への対応、運用責任まで決まっている必要があります。本記事では、試験導入と本番運用の間に何があるのかを整理します。

「85%がパイロット、5%が本番」を詳しく見ていくと?

Ciscoの日本語記事は、大手企業を対象とした調査について、85%がAIエージェントを試験導入し、本番運用に移行した企業は5%と紹介しています。ただし、数字には補足が必要です。

Ciscoの詳しい説明では、対象は同社顧客のIT・セキュリティ幹部で、85%は「実験・試験導入・展開中」、5%は「広範な本番展開」を報告した回答者です。いずれも回答者全体に占める割合であり、試験導入した案件の本番移行率を表す数字ではありません。

国内では、パーソルキャリアが2026年5月、売上高1,000億円以上の企業に在籍する部長職以上505名に調査し、一部部署での運用から全社展開までを含む本番運用の回答割合を48.3%と報告しています。対象、時期、AIエージェントや本番運用の定義が異なるため、Ciscoの数字との直接比較はできません。

したがって、「市場全体の本番化率は5%」「技術が未成熟だから導入できない」と断定するのは適切ではありません。読み取るべきなのは、試せることと、業務として継続的に任せられることの間にある差です。PoC(概念実証)では担当者が気づいて修正できた誤りも、本番では誤送信や二重登録につながる可能性があります。

最大の壁は「モデル」ではなく既存システムとの接続

PoCでは、用意したサンプルデータや、実際のシステムを模した環境で動作を確かめることがあります。しかし、本番ではERPなどの基幹システム、顧客管理システム、ファイルサーバー、認証基盤との接続が必要になります。

例えば請求書処理なら、金額を読み取るだけでは業務は完了しません。取引先マスターと照合し、承認を受け、会計システムへ登録する必要があります。接続先が停止していた場合や、登録には成功したのに応答が返らなかった場合の扱いも決めなければなりません。

既存システムとの接続で設計すべき要素は?

本番の構成では、次の要素を一体で設計します。

  • AIエージェント…依頼を解釈し、必要な処理を組み立てる。
  • API…業務システムとの接続窓口として、入力内容や実行条件を検証する。
  • 業務システムとデータ…正式な情報の参照元、更新先、整合性のルールを定める。
  • 認証・権限…誰の依頼で、どの操作を許可するかを実行前に確認する。
  • ログ・監視…処理の経過と結果を記録し、異常を検知する。

権限確認やログは、処理の最後に付け足す機能ではなく、各工程に組み込まれます。特に更新処理では、再試行しても二重登録しない仕組みや、途中まで進んだ処理の確認方法が重要です。

開発を外部に委託する場合も、接続先の一覧、APIの有無、データ管理者、障害時の担当まで共有すると、必要な開発範囲が明確になります。AI部分だけを発注すると、連携部分の費用や責任が後から課題になりかねません。

「精度95%」では本番化できない──評価設計の壁

「回答の95%が正しかった」という結果だけでは、本番移行の可否を判断できません。社内資料の要約と、支払先の変更では、同じ誤り率でも業務への影響が違うためです。AIエージェントでは、最終回答だけでなく、そこに至る操作も評価します。例えば次の点です。

  • 目的に合ったツールを選び、正しい対象や値を指定したか。
  • 最新かつ閲覧を許可されたデータを参照したか。
  • 依頼されていない更新や外部送信を行っていないか。
  • 情報不足や処理失敗を検知し、人間へ引き継げたか。
  • 再試行や人による確認を含め、時間と費用が許容範囲か。

評価データには、正常に処理できる案件だけでなく、入力漏れ、重複依頼、権限不足、接続先の障害も含めます。「処理を完了した」だけでなく、「実行してはいけない操作を止めた」ことも成功として定義する必要があります。

また、重大な誤操作の評価を、要約の言い回しの評価と同じ平均点に埋もれさせないことが大切です。業務上必須の条件は個別の合格基準にし、モデルや指示文、接続先を変更したときにも再評価します。有限のテストで事故ゼロを保証することはできないため、運用中の検知と停止も組み合わせます。

セキュリティ審査で止まる──「AIに何をさせてよいか」が決まっていない

Ciscoの調査解説では、アクセス制御、データの持ち出し、エージェントの自律性や振る舞いが主な懸念として挙げられています。審査を進めるには、抽象的な「安全性」ではなく、実行できる範囲を説明できることが必要です。具体的には、参照できる部署・顧客のデータ、更新できる項目、送信先、処理金額の上限などを決めます。利用者が閲覧できる情報でも、そのすべてをAIに与える必要はありません。業務に必要な範囲に絞り、参照と更新の権限を分けます。

「この操作は禁止」とAIへの指示文に書くだけでは、制御として不十分です。APIや業務システム側でも、対象、金額、承認の有無を検証し、許可されない処理を拒否する仕組みにします。

監査では、依頼者、参照情報、呼び出した操作、承認者、処理結果をひも付けます。ただし、ログ自体に機密情報が集中しないよう、記録範囲と閲覧権限も設計します。業務部門は業務ルール、情シスは連携と運用、セキュリティ部門は統制の要件を担います。そのうえで、変更や緊急停止の最終判断者を明確にします。

「AIに任せる/人が確認する」の境界線を設計できていない

人が毎回すべてを確認すると、確認作業が新たな負担になります。そこで、業務を構成するアクションごとに、次のような段階を設けます。

  • 自動実行…許可された範囲の照会など、影響が限定的な処理を行う。
  • 人間の承認後に実行…登録・変更・外部送信などは、実行内容を示して承認を得る。
  • AIが提案して人が判断…解釈や利害調整を伴う案件は、選択肢と根拠を提示する。
  • 人へエスカレーション…情報不足、規程の例外、権限外の依頼は、処理を止めて担当者へ渡す。

AWSが公開する人事エージェントの実装例では、休暇残数の照会は自動で行い、休暇申請の登録・変更・取り消しは実行前に本人へ確認する構成が示されています。「人事業務をAI化するか」ではなく、どのアクションで止めるかを決める考え方です。

本人による操作確認と、社内規程上の上長承認は別に扱います。また、承認画面には対象、変更内容、実行結果への影響を示し、承認後に内容が変わった場合は再確認します。確認者が不在の場合の代替担当や期限も決めなければ、承認待ちが新たな停滞要因になります。

本番化できる企業は「PoCの時点から本番を設計している」

試験導入で終わるか、業務の成果につなげられるかは、PoCの段階で本番を見据えた設計ができているかどうかで分かれます。ここでは、PoCで確かめるべき条件と評価の視点、本番移行の進め方を整理します。

PoCで問うべき内容とは?

PoCで問うべきなのは、本番化するために必要な条件を満たせるかです。開始時点で、業務KPI、成功基準、データ、システム連携、権限、評価、運用体制、本番移行の条件をつなげて考えます。

例えば問い合わせ対応なら、「回答を生成できる」ことに加え、担当者の対応時間が減るか、誤案内を防げるか、難しい案件を適切に引き継げるかを測ります。現行業務の所要時間を先に把握し、AI導入後の確認・修正時間も含めて比較します。

PoCで評価する内容は?

Google Cloudは、AIエージェントの評価を、信頼性と運用効率、ワークフローへの定着、ビジネス価値の三つに整理しています。動作件数が増えても、現場で使われず、修正の負担が大きければ、期待した成果にはつながりません。

PoCで本番機能をすべて完成させる必要はありません。ただし、難しい接続先や承認工程を後回しにせず、実現性と費用を早い段階で確かめます。本番移行は対象部署や操作を限定して始め、監視結果を見ながら範囲を広げます。停止条件、従来業務への戻し方、保守担当と予算も、移行判定に含めるべきです。

まとめ

「85%/5%」は、特定の調査対象と定義に基づく数字です。その差を技術の未成熟だけで説明することはできません。本番化には、既存システムとの接続、操作まで含めた評価、権限と責任、人間への引き継ぎが必要です。

PoCの成果物に、動くデモだけでなく、接続設計、評価結果、権限一覧、運用手順を含める。これにより、次に何を整えれば業務を任せられるのかが明確になります。本番に必要な条件を検証することが、試験導入を実際の成果へつなぐ第一歩です。