COLUMN誰でもわかる!お役立ちコラム

システム開発とAI活用コラム

マルチエージェント時代の業務設計 人間の役割はどこに残るか

AIエージェントの活用は、1つのAIに作業を任せる段階から、複数のAIが役割を分担して業務を進める「マルチエージェント」の段階へと移りつつあります。そのとき、人間はどの工程で判断し、何に責任を持つべきなのでしょうか。

マルチエージェント時代の業務設計について、タスクの線引きから承認・例外処理、権限、監査証跡まで、業務フロー設計の視点で順に整理します。

「1人のAI」から「AIチーム」へ

調査、分析、回答作成を複数のAIが分担できるようになると、人間はどこまで仕事を任せられるのでしょうか。企業での導入では、AIの能力に加え、仕事の受け渡しや人が判断する条件を決めることが重要です。特に複数部門が関わる業務では、個々のAIが動いても、承認待ちや責任の曖昧さで処理が止まることがあります。

本記事では法人顧客からの問い合わせ対応を例に、「AIチーム」と人間が協働する業務の設計を解説します。

マルチエージェントとは?

マルチエージェントとは、「マルチ(Multi)」の名前の通り、複数のAIエージェントが、情報や成果物を受け渡しながら共通の目的に向けて協調する仕組みです。

例えば、調査エージェントが情報を集め、データ分析エージェントが傾向を整理し、文書作成エージェントが報告書を作ります。レビューエージェントは根拠との整合性を確認し、承認判断を支援するエージェントが懸念点や選択肢をまとめます。企業では、専門知識や利用するシステム、必要な権限が異なる仕事をエージェントごとに分けることで、それぞれの役割を明確にできます。

ただし、工程の数だけAIを作る必要はありません。受付番号の発行や形式チェックなどは、通常のプログラムで十分な場合もあります。エージェントを増やすと、連携の手間、待ち時間、利用料も増えます。単一のAIで足りるか、専門AIに分担させる価値があるかを、業務の品質や費用から判断しましょう。

AIと人の役割は、タスク単位で線引きする

「問い合わせ対応をAI化する」という単位では、自動化の範囲が曖昧になります。まずは業務を、受付、分類、顧客・契約確認、情報検索、回答案作成、承認、送信・記録へと分解します。そのうえで、各タスクについて次のような関与の方法を検討します。

関与の方法問い合わせ対応の例
許可された範囲でAIが自動実行承認済みFAQを使った低リスクの回答
AIが案を作り、人が実行前に確認顧客固有の契約条件を含む回答
例外条件に該当した場合、人へ引き継ぎ根拠が見つからない、資料同士が矛盾するケース
原則として人が判断契約変更、返金可否、重大事故への対応方針

これらは固定的な段階ではなく、組み合わせて使うものです。例えば、通常は自動回答するタスクでも、根拠が不足すれば人に引き継ぎます。

線引きでは、誤った場合の影響、処理を取り消せるか、判断基準が明確かを確認します。重要な契約判断では、AIに情報整理を任せても、決裁は権限を持つ担当者が行います。人の確認工程を設ける目的は、重要な判断に人の時間を集中させることです。

「承認・例外処理・監視」を設計する─Human-in-the-Loopの実践

AIの処理に人が関与する仕組みを、Human-in-the-Loopと呼びます。AIが処理するたびに人がすべてを確認すると、新たな確認業務が増えてしまいます。そこで、検証済みの低リスクな範囲では自動処理し、条件を外れた場合に担当者へ引き継ぐ設計を考えます。このとき、人の役割を「最終確認」とまとめず、次のように分けると設計しやすくなります。

  • 承認…返金や特別条件の提示など、重要な処理の実行可否を決める。
  • 例外処理…顧客を特定できない、根拠が矛盾するといった問題を解決する。
  • 監視…処理状況、回答品質、承認待ちの滞留を確認する。
  • 差し戻し…回答案の修正や再調査を求める。

例えば、自動送信は「公開済みFAQで回答できる」「契約条件の変更を含まない」「宛先が確認済み」「回答が根拠と整合する」場合に限定します。返金、重大障害、個人情報の開示要求などは、内容に応じた担当部門へ回します。AIが「自信があります」と答えたことだけを、自動実行の根拠にはしません。

人へ渡す際には、回答案とともに根拠、懸念点、実行予定の操作を提示します。承認者、代理担当、期限、期限超過時の引き継ぎ先も、あらかじめ決めておく必要があります。返答がないからといって、自動的に承認扱いにはしません。

承認は対象顧客、宛先、回答内容と結び付けます。承認後に重要な内容が変われば再承認が必要です。また、送信後の監視は、必要な実行前承認の代わりにはなりません。

業務フローを設計する─「誰が次の仕事をするか」を決める

複数のAIが協調して働くには、仕事の順序や担当、処理を止める条件を決める必要があります。AIや人への仕事の振り分けと進捗を管理する仕組みを「オーケストレーション」と呼びます。法人顧客からの問い合わせ対応なら、次のように整理できます。

  • 受付・分類…問い合わせの内容を分類し、通常の質問か、担当部門の判断が必要な案件かを振り分けます。
  • 情報検索…検索エージェントが、閲覧を許可されたFAQや契約情報から回答の根拠を集めます。
  • 回答作成…回答作成エージェントが、検索結果をもとに回答案を作ります。根拠が不足する場合は、人へ引き継ぎます。
  • 確認・承認…チェックエージェントが内容を確認し、システム側でも業務ルールを検証します。契約変更や返金などの重要案件は、担当者が承認・修正・差し戻しを行います。
  • 送信・記録…自動送信の条件または必要な承認を満たし、かつ操作権限を確認できた場合に送信します。送信結果と対応履歴を記録して完了します。

設計では、各エージェントが「何を受け取り、何を次へ渡すか」を明確にします。回答案だけでなく、参照した根拠や未解決の確認事項も引き継ぐことで、後続のAIや担当者が判断しやすくなります。

また、承認待ちの期限、エラー時の引き継ぎ先、再試行の上限も決めておきます。処理が止まった場合に、誰が確認し、どこから再開するかまで設計することが、業務を安定して進めるポイントです。

AIに権限を与えるときは、参照と実行を分ける

AIが既存システムにつながると、顧客情報の検索、CRMへの記録、メール送信などを実行できます。ここでは「何を考えさせるか」とともに、「何を実行してよいか」を決める必要があります。例えば、検索エージェントには対象顧客の情報を読む権限を与え、契約を変更する権限は与えません。回答作成エージェントは案を作成し、送信は別の機能が、ルールと必要な承認を確認したうえで実行します。

エージェント間の依頼も、そのまま実行許可にはなりません。受け手側でも、利用者、案件、対象データ、操作の範囲を確認します。別のAIに仕事を頼んだことで、元の利用者には見えない他部署や他社の情報へアクセスできてしまっては問題です。

すべてのエージェントに共通の管理者権限を渡さず、必要な操作だけを許可します。AIへの「更新しないで」という指示だけに頼らず、APIなどのシステム操作の窓口や接続先でも制限します。誰が何を実行したか分かる操作記録も残します。

最後に残るのは「責任」─責任者と監査証跡を決める

AIが判断や実行を担っても、業務の管理や説明を担う主体は人と組織です。ただし、「最後に確認した人が責任を取る」という運用では、部門をまたぐ問題を解決できません。

まず、業務全体の責任者を決め、自動化の範囲、品質基準、部門間の調整、継続・停止の判断を担ってもらいます。各エージェントの管理部門は指示や参照情報の変更を管理し、情シスは接続や障害対応を担い、セキュリティ部門は権限や証跡の方針を確認します。外注先との担当範囲、緊急停止と再開の権限も明確にします。

エージェントの行動を責任に結び付けるには?

責任の所在や権限の管理を行う運用を支えるのが、監査証跡(Audit Trail)です。依頼から実行結果までを後から説明できるよう、共通の案件IDで次の記録をつなぎます。

  • 誰が依頼し、どの顧客・案件を扱ったか
  • どのエージェントが、どの設定で、どのデータを参照したか
  • どのルールを適用し、誰が何を承認したか
  • どのエージェントが、どの操作を実行したか
  • いつ、誰が停止・差し戻し・再開し、どう完了したか

個別承認なしで処理した場合は、自動実行ルールの承認者と版を残します。AIの内部思考をすべて記録するのではなく、根拠、ルール、承認、操作結果など、検証可能な情報を記録します。証跡に含まれる機密情報にも、閲覧制限と保存期間を設けます。

運用開始後は、業務完了率や誤処理に加え、承認待ち時間、人の確認時間、1件当たりの費用を確認します。一つのAIの変更が後続へ与える影響も検証し、チーム全体を改善します。

まとめ

マルチエージェント時代の人間の役割は、重要な意思決定に加え、AIに任せる条件を定め、例外を解決し、業務全体を管理することにあります。

まずは一つの業務で、タスク分担、引き継ぎ条件、権限、責任者を書き出してみてください。小さな範囲で品質と人の負担を確かめることが、企業で運用できるAIチームを作る第一歩になります。