「使えるエージェント」の分かれ目はモデルではなくデータのつなぎ方
「高性能なモデルを選べば、社内業務に強いAIエージェントができる」とは限りません。業務で使えるかどうかを左右するのは、社内のデータやシステムとのつなぎ方です。
AIエージェントの性能は「モデル」だけでは決まらない
「自然な文章で回答するのに、社内規程の内容が古い」「申請方法は説明できても、実際の登録はできない」。企業でAIを活用する際には、こうした課題が生じがちです。解決のために必要なのは、AIモデルの性能だけでなく、社内の情報やシステムとのつなぎ方を見直すことです。
本記事では、ソフトウェア利用申請を例に、データの棚卸しから検索、業務システムへの接続まで、情報システム部門が考えたい設計のポイントを整理します。
AIエージェントに必要な要素
AIエージェントは、依頼に応じて情報を調べ、ツールを使って処理を進める仕組みです。その中心には、文章の理解・生成を担うLLMというAIモデルがあります。ただし、業務での成果は、次の要素を組み合わせて決まります。
| 要素 | 設計で考えること |
| LLMそのものの性能 | 指示の理解や推論が、業務に求める水準を満たすか |
| 与えるデータ | 正しく、現在も有効な情報を用意できるか |
| 検索方法 | 必要な根拠を、漏れや取り違えを抑えて探せるか |
| ツール/API | 情報の照会やシステム操作を実行できるか |
| 権限 | 誰の情報を読み、何を操作してよいか |
| コンテキスト | 今回の依頼に必要な背景や条件がそろっているか |
| 業務ルール | 自動実行と人による判断の境界が明確か |
例えば、利用申請には規程だけでなく、申請者の所属、利用目的、空きライセンスの有無も必要です。こうした背景や条件がコンテキストです。高性能なモデルでも、渡されていない社内事情を正確には把握できません。
企業利用では、正しい情報を、利用者の権限に応じた範囲でAIに渡せることが重要になります。
まず必要なのは「社内にどんなデータがあるか」の棚卸し
社内の情報は、SharePointやファイルサーバーだけでなく、データベース、CRM(顧客管理システム)、ERP(販売・会計などの基幹システム)、各種SaaSに分散しています。まずは対象業務に必要なデータの所在を整理しましょう。
その際に役立つのが「データカタログ」です。データの内容、保存場所、所有者、利用条件を整理した台帳であり、最初は一覧表から始められます。台帳の項目と確認内容は以下のとおりです。
- データ名・保存場所…正式な情報がどこにあるか
- 所有者…内容や利用方法を判断する部門・担当者は誰か
- 鮮度…更新日、有効期限、現行の版は何か
- 機密度…社内公開、部門限定、機密などの区分は何か
- 閲覧権限…誰が、どの範囲まで読めるか
- AI利用可否…検索用の複製、AIへの入力、回答への表示を許すか
利用申請では、規程の正式版、契約情報、ライセンスの管理先を確認します。内容が正しいかどうかは、情報を管理する業務部門と一緒に判断します。
また、人が閲覧できる情報でも、契約や社内ルール上、AIで処理できるとは限りません。保存場所を見つけるだけでなく、利用条件まで明らかにすることが棚卸しの目的です。
RAGは「検索精度」より先に「アクセス権」を設計する
RAGは、社内文書などから関連情報を検索し、それを根拠にAIが回答する方法です。モデルを再学習させずに、社内の情報を回答に反映できます。ただし、検索精度を高めるより先に設計すべきなのがアクセス権です。全社の文書を共通の検索先に集めるときには、特に注意が必要です。
元の閲覧制限を再現しなければ、一般社員には非公開の人事資料や契約情報が回答に混ざるおそれがあります。そのため、元システムのアクセス制御リスト(ACL)、つまり「誰がアクセスできるかを示す許可の一覧」を、検索にも反映する設計が必要です。
データ収集用のアカウントが読める範囲と、質問した利用者が読める範囲は異なります。ログイン情報から確認した利用者の所属やグループに基づき、許可された情報だけを取得してLLMに渡します。
文書を検索しやすい長さに分けた断片を「チャンク」と呼びます。分割後も元文書の権限を引き継ぎ、1つのチャンクに権限の異なる内容を混ぜないようにします。文書内で公開範囲が異なる場合は、内容を分離するなど、より細かな制御を検討します。
リリース後の設計も大事
接続機能を有効にするだけで、こうした制御がすべて実現するとは限りません。採用するサービスや接続方式の対応範囲を確認し、異動・退職、権限変更、文書削除の反映方法も決めます。権限を確認できない場合は情報を渡さない、という扱いも必要です。
さらに、閲覧権限に加えてAI利用の許可も確認します。「検索できる情報」と「AIの回答に使ってよい情報」は同じとは限りません。回答後の会話履歴や一時保存された情報にも、利用者ごとの制限を適用します。
RAGの設計では「何を入れるか」より「何を入れないか」が重要
資料を大量に取り込めば、回答がよくなるとは限りません。現行規程と廃止済み規程が混在すると、AIが古い条件を根拠にする可能性があります。取り込む前に、採用・除外の基準を決めましょう。
- 古い資料・廃止済みの業務ルール…通常の回答対象から外し、過去の照会用に区分する
- 重複文書…正式版を決め、参照元を統一する
- 個人情報…必要な項目に限定し、状況に応じて伏せる
- 機密情報…用途と利用者を限定し、許可のないAI利用から除外する
- 誤った文書・未承認の文書…正式な回答の根拠から外し、修正・承認後に取り込む
保管が必要な文書まで削除する必要はありません。業務上の保存と、AIが通常の回答に使う範囲を分けることが大切です。
また、ファイルの更新日だけでは、規程が有効かどうかは判断できません。承認状態や適用開始日、版の情報も管理します。取り込んだ後も、訂正・削除を検索用データや一時保存先へ反映し、所有部門が定期的に内容を見直せる運用を整えます。
「データ→検索→LLM→業務システム」の接続設計を考える
接続では、情報を読む段階と、システムを操作する段階に、それぞれ権限の確認を置きます。規程を閲覧できる人が、申請の承認や削除までできるとは限らないためです。
※制御する場所を示した概念図です。実際には、AIが検索や確認を複数回行う場合もあります。
利用申請では、まずRAGで利用者が参照できる現行規程を探します。一方、空きライセンスのように頻繁に変わる情報は、システムの機能を呼び出す窓口であるAPIを通じて、その時点の状態を確認します。照会するAPIにも閲覧範囲の制限が必要です。
情報がそろったら、LLMが申請案を作り、システム側で必須項目や業務ルールを検証します。必要な人の確認・承認を経て、操作権限を再確認してから登録し、結果を利用者へ返します。LLMの提案や検索文書の記載だけで、承認を省略できない設計にします。
登録時の通信切断にも備えます。処理が成功したか不明なまま再実行すると、二重登録につながるおそれがあります。登録状況を確認する仕組みと、依頼から実行結果まで追跡できる記録を用意します。
AWSでは、Amazon Bedrock Knowledge Basesが検索と回答生成を、Amazon Bedrock AgentCoreのIdentityやGatewayが認証情報の管理やツール接続を支える選択肢になります。自社の閲覧・操作権限や承認条件は、これらの機能と接続先の制御を組み合わせて実装します。
本番化するなら「データ基盤→RAG→エージェント」の順で考える
社内文書を参照して業務を進めるケースでは、次の順序で検討すると、前提の抜けを防ぎやすくなります。
- データ棚卸し…所在、所有者、鮮度、機密度を把握する
- 権限・ガバナンス整理…閲覧者、AI利用条件、更新・削除のルールを決める
- 検索/RAG…許可された情報から、正しい根拠を取得できるか確認する
- AIエージェント…依頼に応じた情報収集と処理案の生成を組み込む
- 業務システムとのAPI連携…権限、承認、入力検証、結果確認を実装する
- 監視・評価・改善…検索、回答、処理結果、費用を継続的に確認する
ここでいうデータ基盤とは、対象業務の情報を適切に管理・更新できる土台です。全社の大規模なデータ統合が終わるまで待つ必要はありません。まずは一つの業務に必要な情報から始めます。
なお、この順番は検討の目安です。APIの接続可否や仕様は初期段階で調べ、評価項目や監視方法も最初から設計します。また、APIによる照会だけで完結する業務など、RAGを必要としないケースもあります。
回答が誤っていた場合は、元データ、検索結果、LLMに渡した情報、生成結果を順に確認します。問題の場所を特定することで、データ修正、検索改善、モデルの見直しを適切に選べます。
まとめ
企業で役立つAIエージェントには、モデルの能力に加え、正しい情報を適切な権限で渡し、許可された操作だけを実行する設計が必要です。まずは一つの業務について、必要な情報、所有者、閲覧できる人、AI利用の条件、実行させる操作を書き出してみてください。その整理が、権限付きRAGやAWS上のAPI連携を具体化する出発点になります。