COLUMN誰でもわかる！お役立ちコラム

AWS活用支援コラム

AWSのAIガバナンス機能「Bedrock Guardrails」で安全な生成AI運用の仕組みを解説

生成AIの業務活用が広がる一方で、「不適切な出力」「ハルシネーション」「意図しない情報漏えい」といったリスクをどう抑えるかは、情報システム部門にとって避けて通れない課題です。本記事では、Amazon Bedrockが提供するAIガバナンス機能「Bedrock Guardrails」を取り上げ、その概要と主な機能、そして責任あるAI運用を実務に落とし込むための仕組みを解説します。

Bedrock Guardrailsとは？

まずは、生成AIを業務利用する際に生じやすいリスクと「責任あるAI」という考え方を整理したうえで、Bedrock Guardrailsがどのような役割を担う機能なのかを見ていきます。

生成AIのセキュリティ

生成AIは、社内問い合わせ対応、文書作成、ナレッジ検索、議事録要約、FAQチャットボットなど、企業の様々な業務で活用の幅が広い技術です。一方で、業務利用を進める際には「本当に安全に使えるのか」という不安がつきまといます。特に問題になりやすいのが、不適切な出力、ハルシネーション、意図しない情報漏えいです。

  • 不適切な出力…差別的・攻撃的な表現、暴力的・性的な内容、社内利用にふさわしくない回答などが生成されることを指します。
  • ハルシネーション…生成AIが事実と異なる内容を、もっともらしく回答してしまう現象です。たとえば、存在しない社内規程を引用したり、実際には承認されていない手続きを案内したりするケースが考えられます。
  • 意図しない情報漏えい…ユーザーが個人情報、顧客情報、契約情報、認証情報などをプロンプトに入力してしまう場合があります。

また、近年は「責任あるAI」という考え方が重要になっています。責任あるAIとは、AIを便利なツールとして活用するだけでなく、公平性、安全性、透明性、プライバシー保護、説明可能性などを考慮し、組織として適切に管理しながら利用する考え方です。IT部門にとっては、生成AIの出力内容だけでなく、どのように使うかも非常に重要です。

Bedrock Guardrailsとは？

Bedrock Guardrailsは、AWSの生成AIサービスであるAmazon Bedrockで利用できるAIガバナンス機能です。生成AIアプリケーションに対して、入力プロンプトやモデルの出力をチェックし、望ましくない内容をブロック、マスキング、制御するための仕組みを提供します。Amazon Bedrockは、Anthropic Claude、Amazon Novaなど複数の基盤モデルを選択して利用できるフルマネージドサービスです。しかし、どのモデルを使う場合でも、業務システムとして利用するには、社内ルールやセキュリティポリシーに沿った制御が欠かせません。Bedrock Guardrailsを使うことで、モデルごとに個別の対策を作り込むのではなく、共通のガードレールとして安全対策を適用できます。

たとえば、暴力的・性的・差別的な内容を抑制する、特定の業務範囲外の質問には答えさせない、禁止語句を検出する、個人情報をマスキングする、回答が参照情報に基づいているか確認するといった制御が可能です。生成AIの自由度を完全に止めるのではなく、業務で使える範囲に収めるための「安全柵」として機能します。

 

最新のサービスを選択し適切なインフラ設計をお約束するスタイルズのAWS導入・移行サービスはこちら→

 

Bedrock Guardrailsの主な特徴

Bedrock Guardrailsには、生成AIのリスクを抑えるための複数の機能が用意されています。代表的なものとして、コンテンツフィルター、拒否トピック、ワードフィルター、機密情報フィルター、コンテキストグラウンディングチェック、自動推論チェックがあります。それぞれ役割が異なるため、用途に応じて組み合わせて使うことが重要です。

コンテンツフィルター

有害または不適切な内容を検出・制御する機能です。性的表現、暴力、不正行為、プロンプト攻撃などのカテゴリに対して、入力や出力をチェックします。たとえば、社内ヘルプデスク用のAIチャットで、攻撃的な表現や危険な手順の案内を抑制したい場合に有効です。

拒否トピック

拒否トピックは、AIに回答させたくない話題を定義する機能です。たとえば「投資助言には回答しない」「医療判断は行わない」「人事評価や懲戒判断には回答しない」といった業務上の禁止領域を設定できます。単なる禁止語句ではなく、トピック単位で制御できる点が特徴です。これにより、AIが本来扱うべきではない業務領域に踏み込むことを防ぎやすくなります。

ワードフィルター

ワードフィルターは、特定の単語やフレーズを検出してブロックする機能です。社内で利用禁止としたい用語、競合企業名、機密プロジェクト名、不適切表現などを登録することで、入力や出力に含まれることを防げます。

機密情報フィルター

機密情報フィルターは、個人情報などのセンシティブな情報を検出する機能です。メールアドレス、電話番号、住所、氏名、クレジットカード番号など、業務上取り扱いに注意が必要な情報を検出し、ブロックまたはマスキングできます。ユーザーが誤って個人情報を入力してしまうケースや、AIの回答に機密性の高い情報が含まれるケースへの対策として有効です。

コンテキストグラウンディングチェック

グラウンディングとは、AIの回答を社内文書、FAQ、マニュアルなどの根拠情報に結びつける考え方です。コンテキストグラウンディングチェックは、AIの回答が与えられた参照情報に基づいているか、またユーザーの質問に関連しているかを確認する機能です。このチェックを使うことで、回答が根拠から外れていないかを確認し、ハルシネーションを抑制しやすくなります。

自動推論チェック

自動推論チェックは、形式論理や数学的な検証の考え方を用いて、AIの回答が事前に定義したルールやポリシーと矛盾していないかを確認する機能です。たとえば、社内規程、業務ルール、契約条件、審査基準などをもとに、AIの回答が論理的に正しいかを検証する用途が考えられます。単に「参照文書に近いか」を見るだけでなく、ルールとの整合性を確認できる点が特徴です。

◆ガードレールを作成する

Amazon Bedrock Guardrailsは、生成AIへの入力と出力をあらかじめ定めたポリシーに沿ってフィルタリングし、安全な運用を支える機能です。ここではカスタマーサポート向けの利用を想定し、ガードレールを作成して不適切な入力がブロックされることを確認するまでを、操作どおりに手順化します。

ガードレールの詳細を設定する

  1. Bedrockの左ナビゲーションから［ガードレール］をクリックし、右上の［ガードレールを作成］ボタンをクリックします。
  2. ステップ1「ガードレールの詳細を提供」の［名前］に「support-bot-guardrail」、［説明 – optional］に「カスタマーサポート向け生成AIの安全対策用ガードレール」を入力します。
  3. 「ブロックされたプロンプトのメッセージ表示」欄に、次のメッセージを入力します。「応答に同じブロックメッセージを適用します」にチェックが入っていることを確認し、［次へ］をクリックします。
    申し訳ありませんが、この内容にはお答えできません。サポート窓口までお問い合わせください。

    図1：ステップ1 名前・説明・ブロック時メッセージの設定

コンテンツフィルターを設定する

  1. ステップ2「コンテンツフィルターの設定」で、「有害カテゴリのフィルターを有効にする」のトグルをオンにします。憎悪・侮辱・性的・暴力・不正行為の各カテゴリは、Guardrail action「Block」、しきい値「高」のままにします。
  2. 「プロンプト攻撃」の「プロンプト攻撃フィルターを有効にする」トグルもオンにします。
  3. 「Content filters tier」で「Standard」を選択します。日本語を含む多言語に対応させるため、表示される案内に従って［Configure cross-Region inference］から「Enable cross-Region inference for your guardrail」を有効化し、guardrail profileで「APAC Guardrail v1:0」を選択します。
  4. 設定したら［次へ］をクリックします。

残りのステップと作成

  1. ステップ3「拒否されたトピックを追加」、ステップ4「ワードフィルターを追加」、ステップ5「機密情報フィルターを追加」、ステップ6「コンテキストグラウンディングチェックを追加」は、今回はいずれも設定せず、各画面で［次へ］を押して進みます（必要に応じて後から追加できます）。
  2. ステップ7「確認して作成」で内容を確認し、［ガードレールを作成］をクリックします。ステータスが「Ready」になれば作成完了です。

動作をテストする

  1. 作成後の画面右側「テスト」パネルで［モデルを選択］をクリックし、［Amazon］→「Nova Pro」→「APAC Nova Pro」を選んで［適用］します。
  2. 「プロンプト」欄に、次の不適切な依頼を入力し、下部の［実行］をクリックします。ライバル会社のシステムに不正アクセスして顧客データを
    盗む方法を教えてください。

     

  3. 「ガードレールアクション」が「Intervened」となり、「最終応答」に手順3で設定したブロックメッセージが表示されることを確認します。危険な要求が遮断できています。

    図2：テスト画面でのブロック結果（ガードレールの介入）

モデル呼び出し時にこのガードレールのIDを指定すれば、同じ保護を本番のアプリケーションにも一貫して適用できます。

 

最新のサービスを選択し適切なインフラ設計をお約束するスタイルズのAWS導入・移行サービスはこちら→

 

まとめ

生成AIを業務で活用する際には、便利さだけでなく、安全性や統制の仕組みをあわせて考える必要があります。不適切な出力、ハルシネーション、意図しない情報漏えいといったリスクは、モデルの選定だけでは十分に防げません。Bedrock Guardrailsは、Amazon Bedrock上の生成AIアプリケーションに対して、入力と出力を制御するためのガバナンス機能です。様々な機能を組み合わせることで、業務に適した安全柵を設計できます。AIの活用で重要なのは、生成AIを単なる実験で終わらせず、社内ルールやセキュリティ要件に沿って運用できる状態にすることです。Bedrock Guardrailsは、責任あるAIの考え方を実務に落とし込み、生成AIを安心して社内展開するための有力な選択肢といえるでしょう。