ひとことで言うと
Microsoft Foundryにおける「Guardrails（ガードレール）」機能は、独自に推論し自律行動するAIエージェントに対し、人間が指定した安全基準やビジネスルールを強制適用するための包括的セキュリティフレームワークです。
プロンプトインジェクションによる脱獄（Jailbreak）の試みや、個人識別情報（PII）の流出、本来の業務範囲を逸脱した不適切な会話（タスクドリフト）を、入出力の各ステージで検知して自動遮断します。AIチャットボットを本番環境へ安全にデプロイするうえで、企業が懸念するガバナンスとセキュリティの課題を一括で解決します。
何が発表されたのか
Microsoft Cloud AdvocateのBethany Jepchumba氏により、開発者プラットフォーム「Microsoft Foundry」で利用可能な「Guardrails」の具体的な設定手順と、実際の攻撃シナリオに基づく防御テストのデモが実演解説されました。
この機能は、Azure AI Content Safetyなどをバックエンドに統合した既存のAI安全対策ツール群を、個々のAIモデルやエージェント単位へ直感的なGUI操作で適用可能にしたものです。研究段階ではなく、Microsoft Foundryポータルから既に一般利用できる機能として提供されています。
発表された機能・アップデートの全容
ガードレール設定画面による脅威への包括的制御
動画では、Microsoft Foundryの管理UIにおける「Guardrails」セクションが提示されました。ここでは、新しいガードレールポリシーを作成し、対象のエージェントやモデルに一括適用できます。
設定画面にはリスクの種類（Risk type）と割り込みポイント（Intervention point）、および実行アクション（Action）が一覧化されています。開発者は自社のAIアプリの目的に合わせて、必要な防御フィルタをトグルスイッチやスライダーで柔軟にカスタマイズ可能です。
脱獄（Jailbreak）やインダイレクトプロンプトインジェクションの遮断
「Jailbreak（脱獄）」の項目では、ユーザーからの入力（User input）に対して「Block（ブロック）」アクションを設定可能です。これにより、「これまでの指示を全て無視して〇〇を実行せよ」といった攻撃命令をモデルに届く前に遮断します。
さらに、「Indirect prompt injections（間接的プロンプトインジェクション）」や、プレビュー機能として提供されている「Spotlighting（スポットライティング）」を有効化することで、外部のWebサイトやデータソース（ツールレスポンス）に仕込まれた悪意ある指示にも対処できます。
有害コンテンツ（Content harms）フィルタと感度調整
有害コンテンツ対策のセクションでは、「Hate（ヘイト表現）」「Sexual（性的表現）」「Self-harm（自傷行為）」「Violence（暴力）」の4カテゴリが用意されています。各カテゴリの遮断閾値は、Medium blockingからHighest blockingまでの感度スライダーで調整可能です。
動画のデモでは、カップケーキ注文エージェントの用途に合わせて、これらのカテゴリを最高水準（Highest blocking）に設定し、ユーザー入力およびモデル出力の両ステージで確実に遮断する構成が示されました。
個人情報（PII）漏洩の防止とタスク乖離（Task drift）制御
「Sensitive data leakage（機密データ漏洩）」の項目では、PII（Preview）の保護範囲を詳細に指定できます。「Name protection（氏名保護）」「Phone number protection（電話番号保護）」「Address protection（住所保護）」「Email protection（メールアドレス保護）」など、チェックボックス形式で厳密に選択できます。
また、「Task drift（タスク乖離）」セクションの「Task adherence (Preview)」を有効にすることで、エージェントが本来の役割（例：カップケーキの注文受付）から外れた雑談や別のキャラクターを演じる要求を自動的に拒否し、本来のタスクへ引き戻す制御が実現します。
エージェントへのガードレール適用とプレイグラウンドでの安全テスト実演
作成した「sparkles-guardrails」というカスタムガードレールは、対象エージェントの管理画面（Playground）から「Manage guardrail」＞「Reassign guardrail」を選択することで簡単に紐付けられます。
デモでは「gpt-6-luna」モデルをベースとしたカップケーキ注文エージェントに対し、攻撃プロンプトを投入する各種検証が行われました。結果として、ポリシー違反プロンプトは赤字の警告メッセージとともに即座にブロックされ、業務外の質問には「申し訳ありませんが、その要求にはお応えできません。カップケーキの注文をお手伝いします」と適切に応答する様子が描かれました。
性能・ベンチマーク
動画内において定量的なスループット数値やベンチマークスコアの提示はありませんでしたが、実演デモのレスポンスタイム（P50/P95レイテンシ等）の画面が写り込んでいました。
| 評価指標 |
測定値 |
出典 |
| P50 Latency（中央値の応答遅延） |
2.3s |
動画画面内（3:11時点） |
| P95 Latency（95パーセンタイルの応答遅延） |
3.8s |
動画画面内（3:11時点） |
| テストモデル |
gpt-6-luna, gpt-5.4-mini等（開発用表記） |
動画画面内（2:54時点） |
競合サービスとの比較
AIエージェントのガードレール機能について、他社の主要ソリューションとの比較をまとめました。
| 機能・特徴 |
Microsoft Foundry (Guardrails) |
OpenAI (Guardrails / Moderation API) |
Amazon Bedrock (Guardrails) |
出典・注記 |
| PII自動検出・マスク |
氏名・住所・電話番号等を細かく選択可能 |
API経由でのカスタム構築が必要 |
高精度な組み込みPIIフィルターを搭載 |
編集部補足データ含む |
| タスク維持 (Task Adherence) |
専用の「Task drift」制御をノーコード設定 |
プロンプトエンジニアリング依存 |
Guardrailsのコンテキスト制御機能で対応 |
動画内デモにて実証 |
| 統合管理UI |
Foundryポータルからノーコード適用 |
コード記述または別APIの呼出が主流 |
Bedrockコンソールから一括適用 |
動画内UIより確証 |
Microsoft Foundryの強みは、Azureエンタープライズ環境と密接に連携し、GUI上でチェックを入れるだけでPII保護からタスク乖離抑制まで完結する点にあります。
料金・提供プラン
動画内では具体的な価格設定についての直接的な言及はありませんでした。
ただし、Microsoft Foundryの各種セーフティ機能は、連携するAzure AI Content SafetyおよびAzure OpenAI Serviceの利用料金（APIリクエスト数に応じた従量課金）に準拠します。一般的なテスト利用においては、Azureの無料初期クレジット枠などを活用して検証が可能です。
日本から使う方法
日本のユーザーが今すぐ自社の環境で試すための手順は以下の通りです。
- AzureポータルおよびMicrosoft Foundryへのアクセス
Azureアカウントを作成し、Microsoft Foundry Portal にログインします。
- プロジェクトおよびエージェントの作成
Buildメニューから対象のAIエージェント（またはモデルデプロイメント）を準備します。
- Guardrailsの作成と設定
左側メニューの「Guardrails」をクリックし、「Create」を選択します。Jailbreak、Content harms、PII（Preview）、Task driftなどの必要な保護項目にチェックを入れます。
- エージェントへのポリシー割り当て
「Agents」一覧から対象エージェントを開き、「Guardrail」セクションで作成したポリシーを選択して「Save and start new chat」を実行します。
- 日本語環境・リージョン制限の注意点
UIは英語表示が基本ですが、入力テキストのコンテンツセーフティ検証は日本語を含む多言語に対応しています。一部のPreview機能（PII等）を利用する際は対応リージョンを確認してください。
誰にどう効くのか
エンジニア・アーキテクトへの影響
複雑なPythonコードやフィルタリングロジックを自作することなく、プラットフォーム側の設定だけで堅牢なAIセキュリティを構築できます。インジェクション攻撃やPII漏洩の防御コードを書く工数が大幅に削減されます。
企画・プロダクトマネージャーへの影響
「AIが暴走して炎上したらどうするのか」という社内セキュリティ審査のハードルを越えやすくなります。明確なルール設定とテスト結果を示すことで、本番リリースの意思決定がスムーズになります。
経営層・リスク管理部門への影響
ブランドイメージの毀損や個人情報漏洩事故に伴うコンプライアンスリスクを低減できます。AIを活用した顧客対応の自動化を、安全性を担保した状態で加速できます。
まとめ
Microsoft Foundryのガードレール機能は、AIエージェントの信頼性を担保するための必須ツールです。プロンプトインジェクションやデータ漏洩といった脅威に対し、直感的な設定と強力なブロック機構を提供します。
まずは開発環境のエージェントにガードレールポリシーを割り当て、自社のユースケースに合わせた安全テストを開始することをおすすめします。
