企業でAIを導入・管理する人に関係する取り組みです。製品の新機能をすぐに提供する発表ではなく、AIの行動を確かめるための基準を作る段階です。
AIエージェント(自分で手順を進めるAI)は、企業のデータやツールを使い、各段階で人の承認を受けずに操作できます。一方、Microsoft Sourceの発表によると、既存の管理手段では、依頼から結果までの経緯を十分にたどれない場合があります。
AI自身が報告した内容だけでは、実際の行動を独立して確かめられません。Microsoftは、この情報の不足がセキュリティや監査、説明責任のリスクにつながるとしています。
Microsoftが40超の組織と共通基準を作る
Microsoftは米国立標準技術研究所(NIST)の「SI Agent Standards Initiative」への参加を広げます。その研究も生かし、AIの透明性や安全性、管理に関する共通基準を開発する方針です。
協力する組織にはAccenture、Adobe、KPMG、Mastercard、Volvo Carsが含まれます。AIの種類や提供元に左右されず、独立して検証できる仕組みを目指します。
成果はMicrosoft AI、Microsoft Foundry、Microsoft Copilotに反映する計画です。顧客がMicrosoft製だけでなく、他社のセキュリティや法令順守のツールでも証拠を使えるようにするとしています。
AIの自己報告を独立した記録と照らす
構想の柱は、AIの行動を「見る」「検証する」「制御する」の3つです。
「見る」では、AIへの依頼や許可の内容、使ったモデルやデータ、実行した操作を把握します。活動やリスクの兆候を、社内の方針や基準値に照らして継続的に監視する考えです。
「検証する」では、AIの識別情報や任された目的、行動について証拠を残します。情報源をモデル自身、実行環境、独立したシステムなどに分け、AIの報告と別の記録を照合できるようにします。
「制御する」では、作業の目的や責任者、データ、AIに委ねた権限を明確にします。重要な操作の前に社内方針を適用し、問題が起きた後は調査や監査で経緯をたどる構想です。
対象には、内部を公開していないモデルと、オープンウェイト(重みを公開したモデル)の両方が含まれます。モデルや提供元を変更しても、証拠やデータへのアクセス管理を組織側が維持できる形を目指します。
サイソクの見方:AIの自己報告だけに頼らない管理へ
AIエージェントに企業のデータや操作権限を渡すなら、AI自身の報告と独立した記録を照合できるかが、管理上の確認点になると考えられます。共通基準の策定に関わりたい組織は専用ページから登録でき、製品での利用を待つ組織は具体的な提供条件を待つのがよさそうです。
判断ガイド基準づくりに関わるか迷ったら1つの迷いに、状況ごとのおすすめと理由開く閉じる
判断ガイド
基準づくりに関わるか迷ったら
状況ごとのおすすめと理由です。どれを選ぶかは、ご自身の状況で決めてください。
共通基準づくりに今から関わるべき?
- 状況
- 基準づくりへの協力を希望する組織
- おすすめ
- 専用ページで参加を検討する
- 理由
- Microsoftは取り組みづくりへの協力を希望する組織に、案内の確認と登録を呼びかけています。参加すれば基準づくりに関われますが、製品への反映時期や条件はこの発表では示されていません。
- 出どころ
- 出典・news.microsoft.com
不安Q&A
AIの記録や権限はどう扱われる?
QAI自身が「問題ない」と報告すれば、それだけで信頼できますか?▾
Microsoftは、AIエージェント自身を行動の唯一の情報源にすべきではないとしています。モデルの報告を、実行環境やID・方針など独立したシステムが観測した記録と照合できるようにする構想です。
出典・news.microsoft.com今できることAIの行動を確認する際、モデルの報告と照合できる独立した記録があるかを社内で確認する。
QAIのモデルや提供元を変えたら、監査の記録は失われますか?▾
取り組みは、クローズドモデルとオープンウェイトモデルの両方を対象にし、モデルや提供元を変えても、組織がAIを管理し行動を監査できる状態を保つことを目指しています。証拠も組織側に残す構想です。
出典・news.microsoft.com今できることモデル変更を検討するときは、証拠の保持とアクセス管理を変更後も組織側で続けられるか確認する。
QAIが重要な操作をしたとき、誰が説明責任を負いますか?▾
Microsoftは、説明責任は組織に残るとしています。重要な出来事が起きた場合、顧客や従業員、取締役会、監査人、規制当局への説明にAIのせいだとすることは答えにならない、と述べています。
出典・news.microsoft.com今できることAIに任せる業務ごとに、目的・責任者・データ・委ねる権限が明確か確認する。
QAIには、どのデータやツールまで使わせる構想ですか?▾
Microsoftの構想では、AIがアクセスしたデータやツール、実行した操作を把握し、組織がアクセスできるデータやその管理方法を決められるようにします。重要な操作の前に、組織の方針を適用する考えです。
出典・news.microsoft.com今できることAIに任せる作業のデータ・ツール・権限を確認し、重要操作の前に適用する社内方針を整理する。