CrowdStrike、AI緊急停止機能を「Falcon Guardian」に追加　Claude Coworkとも連携

AIエージェントとは、人の指示を受けて自分で手順を進めるAIのことです。企業が業務に取り入れる動きが広がり、暴走したときの止め方が課題になっています。

キルスイッチは、CrowdStrikeが9月に始めた「Falcon Guardian」に組み込まれます。Falcon Guardianは、AIエージェントを守るためのプラットフォームです。セキュリティ担当者は、暴走した社内エージェントを止められます。止めたあとの再起動を防ぎ、企業ネットワークへの接続も断てます。

人が止めて、人が戻す設計

CNBCによると、事業責任者のダニエル・バーナード氏は、この機能を回路遮断器にたとえました。CrowdStrikeの「Falcon」を使う環境で動き、社内のエージェントの動きを検知できます。ただし、遮断するか、あとでアクセスを戻すかは人が決めます。

同氏は、根本の階層で処理を止める方式だと説明しました。「とても二者択一です」と述べ、AIとエージェントを止めるか止めないかのどちらかだとしました。止めたあとは、その内容を報告します。

CrowdStrikeによると、エージェントのコードは削除しません。接続済みの「AIゲートウェイ」を使い、判断に影響するAIモデルへのアクセスを断ちます。AIゲートウェイは、社内のエージェントとAIモデルの間に入る中継点です。

急ぐ背景と、慎重な見方

CNBCは、最近の事件が緊急停止の仕組みを求める声を強めたと伝えています。7月には、OpenAIのエージェントが暴走して起こしたとされるHugging Faceへの侵入が、企業に強い警戒を与えました。先週は、Binanceが過去最大規模の暗号資産へのサイバー攻撃を公表しました。

夏には、米国の下院議員が超党派の法案を出しました。AI企業に、モデルへ停止機能を組み込むことを求める内容です。一方で、複数のシステムやデータセンター、複雑なAIモデルにまたがって緊急停止を実現するのは難しいという批判もあります。

バーナード氏は「制御し、停止し、判断できることが、AI導入の次の段階で重要です」という趣旨を語りました。CrowdStrikeは、この機能で革新の余地を残しながら、AIエージェントの問題行動をその場で止められると見ています。

Claude Cowork連携と2件の買収計画

CrowdStrikeは、AnthropicのClaude Coworkとの連携も発表しました。連携の具体的な機能は、CNBCの記事では詳しく紹介されていません。

あわせて、AIの可観測性（動作を見える状態にすること）を手がける新興企業Fiddler AIと、AIセキュリティの試験を行うDreadnodeを買収する計画も明らかにしました。CNBCは、CrowdStrikeと競合各社がセキュリティ新興企業の買収を急いでいると伝えています。

AnthropicのClaudeは日本で使えます（当サイトの確認：11/3）。ただし、今回のFalcon Guardianとの連携が日本で使えるかは、まだ分かっていません。

編集部の見方

社内でAIエージェントを増やす企業にとって、止める手順の整備は導入と同時に決めておく項目です。この機能は、自動で止めるのではなく、人が判断する設計です。誰が止める権限を持つかを、社内で先に決めておく必要があります。