OpenAI、外部サービスとの連携部分の弱点探しでHacktronと提携　AIモデルへのアクセスも拡大

OpenAIの利用者が、この提携を受けて今すぐ行う設定変更や手続きは、公式の発表にはありません。弱点を見つけた人がOpenAIに報告するための窓口は、これまでどおりSecurity Bug Bountyのプログラムです。

Hacktron（ハクトロン）は、AIエージェントを作る会社です。このエージェントは、コードの点検、ペネトレーションテスト（攻撃を想定した侵入テスト）、レッドチーム（攻撃側の立場での検証）を行います。OpenAIは今回、この会社と組んで自社システムの弱点を探します。

外部サービスとの接点を重点的にテストする

OpenAIの公式ブログによると、OpenAIのエンジニアとHacktronのセキュリティ研究者が、優先度の高い領域を一緒に選んでテストします。重点は、OpenAIのシステムが第三者のサービスとどう連携しているかです。

提携の一環として、OpenAIはHacktronによる最先端モデルへのアクセスを広げます。経路はDaybreak Redです。Daybreak Redは、承認を受けた防御側にサイバー向けモデルを提供する枠組みです（サイソクの過去記事、11/5）。

ただし、どのモデルをどの範囲で使えるのかは、今回の発表では示されていません。

バグ報奨金への報告で知り合った

OpenAIがHacktronを知ったのは、Security Bug Bountyプログラムを通じてでした。同社の研究者が見つけて報告した脆弱性の影響の大きさに、OpenAIは感銘を受けたと説明しています。

OpenAIによると、Hacktronの研究は、アプリケーション、クラウド基盤、認証の仕組みが相互に作用する部分の脆弱性を明らかにしてきました。OpenAIは、セキュリティ技術者がAIを軸に仕事を組み立てると、より速く、より野心的な研究に取り組めると述べています。

AIエージェントがサービス同士を新しい形でつなぐ場面は増えています。OpenAIは、攻撃の視点を持つ研究者の技能が、そのつなぎ目の検証で一段と価値を持つと見ています。

一連のセキュリティ強化の一環

OpenAIは、最先端AIでサイバー防御を加速させる取り組みと同じ緊急度で、自社の弱点探しも進めるとしています。今週の初めには、次のセキュリティスプリントにCathedralの研究者が参加すると発表しました。バグ報奨金も引き上げています。

この経緯は、サイソクの過去記事でも整理しています。報奨金は重大な脆弱性に対して4倍を超える額に引き上げられました（OpenAI、AIで自社の弱点を探す取り組みを強化）。OpenAIは、自社のテストが見落とした弱点を外部の研究者が見つけやすくする狙いがあると説明しています。

OpenAIはHacktronのほかにも、時間をかけて弱点を探し報告する独立の研究者に謝意を示しています。そうした報告が、すべての利用者を守る安全性の強化につながるという立場です。

日本の利用者への影響と報告窓口の使い方

日本の利用者に向けた個別の案内や、サービスの仕様変更は、今回の発表にはありません。弱点を見つけた人や、対象となるシステムの範囲を知りたい人は、OpenAIのSecurity Bug Bountyのページで確認できます。ページでは、対象範囲の確認と、発見した弱点の提出ができます。