記事のサマリー(TL;DR)
- OpenAIはHacktronと提携し、OpenAIのシステムにおける脆弱性の発見に取り組むと発表しました。
- OpenAIのエンジニアとHacktronのセキュリティ研究者は、特にOpenAIのシステムがサードパーティサービスとどのように連携するかに焦点を当て、優先度の高い領域を共同で選定しテストします。
- 提携の一環として、OpenAIはDaybreak Redを通じてHacktronによる自社の最先端モデルへのアクセスを拡大します。
詳細
発表の背景
OpenAIは、最先端のAI(frontier AI)を用いたサイバー防御の加速に取り組む一方で、自社システムの脆弱性の発見と修正にも同様の緊急性を持って対応しているとしています。今週初めには、次回のセキュリティスプリントにおいてCathedralの研究者がOpenAIのチームと共同で作業することを発表しました。また、独自のテストでは見落とされる可能性のある脆弱性を独立した研究者が追求する動機を高めるため、バグバウンティの報奨金も引き上げたとしています。
Hacktronとの関係
OpenAIは、自社のSecurity Bug Bounty programを通じてHacktronを知るようになったと説明しています。Hacktronの研究者がOpenAIに発見・報告した脆弱性の影響の大きさに注目したとのことです。Hacktronはコードレビューやペネトレーションテストおよびレッドチーミング向けのAIエージェントを構築するチームであり、その研究ではアプリケーション、クラウドインフラ、ID管理システムの相互連携における脆弱性を明らかにしてきたとOpenAIは述べています。OpenAIは、Hacktronの取り組みは、セキュリティエンジニアがAIを活用して開発を進めることで、より迅速かつ野心的な調査を可能にする事例だとしています。
提携の狙い
AIエージェントが新しい形でサービス同士を連携させるようになるなかで、こうしたスキルの組み合わせはさらに重要になるとOpenAIは述べています。Hacktronと協力することで、それらの連携部分をより深くテストし、得られた知見を防御力の強化に活用するとしています。
謝辞と参加方法
OpenAIは、脆弱性の発見と報告に時間を費やし、全ユーザーを保護するセキュリティの強化に貢献しているHacktronおよびその他の独立研究者に謝意を示しています。対象となるシステムの確認や発見内容の報告は、OpenAIのSecurity Bug Bounty programのページから行うことができるとしています。