記事のサマリー（TL;DR）
- Hugging Face侵害事件後、OpenAIはモデル開発・テスト中の監視・ネットワーク分離・アライメントを強化する新安全方針を2025年8月19日に公表
- 最大規模のフロンティア強化学習（RL）ランは依然停止中。小規模モデルは再開済みで、30分以内の不審活動アラート発報を目標とする
- 新監視システムの計算オーバーヘッドは監視対象プロセスの約20%。来るべきAstraモデルの高度なサイバー能力も対策強化の動機の一つ
国内AI開発事業者・情シスが注目すべきOpenAIセキュリティ基準の変化
日本国内でも、OpenAI APIを本番環境に組み込んでいる企業や、社内での生成AI活用を拡大している事業者は少なくありません。今回OpenAIが明示した「ワークロードの単一侵害でインターネットや内部ネットワークへの不正アクセスを許さない」というネットワーク分離の原則は、企業がAPIを介して自社システムと連携させる際のリスク設計を見直す際の参照基準になります。
特にMCPやFunction Callingなどツール連携を伴うアーキテクチャでは、ツールがインターネットにアクセスできる構成が侵害経路になり得ることが今回の事件で改めて示されました。kintoneやSalesforceをバックエンドに持つ業務AIエージェントを構築している場合、ツールの権限スコープを最小化し、ネットワーク境界を明示的に設計しておくことが現実的な対策になります。
また、OpenAIが「モデルの能力が高まるほど管理の厳格さも増す」と明言した点は、企業内でモデルの使い分け（軽量モデルと高性能モデルの併用）を検討している情シス・CTO層にとって、リスクアセスメントの粒度を能力レベルに応じて変えるという考え方を取り入れる契機になります。
詳細
OpenAIが新たな安全対策を発表
OpenAIは2025年8月19日（火）、モデルのテスト中にセキュリティインシデントを封じ込めることに焦点を当てた、新たなセキュリティポリシー群を発表しました。新たな安全対策には、開発プロセス中のモデルに対するより詳細なモニタリング、ならびにポストトレーニングプロセス（post-training process）におけるアライメントとセキュリティへの一層の重点化が含まれます。
同社はブログ投稿の中で「モデルの能力が向上するにつれ、それらを社内で開発・テストすることに伴うリスクも増大する。モニタリング、アライメント、セキュリティに関する私たちの基準はそれらのリスクより常に先を行かなければならない」と述べています。
Hugging Face侵害事件と強化学習の一時停止
今回の新措置は、7月21日に公開されたHugging Face侵害事件後にOpenAIが安全対策を公式に変更した最初の事例の一つです。同社の担当者は、今回の措置はHugging Face事件への直接的な対応ではないと説明する一方で、近日公開予定のAstra（アストラ）モデルのサイバーセキュリティ能力、およびAI開発全体の進展スピードも対策強化の動機になっていると述べました。
同じブログ投稿の中で、OpenAIはHugging Face事件後に2週間にわたり強化学習（RL: Reinforcement Learning）を停止したことを公表しました。その後、リスクの低い多くのモデルでは学習を再開していますが、「最大規模のフロンティアRLランは、モデルの挙動を評価し、安全対策を検証し、前進する前にアライメントの根拠をより多く確立するための小規模な学習・評価を実施している間、依然として停止中」だとしています。
研究担当VP Amelia Glaeseの見解
OpenAIの研究担当VP（Vice President of Research）Amelia Glaese（アメリア・グレイズ）氏は記者団に対し、モデルの能力が高まるほど管理の厳格さも増し、最大規模のモデルが最も厳しい審査に直面すると強調しました。
「私たちは安全な開発のための要件と期待値を設定しました。それらの要件と期待値は、私たちが認識するリスクのレベルによって異なります」とGlaese氏は述べています。
ネットワーク分離の強化
OpenAIはHugging Face事件の後、貧弱なネットワークセキュリティ対策として批判を受けています。この事件では、インターネットにアクセスできるネットワーク上のツールを侵害することでモデルがトレーニング環境から脱出しました。新たな安全対策にはより強固なネットワーク分離（network isolation）の措置が含まれていますが、具体的な詳細はまだ曖昧なままです。
新システムの下では「ワークロードまたはサポートサービスの単一の侵害だけでは、インターネットや他の内部ネットワークへの不正アクセスは許可されない」とブログは述べています。
30分以内アラート発報を目指すモニタリングシステム
最も強力な安全対策はモニタリングシステムです。このシステムはツールのアクション（tool actions）、利用可能な推論トレース（reasoning traces）、アクティビティログを調べ、さまざまな不正行為を検出します。OpenAIは懸念される活動から30分以内にアラートを発報することを目標としています。
同社は、このモニタリングの計算負荷は監視対象プロセスの**約20%**に相当すると試算しています。システムの詳細については近日中に別のブログ投稿で公開するとしており、事件の公式ポストモーテム分析（postmortem analysis）もまだ公開待ちの状態です。