記事のサマリー(TL;DR)
- OpenAIは、既存のサイバーセキュリティ行動計画およびフロンティア安全性の青写真を土台に、「サイバー防御者の力を強化する」ための新たな青写真を公表しました。
- この青写真は、先進的なサイバー攻撃能力が広く利用可能になる前に防御側の対策を強化する限られた機会(「防御者の窓」)があるとの認識に基づき、政府と産業界向けに3つの分野で具体的な提案を示しています。
- OpenAIは、AI研究機関(AIラボ)には自社システムが生み出すリスクに対処し社会の防御力強化に貢献する責任があるとし、政府に対しても能力の進展に合わせて公衆を守るための専門知識・資源・権限を備えるよう求めています。
詳細
AIとサイバーセキュリティを巡る状況
OpenAIによれば、AIはサイバーセキュリティの速度・規模・経済性を変えつつあります。AIは防御側が脆弱性を発見・修正したり、侵入を検知したり、攻撃に対応したりするのを助けることができる一方で、同じ能力が悪意ある行為者を利することにもなり、AIシステムが意図した範囲を超えて行動した場合には新たなリスクを生む可能性があるとしています。OpenAIは、先進的なサイバー攻撃能力が広く利用可能になる前に、先進的なAIを防御側の手に渡し、防御を強化するための「限られた機会」である「防御者の窓(defender’s window)」の中に現在あると述べています。
青写真の位置づけ
OpenAIは今回、サイバー防御者の力を強化するための青写真を公表しました。これは、同社が以前発表したサイバーセキュリティ行動計画およびフロンティア安全性の青写真を土台とするものです。OpenAIは、自社モデルに関わる不整合(misalignment)やセキュリティインシデントの経験から、業界全体でより強固な安全対策と説明責任が必要であることが裏付けられたとしています。こうした教訓を踏まえ、青写真は政府と産業界に向けて、以下の3つの分野で具体的な提案をまとめています。
提案されている3つの分野
先進的なAIの安全性とセキュリティの強化
フロンティアモデルやエージェントを保護し、危険な挙動を検知し、各組織の管理下にある運用について信頼できるシャットダウン制御を維持するための、より明確な責任分担を確立することが提案されています。
インテリジェンス時代に向けたサイバーセキュリティの近代化
防御者に高度なツール、トレーニング、技術支援を提供し、長年のサイバーセキュリティ上の弱点に対処し、重要なサービスの保護や老朽化したシステムの置き換えに投資することが提案されています。
強靭で適応力のある公的機関の構築
政府による評価や独立した技術的評価を強化し、一貫したインシデント報告要件を確立し、連携した対応・復旧体制を改善することが提案されています。
今後に向けた呼びかけ
OpenAIは、AIラボには自社システムが生み出すリスクに対処し、社会の防御力強化を支援する責任があるとしています。また、政府についても、AIの能力が進展するにつれて公衆を保護するための専門知識、資源、権限を備える必要があるとしています。OpenAIは政策立案者に対し、安全対策を今すぐ確立し、経験から学び、技術の進化に合わせて要件を強化していくよう行動することを求めています。