記事のサマリー(TL;DR)
- OpenAIとポーランドのNASK National Research Instituteが、AIの安全性・セキュリティ・技術研究に関する協力を探る契約に署名しました。
- NASK内のAI Safety Research Center(ポーランドのAI Safety Institute=AISIとしての役割を担う)とOpenAIが、AI安全性研究で協力し、能力が高まるAIシステムの評価方法の検討、潜在的な脆弱性の特定、安全対策の強化に取り組みます。
- この契約は、NASK傘下で活動するCERT Polskaが本年7月にOpenAIのサイバー関連モデルへDaybreak経由でアクセスを得ていたという、既存の協力関係の上に成り立っています。
詳細
契約の概要
OpenAIとポーランドのNASK National Research Instituteは、AIの安全性、セキュリティ、技術研究における協力を探るための契約に署名しました。この提携により、両組織の専門知識を結集し、新たに生じるリスクへの理解を深め、安全対策を強化し、先進的なAIがより安全で強靭なデジタルエコシステムにどのように貢献できるかを検討するとしています。
OpenAIは、AIシステムの能力が高まるにつれて、開発企業と公的研究機関との国際的な協力が、リスクを理解しより強固な安全対策を構築する上で不可欠になると述べています。OpenAIは、米国のCenter for Advancing Standards and Innovation for Super Intelligence(CAISSI)、英国のAI Security Institute(AISI)、および世界各国の他の公的研究機関とすでに協力しており、これらの取り組みは安全対策の強化、AIエージェントにおけるセキュリティ脆弱性の特定と修正、フロンティアAIの安全性向上に役立ってきたとしています。
NASKとの協力内容
この契約により、NASKのAI Safety Research Center(ポーランドのArtificial Intelligence Safety Institute=AISIとしての役割を担う)とOpenAIは、AI安全性研究で協力します。具体的には、能力が増大するAIシステムの評価方法の検討、潜在的な脆弱性の特定、安全対策の強化に取り組むとしています。
OpenAIは、AI安全性研究機関や標準化団体の専門知識を活用し、フロンティアAIに関する国際的な技術標準について米国が世界各国と協力するよう求めてきたと述べています。能力評価、リスク評価、安全対策のテスト、インシデント報告について共通のアプローチを持つことは、各国が証拠を比較し、国境を越えるリスクに対応する助けになるとしています。NASKとの協力は、こうしたより広範な取り組みに各国の専門知識を取り込むことの価値を反映しているとOpenAIは説明しています。
NASKの専門知識は、AI安全性に関する広範な研究に基づいており、それは公共サービスの保護やポーランドのデジタル情報エコシステムの保護に直接応用されているとOpenAIは述べています。また、NASKのような各国のパートナーがいなければ、世界的なAI安全基準はAIが実際に使用される現実から乖離したままになりかねないとしています。
ポーランドのサイバー防御チームとの既存の協力
この契約は、ポーランドのサイバー防御担当者とのOpenAIの既存の協力関係の上に成り立っています。7月、NASK内で活動するCERT Polskaは、Daybreakを通じてOpenAIのサイバー関連モデルへのアクセスを得ました。同チームはOpenAIのモデルを使い、MikroTik RouterOSにおける6件の脆弱性を発見しました。これには、認証なしで対象デバイスを乗っ取るために組み合わせ可能な欠陥も含まれていました。ベンダーは修正版をリリースし、CERT Polskaはそれによって自らが観測していた攻撃が防止されたことを確認したとしています。