記事のサマリー(TL;DR)
- スタートアップCharge RoboticsのCTO兼共同創業者Max Justicz氏が、OpenAIのモデル「GPT 5.6 Sol」を使い、Ubuntuサーバーの制御を奪われかねない深刻な脆弱性を発見しました。
- OpenAIは新たなサイバーセキュリティ特化モデル「ChatGPT Cyber」を発表し、攻撃的セキュリティ研究者向けプログラム「Daybreak Red」の最上位ユーザー向けに提供すると明らかにしました。同モデルはLinuxカーネルで948件の潜在的な問題、Firefoxで81件の「新規」脆弱性を発見したとOpenAIは説明しています。
- OpenAIは重要インフラに携わるサイバーセキュリティ専門家を支援する10億ドル規模の取り組みも発表していますが、Daybreakプログラムの参加者は「数千人」規模にとどまるとしています。
利用条件・制約
- Justicz氏が脆弱性発見に使用したGPT 5.6 Solは、OpenAIが提供するプログラム「Daybreak Blue」を通じて利用したものです。Daybreak Blueは、サイバーセキュリティの防御側(ディフェンダー)に強力なフロンティアモデルへのアクセスを提供するプログラムです。
- 新モデル「ChatGPT Cyber」は、攻撃的セキュリティ研究者が脆弱性の探索・開発を行うためのツールを提供するプログラム「Daybreak Red」のうち、最上位層のユーザーにのみ提供されます。
- Daybreakプログラムへの参加には本人確認が必要で、Justicz氏は運転免許証の写真をアップロードして参加したと述べています。
詳細
Ubuntuの脆弱性発見の経緯
Justicz氏はサイバーセキュリティに個人的な関心を持つ人物で、以前にも同じコードベースで脆弱性を発見した経験があります。同氏はTechCrunchに対し、7月にリリースされたGPT 5.6 Solを使い、Daybreak Blueを通じてこの問題を発見したと語りました。
「ChatGPTに同じコード群を向けて、『以前、数年前に修正されたこのバグを見つけたことがある。同じくらいか、それ以上にひどいバグを探してほしい』と伝えただけだ。すると2時間で結果が返ってきた」とJusticz氏は述べています。「非常に込み入っていて人間には見つけにくいものだが、実際に機能する」とも語っています。
同氏はこの問題を、当該ソフトウェアを保守するDebian Projectに報告し、Debian Projectは脆弱性を修正するパッチを発行しました。この脆弱性が実際に悪用された証拠は確認されていません。
それでもJusticz氏は、自身がこれほど容易に脆弱性を発見できたことから、AIモデルの助けを借りれば初心者レベルのハッカーでも悪用できる潜在的な脆弱性について、まだ「氷山の一角」しか見えていないのではないかと示唆しています。同氏はこの発見について論じたソーシャルメディアの投稿で、「より多くの時間と、より制限の少ないモデルへのアクセスがあれば何ができるか想像もつかない。今後数カ月で、とんでもなくひどいバグが発見され、悪用される事態を予想すべきだ」と記しています。さらに「ここにいる多くの人にとっては当たり前のことかもしれないが、誰もまだ監査していないコードやバイナリに強力なAIモデルを向けるだけで、現状、大きな優位性(アルファ)が得られる」とも述べています。
OpenAIによるChatGPT Cyberの発表
OpenAIはこうした状況に気づいたとみられます。この日(記事公開日)、同社はサイバーセキュリティに特化した新モデル「ChatGPT Cyber」を発表し、サイバーセキュリティプログラムの最上位層である「Daybreak Red」のユーザーに提供すると明らかにしました。Daybreak Redは、攻撃的セキュリティ研究者に脆弱性の探索・開発のためのツールを提供するプログラムです。
前日には、OpenAIは同じモデルを使ってLinuxカーネルの脆弱性をスキャンし、パッチを準備したことを発表しており、948件の潜在的な問題を発見したとしています。また、OpenAIはウェブブラウザのFirefoxにおいても81件の「新規」脆弱性を発見したとしています。
OpenAIは声明で「私たちの目標は、あらゆる規模の組織、独立系の研究者、オープンソースのメンテナーに対して、高度なセキュリティ研究を提供する取り組みであるDaybreakを大幅に拡大することだ」と述べています。
対応の緊急性をめぐる主張と専門家の懸念
OpenAIは、AIモデルがハッキングにおいてさらに優れ、入手しやすくなる前に、デジタルインフラを守る人々が行動を起こせる時間は限られていると主張しています。一方で、サイバー防御側の専門家にとっては、フロンティアラボが自分たちのリソースを超える膨大な新たな作業を生み出してしまったようにも感じられる状況だといいます。
Justicz氏は、いくつかの脆弱性を発見するためにサブスクリプションとトークンに個人で約5,000ドルを費やしたと述べています。OpenAIはDaybreakによるモデル提供に加え、電力網や水道システムといった重要インフラに携わるサイバーセキュリティ専門家を支援するための10億ドル規模の取り組みも発表しています。
Daybreakプログラムに対する批判
Daybreakプログラムには批判の声もあります。Justicz氏は、フロンティアラボが最近Daybreak Blueを「弱体化(nerf)」させ、脆弱性発見における有用性を下げたようだと指摘しています。一方で、こうした制限は潜在的な悪意ある利用者からのアクセスを制限する点で望ましい可能性もあるとしつつ、Justicz氏自身、プログラム参加のために運転免許証の写真をアップロードしたと述べています。他方で、サイバーセキュリティ専門家からは、悪意ある行為者がガードレールを除去(abliterated)したオープンウェイトモデルを自由に使える一方で、自分たちはフロンティア技術を使えないのであれば、片手を縛られているようなものだという声も上がっています。
それでもOpenAIは、Daybreakプログラムに参加しているサイバーセキュリティ専門家は「数千人」規模にとどまると述べており、これは潜在的なハッカーのはるかに大きな数と比べると少数です。フロンティアラボがこの問題に十分なリソースを割いているかどうかは不明です。
OpenAIのテクニカルスタッフの研究者Eric Wallace氏は、「現在、オープンソースのコードベースにおける脆弱性の発見とパッチ適用に、フロンティアの計算資源のかなりの部分を、完全に無償(プロボノ)で割り当てている」と述べています。しかし、このLinuxのバグ探索にかかった費用は120万ドルであり、これは同社が流体力学のある有名な問題の解決策を見つけるために投じたとされる約600万ドルのトークン費用と比べると、大幅に少ない金額です。世界が依存するデジタルインフラにパッチを当てるための時間が限られているのだとすれば、より一層の緊急性が求められる可能性があります。