記事のサマリー（TL;DR）
- OpenAIの最新LLM「Sol」が一般公開されたが、政府承認の基準・担当機関・評価者は誰も把握していない
- AnthropicのFableは一時外国人利用禁止となった一方、SolはSam Altmanの行政幹部との個人的対話で承認された模様
- 専門家は「FDA型の第三者機関による標準化された審査体制」の必要性を訴えるが、制度整備は遅れている
国内AI事業者・SaaS開発企業が注目すべき米国フロンティアモデル規制の現状
米国でのフロンティアモデル規制をめぐる混乱は、日本企業にとっても対岸の火事ではありません。OpenAIやAnthropicのAPIを業務システムや自社サービスに組み込んでいる国内企業は、モデルの突然の利用制限・輸出禁止・ポリシー変更リスクを常に抱えています。Anthropicの「Fable」が外国人利用禁止措置を受けた事例は、米国政府の判断一つで日本市場向けサービスが停止に追い込まれうることを示しています。kintone・Salesforce・Stripeなどの業務SaaSにClaude/GPT系モデルを接続する構成では、モデルの可用性リスクを織り込んだマルチモデル設計や、代替モデルへの切り替えフローをあらかじめ検討しておくことが現実的な対策になります。規制の方向性が固まるまでの間は、特定の単一モデルへの依存度を下げる設計が重要です。
詳細
OpenAI「Sol」の公開と承認プロセスの不透明さ
OpenAIは最新の高性能LLM「Sol（ソル）」を広く一般向けにリリースした。Solは、Anthropicの「Fable（フェーブル）」と同等以上の能力を持つとされるモデルだ。FableはそのAI能力（あるいはその所有形態）がホワイトハウスを懸念させ、一時的に一般公開が禁止された経緯がある。では、これらのモデルはどのようにして「リリース可」の承認を得たのか。
短い答えは、「誰もよくわからない」というものだ。
ジョージタウン大学のセキュリティ・新興技術センター（CSET）上席リサーチアナリストのMina Narayanan氏はTechCrunchにこう語った。「率直に言って、私はその正確なプロセスを把握していません。だから、それが十分かどうかも判断できません。Anthropicが政府と対話していたこと、ジェイルブレイクを検知するための分類器を開発したこと、将来のジェイルブレイクを防ぐための多層防御戦略を実施したことは言及していましたが、政府とAnthropic・OpenAI間の対話がどのようなものだったかは不明です。」
元トランプ政権の政策アドバイザーで現在はOpenAIに勤めるDean W. Ball氏は、先月のニュースレターで「ライセンスを取得するための要件を誰も把握していない」と書いた。DatabricksやPerplexity、Laude Instituteを共同創業したコンピュータ科学者のAndy Konwinski氏も、「フロンティアラボの従業員でさえ、このプロセスを理解している人と話したことがない」と語り、TechCrunchにこう述べた。「これは根本的な問題です。安全かどうか以前に、誰が意思決定の権限を持ち、誰がゲートキーパーとして許可を決めるのかという話です。」
トランプ政権18か月目も制度設計は空白
トランプ政権発足から18か月が経過した今も、フロンティアモデルの規制に向けた明確な道筋は見えていない。先月、数週間にわたる内部対立の末に大統領令が発布され、フロンティアモデルの評価ロードマップが示されたが、「何をしない」かは明記されているものの、具体的な中身はほとんど埋まっていない。
先月までホワイトハウスでAI上級顧問を務め、Andreessen Horowitzの元パートナーでもあるSriram Krishnan氏はFinancial Timesに「AIのためのFDA（食品医薬品局）は設置されない」と明言した。どの種類のモデルが政府の精査を要するか、そしてどの機関が評価を担当するかについても、いまだ合意は存在しない。
現状では、商務省のAI標準・イノベーションセンター（CASI）が主導的な役割を担うとみられるが、大統領令は6つの内閣機関に対し、8月初旬までに最終プロセスを決定するよう指示している。
「アドホック」な審査の実態
現時点で存在するのは、あくまで場当たり的（ad hoc）なプロセスだ。OpenAIのCEO Sam Altman氏はCNBCのインタビューで、プロセスには商務長官Howard Lutnick氏、財務長官Scott Bessent氏、米国家サイバー局長Sean Cairncross氏といった幹部との対話が含まれていたと述べた。しかし、実際にモデルをテストした専門家が誰で、どのようにテストしたのかは明らかにされていない。
OpenAIはTechCrunchに対してプロセスの詳細を開示しなかったが、最新モデルの「セーフティカード」の中で、英国AI安全研究所（AISI）、SecureBio、Irregularといった外部機関による評価結果を参照するよう案内した。Anthropicの「Fable」ロールアウトと同様に、OpenAIも広範なリリースに先立ち、政府と一部の選定ユーザーにモデルをプレビューさせたが、その対象者の全容や選定基準は不明のままだ。
OpenAIは6月下旬のブログ投稿で、「このような政府アクセスプロセスを長期的なデフォルトにすべきとは考えていない」と表明し、政府と協力して別の道を探ると述べた。
政治的関係と規制の「軽さ」
こうした対話の背景には、Altman氏が政権の「トランプ口座（Trump Accounts）」に対してOpenAIの株式の最大5%を提供したと報じられている件や、OpenAI社長Greg Brockman氏がトランプ中間政治活動への最大の公知寄付者であるという事実がある。外部の観察者にとって、こうした政治的結びつきを、Sol規制への「軽いタッチ」なアプローチから切り離して評価することは困難だ。
一方、AnthropicのFableは、外国人によるモデルのジェイルブレイクとハッキング能力へのアクセスに関する懸念、そしてAnthropicとトランプ政権の間の個性的な衝突が重なり、一時的に広範なアクセスが禁止された。輸出禁止の脅威が、OpenAIを政府の（未公表の）要求に対してより協力的にさせた可能性もある。
「オープンコモンズ」モデルと第三者監査の必要性
業界的には、規制が手放し（hands-off）であること自体は歓迎されるかもしれないが、行政幹部との個人的なコネクションに依存する方式では不確実性が増し、悪いインセンティブが生まれるとKonwinski氏は指摘する。
「安全研究者、アライメント研究者、解釈可能性研究者だけでなく、データの専門家やあらゆるスタック領域の人たちが、モデルリリースのプロセスに十分に関与していないことが心配です」とKonwinski氏はTechCrunchに語った。
同氏が提唱するのは「オープンコモンズ（open commons）」モデルだ。FDA（食品医薬品局）、NIH（国立衛生研究所）、国立研究所のように、研究者・政府関係者・民間企業が協働して安全性の合意を形成する枠組みを指す。
Dean Ball氏は、前進の道筋は政府から認定を受けた第三者監査機関がフロンティアラボの安全へのアプローチを評価するモデルにあると論じた。Konwinski氏も同様に、学術界や非営利セクターの中立的な専門家がフロンティアモデルにアクセス・評価できる「集中型研究機関（focused research organizations）」のような新たな制度的フォーマットを支持している。
AI企業の行動を規定しているのは、資本主義のインセンティブ——モデルリリース直後に訓練コストを回収しなければならない経済的論理——でもある。「たとえ意図が善意であっても、業務手順に組み込まれた法的義務と受託者責任は非常に明確です」とKonwinski氏は述べた。
「想像しなくていい」現実
ウィスコンシン大学マディソン校のコンピュータサイエンス教授Remzi Arpaci-Dusseau氏は、先週のOpen Frontierカンファレンスでこう語った。「責任ある人々がこれらの変化を推し進めているという感覚がありません。」
同イベントで、著名なクオンツヘッジファンドTwo Sigmaの創業者David Siegel氏は聴衆にこう問いかけた。「少数の企業が技術を独占し、政府が秘密裏に運営する研究所でその技術の適切性を評価し、一般市民と科学コミュニティがそれらに一切アクセスできない状況を想像してほしい——それは非常に悪い状況だと私は思う。」
もはや、それは想像の話ではないようだ。