記事のサマリー(TL;DR)
- OpenAIは、AIツールの安全性への懸念が高まる中、CSAM(児童性的虐待素材)対策として新しい画像分類器、ChatGPTでの警告・一時停止機能、開発者向けガイドライン、法執行機関向けツール群を発表しました。
- 新しい画像分類器はAI生成画像を含むCSAM画像を検出でき、OpenAIは選定した企業に対しAPI経由で無償提供するとしています。NCMEC(全米行方不明・被搾取児童センター)と共同開発し、Tech CoalitionおよびROOSTとも連携してアクセスを共有するとしています。
- ChatGPTには、児童を性的対象とするコンテンツへのアクセスを試みたユーザーに警告を表示し、該当アカウントを24時間一時停止する機能が追加されます。繰り返し違反した場合はアカウントが永久に削除される可能性があるとされています。
詳細
新しい画像分類器について
OpenAIは、AI生成画像を含むCSAM画像を検出できる新しい画像分類器を発表しました。この分類器は、選定した企業に対してAPI経由で無償提供されるとしています。分類器は、これまでに確認されていない画像に含まれる虐待の視覚的兆候を探し、レビュー担当者がCSAMへの対応を判断する際の目安となるスコアを割り当てます。
OpenAIによると、この分類器はNCMEC(National Center for Missing and Exploited Children、全米行方不明・被搾取児童センター)と共同で開発されたもので、Tech CoalitionおよびROOSTとも連携し、ツールへのアクセスを共有する取り組みを進めているとしています。パートナーとの初期テストでは、同じ数の虐待画像を検出しながらフラグ付けする画像の数が48%減少し、レビュー担当者の作業負担が軽減されたと説明しています。また、分類器がフラグ付けした画像は、実際に虐待画像である可能性が2倍高かったとしています。
ChatGPTでの警告表示とアカウント一時停止
OpenAIは、児童を性的対象とするコンテンツへのアクセスを防ぐため、ChatGPTに新しい警告画面を追加しています。該当するようなプロンプトを試みたユーザーに対して警告を表示し、有害な行動を止めるための専門的な支援窓口へ案内するとともに、警告としてアカウントを24時間停止するとしています。なお、アプリは既にCSAMコンテンツおよびそれに関連するリクエストをブロックしているとしています。OpenAIは、違反を繰り返した場合にはアカウントが永久に削除される可能性があるとしています。
OpenAIによると、この警告メッセージやガイドラインは、Protect Children、Lucy Faithfull Foundation、タスマニア大学のJoel Scanlan氏を含む団体・研究者と共に策定されたものです。Scanlan氏は、抑止メッセージの試行を独立に評価したとされています。
開発者向けガイドラインと法執行機関向けツール
OpenAIは、同社のツールを利用する開発者向けに、CSAMコンテンツの防止・検出・報告を支援するためのガイドラインも公開しています。初期テストでは、このガイドラインが多数の開発者による児童安全対策ツールの導入や、NCMECへのCSAM報告登録を後押ししたと説明しています。
さらに、OpenAIは児童安全に取り組む法執行機関向けに、専用プラグイン、捜査支援ツール、複雑なデータ分析などAIを活用した機能を提供しています。アクセスはプログラム管理者によって管理されるとしています。加えて、捜査官向けのトレーニングや、AIの活用方法をまとめたフィールドガイドも提供しています。
背景
OpenAIはこれまで、自社の技術がユーザー、特に児童に害を及ぼしたとして複数の訴訟を起こされています。安全性を重視する非営利団体Common Sense Mediaは、OpenAIの技術をティーン向けとして「容認できないリスク」があると評価しました。また、他のAIチャットボット、特にGrokは、児童を含む非同意の性的画像の生成に使われたことがあるとされています。
OpenAIは過去12カ月の間に、安全性に関する指針(セーフティブループリント)の公開、不適切なコンテンツを禁止するコンテンツガイドラインの更新、有害なコンテンツを生成しないようモデルを再調整する取り組み、ティーン向けの特別版ChatGPTのリリースなど、技術面での変更を行ってきたとしています。