記事のサマリー（TL;DR）
- ザッカーバーグが6,500字のAIマニフェストを公開——「個人向けSuperintelligence」の楽観的未来像を描く
- ChatGPT・Claude・Geminiで既に起きている宿題代行問題など、現実の副作用を一切無視
- 米国人の64%が「SNSは民主主義に有害」と回答、AI業界全体への不信をFacebook問題が下地として形成中
AI不信時代に日本企業が参照すべきコミュニケーションの教訓
ザッカーバーグの論文が照らし出す問題は、Metaだけに限らない。日本でも生成AIの業務導入を検討する企業は「社員がAIで仕事をサボる」「データが外部に漏れる」といった具体的な懸念を抱えており、経営層が楽観的なビジョンだけを語ることで現場の不信感が増幅するケースがある。TechCrunchの論評が評価するSam Altman（OpenAI）やDario Amodei（Anthropic）のアプローチ——危険性を認め、安全策を強調し、信頼を積み上げる——は、社内AI展開を推進する担当者にとっても有効な参照軸だ。kintoneやSalesforceなど業務SaaSへのAI統合でも、現場が「何が起きるかわからない」と感じる状況では、ユースケースと限界を正直に伝えることが導入定着の前提条件になる。
詳細
ザッカーバーグのAIマニフェストとは何か
月曜日（現地時間）、Meta CEOのマーク・ザッカーバーグ（Mark Zuckerberg）は個人AIをテーマにした6,500字のマニフェストを公開した。内容の中心は、Meta AIが開発中の「個人向けSuperintelligence（personal superintelligence）」システムがもたらす可能性についての記述だ。
この投稿が完全に新しいわけではない。同内容の論考は2週間前にウォール・ストリート・ジャーナル（Wall Street Journal）に掲載されており、Metaの決算発表でも同様の発言は繰り返されてきた。しかし、今回が最も詳細なバージョンと言える。
一部メディアは「反ドゥーマー（anti-doomer）エッセイ」と評しているが、TechCrunchはそれを否定する。むしろこれは、AIが社会を変える方向性についてザッカーバーグ個人が興奮している理由を述べたものだ。ところが、彼が豊かな未来像を描こうとするたびに、物事がうまくいかない可能性を自ら示唆してしまっている。
Facebookとザッカーバーグへの不信が下地にある
テック業界においてSNSは依然として敏感なトピックだ。Facebookというプロダクトとザッカーバーグという人物は、米国の一般市民から不人気を博している。直近の調査では、米国人の64%が「SNSは民主主義に有害だ」と回答しており、同程度の割合が「より厳しく規制されるべきだ」と考えている。この数字は党派を問わず均等に分布する。
今週末にはMetaが5億6,700万ドル（約830億円）の制裁金を子どもへの有害性を理由に裁判所から科されたばかりだ。社会的な空気は芳しくない。
これを取り上げる目的はザッカーバーグを批判することではなく、SNSの後遺症こそが現在のAIに対する社会不安の根本原因のひとつだという点を指摘するためだ。公正かどうかに関わらず、市民はテック経営者が新技術の社会的影響をポジティブな方向に導くことを信用していない。にもかかわらず、今回のエッセイはその信頼がなぜ失われたかを繰り返し示す構造になっている。
「知性の民主化」という曖昧な哲学論
エッセイの大部分は、知性（intelligence）に関する抽象的な一般論に費やされている——かつてザッカーバーグやTwitter元CEOのジャック・ドーシー（Jack Dorsey）が「言論の自由」について語っていたあの曖昧さに似ている。たとえばこんな一節だ。
誰もがより強力なツールを手にすれば、各人が未来を形成する力はより大きくなる。……利害が対立する人々や機関は自然に牽制し合い、均衡を取りながらポジティブな結果に向かう。ポジティブなAIの未来を築く最善かつ最現実的な道は、Superintelligenceを全員に届けることだ。
一理はある。しかし利害対立が悪い結果を招いた例はいくらでも思い浮かぶ。さらに奇妙なのは、これが哲学的な結論として真剣に提示されていることだ。実態はMetaが市場投入しようとしている「Personal Intelligence」という具体的なプロダクトの話にすぎない。
AI教育の例——ChatGPT・Claude・Geminiの現実を無視
ザッカーバーグは教育分野についてこう記述している。
誰もがあらゆる分野でPhDを持つ個人専属チューターを持ち、無限の忍耐力で何でも学べるようになる。今は親が費用を払える子どもにしか提供されていない追加サポートが、すべての生徒に届く。
彼が描くプロダクトはすでに存在する。ChatGPT・Claude・Geminiといったコンシューマー向けチャットボットがまさにそれだ。これらのツールはたしかに学習補助として役立つが、教育の現場で主に使われている用途は「学習の回避」——宿題の代行、作文の自動生成だ。しかも堅牢なウォーターマーキング（電子透かし）システムが存在しないため、教師はどの作文がAIで生成されたかを判別できない。
これは低リスクに見えるかもしれないが、現実にいま起きていることだ。良い目的で設計した技術が意図しない結果を生み出し、状況を悪化させることがある——そして世界で最も影響力のある人物のひとりがそれを認めようとしないことが、社会の不安を高めている。
AI法律支援の例——楽観論の落とし穴
法律分野についても例が挙げられている。
ひとりの人間だけがSuperintelligent弁護士を持つとしたら、それは不公平な優位性だ。しかし全員が持つなら、今日の訴訟における能力・資源の不均衡よりもはるかに公正かつ効率的に正義が実現される。
この例も問題含みだ。法律AIへのアクセスが社会の公正性を高める可能性はある。しかし官僚的な手続きの泥沼に新たな複雑さを加えるだけになるかもしれないし、スパムメールに相当する「嫌がらせ訴訟」の嵐で司法制度が詰まってしまう可能性もある。ザッカーバーグが心配していないことが、読んでいるこちら側の心配をむしろ増す構造になっている。
フリーミアムモデルの記述に潜む矛盾
Metaのビジネスモデルについての記述も抽象的だ。
誰もが無料または手頃な価格でこれらのツールを利用できる。……数十億人がアクセスできる無料版を提供する。より多くのコンピュートを使いたい人には、ダイナミックオークションの仕組みにより、集合的に最も価値があると判断された用途に対して最低価格を保証する。
大枠の方向性は正しい。アクセスの問題は実在するし、フリーミアムモデルがアップフロントの課金よりも広い層にリーチできることもその通りだ。スポットコンピュートの動的マーケットもすでに存在する。
しかし問題は、コンシューマー向けAIプロダクトが「スポット価格からエンドユーザーを保護する」設計になっている理由には、それなりの根拠があるからだ。**サージプライシング（需要連動価格変動）は利用者体験として最悪であり、特に日常業務に依存するツールでそれを実施するのは致命的だ。**ザッカーバーグがこれを知らないはずはないと思いつつ、このエッセイを読んで以前より確信が持てなくなった。
Altman・Amodeiとの対比——信頼構築の作法
この種の話題についてより良い語り方はある。欠点はあるとしても、Sam Altman（OpenAI）とDario Amodei（Anthropic）は一般向けのコミュニケーションにおいて比較的うまくやっている。彼らがやっていること——そしてザッカーバーグが拒んでいること——は以下の3点だ。
- AIの危険性を認める
- 自分たちの安全策を強調する
- 信頼に値することを聴衆に納得させようとする
このコミュニケーションが万能ではない。安全策が機能不全を起こし、その危険性が白日の下にさらされることもある（特に最近はその傾向が顕著だ）。しかし何らかの信頼構築なしには、業界はそうした失敗を乗り越えられないかもしれない。
AIに対する社会の不信感が高まるなか、業界全体がどのようにして公衆との信頼関係を再構築するかは、製品や技術の進化と同程度に重要な課題となっている。