記事のサマリー(TL;DR)
- OpenAIは2025年初めにFDE(Forward Deployed Engineering)チームを設立し、モデルの性能と実際に人々が業務で利用できる水準との差である「デプロイメントギャップ」を埋めることを目的としている
- John Deere、大手半導体企業、大手通信企業、Thrive Holdingsなど複数の顧客との協業事例を通じて、FDEが顧客の最も難しい課題に取り組み、Product部門やResearch部門と連携して解決策を実用化してきた経緯を紹介している
- Codexの能力向上に伴い、各プロジェクトのカスタムコードを約90%削減できた事例や、顧客の音声対応における評価スコアが6か月で約60%から90%以上に向上した事例が示されている
詳細
FDEチーム設立の背景
OpenAIでCodexが登場した際、チームのメンバーから「Codexがこれまで数か月かけて構築してきたユースケースを一発でこなせるようになったら、自分たちは何をすればよいのか」という質問が上がったといいます。筆者は、この問いこそがOpenAIにおけるFDEの本質を表していると述べています。
FDEは顧客と共に、その最も難しい課題を理解し、信頼できる解決策を構築する役割を担います。そこで得られた知見は製品に反映され、Research部門に対しては取り組むべき具体的な課題を提供します。筆者は、数か月ごとに自分たちの仕事が不要になるのであれば、それはFDEチームが役割を果たしている証拠だと説明しています。
筆者は2025年初めにこのチームを設立し、「デプロイメントギャップ」と呼ぶもの、すなわちモデルが見かけ上持つ能力と、人々が実際の業務で確実に使える水準との間の差を埋めることを目指したとしています。モデルの能力は、それを実際に活用するために必要なシステムやプロセスよりも速く進歩してきました。足りないのが製品そのものである場合もあれば、モデルがベンチマークでは好成績でも、現実の変数や制約の中では業務をこなせない場合もあるといいます。
FDEは顧客の最も困難な課題に注力します。モデルが現時点でその業務をこなせる場合はProduct部門と顧客とともに解決策を再現可能な形にし、モデルが要件を満たさない場合は顧客とResearch部門とともにギャップを定義し改善を進めます。目標は、各エンゲージメントが次の顧客にとってより良い出発点を残すことであり、顧客が同種の課題を解決する際にFDEを必要としなくなるレベルまで水準を引き上げられれば、その仕事はうまくいったと言えるとしています。
John Deereの事例
創業200年の農業関連企業であるJohn Deereが直面していた課題は、農家向けの個別最適化されたアドバイスをどう拡大するかというものでした。
その一例が、カメラと機械学習を用いて雑草を識別し、農地全体ではなく雑草にのみ薬剤を散布することで化学薬品の使用量を最大70%削減するとされる精密除草技術「See & Spray」です。
ただし、この技術の恩恵を実際に得るには、農家が技術の設定方法を理解し、作付け計画を立て、状況の変化に応じて運用方法を調整できる必要があります。John Deereは、この支援を個別最適化された形で拡大可能にするため、OpenAIのAPIを導入しました。
AIは農家からの質問に自然言語で答え、個別の設定ガイダンスや推奨事項を提示し、機器が本来の性能を発揮できていない可能性を特定し、農家が技術から得ている価値を理解する助けとなります。この取り組みの意義は個々のやり取りにとどまらず、顧客との関係全体を通じて適切なガイダンスを提供し、農家が機器をより良く活用できるようにしながら効率性と持続可能性を高めることにあるとされています。
これはOpenAIのFDEが取り組む課題の典型例であり、組織がAIの能力を、複雑な現実環境で実用的な価値をもたらすシステムへと変えていく手助けをするものだと説明されています。ただし、こうした課題はしばしば定まった正解がなく、確立された手引きも存在しません。誰もがこれまで存在しなかったものを作りたいと考えますが、そこに至るために必要な努力をする人は少ないといいます。優れたFDE人材を見つけながら「十分に良い」水準の基準を引き上げていくことは、絶え間ない試行錯誤の繰り返しだったとしています。
まず成果から始める
FDEチームのセッションでは毎回、「まず成果から始め、成功のためにやるべきことをやり、その後にスケールさせる」という一つの価値観を掲げたスライドを示しているといいます。印象的なデモは、それが実際の環境で機能するかどうかを誰かが問うまでは、評価されがちです。FDEの仕事は、本番環境で責任を持てる水準まで顧客の課題を解決することだとしています。
2025年半ば、ある大手半導体顧客との協業には約15人のFDEが参加し、10件以上のユースケースに取り組みました。目標は検証プロセスをAIネイティブにすることで、対象には以下が含まれていました。
- ディレクテッドテスト生成(Directed test generation)
- 根本原因分析とデバッグ
- アーキテクチャアシスタント
この業界では、検証作業がプロジェクト全体の工数の約70%を占めるとされ、機会は非常に大きく、着手点も多数ありました。
FDEの中にはOpenAIに入社してわずか数日で、半導体業界での勤務経験がない者もいました。彼らは顧客の検証チームに加わり、空き時間にチップ設計を学び、AIが有用なテストを生成できるか、チップの不具合を正しく診断できるかを検証するための評価(eval)をエンジニアと共に構築しました。
こうした学習と並行して、個々のユースケース向けにカスタムのハーネスも構築しました。最初の3〜6か月で、すべてのユースケースが本番導入と初期のユーザー採用にこぎ着けました。その成果として、以下のような指標が示されています。
- AIによるディレクテッドテスト生成により約48%の時間削減
- カーネル最適化によりパフォーマンスが中央値で22%向上
- 数週間かかっていたデバッグ作業を数時間に短縮
これらの結果を報告した際、顧客側のChief Hardware Officerから「あなたたちは以前、チップ設計者として働いていたのか」と尋ねられたといいます。筆者は、FDEが初日からその業界に精通している必要はないが、それを学ぶことは責務であると述べています。
コーディングアシスタントによってソフトウェア構築が速くなるにつれ、顧客のビジネスを理解することの重要性はむしろ増しているといいます。そのためチームはジェネラリストと各分野の専門家を組み合わせて編成しています。的確な判断を下すのに十分な知識と、現状に対する前提を疑うのに十分な好奇心の両方が必要だとしています。
一例としてライフサイエンス分野では、FDEが持つ科学分野の背景が、標的の妥当性検証や優先順位付け、遺伝子発現解析、化学合成経路の再構築といった前臨床の創薬タスクに取り組む研究者からの信頼獲得に役立っているといいます。その専門性により、こうしたワークフローをどう改善できるかについて、根拠のある判断で貢献できるとしています。
成功を再現可能にする
これらのワークフローが価値を生むことは実証できたものの、それぞれが別のチームに展開するには依然として多くのカスタム統合作業を要していました。次の課題は、その成果を保ちながら、ソフトウェアの展開と保守をより容易にすることでした。
その頃にはCodexの能力も向上していました。あるFDEがアプリケーションをCodexを中心に再構築することを試み、その後チームと協力して各ユースケースをCodexを核とする共通ハーネスへ移行しました。
カスタムアプリケーションは、Codexの共通プリミティブ上に構築されたプラグインやスキルとなりました。Codex自体もインターフェースとなり、個別のユースケースごとに作成していた独自のターミナルUIやCLIを廃止できました。
各プロジェクトからカスタムコードの約90%を削減できたことで、ワークフローの構築・保守・拡張の方法が次のように変わったといいます。
- Codexへの集中的な改善の恩恵を受けられるようになり、各ユースケースに必要なつなぎ込み用コード(グルーコード)の量が減少した
- 主要な機能はスキルやプラグインとしてまとめられ、チーム間での共有や、AI CoE(Center of Excellence)による中央管理がしやすくなった。これにより、あるチームから別のチームへの展開は、新しいコネクタ/MCPサーバーを組み込み、新しい評価(これもスキル化されていた)を構築して稼働させるだけの、比較的簡単な作業になった
2026年8月のある事例では、最初の展開に2か月を要したのに対し、2つ目のチームへの展開は1日で完了しました。その後もチームが増えるにつれて展開は速くなり、この傾向は続いているとしています。
筆者はこれを「自分たちを不要にする」ことの一つの形だとしています。本番環境に到達するまでに行った作業によって何が重要かが明らかになり、基盤となる製品が改善されるにつれて、カスタム実装の多くを置き換えながらも、それが生み出していた価値は維持できたとしています。
この順序が重要だと筆者は述べています。LLMによって高速に構築できるようになった今こそ、そのスピードを使って価値あるものを早くユーザーの手元に届け、実際の運用で何が通用するかを学び、その上で機能するものをスケールさせるべきだとしています。同じ原則はすべてのエンゲージメントに当てはまるといいます。
企業向け音声・チャットエージェント向け製品である「OpenAI Presence」も、実際の顧客導入から生まれたものです。この取り組みはSwarmから始まり、Agents APIを経て発展し、現在ではある顧客が通話の半数以上をAIで対応しているといいます。
これらの導入を本番環境に乗せる過程で、どの課題にカスタムソリューションが必要で、どの構成要素を他のチームでも使い回せるかが分かってきたといいます。そうした構成要素をPresenceに組み込むことで、開発者が基盤インフラを再構築することなく規制対象のワークフローを自動化しやすくしたとしています。各導入が製品の形作りに寄与し、次の顧客により良い出発点を残したとしています。
Thrive Holdingsとの協業では、OpenAIのFDEと研究者がエンジニアや会計士と共に、Creteの会計事務所向けに「Tax AI」を構築しました。パイロット期間中、Tax AIは7,000件の税務申告を処理し、スループットを約50%向上させたとしています。
最も難しかった課題の一つは賃貸物件の申告の自動化で、90%の適合率(precision)と再現率(recall)に到達するために6週間のエンジニアリングと実務担当者によるレビューを要したといいます。この取り組みによって再利用可能なパターンが生まれ、Tax AIを他の複雑な税務スケジュールに拡張しやすくなったとしています。現在、両チームは同じアプローチを記帳、監査、ITサポートにも適用しており、実務担当者のフィードバックと実際の利用を通じて改善するシステムを構築しているといいます。
現れるインテリジェンスギャップをその都度埋める
より優れた製品によって構築物を簡素化できる場合もあれば、モデル自体がまだその業務をこなせない場合もあります。もし現在のモデルで可能なことだけを構築していたら、Researchが次に埋めるべきインテリジェンスギャップを見つけることはできないといいます。そのため、重要なエンゲージメントの多くは、顧客、FDE、Researchが共にその限界に取り組むところから始まるとしています。
ある大手通信企業とはすでにカスタマーサービス向けプラットフォームを開発していましたが、これを音声対応に拡張したいという要望がありました。音声は同社のカスタマーサービス業務量の約90%を占めており、チャットに比べて対応コストが高く、アクセント、トーン、レイテンシー・精度を本番品質まで引き上げる上で新たな技術的課題が多数あったといいます。これをうまく実現できれば、同社のビジネスに大きな違いをもたらすとされていました。
スコーピングの段階で、本番環境での業務遂行能力を評価する主要な評価指標において、モデルのスコアは約60%にとどまりました。これはモデルの能力の限界に達していたことを意味し、カスタマーサービスの場面における関数呼び出しと指示追従の能力向上が必要でした。
OpenAIはこの状況を顧客に説明し、Researchをこの取り組みに参加させました。FDEは顧客と共にプラットフォームを構築し、モデルに求められる要件を定義しました。Researchは能力面のギャップを埋める作業を進め、次々とモデルのスナップショットを提供することで、顧客の要件に対する進捗を検証できるようにしたといいます。
6か月の間に、主要な評価指標のスコアは約60%から80%、その後90%以上へと上昇し、本番環境で必要とされる水準に達しました。
結果として生まれた音声モデルは、現在その顧客の導入環境、他のカスタムのカスタマーサービス導入、そしてPresenceを通じたマネージド導入を支えています。一つの顧客のビジネスで直面した課題が、他の多くの顧客にも役立つ改善点の特定につながったとしています。
筆者は、それぞれの役割が重要だったと述べています。顧客はモデルがまだ解決できない課題に取り組むことにコミットし、FDEはその課題を定義し、プラットフォームを構築し、最初から最後までエンゲージメントを推進するために密接に関わり続けました。Researchは基盤となるモデルの能力を改善しました。これは「自分たちを不要にする」もう一つの形であり、今日のモデルでは解決できない課題を、将来のモデルが解決できる能力へと変えていく手助けをすることだとしています。この作業から得られる見返りは、特定の顧客に費やした時間を超えて広がるとしています。
より難しい課題を見つけに行く
筆者は、人々の日常業務の中でAIを役立つものにするためにOpenAIに加わったと述べ、それが今もチームを導いているとしています。筆者はチームに対し、LLM開発の多くの場合においてオッカムの剃刀が当てはまる、すなわち最もシンプルな解決策が最良であるとよく語っているといいます。最先端の研究によって特徴づけられる企業であり、誇張に満ちた業界にある中で、現場の人々が信頼して使える、確実に機能するものを作りたいとしています。
目標は、各エンゲージメントが次に続くものを改善することだとしています。それは展開しやすくなった製品であったり、より難しいタスクをこなせるようになったモデルであったり、次の顧客にとって少なくて済むカスタム作業であったりします。
筆者は、解決したい難しい課題を持つ人や、その課題解決に協力したい人に向けて、共に取り組みたいと述べています。
そして最後に、Codexがこれまで数か月かけて構築してきた仕事をこなせるようになったら何をするか、という問いに対し、筆者は「より難しい課題を見つけに行く」と結んでいます。