記事のサマリー(TL;DR)
- OpenAIはCodexの高速モード「Ultrafast」を社内のインシデント対応で標準的に使用していると説明しています。
- Ultrafastを使うことで、複数の原因候補を同時に調査し、注意を分散させずに回答を得られるようになったとエンジニアらは述べています。
- インシデント対応のほか、日次の業務整理やコードのリファクタリング、ブラウザでの定型作業などでもCodexを活用していると紹介されています。
詳細
本記事は、OpenAIが自社の技術とAPIを社内でどのように活用しているかを紹介するシリーズの一部です。ここで紹介されるツールはOpenAI社内で使用されているものであり、フロンティアAIが社内の各チームのユースケースをどのように支えているかを示す事例として共有されています。
Ultrafastは、Codexにおける高速モードであり、OpenAIのエンジニアにとってインシデント対応の際のデフォルトの使い方になっているとされています。何らかの障害が発生した際、エンジニアは問題が深刻化する間、回答を何分も待つ余裕がないことが多いといいます。Ultrafastを使うことで、複数の原因候補を同時に調査し、注意を分散させることなく回答を得られるとしています。
膨大な情報の中から原因を特定する
OpenAIのTechnical Staffメンバーであるアーロン・フリール(Aaron Friel)氏は、通常インシデント対応の指揮を執る立場にあります。インシデントが発生すると、Slackチャンネルを立ち上げ、Codexに問題を提示し、監視・調査を行い、寄せられる質問に回答するよう依頼するといいます。「どのインシデントにおいても、原因に至るまでには多くの経路があり得て、正しい干し草の山の中から正しい針を見つけ出すことが、そのチャンネルにいる人たちの最大の仕事です」と同氏は述べています。「Ultrafastを使うことで、私は実質的にそれらすべての干し草の山を同時に探索でき、インシデントにはるかに速く対応できるようになりました」とも語っています。
Technical Staffメンバーでデータセンターセキュリティアーキテクトを務めるAJ・トルボイェビッチ(AJ Trbojevic)氏は、セキュリティ関連の調査では、構造化データと非構造化データをまとめ、正規化し、判断材料となるコンテキストを用意するまでに、以前は1〜2時間かかっていたと述べています。「それが今では10〜15分でできるようになりました」と同氏は言います。「ほぼリアルタイムになることもあります」とも述べています。
コアエージェントチームに所属し、Codexが行動を起こしたり、コマンドを実行したり、ツールを使用したりするためのコードを構築しているアダム・ペリー(Adam Perry)氏とサヤン・シソディヤ(Sayan Sisodiya)氏は、Ultrafastによってセキュリティインシデント対応時の働き方が変わったと述べています。「以前は、Codexに何かを調べるよう依頼しつつ、同時に自分でも調べていました。待っているだけでは十分な速さではないと分かっていたからです」とアダム氏は述べています。「今はUltrafastによってCodexが十分高速なので、注意を分散させるのではなく、集中し続けることができます」とも語っています。
サヤン氏は、Ultrafastによって複数のデータソースから即座に回答を得られる点を評価しています。「インシデント発生時にログを調べるだけでなく、Slackを調べて、疑わしい変更に関する言及がないか、あるいは似たような症状について他の場所で話している人がいないかを確認するためにもCodexを使っています」と同氏は述べています。
30秒未満で得られる回答
Technical Staffメンバーのジェフ・ニュー(Jeff Niu)氏によれば、AIを使って回答を見つけるのに30秒以上かかる場合は、Slackを確認するか同僚とチャットするといいます。しかし、Ultrafastを使うようになってからは、同氏の業務のほとんどがその閾値を下回っているとのことです。以前は、Codexに質問をしてから、考えている間に別の作業に切り替え、戻ってきたときには考えの流れを見失っていたといいます。今ではそのやり取りがリアルタイムで行われるため、目の前の作業に集中し続けやすくなったと述べています。
Ultrafastはまた、ジェフ氏が大規模なリファクタリングに取り組む意欲を高めているといいます。既存のコードを作り直す作業にかかる時間が短縮されるためです。「技術的負債は、以前よりもずっと解消しやすくなりました」と同氏は述べています。「コードは安価で、今では非常に速く生成できます。以前は大きなコストがかかっていたリファクタリングが、ほぼ瞬時に完了します」とも語っています。
コパイロットとして使う
アダム氏は、自身が「チーフ・オブ・スタッフ」と呼ぶCodexの常時起動スレッドを維持しています。毎朝、そのスレッドは同氏がどのような会議を控えているか、返信を忘れているかもしれないメッセージはどれかを伝えてくれるといいます。「そのスレッドはすでに要約を書くために必要なデータをすべて確認しているので、私が追加の質問をしても、さらに情報を取りに行くために待たされることはありません」と同氏は述べています。「実際のチーフ・オブ・スタッフと同じように、同じ会話の中で質問を続けることができます」とも語っています。
サヤン氏は、フォーム入力のような、ブラウザ上での面倒な手作業をCodexに行わせています。以前は作業が遅すぎるために避けていた種類の作業だといいます。「以前はブラウザを開いて、5秒ほど考え込んで、何かをクリックして、また考え込む、という具合でした」と同氏は述べています。最新モデルによるコンピュータ操作の改善により、Codexにその作業を任せることに以前より抵抗がなくなったとのことです。「今ではブラウザ上の操作をクリックして進めさせることに完全に抵抗がなくなりました。十分に速いので、自分でやらないことで時間を失うこともありません」と同氏は述べています。
インシデント対応、日々の業務整理、リファクタリングにわたり、Ultrafastによって、OpenAIのTechnical Staffは自分たちの質問のペースに合わせてCodexと共に作業できるようになっているとされています。回答を踏まえて別の方法を試したり、考えの流れを失うことなく作業を続けたりできるといいます。待ち時間が短くなったことで、先延ばしにしていたリファクタリングから、ようやく任せる価値が出てきた定型作業まで、取り組む対象そのものも変化しているとのことです。
[“OpenAI”, “Codex”, “Ultrafast”, “インシデント対応”, “セキュリティ”, “AIエージェント”]