OpenAIがAIモデルのワークロードを監視・停止するコントロールルームを展開

OpenAIは、研究インフラ全体のAIモデルのワークロードを監視し、停止するための中央集約型システムであるコントロールルームを導入しました。このシステムは、ますます強力なAIモデルに関連する安全性とセキュリティのリスクの増大に対応するために設計されています。OpenAIによると、コントロールルームは介入の決定から35秒以内にモデル出力を停止できるため、潜在的な問題に迅速に対応できます。

コントロールルームの動作

コントロールルームは、ワークロード、推論エンジン、コントロールルームサービスの三つの主要なコンポーネントを統合しています。ワークロードは、強化学習実験やデータ処理タスクなど、実行中のジョブを表します。推論エンジンは、GPU上で直接実行され、モデルを実行します。コントロールルームサービスは、ジョブを追跡し、出力を生成し続けることが許可されているかどうかを判断します。

各ワークロードには一意のジョブIDが割り当てられます。ワークロードがモデル出力を要求すると、推論エンジンはコントロールルームサービスに認可を確認します。安全性またはセキュリティの懸念からジョブが終了のフラグを立てられた場合、サービスはリクエストを拒否し、さらなる出力を停止します。この「フェイルクローズ」設定により、コントロールルームシステム自体がダウンタイムを経験した場合、すべての推論リクエストが拒否されることが保証されます。

展開と安全機能

コントロールルームはすでにOpenAIの研究インフラ全体に展開されており、監視の必要性が最も重要な場所です。このシステムはOpenAIのミスマッチ監視ツールと連携して機能し、他のシステムが失敗しても動作し続けるように設計されています。OpenAIは、外部のモデル提供スタックが本質的により中央集約的であり、必要に応じてモデルのデプロイメントを迅速に停止できると強調しました。

この開発は、Advanced AIシステムがもたらす課題に対処するOpenAIの取り組みを強調しており、安全性とセキュリティが研究運営の最前線にあることを保証しています。