NVIDIAがAIエージェントを展開し、DGX SuperPODの運用最適化を実現

NVIDIAは、DGX SuperPODインフラストラクチャの管理を最適化するために設計されたAIファクトリーオペレーションエージェントを発表しました。AI駆動のドメイン特化型エージェントを活用することで、システムはサイト信頼性エンジニア（SRE）の手作業負荷を軽減し、計算、ネットワーク、ハードウェア、スケジューリング層全体にわたる根本原因分析を効率化することを目指しています。

AI駆動の運用フレームワーク

AIファクトリーオペレーションエージェントは、2024-11にAnthropicによって導入されたオープンスタンダードであるモデルコンテキストプロトコル（MCP）を介して通信する複数の専門エージェントを統合しています。このプロトコルにより、AIアプリケーションと外部ツール間のシームレスな相互作用が可能になり、NVIDIAはAIファクトリー環境での稼働率とパフォーマンスを最大化することができます。このシステムは、ドメイン特化型エージェントとツールをユーザー向けのチャットインターフェースを通じて調整するNVIDIAのNemoClawブループリントに基づいて構築されています。

フレームワークの主要コンポーネントには以下が含まれます：

• ジョブ回復エージェント：トレーニングジョブの失敗を特定し、マルチレイヤーの根本原因分析を行います。
• ハードウェアエージェント：PCIeエラー、GPU障害、熱異常などのハードウェアの問題を診断します。
• 可観測性エージェント：PrometheusとGrafana Lokiのログを使用してダッシュボードを動的に生成します。
• Kubernetesエージェント：クラスターリソースとスケジューリング状態への読み取り専用の洞察を提供します。
• クラスター管理エージェント：NVIDIA Base Command Manager APIとインターフェースし、クラスターの診断とトラブルシューティングを行います。

モジュラー設計により、組織は既存のコンポーネントを変更することなく、追加のエージェントやインフラを統合できます。このシステムは、オンプレミスのデプロイメントとデータ主権をサポートし、エージェントの推論はローカルで提供されるNVIDIA Nemotronオープンモデルによって動かされます。

技術アーキテクチャ

AIファクトリーオペレーションエージェントは、Kubernetesコントロールプレーンアプリケーションとして機能します。Helmはユーザーインターフェース、OpenClawゲートウェイ、MCPツールサーバー、推論エンドポイント、およびNVIDIA OpenShellランタイムをKubernetesサービスとしてデプロイします。OpenShellランタイムは、セッションごとのKubernetesサンドボックスを作成することで安全で監査可能な実行を保証し、Kubernetes資格情報への直接アクセスを回避します。

セキュリティ対策には、役割ベースのアクセス制御（RBAC）やサーバーサイドの検査ツールが含まれており、エージェントが事前定義された権限内で動作することを保証します。たとえば、エージェントはポッドやコンフィグマップデータを読み取ることができますが、ポッドを作成または更新することは制限されています。

運用の利点と学び

実稼働において、NVIDIAのエージェントは失敗を検出し、複数のレイヤーにわたって根本原因を相関させ、自然言語インターフェースを通じて行動可能な推奨を提供する能力を示しました。NVIDIAの展開から得られた主要な学びには以下が含まれます：

• エージェントの責任範囲を明確に保つことを維持します。
• 自動化を導入する前に、読み取り専用の操作を通じて信頼を築きます。
• ワークロード、ハードウェア、ネットワーク層を通じて信号を相関させることで根本原因分析を強化します。
• 正確なMCP定義によりツールのルーティング精度を向上させます。
• SREのレビューのために証拠と理由を提示することで透明性を確保します。

将来のアプリケーション

現在、NVIDIAのDGX SuperPOD環境内に展開されていますが、AIファクトリーオペレーションエージェントフレームワークはスケーラビリティと適応性を念頭に設計されています。大規模なAIファクトリーを運営する組織は、運用ワークフローを統一し、可観測性を向上させ、インフラ管理における手動介入を減少させるために、このシステムを実装できます。