NVIDIA Implanta Agentes de IA para Otimizar Operações do DGX SuperPOD

A NVIDIA revelou seu Agente de Operações da Fábrica de IA, uma estrutura projetada para otimizar a gestão de sua infraestrutura DGX SuperPOD. Ao aproveitar agentes específicos de domínio impulsionados por IA, o sistema visa reduzir a carga de trabalho manual dos engenheiros de confiabilidade de site (SREs) e simplificar a análise de causas raiz em diferentes camadas de computação, rede, hardware e agendamento.

Estrutura Operacional Impulsionada por IA

O Agente de Operações da Fábrica de IA integra vários agentes especializados que se comunicam através do Protocolo de Contexto de Modelo (MCP), um padrão aberto introduzido pela Anthropic em 2024-11. Esse protocolo permite a interação perfeita entre aplicações de IA e ferramentas externas, permitindo que a NVIDIA maximize o tempo de atividade e o desempenho em seus ambientes de fábrica de IA. O sistema é construído em torno do projeto NemoClaw da NVIDIA, que orquestra agentes e ferramentas específicas de domínio através de uma interface de chat voltada para o usuário.

Os principais componentes da estrutura incluem:

• Agente de Recuperação de Trabalho: Identifica falhas em trabalhos de treinamento e realiza análise de causa raiz em múltiplas camadas.
• Agente de Hardware: Diagnostica problemas de hardware, como erros de PCIe, falhas de GPU e anomalias térmicas.
• Agente de Observabilidade: Gera dinamicamente painéis de controle usando logs do Prometheus e do Grafana Loki.
• Agente de Kubernetes: Fornece insights somente leitura sobre recursos do cluster e estados de agendamento.
• Agente de Gestão de Cluster: Interage com as APIs do NVIDIA Base Command Manager para diagnóstico e resolução de problemas de cluster.

O design modular permite que as organizações integrem agentes e infraestrutura adicionais sem alterar os componentes existentes. O sistema suporta implantação local e soberania de dados, com inferência de agente alimentada por modelos abertos NVIDIA Nemotron servidos localmente.

Arquitetura Técnica

O Agente de Operações da Fábrica de IA opera como uma aplicação do plano de controle Kubernetes. O Helm implementa a interface do usuário, o gateway OpenClaw, os servidores de ferramentas MCP, o ponto de extremidade de inferência e o runtime NVIDIA OpenShell como serviços Kubernetes. O runtime OpenShell garante execução segura e auditável, criando caixas de areia Kubernetes por sessão para comandos de shell, evitando acesso direto às credenciais do Kubernetes.

As medidas de segurança incluem controle de acesso baseado em funções (RBAC) e ferramentas de inspeção do lado do servidor, garantindo que os agentes operem dentro de permissões pré-definidas. Por exemplo, os agentes podem ler dados de pod e configmap, mas estão restritos a criar ou atualizar pods.

Benefícios Operacionais e Aprendizados

Em produção, os agentes da NVIDIA demonstraram a capacidade de detectar falhas, correlacionar causas raízes entre várias camadas e fornecer recomendações acionáveis por meio de uma interface de linguagem natural. Os principais aprendizados da implantação da NVIDIA incluem:

• Manter limites claros entre os agentes para evitar sobreposição de responsabilidades.
• Construir confiança através de operações somente leitura antes de introduzir automação.
• Melhorar a análise de causas raiz correlacionando sinais entre camadas de carga de trabalho, hardware e rede.
• Melhorar a precisão da roteação de ferramentas com definições precisas de MCP.
• Garantir transparência apresentando evidências e raciocínio para revisão de SRE.

Aplicações Futuras

Embora atualmente esteja implantado nos ambientes DGX SuperPOD da NVIDIA, a estrutura do Agente de Operações da Fábrica de IA foi projetada para escalabilidade e adaptabilidade. Organizações que operam fábricas de IA em grande escala podem implementar o sistema para unificar fluxos de trabalho operacionais, aumentar a observabilidade e reduzir a intervenção manual na gestão de infraestrutura.