OpenAI Implementa Sala de Controle para Monitorar e Parar Cargas de Trabalho de Modelos de IA

A OpenAI introduziu um sistema centralizado chamado Sala de Controle para monitorar e interromper cargas de trabalho de modelos de IA em toda sua infraestrutura de pesquisa. O sistema é projetado para lidar com os crescentes riscos de segurança e proteção associados a modelos de IA cada vez mais poderosos. De acordo com a OpenAI, a Sala de Controle pode parar as saídas do modelo em 35 segundos após a decisão de intervir, garantindo uma resposta rápida a potenciais problemas.

Como a Sala de Controle Funciona

A Sala de Controle integra três componentes principais: a carga de trabalho, o motor de inferência e o serviço da Sala de Controle. A carga de trabalho representa o trabalho que está sendo executado, como experimentos de aprendizado por reforço ou tarefas de processamento de dados. O motor de inferência, que é executado diretamente em GPUs, executa o modelo. O serviço da Sala de Controle rastreia os trabalhos e determina se eles podem continuar gerando saídas.

Cada carga de trabalho é atribuída a um ID de trabalho único. Quando uma carga de trabalho solicita a saída do modelo, o motor de inferência verifica com o serviço da Sala de Controle para autorização. Se um trabalho foi sinalizado para término devido a preocupações de segurança ou proteção, o serviço nega a solicitação, interrompendo mais saídas. Esta configuração "fail-closed" garante que todas as solicitações de inferência sejam negadas se o sistema da Sala de Controle experimentar downtime.

Recursos de Implantação e Segurança

A Sala de Controle já está implantada em toda a infraestrutura de pesquisa da OpenAI, onde a necessidade de monitoramento é mais crítica. O sistema funciona em conjunto com as ferramentas de monitoramento de desalinhamento da OpenAI e é projetado para permanecer operacional mesmo se outros sistemas falharem. A OpenAI destacou que sua pilha de fornecimento de modelos externos é inerentemente mais centralizada, permitindo uma rápida interrupção das implantações de modelos quando necessário.

Este desenvolvimento destaca o compromisso da OpenAI em abordar os desafios impostos por sistemas de IA avançados, garantindo que a segurança e proteção permaneçam na vanguarda de suas operações de pesquisa.