OpenAI, AI 모델 워크로드 모니터링 및 중지를 위한 제어실 배포

OpenAI는 연구 인프라 전체에서 AI 모델 워크로드를 모니터링하고 중지하기 위한 중앙 집중식 시스템인 제어실을 도입했습니다. 이 시스템은 점점 더 강력해지는 AI 모델과 관련된 안전 및 보안 위험을 해결하기 위해 설계되었습니다. OpenAI에 따르면, 제어실은介入 결정 후 35초 이내에 모델 출력을 중단할 수 있어 잠재적인 문제에 신속하게 대응할 수 있습니다.

제어실 작동 방식

제어실은 워크로드, 추론 엔진 및 제어실 서비스라는 세 가지 주요 구성 요소를 통합합니다. 워크로드는 강화 학습 실험이나 데이터 처리 작업과 같은 실행 중인 작업을 나타냅니다. 추론 엔진은 GPU에서 직접 실행되어 모델을 실행합니다. 제어실 서비스는 작업을 추적하고 해당 작업이 출력을 생성하는 것을 계속 허용할 수 있는지를 결정합니다.

각 워크로드에는 고유한 작업 ID가 할당됩니다. 워크로드가 모델 출력을 요청하면 추론 엔진은 제어실 서비스와 권한을 확인합니다. 안전성 또는 보안 문제로 인해 작업이 종료 플래그가 설정되면 서비스는 요청을 거부하고 추가 출력을 중단합니다. 이 '페일 클로즈' 구성은 제어실 시스템 자체가 다운타임을 겪는 경우 모든 추론 요청이 거부되도록 보장합니다.

배포 및 안전 기능

제어실은 이미 OpenAI의 연구 인프라 전역에 배포되어 있으며, 모니터링의 필요성이 가장 중요한 곳입니다. 이 시스템은 OpenAI의 불일치 모니터링 도구와 함께 작동하며, 다른 시스템이 실패하더라도 계속 작동할 수 있도록 설계되었습니다. OpenAI는 외부 모델 제공 스택이 본질적으로 더 중앙 집중적이어야 하며, 필요할 때 모델 배포를 신속하게 중단할 수 있다고 강조했습니다.

이 개발은 고급 AI 시스템이 제기하는 문제에 대응하기 위한 OpenAI의 의지를 강조하며, 안전성과 보안이 연구 운영의 최전선에 있도록 보장하고 있습니다.