OpenAI Развертывает Управляющую Комнату для Мониторинга и Остановки Работ Моделей ИИ
OpenAI представила централизованную систему под названием Управляющая Комната для мониторинга и остановки рабочих нагрузок моделей ИИ по всей своей исследовательской инфраструктуре. Система разработана для реагирования на растущие риски безопасности и защиты, связанные с все более мощными моделями ИИ. По словам OpenAI, Управляющая Комната может остановить выводы модели в течение 35 секунд после решения вмешаться, обеспечивая быструю реакцию на потенциальные проблемы.
Как Работает Управляющая Комната
Управляющая Комната объединяет три ключевых компонента: рабочая нагрузка, движок вывода и сервис Управляющей Комнаты. Рабочая нагрузка представляет собой выполняемую задачу, такую как эксперименты с обучение с подкреплением или задачи обработки данных. Движок вывода, который работает непосредственно на графических процессорах (GPU), выполняет модель. Сервис Управляющей Комнаты отслеживает задания и определяет, могут ли они продолжать генерировать выводы.
Каждой рабочей нагрузке присваивается уникальный ID задачи. Когда рабочая нагрузка запрашивает вывод модели, движок вывода проверяет с сервисом Управляющей Комнаты на предмет разрешения. Если задача была отмечена для завершения из-за проблем с безопасностью или защитой, сервис отказывает в запросе, останавливая дальнейший вывод. Эта конфигурация "fail-closed" гарантирует, что все запросы на вывод будут отклонены, если сам система Управляющей Комнаты будет иметь временные отключения.
Внедрение и Функции Безопасности
Управляющая Комната уже развернута по всей исследовательской инфраструктуре OpenAI, где необходимость мониторинга наиболее критична. Система работает в связке с инструментами мониторинга несоответствия OpenAI и спроектирована таким образом, чтобы оставаться работоспособной, даже если другие системы выходят из строя. OpenAI подчеркнула, что ее внешняя система предоставления моделей по своей природе более централизованна, что позволяет быстро отключать развертывания моделей по мере необходимости.
Это развитие подчеркивает приверженность OpenAI решению проблем, возникающих из-за продвинутых систем ИИ, гарантируя, что безопасность и защита остаются на переднем плане ее исследовательских операций.