OpenAI Despliega Sala de Control para Monitorear y Detener Cargas de Trabajo de Modelos de IA
OpenAI ha introducido un sistema centralizado llamado Sala de Control para monitorear y detener las cargas de trabajo de modelos de IA en toda su infraestructura de investigación. El sistema está diseñado para abordar los crecientes riesgos de seguridad asociados con modelos de IA cada vez más poderosos. Según OpenAI, la Sala de Control puede detener las salidas de modelos en 35 segundos desde la decisión de intervenir, asegurando una respuesta rápida a problemas potenciales.
Cómo Funciona la Sala de Control
La Sala de Control integra tres componentes clave: la carga de trabajo, el motor de inferencia y el servicio de Sala de Control. La carga de trabajo representa el trabajo que se está ejecutando, como experimentos de aprendizaje por refuerzo o tareas de procesamiento de datos. El motor de inferencia, que se ejecuta directamente en GPUs, ejecuta el modelo. El servicio de Sala de Control rastrea trabajos y determina si se les permite continuar generando salidas.
A cada carga de trabajo se le asigna una ID de trabajo única. Cuando una carga de trabajo solicita salida del modelo, el motor de inferencia consulta con el servicio de Sala de Control para autorización. Si un trabajo ha sido marcado para terminación debido a preocupaciones de seguridad, el servicio niega la solicitud, deteniendo más salidas. Esta configuración de "cerrar en caso de fallo" asegura que todas las solicitudes de inferencia sean rechazadas si el sistema de Sala de Control experimenta inactividad.
Despliegue y Características de Seguridad
La Sala de Control ya está desplegada en toda la infraestructura de investigación de OpenAI, donde la necesidad de monitoreo es más crítica. El sistema funciona junto con las herramientas de monitoreo de desalineación de OpenAI y está diseñado para permanecer operativo incluso si otros sistemas fallan. OpenAI destacó que su pila de servicios de modelos externos es inherentemente más centralizada, permitiendo una rápida eliminación de implementaciones de modelos cuando sea necesario.
Este desarrollo subraya el compromiso de OpenAI para abordar los desafíos que plantean los sistemas de IA avanzados, asegurando que la seguridad y la protección permanezcan al frente de sus operaciones de investigación.