OpenAI Déploie une Salle de Contrôle pour Surveiller et Arrêter les Charges de Travail des Modèles IA

OpenAI a introduit un système centralisé appelé Salle de Contrôle pour surveiller et arrêter les charges de travail des modèles IA dans l'ensemble de son infrastructure de recherche. Le système est conçu pour répondre aux risques croissants de sécurité associés aux modèles d'IA de plus en plus puissants. Selon OpenAI, la Salle de Contrôle peut arrêter les sorties de modèles en 35 secondes après une décision d'intervention, garantissant une réponse rapide aux problèmes potentiels.

Comment Fonctionne la Salle de Contrôle

La Salle de Contrôle intègre trois composants clés : la charge de travail, le moteur d'inférence et le service de Salle de Contrôle. La charge de travail représente le travail en cours, comme les expériences d'apprentissage par renforcement ou les tâches de traitement de données. Le moteur d'inférence, qui fonctionne directement sur les GPU, exécute le modèle. Le service de Salle de Contrôle suit les travaux et décide s'ils sont autorisés à continuer à générer des sorties.

Chaque charge de travail se voit attribuer un identifiant de tâche unique. Lorsque une charge de travail demande une sortie de modèle, le moteur d'inférence vérifie avec le service de Salle de Contrôle pour obtenir l'autorisation. Si un travail a été signalé pour terminaison en raison de problèmes de sécurité, le service refuse la demande, stoppant ainsi les sorties supplémentaires. Cette configuration "fail-closed" garantit que toutes les demandes d'inférence sont refusées si le système de Salle de Contrôle connaît un temps d'arrêt.

Déploiement et Caractéristiques de Sécurité

La Salle de Contrôle est déjà déployée dans l'ensemble de l'infrastructure de recherche d'OpenAI, où le besoin de surveillance est le plus critique. Le système fonctionne en conjonction avec les outils de surveillance de désalignement d'OpenAI et est conçu pour rester opérationnel même si d'autres systèmes échouent. OpenAI a souligné que sa pile de service de modèles externes est intrinsèquement plus centralisée, permettant une suppression rapide des déploiements de modèles lorsque cela est nécessaire.

Ce développement souligne l'engagement d'OpenAI à relever les défis posés par les systèmes IA avancés, en veillant à ce que la sécurité et la protection restent au premier plan de ses opérations de recherche.