OpenAI startet Control Room zur Überwachung von KI-Arbeitslasten und Sicherheit

OpenAI hat Control Room vorgestellt, ein zentrales System, das zur Überwachung und Verwaltung von KI-Arbeitslasten in seiner Forschungsinfrastruktur entwickelt wurde. Das Werkzeug zielt darauf ab, wachsende Sicherheits- und Risikobedenken im Zusammenhang mit zunehmend leistungsstarken KI-Modellen zu adressieren, indem es bei Bedarf eine schnelle Intervention ermöglicht.

Wie Control Room die KI-Sicherheit verbessert

Control Room integriert sich in die Forschungsinfrastruktur von OpenAI, um alle Inferenzarbeitslasten zu verfolgen, einschließlich agentitischen Samplings für das Modelltraining, die Evaluierung und die Datenverarbeitung. Das System arbeitet in Verbindung mit Überwachungstools zur Fehlanpassung und kann die Modellausgaben innerhalb von 35 Sekunden nach einem Eingriffsbeschluss stoppen. Diese schnelle Reaktionsfähigkeit stellt sicher, dass potenzielle Sicherheits- oder Risikoprobleme schnell angegangen werden können.

Bemerkenswert ist, dass Control Room so konzipiert ist, dass er auch bei Systemausfällen weiter betrieben werden kann. Wenn der Control Room-Service offline geht, stoppt er automatisch die Modellausgaben, um unbeabsichtigte Folgen zu vermeiden.

Technische Architektur und Workflow

Das System funktioniert, indem es drei Schlüsselkomponenten koordiniert:

• Arbeitslast: Die spezifische Aufgabe, die ausgeführt wird, wie z. B. Experimente zum verstärkenden Lernen oder Datenverarbeitungsaufgaben. Jede Arbeitslast, die agentitische Inferenz umfasst, muss mit einem genehmigten Sicherheitsfall verknüpft sein.
• Inference Engine: Das Modell, das auf GPUs läuft und als das "Gehirn" des KI-Systems dient. Mehrere Arbeitslasten können denselben Inference Engine nutzen, und eine einzelne Arbeitslast kann mehrere Engines umfassen.
• Control Room Service: Ein zentrales System, das Jobs verfolgt und bestimmt, ob sie weiterhin Ausgaben generieren dürfen. Engines müssen sich vor der Erfüllung von Inferenzanfragen mit dem Control Room-Service absprechen. Wenn ein Job beendet wird, verweigert der Service die Anfrage, stoppt effektiv weitere Ausgaben.

Der Workflow beginnt, wenn ein Forscher einen neuen Job initiiert, dem Control Room eine eindeutige Job-ID zuweist. Während der Ausführung fragt die Arbeitslast beim Inference Engine nach Erlaubnis, der wiederum den Control Room-Service konsultiert. Wenn der Job zur Beendigung gekennzeichnet ist, verweigert der Service die Anfrage und stoppt alle damit verbundenen Modellaktivitäten.

Bereitstellung und betrieblichen Einfluss

Control Room ist bereits in OpenAIs Forschungsinfrastruktur implementiert, wo die Notwendigkeit für solch eine Aufsicht am kritischsten ist. Der externe Modellservice-Stack von OpenAI, der von Natur aus zentralisierter ist, weist ebenfalls robuste betriebliche Fähigkeiten auf, um Modelldeployments schnell herunterzufahren, falls erforderlich.

Diese Entwicklung unterstreicht OpenAIs Engagement, sicherzustellen, dass KI-Systeme unter menschlicher Kontrolle bleiben, insbesondere wenn ihre Fähigkeiten und die damit verbundenen Risiken weiter wachsen.