Anthropic erweitert den unabhängigen Zugang zu KI-Evaluatoren mit METR
Anthropic erklärte am 15. Oktober 2026, dass es begonnen habe, einem Team von METR, einer gemeinnützigen Organisation zur Bewertung von Frontier KI Modellen, einen mitarbeiterähnlichen Zugang zu gewähren, um die unabhängige Überprüfung seiner Sicherheitspraktiken zu vertiefen. Das Unternehmen erklärte, dass METR die Ergebnisse seiner Risikobewertungen veröffentlichen werde und dass die Vereinbarung darauf abziele, die öffentliche Rechenschaftspflicht zu erhöhen und gleichzeitig sensible Informationen zu schützen.
Beweise und Kontext
In seinem Update teilte Anthropic mit, dass das METR-Team mit Firmenhardware, Büroflächen und Zugang zu internen Werkzeugen und Systemen ausgestattet wurde, die "ungefähr auf dem gleichen Niveau" mit denen der eigenen Risikobewertungsteams sind. Anthropic erklärte, dass Mitarbeiter außerhalb enger definierter Kategorien wie Kundendaten, Anwalt-Mandanten-Privilegieninformationen und Details der Modellarchitektur ermutigt werden, Informationen mit METR zu teilen, ähnlich wie sie es mit einem Kollegen tun würden, der an Ausrichtungsrisiken arbeitet.
Das Unternehmen erklärte, dass METR seine Analyse der Risikostufen, Vorfälle oder Praktiken von Anthropic veröffentlichen kann, ohne ein Veto von Anthropic. Anthropic kann Schwärzungen für Informationen verlangen, die in die vordefinierten geschützten Kategorien fallen, und METR kann öffentlich angeben, ob es diese Schwärzungen für gerechtfertigt hält, solange das geschwärzte Material nicht offengelegt wird. Anthropic erklärte, dass der Einsatz auf ein kleines Team beschränkt sei, das unter durchsetzbaren Vereinbarungen arbeitet, und dass andere METR-Mitarbeiter von der Arbeit isoliert seien.
Anthropic beschrieb drei Stufen für den Zugriff von Evaluatoren. Stufe eins umfasst eng gefasste Überprüfungen, bei denen Anthropic den Zugang kontrolliert und die Veröffentlichung die Zustimmung des Unternehmens erfordert. Stufe zwei erlaubt mehr Zugang und Veröffentlichung ohne Genehmigung, erlaubt aber dennoch die Schwärzung bestimmter Kategorien. Stufe drei ist das mitarbeiterähnliche Modell, das derzeit bei METR gilt. Anthropic erklärte, dass SecureBio derzeit in Stufe eins ist und das Kapitel über chemische und biologische Waffen im August Risikobericht von Anthropic nach einer Pilotüberprüfung eines früheren Berichts überprüft, während Gespräche mit Organisationen wie Hugging Face noch in einer frühen Phase sind.
Das Unternehmen teilte außerdem mit, dass es mit Accenture und Faculty an einer eingebetteten Evaluierungspartnerschaft arbeitet, die Red-Teaming-Modelle, Ausrichtungsbewertungen, Safeguards-Tests und Kompetenzaufbau umfasst. Anthropic erklärte, das Programm sei freiwillig und argumentierte, dass jedes Frontier-KI-Unternehmen ähnliche unabhängige Bewertungsvereinbarungen einführen sollte.
Das Update folgt auf Anthropics 18. September 2026 Ankündigung einer eingebetteten Evaluierungspartnerschaft mit Accenture. In dieser früheren Offenlegung erklärte Anthropic, dass es die Arbeit von Accenture direkt finanzieren werde, ein Finanzierungsdetail, das bei der Bewertung der Unabhängigkeit von Evaluatoren relevant ist. Separate Unternehmenserklärungen besagten, dass beide Seiten in fünf Jahren mindestens $1 Milliarden in KI Sicherheit investieren wollen; diese Zahlen sind potenzielle Verpflichtungen, nicht abgeschlossene Ausgaben.
Anthropic stellte die Initiative als Mittel dar, die Informationslücke zwischen dem, was unabhängige Prüfer sehen können, und dem, was ein Pionier-KI-Unternehmen über seine eigenen Systeme weiß, zu schließen. Das Unternehmen erklärte, es könne nicht alle sicherheitsrelevanten Informationen öffentlich teilen, da einige Details böswilligen Akteuren helfen oder kommerzielle Sensitivitäten wie Rechen- und Trainingsdaten betreffen könnten.