Anthropic élargit l’accès des évaluateurs d’IA indépendants grâce à METR
Anthropic a déclaré le 15 octobre 2026 qu’elle avait commencé à donner un accès de type employé à une équipe de METR, une association à but non lucratif qui évalue les modèles de IA de pointe, dans le cadre d’un effort plus large visant à approfondir l’examen indépendant de ses pratiques de sécurité. L’entreprise a indiqué que METR publiera les résultats de ses évaluations des risques et que cet accord vise à accroître la responsabilité du public tout en protégeant les informations sensibles.
Preuves et contexte
Dans sa mise à jour, Anthropic a indiqué que l’équipe METR a été intégrée à du matériel de l’entreprise, à des espaces de bureau et à un accès à des outils et systèmes internes « à peu près équivalents » à ceux utilisés par ses propres équipes d’évaluation des risques. Anthropic a indiqué qu’en dehors de catégories étroitement définies telles que les données clients, les informations avocat-client privilégiées et les détails de l’architecture du modèle, les employés sont encouragés à partager les informations avec METR de la même manière qu’ils le feraient avec un collègue travaillant sur le risque d’alignement.
L’entreprise a indiqué que le METR peut publier son analyse des niveaux de risque, incidents ou pratiques d’Anthropic sans droit de veto d’Anthropic. Anthropic peut exiger des caviardages pour des informations relevant des catégories protégées prédéfinies, et le METR peut déclarer publiquement s’il estime que ces expurgations étaient justifiées, tant qu’il ne révèle pas le matériel expurgé. Anthropic a indiqué que l’engagement se limite à une petite équipe opérant sous des accords exécutoires et que d’autres employés du METR sont isolés du travail.
Anthropic a décrit trois paliers pour l’accès des évaluateurs. Le niveau un couvre les examens à portée étroite où Anthropic contrôle l’accès et la publication nécessitant l’approbation de l’entreprise. Le niveau deux permet plus d’accès et de publication sans approbation, tout en permettant des censurages de catégories spécifiées. Le niveau trois est le modèle de type employé désormais en place avec METR. Anthropic a indiqué que SecureBio est actuellement au niveau un, examinant le chapitre sur les armes chimiques et biologiques du rapport sur les risques d’août d’Anthropic après un examen pilote d’un rapport précédent, tandis que les discussions avec des organisations telles que Hugging Face sont encore en phase précoce.
L’entreprise a également indiqué qu’elle collabore avec Accenture et Faculty sur un partenariat d’évaluation intégré incluant des modèles de red-teaming, des évaluations d’alignement, des tests de garanties et le renforcement des capacités. Anthropic a déclaré que le programme est volontaire et a soutenu que chaque entreprise d’IA de pointe devrait adopter des arrangements d’évaluation indépendants similaires.
Cette mise à jour fait suite à l’annonce d’Anthropic le 18 septembre 2026 d’un partenariat d’évaluation intégrée avec Accenture. Dans cette divulgation antérieure, Anthropic a indiqué qu’elle financerait directement le travail d’Accenture, un détail de financement pertinent pour évaluer l’indépendance des évaluateurs. Des communiqués distincts de l’entreprise ont indiqué que les deux parties prévoient d’investir au moins $1 milliards sur cinq ans dans la sécurité IA ; ces chiffres sont des engagements prospectifs, pas des dépenses achevées.
Anthropic a présenté cet effort comme un moyen de combler l’écart d’information entre ce que les évaluateurs indépendants peuvent voir et ce qu’une entreprise d’IA de pointe sait de ses propres systèmes. L’entreprise a déclaré qu’elle ne pouvait pas partager publiquement toutes les informations pertinentes pour la sécurité car certains détails pourraient aider des acteurs malveillants ou impliquer des sensibilités commerciales, notamment les données de calcul et d’entraînement.