Anthropic amplía el acceso de evaluadores de IA independientes con METR
Anthropic anunció el 15 de octubre de 2026 que ha comenzado a dar acceso similar al de los empleados a un equipo de METR, una organización sin ánimo de lucro que evalúa modelos de IA de vanguardia, como parte de un esfuerzo más amplio para profundizar en la revisión independiente de sus prácticas de seguridad. La empresa afirmó que METR publicará los resultados de sus evaluaciones de riesgos y que el acuerdo pretende aumentar la responsabilidad pública al tiempo que protege información sensible.
Evidencia y contexto
En su actualización, Anthropic indicó que el equipo de METR ha incorporado hardware de la empresa, espacio de oficina y acceso a herramientas y sistemas internos que están "aproximadamente a la par de los usados" por sus propios equipos de evaluación de riesgos. Anthropic señaló que, fuera de categorías estrechamente definidas como datos de clientes, información privilegiada entre abogado y cliente y detalles de la arquitectura del modelo, se anima a los empleados a compartir información con METR de la misma manera que lo harían con un colega que trabaje en riesgos de alineación.
La empresa indicó que METR puede publicar su análisis de los niveles de riesgo, incidentes o prácticas de Anthropic sin un veto de Anthropic. Anthropic puede exigir redacciones para la información que se encuentre dentro de las categorías protegidas predefinidas, y METR puede declarar públicamente si considera que esas redacciones estaban justificadas, siempre que no revele el material tachado. Anthropic dijo que el compromiso se limita a un pequeño equipo que opera bajo acuerdos exigibles y que otros empleados de METR están aislados del trabajo.
Anthropic describió tres niveles para el acceso de los evaluadores. El primer nivel uno cubre revisiones de alcance limitado donde Anthropic controla el acceso y la publicación requieren la aprobación de la empresa. El nivel dos permite más acceso y publicación sin aprobación, aunque aún permite la redacción de categorías específicas. El tres nivel es el modelo de empleados que ahora está en vigor con METR. Anthropic dijo que SecureBio está actualmente en uno nivel, revisando el capítulo de armas químicas y biológicas del Informe de Riesgos de agosto de Anthropic tras una revisión piloto de un informe anterior, mientras que las conversaciones con organizaciones como Hugging Face aún están en fase inicial.
La empresa también afirmó que está trabajando con Accenture y Faculty en una asociación de evaluación integrada que incluye modelos de red-teaming, evaluaciones de alineación, pruebas de salvaguardas y desarrollo de capacidades. Anthropic afirmó que el programa es voluntario y argumentó que toda empresa de IA pionera debería adoptar arreglos de evaluación independientes similares.
La actualización sigue al anuncio de Anthropic el 18 de septiembre de 2026 de una asociación de evaluación integrada con Accenture. En esa divulgación anterior, Anthropic dijo que financiaría directamente el trabajo de Accenture, un detalle de financiación relevante para evaluar la independencia del evaluador. Comunicados separados de la empresa indicaron que ambas partes esperan invertir al menos $1 mil millones en cinco años en seguridad IA; esas cifras son compromisos prospectivos, no gastos completados.
Anthropic enmarcó el esfuerzo como una forma de cerrar la brecha de información entre lo que los evaluadores independientes pueden ver y lo que una empresa de IA de vanguardia sabe sobre sus propios sistemas. La empresa afirmó que no puede compartir públicamente toda la información relevante para la seguridad porque algunos detalles podrían ayudar a actores maliciosos o implicar sensibilidades comerciales, incluyendo datos de computación y entrenamiento.