Uber CISO afirma que la IA de la frontera necesita monitorización de amenazas internas
Philip Martin, director de seguridad de la información de Uber, afirmó que los sistemas de IA frontera necesitan controles de monitorización similares a los programas de amenazas internas que las empresas ya gestionan para los empleados. En una entrevista publicada por Anthropic el 13 de octubre de 2026, Martin argumentó que los modelos cada vez más capaces pueden ser dirigidos para actuar fuera de las limitaciones esperadas, haciendo de la detección e intervención en tiempo real un requisito fundamental para un despliegue seguro.
Evidencia y contexto
Martin afirmó que el mayor cambio en los modelos de frontera es su capacidad para absorber grandes cantidades de contexto a largo plazo y producir resultados más específicos. En Uber, dijo que esa capacidad se está aplicando a revisiones de seguridad y modelado de amenazas alimentando los modelos con código, documentos de diseño, cuestiones de Jira y contexto histórico de servicios. También describió un futuro en el que cada servicio tendrá un agente asociado que puede intercambiar información de modelos de amenazas con otros agentes, reflejando cómo interactúan los servicios de producción.
La entrevista también señala que Uber colaboró con Anthropic en las salvaguardas de Enterprise Frontier y que esas salvaguardas permiten a Uber mantener el control sobre sus datos y decidir cómo responder si se activa una salvaguarda. Martin dijo que la configuración de seguridad de IA de Uber combina su gateway LLM, que establece un perímetro para el uso de la IA, con su herramienta de código abierto de Detección y Respuesta a la IA, o ADR, y las salvaguardas de Anthropic. El repositorio ADR de Uber afirma por separado que la herramienta está desplegada en producción en Uber y está diseñada para descubrir herramientas de IA, observar la actividad de agentes, comparar defensas y detectar amenazas; el repositorio también señala que su componente de prevención no forma parte de la versión actual de código abierto.
Martin dijo que los defensores deberían priorizar dos áreas: primero, intervenir en tiempo real lo más cerca posible del prompt o la llamada de herramienta; segundo, identificar patrones de comportamiento emergentes y reintroducir esos hallazgos en las salvaguardas. Enmarcó el enfoque como un ciclo en el que se detectan nuevos comportamientos en el modelo, se añaden contramedidas y luego surgen otros comportamientos bajo las nuevas restricciones.
Los comentarios son notables porque provienen de una entrevista publicada por un proveedor y no de una auditoría independiente de los controles de Uber. La fuente presenta la opinión de Martin sobre el riesgo IA y la arquitectura de seguridad de Uber, pero no proporciona métricas de rendimiento, datos de incidentes ni verificación de terceros sobre la efectividad de las salvaguardas. SecurityWeek informó por separado del nombramiento de Martin como CISO de Uber el 2026-06-26, pero esa fecha no debe considerarse una fecha de inicio verificada para su puesto.
Fuente: claude.com.