Le CISO d’Uber affirme que l’IA de la frontière a besoin d’une surveillance des menaces internes

Philip Martin, directeur de la sécurité de l’information chez Uber, a déclaré que les systèmes de IA de frontière nécessitent des contrôles de surveillance similaires à ceux des programmes de menaces internes que les entreprises mettent déjà en place pour les employés. Dans une interview publiée par Anthropic le 13 octobre 2026, Martin a soutenu que des modèles de plus en plus performants peuvent être orientés pour agir en dehors des contraintes attendues, faisant de la détection et de l’intervention en temps réel une exigence essentielle pour un déploiement sûr.

Preuves et contexte

Martin a déclaré que le plus grand changement dans les modèles frontières est leur capacité à absorber de grandes quantités de contexte sur de longues périodes et à produire des résultats plus spécifiques. Chez Uber, il a indiqué que cette capacité est appliquée aux revues de sécurité et à la modélisation des menaces en fournissant du code des modèles, des documents de conception, des problèmes Jira et un contexte historique des services. Il a également décrit un futur dans lequel chaque service disposerait d’un agent associé capable d’échanger des informations sur les modèles de menaces avec d’autres agents, en reflétant ainsi l’interaction des services de production.

L’interview précise également qu’Uber a collaboré avec Anthropic sur les protections de la frontière d’entreprise et que ces mesures permettent à Uber de garder le contrôle de ses données et de décider comment réagir si une sauvegarde est déclenchée. Martin a indiqué que la configuration de sécurité IA d’Uber combine sa passerelle LLM, qui établit un périmètre pour l’utilisation de l’IA, avec ses outils open source de détection et de réponse à l’IA, ou ADR, ainsi que les protections d’Anthropic. Le dépôt ADR d’Uber précise séparément que l’outil est déployé en production chez Uber et est conçu pour détecter les outils d’IA, observer l’activité des agents, tester les défenses et détecter les menaces ; le dépôt précise également que sa composante prévention ne fait pas partie de la version open source actuelle.

Martin a déclaré que les défenseurs devraient prioriser deux domaines : premièrement, intervenir en temps réel aussi près que possible de l’invite ou de l’appel à l’outil ; deuxièmement, identifier les schémas comportementaux émergents et réintégrer ces résultats dans les mesures de sécurité. Il a présenté cette approche comme un cycle dans lequel de nouveaux comportements modéliques sont détectés, des contre-mesures ajoutées, et d’autres comportements émergent alors sous les nouvelles contraintes.

Les commentaires sont notables car ils proviennent d’un entretien publié par un fournisseur plutôt que d’un audit indépendant des contrôles d’Uber. La source présente les points de vue de Martin sur le risque IA et l’architecture de sécurité d’Uber, mais elle ne fournit pas de métriques de performance, de données d’incident ni de vérification tierce de l’efficacité des garanties. SecurityWeek a rapporté séparément la nomination de Martin en tant que CISO d’Uber le 2026-06-26, mais cette date ne doit pas être considérée comme une date de début vérifiée pour son poste.

Source : claude.com.