O CISO da Uber afirma que a IA da fronteira precisa de monitoramento de ameaças internas

O diretor de segurança da informação da Uber, Philip Martin, disse que os sistemas de IA fronteiriça precisam de controles de monitoramento semelhantes aos programas de ameaças internas que as empresas já operam para funcionários. Em uma entrevista publicada pela Anthropic em 13 de outubro de 2026, Martin argumentou que modelos cada vez mais capazes podem ser direcionados para agir fora das restrições esperadas, tornando a detecção e intervenção em tempo real um requisito central para uma implantação segura.

Evidências e contexto

Martin disse que a maior mudança nos modelos de fronteira é sua capacidade de absorver grandes quantidades de contexto ao longo de longos horizontes de tempo e produzir resultados mais específicos. Na Uber, ele afirmou que essa capacidade está sendo aplicada a revisões de segurança e modelagem de ameaças, alimentando modelos de código, documentos de design, questões do Jira e contexto histórico de serviços. Ele também descreveu um futuro em que cada serviço tem um agente associado que pode trocar informações do modelo de ameaça com outros agentes, espelhando como os serviços de produção interagem.

A entrevista também afirma que a Uber trabalhou com a Anthropic nas Salvaguardas da Fronteira Empresarial e que essas salvaguardas permitem que a Uber mantenha o controle sobre seus dados e decida como responder caso uma salvaguarda seja acionada. Martin disse que a configuração de segurança de IA da Uber combina seu gateway LLM, que estabelece um perímetro para o uso da IA, com suas ferramentas open source de Detecção e Resposta à IA, ou ADR, e as salvaguardas da Anthropic. O repositório de ADR da Uber afirma separadamente que a ferramenta está implantada em produção na Uber e foi projetada para descobrir ferramentas de IA, observar a atividade dos agentes, comparar defesas e detectar ameaças; o repositório também observa que seu componente de prevenção não faz parte da versão atual de código aberto.

Martin disse que os defensores deveriam priorizar dois áreas: primeiro, intervir em tempo real o mais próximo possível do prompt ou da chamada de ferramenta; segundo, identificar padrões comportamentais emergentes e reintroduzir esses achados nas salvaguardas. Ele enquadrou a abordagem como um ciclo em que novos comportamentos do modelo são detectados, contramedidas são adicionadas e outros comportamentos surgem sob as novas restrições.

Os comentários são notáveis porque vêm de uma entrevista publicada pelo fornecedor, e não de uma auditoria independente dos controles da Uber. A fonte apresenta as opiniões de Martin sobre o risco IA e a arquitetura de segurança da Uber, mas não fornece métricas de desempenho, dados de incidentes ou verificação de terceiros sobre a eficácia das salvaguardas. A SecurityWeek informou separadamente a nomeação de Martin como CISO da Uber em 2026-06-26, mas essa data não deve ser tratada como uma data verificada de início para seu cargo.

Fonte: claude.com.