Uber CISO sagt, Frontier KI brauche eine Überwachung von Insiderbedrohungen

Ubers Chief Information Security Officer, Philip Martin, sagte, dass Frontier-KI-Systeme Überwachungskontrollen benötigen, die den bereits bestehenden Insider-Bedrohungsprogrammen für Mitarbeiter ähneln. In einem Interview, das Anthropic am 13. Oktober 2026 veröffentlicht hat, argumentierte Martin, dass immer leistungsfähigere Modelle so gesteuert werden können, außerhalb der erwarteten Einschränkungen zu handeln, wodurch Echtzeiterkennung und -intervention zu einer zentralen Voraussetzung für eine sichere Bereitstellung werden.

Beweise und Kontext

Martin sagte, die größte Veränderung bei Frontier-Modellen sei ihre Fähigkeit, große Mengen an Kontext über lange Zeiträume zu absorbieren und spezifischere Ergebnisse zu liefern. Bei Uber sagte er, dass diese Fähigkeit auf Sicherheitsprüfungen und Bedrohungsmodellierungen angewandt werde, indem Modellcode, Designdokumente, Jira-Themen und historischer Servicekontext eingespeist werden. Er beschrieb außerdem eine Zukunft, in der jeder Dienst einen zugehörigen Agenten hat, der Bedrohungsmodellinformationen mit anderen Agenten austauschen kann, was die Interaktion von Produktionsdiensten widerspiegelt.

Im Interview heißt außerdem, dass Uber mit Anthropic an Enterprise Frontier Safeguards zusammengearbeitet hat und dass diese Schutzmaßnahmen es Uber ermöglichen, die Kontrolle über seine Daten zu behalten und zu entscheiden, wie es reagiert, falls eine Sicherheitsvorkehrung ausgelöst wird. Martin sagte, dass Ubers KI-Sicherheitssystem sein LLM-Gateway, das einen Perimeter für den Einsatz von KI schafft, mit den Open-Source-Tools von KI Detection and Response, oder ADR, und den Schutzmaßnahmen von Anthropic kombiniert. Das ADR-Repository von Uber gibt separat an, dass das Tool in der Produktion bei Uber eingesetzt wird und darauf ausgelegt ist, KI-Tools zu entdecken, Agentenaktivität zu beobachten, Verteidigungen zu benchmarken und Bedrohungen zu erkennen; das Repository weist außerdem darauf hin, dass seine Präventionskomponente nicht Teil der aktuellen Open-Source-Version ist.

Martin sagte, die Verteidiger sollten zwei Bereiche priorisieren: Erstens, in Echtzeit so nah wie möglich an der Aufforderung oder dem Tool Call einzugreifen; zweitens, aufkommende Verhaltensmuster zu identifizieren und diese Erkenntnisse in Safeguards zurückzufügen. Er stellte den Ansatz als einen Kreislauf dar, in dem neue Modellverhalten erkannt, Gegenmaßnahmen hinzugefügt werden und andere Verhaltensweisen unter den neuen Einschränkungen entstehen.

Die Kommentare sind bemerkenswert, weil sie aus einem vom Anbieter veröffentlichten Interview stammen und nicht aus einer unabhängigen Überprüfung der Kontrollmechanismen von Uber. Die Quelle stellt Martins Ansichten zu KI Risiko und Ubers Sicherheitsarchitektur dar, liefert jedoch keine Leistungskennzahlen, Vorfalldaten oder eine Überprüfung der Wirksamkeit der Schutzmaßnahmen durch Dritte. SecurityWeek berichtete separat von Martins Ernennung zum Uber CISO am 2026-06-26, aber dieses Datum sollte nicht als verifizierter Starttermin für seine Rolle behandelt werden.

Quelle: claude.com.