Google DeepMind utilise l'IA pour vérifier formellement le code cryptographique de Signal
Google DeepMind a atteint une étape significative dans la sécurité des logiciels en utilisant son nouveau cadre AlphaProof Code pour vérifier formellement le protocole cryptographique sous-jacent de Signal, une plateforme de messagerie largement utilisée. C'est la première fois que l'IA est employée pour vérifier un protocole cryptographique largement déployé à une telle profondeur, répondant à un défi de longue date en cybersécurité.
AlphaProof Code : un cadre multi-agents
Le Code AlphaProof est un cadre multi-agents qui intègre l'expertise humaine avec des agents IA pour effectuer la vérification formelle, le processus de preuve mathématique que le logiciel fonctionne sans défauts. Le cadre a été appliqué au protocole cryptographique de Signal, générant plus de six millions de lignes de preuves vérifiées par machine dans le langage de programmation Lean. Cet effort a validé des propriétés de sécurité clés, y compris la confidentialité à long terme, l'authentification et la sécurité post-compromission, jusqu'au niveau du code machine.
Le processus a commencé par la traduction des objectifs de sécurité de Signal en spécifications mathématiques formelles par des chercheurs et des agents IA. Des experts humains ont examiné ces spécifications, après quoi des agents IA alimentés par Gemini Carbon ont généré des preuves de manière autonome. La vérification automatisée de Lean a garanti l'exactitude de ces preuves, les experts humains n'ayant audité qu'un pourcentage du code source, réduisant ainsi considérablement l'effort manuel.
Traiter les vulnérabilités du monde réel
Contrairement aux méthodes de vérification traditionnelles qui se concentrent sur la conception du protocole, le Code AlphaProof comble le fossé entre la conception et la mise en œuvre. Cela est crucial car des vulnérabilités surgissent souvent lors de la phase de mise en œuvre. Le cadre a démontré sa robustesse en identifiant avec succès des insécurités dans des versions isolées du code de Signal contenant des bogues réintroduits, précédemment corrigés.
Le processus de vérification, qui aurait historiquement pu prendre des années, a été achevé en seulement 4 semaines. Cette efficacité met en lumière le potentiel de l'IA à rendre la vérification formelle pratique pour les systèmes du monde réel, une tâche auparavant considérée comme trop chronophage et coûteuse.
Implications pour la cybersécurité
En vérifiant formellement le protocole cryptographique de Signal, Google DeepMind a établi une nouvelle norme pour l'assurance de sécurité dans la communication digitale. Les protocoles cryptographiques sont fondamentaux pour la banque en ligne, la navigation web et d'autres systèmes critiques, rendant leur sécurité primordiale. Le succès du Code AlphaProof pave la voie à l'application de techniques similaires à d'autres systèmes vitaux, tels que le firmware des dispositifs médicaux et le logiciel des réseaux électriques.
Alors que les menaces de sécurité alimentées par l'IA continuent de croître, la capacité à vérifier rigoureusement les logiciels avec une preuve théorique automatisée offre un outil puissant pour défendre contre les risques cybernétiques. Google DeepMind a également open-sourcé les artefacts de vérification formelle de ce projet, permettant à la communauté de recherche plus large de s'appuyer sur cette avancée.