Google DeepMind Использует ИИ для Формальной Проверки Криптографического Кода Signal
Google DeepMind достиг значительного этапа в безопасности программного обеспечения, используя свою новую платформу AlphaProof Code для формальной проверки криптографического протокола, лежащего в основе Signal, широко используемой платформы обмена сообщениями. Это первый случай, когда ИИ был применен для проверки широко используемого криптографического протокола на такой глубине, что позволяет решить давнюю проблему в области кибербезопасности.
Код AlphaProof: Мультиагентная Структура
Код AlphaProof представляет собой мультиагентную структуру, которая сочетает экспертные знания человека с ИИ-агентами для выполнения формальной проверки, процесса математического доказательства того, что программное обеспечение работает без ошибок. Структура была применена к криптографическому протоколу Signal, генерируя более шести миллионов строк машинно-проверяемых доказательств на языке программирования Lean. Эта работа подтвердила ключевые свойства безопасности, включая секретность в будущем, аутентификацию и безопасность после компрометации, до уровня машинного кода.
Процесс начался с того, что исследователи и ИИ-агенты переводили цели безопасности Signal в формальные математические спецификации. Эксперты-человеки проверили эти спецификации, после чего ИИ-агенты, работающие на Gemini Carbon, самостоятельно сгенерировали доказательства. Автоматическая проверка Lean обеспечила точность этих доказательств, при этом эксперты-программисты проверили лишь один процент из базы кода, значительно снизив трудозатраты.
Решение Реальных Уязвимостей
В отличие от традиционных методов проверки, которые сосредоточены на проектировании протокола, Код AlphaProof сокращает разрыв между проектированием и внедрением. Это критически важно, поскольку уязвимости часто возникают на этапе реализации. Структура продемонстрировала свою надежность, успешно выявив уязвимости в изолированных версиях кода Signal с повторно введенными, ранее исправленными ошибками.
Процесс проверки, который исторически мог занять годы, был завершен всего за 4 недель. Эта эффективность подчеркивает потенциал ИИ делать формальную проверку практичной для систем реального мира, задача, ранее considered слишком трудоемкой и дорогостоящей.
Последствия для Кибербезопасности
Формально проверяя криптографический протокол Signal, Google DeepMind установила новый стандарт для обеспечения безопасности в цифровой связи. Криптографические протоколы являются основополагающими для онлайн-банкинга, веб-серфинга и других критически важных систем, что делает их безопасность первоочередной. Успех AlphaProof Code закладывает основы для применения аналогичных техник к другим жизненно важным системам, таким как программное обеспечение для медицинских устройств и электроэнергетических сетей.
Поскольку угрозы безопасности, основанные на ИИ, продолжают расти, возможность строго проверять программное обеспечение с автоматизированным доказательством теорем предлагает мощный инструмент для защиты от киберрисков. Google DeepMind также открыла исходные артефакты формальной проверки этого проекта, позволяя более широкой исследовательской сообществу развивать этот прорыв.