Исследователи Google DeepMind использовали агентный ИИ, чтобы математически доказать — формально верифицировать — ряд ключевых криптографических гарантий протокола Signal. Об этом сообщает Ars Technica со ссылкой на материал WIRED. Работа важна с двух сторон: она даёт дополнительную независимую проверку криптографии, защищающей переписку в Signal, Google Messages и WhatsApp, и демонстрирует возможности нового ИИ-фреймворка DeepMind под названием AlphaProof Code.
Проект задумывался как своего рода proof-of-concept и занял всего четыре недели. По данным Ars Technica, анализ не обнаружил новых уязвимостей в тех частях протокола Signal, которые рассматривались исследователями.
Что именно проверили
Речь идёт о формальной верификации: математическими методами проверяется, что программное обеспечение работает так, как задумано, и не содержит критических уязвимостей. Сторонники этого подхода давно называют его своего рода святым граалем безопасности ПО, поскольку он позволяет доказывать свойства кода, а не полагаться только на тестирование.
Как отмечает Ars Technica, охват работы был ограничен: исследователи не верифицировали всё мобильное приложение Signal целиком. Сами сотрудники DeepMind подчёркивают, что их результат — лишь один из этапов более масштабного процесса.
«Мы очень воодушевлены этим результатом, но предстоит пройти долгий путь, прежде чем мы сможем масштабировать это на всё программное обеспечение мира, и мы хотим этого», — приводит Ars Technica слова научного сотрудника DeepMind Сварата Чаудхури.
Проверка на старых версиях
Отдельный показательный эпизод: когда исследователи применили AlphaProof Code к старым версиям Signal, содержащим известные и давно исправленные уязвимости, инструмент корректно их выявил и показал, что протокол в таком виде не может быть формально верифицирован. Это подтверждает, что метод реагирует на реальные проблемы, а не просто подтверждает заранее ожидаемый результат.
Исследователи также публикуют спецификацию и доказательство, разработанные в ходе анализа протокола Signal, чтобы помочь другим работам по формальной верификации.
Роль Signal Foundation и скорость работы
По данным Ars Technica, скорость проекта отчасти объясняется тем, что у DeepMind была фора: Signal Foundation ранее уже проводила определённую работу по формальной верификации.
«Хотя предыдущая формальная верификация охватывала меньшие части кода, подход Google DeepMind позволяет существенно расширить охват», — заявил технический директор Signal Эрен Крет.
Он добавил, что по мере роста угроз безопасности на основе ИИ строгая проверка реализации протокола Signal даёт больше уверенности в гарантиях приватности кода.
Человек и ИИ в процессе доказательства
Одно из ключевых достижений, по словам исследователей, — выработка процесса совместной работы человека и ИИ. Агенты могут вносить вклад и самостоятельно исправлять ошибки почти на каждой стадии, но на ключевых этапах по-прежнему требуется участие и проверка человека.
«Мы не хотим такого мира, где ИИ ставит цели, ИИ генерирует доказательства и по сути проходит тесты, написанные им же самим», — пояснил Чаудхури, говоря о необходимости промежуточного варианта.
Что остаётся открытым
Более широкий вопрос для всей отрасли — можно ли масштабировать автоматизированную ИИ-верификацию и будет ли это экономически целесообразно. DeepMind провела анализ Signal бесплатно в рамках исследовательского проекта; Google отказалась раскрыть стоимость работы. Компания также не стала комментировать, планирует ли выпускать коммерческий продукт или сервис формальной верификации.
Для критически важных сервисов возможность формально верифицировать всю кодовую базу и цепочки поставок ПО выглядела бы идеальным сценарием. По словам главного научного сотрудника Google Cloud и вице-президента по исследованиям DeepMind Пушмита Кохли, если удаётся проверить корректность реализаций, можно быть спокойным — банки и другие компании, которые зависят от гарантий и беспокоятся об ошибках, могли бы заявлять, что способны доказать нужные свойства.
Что это значит
Проект DeepMind показывает, что агентный ИИ способен заметно ускорить трудоёмкую часть формальной верификации, и одновременно очерчивает границы: проверена лишь часть протокола Signal, а не приложение целиком. Пока это исследовательский proof-of-concept, а не готовый к массовому применению продукт. Вопросы масштабируемости, стоимости и применимости к большим кодовым базам остаются открытыми, но сам факт независимой математической проверки криптографических гарантий Signal — значимый шаг для практики безопасности.

Комментарии · 0
Войдите, чтобы участвовать в обсуждении.