Google DeepMind представила AlphaProof Code — мультиагентную систему для формальной верификации программ. В отличие от обычного тестирования отдельных сценариев, этот подход позволяет математически доказать, что код соответствует требованиям безопасности.
Свойства программы описывают на языке математики, а затем доказывают, что они выполняются при любых допустимых входных данных. Метод считается одним из самых строгих способов проверки ПО, но применяется редко: он требует много времени и участия узких специалистов.

Google утверждает, что AlphaProof Code впервые позволила использовать ИИ для формальной верификации программы. Систему применили к криптографическому протоколу Signal, который обеспечивает защищённый обмен сообщениями в Signal и используется в Google Messages.
Агенты на базе Gemini 4 Carbon написали более шести миллионов строк на языке Lean — инструменте для записи математических доказательств. Затем система проверила результат и отметила участки, требующие оценки человека. Таких фрагментов оказалось около 1%.
Работа заняла четыре недели. По оценке Google, экспертным командам задача сопоставимого масштаба обычно потребовала бы годы. Человеческий контроль при этом остаётся необходимым: специалистам предстоит проверить отмеченные участки.
В DeepMind считают, что подход можно распространить на другие критически важные системы. На фоне роста сложности кибератак формальная верификация может стать способом обеспечить более строгие гарантии безопасности.
