Еще несколько месяцев назад большая часть разговоров об использовании искусственного интеллекта в кибербезопасности звучала скорее как маркетинг. Нейросети уже помогали писать код, анализировать журналы событий и автоматизировать часть рутинных задач, но к идее, что ИИ сможет системно находить серьезные уязвимости в больших программных системах, многие специалисты относились осторожно.
Теперь ситуация начинает меняться.
Опубликованный командой безопасности Mozilla технический разбор работы с ИИ-поиском уязвимостей показывает, что за последние месяцы произошел качественный сдвиг. Речь идет уже не о генерации «правдоподобных» отчетов об ошибках, а о реальном обнаружении сложных проблем безопасности в крупной кодовой базе браузера Firefox.
По данным Mozilla, только в Firefox 150 было исправлено 271 уязвимость, найденная с помощью системы Claude Mythos Preview и связанной с ней инфраструктуры автоматической проверки. Из них 180 получили высокий рейтинг опасности. Для сравнения: обычный объем исправлений безопасности в подобных циклах значительно ниже.
Но важны даже не цифры сами по себе.
Главное — характер найденных ошибок.
Mozilla описывает случаи, когда ИИ помогал обнаруживать уязвимости, существовавшие в коде 15–20 лет, включая проблемы в механизмах изоляции процессов, обработке веб-контента и управлении памятью. В некоторых случаях речь шла о потенциальных сценариях выхода из sandbox — изолированной среды браузера, предназначенной для ограничения последствий взлома.
Особенно показательно, что часть этих ошибок ранее не обнаруживалась даже фаззингом — автоматизированным методом тестирования, при котором программа получает огромные объемы случайных или специально искаженных входных данных в поисках сбоев.
Это означает, что современные ИИ-системы начинают работать не только как генераторы тестов, но и как инструменты исследования архитектуры программ.
Именно здесь начинается наиболее важное изменение.
На протяжении десятилетий поиск серьезных уязвимостей оставался сложной интеллектуальной задачей, требующей высокой квалификации, большого количества времени и глубокого понимания внутренней логики программных систем. Даже крупные команды безопасности физически не могли полноценно исследовать весь объем старого кода, на котором построена современная цифровая инфраструктура.
Сегодня значительная часть мирового программного обеспечения содержит фрагменты, создававшиеся десятилетиями разными командами, на разных языках и в разных технологических эпохах. Внутри этих систем неизбежно накапливаются ошибки, часть которых может оставаться незамеченной годами.
ИИ начинает менять именно масштаб исследования таких систем.
Связка языковой модели, автоматической генерации гипотез, воспроизводимых тестовых сценариев, виртуализированной среды проверки и автоматической сортировки результатов превращает поиск уязвимостей из почти ремесленного процесса в вычислительную задачу.
И это означает, что кибербезопасность постепенно становится вопросом вычислительных возможностей и инфраструктуры.
Тот, кто способен быстрее анализировать огромные массивы старого кода, получает стратегическое преимущество. Причем речь идет не только о защите собственных систем. Любой инструмент, способный эффективно находить уязвимости, потенциально может использоваться и для наступательных задач.
Поэтому нынешний этап развития ИИ в кибербезопасности нельзя рассматривать исключительно как историю об «улучшении защиты». Безопасность всегда связана с балансом возможностей между сторонами. Если появляется технология, резко ускоряющая поиск уязвимостей, она неизбежно меняет и структуру угроз.
При этом происходящее пока не означает наступления «цифрового апокалипсиса», о котором любят говорить в медиа. Крупные технологические компании обладают серьезной инфраструктурой тестирования, выпуска обновлений и реагирования на инциденты. Более того, именно защитники сегодня первыми начинают интегрировать такие системы в свои процессы.
Но сама природа кибербезопасности уже меняется.
Раньше значительная часть защиты строилась вокруг человеческой экспертизы отдельных специалистов и команд. Теперь в центре начинает оказываться способность автоматизированно исследовать программные системы быстрее конкурентов.
И здесь возникает уже не только технологический, но и геополитический вопрос.
Потому что государства и компании, обладающие собственными ИИ-инструментами промышленного анализа кода, получают возможность значительно быстрее выявлять слабые места как в своей инфраструктуре, так и в чужой. А те, у кого подобных систем нет, постепенно оказываются в более уязвимом положении.
Фактически начинается новая гонка — не за создание самого ИИ, а за способность с его помощью исследовать и контролировать сложные цифровые системы.
И это особенно важно потому, что современный мир зависит от программного обеспечения практически во всем: в энергетике, транспорте, связи, банковской системе, медицине, промышленности и государственном управлении.
Поэтому вопрос кибербезопасности перестает быть исключительно технической темой для специалистов.
Он постепенно становится вопросом инфраструктурной устойчивости, контроля над собственной цифровой инфраструктурой и распределения силы в цифровом мире.
Теперь ситуация начинает меняться.
Опубликованный командой безопасности Mozilla технический разбор работы с ИИ-поиском уязвимостей показывает, что за последние месяцы произошел качественный сдвиг. Речь идет уже не о генерации «правдоподобных» отчетов об ошибках, а о реальном обнаружении сложных проблем безопасности в крупной кодовой базе браузера Firefox.
По данным Mozilla, только в Firefox 150 было исправлено 271 уязвимость, найденная с помощью системы Claude Mythos Preview и связанной с ней инфраструктуры автоматической проверки. Из них 180 получили высокий рейтинг опасности. Для сравнения: обычный объем исправлений безопасности в подобных циклах значительно ниже.
Но важны даже не цифры сами по себе.
Главное — характер найденных ошибок.
Mozilla описывает случаи, когда ИИ помогал обнаруживать уязвимости, существовавшие в коде 15–20 лет, включая проблемы в механизмах изоляции процессов, обработке веб-контента и управлении памятью. В некоторых случаях речь шла о потенциальных сценариях выхода из sandbox — изолированной среды браузера, предназначенной для ограничения последствий взлома.
Особенно показательно, что часть этих ошибок ранее не обнаруживалась даже фаззингом — автоматизированным методом тестирования, при котором программа получает огромные объемы случайных или специально искаженных входных данных в поисках сбоев.
Это означает, что современные ИИ-системы начинают работать не только как генераторы тестов, но и как инструменты исследования архитектуры программ.
Именно здесь начинается наиболее важное изменение.
На протяжении десятилетий поиск серьезных уязвимостей оставался сложной интеллектуальной задачей, требующей высокой квалификации, большого количества времени и глубокого понимания внутренней логики программных систем. Даже крупные команды безопасности физически не могли полноценно исследовать весь объем старого кода, на котором построена современная цифровая инфраструктура.
Сегодня значительная часть мирового программного обеспечения содержит фрагменты, создававшиеся десятилетиями разными командами, на разных языках и в разных технологических эпохах. Внутри этих систем неизбежно накапливаются ошибки, часть которых может оставаться незамеченной годами.
ИИ начинает менять именно масштаб исследования таких систем.
Связка языковой модели, автоматической генерации гипотез, воспроизводимых тестовых сценариев, виртуализированной среды проверки и автоматической сортировки результатов превращает поиск уязвимостей из почти ремесленного процесса в вычислительную задачу.
И это означает, что кибербезопасность постепенно становится вопросом вычислительных возможностей и инфраструктуры.
Тот, кто способен быстрее анализировать огромные массивы старого кода, получает стратегическое преимущество. Причем речь идет не только о защите собственных систем. Любой инструмент, способный эффективно находить уязвимости, потенциально может использоваться и для наступательных задач.
Поэтому нынешний этап развития ИИ в кибербезопасности нельзя рассматривать исключительно как историю об «улучшении защиты». Безопасность всегда связана с балансом возможностей между сторонами. Если появляется технология, резко ускоряющая поиск уязвимостей, она неизбежно меняет и структуру угроз.
При этом происходящее пока не означает наступления «цифрового апокалипсиса», о котором любят говорить в медиа. Крупные технологические компании обладают серьезной инфраструктурой тестирования, выпуска обновлений и реагирования на инциденты. Более того, именно защитники сегодня первыми начинают интегрировать такие системы в свои процессы.
Но сама природа кибербезопасности уже меняется.
Раньше значительная часть защиты строилась вокруг человеческой экспертизы отдельных специалистов и команд. Теперь в центре начинает оказываться способность автоматизированно исследовать программные системы быстрее конкурентов.
И здесь возникает уже не только технологический, но и геополитический вопрос.
Потому что государства и компании, обладающие собственными ИИ-инструментами промышленного анализа кода, получают возможность значительно быстрее выявлять слабые места как в своей инфраструктуре, так и в чужой. А те, у кого подобных систем нет, постепенно оказываются в более уязвимом положении.
Фактически начинается новая гонка — не за создание самого ИИ, а за способность с его помощью исследовать и контролировать сложные цифровые системы.
И это особенно важно потому, что современный мир зависит от программного обеспечения практически во всем: в энергетике, транспорте, связи, банковской системе, медицине, промышленности и государственном управлении.
Поэтому вопрос кибербезопасности перестает быть исключительно технической темой для специалистов.
Он постепенно становится вопросом инфраструктурной устойчивости, контроля над собственной цифровой инфраструктурой и распределения силы в цифровом мире.
Изображение сгенерировано нейросетями
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь.
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь.