Репортаж от Wedoany，Исследовательская группа Академии наук Китая (Chinese Academy of Sciences) предложила концепцию «ИИ-учёного в области кибербезопасности» (Cybersecurity AI Scientist) и разработала модульную мультиагентную систему под названием Гефест (Hephaestus), предназначенную для полной автоматизации исследовательского процесса в сфере кибербезопасности. В недавно опубликованной статье группа описывает эту исследовательскую систему, способную самостоятельно выполнять весь цикл работ — от постановки задачи до планирования эксперимента, создания инструментов, контролируемого выполнения, оценки и формирования письменных результатов.
Автономные ИИ-агенты уже начали выполнять реальные задачи в области безопасности, такие как поиск уязвимостей в программном обеспечении, проведение тестов на проникновение и выстраивание цепочек атак. Однако исследования в области кибербезопасности продвигаются медленно и в значительной степени зависят от ручного труда, ограничены дефицитом экспертов и экспериментами, разработанными вручную. Команда стремится устранить этот разрыв.
Гефест — это модульная мультиагентная система, включающая специализированных агентов, отвечающих за построение структуры задачи, моделирование угроз, генерацию инструментов и составление отчётов. Название происходит от имени бога-кузнеца из поэм Гомера, ковавшего копья и щиты, что символизирует способность системы одновременно создавать средства как для атаки, так и для защиты.
Авторы считают, что существующие автоматизированные исследовательские системы, такие как AI Scientist и его последующие версии для машинного обучения, а также Co-Scientist и Robin для биологии и биомедицины, не могут быть напрямую перенесены в область кибербезопасности. Это связано с тем, что объекты исследования в кибербезопасности адаптивно изменяются в процессе изучения, модельные платформы, защитные механизмы и инструменты обновляются быстрее, чем завершается один исследовательский цикл, а доверие зависит от таких методов, как цифровые двойники, киберполигоны и цепочки доказательств.
Команда предложила «рамку четырёх нулей» (four-zeros frame), определяющую четыре типа сбоев, на которых должна сосредоточиться система: риск (risk), доверие (trust), инцидент (incident) и энергия (energy). Риск означает скрытые дефекты в программном обеспечении; доверие — необходимость калибровки вспомогательных действий для сохранения контроля со стороны человека-оператора; инцидент — ошибки в работе и потребность в тестовой среде; энергия — долгосрочные организационные и этические последствия. Система должна изучать и сокращать каждый из этих типов сбоев.
В части оси риска в статье упоминается скачок возможностей передовых моделей. Например, предварительная версия Claude Mythos, выпущенная компанией Anthropic в рамках проекта Project Glasswing, была ограничена в публичном доступе из-за чрезмерной мощности в области кибератак и доступна только через строго проверяемые партнёрские программы; сообщается, что эта модель уже использовалась для массового обнаружения уязвимостей в широко используемом программном обеспечении, включая некоторые давно существующие дефекты. В статье цитируется бенчмарк CyberGym, который тестирует агентов на более чем тысяче реальных уязвимостей (из большого числа открытых проектов); единичный успех передовых моделей составляет десятки процентов, и они способны самостоятельно обнаруживать новые уязвимости нулевого дня.
В статье также представлена концепция «устойчивых легионов агентов» (resilient agent legions), которая переворачивает традиционную модель защиты. Предполагается, что множество избыточных защитных агентов распределены по краям сети, контролируя различные уровни, координируя каналы и задачи восстановления; каждый агент несёт «капсулу инцидента и защиты» — компактный пакет, связывающий определённый тип события безопасности с процедурой реагирования. Традиционная концепция конечной безопасности трансформируется в безопасность агентов, а работа сводится к управлению группами агентов, полагаясь на коллективное поведение для обеспечения защиты.
Соавтор Лидун Чжай (Lidong Zhai) изложил способ оценки системы. Он рассматривает долгосрочное бенчмаркирование как продольный протокол, при котором фиксируется цель и со временем изменяются стек моделей, инструменты, защитные механизмы и угрожающая среда. Результатом является матрица профилей, отчитывающаяся о научной продуктивности, качестве доказательств, калибровочной нагрузке, устойчивости к смене моделей и инструментов, соответствии управлению и обработке последствий. Он подчеркнул, что бенчмаркинг должен взвешиваться по последствиям: события с высокой распространённостью и большими потерями должны получать более высокий вес, поскольку само ранжирование приоритетов является частью научной способности.
Лидун Чжай отметил, что механизмы сдерживания контролируются на четырёх уровнях: возможности, роли, среда и артефакты. Атакующие исследования, защитный анализ, оценка и решения о публикации следуют независимым путям авторизации, а чувствительные работы изолируются в отдельных цифровых двойниках и киберполигонах. В статье ещё не построена полная система, и существуют открытые вызовы, такие как гетерогенные цели защиты и сложность различения атакующего и защитного использования на уровне кода. Лидун Чжай считает, что окончательным критерием оценки ИИ-учёного в области кибербезопасности является не только ускорение исследований, но и повышение стратегического спокойствия, более точное ранжирование приоритетов и более устойчивый дизайн защиты.
