Репортаж от Wedoany，Исследователи Microsoft обнаружили уязвимость в автоматизации GitHub для Claude Code от Anthropic, которая может привести к утечке конфиденциальной информации в рабочих процессах непрерывной интеграции и непрерывной доставки. Злоумышленники могут похитить чувствительные учетные данные с помощью атаки с внедрением подсказок.
Команда Microsoft Threat Intelligence начала это исследование после обнаружения попыток внедрения подсказок, нацеленных на рабочие процессы GitHub с использованием искусственного интеллекта, в публичных репозиториях кода. Внедрение подсказок — это класс уязвимостей безопасности ИИ, при котором злоумышленники встраивают вводящие в заблуждение инструкции в контент, обрабатываемый большой языковой моделью, манипулируя ее поведением и заставляя игнорировать заданные инструкции. Исследователи привели пример, когда злоумышленник спрятал внедренные инструкции в HTML-комментариях, которые невидимы в интерфейсе отображения GitHub, но распознаются моделью ИИ, читающей исходный код Markdown. Этот репозиторий в то время использовал автоматизацию GitHub для автоматической обработки задач.
Злоумышленник может замаскировать вредоносные инструкции под обычные функциональные запросы. Для этого не требуется получать права на изменение проекта — достаточно отправить одну задачу GitHub, чтобы обманом заставить ИИ-бота выполнить изменения от своего имени. Microsoft подтвердила, что аналогичные методы внедрения подсказок могут быть применены и к автоматизации GitHub для Claude Code от Anthropic. Ранее Anthropic установила песочницу для некоторых инструментов, но Microsoft обнаружила, что инструмент чтения файлов, используемый Claude, не имеет таких же ограничений безопасности. Исследователи создали нагрузку для атаки с внедрением подсказок и провели проверочный тест. В ходе теста вредоносная подсказка успешно обошла два уровня защиты, заставив ИИ-помощника прочитать системные файлы, содержащие ключи API и другие учетные данные.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
