OpenAI совместно с Cathedral Systems проводит тестирование безопасности ИИ и увеличивает вознаграждение за обнаружение уязвимостей

Репортаж от Wedoany，2 ноября американская компания в сфере искусственного интеллекта OpenAI и исследовательская компания в области кибербезопасности Cathedral Systems достигли соглашения о сотрудничестве: в рамках следующего раунда внутренних специализированных испытаний по кибербезопасности планируется совместно проводить выявление системных уязвимостей, проверку средств защиты и тестирование решений по устранению. Стороны будут использовать модели искусственного интеллекта OpenAI для проведения исследований в области безопасности; OpenAI одновременно скорректировала программу вознаграждений за обнаружение уязвимостей, увеличив вознаграждение за критические уязвимости более чем в четыре раза по сравнению с прежним.

Исследователи Cathedral Systems вместе с внутренней командой OpenAI примут участие в тестировании безопасности, используя модели искусственного интеллекта для проверки средств защиты системы, выявления потенциальных уязвимостей и проверки решений по их устранению. Главный исполнительный директор и соучредитель Cathedral Systems Гэвин Клигер подтвердил, что стороны объединят модели искусственного интеллекта, технологии исследования безопасности и тестирование исправления уязвимостей в рамках сотрудничества.

В ходе предыдущего раунда внутренних специализированных испытаний по безопасности OpenAI задействовала 25% продуктовых инженеров, которые использовали Codex для расследования проблем безопасности, воспроизведения уязвимостей в изолированной среде и подготовки патчей для проверки. Новый раунд испытаний предусматривает привлечение внешних исследователей и партнёров по безопасности; конкретная дата начала, продолжительность испытаний и количество устраняемых уязвимостей пока не объявлены.

OpenAI также подтвердила ранее объявленную программу поддержки кибербезопасности на 1 млрд долларов США, в рамках которой в течение шести месяцев в форме субсидий предоставит передовым организациям киберзащиты возможности безопасности ИИ Daybreak. Получателями поддержки станут организации, отвечающие за защиту критически важных общественных услуг и цифровой инфраструктуры.

Обновлённые критерии вознаграждений OpenAI показывают, что максимальное вознаграждение за критические уязвимости в таких ключевых продуктах, как ChatGPT, Codex и платформа API, составляет 30 тыс. долларов США; за особо значимые уязвимости, соответствующие специальным условиям, — до 100 тыс. долларов США, а с учётом бонусов — до 172 тыс. долларов США. Новые правила также предусматривают вознаграждение за качество отчётов об уязвимостях, за долгосрочное участие и за активность в рамках приоритетных тестовых мероприятий.