Корейский институт стратегии национальной безопасности рекомендует создать систему оценки рисков передового ИИ

Репортаж от Wedoany，Корейский институт стратегии национальной безопасности (INSS) опубликовал доклад, в котором утверждается, что на фоне включения передового искусственного интеллекта (ИИ) в сферу национальной безопасности США Республике Корея также необходимо создать национальную систему оценки рисков передового ИИ и пересмотреть стратегию суверенного ИИ.

В аналитическом бюллетене, опубликованном институтом в начале июля, отмечается, что «инцидент Mitose», вызванный сбоем в работе модели Anthropic из-за экспортных ограничений правительства США, сделал доступ к зарубежному передовому ИИ ключевым фактором национальной безопасности. Президент США Дональд Трамп 2-го числа прошлого месяца подписал указ «О содействии инновациям и безопасности в области передового искусственного интеллекта», который касается моделей передового ИИ и включает добровольную предварительную проверку в течение 30 дней, секретное бенчмаркинг под руководством Агентства национальной безопасности, а также создание центра обмена информацией по кибербезопасности ИИ. В докладе указывается, что администрация Трампа, ранее придерживавшаяся позиции дерегулирования технологий, теперь четко относит передовой ИИ к объектам контроля национальной безопасности, что знаменует переход системы управления ИИ от промышленной политики к управлению национальной безопасностью.

Причиной изменения позиции правительства США стал инцидент Mitose. В апреле этого года компания Anthropic заявила, что ее модель «Claude Mitose Preview» уже обладает способностью самостоятельно обнаруживать уязвимости нулевого дня и генерировать атакующий код. В связи с этим Министерство торговли США 12-го числа прошлого месяца, ссылаясь на национальную безопасность, потребовало ограничить доступ к «Mitose5» и «Fable5», предназначенной для обычных пользователей. Компания Anthropic, сославшись на сложность разграничения зарубежных пользователей и иностранных пользователей на территории США, полностью приостановила предоставление услуг. Через 18 дней ограничения были сняты, и 1-го числа этого месяца Fable5 официально возобновила работу.

В докладе на примере того, что Anthropic выбрала более широкое, чем требовало правительство, приостановление услуг, отмечается, что фактический эффект регулирования может варьироваться в зависимости от самостоятельного решения компаний. Также анализируется, что вскоре после приостановки услуг китайская компания Zhipu AI выпустила «GLM-5.2», и пробел в определенных моделях может создать возможности для стран-конкурентов.

В докладе предлагаются меры реагирования для Республики Корея, включая создание национальной системы оценки рисков, ориентированной не на вычислительную мощность, как в «Базовом законе об ИИ», а на сетевые возможности; создание системы управления безопасностью ИИ с Национальной разведывательной службой в качестве ядра; а также пересмотр стратегии суверенного ИИ, определяющей суверенитет ИИ как включающий непрерывность доступа. Исследователь INSS Ян Джи Су отметил, что в будущем политика в области ИИ должна учитывать не только то, что разрабатывать, но и как обеспечить непрерывность доступа к передовому ИИ.