Сингапур и Microsoft подписали соглашение по безопасности ИИ, начав исследования в области управления агентами

Репортаж от Wedoany，12 июня Управление по развитию информационных коммуникаций и медиа Сингапура (IMDA) и Microsoft подписали меморандум о взаимопонимании по безопасности и защите искусственного интеллекта. Стороны будут сотрудничать в области оценки моделей ИИ, исследований автономных агентов, обмена знаниями и политики доступа к передовым моделям ИИ. Сингапурский институт безопасности ИИ также примет участие в этой работе. Соглашение в первую очередь направлено на создание механизмов тестирования безопасности, выявления рисков и управления для продвинутых систем ИИ после их внедрения в реальные приложения.

Это сотрудничество сосредоточено на наиболее актуальной на сегодняшний день теме в развитии ИИ — автономных агентах. В отличие от традиционных чат-ботов, автономные агенты способны вызывать инструменты, разбивать задачи на подзадачи, выполнять операции и последовательно достигать целей в определенных рамках. Их потенциал применения выше, а границы рисков сложнее. При внедрении таких систем предприятиям и государственным органам необходимо убедиться, не превышает ли агент свои полномочия при доступе к данным, можно ли его постоянно отслеживать, сохраняется ли цепочка ответственности человека, и можно ли своевременно обнаружить аномальное поведение.

Ранее Сингапур уже определил управление агентами как приоритетное направление политики в области ИИ. В январе 2026 года Сингапур опубликовал структуру управления ИИ для автономных агентов, подчеркнув необходимость создания механизмов классификации рисков, ответственности персонала, технического контроля и мониторинга операций при развертывании агентов предприятиями. Сотрудничество с Microsoft выводит эту структуру управления на уровень инструментов оценки, методов тестирования и реализации политики.

Важной частью соглашения является совместная разработка методов, инструментов и эталонов оценки ИИ. После внедрения моделей ИИ в государственные, финансовые, медицинские, телекоммуникационные, энергетические и критически важные инфраструктурные сценарии, полагаться только на самостоятельное тестирование разработчика модели недостаточно для удовлетворения потребностей внешней проверки. Система оценки должна охватывать такие аспекты, как возможности модели, надежность вывода, предвзятость и дискриминация, кибербезопасность, утечка данных, несанкционированные операции и риски злоупотребления. Для систем ИИ, способных вызывать инструменты, оценка должна распространяться на всю цепочку выполнения, а не ограничиваться текстовыми результатами.

Многоязычная оценка безопасности ИИ также включена в сферу сотрудничества. Сингапур находится в многоязычной среде, где используются английский, китайский, малайский и тамильский языки. Системы ИИ могут демонстрировать разные показатели безопасности на разных языках. Модель, прошедшая тесты безопасности на английском языке, не обязательно будет столь же стабильной на других языках. Многоязычное тестирование помогает выявить различия в обходе подсказок, распознавании конфиденциального контента, межъязыковых недоразумениях и обработке культурного контекста.

Сотрудничество также включает обмен знаниями. IMDA и Microsoft будут обмениваться результатами исследований в области безопасности ИИ, структурами управления и практическим опытом, а также, при необходимости, делиться соответствующими методами с партнерами по экосистеме. Для государственных органов технологические компании обладают практическим опытом в обучении, развертывании, мониторинге и тестировании моделей методом «красной команды»; для технологических компаний государственный сектор больше внимания уделяет социальным рискам, безопасности инфраструктуры и реализуемости институциональных механизмов. Взаимодействие сторон позволяет приблизить исследования безопасности ИИ к реальным условиям развертывания.

Политика доверенного доступа к передовым моделям ИИ является одним из наиболее практически значимых вопросов в данном соглашении. Передовые модели обычно находятся в руках небольшого числа компаний. Внешним организациям требуется доступ к моделям для проведения тестирования безопасности, но такой доступ сопряжен с коммерческой тайной, системной безопасностью и рисками злоупотребления. IMDA, Сингапурский институт безопасности ИИ, Microsoft и другие государственные органы будут изучать соответствующие политические рамки, исследуя, как правительство и операторы инфраструктуры могут получить доступ к передовым моделям в контролируемых условиях для оценки безопасности и проверки рисков.

Такие политические исследования повлияют на будущие подходы к регулированию ИИ. Если правительство не сможет получить достаточные права на тестирование, внешняя оценка может остаться на уровне публичных интерфейсов и ограниченных выборок; если же доступ будет слишком открытым, это может увеличить риск обратного проектирования или злоупотребления моделью. Структура доверенного доступа должна найти баланс между глубиной тестирования, контролем доступа, механизмами конфиденциальности, разделением ответственности и использованием результатов.

В последние годы Сингапур последовательно сочетает управление ИИ с политикой цифровой экономики. Безопасность ИИ больше не является лишь обсуждением этических принципов; она переходит на этап оценочной науки, тестовых эталонов и политических инструментов. Сотрудничество с Microsoft позволит Сингапуру, используя опыт корпоративных моделей и облачных сервисов, усовершенствовать операционные пути по таким вопросам, как автономные агенты, многоязычная оценка и доступ к передовым моделям.

Для Microsoft участие в сингапурском сотрудничестве по безопасности ИИ также способствует внедрению его системы ответственного ИИ на азиатском рынке. При использовании услуг ИИ корпоративные клиенты и государственные органы все больше внимания уделяют объяснимости моделей, системной безопасности, защите данных и подтверждению соответствия требованиям. Совместное исследование методов оценки и структур управления может создать более четкие условия доверия для использования передовых систем ИИ в государственных, корпоративных и инфраструктурных сценариях.

Это сотрудничество показывает, что конкуренция в области ИИ расширилась с возможностей моделей до возможностей оценки безопасности и управления. По мере внедрения автономных агентов в большее количество бизнес-процессов, инструменты оценки, правила доступа и межведомственное сотрудничество станут основополагающими элементами развития индустрии ИИ. Соглашение между Сингапуром и Microsoft не приведет к немедленному выпуску единого продукта, но повлияет на методологию тестирования моделей ИИ, разработки политики и доверенного развертывания.

Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com