Репортаж от Wedoany，Naver расширил сферу управления безопасностью ИИ с самой модели на услуги ИИ, фактически используемые пользователями. Ключевым изменением стал переход от управления рисками модели ИИ к управлению безопасностью на всём этапе — от планирования услуги до её ввода в эксплуатацию.
8 июля на проходящем в районе Каннам в Сеуле «Форуме по безопасности ИИ в Сеуле (SFASS)» компания Naver представила систему управления безопасностью ИИ «ASF (AI Safety Framework) 2.0».
ASF 2.0 представляет собой обновлённую версию ASF, представленной Naver на саммите AI Seoul Summit в 2024 году. Если предыдущая версия была сосредоточена на производительности самой модели ИИ и управлении рисками, то после обновления в сферу управления вошли весь процесс предоставления услуги ИИ пользователю и фактическая среда её использования.
Данное обновление отражает изменения в стратегии Naver в области услуг ИИ. Компания реорганизовала систему управления с учётом изменений в технологической и нормативной среде, включая стратегию «On-Service AI», предполагающую применение ИИ во всех услугах, таких как ИИ-поиск и ИИ-агент для покупок, многомодельную среду, использующую комбинацию различных моделей ИИ, а также внедрение Закона об основах искусственного интеллекта. Объектом управления безопасности теперь является не отдельная модель ИИ, а вся услуга ИИ, состоящая из комбинации нескольких моделей ИИ.
ASF 2.0 типизирует возможные риски в услугах ИИ с помощью «Таксономии рисков ИИ (AI Risk Taxonomy)» и оценивает сферу применения услуги, масштаб использования, а также влияние на пользователей и общество с помощью «Матрицы оценки воздействия ИИ (AI Impact Assessment Matrix)». На основе этого принимаются необходимые меры безопасности, а после ввода в эксплуатацию риски постоянно управляются с помощью оценки безопасности и обратной связи от пользователей.
Naver также одновременно использует корпоративную систему исполнения «CHEC 2.0 (Система консультирования и исполнения по этике и безопасности ИИ Naver)», которая применяет вышеуказанные стандарты к реальному процессу разработки услуг. Это процесс, проверяющий безопасность ИИ по единым стандартам на всём этапе — от планирования услуги до её ввода в эксплуатацию. Представленная в июне этого года «AI Tab» также прошла проверку безопасности с помощью CHEC 2.0 — от этапа проектирования до ввода в эксплуатацию. В будущем планируется постепенно применять эту систему к новым или уже работающим услугам на базе ИИ.
В марте этого года Naver создал специализированную организацию по безопасности ИИ «Центр безопасности ИИ (AI Safety Center)» в структуре главного ответственного лица (CRO). Компания управляет безопасностью ИИ с помощью трёхуровневой системы управления, где подразделения услуг, Центр безопасности ИИ и совет директоров выполняют функции исполнения, управления и надзора соответственно.
Руководитель отдела политики безопасности ИИ (Safety Policy) Naver Сон Дэсоп (Song Dae-seop) отметил, что в связи с изменениями в технологиях, услугах и политической среде вокруг ИИ, помимо обеспечения безопасности отдельных моделей, всё более важным становится вопрос о том, как безопасно проектировать и эксплуатировать услуги, объединяющие несколько моделей ИИ. Он заявил, что компания продолжит накапливать опыт и ноу-хау в области безопасности ИИ, а также сотрудничать с академическими кругами, политическими институтами, внешними экспертами и другими организациями для постоянного обмена опытом и развития этой системы.
