Репортаж от Wedoany，Белый дом США совместно с компанией в сфере искусственного интеллекта Anthropic разрабатывает методологию для оценки серьёзности уязвимостей новых моделей ИИ и определения момента для государственного вмешательства. Как сообщает Politico со ссылкой на двух правительственных чиновников, спор вокруг блокировки самой мощной модели компании перерастает из частного конфликта в попытку создания общих правил.
Поводом послужила мера экспортного контроля. Она вынудила Anthropic закрыть для всех пользователей Fable 5 и Mythos 5 из-за так называемого «джейлбрейка» (способа обхода защиты модели). Мнения правительства и генерального директора Anthropic Дарио Амодеи (Dario Amodei) о серьёзности этой уязвимости разошлись, и выяснилось, что у государства нет инструментов для разрешения подобных споров. Развитие технологий опередило регулирующую инфраструктуру.
Новая структура призвана заполнить этот пробел. Стороны разрабатывают единый набор эталонных тестов для оценки будущих джейлбрейков: глубины обхода защиты, раскрытых возможностей модели и фактических последствий вторжения. Переговоры со стороны Anthropic ведут директор по связям с правительством Сара Хек (Sarah Heck) и сооснователь компании Том Браун (Tom Brown).
Методология включает в себя исходный тезис самой Anthropic: модели, полностью невосприимчивые к вторжению, не существуют. В то же время правительство получает то, чего ему не хватало: стандартную шкалу и формальное основание для вмешательства. Аналогичная точка зрения была озвучена на этой неделе на встрече «Большой семёрки» во Франции: руководители ведущих ИИ-компаний и лидеры стран сошлись во мнении, что разработка правил оценки рисков должна лечь на государство.
Экспортные ограничения пока не сняты, но прогресс очевиден. В прошлую пятницу переговоры фактически сорвались: Anthropic отказалась удалять Fable 5 с публичной платформы, настаивая на том, что уязвимость носит ограниченный характер и не является всеобъемлющей прорехой. В ответ Белый дом ввёл экспортные ограничения. В выходные состоялась серия продолжительных телефонных переговоров — с участием Тома Брауна, министра торговли Говарда Лютника (Howard Lutnick) и директора по кибербезопасности Шона Кэрнкросса (Sean Cairncross) — после чего последовала почти неделя личных встреч в Вашингтоне. График восстановления доступа к модели пока отсутствует.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
