Репортаж от Wedoany，Генеральный директор OpenAI Сэм Альтман опубликовал авторскую статью под названием «Вот как мы сделаем ИИ безопасным для всех», в которой предложил концепцию управления искусственным интеллектом, основанную на глобальных стандартах безопасности, независимом надзоре и международном сотрудничестве.
Статья опубликована на фоне усиливающихся дискуссий о контроле над передовым искусственным интеллектом. В последние месяцы США ужесточили ограничения на международный доступ к передовым моделям, в том числе для Европы. Компания Anthropic в начале июня ограничила предоставление моделей Mythos 5 и Fable 5 за пределами США, однако на этой неделе объявила о достижении соглашения с американским правительством и возобновила работу Fable 5. Предложение Альтмана вносит в этот контекст явное противоречие: выступая за демократизацию выгод от ИИ, он одновременно отводит США центральную роль в управлении технологией. Решение заключается в создании международного форума под руководством Вашингтона, который будет разрабатывать международно признанные стандарты, предоставлять беспристрастный анализ возможностей и рисков ИИ, а также предоставлять доступ к технологии странам и компаниям, участвующим в форуме и соблюдающим его правила.
Альтман считает, что такая структура управления является необходимым условием для широкого внедрения технологии. «Если мы не примем меры для противодействия реальным угрозам безопасности, стоящим перед нами, мир не сможет воспользоваться преимуществами искусственного интеллекта», — пишет он, утверждая, что «разработка стандартов безопасности является фундаментальным требованием для широкого распространения этой технологии». Форум может объединить представителей правительств, независимых технических экспертов и другие заинтересованные стороны, одновременно выступая в качестве надзорного органа для регуляторов и лабораторий ИИ, предотвращая опасную и небезопасную гонку технологических разработок, вызванную коммерческим давлением.
Ключевая идея статьи заключается в том, что разработка международных стандартов безопасности должна предшествовать внедрению самых передовых систем. Альтман считает, что все страны, компании и граждане должны получать выгоду от искусственного интеллекта, но при условии существования общих правил и механизмов сертификации, обеспечивающих безопасное использование. По его мнению, страны будут соблюдать стандарты, разработанные международным форумом, и взамен получат стабильный доступ к самым передовым моделям. Это предложение пытается одновременно ответить на две проблемы в международных дебатах: избежать чрезмерной концентрации технологической власти и снизить риски, связанные с все более мощными системами. «Такое международное сотрудничество представляется разумным способом избежать чрезмерной концентрации власти и обеспечить демократизацию выгод от ИИ», — заявил топ-менеджер.
Этот подход знаменует собой сдвиг по сравнению с фокусом дискуссий последних лет. Альтман больше не выступает исключительно за государственное регулирование или саморегулирование технологических компаний, а предлагает модель международного управления, заимствованную из других стратегических областей, приводя в пример безопасность авиаперевозок, международные финансовые стандарты и Международное агентство по атомной энергии (МАГАТЭ), утверждая, что ИИ должен развиваться в рамках аналогичного механизма сотрудничества. При этом он пытается дистанцироваться от идеи, что крупные технологические компании должны взять на себя регулирующую роль. «Лаборатории разрабатывают технологии, но граждане и их избранные представители должны устанавливать правила», — пишет он, подчеркивая: «Наиболее важные решения о том, как использовать эту технологию, должны приниматься демократическим путем, а не горсткой компаний из Сан-Франциско».
Статья демонстрирует оптимизм Альтмана в отношении будущего влияния ИИ. Он заявляет, что в течение одного-двух лет могут появиться системы, значительно превосходящие по возможностям нынешние, способные ускорить научные открытия, стимулировать экономический рост и глубоко изменить общество. «Искусственный интеллект изменит материальные условия жизни человечества в масштабах, невиданных ни одной технологией со времен освоения электричества — возможно, даже в больших», — прогнозирует он. Тем не менее, он считает, что этот сценарий зависит от создания международной структуры доверия; в противном случае страны будут склонны реагировать национальными ограничениями на разработку и распространение ИИ, что приведет к фрагментации экосистемы. Альтман призывает к международному сотрудничеству: «Нам нужно найти способ построить глобальное доверие к этой технологии, чтобы мы все могли разделить эти выгоды».
