Репортаж от Wedoany，YouTube в среду (27 числа) объявил, что усилит обнаружение сгенерированных искусственным интеллектом видео, загружаемых пользователями, и будет автоматически добавлять метки к контенту с высокой степенью реалистичности, чтобы указать на использование технологии ИИ.
Правила, действующие в компании с 2024 года, в основном полагаются на самостоятельное раскрытие информации пользователями, но это требование не всегда полностью соблюдается. Для более реалистичного контента платформа будет размещать предупреждение о материалах, созданных ИИ, на более заметном месте, чем раньше. Для контента, созданного с помощью ИИ, но расцениваемого компанией как «нереалистичный, анимационный или незначительно измененный», метка по-прежнему будет оставаться в поле описания видео, где она менее заметна.
Эти обновления были объявлены в ходе интервью с журналистами из Бразилии и европейских стран. В Бразилии эти правила напрямую перекликаются с постановлениями Высшего избирательного суда (TSE) о предвыборной агитации и политическом контенте в социальных сетях. В 2024 году суд уже постановил, что синтетический контент должен быть маркирован в предвыборной агитации. В этом году была добавлена солидарная ответственность социальных сетей за неудаление контента, признанного «рискованным». Одним из рисков является публикация контента, созданного или измененного ИИ, который не соответствует правилам маркировки и другим предвыборным запретам. TSE также сохранил запрет на дипфейки, независимо от того, направлены ли они во вред или на пользу кандидату, и запретил публикацию контента, связанного с ИИ, за 72 часа до выборов.
В 2024 году YouTube обязал владельцев каналов указывать при загрузке видео, использовались ли инструменты ИИ. Примерно два года спустя компания объявила, что с этого месяца внедрит «новые внутренние сигналы для помощи в идентификации контента, созданного ИИ», и будет автоматически применять метку, если системы платформы обнаружат «значительное использование реалистичного ИИ». В объявлении говорится, что по мере совершенствования технологии пользователи смогут изменять эту автоматическую классификацию. По словам компании, единственным случаем, когда этот статус сохраняется навсегда, является контент, созданный с помощью собственных инструментов ИИ YouTube, или видеофайл с «метаданными C2PA» (техническая информация, эквивалентная штампу о том, что контент полностью создан ИИ).
На вопрос о том, будет ли изменение статуса пользователем обязательно принято или все равно потребует анализа командой YouTube, компания лишь ответила, что данное обновление, сделанное пользователем, «не является апелляцией». Таким образом, это подразумевает, что для случаев, не относящихся к постоянному статусу, дополнительного анализа не проводится. По заявлению YouTube, сама по себе метка не изменит способ рекомендации видео на платформе и не приведет к невозможности монетизации. Компания также заявила, что оставляет за собой «право принимать меры» в отношении пользователей, которые неоднократно не раскрывают использование ИИ.
С другой стороны, неясно, в какой степени компания уже применяет это автоматическое нанесение меток. Поскольку в объявлении 2024 года уже утверждалось, что это возможно в некоторых случаях, «особенно если измененный или синтетический контент может запутать или ввести людей в заблуждение». На вопрос о том, применялись ли уже метки автоматически и в каких случаях, компания ответила: «Мы уже давно инвестируем в системы, способные применять наши политики, и это обновление специально направлено на использование возможностей автоматического обнаружения, чтобы помочь авторам раскрывать информацию и предоставить зрителям ту прозрачность, которую они постоянно запрашивают».
Компания также объявила, что расширяет для всех пользователей старше 18 лет инструмент обнаружения дипфейков, основанный на внешности человека. Этот инструмент будет отслеживать видео на платформе, в которых появляется лицо пользователя и которые могли быть изменены или созданы ИИ, и будет постепенно внедряться в ближайшие недели. После первоначального сканирования платформой пользователи смогут просмотреть список найденного контента и запросить удаление частей, созданных или измененных ИИ. По словам компании, удаление не является автоматическим и будет зависеть от анализа и критериев, предусмотренных ее политикой конфиденциальности.
Вице-президент YouTube по продуктам для авторов Амджад Ханиф сказал: «Уникальность этого инструмента в отрасли заключается в том, что он будет искать по всему контенту, опубликованному на YouTube, чтобы найти совпадения [вашего лица] с контентом, созданным без вашего ведома». По сообщению «Folha de S.Paulo», эта мера начала внедряться в пилотном режиме для публичных лиц, таких как политики и журналисты, с марта этого года. Пользователям, согласившимся на регистрацию, необходимо предоставить официальное удостоверение личности и записать короткое видео лица (например, селфи). Для использования этого инструмента пользователю необходимо иметь канал на YouTube (даже если он не используется). Согласно правилам, факторы, которые платформа учитывает при оценке запроса на удаление, включают: является ли контент синтетическим или измененным, реалистичен ли он, или представляет ли он собой пародию, сатиру или другие аспекты общественного интереса.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
