Репортаж от Wedoany，OpenAI объявила 19 мая о всесторонней модернизации системы отслеживания происхождения контента, созданного ИИ. В дополнение к существующему стандарту метаданных Коалиции за происхождение и подлинность контента (C2PA) официально внедряется технология невидимых цифровых водяных знаков SynthID от Google DeepMind, формируя двухуровневую архитектуру верификации «метаданные + водяной знак». Первыми эту технологию применят к изображениям, созданным через ChatGPT, Codex и OpenAI API. Одновременно запущен общедоступный инструмент верификации, позволяющий пользователям загружать изображения для проверки, были ли они сгенерированы моделями OpenAI.
В официальном заявлении OpenAI характеризует это обновление как многоуровневую модель отслеживания происхождения. Учетные данные контента C2PA, основанные на метаданных и криптографических подписях, фиксируют в файле источник создания, историю редактирования и информацию о подписи, позволяя платформам и пользователям отслеживать полную цепочку создания контента. Однако метаданные C2PA чрезвычайно легко удаляются или случайно теряются при создании скриншотов, конвертации форматов или загрузке на платформы, и использование только одного слоя метаданных не может охватить реальные сценарии распространения в сети. SynthID использует совершенно иной технический подход — он встраивает невидимый цифровой сигнал непосредственно на уровне пикселей изображения. Этот сигнал может быть обнаружен алгоритмом даже после таких обычных операций, как создание скриншотов, сжатие, поворот или обрезка, технически компенсируя недостаток долговечности решения на основе метаданных. OpenAI резюмирует это так: «Две системы усиливают друг друга — C2PA помогает контенту нести подробный контекст, а SynthID сохраняет сигнал, когда метаданные не могут существовать. Водяной знак более устойчив при таких преобразованиях, как создание скриншотов, в то время как метаданные предоставляют более богатую информацию, чем водяной знак. Их сочетание делает отслеживание происхождения более устойчивым, чем любое одноуровневое решение».
Технология SynthID была впервые представлена Google DeepMind в 2023 году, ее основная технология основана на принципах стеганографии. Встраивание и обнаружение водяного знака выполняются двумя разными моделями глубокого обучения. Модель встраивания добавляет неощутимые сигналы непосредственно в пиксели, форму аудиоволны или распределение вероятностей текста при создании ИИ-контента, а модель обнаружения извлекает этот сигнал из контента и оценивает вероятность его создания ИИ. Ученый Google DeepMind Пушмит Кохли в публичном интервью объяснял, что команда вложила значительные исследования в обеспечение достаточной устойчивости SynthID к различным видам преобразований. До интеграции с OpenAI SynthID уже использовался во внутренних продуктах Google для маркировки более 100 миллиардов изображений и видео, а также аудиоконтента, эквивалентного 60 000 лет прослушивания. NVIDIA также объявила об интеграции SynthID в свою фундаментальную модель мира Cosmos, а такие компании, как Kakao и ElevenLabs, одновременно присоединились к числу пользователей. SynthID превращается из внутреннего инструмента Google в кроссплатформенную инфраструктуру водяных знаков.
Запущенный одновременно с SynthID общедоступный инструмент верификации — еще один важный аспект сегодняшнего релиза OpenAI. Когда пользователь заходит на портал верификации и загружает изображение, система автоматически сканирует учетные данные контента C2PA и водяной знак SynthID, чтобы подтвердить, было ли изображение создано через ChatGPT, OpenAI API или Codex. В настоящее время этот инструмент охватывает только изображения, созданные собственными моделями OpenAI, но компания заявляет, что в ближайшие месяцы планирует поддерживать больше систем верификации и расширить охват на другие типы контента. Ограничения инструмента верификации также четко обозначены: метаданные или водяной знак могут быть намеренно или непреднамеренно удалены в некоторых случаях, и если никаких следов происхождения не обнаружено, инструмент не делает окончательного вывода о том, было ли изображение создано OpenAI. В заявлении OpenAI прямо говорится: «Ни один метод обнаружения не является безошибочным, поэтому в случае неудачи обнаружения мы занимаем осторожную позицию».
Решение OpenAI усилить механизм отслеживания происхождения именно сейчас связано с ее более широкой стратегией безопасности ИИ-контента. Компания еще в 2024 году начала добавлять учетные данные контента C2PA к изображениям, созданным DALL·E 3, а затем распространила эту практику на модели ImageGen и видео Sora. Sora 2 уже в марте этого года внедрила двойную видимую и невидимую маркировку происхождения: все видео Sora содержат встроенные метаданные C2PA, а большинство результатов также имеют видимый движущийся водяной знак с именем создателя. OpenAI также использует внутренние инструменты обратного поиска изображений и аудио для отслеживания циркуляции контента. Компания официально вошла в Руководящий комитет C2PA и стала участником программы C2PA Compliant Generator, что дает платформам надежный способ считывать, сохранять и передавать информацию о происхождении, добавленную OpenAI. Программа соответствия C2PA, о присоединении к которой было объявлено одновременно, дополнительно требует от продуктов корректного создания и проверки данных C2PA.
Глобальное регулирование маркировки ИИ-контента переходит от поощрительных рекомендаций к обязательным требованиям, и эта тенденция составляет политический фон сегодняшнего обновления OpenAI. Китайские «Меры по маркировке контента, созданного искусственным интеллектом» официально вступили в силу 1 сентября 2025 года, требуя обязательного добавления явной маркировки к ИИ-контенту и встраивания неявной маркировки в метаданные файлов, а также поощряя добавление цифровых водяных знаков. Статья 50 Закона ЕС об ИИ также требует маркировки контента, созданного ИИ. Одновременное развертывание OpenAI метаданных C2PA и водяных знаков SynthID является прямым ответом на двойные требования различных нормативных баз к «явной маркировке» и «неявной маркировке». Переходя от одноуровневых метаданных к многоуровневой архитектуре отслеживания происхождения, OpenAI превращает долговечность сигнала из технической возможности в обязательное требование соответствия.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
