Американская компания OpenAI запускает инструмент для выявления изображений, созданных ChatGPT

Репортаж от Wedoany，Компания OpenAI объявила о запуске инструмента раннего выявления AI, который помогает пользователям проверять, были ли изображения созданы с помощью ChatGPT, OpenAI API или Codex, что усиливает её приверженность прозрачности и маркировке ложного контента.

С повышением качества контента, создаваемого искусственным интеллектом, регуляторы всё сильнее давят на компании в сфере AI в отношении прозрачности использования технологий. Частое распространение дипфейкового контента бьёт тревогу, особенно в преддверии выборов, когда всё больше распространяется обманная реклама, созданная искусственно. Инструмент проявляет осторожность при проверке: если не обнаружено никаких метаданных, чат-бот не делает окончательных выводов, поскольку сигналы происхождения (provenance signals) в некоторых случаях могут быть удалены. В настоящее время инструмент способен обнаруживать только изображения, созданные ChatGPT, и не работает с другими AI-инструментами, а также не может определить, является ли изображение точным или представлено в правильном контексте. Ожидается, что в ближайшие месяцы OpenAI поддержит межотраслевое сотрудничество для достижения возможностей проверки на разных платформах.

В том же объявлении OpenAI сообщила, что делает сигналы происхождения более доступными для других инструментов, добавляя к изображениям кроссплатформенные постоянные цифровые водяные знаки через SynthID. SynthID — это цифровой водяной знак, невидимый для человеческого глаза, ранее доступный в Google Gemini, но способный распознавать только изображения и видео, созданные инструментами Google. В мае этого года на конференции разработчиков I/O 2026 Google объявила, что больше компаний, включая OpenAI, Kakao и Eleven Labs, будут использовать SynthID. Компания генерального директора OpenAI Сэма Альтмана (Sam Altman) заявила, что это сотрудничество направлено на усиление проверки изображений с помощью многослойных сигналов происхождения. В объявлении компания отметила, что Коалиция за происхождение и подлинность контента (C2PA) помогает контенту нести подробную контекстную информацию, а SynthID способствует сохранению сигналов при потере метаданных. Цифровые водяные знаки более устойчивы к таким преобразованиям, как скриншоты, а метаданные предоставляют более богатую информацию, чем отдельные водяные знаки. Их сочетание делает сигналы происхождения более устойчивыми, чем любой отдельный слой.

Пользователи уже могут напрямую через поисковую систему Google и функцию Circle to Search определять, создано ли изображение AI. В ближайшие недели эта функция также появится в браузере Google Chrome. Microsoft также рассматривает возможность последовать примеру Google, передав ответственность за проверку метаданным изображений. AI-система Grok от X также имеет систему проверки, способную собирать информацию с других сайтов для подтверждения подлинности.

OpenAI с 2024 года усиливает свою приверженность прозрачности, когда начала добавлять сертификаты контента к изображениям, созданным DALL-E 3, ImageGen и Sora. После вступления в руководящий комитет Коалиции за происхождение и подлинность контента (C2PA) технологический гигант начал предоставлять платформам более надёжные способы чтения, сохранения и передачи информации. С 2025 года OpenAI регулярно публикует результаты внутренних оценок безопасности своих AI-моделей, чтобы повысить прозрачность их производительности и рисков, связанных с технологией.

Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com