Репортаж от Wedoany，Американская компания в сфере искусственного интеллекта OpenAI представила новую функцию безопасности под названием «Режим блокировки», направленную на усиление защиты пользователей и организаций, обрабатывающих конфиденциальную информацию с помощью больших языковых моделей.

Данный режим предназначен для обнаружения и предотвращения попыток утечки конфиденциальных данных неправомочным лицам посредством атак с внедрением подсказок. OpenAI отмечает, что режим блокировки ориентирован не на всех пользователей, а на тех лиц и организации, которые работают с конфиденциальными данными и стремятся к более строгой защите от рисков утечки информации, связанных с внедрением подсказок.

Атаки с внедрением подсказок — это новый метод, используемый хакерами, при котором злоумышленники могут скрывать инструкции, такие как код или документы, на веб-страницах и загружать их в большие языковые модели. При обработке такого контента атакующие могут манипулировать системой ИИ для получения конфиденциальной информации. OpenAI решила запустить этот режим на фоне роста числа подобных атак.

После активации режима блокировки ChatGPT ограничит ряд функций больших языковых моделей, включая запрет на загрузку изображений из интернета или их генерацию, а также будут ограничены операции пользователей по загрузке файлов для анализа. Однако пользователи по-прежнему смогут загружать файлы, изображения и документы для анализа. OpenAI уточняет, что данный режим не повлияет на настройки памяти диалогов и обмена сообщениями. В корпоративной среде администраторы будут обладать всеми правами на настройку и изменение параметров.

Кроме того, в ChatGPT появился новый инструмент под названием «Менеджер активных сессий», с помощью которого пользователи могут просматривать устройства, на которых выполнен вход, включая браузеры, а также удаленно выходить из учетной записи на ненужных устройствах.

Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com