Американская OpenAI запустила ChatGPT Work с возможностью автоматического входа в аккаунты

Репортаж от Wedoany，Во вторник OpenAI представила новую функцию ChatGPT Work, которая позволяет ИИ-агенту автоматически входить в онлайн-аккаунты пользователя при определённых условиях, выполняя задачи, требующие доступа к сайтам с паролем, без вмешательства пользователя. Функция доступна пользователям ChatGPT Pro и Plus: через встроенный браузер ChatGPT сеансы входа сохраняются в виде cookie-файлов для использования в последующих задачах.

Когда ChatGPT впервые требуется доступ к аккаунту пользователя, система запрашивает имя пользователя, пароль или код подтверждения — пользователь может ввести их вручную или воспользоваться автозаполнением через сторонний менеджер паролей. При последующих входах на тот же сайт ИИ напрямую использует cookie-файлы, созданные в предыдущем сеансе, для завершения входа без дополнительных запросов. Рекомендуемые OpenAI сценарии включают выбор и регистрацию тарифов на коммунальные услуги для новой квартиры, запись в DMV или заполнение форм продления паспорта, проверку стоимости рентгеновских снимков и анализов крови через портал страховой компании, поиск профилей кандидатов, соответствующих описанию вакансии и находящихся в поиске работы, и другое.

В ходе тестирования ZDNet тестировщик сначала попытался войти в аккаунт Amazon через сайт ChatGPT, но Amazon заблокировал попытку из облачного браузера ChatGPT, появилась ошибка. Затем он переключился на Windows-приложение ChatGPT (с использованием встроенного облачного браузера) и запросил вход в аккаунт Amazon с выводом товаров из публичного списка желаний и их цен: при первом выполнении ИИ запросил учётные данные, а при последующих попытках вход выполнялся автоматически. В тестировании эффективным оказалось только Windows-приложение ChatGPT. Первые два запроса в Windows-приложении прошли успешно, но при третьем обращении к Amazon доступ был заблокирован — ИИ ответил, что Amazon, возможно, отклонил доступ из-за недавней или повторяющейся активности. Пользователь может просмотреть и удалить сохранённые cookie-файлы входа в разделе «Настройки» — «Облачный браузер» — «Данные браузера» — «Cookie». Тестировщик также поручил ChatGPT Work войти в аккаунт eBay и вывести товары из списка наблюдения: после сохранения cookie-файлов eBay в облачном браузере последующие попытки выполнялись без ввода учётных данных; после удаления cookie-файлов и повторной попытки система снова запросила имя пользователя и пароль.

Что касается рисков для конфиденциальности, OpenAI заявляет, что ChatGPT не видит имя пользователя или пароль, учётные данные никогда не просматриваются ИИ-моделью и не используются для обучения; пользователь контролирует, к каким сайтам ChatGPT Work может получать доступ, а перед выполнением значимых операций, таких как бронирование или оплата, ИИ всегда запрашивает подтверждение. Главный советник по безопасности компании BeyondTrust, поставщика решений для защиты идентификации, Морей Хабер считает, что это скорее риск для идентификации, безопасности и авторизации. Он отмечает: защита учётных данных не обязательно предотвращает компрометацию или захват идентификации — после успешной аутентификации ИИ-агент действует в рамках аутентифицированного сеанса, обладая всеми правами и полномочиями пользователя; злоумышленнику может больше не понадобиться пароль, поскольку настоящей целью является атака на сам сеанс. Хабер также упоминает такие векторы атак на ИИ, как инъекция подсказок: злоумышленник может перехватить сеанс ИИ для перехвата данных или выполнения нежелательных операций; киберпреступники уже доказали способность похищать сеансовые cookie-файлы и токены. Он считает, что это распространённая проблема при подключении с использованием одних и тех же учётных данных, которую области управления привилегированным доступом и управления секретами для немашинных субъектов пытаются решить десятилетиями. Хабер подчёркивает, что более серьёзная проблема — риск безопасности делегированной идентификации: пароль — лишь ключ к аутентификации; после того как дверь открыта, кибербезопасность должна контролировать, что ИИ-агенту разрешено делать внутри, особенно когда игнорируются лучшие практики.

Шейн Барни, директор по информационной безопасности компании Keeper Security, поставщика программного обеспечения для кибербезопасности, рекомендует пользователям, пробующим эту функцию, начинать с сайтов с низким уровнем риска для выполнения рутинных задач и избегать всего, что связано с чувствительной информацией (например, финансовой или медицинской), пока OpenAI не предоставит больше сведений о том, как защищён постоянный доступ и как его можно проверить или отозвать. Он также советует регулярно проверять настройки аккаунта на предмет любых сеансов или разрешений на подключение, которые больше не распознаются, и не предполагать, что доступ автоматически завершится после окончания задачи.