Репортаж от Wedoany，Цифровое агентство ООН запускает новую инициативу по укреплению доверия к агентам искусственного интеллекта. По мере того как системы ИИ становятся всё более автономными, вопросы подотчётности и человеческого контроля вызывают обеспокоенность, и данная инициатива направлена на решение связанных с этим проблем.

ИИ-агенты — это новое поколение систем искусственного интеллекта, способных самостоятельно выполнять от имени пользователей такие задачи, как планирование расписания, закупки и сложные бизнес-процессы. Международный союз электросвязи (МСЭ) отмечает, что, хотя эти агенты могут повысить производительность, они также несут риски выдачи себя за человека и принятия несанкционированных решений.

Для снижения этих рисков МСЭ объявил о создании целевой группы на саммите «Искусственный интеллект во благо» (AI for Good Summit) в Женеве. Эта группа разработает рамки, обеспечивающие идентифицируемость, надёжность и подконтрольность ИИ-агентов человеку, особенно в таких чувствительных областях, как финансовые транзакции и критическая инфраструктура.

Сопредседатель целевой группы Дебора Компарин (Debora Comparin) заявила, что ИИ-агенты вскоре будут вести переговоры, совершать сделки и принимать решения от имени людей, поэтому необходимо создать общую международную основу для определения личности агентов, а также того, как и когда им можно доверять. Целевая группа, состоящая из экспертов в области технологий, политики и права, проведёт своё первое заседание в ноябре в Париже, а второе — в январе в Женеве.