Репортаж от Wedoany，Бывшие исследователи безопасности в области искусственного интеллекта из Cisco основали новую компанию, сосредоточившись на решении проблемы, которая практически не существовала ранее: защита безопасности автономных ИИ-агентов, которым предприятия доверяют ключи к критическим системам.
Компания Tenet Security Inc. сегодня представила платформу, предназначенную для предотвращения доступа вредоносных действий ИИ-агентов к производственным системам. Основная технология платформы называется «Симуляция на стороне агента» (Agent-Side Simulation) и позволяет моделировать возможные следующие шаги агента до того, как он получит доступ к реальной инфраструктуре.
Если путь представляет риск, Tenet вмешивается до нанесения ущерба и отправляет запись трассировки с объяснением причины блокировки. Традиционные инструменты безопасности обычно выдают предупреждения после подозрительного события, в то время как Tenet пытается выявить проблему до того, как агент фактически предпримет действие.
Предприятия предоставляют ИИ-агентам реальные полномочия для самостоятельных действий. Эти агенты выполняют код, извлекают данные из баз данных и вносят изменения в работающие системы. Однако, как только агент начинает свободно действовать в среде, службы безопасности в большинстве случаев не могут отследить его поведение. Tenet утверждает, что количество ИИ-агентов, эксплуатируемых организацией, обычно в пять раз превышает то, о чем известно ее службе безопасности.
«ИИ-агенты могут стать самым большим фактором повышения производительности, который предприятия видели за последние десятилетия, поэтому организации так быстро их внедряют», — заявил сооснователь и генеральный директор Барак Стернберг. «Но мы вступаем в мир, где автономные агенты взаимодействуют с системами, данными и другими агентами, и большинство инструментов безопасности никогда не были разработаны с учетом понимания этих взаимодействий».
Стернберг основал Tenet вместе с Нево Пораном. Оба являются специалистами по наступательной безопасности и ранее работали над проектом AI Defense в Cisco, изучая, как злоумышленники могут атаковать автономные системы. До этого они управляли компанией по кибербезопасности Wild Pointer с годовым доходом в семь цифр, клиентами которой были компании из списка Fortune 500. Оба выступали с докладами на конференциях DEF CON и Black Hat.
Перед запуском компания провела исследование «агентджекинга» (agentjacking) через свою лабораторию Tenet Threat Labs. Это класс атак, при которых манипулирование агентом приводит к выполнению действий, контролируемых злоумышленником.
Атака скрывает вредоносные инструкции в контенте, который читает агент, например, в электронных письмах, записях журналов или записях баз данных. Когда агент обрабатывает этот контент, инструкции перехватывают управление и перенаправляют следующие действия агента. Tenet протестировала это в более чем 100 корпоративных средах и обнаружила, что тысячи организаций могут быть уязвимы для атак. Традиционные инструменты безопасности не замечают этого, поскольку агент выполняет разрешенные операции, не вызывая срабатывания сигналов тревоги.
Раннее развертывание уже выявило масштаб проблемы. Tenet сообщает, что юридическая компания с годовым регулярным доходом в $1 млрд за шесть месяцев использования платформы увеличила количество развернутых агентов с двух до более чем 20 и предотвратила более 10 попыток атак, включая одну серьезную межсайтовую атаку. У другого клиента из списка Fortune 1000 Tenet обнаружила, что вышедший из-под контроля агент потратил десятки тысяч долларов на токены за одни выходные.
«Мы все чаще видим, что сами ИИ-агенты становятся частью вектора атаки», — отметил Поран. «Единственное место, где можно перехватить такие угрозы, — это во время выполнения, в момент, когда агент принимает решение о действии».
Запуск поддержан начальным финансированием в размере $6 млн, которое будет направлено на разработку продукта, расширение Tenet Threat Labs и развитие операций на североамериканском рынке. Раунд возглавил The Westly Group (ранний инвестор SentinelOne Holdings Inc.), при участии MizMaa Ventures Ltd. В число консультантов Tenet входят бывший директор по информационной безопасности Robinhood Markets Inc. Дэвид Швед и бывший директор по информационной безопасности The Bank of New York Mellon Corp. Рик Скотт.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
