Репортаж от Wedoany，Платформа безопасности агентов NanoClaw заключила партнёрство с платформой управления цепочками поставок программного обеспечения JFrog, что позволяет AI-агентам получать ресурсы из проверенных реестров JFrog.
Сооснователь NanoCo AI Гавриэль Коэн объявил об этом сотрудничестве на мероприятии JFrog в Сан-Франциско. Коэн рассказал, что одной из ключевых особенностей семейства агентов Claw является способность к самоулучшению путём получения недостающих инструментов и ресурсов.
Коэн пояснил, что этот метод эффективен, когда доступ к известным локальным данным требует ручного процесса утверждения. Однако для пакетов npm это не идеально: даже в случае агентов, прошедших изоляцию и песочницу, как NanoClaw, вредоносный код внутри контейнера всё ещё может совершать опасные действия.
Разработчики могут быть незнакомы с определённым пакетом и нуждаться во времени для полной оценки его легитимности и отсутствия изменений. Для этого NanoClaw интегрировалась с реестром JFrog: когда агент загружает новые инструменты и библиотеки, ресурсы поступают из проверенных источников, что снижает вероятность контакта агента с ненадёжным контентом.
Коэн также объявил о доступности «фабрики агентов». Эта система, разработанная внутри компании, использует агентов NanoClaw для обработки pull request'ов. С ростом популярности AI-агентов для кодирования количество pull request'ов резко увеличилось, и фабрика агентов предназначена для их сортировки. Коэн отметил, что мейнтейнерам сложно отличить качественные вклады от тех, что используют автоматизированные методы для создания репутации.
Фабрика агентов построена на NanoClaw и размещена на exe.dev, предоставляющем виртуальные машины с постоянным хранилищем. При открытии pull request'а фабрика запускает выделенного рабочего агента, публикует ветку в Slack, где сотрудники классифицируют изменения, проверяют различия и предлагают план тестирования. Все действия запускаются только после ручного подтверждения нажатием кнопки.
Коэн считает, что обработка pull request'ов, содержащих инъекции подсказок или небезопасный код, сопряжена с рисками. Любой, кто использует и настраивает AI-агентов в среде разработки, может увидеть в конфигурационных файлах, подобных Claude.md, инструкции, запрещающие выполнение опасных операций. Он подчеркнул, что инструкции помогают направлять агентов к созданию ценных результатов, но не являются механизмом безопасности. Единственный способ предотвратить нежелательное поведение агента — запретить ему совершать это действие, а не просто давать инструкции.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
