Американская компания Trust3 AI расширяет уровень доверия на платформу NVIDIA NeMo

Репортаж от Wedoany，Компания Trust3 AI объявила о планах расширить свой Единый уровень доверия (Unified Trust Layer) на платформу NVIDIA NeMo — комплексное решение для разработки пользовательских генеративных моделей ИИ и агентов. Будучи участником программы NVIDIA Inception, Trust3 AI продвигает эту интеграцию, чтобы предоставить предприятиям возможность управлять агентами и приложениями, работающими на NeMo, без необходимости создания дополнительных независимых систем контроля.

При переходе организаций от пилотных проектов к промышленной эксплуатации основным препятствием становятся не возможности моделей, а вопросы управления. Операционным командам сложно ответить на ключевые вопросы контроля агентов: какие агенты работают, к каким данным и инструментам они имеют доступ, какие действия фактически выполняются и можно ли получить аудиторское подтверждение этой информации. Планируемая интеграция Trust3 AI с NeMo направлена на создание замкнутого цикла управления на уровне действий.

После завершения интеграции команды, работающие на базе NeMo, получат функции обнаружения и инвентаризации агентов, охватывающие агентов, которые могут быть не зарегистрированы в развертывании NeMo; контроль доступа, привязанный к цели, где права доступа агента привязываются к заявленной цели, а не к статической роли, с автоматическим истечением авторизации; применение политик в момент выполнения операции, когда перед запуском инструмента или перемещением данных каждый запрос содержит идентификатор агента, заявленную цель и информацию о происхождении данных; полную наблюдаемость с захватом подсказок, поиска, вызовов инструментов и доступа к данным, поддерживающую воспроизведение и проверку поведения агентов; а также создание цепочки аудиторских доказательств, которая может быть сопоставлена с такими стандартами, как Закон ЕС об ИИ и Система управления рисками ИИ NIST.

Данный подход дополняет собственные механизмы управления NeMo (включая NeMo Guardrails) за счет наложения независимого, нейтрального по отношению к поставщику уровня доверия. Этот уровень располагается под агентами, а не параллельно с ними.

Сооснователь Trust3 AI Нирадж Сабхарвал (Neeraj Sabharwal) отметил, что при переходе предприятий от экспериментов к промышленной эксплуатации на NVIDIA NeMo основным узким местом являются безопасность и управление. Данная интеграция размещает уровень доверия под агентами на базе NeMo, позволяя командам безопасности и соответствия требованиям наблюдать за каждым агентом, защищать и управлять каждой операцией, не влияя на работу команды по внедрению ИИ. Trust3 AI, основанная ключевыми разработчиками Apache Ranger и Apache Atlas, использует архитектуру единой панели управления и Единый уровень доверия для управления агентами в любых средах, облаках и источниках данных.