Репортаж от Wedoany，Компания Palantir Technologies в сотрудничестве с правительственными учреждениями США представила интеллектуальный движок ИИ, способный работать в изолированной среде (air-gapped). Движок построен на основе открытой модели Nemotron от NVIDIA.
Данное развертывание переносит открытые модели NVIDIA на вычислительные устройства, физически изолированные от небезопасных сетей. Учреждения могут запускать кастомизированные модели на собственной инфраструктуре, обучать их на своих данных и сохранять права собственности на полученные модели и их веса.
Основой продукта является операционная система Sovereign AI от Palantir, объединяющая продукты AIP, Ontology, Foundry и Apollo. Palantir планирует использовать открытые модели NVIDIA Nemotron для создания кастомных решений под нужды правительства США, охватывающие такие сферы, как коммерция, энергетика, здравоохранение, сельское хозяйство, образование и транспорт. Программный стек отвечает за развертывание, управление данными, изоляцию и аудит в чувствительных государственных средах.
NVIDIA рассматривает это сотрудничество как часть усилий США по продвижению открытого исходного кода и открытых моделей. Компания считает, что открытые модели позволяют государственным учреждениям и предприятиям более полно проверять, настраивать и развертывать ИИ в чувствительных средах, помогая пользователям сохранять контроль над собственными данными, средой развертывания и разработкой моделей. В рамках подхода Palantir учреждения могут постоянно совершенствовать модели в своей среде, используя новые данные и оперативную обратную связь, при этом процесс улучшения модели остается внутри клиентской системы.
Акцент на изолированное развертывание направлен на обслуживание национальной безопасности и других чувствительных государственных нужд. Это означает, что модели могут работать на инфраструктуре, не имеющей подключения к внешним небезопасным сетям. NVIDIA заявляет, что может поддерживать развертывание через свой пакет ПО AI Enterprise, предоставляя клиентам методы управления и запуска программного обеспечения на основе открытых моделей в операционной среде. NVIDIA отмечает, что независимые проверки помогают исследователям выявлять уязвимости, предвзятость и неожиданное поведение, которые может пропустить одна организация. Открытые модели также могут быть модифицированы и донастроены под конкретные задачи, что особенно актуально для регулируемых отраслей, где закрытые модели могут вызывать проблемы с безопасностью данных или конфиденциальностью. Ссылаясь на отраслевые исследования, NVIDIA указывает, что около двух третей предприятий уже внедрили открытые модели и получили от них экономическую выгоду.
