Репортаж от Wedoany，Компания Red Hat представила платформу Red Hat AI 3.4, предназначенную для преодоления разрыва между экспериментами с ИИ и производственной эксплуатацией, обеспечивая масштабируемое развертывание ИИ. Платформа предлагает единую среду от аппаратного обеспечения до интеллектуальных агентов, предоставляя разработчикам и операторам согласованную операционную среду для масштабного развертывания автономных систем.
Одной из ключевых функций Red Hat AI 3.4 является модель как услуга (MaaS), которая предоставляет разработчикам единый управляемый интерфейс для доступа к отобранным моделям, позволяя администраторам отслеживать использование и применять политики. Эта функция основана на высокопроизводительном распределенном выводе на базе vLLM и llm-d. Новый инструмент AgentOps в платформе интегрирует возможности отслеживания, наблюдаемости, шифрованной идентификации и управления жизненным циклом, позволяя управлять агентами от разработки до производства, независимо от их фреймворка.
Для решения проблемы интеграции корпоративных данных с моделями и агентами Red Hat AI 3.4 вводит функцию управления подсказками, рассматривая подсказки как активы данных, и предоставляет центр оценки для проверки точности, качества и безопасности моделей и агентов. Эти функции поддерживаются MLflow для интегрированного отслеживания экспериментов и управления артефактами. Платформа также интегрирует технологии Chatterbox Labs и проекта Garak, поддерживая автоматическое тестирование безопасности и red teaming для проверки безопасности моделей и агентов.
Джо Фернандес, вице-президент и генеральный менеджер бизнес-подразделения ИИ Red Hat, отметил, что эра агентов представляет собой эволюцию платформы от запуска традиционных приложений к управлению автономными системами. Он считает, что, предоставляя укрепленную основу для вывода ИИ, MaaS и AgentOps, организации могут внедрять инновации, сохраняя необходимый операционный контроль. Джон Фанелли, вице-президент по корпоративному программному обеспечению NVIDIA, указал, что автономные, долгоживущие агенты на предприятиях требуют нового уровня контроля и безопасности инфраструктуры, а Red Hat AI Factory with NVIDIA предоставляет разработчикам и операторам основу управления, необходимую в эпоху агентов.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
