Репортаж от Wedoany，Американская компания GitHub внедрила на своей платформе функцию просмотра использования и затрат на ИИ по пользователям, задачам и организационным единицам, чтобы удовлетворить потребности предприятий в управлении резко возросшим расходом токенов из-за распространения ИИ-агентов.
С распространением агентов искусственного интеллекта (ИИ) расход токенов в компаниях увеличился, и растет спрос на функции, позволяющие одновременно управлять использованием, затратами и окупаемостью инвестиций (ROI). GitHub уже запустил соответствующие функции, позволяющие администраторам отслеживать использование ИИ по различным параметрам. Это связано с тем, что кодирующие агенты переходят на модель оплаты по факту использования, и компаниям необходимо устанавливать лимиты на использование API-токенов и отслеживать затраты в реальном времени. 19-го числа GitHub добавил поле «ai_credits_used» в API метрик использования Copilot (Copilot Usage Metrics API), которое отображает расход ИИ-кредитов каждым пользователем.
Это поле показывает общее количество ИИ-кредитов, израсходованных пользователем за день, включая расход кредитов на все действия в Copilot, такие как чат и генерация кода. Данная функция доступна для отчетов на уровне предприятия и организационных единиц. Администраторы могут просматривать расход ИИ-кредитов каждого пользователя с помощью отчетов за 1 день (users-1-day) и 28 дней (users-28-day) и управлять затратами в рамках системы оплаты по факту использования. Анализируя ежедневные модели расхода ИИ-кредитов, можно прогнозировать будущие масштабы затрат и составлять бюджетные планы. Главный директор по продуктам (CPO) GitHub Марио Родригес недавно на вебинаре заявил, что цель состоит не в том, чтобы разработчики безоговорочно расходовали большое количество API-токенов, а в том, чтобы преобразовывать намерения разработчиков в заслуживающее доверия программное обеспечение.
CPO Родригес предложил стратегию использования локальных моделей и автоматической маршрутизации моделей в качестве вариантов оптимизации затрат. Он пояснил, что не следует использовать передовые ИИ-модели для всех задач, а необходимо выбирать подходящую модель в зависимости от сложности и цели задачи. GitHub продвигает подход, при котором не все задачи выполняются с помощью высокопроизводительных моделей, а вместо этого надлежащим образом развертываются локальные модели, недорогие модели и передовые модели. CPO Родригес также выразил поддержку подхода BYOK (Bring Your Own Key), позволяющего разработчикам использовать собственные ключи для работы с моделями. GitHub поддерживает совместное использование Copilot с внешними моделями через таких провайдеров локальных моделей, как Ollama.
Причина, по которой CPO Родригес продвигает эту стратегию, заключается в доверии к платформе, управлении и ROI. Только если предприятия смогут прогнозировать и контролировать использование и затраты на ИИ, они смогут применять инструменты ИИ-кодирования в крупномасштабных средах разработки. Ранее OpenAI также выпустила для пользователей ChatGPT Enterprise функцию анализа расхода кредитов и обновленную функцию контроля расходов, объединив информацию об использовании ChatGPT и Codex в единой консоли глобального администратора. Администраторы могут просматривать расход кредитов с разбивкой по пользователям, продуктам и моделям. В начале этого года OpenAI уже внедрила функцию установки лимитов расхода кредитов на основе настраиваемых ролей, а теперь еще больше расширила функцию контроля расходов для организационных единиц. CPO Родригес подчеркнул, что приложение GitHub Copilot — это не просто инструмент для написания кода, а нативная ИИ-инженерная система; в будущем роль разработчика будет заключаться не в написании каждой строки кода лично, а в постановке целей, проверке результатов, сгенерированных ИИ-агентами, и управлении качеством и архитектурой.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
