Американская компания OpenAI вводит лимиты расходов на API для предотвращения перерасхода средств

Репортаж от Wedoany，OpenAI внедрила в API-аккаунтах функции лимитов расходов, оповещений о расходах и жестких ограничений, помогая пользователям управлять рисками затрат, связанными с вызовами AI-агентов, и предотвращать неконтролируемые счета из-за большого количества API-запросов.

После входа в аккаунт OpenAI пользователи могут перейти на страницу лимитов расходов для настройки. Система включает несколько уровней использования: пока совокупные расходы на API не достигнут 50 долларов, аккаунт заблокирован на 1-м уровне с ежемесячным лимитом в 100 долларов; после достижения 50 долларов аккаунт переходит на 2-й уровень с возможностью тратить до 500 долларов в месяц; при совокупных расходах в 100 долларов — 3-й уровень с лимитом 1000 долларов в месяц; при 250 долларах — 4-й уровень с лимитом 5000 долларов в месяц. После оплаты 1000 долларов максимальный ежемесячный лимит составляет 200 000 долларов. Установка лимитов расходов позволяет предотвратить огромные счета из-за неконтролируемых вызовов API кластерами AI-агентов.

На странице лимитов расходов пользователи могут управлять суммой автоматического пополнения, а также отключить функцию автоматического пополнения. После отключения её можно снова включить через страницу «Billing» в левом меню. Пользователи также могут настроить оповещения о расходах в указанном месте: когда расходы достигают определённого процента от бюджета, система отправляет уведомление по электронной почте, при этом можно указать адрес для получения уведомлений.

Для установки жесткого ограничения, предотвращающего превышение фактических расходов над заданным лимитом, пользователи могут нажать кнопку «Редактировать лимит расходов». На странице доступен переключатель «Принудительно применять жесткое ограничение»: при его включении API-запросы, превышающие лимит, будут отклоняться с возвратом ошибки 429, однако код должен проверять статус ошибки. OpenAI также устанавливает ограничения скорости, которые различаются в зависимости от модели и включают лимиты на количество запросов в минуту, количество запросов в день, количество токенов в минуту, количество токенов в день и количество изображений в минуту. Эти меры направлены на предотвращение злоупотреблений, обеспечение справедливого доступа и управление нагрузкой на инфраструктуру. Рекомендуется использовать стратегию экспоненциальной задержки при повторных попытках в коде.

Установка лимитов расходов позволяет эффективно предотвращать превышение бюджета неконтролируемыми AI-агентами, а ограничения скорости также являются важным инструментом защиты аккаунта.