Ошибки и лимиты
Стандартные коды HTTP; 429 содержит Retry-After.
| Статус | Значение |
|---|---|
| 400 | Неверный запрос — некорректное тело или отсутствует model/messages. |
| 401 | Не авторизовано — отсутствует или неверный ключ API. |
| 404 | Не найдено — неизвестный id модели. |
| 429 | Превышен лимит — снизьте частоту; учитывайте Retry-After. |
| 500 | Ошибка сервера — повторите с задержкой. |
Лимиты запросов
Аккаунт ограничен только по одному параметру: сколько запросов выполняется одновременно. Лимитов на запросы или токены в минуту нет. Ограничение общее для всех ключей; при превышении возвращается 429 с Retry-After.
- 20 одновременных запросов, общие для всех ключей
- Без лимита на запросы и токены в минуту
Детерминизм
Ответы не воспроизводятся бит-в-бит: батчинг на GPU и вычисления с плавающей точкой меняются от запуска к запуску, поэтому одинаковые запросы могут возвращать разные ответы даже при одинаковых параметрах. Учитывайте это в ретраях, кэшировании и тестах.
Замечания по совместимости API
- Параметр user принимается, но игнорируется.
- Параметр suffix в Completions API не поддерживается.
- Параметр n должен быть равен 1. Большие значения отклоняются с ошибкой 400, а не игнорируются.
- best_of не поддерживается и молча игнорируется.