Ошибки и лимиты
Стандартные коды HTTP; 429 содержит Retry-After.
| Статус | Значение |
|---|---|
| 400 | Неверный запрос — некорректное тело или отсутствует model/messages. |
| 401 | Не авторизовано — отсутствует или неверный ключ API. |
| 404 | Не найдено — неизвестный id модели. |
| 429 | Превышен лимит — снизьте частоту; учитывайте Retry-After. |
| 500 | Ошибка сервера — повторите с задержкой. |
Лимиты запросов
Лимиты действуют на аккаунт и общие для всех ключей. Превышение возвращает 429 с Retry-After.
- 20 запросов в минуту
- 40000 токенов в минуту
- 4 одновременных запросов
Детерминизм
Ответы не воспроизводятся бит-в-бит: батчинг на GPU и вычисления с плавающей точкой меняются от запуска к запуску, поэтому одинаковые запросы могут возвращать разные ответы даже при одинаковых параметрах. Учитывайте это в ретраях, кэшировании и тестах.
Замечания по совместимости API
- Параметр user принимается, но игнорируется.
- Параметр suffix в Completions API не поддерживается.
- Параметр n ограничен 64 на запрос.
- best_of не поддерживается и молча игнорируется.