Қателер мен лимиттер
Стандартты HTTP статустар. 429 қатесінде Retry-After хэдері болады.
| Статус | Мағынасы |
|---|---|
| 400 | Қате сұраныс (Bad Request) — формат дұрыс емес немесе model/messages параметрлері жоқ. |
| 401 | Рұқсат жоқ (Unauthorized) — API кілті жоқ немесе қате. |
| 404 | Табылмады (Not Found) — мұндай ID-мен модель жоқ. |
| 429 | Лимиттен асты — сұраныстарды тым жиі жіберіп жатсыз. Біраз күте тұрыңыз (Retry-After мәнін қараңыз). |
| 500 | Сервер қатесі — бұл біздің кінәміз. Сәлден кейін қайта көріңіз. |
Лимиттер
Лимиттер аккаунтқа қолданылады және барлық кілттерге ортақ. Лимиттен ассаңыз 429 қатесі келеді.
- минутына 20 сұраныс
- минутына 40000 токен
- 4 қатарлас сұраныс
Детерминизм
Жауаптар бит-пен-бит қайталанбайды: GPU батчингі мен қалқымалы нүкте есептеулері іске қосу сайын өзгереді, сондықтан бірдей параметрлері бар бірдей сұраныстар әртүрлі жауап қайтаруы мүмкін. Мұны қайталауларда (retry), кэштеуде және тесттерде ескеріңіз.
API үйлесімділігі туралы ескертпелер
- user параметрі қабылданады, бірақ ескерілмейді.
- Completions API-дегі suffix параметрі қолдау таппайды.
- n параметрі бір сұранысқа 64-пен шектелген.
- best_of қолдау таппайды және үнсіз еленбейді.