Структурированный вывод

Заставьте модель отвечать в JSON или по JSON Schema через response_format.

Укажите response_format {"type": "json_object"} для произвольного JSON или {"type": "json_schema", ...} для вывода строго по схеме. Генерация ограничивается грамматикой на сервере, поэтому вывод всегда парсится.

curl https://api.sara-ai.kz/v1/chat/completions \
  -H "Authorization: Bearer $SARA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-4-31b",
    "messages": [{"role": "user", "content": "Give me a city and its country."}],
    "response_format": {"type": "json_schema", "json_schema": {
      "name": "city",
      "schema": {
        "type": "object",
        "properties": { "city": { "type": "string" }, "country": { "type": "string" } },
        "required": ["city", "country"],
        "additionalProperties": false
      }
    }}
  }'