ym88659208ym87991671
Работа в режиме рассуждений | Документация для разработчиков
Развернуть

Работа в режиме рассуждений

Обновлено 23 сентября 2026

Режим рассуждений повышает качество генерации, когда ответ на вопрос зависит от комбинации действий, порядка операций или неявных ограничений. Например:

  • в арифметических задачах с несколькими операциями:

    (34 + 67) * 2 - 15

  • в логических задачах с условиями:

    Если все А — Б, некоторые Б — В, то все ли А — В?

  • при составлении маршрута:

    Встреча в 14:00, дорога 45 минут, нужно прибыть за 10 минут

Генерация в режиме рассуждений расходует больше токенов.

Режим рассуждений работает только при запросах к моделям, которые поддерживают рассуждения.

В этом разделе вы узнаете как запускать режим рассуждений в зависимости от версии эндпоинта /chat/completions.

Запуск модели в режиме рассуждений

Для запуска режима рассуждений, в запросе к эндпоинту /chat/completions задайте параметр effort, который отвечает за глубину рассуждений модели. Это можно сделать по-разному, в зависимости от версии эндпоинта.

Запрос формата v2

Чтобы запустить режим рассуждений в запросе POST /v2/chat/completions передайте параметр model_options.reasoning.effort:

curl --request POST \
  --url https://gigachat-ift.sberdevices.delta.sbrf.ru/v2/chat/completions \
  --header 'Authorization: Bearer <токен_доступа>' \
  --header 'Content-Type: application/json' \
  --data '{
  "model": "<Модель с режимом рассуждений>",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "Сравни REST, GraphQL и gRPC для микросервисной архитектуры высоконагруженной системы. Учитывай производительность, удобство разработки и обратную совместимость."
        }
      ]
    }
  ],
  "model_options": {
    "reasoning": {
      "effort": "medium"
    }
  }
}'

Ответ модели будет включать два сообщения. Описание рассуждений возвращается в отдельном сообщении с ролью reasoning.

{
	"model": "<Модель с режимом рассуждений>",
	"created_at": 1782481456,
	"messages": [
		{
			"role": "reasoning",
			"content": [
				{
					"text": "<Рассуждения>"
				}
			]
		},
		{
			"role": "assistant",
			"content": [
				{
					"text": "<Ответ модели>"
				}
			]
		}
	],
	"finish_reason": "stop",
	"usage": {
		"input_tokens": 60,
		"input_tokens_details": {
			"prompt_tokens": 60,
			"cached_tokens": 3
		},
		"output_tokens": 1287,
		"total_tokens": 1347
	}
}

Запрос формата v1

Чтобы запустить режим рассуждений в запросе POST /v1/chat/completions передайте параметр reasoning_effort в корне сообщения:

Для отправки запросов формата V1 используйте GigaChat SDK версии 0.2.1 и выше. Запрос можно сформировать в виде простого словаря или задать с помощью моделей.

from gigachat import GigaChat
from gigachat.models import Chat, Messages, MessagesRole

request_dict = {
        "model": "<Модель с режимом рассуждений>",
        "messages": [
            {
                "role": "user",
                "content": "Как полететь на луну?",
            }
        ],
        "reasoning_effort": "medium",
    }

# Использование моделей для запуска рассуждений
request_model = Chat(
    model="<Модель с режимом рассуждений>",
    messages=[Messages(role=MessagesRole.USER, content="Как полететь на луну?")],
    reasoning_effort="medium",
)

with GigaChat(
    base_url="https://gigachat-ift.sberdevices.delta.sbrf.ru/v1",
    cert_file="./certs/<сертификат>.pem",
    key_file="./certs/<ключ>.key",
    verify_ssl_certs=False,
) as client:
    response_dict = client.chat(request_dict)
    response_model = client.chat(request_model)
    print("Ответ на запрос со словарем:")
    print(response_dict)
    print("\nРассуждения:")
    print(response_dict.choices[0].message.reasoning_content)
    print("\n" + "="*50 + "\n")
    print("Ответ на запрос с моделями:")
    print(response_model)
    print("\nРассуждения:")
    print(response_model.choices[0].message.reasoning_content)

При запросе в формате V1 описание рассуждений возвращается в сообщении с ролью assistant в поле reasoning_content:

{
	"choices": [
		{
			"message": {
				"content": "<Ответ модели>",
				"role": "assistant",
				"reasoning_content": "<Рассуждения>"
			},
			"index": 0,
			"finish_reason": "stop"
		}
	],
	"created": 1782475405,
	"model": "<Модель с режимом рассуждений>",
	"object": "chat.completions",
	"usage": {
		"prompt_tokens": 31,
		"completion_tokens": 974,
		"total_tokens": 1005,
		"precached_prompt_tokens": 4
	}
}

Ограничение потребления токенов в режиме рассуждений

При генерации рассуждений модель расходует больше токенов, чем обычно.

Чтобы ограничить количество токенов, которое модель может потратить на рассуждения, используйте параметры model_options.reasoning.max_tokens при отправке запросов POST /v2/chat/completions или reasoning_max_tokens при отправке запросов POST /v1/chat/completions На генерацию рассуждений модель тратит большое количество токенов.

При достижении заданного ограничения модель прекращает рассуждения и генерирует ответ с ролью assistant.

Примеры запросов POST /v2/chat/completions

curl --request POST \
  --url https://gigachat-ift.sberdevices.delta.sbrf.ru/v2/chat/completions \
  --header 'Authorization: Bearer <токен_доступа>' \
  --header 'Content-Type: application/json' \
  --data '{
  "model": "<Модель с режимом рассуждений>",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "Реши задачу"
        }
      ]
    }
  ],
  "model_options": {
    "reasoning": {
      "effort": "medium",
      "max_tokens": 1024
    }
  }
}'

Примеры запросов POST /v1/chat/completions

from gigachat import GigaChat

request_dict = {
    "model": "<Модель с режимом рассуждений>",
    "messages": [
        {
            "role": "user",
            "content": "Реши задачу"
        }
    ],
    "reasoning_effort": "medium",
    "reasoning_max_tokens": 1024,
}

with GigaChat(
    base_url="https://gigachat-ift.sberdevices.delta.sbrf.ru/v1",
    cert_file="./certs/<сертификат>.pem",
    key_file="./certs/<ключ>.key",
    verify_ssl_certs=False,
) as client:
    response = client.chat(request_dict)
    print("Рассуждения:")
    print(response.choices[0].message.reasoning_content)

Потоковая генерация в режиме рассуждений

Вы можете одновременно включить режим рассуждений и потоковую генерацию токенов. Для этого передайте в запросе параметр "stream": true.

При обработке ответа учитывайте, что формат потока событий отличается в разных версиях запроса.

Заметили ошибку?
Выделите текст и нажмите
Ctrl
+
Enter
, чтобы сообщить нам об ошибке
Подключить API
Развернуть