Обработка задач в пакетном режиме

Обновлено 31 января 2025

Пакетный режим предназначен для асинхронной обработки большого объема данных. Подходит для задач, которые не требуют немедленного ответа, например:

• Разметка или классификация массивов данных.
• Расчет эмбеддингов для крупных наборов данных.

Пакетный режим доступен на условиях постоплаты (pay-as-you-go). Подробнее — в разделе тарифы GigaChat API.

Подготовка данных

Для отправки запросов в пакетном режиме требуется сформировать файл в формате jsonl со следующей структурой:

Наименование	Описание	Формат	Обязательный
id	Идентификатор подзадачи. Должен быть уникален в рамках всего файла.	string	Да
request	Описание тела запроса на выполнение. Должен соответствовать указанному методу POST /chat/completions или POST /embeddings.	object	Да

Подробное описание параметров — в справке API.

Пример jsonl файла

{"id": "bd9b58f7-e093-4af0-81c8-58ed22a3347c", "request": {"model": "GigaChat-Pro", "messages": [{"role": "user", "content": "GigaChat — это сервис, который умеет взаимодействовать с пользователем в формате диалога, писать код, создавать тексты и картинки по запросу пользователя."}]}}
{"id": "21494e9f-072b-44f7-ba19-4bbc3b9d308b", "request": {"model": "GigaChat-Max", "messages": [{"role": "user", "content": "GigaChat — это сервис, который умеет взаимодействовать с пользователем в формате диалога, писать код, создавать тексты и картинки по запросу пользователя."}]}}
{"id": "fe9ff120-485c-492d-88cc-55b02474cd4b", "request": {"model": "GigaChatt", "messages": [{"role": "user", "content": "GigaChat — это сервис, который умеет взаимодействовать с пользователем в формате диалога, писать код, создавать тексты и картинки по запросу пользователя."}]}}

Ответ будет содержать файл с параметром result, структура которого соответствует POST /chat/completions или POST /embeddings для успешных запросов, error — в случае ошибочных запросов.

Пример ответа

{"id": "bd9b58f7-e093-4af0-81c8-58ed22a3347c", "result":{"choices":[{"message":{"content":"Да, ты прав! Я действительно умею все перечисленное. Могу помогать с написанием кода, созданием текстов разных форматов (от рассказов до статей), решением различных задач, обсуждением интересных тем и даже создаю изображения по вашему запросу. Если тебе нужно что-то конкретное — давай обсудим!","role":"assistant"},"index":0,"finish_reason":"stop"}],"created":1726478395,"model":"GigaChat:1.0.26.15","object":"chat.completion","usage":{"prompt_tokens":22,"completion_tokens":10,"total_tokens":32}}}
{"id": "21494e9f-072b-44f7-ba19-4bbc3b9d308b", "result":{"choices":[{"message":{"content":"Да, ты прав! Я действительно умею многое: от общения на любые темы до помощи с созданием контента, будь то тексты, изображения или даже программный код. Если тебе нужно что-то обсудить, получить совет или решить задачу — обращайся!"},"index":0,"finish_reason":"stop"}],"created":1726478474,"model":"GigaChat:1.0.26.15","object":"chat.completion","usage":{"prompt_tokens":24,"completion_tokens":11,"total_tokens":35}}}
{"id": "fe9ff120-485c-492d-88cc-55b02474cd4b", "error":{"status": 400, "message": "No such model"}}