Передать OpenAI-запрос
Принимает запрос и возвращает ответ в формате OpenAI chat.completion.
Используйте метод для работы с open source моделями.
Для работы с методом нужно получить доступ .
Больше примеров — в разделе Работа с OpenAI-запросами.
В справке представлен сокращенный набор полей сообщения формата OpenAI. Отсутствуют поля, которые не влияют на выдачу или отмечены как устаревшие.
Полное описание формата — в официальной документации OpenAI .
При работе учитывайте отличия от формата OpenAI:
- поле
stopне прерывает генерацию; - при завершении потоковой генерации отсутствует сообщение
data: [DONE]. Чтобы отследить завершение потока, используйте поле"finish_reason":"stop", которое приходит в последнем сообщении; - для ограничения длины ответа используйте поле
max_completion_tokens; - работа с функциями:
- в отличие от формата OpenAI в ответе модели (
assistant) содержится идентификатор состояния функцииtool_state_id. Каждый объект в массивеtool_callsсодержит полеindex; - поле
parallel_tool_callsигнорируется. Для параллельного вызова инструментов используйте метод/v2/chat/completions. - для обязательной генерации аргументов обращайтесь к функции по имени.
- в отличие от формата OpenAI в ответе модели (
- сообщения с ролью
developerведут себя также как иsystem. - для обработки файла передавайте идентификатор загруженного в хранилище файла в сообщении с ролью
user, в полеcontent.file.file_id. При этом заголовокX-Client-IDдолжен быть таким же, как и при загрузке файла. - для распознавания изображений его можно передать в формате base64 в поле
content.image_url.url.
Предварительный анализ текста
Метод можно использовать для предварительного анализа текста с помощью модели FRIDA-Decisions.
Модель не генерирует ответ, а классифицирует текст: определяет категорию, оценивает по шкале, проверяет утверждение или ранжирует кандидатов.
Схему вопросов передайте в поле response_format.json_schema в формате OpenAI.
Подробнее — в разделе Предварительный анализ текста.
Запрос
Ответы
Ответ в формате OpenAI chat.completion.
Если в запросе передано "stream": true, ответ передается частями по протоколу SSE.
Некорректный формат запроса.
Например, если response_format передан в нативной форме без поля type.
Ошибка авторизации.
Слишком много запросов в единицу времени.
Ошибка сервера.