Квоты и ограничения
Квотирование
Токены
Обмен данными с GigaChat ограничен количеством доступных токенов.
В среднем один токен состоит из 3—4 символов.
Количество токенов в промпте с контекстом и ответе зависит от модели.
Оценить количество токенов, которое потратит та или иная модель, можно с помощью запроса POST /tokens/count
Потоки
При работе с GigaChat API действуют ограничения на потоки:
- Физическим лицам для работы с API доступен один поток, независимо от того используются токены из платного пакета или freemium-режима.
- Юридическим лицам и ИП для работы с API по умолчанию доступно 10 потоков. Количество потоков может быть увеличено после отправки запроса на электронный адрес gigachat@sberbank.ru.
Тематические ограничения запросов
С нейросетевой моделью вы можете обсуждать любые темы, кроме тех, которые призывают к противозаконным действиям или потенциально опасной деятельности, а также нарушают требования законодательства.
Если запрос подпадает под ограничения GigaChat, то ответ будет содержать поле "choices.finish_reason": "blacklist".
Корпоративным клиентам доступна возможность настройки ограничений. Напишите письмо по адресу gigachat@sberbank.ru, чтобы узнать более подробную информацию о настройке ограничений.
Всегда проверяйте ответы GigaChat. В связи с тем, что ответы генерируются нейросетью, информация в них может быть неактуальна или искажена.
Темы, которых необходимо избегать:
- порнография, эротика и темы сексуального характера;
- пропаганда употребления алкогольных, наркотических и табачных веществ;
- политика, предвыборная агитация и обсуждение представителей власти;
- темы экстремистского и террористического характера;
- призывы к насилию, убийствам и самоубийствам;
- призывы к жестокому обращению с животными;
- призывы к нарушению законов (разжиганию военных конфликтов, пропаганде криминальных структур);
- изготовление наркотических веществ и их аналогов, взрывчатых веществ и иного оружия.
Результат генерации не является официальным мнением компании, модель постоянно дообучается, в том числе в вопросах этики.