Квоты и ограничения

Обновлено 27 февраля 2024

Квотирование

Токены

Обмен данными с GigaChat ограничен количеством доступных токенов. В среднем один токен состоит из 3—4 символов. Количество токенов в промпте с контекстом и ответе зависит от модели. Оценить количество токенов, которое потратит та или иная модель, можно с помощью запроса POST /tokens/count

Потоки

При работе с GigaChat API действуют ограничения на потоки:

• Физическим лицам для работы с API доступен один поток, независимо от того используются токены из платного пакета или freemium-режима.
• Юридическим лицам и ИП для работы с API по умолчанию доступно 10 потоков. Количество потоков может быть увеличено после отправки запроса на электронный адрес gigachat@sberbank.ru .

Тематические ограничения запросов

С нейросетевой моделью вы можете обсуждать любые темы, кроме тех, которые призывают к противозаконным действиям или потенциально опасной деятельности, а также нарушают требования законодательства. Если запрос подпадает под ограничения GigaChat, то ответ будет содержать поле "choices.finish_reason": "blacklist".

Корпоративным клиентам доступна возможность настройки ограничений. Напишите письмо по адресу gigachat@sberbank.ru , чтобы узнать более подробную информацию о настройке ограничений.

Всегда проверяйте ответы GigaChat. В связи с тем, что ответы генерируются нейросетью, информация в них может быть неактуальна или искажена.

Темы, которых необходимо избегать:

• порнография, эротика и темы сексуального характера;
• пропаганда употребления алкогольных, наркотических и табачных веществ;
• политика, предвыборная агитация и обсуждение представителей власти;
• темы экстремистского и террористического характера;
• призывы к насилию, убийствам и самоубийствам;
• призывы к жестокому обращению с животными;
• призывы к нарушению законов (разжиганию военных конфликтов, пропаганде криминальных структур);
• изготовление наркотических веществ и их аналогов, взрывчатых веществ и иного оружия.

Результат генерации не является официальным мнением компании, модель постоянно дообучается, в том числе в вопросах этики.