Работа в песочнице промптов
В личном кабинете Studio вы можете проверить, как ваши промпты работают с различными моделями и их параметрами. Это позволит отладить промпт перед его использованием в приложении.
Для отладки промптов используйте раздел Playground (песочницу) в личном кабинете.
Чтобы открыть песочницу:
- Авторизуйтесь в Studio .
- Откройте проект GigaChat API.
- В левой панели выберите раздел Playground.
Откроется интерфейс песочницы.
При работе с промптами в разделе Playground расходуются ваши токены.
Подготовка промпта
Чтобы подготовить промпт:
-
Нажмите кнопку Создать и укажите название промпта в поле Новый промпт.
Понятное название поможет быстро найти промпт среди сохраненных в вашей библиотеке.
-
Укажите системный промпт. Для этого:
- Нажмите Задайте системные инструкции.
- В открывшемся поле укажите системный промпт.
- Чтобы автоматически доработать системный промпт, нажмите кнопку Улучшить. Промпт будет дополнен уточнениями и сохранится автоматически.
Системный промпт — описание поведения модели, которое она будет придерживаться при генерации ответов. Подробное руководство по составлению системных промптов — в разделе Основы промпт-инжиниринга.
Примеры промптов
Исходный промпт:
Ты — профессиональный переводчик на английский язык. Переведи точно сообщение пользователя.
После улучшения:
### Роль:
Ты – профессиональный переводчик с русского языка на английский.
### Задача:
Перевести сообщение пользователя на английский язык с максимальной точностью, учитывая контекст, стиль и смысл оригинального текста.
#### Инструкции:
1. Внимательно прочитай оригинальное сообщение.
2. Определите контекст и стилистику текста (неформальный, официальный, технический и т.д.).
3. Переводи с сохранением оригинальной идеи и тона.
4. При необходимости адаптируйте фразы так, чтобы они звучали естественно на английском языке.
5. Следи за грамматикой, орфографией и пунктуацией.
#### Формат ответа:
Отправляй переведенный текст без дополнительных комментариев.
#### Пример:
*Оригинал:* Привет! Как твои дела сегодня?
*Перевод:* Hi! How are you doing today?
#### Примечание:
Если возникают трудности с переводом какого-либо термина или выражения, используй справочные материалы или словари.
-
Если нужно, отправьте несколько сообщений с разными ролями с помощью кнопки +. Модель будет учитывать предварительно переданные сообщения при генерации ответа.
Добавить несколько сообщений можно только до запуска диалога.
Добавление файлов
При генерации ответов модели могут использовать текстовые файлы и изображения.
Чтобы использовать файлы для генерации, предварительно загрузите их в хранилище с помощью кнопки Добавить файл.
Хранилище поддерживает текстовые документы форматов txt, doc, docx, pdf, а также изображения в форматах jpg, png, tiff и bmp. На размеры файлов действуют ограничения:
- максимальный размер одного текстового файла в запросе — 30 Мб;
- максимальный размер одного изображения в запросе — 15 Мб.
Чтобы добавить файл в контекст разговора:
- Нажмите кнопку Добавить файл, чтобы открыть хранилище файлов.
- Нажмите Загрузить файлы, чтобы выбрать и загрузить файлы с вашего локального компьютера.
- Нажмите Добавить.
Настройка среды
В разделе Настройки вы можете подготовить среду, в которой должен работать промпт.
Для этого:
-
В блоке Основные, в раскрывающемся списке Модель выберите модель, которая будет обрабатывать запросы.
Подробное описание моделей — в разделе Модели GigaChat.
-
В блоке Дополнительные задайте параметры выбранной модели.
В процессе настройки вы можете:
-
изменить температуру;
Чем выше значение температуры, т ем более случайным будет ответ модели. При значении больше двух, набор токенов в ответе модели может отличаться избыточной случайностью.
Значение по умолчанию зависит от выбранной модели и может изменяться в диапазоне от 0 до 2 включительно.
-
Задать параметр top_p;
Параметр используется как альтернатива температуре (поле
temperature). Задает вероятностную массу токенов, которые должна учитывать модель. Так, если передать значение 0.1, модель будет учитывать только токены, чья вероятностная масса входит в верхние 10%.Значение по умолчанию зависит от выбранной модели (поле
model) и может изменяться с обновлениями модели.Значение изменяется в диапазоне от 0.01 до 1 включительно.
-
ограничить максимальное число токенов в ответе модели;
-
отключить фильтр безопасности. Отключение фильтра позволит проверять запросы, которые содержат тематические ограничения. Использовать параметры могут только юридические лица. Более подробную информацию вы можете получить по почте.
-
-
Чтобы вернуть настройки по умолчанию нажмите Сбросить.
Проверка промпта
После создания промпта и подготовки среды, напишите сообщение для модели и нажмите Отправить и запустить (или Запустить, если вы подготовили историю сообщений при создании промпта).
После запуска модель вернет результат генерации с учетом системного промпта и переданной истории сообщений.
Если результат работы промпта вас устроил:
- нажмите Сохранить промпт, чтобы сохранить подготовленный промпт его в библиотеке, и
- нажмите Код, чтобы просмотреть код запроса с промптом на одном из доступных языков: JavaScript, Python, Kotlin и Swift.
Чтобы посмотреть расход токенов на отправленные сообщения, нажмите кнопку Обновить рядом с полем Токены в блоке Основные.
Вы можете в любой момент менять любые сообщения в диалоге с моделью. Для этого выберите сообщение, которое нужно изменить, нажмите кнопку Редактировать и укажите нужный текст.
Экспорт и импорт промптов
Вы можете сохранять промпты в формате JSON и загружать готовые промпты в песочницу.
Для экспорта:
-
Нажмите на меню действий рядом с промптом.
-
В открывшемся окне выберите Скачать промпт.
Промпт со всеми настройками будет сохранен на ваше локальное устройство в формате JSON.
Для импорта:
-
Нажмите на меню действий рядом с промптом.
-
Перетащите готовый промпт в формате JSON в специальную область на экране.
После загрузки промпт можно редактировать и использовать в песочнице.