Стилизация текста

Обновлено 27 марта 2024

Пример промпта для переписывания текста с учетом заданного стиля.

Структура промпта

• GigaChat API
• GigaChain

{
  "model": "GigaChat",
  "messages": [
        {
            "role": "system",
            "content": "Ты — опытный копирайтер. Перепиши маркетинговый текст с учетом вида текста и выбранного стиля."
        },
        {
            "role": "user",
            "content": "Перепиши текст как научную статью. Текст: Благодаря новой LLM GigaChat лучше следует инструкциям и может выполнять более сложные задания: улучшилось качество суммаризации, рерайтинга и редактирования текстов, а ответы на вопросы стали точнее.\nПо результатам тестов новый GigaChat уже превзошел схожие по количеству параметров иностранные аналоги в бенчмарке MMLU.\nДостичь таких результатов получилось за счет множества экспериментов по улучшению модели и повышению эффективности ее обучения. В частности, команда использовала фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, что позволило сократить потребление памяти на них.\nВ числе первых доступ к API новинки получат бизнес-клиенты Сбера и участники академического сообщества."
        }
    ]
}

Промпт работает с помощью библиотеки gigachain_core, начиная с версии 0.1.9.1.

Для обновления библиотеки выполните команду:

pip install -U gigachain_core

input_variables: [text, style]
output_parser: null
messages:
  - role: system
    prompt:
      template: 'Ты — опытный копирайтер. Перепиши маркетинговый текст с учетом вида текста и выбранного стиля.'
  - role: user
    prompt:
      template: 'Текст: {text}. Стиль: {style}.'
template_format: f-string
_type: chat

Шаблон содержит переменные:

• text — текст, который нужно переписать. Обязательное поле;
• style — стиль итогового текста. Обязательное поле.

Пример запроса

• GigaChat API
• GigaChain

curl --location 'https://gigachat.devices.sberbank.ru/api/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: <токен_доступа>' \
--data '{
  "model": "GigaChat",
  "temperature": 1.0,
  "top_p": 0.1,
  "n": 1,
  "max_tokens": 512,
  "repetition_penalty": 1.0,
  "stream": false,
  "messages": [
        {
            "role": "system",
            "content": "Ты — опытный копирайтер. Перепиши маркетинговый текст с учетом вида текста и выбранного стиля."
        },
        {
            "role": "user",
            "content": "Перепиши текст как научную статью. Текст: Благодаря новой LLM GigaChat лучше следует инструкциям и может выполнять более сложные задания: улучшилось качество суммаризации, рерайтинга и редактирования текстов, а ответы на вопросы стали точнее.\nПо результатам тестов новый GigaChat уже превзошел схожие по количеству параметров иностранные аналоги в бенчмарке MMLU.\nДостичь таких результатов получилось за счет множества экспериментов по улучшению модели и повышению эффективности ее обучения. В частности, команда использовала фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, что позволило сократить потребление памяти на них.\nВ числе первых доступ к API новинки получат бизнес-клиенты Сбера и участники академического сообщества."
        }
    ]
}'

from langchain.prompts import load_prompt
from langchain.chat_models.gigachat import GigaChat

giga = GigaChat(credentials="<авторизационные_данные>")

prompt = load_prompt("lc://prompts/content/text_rewrite.yaml")
chain = prompt | giga
chain.invoke(
    {
        "text": "Благодаря новой LLM GigaChat лучше следует инструкциям и может выполнять более сложные задания: улучшилось качество суммаризации, рерайтинга и редактирования текстов, а ответы на вопросы стали точнее.\nПо результатам тестов новый GigaChat уже превзошел схожие по количеству параметров иностранные аналоги в бенчмарке MMLU.\nДостичь таких результатов получилось за счет множества экспериментов по улучшению модели и повышению эффективности ее обучения. В частности, команда использовала фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, что позволило сократить потребление памяти на них.\nВ числе первых доступ к API новинки получат бизнес-клиенты Сбера и участники академического сообщества.",
        "style": "Научная статья"
    }
).content