Суммаризация

Обновлено 4 апреля 2024

Пройдите опрос о Gigachat API



Расскажите, что мы можем сделать лучше

Пример промпта для выделения из текста основных мыслей.

Структура промпта

• GigaChat API
• GigaChain

{
  "model": "GigaChat",
  "messages": [
        {
            "role": "system",
            "content": "Выдели 5 главных фактов и мыслей из этого текста. Сформулируй каждый факт в виде одной строки."
        },
        {
            "role": "user",
            "content": "<Текст>"
        }
    ],
}

input_variables: [text]
output_parser: null
template: 'Выдели 5 главных фактов и мыслей из этого текста. Сформулируй каждый факт в виде одной строки.

    
"{text}"


Основные 5 фактов:'
template_format: f-string
_type: prompt

Пример запроса

• GigaChat API
• GigaChain

curl --location 'https://gigachat.devices.sberbank.ru/api/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: <токен_доступа>' \
--data '{
  "model": "GigaChat", 
  "temperature": 0.87, 
  "top_p": 0.47, 
  "n": 1, 
  "max_tokens": 512, 
  "repetition_penalty": 1.07, 
  "stream": false, 
  "update_interval": 0, 
    "messages": [
        {
           "model": "GigaChat",
           "messages": [
                 {
                     "role": "system",
                     "content": "Выдели 5 главных фактов и мыслей из этого текста. Сформулируй каждый факт в виде одной строки."
                 },
                 {
                     "role": "user",
                     "content": "<Текст>"
                 }
             ],
         }
    ]
}'

from langchain.prompts import load_prompt
from langchain.chains.summarize import load_summarize_chain
from langchain.chat_models.gigachat import GigaChat

giga = GigaChat(credentials="<авторизационные_данные>")
map_prompt = load_prompt('lc://prompts/summarize/map_reduce/map.yaml')

chain = load_summarize_chain(giga, chain_type="map_reduce", map_prompt=map_prompt)