GigaChain (GigaChat SDK)
GigaChain — это библиотека Python, которая позволяет упростить и автоматизировать работу с нейросетевой моделью GigaChat и другими большими языковыми моделями (LLM). GigaChain является версией библиотеки LangChain, которая адаптирована для работы с русским языком.
Библиотека GigaChain обратно совместима с LangChain, что позволяет использовать ее не только для работы с GigaChat, но и при работе с другими LLM в различных комбинациях.
Подробная документация для GigaChain доступна в репозитории.
GigaChain находится на ранней стадии разработки. Будьте осторожны при использовании SDK в своих проектах, так как не все компоненты оригинальной библиотеки проверены на совместимость с GigaChat.
Большая часть документации представлена на английском языке и находится в процессе локализации.
Назначение
SDK упростит интеграцию вашего приложения с нейросетевой моделью GigaChat и поможет в таких задачах, как:
Работа с промптами.
Включая управление промптами и их оптимизацию. GigaChain предоставляет универсальный интерфейс для всех LLM, а также стандартные инструменты для работы с ними.
Создание цепочек.
Цепочки — это последовательность вызовов к LLM или другим инструментам. GigaChain дает доступ к стандартному интерфейсу для создания цепочек, различным интеграциям с другими инструментами и готовым цепочкам для популярных приложений.
Дополнение данных.
Генерация с дополненными данными включает в себя специфические типы цепочек. Эти цепочки сначала получают данные от внешнего источника, а затем используют их в генерации ответа нейросети. Примеры генерации ответов на основе дополненных данных включают в себя суммирование больших текстов и ответы на вопросы по заданным источникам.
Работа с агентами.
Агент — это LLM, которая принимает решение о дальнейшем действии, отслеживает его результат, и, с учетом результата, принимает новое решение. Процесс повторяется до завершения. GigaChain предоставляет стандартный интерфейс для работы с агентами, выбор агентов и примеры готовых агентов.
Пример — Игра в стиле DnD с GPT-3.5 и GigaChat.
Создание памяти.
Память сохраняет состояние между вызовами цепочки или агента. GigaChain предоставляет стандартный интерфейс для создания памяти, коллекцию реализаций памяти и примеры цепочек и агентов, которые используют память.
Состав
GigaChat SDK включает:
- Библиотеку GigaChain. Библиотека на Python содержит интерфейсы и интеграции для множества компонентов, базовую среду выполнения для объединения этих компонентов в цепочки и агенты, а также готовые реализации цепочек и агентов.
- Каталог промптов. Набор типовых отлаженных промптов для решения различных задач.
- GigaChain Templates. Коллекция легко развертываемых шаблонных решений для широкого спектра задач.
- GigaServe. Библиотека, позволяющая публиковать цепочки GigaChain в форме REST API.
- GigaGraph. Библиотека, дающая возможность работать с LLM (большими языковыми моделями), для создания приложений, которые используют множество взаимодействующих цепочек (акторов) и сохраняют данные о состоянии. Так как в основе GigaGraph лежит GigaChain, предполагается совместное использование обоих библиотек.
Работа с GigaChat
Обмен сообщениями с GigaChat выполняется с помощью одноименной библиотеки, которая предоставляет интерфейсы для авторизации и обращения к сервису с помощью GigaChat API.
Для этого используется модуль gigachat, который поддерживает работу как в синхронном, так и в асинхронном режиме.
Модуль поддерживает не только GigaChat. Поэтому, если ваше приложение уже использует другие нейросетевые модели, интеграция с GigaChat не составит труда.
Модуль не поддерживает работу с функциями, так как в настоящий момент они отсутствуют в GigaChat.