Бот База Знаний (FAQ, RAG LLM)

В статье описан пошаговый процесс создания чат-бота на базе RAG LLM в chatme.ai — для автоматизации ответов на типовые клиентские вопросы и работы с корпоративной базой знаний.

1. Создание проекта и бота на платформе

Для создания бота, использующего базу знаний, необходимо разобраться с функциональностью Q&A, вкладкой Q&A Data Source и LLM Profiles. Начнем с загрузки данных.

2. Загрузка данных

Чтобы обучить бота отвечать на ваши вопросы, перейдите на вкладку Q&A Data Source. Прямо со страницы создания агента можно открыть интерфейс загрузки данных и добавить нужные файлы.

3. Настройка модели

На вкладке LLM Profiles можно выбрать LLM-модель, которую бот будет использовать для генерации ответов. По умолчанию доступен системный профиль — вы можете использовать его или подключить собственный. Подробнее об этом читайте в документации по LLM-профилям.

4. Переход к созданию логики бота

Поздравляем! Подготовительные действия завершены. Теперь переходим к созданию логики работы бота. Для этого откройте Bot Builder и добавьте слот Q&A.

5. Настройка слота Q&A

• Name — рабочее название слота. Можно указать любое.

• LLM Profile — модель генерации. Выберите системный или свой профиль.

• Data Source — источник базы знаний. Выберите тот, который загрузили на шаге 2.

• Send Answer to Channel — включает автоматическую отправку ответа пользователю (по умолчанию включено).

• Chunk Size — параметр, влияющий на длину ответа. Можно варьировать, чтобы подобрать оптимальный объем текста.

• Include Slot History to Prompt — отвечает за «память» бота. Укажите, сколько предыдущих сообщений учитывать (максимум — 3).

• Custom Prompt — текстовая инструкция для бота. Здесь можно задать тон общения, сценарии действий, обязательные вопросы и т. д.

6. Завершение логики бота

• Добавьте слот Wait for Reaction, который сообщает боту, что после ответа он должен ожидать следующий вопрос.

• Нажмите Train, чтобы обучить бота.

7. Тестирование

Теперь можете тестировать работу бота в дебаге. Вы закончили создание первого бота на базе RAG LLM.

Дополнительная информация.

Для вывода бота в конечные каналы Как вывести Агента в Конечные каналы необходимо сначала "опубликовать" проект иначе вы будете видеть ошибку про создании конечного канала.