Кейсы

Федеральная лаборатория судебной экспертизы

2023-12-21 02:05
Цель:
Разработка интеллектуального помощника, способного оперативно и точно отвечать на клиентские запросы, используя глубокие знания о предоставляемых услугах.
Задача:
Создать нейро-консультанта, обученного на базе знаний компании, который обеспечивает:
  • Полноту и релевантность ответов.
  • Возможность поддержания диалога.
Вводные данные:
  • База знаний компании, включающая детализированную информацию о предоставляемых услугах.
  • Контрольные вопросы для тестирования качества ответов.
Выходные данные:
Виртуальный помощник, способный:
  • Отвечать на вопросы клиентов с высокой точностью.
  • Вести диалог для уточнения запросов.
  • Обеспечивать быстрые ответы через веб-интерфейс.
Интеграция и интерфейс:
  • Реализация диалогового режима через LangChain (ConversationalRetrievalChain, LCEL).
  • Создание веб-интерфейса с использованием Streamlit.
Оптимизация:
  • Использование режима stream OpenAI для ускорения реакции нейро-консультанта.
  • Внедрение дополнительных тестов через ipywidgets в Jupyter Notebook.
  • Перенос алгоритма в VSCode и создание Docker-контейнера для удобного развертывания.

Достижения и метрики

  • Точность ответов: 0.88 (по трехбалльной шкале от -1 до 1) на выборке из 512 контрольных вопросов.
  • Оптимизации:
  • Добавлена фильтрация по услугам для релевантности.
  • Реализован синонимический словарь для улучшения качества ответов.
  • Диалоговый режим обеспечивает корректные запросы через OpenAI.

Технологический стек

  • API и фреймворки:
  • OpenAI API, LangChain, Streamlit, FastAPI.
  • Инструменты и среды:
  • VSCode, ipywidgets, Google Colab, Docker.

Результат

Разработанный нейро-консультант предоставляет точные и быстрые ответы клиентам, улучшая качество обслуживания и снижая нагрузку на сотрудников. Благодаря высокой адаптивности системы, она может быть интегрирована в бизнес-процессы заказчика и масштабирована для дальнейшего применения.