Спроектировали ML-платформу и систему интеллектуального поиска по корпоративной базе знаний совместно с командой БКС
Контекст
БКС — крупная финансовая группа, предоставляющая брокерские, инвестиционные и финансовые услуги.
В рамках развития цифровых сервисов компании возникла необходимость системно развивать решения на базе машинного обучения и интеллектуального поиска по корпоративной базе знаний. Для этого требовалось сформировать требования к ML-платформе и связанным сервисам, спроектировать архитектуру решений и определить бизнес-процессы их использования.
Задача
Совместно с командой БКС провести аналитическую и архитектурную проработку платформы машинного обучения и интеллектуального поиска по корпоративной базе знаний, а также обеспечить тестирование и сопровождение ИИ-ассистента и сценарных чат-ботов.
В рамках проекта необходимо было:
- сформировать бизнес- и функциональные требования к ML-платформе, моделям и сервисам поиска;
- описать архитектуру решений и процессы взаимодействия компонентов;
- подготовить требования к обработке контента, ролям пользователей и инфраструктурным контурам;
- обеспечить тестирование и оптимизацию работы ИИ-ассистента и чат-ботов.
Столкнулись с похожей задачей? Поможем решить.
Трудности
- Сложность формализации требований к ML-платформе и интеллектуальному поиску в условиях большого количества взаимосвязанных сервисов и бизнес-процессов;
- Необходимость анализа и переработки вендорской документации для формирования целостной системы требований к моделям, данным и архитектуре решений;
- Обеспечение стабильной работы ИИ-ассистента и чат-ботов, включая проверку качества генерации ответов и устойчивости диалоговых сценариев.
Результаты
- Провели анализ и переработку вендорской документации, что позволило сформировать бизнес- и функциональные требования к ML-платформе, моделям и сервисам интеллектуального поиска;
- Подготовили требования к обработке контента, работе моделей, ролям пользователей, инфраструктурным контурам и стендам, сформировали глоссарии и схемы взаимодействия компонентов ML-платформы;
- Описали бизнес-процессы, требования к данным и интеграциям в рамках развития ML-платформы без реализации прикладного кода;
- Проработали архитектурные решения для интеллектуального поиска и связанных сервисов, включая подготовку черновиков архитектуры, схем моделей и описаний процессов;
- Провели тестирование и сопровождение ИИ-ассистента и сценарных чат-ботов, включая проверку логики диалогов и качества ответов моделей;
- Подготовили и актуализировали тест-кейсы для чат-бота и умного помощника, выполнили проверку сценариев, регрессионное тестирование и смоук-прогоны;
- Выполнили анализ логирования и работы пользовательских сессий, выявили ошибки обработки запросов и нестабильные ответы моделей;
- Провели работы по промпт-инжинирингу, включая анализ ответов моделей GigaChat и ChatGPT, оптимизацию промптов и проверку устойчивости генерации;
- Выполнили обработку данных для наполнения базы знаний и тестирование пользовательской оценки работы бота.
Отзыв клиента
Марина Родионова
Заместитель председателя правления БКС банк
Заинтересовало?
Оставьте контакты, чтобы обсудить решение вашей задачи
Проект
№1
по обороту на Московской бирже
Первые
внедрили методику финансового планирования
300+ тыс.
клиентов
