Разработали backend и инфраструктуру Базы знаний для корпоративных ИИ-сервисов совместно с БКС

Контекст

БКС — крупная финансовая группа, предоставляющая брокерские, инвестиционные и финансовые услуги.

Для успешного внедрения ИИ-решений в продукты компании важно, чтобы модели работали на структурированном и типизированном корпоративном контенте. Разрозненная и неструктурированная База знаний снижает эффективность ИИ-агентов и интеллектуальных ассистентов, ухудшает качество ответов и замедляет обучение моделей. Поэтому подготовка инфраструктуры Базы знаний стала ключевым этапом цифровой трансформации процессов компании.

Задача

Спроектировать и настроить backend-инфраструктуру Базы знаний для ИИ, обеспечив структурирование и типизацию корпоративного контента, эффективный поиск информации для LLM-моделей, безопасность данных, контроль доступа и стабильную масштабируемую работу платформы.

Трудности

• Необходимость интеграции и унификации данных из разных источников (Confluence, SharePoint) с учетом метаданных и прав доступа;
• Обеспечение высокой производительности и точности гибридного поиска, включая RRF-алгоритмы и векторный поиск;
• Сложность в тестировании и сопровождении инфраструктуры, включая unit- и интеграционные тесты, логирование, метрики и подготовку релизов сервисов;
• Масштабирование и поддержка устойчивости системы при увеличении объема данных и нагрузки.

Результаты

• Провели доработку и оптимизацию backend-инфраструктуры Базы знаний: реализовали индексирование, разбиение страниц на регионы и чанки, сохранение метаданных и обработку термов, что позволило унифицировать контент для дальнейшего использования в LLM и интеллектуальных ассистентах;
• Оптимизировали гибридный поиск, включая RRF-алгоритмы и векторный поиск (PostgreSQL, Vectorchord), что ускорило извлечение релевантной информации и повысило точность выдачи по корпоративным данным;
• Настроили системы маскирования данных, ролей и белых списков, rate limiting, логирование и метрики, что повысило безопасность и управляемость работы сервисов;
• Провели unit- и интеграционные тесты, доработали структуру хранения данных и индексов, что обеспечило стабильность работы базы знаний и надёжность поддержки ИИ-сервисов;
• Выполнили операционные доработки, повысили производительность и провели релизы сервисов, что позволило поддерживать непрерывную работу ИИ-решений и быстро интегрировать новые модели.

Отзыв клиента

Марина Родионова

Заместитель председателя правления БКС банк

Мы довольны нашей совместной работой и продолжаем сотрудничать. Umbrella IT своевременно, качественно и добросовестно выполняла работы, соблюдала обязательства по договору.

Скрыть

Заинтересовало?

Оставьте контакты, чтобы обсудить решение вашей задачи

Отправить

Я согласен с политикой конфиденциальности и использования запрашиваемых данных и даю согласие на обработку моих персональных данных Я даю согласие на получение рекламных и информационных материалов от Umbrella IT

Сообщение успешно отправлено

Заполнить заново