Розробка ШІ-консультанта

Kadroland і 7eminar — платформи, що пропонують навчання та консалтинг у сферах кадрового та бухгалтерського обліку. Обидві платформи здобули чудову репутацію завдяки експертним консультаціям, втім, зі збільшенням користувачів команда не могла обробляти сотні запитів одночасно. До того ж консультації були доступні лише в робочий час, а в пікові періоди виникали затримки.

Клієнт вирішив використати штучний інтелект як спосіб значно збільшити потужності й надавати експертні консультації швидше. ШІ-чатбот став ефективною відповіддю на бізнес-виклик: як якісно обслуговувати більше клієнтів без пропорційного збільшення витрат.

Замість впровадження готового чатбота клієнт звернувся до Brights за кастомною розробкою. Ми почали з нуля, власноруч створюючи ШІ-інфраструктуру й архітектуру, аби запустити масштабоване рішення.

Перед тим, як розробити повноцінний віджет для вебсайтів, ми вирішили протестувати концепцію через Telegram-бота. Це дозволило значно швидше й економніше перевірити, чи справді ШІ зможе надавати якісні відповіді на рівні живих консультантів.

Внутрішні експерти Kadroland і 7eminar провели перевірку бота на основі 250 питань з податкового й кадрового права, оцінюючи відповіді за професійними стандартами. 80% відповідей отримали оцінку “відмінно”, а це підтвердило, що ідея дійсно є життєздатною й ефективною у досягненні бізнес-цілей компанії.

Після валідації ми перейшли до розробки MVP — рішення, що зараз працює на обох платформах.

Від клієнта ми отримали дуже чітке побажання щодо дизайну: зробити візуально привабливе, сучасне і подібне до ChatGPT рішення. Справа була не в копіюванні, а в бажанні забезпечити вже звичну для користувачів модель взаємодії.

За два тижні ми створили дизайн у стилі ChatGPT для обох платформ. Попри роботу з численними змінами в процесі, команда вклалася у дедлайн. Знайомий інтерфейс зменшив поріг входу: користувачі могли легко спілкуватися з ШІ-консультантом без потреби в тривалому онбордингу.

Віджет одночасно обробляє запити від тисяч користувачів, підтримуючи доступність на рівні понад 99% і відповідаючи менше ніж за 90 секунд. Ось що дозволяє системі масштабуватися без втрати якості:

Мультиагентна система: Різні ШІ-агенти обробляють різні типи запитів. Це дає можливість надавати якісні, спеціалізовані консультації, а не шаблонні відповіді.

RAG (Retrieval-Augmented Generation): Система витягує інформацію з векторизованих фрагментів даних, завдяки чому відповіді базуються на найактуальнішій інформації з бази знань.

Динамічне оновлення бази даних: Нові зовнішні джерела інформації легко інтегруються, тож ШІ-консультант завжди в курсі змін у законодавстві та регуляціях, що є критично важливим для кадрової справи та бухобліку.

Готова до зростання інфраструктура: Завдяки розгортанню на Kubernetes у Hetzner система може масштабуватися від кількох сотень до десятків тисяч активних користувачів без змін в архітектурі.

Впровадження віджета змінило роботу компанії. Замість надання консультацій на типові запити вручну, команда використовує автономне масштабоване ШІ-рішення, що зберігає якість експертного рівня.

Терміни реалізації: Ми розробили з нуля та запустили MVP на обох платформах всього за три місяці.

Розвантаження консультантів: ШІ-віджет цілодобово обробляє і стандартні, і складні запити. До експертів користувачі звертаються за додатковими роз'ясненнями чи порадами.

Економія коштів: Клієнт спрямував значну частину консультацій на ШІ-консультанта, що дозволило збільшити потужність платформ без розширення команди.

Професійна якість: Внутрішні експерти клієнта оцінили відповіді ШІ за якісними KPI і поставили оцінку 80 зі 100 відповідно до своїх професійних стандартів.

Конкурентна перевага: Мультиагентна система, яку ми розробили, забезпечує значно кращі результати порівняно з простішими рішеннями, які використовує більшість конкурентів клієнта.

Після запуску ШІ-консультантів наша команда продовжила роботу над рішенням на основі змін у потребах клієнта. Зокрема, ми зосередилися на доопрацьованні чатбота й впровадженні нових функцій як на фронтенді, так і на бекенді.

Окрім того, ми розширюємо мультиагентну систему під конкретні теми платформ та підключаємо нові LLM-моделі, щоб користувачі могли обирати бажану опцію для консультацій.