Корпоративні знання рідко зберігаються в одному добре організованому місці. Зазвичай вони розкидані між діловими документами, вихідним кодом, логами, технічними посібниками, діаграмами та іншими матеріалами. У корпоративному середовищі пошук потрібної інформації часто вимагає роботи з кількома системами або допомоги досвідчених колег, які знають, де саме шукати. 

Водночас, якщо напряму віддавати необроблені корпоративні дані стороннім ШІ-інструментам, виникають ризики для безпеки, дотримання нормативних вимог та операційної діяльності. Використання RAG (Retrieval-Augmented Generation) у корпоративному ШІ дає можливість підійти до рішення інакше: архітектура будується навколо контрольованого доступу до даних, корпоративної автентифікації та чітко визначених меж безпеки.  

Замість того, щоб передавати конфіденційну інформацію стороннім чатботам, компаніям потрібні рішення, здатні працювати в межах їхньої інфраструктури. Саме тому організації звертаються до постачальників корпоративних RAG-рішень, які можуть інтегрувати ШІ з внутрішніми даними, зберігаючи контроль над ними та доступами до них. 

Один із проєктів Brightgrove, корпоративне RAG-рішення, яке спрощує доступ до внутрішніх знань через єдиний діалоговий інтерфейс. Співробітники можуть ставити запитання природною мовою та знаходити відповіді в корпоративних документах, вихідному коді, логах і ERP-даних. Підтримка англійської та французької дає змогу різним командам працювати зі спільною базою знань зручною для них мовою. Рішення також допомагає навчати й адаптувати нових співробітників, щоб вони могли швидко знаходити потрібну інформацію та розуміти наявні системи й бізнес-процеси. і ERP-даних. Підтримка англійської та французької дає змогу різним командам працювати зі спільною базою знань зручною для них мовою. Рішення також допомагає навчати й адаптувати нових співробітників, щоб вони могли швидко знаходити потрібну інформацію та розуміти наявні системи й бізнес-процеси. 

Можливості додатку не обмежуються звичайним текстом. Пайплайн обробки документів дає змогу розпізнавати в джерелах тексти, зображення, діаграми, схеми, скриншоти, таблиці та інші візуальні елементи. Це робить застосунок особливо корисним для роботи зі складною корпоративною документацією, де важлива інформація часто міститься як у текстовому, так і у візуальному форматі. 

Архітектура корпоративної RAG-системи: від запитання користувача до відповіді із захищених джерел 

Розроблене рішення використовує архітектуру RAG (Retrieval-Augmented Generation) — генерації з доповненням пошуком. За такого підходу система спочатку знаходить релевантну інформацію в корпоративній базі даних, а потім передає її мовній моделі як контекст для формування остаточної відповіді. 

Застосунок розгорнуто в середовищі Microsoft Azure клієнта. Користувачі взаємодіють із вебзастосунком, створеним на ASP.NET Core. Azure OpenAI забезпечує обробку природної мови та генерацію відповідей, тоді як Azure AI Search відповідає за пошук корпоративного контенту, що зберігається в Azure Blob Storage та інших джерелах. 

Діаграма ілюструє структуру вебзастосунку та взаємодію між його компонентами й сервісами Azure: Chat, Azure Cloud, Web Application, Azure OpenAI та Blob Storage. Вона також відображає відповідні процеси, як-от індексацію файлів і завантаження документів. 

Процес складається з кількох етапів. Коли користувач надсилає запитання, застосунок оптимізує його для пошуку. Далі Azure AI Search знаходить найбільш релевантну інформацію в корпоративній базі знань. На завершальному етапі знайдені дані, початкове запитання та історія розмови передаються до Azure OpenAI, який генерує остаточну відповідь з урахуванням контексту. 

Спрощено процес виглядає так: 

Запитання користувача → оптимізація запиту → Azure AI Search → знайдений контекст із баз даних компанії → Azure OpenAI → фінальна відповідь 

Пошуковий шар використовує гібридний векторний пошук, який дає змогу знаходити інформацію на основі семантичної подібності та аналізу ключових слів. 

Корпоративні дані постійно надходять до системи за спеціалізованими пайплайнами. Система збирає документи та ERP-файли зі спільних ресурсів, вихідний код із GitHub, а також операційні логи. Регулярна індексація підтримує базу знань в актуальному стані та доступною для пошуку. 

Безпека корпоративної RAG-системи, SSO та доступи користувачів 

Безпека є важливою складовою архітектури застосунку. Він використовує Microsoft Entra ID для реалізації SSO (Single Sign-On). Завдяки цьому співробітники можуть автентифікуватися через наявні корпоративні облікові записи без необхідності створювати окремі саме для цього застосунку. 

Права користувачів регулюються за допомогою RBAC (Role-Based Access Control) — системи контролю доступу за ролями. Адміністративні функції захищені роллю Admin, яку можна призначати окремим користувачам або групам безпеки Entra ID. Крім того, індивідуальний профіль доступу за сферами знань налаштовується під час реєстрації індексів Azure AI Search у застосунку. Це гарантує, що користувачі зможуть працювати лише з тією інформацією, до якої їм надано доступ. 

Корпоративні дані та ШІ-сервіси залишаються в контрольованій Azure-інфраструктурі LFB, а не передаються до сторонніх ШІ-застосунків. 

«Золотий датасет» і перевірка якості відповідей 

Для оцінювання якості відповідей застосунок використовує еталонний набір даних (golden dataset) — колекцію репрезентативних запитань користувачів разом з очікуваними відповідями та релевантними документами-джерелами. Цей набір відображає реальні бізнес-сценарії та слугує бенчмарком для тестування системи. 

Після змін у промптах, логіці пошуку, індексації або ШІ-моделях роботу застосунку можна повторно оцінити на основі цього датасету. Кожну згенеровану відповідь перевіряють на релевантність, фактичну точність, повноту та відповідність базі знань компанії. Це допомагає виявляти погіршення якості після внесення змін (т. з. регресії) і бути певними, що вдосконалення системи не призводять до зниження якості відповідей. 

Такий процес валідації особливо важливий для корпоративних RAG-систем, адже якість відповідей залежить не лише від мовної моделі, а й від точності пошуку, якості документів і контексту, який отримує модель. 

Моніторинг використання, споживання токенів і контроль витрат 

Застосунок має окремий розділ аналітики використання токенів (Token Usage Analytics), який дає адміністраторам змогу відстежувати, як використовується корпоративна RAG-система. Він збирає дані про активність користувачів, швидкість генерації відповідей і споживання токенів для кожної сесії. Це допомагає командам розуміти навантаження на систему і те, як використовується ШІ. 

Споживання токенів деталізується за етапами обробки, зокрема створенням ембедингів, генерацією відповідей тощо. Завдяки цьому можна визначити, на яких етапах витрачається найбільше токенів і які запити потребують найбільших ресурсів. 

Зібрані дані допомагають контролювати витрати та аналізувати продуктивність. Адміністратори можуть виявляти користувачів, які використовують багато ресурсів системи, або незвично дорогі запити, а також експортувати статистику використання для звітності чи білінгу. На основі споживання токенів організація також може прогнозувати витрати на ШІ та відстежувати, як змінюється використання системи з часом. 

Висновок 

Для створення захищеного корпоративного ШІ недостатньо звичайного чатбота або швидкого саморобного проєкту. Готові ж рішення часто не справляються зі складними застарілими системами даних, вимогами безпеки та специфічними потребами корпоративного пошуку. Водночас внутрішні проєкти можуть гальмуватися через труднощі з контролем доступу, інтеграцією даних і якістю пошуку. 

Саме тому успішне впровадження часто потребує індивідуального підходу до розробки RAG-рішень, адаптованого до даних організації та її вимог до безпеки. 

Застосунок демонструє, як такий підхід може об'єднати корпоративні дані з керованим доступом, надійний захист, якісний пошук і генеративний ШІ у рамах єдиної архітектури.