Прибуток:
- Зрозумійте, як RAG зменшує галюцинації, пов’язуючи та посилаючи відповідь на фактичні документи установи та застосовуючи важливість чистої бази документів
- Можливість перевірити джерело, дату та валюту виходу RAG і розрізнити суперечливі версії
- Можливість захисту корпоративної конфіденційності шляхом запобігання відповідям від неавторизованих документів за допомогою контролю доступу
Пам'ять організації живе в тисячах розрізнених документів: звітах, посібниках, протоколах, процедурах, електронних листах. Працівник може годинами шукати документи, щоб відповісти на просте запитання («як ця процедура працює?»). Мрія менеджера знань полягає в тому, щоб ця пам’ять давала прямі, але засновані на джерелах відповіді на запитання. Це саме те, що обіцяє RAG. У цьому розділі ви дізнаєтеся, що таке RAG, як використовувати його в управлінні корпоративною інформацією та як захистити його з точки зору точності, конфіденційності та своєчасності.
Давайте визначимося з поняттям. RAG (Retrieval-Augmented Generation) — це коли штучний інтелект відповідає на запитання, спочатку знаходячи (витягуючи) відповідні фрагменти з власної документації організації, а потім генеруючи відповідь виключно на основі цих фрагментів. Це принципово відрізняється від звичайного штучного інтелекту, який генерує відповідь із пам’яті: RAG зв’язує та отримує відповідь із реальними документами, які можна відстежити. Таким чином, галюцинації значно зменшуються, оскільки ШІ говорить з документа установи, а не з її «голови».
Крок за кроком: розуміння корпоративної системи RAG
1. Підготуйте документну базу. Надійні, актуальні документи організації збираються, очищаються та поділяються на фрагменти (малі значущі частини документа). Якщо в систему надходять погані, застарілі або суперечливі документи, відповіді будуть поганими: «сміття входить, сміття виходить».
2. Вставити та індексувати. Кожен фрагмент перетворюється на вектор (вбудовування), що представляє його значення, і поміщається в індекс для пошуку. Коли виникає запитання, система знаходить ті частини, які є найближчими за значенням.
3. Принесіть відповідні частини. Коли ставиться запитання, система витягує кілька найбільш релевантних частин із бази документів. Цей крок є критичним: якщо внесено неправильний фрагмент, відповідь також буде неправильною.
4. Створіть відповідь на основі джерела. AI генерує відповідь виключно на основі отриманих фрагментів і вказує, з якого документа він взяв. Відповідь, у якій не цитується джерело, суперечить меті RAG.
5. Перевірте та звітуйте. Користувач повинен мати можливість перейти до показаного джерела та підтвердити відповідь. Неправильні або неповні відповіді стають зворотним зв'язком для покращення документаційної бази.
Порада: якість RAG багато в чому залежить від якості бази документів. Оновлюйте документи, відсівайте суперечливі/застарілі версії та додавайте дату та інформацію про походження до кожного документа перед тим, як помістити його в систему. 500 добре організованих документів дають кращі відповіді, ніж 5000 розрізнених документів.
Кордони та пункти безпеки RAG
RAG зменшує галюцинацію, але не скидає її. Якщо система повертає неправильну частину, ШІ все одно може дати неправильну відповідь, залишаючись «лояльним» до цієї неправильної частини. Крім того, штучний інтелект може неправильно інтерпретувати отримані частини або поєднувати кілька частин у суперечливий спосіб. Таким чином, вихід RAG також слід перевірити, звернувшись до джерела, особливо для критичних рішень.
Конфіденційність є центральним питанням у корпоративних RAG. База документів може містити конфіденційну інформацію (персонал, контракти, стратегія). Система не повинна генерувати відповіді з документів, які не авторизовані користувачем; Контроль доступу (хто може бачити який документ) також має застосовуватися до RAG. В іншому випадку працівник може отримати доступ до інформації через RAG, яку він не бачить.
Увага: навіть при цитуванні документа RAG не гарантує, що цей документ є актуальним і точним. Система може реагувати на старий процедурний документ трирічної давності. Перевірка дати та дійсності вихідного документа є відповідальністю користувача та менеджера інформації.
три міні-чохла
Випадок 1 — Процедурні питання прискорено. Одна організація створила систему RAG для своїх 1200-сторінкових посібників з внутрішніх процедур. Питання співробітників «як це зробити» були вирішені протягом секунд із відповідями із зазначенням джерела; Середня тривалість розмови зменшилася з 25 хвилин до 2 хвилин. Оскільки кожна відповідь була пов’язана з розділом документації, на якій вона ґрунтувалася, працівники могли її перевірити.
Випадок 2 — вилучено старий документ. Система RAG відповіла на питання щодо дозвільної процедури зі старого документа від 2021 року; Однак у 2024 році була випущена оновлена версія. Співробітник, який відкрив вихідне посилання, помітив, що дата застаріла, і знайшов оновлений документ. Розпорядник інформації видалив стару версію з бази документів.
Випадок 3 — Запобігання неавторизованому доступу. Під час початкового налаштування RAG відкрито відсканувало всі документи; працівник отримав відповідь із документа про заробітну плату, який він не мав бачити. Команда додала контроль доступу до RAG: система тепер генерує відповіді лише з документів, на які авторизований користувач.
Оцінка, зворотній зв'язок і постійне вдосконалення
Система RAG — це не інструмент, який можна встановити один раз і забути; Вона потребує постійної оцінки та вдосконалення. Основою цього є регулярне вимірювання відповідей системи на реальні запитання. Два питання є критичними: чи отримує система правильні фрагменти документа (якість доступу) і чи дає вона правильну відповідь із отриманих фрагментів (якість виробництва)? Необхідно оцінювати ці два шари окремо; Оскільки принести правильний документ і неправильно його витлумачити, а також принести неправильний документ і передати його сумлінно – це різні проблеми, які потребують різних рішень. Хорошою практикою є збереження набору «тестових запитань» із відомими правильними відповідями та тестування системи за допомогою цього набору під час кожного оновлення. Крім того, відгуки користувачів «чи була ця відповідь корисною / чи було джерело точним» виявляють як прогалини в базі документів, так і неправильно отримані частини. AI може допомогти зібрати ці відгуки та узагальнити типи запитань, які найчастіше не відповідають; Але рішення про те, який документ додати, оновити чи видалити, належить розпоряднику інформації. Система потребує догляду, як живий організм; Занедбаний RAG стає все більш оманливим через старіння документації з часом.
Порада: як тільки ви налаштуєте систему RAG, підготуйте невеликий тестовий набір із 20–30 справжніх запитань і відомих правильних відповідей. Запуск цього набору з кожним оновленням документа миттєво показує, покращує чи порушує зміна систему.
Чотири шаблони, які можна копіювати
1) Відповідь на основі джерела:
Ваша роль: помічник з корпоративної інформації. Нижче наведено фрагменти документації, пов’язані з цим питанням. Дайте відповідь ЛИШЕ на основі цих фрагментів і вкажіть, з якого документа/частини для кожного фрагмента інформації він походить. Якщо в частинах немає відповіді, скажіть «ця інформація не входить до наданих документів», не вгадуйте. Питання: [тут] / Частини: [тут]
2) Суперечність і валютний контроль:
Чи є якісь протиріччя чи різні датовані версії між наступними частинами? Якщо так, позначте його та вкажіть, який з них виглядає більш актуальним. Частини (з датами): [тут]
3) Аудит очищення документної бази:
Чи є в наведеному нижче списку документів застарілі, суперечливі документи або документи невизначеного походження, які потрібно відсортувати перед тим, як помістити в систему RAG? Позначте і напишіть чому. Список (з датою/джерелом): [тут]
4) Конфіденційність і попередній контроль доступу:
Чи містять такі фрагменти документів конфіденційну інформацію (особисті дані, конфіденційну угоду, стратегію)? Класифікуйте кожен як "загальнодоступний/обмежений доступ" і надайте обґрунтування. Треки: [тут]
Слабка підказка / Сильна підказка
Слабка підказка:
Поясніть дозвільну процедуру нашої установи.
Якщо документація не надана, AI виробляє складену процедуру зі своєї загальної пам’яті або з реалізації інших установ; Це може не мати відношення до фактичних правил установи.
Потужна підказка:
Ваша роль: помічник з корпоративної інформації. Нижче наведені документи (з датами) щодо дозвільної процедури установи. Дайте відповідь на запитання лише на основі цих частин, посилаючись на вихідний документ і дату на кожному кроці. Якщо частини конфліктують, використовуйте найновішу та скажіть про це. Якщо його немає в документі, скажіть «немає інформації». Питання: [тут] / Частини: [тут]
Потужна підказка; пов’язує відповідь із фактичними документами установи, запитує джерела та дати та чесно розглядає протиріччя та прогалини.
Компонент RAG і таблиця ризиків
компонент
функція
Основний ризик
Запевнення
Документна база
Джерело відповіді
Застарілий/суперечливий документ
Чистота, історія, походження
Пошук
Знайдіть відповідну частину
неправильний шматок
Тестування якості, зворотній зв'язок
виробництво
Відповісти
неправильний коментар
Посилання на джерело, перевірка
Контроль доступу
Перевірка повноважень
несанкціоноване розголошення
Обмеження на основі користувача
Поширені помилки
- Створення брудної документальної бази. Застарілий/конфліктний документ викликає погану відповідь.
- Прийняття відповіді без посилання на джерело. Метою RAG є відстеження.
- Не перевіряється дата документа. Відповідь, яку вважають оновленою, походить зі старої версії.
- Обхід контролю доступу. Неавторизована особа отримує доступ до конфіденційної інформації.
- Думаючи, що RAG абсолютно несприйнятливий до галюцинацій. Неправильна частина все одно дає неправильну відповідь.
Підсумовуючи
RAG створює велику цінність в управлінні знаннями, перетворюючи організаційну пам’ять на ресурсно-чутливу систему; На відміну від загального штучного інтелекту, він пов’язує та отримує відповідь із фактичними документами організації, таким чином значно зменшуючи галюцинації. Але успіх залежить від чистої та актуальної бази документації, точного доступу до треків, посилання на джерело, перевірки дати/актуальності та контролю доступу. RAG не скидає галюцинації; Критичні відповіді перевіряються шляхом звернення до джерела, а конфіденційність дотримується з самого початку.
Аплікаційне завдання
Підготувати невеликий комплект документів (5-8 фактичних або зразкових документів агентства, з датами); Свідомо викласти одну стару й одну поточну суперечливі версії. Поставте запитання за допомогою шаблону «Відповідь на основі джерела» та перевірте, чи ШІ цитує джерело. Потім оцініть, чи правильно AI виявив конфлікт і поточну версію за допомогою шаблону «Конфлікт і перевірка поточної версії».
контрольний список
- [ ] Я оновив базу документів, відсіяв старі/конфліктні документи.
- [ ] Я переконався, що кожна відповідь вказує на вихідний документ.
- [ ] Я перевірив дату та дійсність вихідних документів.
- [ ] Я запобіг генерації відповідей із неавторизованих документів за допомогою контролю доступу.
- [ ] Я перевірив критичні відповіді, перейшовши до оригінального документа.