Добици:
- Схватите како РАГ смањује халуцинације повезивањем и референцирањем одговора на стварне документе институције и примјеном важности чисте базе докумената
- Способност провере извора, датума и валуте РАГ излаза и разликовања конфликтних верзија
- Могућност заштите корпоративне приватности спречавањем одговора од неовлашћених докумената са контролом приступа
Меморија организације живи у хиљадама раштрканих докумената: извештаја, приручника, записника, процедура, мејлова. Запослени може сатима тражити документе да би одговорио на једноставно питање („како функционише ова процедура?“). Сан менаџера знања је да ово памћење пружи директне одговоре на питања засноване на извору. То је управо оно што РАГ обећава. У овој јединици ћете научити шта је РАГ, како га користити у управљању информацијама предузећа и како га обезбедити у смислу тачности, поверљивости и правовремености.
Хајде да дефинишемо појам. РАГ (Ретриевал-Аугментед Генератион) је када АИ одговара на питање тако што прво пронађе (преузима) релевантне делове из сопствене документације организације, а затим генерише одговор искључиво на основу тих делова. Ово се суштински разликује од опште вештачке интелигенције која генерише одговор из меморије: РАГ повезује и изворе одговора на стварне документе који се могу пратити. Тако се халуцинације знатно смањују јер АИ говори из документа институције, а не из њене „главе“.
Корак по корак: разумевање пословног РАГ система
1. Припремите базу докумената. Поуздани, ажурни документи организације се прикупљају, чисте и деле на делове (значајне мале делове документа). Ако лоши, застарели или конфликтни документи уђу у систем, одговори ће бити лоши: „ђубре унутра, смеће напоље“.
2. Уградите и индексирајте. Сваки део се конвертује у вектор (уграђивање) који представља његово значење и ставља се у индекс који се може претраживати. Када се постави питање, систем проналази делове који су по значењу најближи.
3. Понесите релевантне делове. Када се постави питање, систем извлачи неколико најрелевантнијих делова из базе докумената. Овај корак је критичан: ако се унесе погрешан комад, одговор ће такође бити погрешан.
4. Генеришите одговор на основу извора. АИ генерише одговор искључиво на основу преузетих фрагмената и указује из ког документа је узео. Одговор који не наводи извор је у супротности са сврхом РАГ-а.
5. Потврдите и пријавите. Корисник би требао бити у могућности да оде до приказаног извора и потврди одговор. Нетачни или непотпуни одговори постају повратна информација за побољшање документације.
Савет: Квалитет РАГ-а у великој мери зависи од квалитета базе докумената. Ажурирајте документе, уклоните конфликтне/застареле верзије и додајте податке о датуму и поријеклу сваком документу пре него што га ставите у систем. 500 добро организованих докумената даје боље одговоре од 5.000 раштрканих докумената.
РАГ-ове границе и безбедносне тачке
РАГ смањује халуцинацију, али је не ресетује. Ако систем врати погрешан комад, АИ и даље може дати погрешан одговор тако што ће остати "лојалан" том погрешном комаду. Поред тога, АИ може погрешно протумачити дохваћене комаде или комбиновати више комада на контрадикторне начине. Према томе, излаз РАГ-а такође треба да се провери одласком до извора, посебно за критичне одлуке.
Приватност је централно питање у корпоративном РАГ-у. База докумената може садржати осетљиве информације (особље, уговори, стратегија). Систем не би требало да генерише одговоре из докумената који нису ауторизовани од стране корисника; Контролу приступа (ко може да види који документ) такође треба применити на РАГ. У супротном, запослени може да приступи информацијама преко РАГ-а које не може да види.
Пажња: Чак и када цитира документ, РАГ не гарантује да је тај документ ажуран и тачан. Систем може да одговори на основу старог процедуралног документа од пре три године. Одговорност корисника и менаџера информација је да провере датум и валидност изворног документа.
три мини кофера
Случај 1 — Убрзана процедурална питања. Једна организација је успоставила РАГ систем за своје приручнике о интерној процедури од 1.200 страница. Питања запослених „како то урадити“ решена су у року од неколико секунди са одговорима који су указивали на извор; Просечно трајање позива смањено је са 25 минута на 2 минута. Пошто је сваки одговор био повезан са одељком документације на коме је заснован, запослени су могли да га верификују.
Случај 2 — Ухваћен стари документ. РАГ систем је одговорио на питање процедуре издавања дозволе из старог документа из 2021. године; Међутим, ажурирана верзија је објављена 2024. Запослени који је отворио везу са извором приметио је да је датум застарео и пронашао је ажурирани документ. Менаџер информација је уклонио стару верзију из базе докумената.
Случај 3 — Спречен је неовлашћени приступ. У почетном подешавању, РАГ је јавно скенирао све документе; запослени је добио одговор из документа о платном списку који није требало да види. Тим је додао контролу приступа РАГ-у: систем сада генерише само одговоре из докумената за које је корисник овлашћен.
Евалуација, повратне информације и стално побољшање
РАГ систем није алат који се једном инсталира и заборавља; То захтева сталну евалуацију и побољшање. Основа за то је редовно мерење одговора система на стварна питања. Два питања су критична: да ли систем преузима исправне делове документа (квалитет приступа) и да ли производи исправан одговор од преузетих делова (квалитет производње)? Ова два слоја потребно је посебно проценити; Зато што су доношење правог документа и његово погрешно тумачење и доношење погрешног документа и верно преношење различити проблеми и захтевају различита решења. Добра пракса је да задржите скуп „тестних питања“ са познатим тачним одговорима и тестирате систем са овим сетом при сваком ажурирању. Поред тога, повратне информације корисника „да ли је овај одговор био од помоћи/да ли је извор тачан“ откривају и празнине у бази докумената и нетачно преузете делове. АИ може помоћи да се агрегирају ове повратне информације и сумирају врсте питања која најчешће не успијевају; Али одлука о томе који документ додати, ажурирати или уклонити припада менаџеру информација. Систем захтева негу као живи организам; Занемарена РАГ постаје све више обмањујућа због старе документације током времена.
Савет: Чим подесите РАГ систем, припремите мали скуп тестова од 20-30 стварних питања и познатих тачних одговора. Покретање овог скупа са сваким ажурирањем документа одмах показује да ли промена побољшава или разбија систем.
Четири шаблона за копирање
1) Упит за одговор заснован на извору:
Ваша улога: помоћник за корпоративне информације. У наставку су наведени делови документације у вези са овим питањем. Одговор дајте САМО на основу ових делова и наведите из ког документа/комада је за сваки податак. Ако нема одговора у деловима, реците „ова информација није укључена у достављена документа“, немојте погађати. Питање: [овде] / Делови: [овде]
2) Контрадикција и контрола валуте:
Постоје ли контрадикције или различите датиране верзије између следећих делова? Ако јесте, означите га и назначите који од њих изгледа ажурније. Делови (са датумима): [овде]
3) Ревизија чишћења базе докумената:
На листи докумената у наставку, да ли постоје неки застарели, конфликтни или неодређени документи који треба да се разврсте пре него што се ставе у РАГ систем? Означите и напишите зашто. Списак (са датумом/извором): [овде]
4) Приватност и претходна контрола приступа:
Да ли следећи фрагменти документа садрже осетљиве информације (лични подаци, поверљиви уговор, стратегија)? Класификујте сваки као „јавни/ограничени приступ“ и дајте оправдање. Нумере: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Објасните процедуру издавања дозволе за нашу институцију.
Ако није дата документација, АУ производи измишљену процедуру из своје опште меморије или из имплементације других институција; То може бити ирелевантно за стварну владавину институције.
Снажан упит:
Ваша улога: помоћник за корпоративне информације. Испод су делови докумената (са њиховим датумима) који се односе на процедуру добијања дозволе од стране институције. Одговорите на питање само на основу ових делова, наводећи изворни документ и датум на сваком кораку. Ако се делови сукобљавају, користите најновији и реците то. Ако није у документу, реците „нема информација“. Питање: [овде] / Делови: [овде]
Снажан промпт; повезује одговор са стварним документима институције, тражи изворе и датуме и искрено се бави контрадикцијом и празнином.
РАГ компонента и табела ризика
компонента
Функција
Главни ризик
Уверавање
База докумената
Извор одговора
Застарели/конфликтни документ
Чистоћа, историја, порекло
Преузимање
Пронађите одговарајући део
погрешан комад
Испитивање квалитета, повратне информације
Производња
Одговори
погрешан коментар
Цитирање извора, верификација
Контрола приступа
Провера овлашћења
неовлашћено откривање
Ограничење засновано на кориснику
Уобичајене грешке
- Успостављање базе прљавих докумената. Застарели/конфликтни документ производи лош одговор.
- Прихватање одговора без навођења извора. Сврха РАГ-а је следљивост.
- Не проверавамо датум документа. Одговор за који се мисли да ће бити ажуриран долази из старе верзије.
- Заобилазећи контролу приступа. Неовлашћено лице приступа осетљивим информацијама.
- Мислећи да је РАГ потпуно имун на халуцинације. Погрешан комад и даље производи погрешан одговор.
Укратко
РАГ производи велику вредност у управљању знањем трансформишући организациону меморију у систем који реагује заснован на ресурсима; За разлику од опште вештачке интелигенције, он повезује и изворе одговора са стварним документима организације, чиме значајно смањује халуцинације. Али успех зависи од чисте и ажурне базе документације, тачног приступа стази, атрибуције извора, провере датума/тренутности и контроле приступа. РАГ не ресетује халуцинацију; Критички одговори се проверавају одласком на извор и поверљивост се поштује од самог почетка.
Задатак апликације
Припремите мали скуп докумената (5-8 стварних или узорака докумената агенције, са датумима); Свесно стављен у једну стару и једну актуелну конфликтну верзију. Поставите питање са шаблоном „Одговор заснован на извору“ и проверите да ли АИ наводи извор. Затим процените да ли је АИ исправно открио конфликт и тренутну верзију помоћу шаблона „Провера конфликта и тренутне верзије“.
контролна листа
- [ ] Ажурирао сам базу докумената, уклонио старе/конфликтне документе.
- [ ] Уверио сам се да сваки одговор указује на изворни документ.
- [ ] Проверио сам датум и валидност изворних докумената.
- [ ] Контролом приступа сам спречио генерисање одговора од неовлашћених докумената.
- [ ] Проверио сам критичке одговоре тако што сам отишао на оригинални документ.