Qligħ:
- Ifhem kif RAG inaqqas l-alluċinazzjoni billi torbot u tirreferi t-tweġiba għad-dokumenti attwali tal-istituzzjoni u tapplika l-importanza ta’ bażi ta’ dokumenti nadifa
- Kapaċità li tiċċekkja s-sors, id-data u l-munita tal-output RAG u tiddistingwi verżjonijiet konfliġġenti
- Kapaċità li tipproteġi l-privatezza korporattiva billi tipprevjeni tweġibiet minn dokumenti mhux awtorizzati b'kontroll tal-aċċess
Il-memorja ta’ organizzazzjoni tgħix f’eluf ta’ dokumenti mxerrda: rapporti, manwali, minuti, proċeduri, emails. Impjegat jista’ jfittex dokumenti għal sigħat biex iwieġeb mistoqsija sempliċi (“kif taħdem din il-proċedura?”). Il-ħolma tal-maniġer tal-għarfien hija li din il-memorja tipprovdi tweġibiet diretti iżda bbażati fuq is-sors għall-mistoqsijiet. Dan huwa eżattament dak li jwiegħed ir-RAG. F'din l-unità titgħallem x'inhu RAG, kif tużah fil-ġestjoni tal-informazzjoni tal-intrapriża, u kif tiżguraha f'termini ta 'eżattezza, kunfidenzjalità u puntwalità.
Ejja niddefinixxu l-kunċett. RAG (Ġenerazzjoni Żieda-Irkupru) hija meta AI twieġeb mistoqsija billi l-ewwel issib (irkupra) biċċiet rilevanti mid-dokumentazzjoni tal-organizzazzjoni stess u mbagħad tiġġenera t-tweġiba bbażata biss fuq dawk il-biċċiet. Dan huwa fundamentalment differenti minn AI ġenerali li tiġġenera tweġiba mill-memorja: RAG jgħaqqad u sorsi t-tweġiba għal dokumenti reali u traċċabbli. Għalhekk l-alluċinazzjoni titnaqqas ħafna minħabba li l-AI titkellem mid-dokument tal-istituzzjoni, mhux mir-"ras" tagħha.
Pass pass: fehim ta 'sistema RAG ta' intrapriża
1. Ipprepara l-bażi tad-dokumenti. Id-dokumenti affidabbli u aġġornati tal-organizzazzjoni jinġabru, jitnaddfu u jinqasmu f'biċċiet (taqsimiet żgħar sinifikanti ta' dokument). Jekk jidħlu fis-sistema dokumenti ħżiena, skaduti jew konfliġġenti, it-tweġibiet ikunu ħżiena: "żibel ġewwa, żibel barra."
2. Inkorporaw u indiċi. Kull biċċa hija kkonvertita f'vettur (inkorporazzjoni) li tirrappreżenta t-tifsira tagħha u titqiegħed f'indiċi li jista' jitfittex. Meta tqum mistoqsija, is-sistema ssib il-partijiet li huma l-eqreb fit-tifsira.
3. Ġib il-partijiet rilevanti. Meta ssir mistoqsija, is-sistema tiġbed ftit mill-aktar biċċiet rilevanti mill-bażi tad-dokumenti. Dan il-pass huwa kritiku: jekk iddaħħal il-biċċa ħażina, it-tweġiba tkun ħażina wkoll.
4. Iġġenera rispons ibbażat fuq is-sors. L-AI tiġġenera tweġiba bbażata biss fuq il-frammenti miġbura u tindika minn liema dokument ħadet. Risposta li ma tikkwotax is-sors tmur kontra l-iskop tar-RAG.
5. Ivverifika u tirrapporta lura. L-utent għandu jkun jista 'jmur fis-sors muri u jikkonferma t-tweġiba. Tweġibiet skorretti jew mhux kompluti jsiru feedback biex tittejjeb il-bażi tad-dokumentazzjoni.
Tip: Il-kwalità tar-RAG tiddependi ħafna fuq il-kwalità tal-bażi tad-dokumenti. Aġġorna d-dokumenti, neħħi l-verżjonijiet konfliġġenti/ skaduti, u żid informazzjoni dwar id-data u l-provenjenza għal kull dokument qabel ma poġġih fis-sistema. 500 dokument organizzat tajjeb jipproduċu tweġibiet aħjar minn 5,000 dokument imxerrda.
Il-fruntieri u l-punti tas-sigurtà tar-RAG
RAG inaqqas l-alluċinazzjoni iżda ma jerġax iġibha. Jekk is-sistema tirritorna l-biċċa l-ħażina, l-AI tista’ xorta tagħti tweġiba ħażina billi tibqa’ "leali" lejn dik il-biċċa ħażina. Barra minn hekk, l-AI tista' tinterpreta ħażin biċċiet miġjuba jew tgħaqqad biċċiet multipli b'modi kontradittorji. Għalhekk, l-output RAG għandu wkoll jiġi vverifikat billi tmur fis-sors, speċjalment għal deċiżjonijiet kritiċi.
Il-privatezza hija kwistjoni ċentrali fir-RAG korporattiva. Il-bażi tad-dokumenti jista' jkun fiha informazzjoni sensittiva (persunal, kuntratti, strateġija). Is-sistema m'għandhiex tiġġenera tweġibiet minn dokumenti li mhumiex awtorizzati mill-utent; Il-kontroll tal-aċċess (min jista’ jara liema dokument) għandu jiġi applikat ukoll għar-RAG. Inkella, impjegat jista' jaċċessa informazzjoni permezz ta' RAG li ma jistax jara.
Attenzjoni: Anke meta tikkwota dokument, RAG ma tiggarantixxix li dak id-dokument huwa aġġornat u preċiż. Is-sistema tista' tirrispondi minn dokument ta' proċedura antik ta' tliet snin ilu. Hija r-responsabbiltà tal-utent u l-maniġer tal-informazzjoni li jiċċekkjaw id-data u l-validità tad-dokument sors.
tliet każijiet żgħar
Każ 1 — Mistoqsijiet proċedurali aċċellerati. Organizzazzjoni waħda stabbilixxiet sistema RAG għall-manwali tal-proċeduri interni tagħha ta’ 1,200 paġna. Il-mistoqsijiet tal-impjegati "kif tagħmel dan" ġew solvuti fi ftit sekondi bit-tweġibiet li jindikaw is-sors; It-tul medju tas-sejħa naqas minn 25 minuta għal 2 minuti. Minħabba li kull tweġiba marbuta mat-taqsima tad-dokumentazzjoni li fuqha kienet ibbażata, l-impjegati setgħu jivverifikawha.
Każ 2 — Dokument antik maqbud. Sistema RAG wieġbet mistoqsija dwar proċedura ta' permess minn dokument antik datat 2021; Madankollu, ġiet rilaxxata verżjoni aġġornata fl-2024. L-impjegat li fetaħ il-link tas-sors innota li d-data kienet skaduta u sab id-dokument aġġornat. Il-maniġer tal-informazzjoni neħħa l-verżjoni l-antika mill-bażi tad-dokumenti.
Każ 3 — Aċċess mhux awtorizzat impedit. Fis-setup inizjali, RAG skennjat id-dokumenti kollha pubblikament; impjegat irċieva tweġiba minn dokument tal-pagi li ma kellux jara. It-tim żied il-kontroll tal-aċċess għal RAG: is-sistema issa tiġġenera biss tweġibiet minn dokumenti li għalihom l-utent huwa awtorizzat.
Evalwazzjoni, feedback u titjib kontinwu
Sistema RAG mhix għodda li tiġi installata darba u minsija; Jeħtieġ evalwazzjoni u titjib kostanti. Il-bażi għal dan hija kejl regolari tat-tweġibiet tas-sistema għal mistoqsijiet reali. Żewġ mistoqsijiet huma kritiċi: is-sistema ġġib il-biċċiet tad-dokument korretti (kwalità tal-aċċess) u tipproduċi r-rispons korrett mill-biċċiet miġbura (kwalità tal-produzzjoni)? Huwa meħtieġ li dawn iż-żewġ saffi jiġu evalwati separatament; Għax li ġġib id-dokument it-tajjeb u tinterpretah ħażin u ġġib id-dokument ħażin u ttrasferih fedelment huma problemi differenti u jeħtieġu soluzzjonijiet differenti. Prattika tajba hija li żżomm sett ta' "mistoqsijiet tat-test" bi tweġibiet korretti magħrufa u tittestja s-sistema b'dan is-sett f'kull aġġornament. Barra minn hekk, il-feedback tal-utenti "din it-tweġiba kienet utli/kienet is-sors preċiż" jiżvela kemm nuqqasijiet fil-bażi tad-dokumenti kif ukoll partijiet li nġabru b'mod żbaljat. L-AI tista' tgħin biex tiġbor dan ir-rispons u tiġbor fil-qosor it-tipi ta' mistoqsijiet li jfallu l-aktar spiss; Iżda d-deċiżjoni dwar liema dokument iżżid, taġġorna jew tneħħi tappartjeni lill-maniġer tal-informazzjoni. Is-sistema teħtieġ kura bħal organiżmu ħaj; RAG traskurat isir dejjem aktar qarrieqi minħabba dokumentazzjoni li qed tixjieħ maż-żmien.
Tip: Hekk kif twaqqaf is-sistema RAG, ipprepara sett żgħir ta 'test ta' 20-30 mistoqsija reali u tweġibiet korretti magħrufa. It-tħaddim ta' dan is-sett ma' kull aġġornament tad-dokument juri istantanjament jekk bidla ttejjebx jew tkisserx is-sistema.
Erba' mudelli li jistgħu jiġu kkupjati
1) Rispons ibbażat fuq is-sors fil-pront:
Ir-rwol tiegħek: assistent tal-informazzjoni korporattiva. Hawn taħt hemm biċċiet ta 'dokumentazzjoni mressqa dwar il-mistoqsija. Agħti t-tweġiba bbażata BISS fuq dawn il-biċċiet u ddikjara minn liema dokument/biċċa għal kull biċċa informazzjoni hija minnha. Jekk ma jkunx hemm tweġiba fil-partijiet, għid "din l-informazzjoni mhix inkluża fid-dokumenti pprovduti", taqtax. Mistoqsija: [hawn] / Partijiet: [hawn]
2) Kontradizzjoni u kontroll tal-munita:
Hemm xi kontradizzjonijiet jew verżjonijiet datati differenti bejn il-biċċiet li ġejjin? Jekk iva, immarkaha u indika liema waħda tidher aktar aġġornata. Partijiet (bid-dati): [hawn]
3) Verifika tat-tindif tal-bażi tad-dokument:
Fil-lista ta' dokumenti hawn taħt, hemm xi dokumenti skaduti, konfliġġenti jew ta' oriġini inċerta li jeħtieġ li jiġu solvuti qabel ma jitpoġġew f'sistema RAG? Immarka u ikteb għaliex. Lista (bid-data/sors): [hawn]
4) Privatezza u kontroll minn qabel tal-aċċess:
Il-frammenti tad-dokumenti li ġejjin fihom informazzjoni sensittiva (dejta personali, ftehim kunfidenzjali, strateġija)? Ikklassifika kull wieħed bħala "aċċess pubbliku/ristrett" u agħti ġustifikazzjoni. Binarji: [hawn]
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Spjega l-proċedura tal-permess tal-istituzzjoni tagħna.
Jekk ma tingħata l-ebda dokumentazzjoni, l-AI tipproduċi proċedura magħmula mill-memorja ġenerali tagħha jew mill-implimentazzjoni ta 'istituzzjonijiet oħra; Jista' jkun irrilevanti għar-regola attwali tal-istituzzjoni.
Pront qawwi:
Ir-rwol tiegħek: assistent tal-informazzjoni korporattiva. Hawn taħt jinsabu l-biċċiet tad-dokumenti (bid-dati tagħhom) dwar il-proċedura tal-permess tal-istituzzjoni. Wieġeb il-mistoqsija bbażata fuq dawn il-partijiet biss, u ċċita d-dokument tas-sors u d-data f'kull pass. Jekk il-partijiet jikkonfliġġu, uża l-aktar waħda attwali u għid hekk. Jekk ma jkunx fid-dokument, għid "l-ebda informazzjoni". Mistoqsija: [hawn] / Partijiet: [hawn]
Pront qawwija; jgħaqqad it-tweġiba ma' dokumenti ta' istituzzjoni attwali, jitlob sorsi u dati, u jindirizza b'mod onest il-kontradizzjoni u l-lakuna.
Komponent RAG u tabella tar-riskju
komponent
Funzjoni
Riskju ewlieni
Assigurazzjoni
Bażi tad-dokumenti
Sors tat-tweġiba
Dokument skadut/konfliġġenti
Indafa, storja, oriġini
Irkupru
Sib il-parti rilevanti
biċċa ħażina
Ittestjar tal-kwalità, feedback
Produzzjoni
Irrispondi
kumment ħażin
Sors li jiċċita, verifika
Kontroll tal-aċċess
Kontroll ta' l-awtorità
żvelar mhux awtorizzat
Restrizzjoni bbażata fuq l-utent
Żbalji komuni
- Stabbiliment ta 'bażi ta' dokumenti maħmuġin. Dokument skadut/konfliġġenti jipproduċi rispons ħażin.
- Taċċetta tweġiba mingħajr ma tiċċita s-sors. L-iskop tar-RAG huwa t-traċċabilità.
- Mhux qed tiċċekkja d-data tad-dokument. Risposta maħsuba biex tiġi aġġornata ġejja mill-verżjoni l-antika.
- Bypassing kontroll ta 'aċċess. Persuna mhux awtorizzata taċċessa informazzjoni sensittiva.
- Taħseb li RAG huwa kompletament immuni għall-alluċinazzjoni. Il-biċċa ħażina xorta tipproduċi t-tweġiba ħażina.
Fil-qosor
RAG jipproduċi valur kbir fil-ġestjoni tal-għarfien billi jittrasforma l-memorja organizzattiva f'sistema li tirreaġixxi bbażata fuq ir-riżorsi; B'differenza mill-AI ġenerali, torbot u sorsi t-tweġiba għad-dokumenti attwali tal-organizzazzjoni, u b'hekk tnaqqas b'mod sinifikanti l-alluċinazzjoni. Iżda s-suċċess jiddependi fuq bażi ta' dokumentazzjoni nadifa u aġġornata, aċċess preċiż għall-binarji, attribuzzjoni tas-sors, verifika tad-data/kurrentità, u kontroll tal-aċċess. RAG ma reset l-alluċinazzjoni; It-tweġibiet kritiċi jiġu vverifikati billi tmur fis-sors u l-kunfidenzjalità hija rispettata mill-bidu nett.
Kompitu ta' applikazzjoni
Ipprepara sett żgħir ta 'dokumenti (5-8 dokumenti ta' aġenzija attwali jew kampjun, bid-dati); Konxjament imqiegħed f'verżjoni waħda antika u waħda konfliġġenti attwali. Staqsi mistoqsija bil-mudell "Pront ta 'rispons ibbażat fuq is-sors" u iċċekkja jekk l-AI tikkwota s-sors. Imbagħad evalwa jekk l-AI sabitx b'mod korrett il-kunflitt u l-verżjoni attwali bil-mudell "Konflitt u kontroll tal-verżjoni attwali".
lista ta' kontroll
- [ ] Aġġornajt il-bażi tad-dokumenti, neħħejt dokumenti qodma/konfliġġenti.
- [ ] Kun żgur li kull tweġiba tindika d-dokument tas-sors.
- [ ] Iċċekkjt id-data u l-validità tad-dokumenti sors.
- [ ] Impedejt il-ġenerazzjoni ta' tweġibiet minn dokumenti mhux awtorizzati b'kontroll tal-aċċess.
- [ ] Ivverifikajt it-tweġibiet kritiċi billi mort għad-dokument oriġinali.