Fitimet:
- Kuptoni se si RAG redukton halucinacionet duke lidhur dhe referuar përgjigjen me dokumentet aktuale të institucionit dhe duke zbatuar rëndësinë e një baze të pastër dokumentesh
- Aftësia për të kontrolluar burimin, datën dhe monedhën e prodhimit të RAG dhe për të dalluar versionet kontradiktore
- Aftësia për të mbrojtur privatësinë e korporatës duke parandaluar përgjigjet nga dokumentet e paautorizuara me kontroll të aksesit
Kujtesa e një organizate jeton në mijëra dokumente të shpërndara: raporte, manuale, procesverbale, procedura, email. Një punonjës mund të kërkojë dokumente për orë të tëra për t'iu përgjigjur një pyetjeje të thjeshtë (“si funksionon kjo procedurë?”). Ëndrra e menaxherit të njohurive është që kjo kujtesë të japë përgjigje të drejtpërdrejta, por të bazuara në burime për pyetjet. Kjo është pikërisht ajo që premton RAG. Në këtë njësi do të mësoni se çfarë është RAG, si ta përdorni atë në menaxhimin e informacionit të ndërmarrjes dhe si ta siguroni atë për sa i përket saktësisë, konfidencialitetit dhe afatit kohor.
Le të përcaktojmë konceptin. RAG (Retrieval-Augmented Generation) është kur një AI i përgjigjet një pyetjeje duke gjetur (rikthyer) pjesët përkatëse nga dokumentacioni i vetë organizatës dhe më pas duke gjeneruar përgjigjen bazuar vetëm në ato pjesë. Kjo është thelbësisht e ndryshme nga një AI e përgjithshme që gjeneron një përgjigje nga kujtesa: RAG lidh dhe burim përgjigjen me dokumente reale dhe të gjurmueshme. Kështu, halucinacionet reduktohen shumë, sepse AI flet nga dokumenti i institucionit, jo nga "koka" e tij.
Hap pas hapi: të kuptuarit e një sistemi RAG të ndërmarrjes
1. Përgatitni bazën e dokumentit. Dokumentet e besueshme dhe të përditësuara të organizatës mblidhen, pastrohen dhe ndahen në copa (seksione të vogla kuptimplota të një dokumenti). Nëse dokumente të këqija, të vjetruara ose konfliktuale hyjnë në sistem, përgjigjet do të jenë të këqija: "mbeturinat brenda, mbeturinat jashtë".
2. Vendosni dhe indeksoni. Çdo pjesë konvertohet në një vektor (ngulitje) që përfaqëson kuptimin e tij dhe vendoset në një indeks të kërkueshëm. Kur lind një pyetje, sistemi gjen pjesët që janë më të afërta në kuptim.
3. Sillni pjesët përkatëse. Kur bëhet një pyetje, sistemi tërheq disa nga pjesët më të rëndësishme nga baza e dokumentit. Ky hap është kritik: nëse futet pjesa e gabuar, përgjigja do të jetë gjithashtu e gabuar.
4. Gjeneroni përgjigje të bazuara në burim. AI gjeneron një përgjigje të bazuar vetëm në fragmentet e marra dhe tregon se nga cili dokument është marrë. Një përgjigje që nuk citon burimin është në kundërshtim me qëllimin e RAG.
5. Verifikoni dhe raportoni përsëri. Përdoruesi duhet të jetë në gjendje të shkojë te burimi i treguar dhe të konfirmojë përgjigjen. Përgjigjet e pasakta ose të paplota bëhen reagime për të përmirësuar bazën e dokumentacionit.
Këshillë: Cilësia e RAG varet shumë nga cilësia e bazës së dokumentit. Përditësoni dokumentet, hiqni versionet konfliktuale/të vjetruara dhe shtoni informacionin e datës dhe origjinës në secilin dokument përpara se ta vendosni në sistem. 500 dokumente të mirëorganizuara japin përgjigje më të mira se 5000 dokumente të shpërndara.
Kufijtë dhe pikat e sigurisë së RAG
RAG redukton halucinacionet por nuk e rivendos atë. Nëse sistemi kthen pjesën e gabuar, AI mund të japë përsëri përgjigjen e gabuar duke i qëndruar "besnik" asaj pjese të gabuar. Për më tepër, AI mund të keqinterpretojë pjesët e marra ose të kombinojë disa pjesë në mënyra kontradiktore. Prandaj, prodhimi i RAG duhet gjithashtu të verifikohet duke shkuar te burimi, veçanërisht për vendimet kritike.
Privatësia është një çështje qendrore në RAG të korporatës. Baza e dokumentit mund të përmbajë informacion të ndjeshëm (personel, kontrata, strategji). Sistemi nuk duhet të gjenerojë përgjigje nga dokumente që nuk janë të autorizuara nga përdoruesi; Kontrolli i aksesit (kush mund të shohë cilin dokument) duhet të zbatohet gjithashtu në RAG. Përndryshe, një punonjës mund të ketë akses në informacione përmes RAG-ut që ai nuk mund t'i shohë.
Kujdes: Edhe kur citon një dokument, RAG nuk garanton që ai dokument është i përditësuar dhe i saktë. Sistemi mund të përgjigjet nga një dokument i vjetër procedurash i tre viteve më parë. Është përgjegjësi e përdoruesit dhe menaxherit të informacionit të kontrollojnë datën dhe vlefshmërinë e dokumentit burimor.
tre mini kuti
Rasti 1 — Pyetjet procedurale të përshpejtuara. Një organizatë krijoi një sistem RAG për manualet e saj të procedurave të brendshme prej 1200 faqesh. Pyetjet e punonjësve "si ta bëjmë këtë" u zgjidhën brenda pak sekondash me përgjigjet që tregonin burimin; Kohëzgjatja mesatare e telefonatës u ul nga 25 minuta në 2 minuta. Për shkak se çdo përgjigje e lidhur me seksionin e dokumentacionit në të cilin bazohej, punonjësit ishin në gjendje ta verifikonin atë.
Rasti 2 - Dokument i vjetër i kapur. Një sistem RAG iu përgjigj një pyetjeje të procedurës së lejes nga një dokument i vjetër i datës 2021; Megjithatë, një version i përditësuar doli në vitin 2024. Punonjësi që hapi lidhjen e burimit vuri re se data ishte e vjetëruar dhe gjeti dokumentin e përditësuar. Menaxheri i informacionit hoqi versionin e vjetër nga baza e dokumentit.
Rasti 3 - Parandalohet qasja e paautorizuar. Në konfigurimin fillestar, RAG skanoi publikisht të gjitha dokumentet; një punonjës mori një përgjigje nga një dokument i listës së pagave që ai nuk duhej ta shihte. Ekipi shtoi kontrollin e aksesit në RAG: sistemi tani gjeneron përgjigje vetëm nga dokumentet për të cilat përdoruesi është i autorizuar.
Vlerësimi, komentet dhe përmirësimi i vazhdueshëm
Një sistem RAG nuk është një mjet për t'u instaluar një herë dhe për t'u harruar; Kërkon vlerësim dhe përmirësim të vazhdueshëm. Baza për këtë është matja e rregullt e përgjigjeve të sistemit ndaj pyetjeve reale. Dy pyetje janë kritike: a merr sistemi pjesët e sakta të dokumentit (cilësia e aksesit) dhe a prodhon përgjigjen e duhur nga pjesët e marra (cilësia e prodhimit)? Është e nevojshme të vlerësohen këto dy shtresa veç e veç; Sepse sjellja e dokumentit të duhur dhe keqinterpretimi i tij dhe sjellja e dokumentit të gabuar dhe transferimi i tij me besnikëri janë probleme të ndryshme dhe kërkojnë zgjidhje të ndryshme. Një praktikë e mirë është të mbani një grup "pyetje testimi" me përgjigje të sakta të njohura dhe të testoni sistemin me këtë grup në çdo përditësim. Për më tepër, komentet e përdoruesve "a ishte e dobishme kjo përgjigje / ishte burimi i saktë" zbulon të dyja boshllëqet në bazën e dokumentit dhe pjesët e marra gabimisht. AI mund të ndihmojë në grumbullimin e këtij reagimi dhe të përmbledhë llojet e pyetjeve që dështojnë më shpesh; Por vendimi se cili dokument të shtohet, përditësohet ose hiqet i takon menaxherit të informacionit. Sistemi kërkon kujdes si një organizëm i gjallë; Një RAG i neglizhuar bëhet gjithnjë e më mashtrues për shkak të vjetërsimit të dokumentacionit me kalimin e kohës.
Këshillë: Sapo të vendosni sistemin RAG, përgatitni një grup të vogël testimi prej 20-30 pyetjesh reale dhe përgjigjeve të sakta të njohura. Ekzekutimi i këtij grupi me çdo përditësim dokumenti tregon menjëherë nëse një ndryshim përmirëson ose prish sistemin.
Katër shabllone të kopjueshëm
1) Kërkesa e përgjigjes së bazuar në burim:
Roli juaj: asistent informacioni i korporatës. Më poshtë janë pjesë të dokumentacionit të sjellë në lidhje me këtë pyetje. Jepni përgjigjen bazuar VETËM në këto pjesë dhe tregoni se nga cili dokument/pjesë është për secilën pjesë të informacionit. Nëse nuk ka përgjigje në pjesë, thoni "ky informacion nuk përfshihet në dokumentet e dhëna", mos e merrni me mend. Pyetje: [këtu] / Pjesë: [këtu]
2) Kontradikta dhe kontrolli i monedhës:
A ka ndonjë kontradiktë apo versione të ndryshme të datës midis pjesëve të mëposhtme? Nëse po, shënojeni dhe tregoni se cila duket më e përditësuar. Pjesë (me data): [këtu]
3) Auditimi i pastrimit të bazës së dokumenteve:
Në listën e dokumenteve më poshtë, a ka ndonjë dokument të vjetëruar, konfliktual ose me origjinë të pasigurt që duhet të zgjidhet përpara se të futet në një sistem RAG? Shënoni dhe shkruani pse. Lista (me datë/burim): [këtu]
4) Privatësia dhe kontrolli paraprak i aksesit:
A përmbajnë fragmentet e mëposhtme të dokumentit informacion të ndjeshëm (të dhëna personale, marrëveshje konfidenciale, strategji)? Klasifikojeni secilën si "qasje publike/të kufizuar" dhe jepni arsyetim. Këngët: [këtu]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Shpjegoni procedurën e lejes së institucionit tonë.
Nëse nuk jepet dokumentacion, UA prodhon një procedurë të krijuar nga kujtesa e saj e përgjithshme ose nga zbatimi i institucioneve të tjera; Mund të jetë e parëndësishme për rregullin aktual të institucionit.
Njoftim i fuqishëm:
Roli juaj: asistent informacioni i korporatës. Më poshtë janë dokumentet (me datat e tyre) në lidhje me procedurën e lejes së institucionit. Përgjigjuni pyetjes bazuar vetëm në këto pjesë, duke cituar dokumentin burimor dhe datën në çdo hap. Nëse pjesët bien ndesh, përdorni atë më aktualen dhe thoni kështu. Nëse nuk është në dokument, thoni "pa informacion". Pyetje: [këtu] / Pjesë: [këtu]
Prompt i fuqishëm; e lidh përgjigjen me dokumentet aktuale të institucionit, kërkon burime dhe data dhe adreson sinqerisht kontradiktën dhe boshllëkun.
Komponenti RAG dhe tabela e rrezikut
komponent
Funksioni
Rreziku kryesor
Sigurimi
Baza e dokumentit
Burimi i përgjigjes
Dokument i vjetëruar/konfliktiv
Pastërtia, historia, origjina
Rikthimi
Gjeni pjesën përkatëse
pjesë e gabuar
Testimi i cilësisë, reagimet
Prodhimi
Përgjigju
koment i gabuar
Duke cituar burimin, verifikimi
Kontrolli i aksesit
Kontrolli i autoritetit
zbulimi i paautorizuar
Kufizim i bazuar në përdorues
Gabimet e zakonshme
- Krijimi i një baze dokumentesh të pista. Dokumenti i vjetëruar/konfliktues prodhon përgjigje të keqe.
- Pranimi i një përgjigjeje pa përmendur burimin. Qëllimi i RAG është gjurmueshmëria.
- Mos kontrollimi i datës së dokumentit. Një përgjigje që mendohet se do të përditësohet vjen nga versioni i vjetër.
- Duke anashkaluar kontrollin e aksesit. Personi i paautorizuar hyn në informacione të ndjeshme.
- Duke menduar se RAG është plotësisht imun ndaj halucinacioneve. Pjesa e gabuar ende prodhon përgjigjen e gabuar.
Në përmbledhje
RAG prodhon vlerë të madhe në menaxhimin e njohurive duke transformuar kujtesën organizative në një sistem të përgjegjshëm të bazuar në burime; Ndryshe nga AI e përgjithshme, ajo lidh dhe burime përgjigjen me dokumentet aktuale të organizatës, duke reduktuar kështu ndjeshëm halucinacionet. Por suksesi varet nga një bazë dokumentacioni i pastër dhe i përditësuar, aksesi i saktë i gjurmëve, atribuimi i burimit, kontrolli i datës/aktualitetit dhe kontrolli i aksesit. RAG nuk e rivendos halucinacionin; Përgjigjet kritike verifikohen duke shkuar te burimi dhe konfidencialiteti respektohet që në fillim.
Detyra e aplikimit
Përgatitni një grup të vogël dokumentesh (5-8 dokumente aktuale ose mostra të agjencisë, me data); Vendosni me vetëdije një version konfliktual të vjetër dhe një aktual. Bëni një pyetje me shabllonin "Prompt përgjigje të bazuar në burim" dhe kontrolloni nëse AI citon burimin. Më pas vlerësoni nëse AI zbuloi saktë konfliktin dhe versionin aktual me shabllonin "Konflikti dhe kontrolli i versionit aktual".
listë kontrolli
- [ ] Kam përditësuar bazën e dokumenteve, kam hequr dokumentet e vjetra/kontradiktore.
- [ ] U sigurova që secila përgjigje të tregonte dokumentin burimor.
- [ ] Kontrollova datën dhe vlefshmërinë e dokumenteve burimore.
- [ ] Unë parandalova gjenerimin e përgjigjeve nga dokumentet e paautorizuara me kontroll të aksesit.
- [ ] I verifikova përgjigjet kritike duke shkuar te dokumenti origjinal.