Hagnaður:
- Skilja hvernig RAG dregur úr ofskynjunum með því að tengja og vísa svarið við raunveruleg skjöl stofnunarinnar og beita mikilvægi hreins skjalagrunns
- Geta til að athuga uppruna, dagsetningu og gjaldmiðil RAG framleiðsla og greina misvísandi útgáfur
- Geta til að vernda einkalíf fyrirtækja með því að koma í veg fyrir svör frá óviðkomandi skjölum með aðgangsstýringu
Minni stofnunar lifir í þúsundum dreifðra skjala: skýrslum, handbókum, fundargerðum, verklagsreglum, tölvupóstum. Starfsmaður getur leitað að skjölum tímunum saman til að svara einfaldri spurningu ("hvernig virkar þessi aðferð?"). Draumur þekkingarstjórans er að þetta minning veiti bein en heimildatengd svör við spurningum. Þetta er nákvæmlega það sem RAG lofar. Í þessari einingu munt þú læra hvað RAG er, hvernig á að nota það í upplýsingastjórnun fyrirtækja og hvernig á að tryggja það hvað varðar nákvæmni, trúnað og tímanleika.
Við skulum skilgreina hugtakið. RAG (Retrieval-Augmented Generation) er þegar gervigreind svarar spurningu með því að finna (sækja) fyrst viðeigandi hluti úr eigin skjölum stofnunarinnar og búa síðan til svarið eingöngu byggt á þeim hlutum. Þetta er í grundvallaratriðum frábrugðið almennri gervigreind sem býr til svar úr minni: RAG tengir og veitir svarið við raunverulegum, rekjanlegum skjölum. Þannig minnkar ofskynjanir verulega vegna þess að gervigreind talar út frá skjali stofnunarinnar, ekki frá "höfðinu".
Skref fyrir skref: að skilja RAG kerfi fyrirtækja
1. Undirbúðu skjalagrunninn. Áreiðanlegum, uppfærðum skjölum stofnunarinnar er safnað, hreinsað og þeim skipt í bita (mikilvæga litla hluta skjalsins). Ef slæm, úrelt eða misvísandi skjöl koma inn í kerfið verða svörin slæm: „sorp inn, sorp út.“
2. Fella inn og skrá. Hverjum bita er breytt í vektor (innfelling) sem táknar merkingu hans og settur í leitarhæfan vísitölu. Þegar spurning kemur upp finnur kerfið þá hluta sem eru næstir í merkingu.
3. Komdu með viðeigandi hluta. Þegar spurning er spurð, dregur kerfið nokkra af mikilvægustu hlutunum úr skjalagrunninum. Þetta skref er mikilvægt: ef rangt stykki er komið inn verður svarið líka rangt.
4. Búðu til uppspretta-undirstaða svar. Gervigreindin býr til svar sem byggist eingöngu á sóttum brotum og gefur til kynna úr hvaða skjal það var tekið. Svar sem ekki vitnar í heimildina er andstætt tilgangi RAG.
5. Staðfestu og tilkynntu til baka. Notandinn ætti að geta farið að upprunanum sem sýndur er og staðfest svarið. Röng eða ófullnægjandi svör verða endurgjöf til að bæta skjalagrunninn.
Ábending: Gæði RAG fer að miklu leyti eftir gæðum skjalagrunnsins. Uppfærðu skjöl, fjarlægðu misvísandi/úreltar útgáfur og bættu dagsetningar- og upprunaupplýsingum við hvert skjal áður en það er sett inn í kerfið. 500 vel skipulögð skjöl gefa betri svör en 5.000 dreifð skjöl.
Landamæri og öryggisstaðir RAG
RAG dregur úr ofskynjunum en endurstillir hana ekki. Ef kerfið skilar röngum hlut, gæti gervigreindin samt gefið rangt svar með því að vera "hollur" við þann ranga hlut. Að auki getur gervigreind mistúlkað sótta stykki eða sameinað mörg stykki á misvísandi hátt. Þess vegna ætti RAG framleiðsla einnig að vera staðfest með því að fara til upprunans, sérstaklega fyrir mikilvægar ákvarðanir.
Persónuvernd er aðalatriði í RAG fyrirtækja. Skjalagrunnurinn getur innihaldið viðkvæmar upplýsingar (starfsfólk, samningar, stefnumótun). Kerfið ætti ekki að búa til svör úr skjölum sem notandinn leyfir ekki; Aðgangsstýring (hver getur séð hvaða skjal) ætti einnig að vera beitt á RAG. Að öðrum kosti getur starfsmaður nálgast upplýsingar í gegnum RAG sem hann getur ekki séð.
Athugið: Jafnvel þegar vitnað er í skjal ábyrgist RAG ekki að skjalið sé uppfært og nákvæmt. Kerfið gæti svarað úr gömlu verklagsskjali frá því fyrir þremur árum. Það er á ábyrgð notanda og upplýsingastjóra að athuga dagsetningu og gildi frumskjalsins.
þrjú smámál
Mál 1 — Málsmeðferðarspurningum flýtt. Ein stofnun stofnaði RAG kerfi fyrir 1.200 blaðsíðna innri verklagshandbækur sínar. Spurningar starfsmanna „hvernig á að gera þetta“ voru leystar á nokkrum sekúndum með svörum sem tilgreindu upprunann; Meðallengd símtala minnkaði úr 25 mínútum í 2 mínútur. Þar sem hvert svar tengdist hluta skjala sem það var byggt á, gátu starfsmenn staðfest það.
Mál 2 — Gamalt skjal tekið. RAG-kerfi svaraði spurningu um leyfisferli úr gömlu skjali frá 2021; Hins vegar var uppfærð útgáfa gefin út árið 2024. Starfsmaðurinn sem opnaði upprunatengilinn tók eftir því að dagsetningin var úrelt og fann uppfærða skjalið. Upplýsingastjórinn fjarlægði gömlu útgáfuna úr skjalagrunninum.
Mál 3 — Óviðkomandi aðgangur hindraður. Í fyrstu uppsetningu skannaði RAG öll skjöl opinberlega; starfsmaður fékk svar úr launaskjali sem hann átti ekki að sjá. Teymið bætti aðgangsstýringu við RAG: kerfið býr nú aðeins til svör úr skjölum sem notandinn hefur heimild til.
Mat, endurgjöf og stöðugar umbætur
RAG kerfi er ekki tæki til að setja upp einu sinni og gleyma; Það krefst stöðugs mats og endurbóta. Grunnurinn að því er regluleg mæling á svörum kerfisins við raunverulegum spurningum. Tvær spurningar eru mikilvægar: sækir kerfið rétta skjalahluta (aðgangsgæði) og gefur það rétt svar frá sóttum hlutum (framleiðslugæði)? Nauðsynlegt er að leggja mat á þessi tvö lög sérstaklega; Vegna þess að það að koma með rétt skjal og rangtúlka það og koma með rangt skjal og flytja það af trúmennsku eru mismunandi vandamál og krefjast mismunandi lausna. Góð venja er að geyma sett af „prófspurningum“ með þekktum réttum svörum og prófa kerfið með þessu setti við hverja uppfærslu. Að auki sýna notendur „var þetta svar gagnlegt / var heimildin nákvæm“ bæði eyður í skjalagrunninum og ranglega sótta hluta. Gervigreind getur hjálpað til við að safna saman þessum viðbrögðum og draga saman þær tegundir spurninga sem oftast mistakast; En ákvörðun um hvaða skjali á að bæta við, uppfæra eða fjarlægja tilheyrir upplýsingastjóranum. Kerfið krefst umhyggju eins og lifandi lífvera; Vanrækt RAG verður sífellt villandi vegna öldrunar skjala með tímanum.
Ábending: Um leið og þú setur upp RAG kerfið skaltu búa til lítið prófunarsett með 20-30 raunverulegum spurningum og þekktum réttum svörum. Að keyra þetta sett með hverri skjalauppfærslu sýnir samstundis hvort breyting bætir eða brýtur kerfið.
Fjögur afritanleg sniðmát
1) Upprunabundin svarkvaðning:
Hlutverk þitt: upplýsingafulltrúi fyrirtækja. Hér að neðan eru skjöl sem komu fram varðandi spurninguna. Gefðu svarið eingöngu byggt á þessum hlutum og tilgreinið hvaða skjal/hluti fyrir hvern upplýsingahluta það er úr. Ef ekkert svar er í hlutunum, segðu „þessar upplýsingar eru ekki innifaldar í skjölunum sem fylgja“, ekki giska. Spurning: [hér] / Hlutar: [hér]
2) Mótsögn og gjaldeyriseftirlit:
Eru einhverjar mótsagnir eða mismunandi dagsettar útgáfur á milli eftirfarandi hluta? Ef svo er, merktu við það og merktu við hvor þeirra lítur betur út. Hlutar (með dagsetningum): [hér]
3) Úttekt á hreinsun skjalagrunns:
Í skjalalistanum hér að neðan, eru einhver úrelt, andstæð eða óviss skjöl sem þarf að flokka áður en þau eru sett í RAG kerfi? Merktu við og skrifaðu hvers vegna. Listi (með dagsetningu/heimild): [hér]
4) Persónuvernd og forstýring aðgangs:
Innihalda eftirfarandi skjalabrot viðkvæmar upplýsingar (persónuupplýsingar, trúnaðarsamningur, stefna)? Flokkaðu hvern og einn sem "almenning/takmarkaðan aðgang" og færðu rökstuðning. Lög: [hér]
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Útskýrðu leyfisferli stofnunarinnar okkar.
Ef engin skjöl eru gefin framleiðir gervigreindin tilbúna aðferð úr almennu minni sínu eða frá framkvæmd annarra stofnana; Það kann að vera óviðkomandi raunverulegu regluverki stofnunarinnar.
Öflug tilvitnun:
Hlutverk þitt: upplýsingafulltrúi fyrirtækja. Hér að neðan eru skjöl (með dagsetningum) varðandi leyfisferli stofnunarinnar. Svaraðu spurningunni út frá þessum hlutum einum saman og vitnaðu í upprunaskjalið og dagsetninguna í hverju skrefi. Ef hlutarnir stangast á, notaðu þá nýjustu og segðu það. Ef það er ekki í skjalinu, segðu „engar upplýsingar“. Spurning: [hér] / Hlutar: [hér]
Öflug hvetja; tengir svarið við raunveruleg skjöl stofnunarinnar, biður um heimildir og dagsetningar og tekur heiðarlega á mótsögninni og bilinu.
RAG hluti og áhættutafla
hluti
Virka
Aðaláhætta
Trygging
Skjalagrunnur
Heimild svarsins
Úrelt/mótandi skjal
Hreinlæti, saga, uppruna
Endurheimt
Finndu viðeigandi hluta
rangt stykki
Gæðapróf, endurgjöf
Framleiðsla
Svaraðu
rangt komment
Heimildarvitnun, sannprófun
Aðgangsstýring
Yfirvaldsskoðun
óheimil birting
Notendabundin takmörkun
Algeng mistök
- Að koma á óhreinum skjalagrunni. Gamaldags/mótandi skjal gefur slæm viðbrögð.
- Samþykkja svar án þess að vitna í heimildina. Tilgangur RAG er rekjanleiki.
- Athugar ekki dagsetningu skjalsins. Svar sem talið er að verði uppfært kemur frá gömlu útgáfunni.
- Framhjá aðgangsstýringu. Óviðkomandi hefur aðgang að viðkvæmum upplýsingum.
- Held að RAG sé algjörlega ónæmur fyrir ofskynjunum. Rangt verk gefur samt rangt svar.
Í stuttu máli
RAG framleiðir mikil verðmæti í þekkingarstjórnun með því að umbreyta skipulagsminni í auðlindabundið móttækilegt kerfi; Ólíkt almennri gervigreind tengir það og veitir svarið við raunverulegum skjölum stofnunarinnar og dregur þannig verulega úr ofskynjunum. En velgengni er háð hreinum og uppfærðum skjalagrunni, nákvæmum brautaraðgangi, heimildaskráningu, dagsetningu/straumathugun og aðgangsstýringu. RAG endurstillir ekki ofskynjanir; Gagnrýnin svör eru sannreynd með því að fara til heimildarinnar og trúnaður er virtur frá upphafi.
Umsóknarverkefni
Undirbúa lítið sett af skjölum (5-8 raunveruleg skjöl eða sýnishorn stofnunarinnar, með dagsetningum); Settu meðvitað inn eina gamla og eina núverandi andstæða útgáfu. Spyrðu spurningu með sniðmátinu „Upprunabundið svarbeiðni“ og athugaðu hvort gervigreindin vitnar í upprunann. Metið síðan hvort gervigreindin hafi fundið átökin og núverandi útgáfu rétt með sniðmátinu „Átök og núverandi útgáfuathugun“.
gátlisti
- [ ] Ég uppfærði skjalagrunninn, reifaði gömul/mótandi skjöl.
- [ ] Ég passaði upp á að hvert svar bendi á frumskjalið.
- [ ] Ég athugaði dagsetningu og gildi upprunaskjalanna.
- [ ] Ég kom í veg fyrir að svör yrðu mynduð frá óviðkomandi skjölum með aðgangsstýringu.
- [ ] Ég staðfesti mikilvæg svör með því að fara í upprunalega skjalið.