Hagnaður:
- Skilja hvernig RAG (sundrun, aðgangur, auðlindaháð kynslóð) virkar og hvernig það dregur úr ofskynjunum
- Hæfni til að auka gæði svara með því að koma á fót þekkingargrunni sem er núverandi, skýr, átakalaus og hefur eina rétta heimild.
- Geta til að leiðbeina líkaninu „ef það er ekki í upprunanum, segðu mér að þú vitir það ekki“ og breyta spurningunum sem það getur ekki svarað í umbætur á þekkingargrunni
Svarið sem botni eða aðstoðarmaður gefur er aðeins eins gott og upplýsingarnar sem þær eru byggðar á. Þegar viðskiptavinurinn spyr „Heldur herferðin áfram?“ er rétta svarið ekki í minni líkansins heldur í núverandi þekkingargrunni stofnunarinnar. Þess vegna er hjarta gervigreindar símavera þekkingargrunnur (KB): uppfært úrræði þar sem vörur, stefnur, algengar spurningar, verklagsreglur og reglur eru skriflegar. Og aðferðin sem tengir þennan þekkingargrunn á öruggan hátt við gervigreind er kölluð RAG: Retrieval-Augmented Generation - í stað þess að búa til svarið úr eigin minni, sækir líkanið fyrst viðeigandi upplýsingar úr upprunanum (heimsókn) og býr síðan til svarið byggt á þeim hlutum eingöngu (kynslóð).
RAG er öflugasta aðferðin til að koma í veg fyrir ofskynjanir. Líkanið býr ekki til tölu í hausnum fyrir spurningunni "hverjir eru lánsvextir?" Það sækir núverandi áhugatexta úr þekkingargrunninum og svarar út frá honum. Í þessari einingu munum við sjá hvernig á að setja upp þekkingargrunninn, hvernig RAG virkar og hvernig góður þekkingargrunnur ræður gæðum svara.
Hvernig RAG virkar: fjögur skref
Hugsaðu um RAG eins og bókavörð. Viðskiptavinurinn spyr spurninga; Kerfið finnur fyrst viðeigandi síður úr hægri hillu bókasafnsins, les síðan þær síður og skrifar svarið. Tæknileg skref eru sem hér segir:
- Klumpur: Löng skjöl í þekkingargrunninum eru brotin í litla, þýðingarmikla bita (t.d. hver algengar spurningar eru klumpur). Vegna þess að líkanið svarar spurningu nákvæmari með tengdum smáhlutum.
- Innfelling og flokkun: Hvert verk er þýtt á tölulegt form sem táknar merkingu þess (innfelling—röð talna sem táknar merkingu textans) og sett í leitarhæfan gagnagrunn. Þannig er ekki um „orðasamsvörun“ að ræða heldur „merkingarsamsvörun“; Jafnvel þótt viðskiptavinurinn spyrji „hvenær verða peningarnir mínir lagðir inn?” gæti „endurgreiðslutímabilið“ verið að finna.
- Sótt: Þeir hlutar sem eru næst spurningu viðskiptavinarins í merkingu eru sóttir (t.d. 3-5 hlutar sem næstir eru).
- Kynslóð: Líkanið skrifar svarið byggt AÐEINS á dregnum hlutum og gefur til kynna uppruna ef mögulegt er.
Mikilvægi punkturinn er í skrefi 4: líkaninu er sagt að "reiða sig bara á tiltekna hluti, eða segja að þú veist það ekki." Án þessarar leiðbeiningar kemur RAG ekki í veg fyrir að líkanið passi.
Ábending: Gullna reglan hjá RAG: "Ef það er ekki í heimildinni, þá er ekkert svar." Gott RAG kerfi mun segja "ég veit ekki með vissu um þetta" við spurningu sem er ekki í þekkingargrunninum; fyllir aldrei skarðið með getgátum. Hæfni vélmenni til að segja „ég veit það ekki“ er öryggiseiginleiki, ekki veikleiki.
Góður þekkingargrunnur: raunveruleg uppspretta svargæða
Sama hversu góð RAG er, ef þekkingargrunnurinn er slæmur er svarið slæmt. Gæði þekkingargrunns eru mæld með:
eiginleiki
slæmur þekkingargrunnur
Góður þekkingargrunnur
Núverandi
Ekki uppfært í marga mánuði
Uppfært strax þegar breytt
Skýrleiki
Langur, flókinn texti
Stuttar greinar í einu efni
uppbyggingu
Sóðalegur PDF stafli
Merkt niðurbrjótanleg efni
Samræmi
Tvö andstæð svör
Ein uppspretta sannleikans
Gildissvið
Það eru margar eyður
Nær yfir algengar spurningar
eignarhald
Enginn ber ábyrgð
Sérhvert efni hefur eiganda
Hættulegasta vandamálið í símaveri samhengi er mótsögn: Ef tveir mismunandi skilatímar eru skrifaðir í þekkingargrunninn mun RAG segja hvern sem þarf og ósamræmt svar verður sent til viðskiptavinarins. Þess vegna er meginreglan um „einn uppspretta sannleikans“ mikilvæg: upplýsingum er haldið uppfærðum á einum stað; Notaðar eru tilvísanir í þá heimild, ekki afrit.
Skref fyrir skref: byggja upp RAG-stutt viðbragðskerfi
- Hreinsaðu þekkingargrunninn: Fjarlægðu úreltar, misvísandi, afritaðar greinar. Gerðu hverja grein stutta og eina umræðuefni.
- Skiptu því niður og merktu það: Bættu efnismerki og síðustu uppfærsludagsetningu við hverja grein.
- Komdu á aðgangi: Tengdu vélbúnað sem dregur viðeigandi hluta þegar spurt er (fyrirtækja RAG verkfæri veita þetta).
- Skrifaðu stranga vísbendingu: Segðu módelinu "aðeins að treysta á þá hluta sem gefnir eru upp, vitnaðu í heimildina eða segðu að þú veist það ekki."
- Vísaðu í heimildina: Sýndu greinina sem svarið er byggt á; Það veitir bæði sjálfstraust og auðveldar sannprófun.
- Horfðu á eyður: Safnaðu spurningum þar sem botninn segir "Ég veit það ekki"; Þetta sýna annmarka á þekkingargrunninum, fæða þaðan.
Fjögur afritanleg sniðmát
1) Strangt RAG svarbeiðni:
Svar byggt á eftirfarandi [SOURCE] hlutum. Reglur: (1) notaðu aðeins upplýsingarnar í heimildinni, (2) ef þær eru ekki í heimildinni, segðu „Ég hef engar ákveðnar upplýsingar um þetta, leyfðu mér að tengja þig við fulltrúann“, (3) tilgreinið hvaða grein hún byggir á sem [Heimild: atriði-nr], (4) vitnið í upphæð/tímalengd/ástand nákvæmlega út frá heimildinni, ekki rúnna/gera upp. [SOURCE]: <<pulled parts>>Spurning: "<<spurning viðskiptavinar>>"
2) Greinarskrif í þekkingargrunni:
Umbreyttu eftirfarandi dreifða stefnutexta í algengar spurningar greinar sem henta fyrir RAG. Snið: Spurning (á tungumáli viðskiptavinarins) / Stutt svar (2-3 setningar) / Skilyrði (ákvæði) / Dagsetning síðustu uppfærslu / Efnismerki. Merktu öll óljós atriði sem „á að skýra“, líkt og. Hrár texti: <<texti>>
3) Leita að mótsögnum og eyðum:
Skoðaðu eftirfarandi greinar í þekkingargrunni. (1) Merktu greinapörin sem stangast á við hvert annað (t.d. mismunandi skilatímabil). (2) Giska á efni sem oft verður spurt en hafa ENGIN svör. Horfðu aðeins á gefnar greinar; framleiðir nýja stefnu. Greinar: <<list>>
4) Endurbætur frá "Ég veit það ekki" log:
Hér að neðan eru spurningar sem botninn gat ekki svarað (fann ekki heimild). Flokkaðu þeim í efni og stingdu upp á titil greinarinnar sem ætti að bæta við þekkingargrunn hvers hóps. Ekki búa til innihald svarsins, segðu mér bara hvaða atriði vantar. Spurningar: <<list>>
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Svaraðu skilaspurningu viðskiptavinarins.
Engin heimild; Líkanið gæti passað úr minni, magnið/lengdin gæti verið röng, það er ekki hægt að sannreyna það.
Öflug tilvitnun:
Svarið eingöngu byggt á skilastefnuákvæðinu hér að neðan. Ef það er ekki til í heimildinni, segðu „Ég veit það ekki með vissu“. Vitna orðrétt í tímabilið og ástandið, gefðu tilvísun í formi [Heimild: RETURN-03].[HEIM: RETURN-03]: "Ónotaðri vöru er hægt að skila innan 14 daga. Sérsniðnar vörur eru ekki innan skilamarka." Spurning: "Get ég skilað sérsniðnu vörunni sem ég keypti fyrir 20 dögum?"
Mismunur: háð uppruna, tilvísun skylda, tilbúningabann skýrt; líkanið býr til rétt svar („14 dagar liðnir og persónulegt, óendurgreiðanlegt“) frá upprunanum.
þrjú smámál
Tilfelli 1 - Að binda enda á ofskynjanir. Svarnákvæmni fjarskiptabotns við spurningum herferðar var 71% í uppsetningu án RAG; Fyrirsætan bjó stundum til gamlar herferðir. Þegar núverandi herferðarsíður voru tengdar RAG og „ekki segja það ef það er ekki í uppruna“ reglunni var bætt við jókst nákvæmni í 96% og kvörtunum um „röng herferðarorð“ lauk nánast.
Mál 2 - Verð á mótsögn. Í þekkingargrunni netverslunarfyrirtækis voru tveir mismunandi sendingarkostnaður skrifaður á tvær síður (ein núverandi, ein gömul gleymd síða). Botninn var að draga einhvern af handahófi og segja sumum viðskiptavinunum rangt verð. Þegar gamla síðan var sett í geymslu með meginreglunni um eina rétta heimild hvarf ósamræmið. Lærdómur: RAG leysir ekki mótsögnina, heldur útbreiðslu mótsagnarinnar eins og hún er.
Tilfelli 3 — Gildi „Ég veit það ekki“ log. Hjá einum banka sagði botninn „ég veit ekki með vissu“ við ~4.000 spurningar á mánuði. Þegar þessar spurningar voru flokkaðar kom í ljós að 40% snerust um „alþjóðlega kortanotkun“; Það var engin grein um það. Þegar viðkomandi liðum var bætt við voru þessar spurningar leystar og velta til fólks um það efni minnkaði um 55%. Sú staðreynd að botninn sagðist ekki vita varð leiðarkortið til úrbóta.
Algeng mistök
- Svarað án þess að tengja við upprunann. Án RAG passar líkanið við áþreifanlegar upplýsingar; Sérhvert áþreifanlegt svar hlýtur að vera háð upprunanum.
- Slökkt er á "ég veit ekki" valkostinn. Að þvinga líkanið til að svara hverri spurningu tryggir passun.
- Ekki hreinsa misvísandi/gamlar upplýsingar. RAG dreifir mótsögn; Ein rétt heimild er nauðsynleg.
- Vanræksla að tæta. Útflutningur á stórum PDF-skjölum eins og er truflar nákvæman aðgang; Notaðu stuttar greinar í einu efni.
- Að fela upprunann. Að gefa ekki til kynna hvað svarið er byggt á veikir sannprófun og traust.
Varúð: RAG bætir nákvæmni en veitir ekki 100% ábyrgð. Líkanið getur stundum rangtúlkað hlutann sem var tekinn. Þess vegna krefjast fjárhagsleg, lagaleg og öryggismál samþykkis mannsins, jafnvel þó að heimildar sé getið; RAG dregur úr ofskynjunum en fjarlægir ekki ábyrgð.
Í stuttu máli
Þekkingargrunnurinn og RAG eru grunnurinn að nákvæmni gervigreindar símavera. RAG kemur að mestu í veg fyrir ofskynjanir með því að koma í veg fyrir að líkanið passi svarið úr minni og treystir eingöngu á núverandi uppsprettu. En RAG er aðeins eins góður og þekkingargrunnurinn: Þekkingargrunnur sem er uppfærður, skýr, skipulagður, átakalaus og hefur eina uppsprettu sannleikans er nauðsynlegur. Segðu líkaninu „ef það er ekki í upprunanum, segðu mér að þú vitir það ekki“, bentu á upprunann og notaðu spurningarnar sem vélmenni getur ekki svarað til að bæta þekkingargrunn sinn. Halda mannlegu samþykki þrátt fyrir heimildir um stórmál.
Umsóknarverkefni
Skrifaðu 8 raunverulegar/raunhæfar spurningar viðskiptavina frá þinni atvinnugrein og 8 samsvarandi stuttar greinar um þekkingargrunn (hver grein: spurning, stutt svar, skilyrði, dagsetning, merki). Prófaðu síðan hvort líkanið geti sagt „ég veit það ekki“ með því að nota „1) Tight RAG svarkvaðning“ mynstrið og spyrðu líka spurningar, ein þeirra er ekki í þekkingargrunninum. Athugaðu að lokum greinar þínar með "3) Mótsagn og bilskönnun".
gátlisti
- [ ] Sérhvert áþreifanlegt svar sem botninn/aðstoðarmaðurinn gefur fer eftir núverandi þekkingargrunni (í gegnum RAG).
- [ ] Ég leiðbeindi líkaninu „ef það er ekki í heimildinni, segðu mér að þú vitir það ekki“ og prófaði það.
- [ ] Þekkingargrunnur minn samanstendur af uppfærðum, skýrum greinum í einu efni.
- [ ] Ég hreinsaði út misvísandi og gamlar greinar; Það er aðeins ein rétt heimild fyrir öllum upplýsingum.
- [ ] Svör sýna á hvaða grein það er byggt (heimild).
- [ ] Ég safna "ég veit ekki" spurningum og mata þekkingargrunninn.