Hagnaður:
- Að skilja rökfræði þekkingarbundinnar kynslóðar (RAG) og hvers vegna hún dregur úr ofskynjunum
- Geta til að láta líkanið bregðast við með tilvitnun, byggt aðeins á upprunaskjölunum sem gefnir eru upp
- Geta til að stjórna spurningum sem eru ekki í upprunanum með því að flytja þær á öruggan hátt, án þess að búa til spurningar
Tungumálamódel "veit" margt, en það þekkir ekki skilastefnu fyrirtækisins í dag, núverandi verðlista eða sendingarsamninginn þinn sem breyttist í gær. Það sem verra er, þegar hann veit það ekki, gerir hann það oft og skrifar í einstaklega öruggum tón. Þetta er banvænn galli í þjónustu við viðskiptavini: líkanið segir „Endurgreiðslur eru gefnar út innan 30 daga“ á meðan trygging þín gæti verið 14 dagar. Nálgunin sem lokar þessu bili er kölluð RAG: Retrieval-Augmented Generation, það er að segja „endurheimt-augmented production“.
Hugmyndin er einföld: Líkanið svarar spurningunni ekki úr minni, heldur út frá réttum heimildarskjölum sem sett eru fyrir framan það á því augnabliki. Í fyrsta lagi er rétta skjalið sem skiptir máli fyrir spurninguna „heimsókn“, síðan „myndar“ líkanið svarið eingöngu byggt á því stykki. Í þessari einingu muntu skilja rökfræði RAG og læra hvernig á að hemja líkanið þannig að það haldist aðeins við staðfestu heimildina sem þú gefur upp.
Athugið: Þessi eining kennir vinnurökfræði og skyndihlið RAG. Sjálfvirk skjalaöflunarkerfi (vektorgagnagrunnur osfrv.) krefjast tæknilegrar uppsetningar; Agi hér er grundvöllur þess að það kerfi bregðist rétt við.
Af hverju dregur RAG úr ofskynjunum?
Ofskynjanir er þegar líkanið framleiðir óraunverulegar upplýsingar eins og þær væru raunverulegar. Líkanið er forritað til að framleiða svar sem virðist „mögulegt“ þegar það sér bil; Veit ekki hvort það er satt eða ekki. RAG fyllir þetta skarð: þú gefur líkaninu raunverulegan viðeigandi texta ásamt spurningunni og segir „bara svara héðan“. Þannig "þarf" líkanið ekki að passa.
Það eru þrír þættir:
- Þekkingargrunnur: Áreiðanlegur texti eins og algengar spurningar, stefnuskjöl, vöruhandbækur, verðlistar.
- Sækja: Að finna skjalið sem inniheldur svarið við spurningunni og gefa það fyrir líkanið.
- Takmarkað upplag: Líkan svarar með tilvitnun, byggt aðeins á hlutanum sem fylgir.
Skref fyrir skref: Trúlegt svar við upprunanum
- Undirbúðu heimildina. Finndu textann sem svarið verður byggt á (stefna, algengar spurningar) á skýru og uppfærðu sniði.
- Fella upprunann inn í hvetjunni. Settu textann í merki eins og <heimild>.
- Skrifaðu tryggðarregluna. "Notaðu aðeins upplýsingarnar frá upprunanum; ekki villast frá upprunanum."
- Gerðu tilvitnun nauðsynlega. Látið hann tilgreina á hvaða kafla svarið er byggt.
- Þekkja ekki auðlindahegðun. Ef svarið er ekki í heimildinni, láttu hann segja „ég hef ekki þessar upplýsingar“ og sendu þær áfram.
- Staðfestu. Staðfestu svarið með því að bera það saman við upprunasetninguna sem það er byggt á.
Afritanleg skilaboð
Svarbeiðni byggð á undirliggjandi heimild:
Hlutverk: Þú ert aðstoðarmaður við þjónustuver. Svaraðu spurningunni AÐEINS út frá upplýsingum í <heimild>reitnum hér að neðan. Ekki bæta við neinum upplýsingum sem eru ekki í heimildinni, giska á eða svara frá almennri þekkingu þinni. Bættu við hlutanum sem þú treystir á í lok svars þíns á sniðinu "[Heimild: ...]". Ef svarið er ekki í heimildinni skaltu skrifa eftirfarandi: "Ég hef ekki endanlegar upplýsingar um þetta efni, ég er að flytja þig til embættismanns sem getur gefið rétt svar."<source>{{ policy_or_faq_text }}</source>Spurning: {{ customer_question }}
Ef um er að ræða margar heimildir, hvetja til að sýna hvaða skjal það er byggt á:
Það eru margar heimildir númeraðar hér að neðan. Þegar þú svarar spurningunni skaltu tilgreina númer heimildarinnar sem þú notaðir, svo sem [Heimild 2]. Ef fleiri en ein heimild stangast á við þig, segðu það skýrt og taktu fram að þú ættir að spyrja hvor þeirra er uppfærðari.<heimildir>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Spurning: {{ customer_question }}
Hvetja sem stjórnar spurningunni sem ekki er uppspretta á öruggan hátt:
Ef svarið við spurningunni er að hluta til að finna í heimildinni: svaraðu aðeins þeim hluta sem heimildin nær yfir og segðu „þetta smáatriði er ekki í heimildinni“ fyrir þann hluta sem eftir er. Fylltu aldrei út þann hluta sem vantar með því að giska.
Hvetja sem þýðir svarið yfir á tungumál viðskiptavinarins, en er trú upprunanum:
Þýddu opinbera/tæknilega tjáninguna í upprunanum yfir á látlaust tungumál sem viðskiptavinurinn getur skilið, en EKKI breyta merkingu og tölugildum (dagur, upphæð, hlutfall). Til dæmis, námundun "14 almanaksdaga" í "um það bil tvær vikur"; halda fullu gildi.
Veik kvaðning / sterk kvaðning
Veik kvaðning
Öflug tilvitnun
„Segðu okkur frá skilastefnu okkar“
Embeds source + "svara aðeins hér" + óskar eftir tilboði
Svar frá minni líkansins (kannski rangt)
Svar úr núverandi skjali
Ef það er ekki í heimildinni, gerir hann það upp
Hann segir „ég hef ekki þessar upplýsingar“ og miðlar þeim áfram.
Getur rúnað og brenglað tölur
Viðheldur dag/upphæð/gengi nákvæmlega
Munurinn er sá að sterk hvetja gefur líkaninu akkeri (frumtexti) og bann (að fara af uppruna). Fyrirmyndin talar ekki lengur eftir minni, heldur frá veruleikanum fyrir framan hann.
Þrjú Mini Cass
Mál 1 - Gamla stefnugildran. „Skilað er innan 30 daga,“ sagði láni einnar verslunar á meðan hann var að keyra án inneignar; Hins vegar stytti félagið frestinn í 14 daga. Þegar uppfærðum stefnutexta er bætt við upprunann í RAG uppsetningunni svarar botninn núna „14 almanaksdagar [Heimild: Skilastefna, grein 2]“. Deilur um endurgreiðslur vegna svikinna loforða hafa verið endurstilltar.
Mál 2 - Að ná mótsögninni. Viðskiptavinur spurði um sendingarkostnað. Bæði gamla og nýja verðskráin voru færð inn í kerfið sem heimildir. Þökk sé fjöluppsprettunni sagði líkanið: "Tvær heimildir gefa mismunandi verð (49 TL og 59 TL); ég þarf að staðfesta núverandi" og flutti málið til mannsins. Í stað þess að segja viðskiptavininum ranga upphæð kom hann óvissunni heiðarlega á framfæri.
Mál 3 — Viðbragðsaga að hluta. Sendir þú vöruna til útlanda og hver borgar tollinn? Í spurningunni sagði heimildarmaðurinn aðeins að sendingin hafi verið gerð, ekkert hafi verið um hver borgaði skattinn. Fyrirmyndin sagði: "Já, sendingar fara fram til útlanda [Heimild: Cargo FAQ]. Hins vegar er ekki tekið fram í þessu skjali hver greiðir tollinn; ég er að flytja þig til embættismannsins til að skýra þetta." Í stað þess að vera hálfsönn, hálfgert svar, skilaði það heiðarlegu og öruggu framtaki.
Ábending: Haltu nýjustu og einstöku uppsprettu sannleikaútgáfu þekkingargrunns þíns. Að hafa sömu upplýsingar (t.d. skilatímabil) skrifaðar á annan hátt í þremur aðskildum skjölum er stærsti óvinur RAG; Líkanið bregst misjafnlega við eftir því á hvern það er litið. Afritaðu fyrst skjölin þín og gerðu þau síðan sjálfvirkan.
Staðfesting: Ekki slaka á bara vegna þess að uppsprettan er til
RAG dregur mjög úr ofskynjunum en endurstillir hana ekki. Líkanið getur stundum rangtúlkað heimildina, blandað saman tveimur setningum eða dregið „ályktun“ sem er ekki í heimildinni. Þess vegna er tilvitnunarkrafan mikilvæg: opnaðu hlutann sem svarið segist byggja á og athugaðu hvort það sé í raun og veru. Þetta eftirlit er ekki samningsatriði, sérstaklega í svörum sem innihalda tölur (dagur, upphæð, hlutfall) og skilyrði (undanþága, skilyrði).
Varúð: Ef heimildin sjálf er röng eða úrelt endurtekur RAG þessi mistök dyggilega. Að segja „líkanið talar frá upprunanum“ þýðir ekki „líkanið talar rétt“; Þú berð ábyrgð á gjaldmiðli og nákvæmni uppruna þinnar.
Að halda þekkingargrunninum tilbúnum til viðbragða
Gæði RAG fara að miklu leyti eftir því hvernig frumtextinn er skrifaður. Líkanið skilar mun nákvæmara svari en vel uppbyggðum, titluðum, eins efnistextum. Hagnýt ráð: skrifaðu stefnurnar þínar í stuttum, titluðum köflum frekar en löngum, hreiðri málsgreinum; Leyfðu hverjum hluta að svara einni spurningu ("Hversu marga daga er skilafrestur?", "Hvaða vörum er ekki hægt að skila?"). Með því að geyma algengar spurningar (FAQs) á spurninga-og-svar-sniði auðveldar líkaninu að finna rétta hlutann. Tilgreindu gildi eins og dagsetningu, upphæð og hlutfall skýrt og á einum stað í textanum; Að skrifa sama númerið öðruvísi í mismunandi köflum ruglar líkanið.
Önnur mikilvæg venja er að halda þekkingargrunninum á lífi. Reglur, verð og kynningar eru mismunandi; Ef heimildin er ekki uppfærð heldur líkanið áfram að endurtaka gamla sannleikann á öruggan hátt. Við hverja stefnubreytingu, uppfærðu upprunann og spyrðu líkanið aftur nokkrar prófspurningar um breytt efni til að staðfesta að það gefi rétt svar. Þetta litla en reglubundna viðhald kemur í veg fyrir að RAG kerfið „bili hljóðlaust“ með tímanum.
Algeng mistök
- Að segja "útskýrðu stefnu okkar" án þess að grafa upprunann og treysta á minnið fyrirmyndarinnar.
- Skilgreinir ekki mörkin „aðeins frá uppruna“ og hegðun sem ekki er uppruna.
- Að biðja ekki um tilvitnun/heimildartilvísun og láta svarið vera óstaðfestanlegt.
- Að geyma misvísandi útgáfur af sömu upplýsingum í mörgum skjölum í þekkingargrunninum.
- Leyfa líkaninu að rúnna/túlka tölugildi.
- Gleymi að uppfæra upprunann, sem veldur því að líkanið endurtekur gamlar upplýsingar dyggilega.
Í stuttu máli
- RAG þýðir að líkanið framleiðir svar sitt úr núverandi upprunaskjali, frekar en úr minni.
- Hagnýtasta leiðin til að draga úr ofskynjunum: grafið upprunann, segið „bara svara hér“, biðjið um tilvitnun.
- Ef svarið er ekki í heimildinni ætti ekki að passa fyrirmynd; Hann ætti að segja "ég á það ekki" og afhenda það.
- Gerðu líkanið meðvitað um misvísandi heimildir; Þú varðveittir tölugildin nákvæmlega.
- RAG nákvæmni fer eftir tímanleika heimildar þinnar; Staðfestu alltaf tilvitnunina.
Umsóknarverkefni
Taktu raunverulegan stefnutexta (skilaboð, sendingu eða aðild) frá þínu eigin fyrirtæki og felldu hann inn sem uppsprettu í undirstöðu RAG leiðbeiningunum hér að ofan. Spyrðu síðan þriggja spurninga: (1) spurningar sem svarið er skýrt í heimildinni, (2) spurningar sem svarið er alls ekki í heimildinni, (3) spurningar þar sem svarið er aðeins ófullnægjandi í heimildinni. Staðfestu að líkanið svari rétt, segir „Ég á það ekki,“ og merkir heiðarlega við hlutasvarið og það sem vantar, í sömu röð. Leiðréttu frávikshegðun með því að styrkja hollustu- og auðlindareglurnar í boðinu.
gátlisti
- [ ] Ég felldi inn núverandi heimild sem svarið verður byggt á í hvetjunni.
- [ ] Ég bætti við reglunni „Aðeins svar frá uppruna, ekki fara lengra“.
- [ ] Ég hef sett heimild tilvísun / tilvitnun kröfu.
- [ ] Ég skilgreindi úthlutunarhegðun ef svarið er ekki tiltækt í heimildinni.
- [ ] Ég krafðist þess að töluleg gildi yrðu varðveitt nákvæmlega.
- [ ] Ég staðfesti svarið úr heimildarsetningunni sem það byggir á.