Kasu:
- Selgitage hallutsinatsioonide põhjuseid ja maandamise rolli
- Kasutades tehnikaid, mis panevad mudeli ütlema "ma ei tea", kui see pole kontekstis
- Usalduse ja auditeeritavuse tagamine, lisades vastustele kontrollitavaid allikaid/viiteid
Keelemudeli kõige ohtlikum käitumine on enesekindlal ja veenval toonil välja mõelda midagi, mida ta ei tea. Seda nimetatakse hallutsinatsiooniks. Hallutsinatsioonid ettevõtte assistendis ei ole lihtsalt tüütu, vaid lausa riskantne: vale puhkepäev, vale hind, vale legaalne aine võib töötajale või kliendile tegelikult kahju tekitada. Selles üksuses käsitleme hallutsinatsioonide esinemist, kuidas neid RAG-is vähendada ja kuidas vastus kontrollitavaks muuta.
Mis põhjustab hallutsinatsioone?
Mudelit õpetatakse tootma järgmist kõige tõenäolisemat sõna; Mitte "rääkige tõtt", vaid "tootma ladusat ja mõistlikku teksti". Kui teave puudub, võib see lünga täita millegi statistiliselt usutava, kuid faktiliselt ebaõigega. Kolm tüüpilist käivitajat:
- Kontekstis pole vastust, kuid modell tunneb end igatahes sunnitud midagi ütlema.
- Kontekst on vastuoluline või ebapiisav; Mudel katab lünga ennustamisega.
- Küsimus ulatub kontekstist kaugemale; mudel pöördub tagasi oma üldiste (ja võib-olla aegunud) teadmiste juurde.
RAG vähendab hallutsinatsioone, kuna annab mudelile tõelise allika, kuid see ei lähtesta seda. Kui tood vale osa või jätad mudelile "vabaduse tühimiku täita", mahub ka RAG-iga süsteem selle ära.
hallutsinatsiooni tüüp
sümptom
algpõhjus
lahuse kiht
pärineb otsimisest
Õige vastus on dokumendis kirjas, kuid seda ei tulnud
Vale/puuduv osa tarnitud
Tükeldatud, hübriid, ümber järjestamine (üksus 3–4)
Põlvkonna päritolu
Õige osa saabus aga vastus on vale/tuleb lisada
Mudel täitis tühimiku ennustusega
Maandus, "ma ei tea" luba, madal loovus
Tsitaat pärit
Vastus on õige, kuid allikas on vale
Mudel viitas valele osale
Tsitaadi kinnitamine (vt 8. osa)
Vihje: jagage hallutsinatsioonid kaheks osaks. Pärineb otsingust: saabus vale/puuduv osa (lahendus: paranda otsimist). Generatsiooniallikas: Õige osa saabus, kuid mudel luges/lisas selle valesti (lahendus: viip ja maandus). Te ei saa seda parandada, kui te ei tea, milline see on.
Maandus: vastuse leidmine kontekstis
Maandus on nimetus kõigile tehnikatele, mille abil öeldakse mudelile "lihtsalt tuginege tekstile, mille ma teile annan, ärge minge sellest kaugemale". Tema kõige elementaarsem ja tõhusaim tehnika: anda modellile selgesõnaline luba öelda "ma ei tea". Modell, nagu inimenegi, kõhkleb öelda "ma ei tea"; Peate talle selleks selgesõnalise loa andma.
Vastake ainult alloleva KONTEKSTI alusel. Kui vastus ei ole kontekstis SELGELT, kirjutage täpselt nii: "Ma ei leidnud dokumentatsioonist selle kohta piisavalt teavet." Ärge lisage numbreid, kuupäevi ega nimesid, mis pole kontekstis. Ära arva.
Täiendavad maandustehnikad:
- Tsiteerimise nõue: enne iga väidet tsiteerige sõna-sõnalt konteksti ("Dokumendis öeldakse: "..."). Valmistatud hinnapakkumiste koostamine on mudeli jaoks keerulisem.
- Madal temperatuur: temperatuur (temperatuur, loovus/juhuslik seadistus) peaks olema madal. Märkus: mõnes praeguses mudelis on see parameeter eemaldatud; Nendes pakute maandust viipaga. Kõrge loovus on ettevõtte terviklikkuse vaenlane.
- Ulatuspiirang: "Vastuge ainult nõusolekueeskirjadega seotud probleemidele; keelduge viisakalt loobumisest."
Tsitaat
Tugevaim süsteemne kaitse hallutsinatsioonide vastu on muuta vastus kontrollitavaks. Kui kasutaja näeb, millisel dokumendil vastus põhineb: (1) ta saab veast ise aru, (2) audit muutub võimalikuks, (3) usaldus suureneb ja (4) mudel toodab ettevaatlikumalt, teades, et "peab viidata allikale".
Kaks levinud lähenemisviisi:
Tekstisisene omistamine: allikamärgend iga nõude kõrval. "Aastapuhkus on 14 päeva [1]." Allpool on [1] täielik dokumentatsioon.
Struktureeritud väljund: Palutakse mudelil esitada vastus ja allikaloend eraldi väljadele; Ressursid kuvatakse liideses klikitavate linkidena.
# Struktureeritud vastuse koostamine mudeli põhjal (kontseptuaalne) Esitage oma vastus järgmises struktuuris:- vastus: <kontekstipõhine vastus> - allikad: [{"part_no": 1, "file": "...", "section": "..."}]- usaldus: <kõrge|keskmine|madal> # Kui selgelt kontekst seda toetab? Kui kontekst vastust ei toeta, kirjuta vastuseväljale "infot ei leitud" ja jätke allikad tühjaks.
Et tsitaat tõesti toimiks, on vaja kontrollida, kas omistamine on õige. Mudel võib mõnikord anda õige vastuse, kuid anda vale allika. Täiustatud süsteemid kontrollivad automaatselt, kas iga esitatud väide on tegelikult toetatud tükis, millele see viitab (järgmise ühiku "ustavuse" mõõt).
Nõrk/tugev: aitab hallutsinatsioonide vastu
Nõrk (kutse lünka täita):
Vastake küsimusele nii hästi kui suudate oma teabe põhjal: {kontekst} Küsimus: {question}# "Nii hästi kui võimalik" tähendab mudeli puhul "arvake, kui te ei tea".
Tugev (maandus + ei tea luba + allikas + usaldus):
Toetuge lihtsalt KONTEKSTILE. Vastasel juhul öelge "Ma ei leidnud teavet"; koosta number/kuupäev/nimi.Lisage igale väitele [n] allikanumber. Määrake konteksti toetatud usalduse tase. KONTEKST: [1]... [2]... KÜSIMUS: {question}
Kolm miniümbrist
Juhtum 1 – valmiskauba number. Õiguskaitsja koostas "artikkel 17/B" avalduse, mis oli kontekstist väljas ja andis töötajale valeandmeid. Kui lisandus juhend "Ära anna artiklinumbrit, mis ei ole kontekstis, muidu öelge, et ma ei tea" + tsiteerimise kohustus, vähenesid fabritseeritud artiklite juhtumid 40 näite puhul 11-lt 0-le.
2. juhtum – õige vastus, vale allikas. Tugiassistent märkis õige tagastamisperioodi, kuid viitas valele artiklile; Kui klient lingile vajutas, avanes asjassepuutumatu leht. Kui lisati tsitaadi kontrollimine (kontrollimine, kas väide on tsiteeritud kirjatükis), langes valetsiteerimise määr 23%-lt 2%-le.
Juhtum 3 – „Ma ei tea” luba ei antud. Personaliassistent oli andnud usutava, kuid vale vastuse küsimusele, mida dokumendis ei olnud. Kui viipale lisati selgesõnaline nõusolek "Ma ei tea" ja täistekst ("Ma ei leidnud selle kohta teavet dokumentatsioonist"), tõusis vastuseta, mitte väljamõeldud küsimuste aus tagasilükkamise määr 8%-lt 95%-le.
Levinud vead
- "Ma ei tea" mitte lubamine: mudel täidab tühimiku väljamõeldisega.
- Loovuse kõrge hoidmine: juhuslikkus kahjustab ettevõtte terviklikkust.
- Allika usaldamine ilma seda kontrollimata: mudel võib õigele vastusele lisada vale allika.
- Kahte tüüpi hallutsinatsioonide eristamine: parandate vale koha, teadmata, kas see on põhjustatud otsimisest või genereerimisest.
- Kosmeetikatoodete ekslik viide: allikale viitamine on nii kinnitus kui ka hoiatav; võta seda tõsiselt.
Ettevaatust: "Modell näeb välja väga enesekindel" ei ole sama, mis "modell on õige". Hallutsinatsioonid on üldiselt kõige ladusamad ja enesekindlamad laused. Lugege usaldust allikast, millele see viitab, mitte lause toonist.
Kokkuvõttes
- Hallutsinatsioon on see, kui mudel täidab infolünga usutava, kuid vale tekstiga; RAG vähendab, kuid ei lähtesta.
- Hallutsinatsiooni võib põhjustada otsimine (vale osa) või genereerimine (vale lugemine); Tehke kindlaks, milline neist on esimene.
- Maanduse võimsaim tehnika on anda mudelile selgesõnaline "ma ei tea" luba; ka viitamise nõue ja madal loovus.
- Tsiteerimine muudab vastuse kontrollitavaks; See annab nii enesekindlust kui ka sunnib mudelit tootma ettevaatlikult.
- Samuti tuleks kontrollida tsitaadi täpsust; Õige vastuse juurde võib olla lisatud vale allikas.
Rakenduse ülesanne
(1) Valmistage abilisele esitamiseks ette 4 küsimust, mille vastuseid dokumentides pole (lõksuküsimused). Testige igaüht nõrga ja tugeva viipaga ning märkige, kas mudel sobib või mitte. (2) Nelja küsimuse puhul, mille vastused on dokumendis, laske mudelil genereerida keevisõmbluse number ja kontrollida käsitsi, kas selles näidatud keevisõmblus on tõesti õige osa. (3) Kontrollige, kas mudel annab vähemalt ühel juhul "õige vastuse, vale allika" ja kirjuta ühe lausega, kuidas seda automaatselt tabada.
kontrollnimekiri
- [ ] Ma saan öelda, miks hallutsinatsioon toimub ja et RAG vähendab seda, kuid ei lähtesta seda.
- [ ] Oskan eristada otsimis- ja põlvkonnast põhjustatud hallutsinatsioone ning korrigeerida õiget kohta.
- [ ] Lisan viipale selgesõnalised loa "Ma ei tea" ja maandusreeglid.
- [ ] Lisan vastusele kontrollitava allika (tsitaadi).
- [ ] Mõistan, et omistamise täpsust on vaja täiendavalt kontrollida.