Hallutsinatsioonid ja usaldusväärsuse piirid

Kasu:

• Oskab selgitada, mis on hallutsinatsioon ja miks see tekib
• Saab määrata, millal AI väljundit on vaja valideerida
• Oskab rakendada praktilisi võtteid, mis suurendavad usaldusväärsust

Võib-olla on tehisintellekti kirjaoskuse kõige kriitilisem teema selles üksuses: mudeli loomine, st hallutsinatsioonid. Selle termini mõistmine on kõigi tehisintellekti kasutavate inimeste jaoks kõige elementaarsem ettevaatusabinõu. Sest kasutaja, kes hallutsinatsiooni ära ei tunne, võib valeinfot ekslikult pidada tõeseks ja kanda selle üle äriotsusesse, kliendisuhtlusse või ametlikku dokumenti. Selles õppetükis saate teada, mis on hallutsinatsioon, miks see on vältimatu ja kuidas selle eest kaitsta.

Mis on hallutsinatsioon?

Hallutsinatsioon on see, kui keelemudel toodab teavet, mida ladusas ja enesekindlas keeles tegelikult ei eksisteeri, just nagu see oleks tõsi. Modell ei kavatse valetada; Luues ainult "kõige tõenäolisema jätku", loob see teksti, mis tundub tõenäoline, kuid on tegelikult vale.

Näide: Kui ütlete mudelile "Soovitage akadeemilist allikat teemal Kõik kuvatakse õiges vormingus ja veenvalt; kuid allikas on täiesti väljamõeldud. See on hallutsinatsioonide klassikaline näide.

Miks see juhtub? (Pidage meeles teist ühikut)

Hallutsinatsiooni allikas peitub mudeli tööpõhimõttes. Mudel ei ole "faktide entsüklopeedia"; See on "tõenäosusmasin". Selle ülesanne on esitada teie küsimusele võimalikult sujuv jätk; See ei tähenda kõige täpsema teabe toomist. Mudel:

• Ta ei tea, mida ta ei tea; Tühjaga silmitsi seistes kipub ta täitma võimaliku vastuse, mitte ütlema "ma ei tea".
• Sellel puudub mehhanism reaalsuse kontrollimiseks; Ta ei kontrolli, kas tema loodud tekst vastab maailmale.
• Sujuvus ja täpsus on tema jaoks kaks erinevat asja; See, et see on ladus, ei tähenda, et see on õige.

Ettevaatust: hallutsinatsioonid ei ole "tõrge"; See on tehnoloogiale omane omadus. Uued mudelid vähendavad seda, kuid ei suuda seda täielikult kõrvaldada. Seetõttu tuleb "mittehallutsinatsiooni mudeli" ootamise asemel õppida hallutsinatsioonidega elama.

Kus on hallutsinatsioonide oht kõrge?

Mitte iga tulemus pole võrdselt riskantne. Risk suureneb, kui:

Kõrge risk

Madal risk

Täpsed arvud, kuupäevad, statistika

Üldideede genereerimine, ajurünnak

Allikate, hinnapakkumiste, viidete küsimine

Muutke teksti tooni

Nišš, erialased teemad

Ühised, üldised teemad

Praegused sündmused ja inimesed

Tehke oma tekstist kokkuvõte

Teie ettevõtte spetsiifiline siseteave

Grammatikaparandus

Kolm miniümbrist

Juhtum 1 – esitlusele sisenes võltsfiguur. Töötaja küsis AI-lt tööstuse aruande jaoks teavet "2023. aasta e-kaubanduse kasvutempo ja allikas Türkiye linnas". Mudel andis veenva protsendi (48%) ja asutuse nime. Töötaja pani selle esitlusse ilma seda kontrollimata; Kui koosolekul selgus, et kuju on fabritseeritud, sai kannatada nii esitlus kui ka firma maine. Kui sama töötaja oleks selle näitaja ametlikust allikast saanud, poleks probleemi.

Juhtum 2 – olematu õigusakt. Assistent küsis AI-lt petitsiooni jaoks "asjakohast seaduse artiklit". Mudel andis realistliku välimusega kaubanumbri ja teksti; aga seda eset seal polnud. Õnneks märkas juriidiline osakond seda enne tarnimist. Õppetund: juriidilised tsitaadid kontrollitakse alati esmasest allikast.

Juhtum 3 – õige meetod, ohutu tulemus. Teisel sama meeskonna töötajal lasi tehisintellekt lihtsalt aruande koostada, sisestades ise kõik numbrid ametlikest andmetest ja käskides tal "ei lisada numbreid, mida selles tekstis pole". Tulemus oli ühtaegu kiire ja täpne. Erinevus: AI kirjutas mustandit, inimestest toidetud fakte.

Nõrk viip / Tugev viip

Nõrk viip: esitage selle teema kolm kõige olulisemat akadeemilist allikat koos autori ja aastaarvuga.

Tulemus: mudel mahutab ohutult olematuid allikaid.

Võimas viip: kirjutage kokkuvõte allpool kleebitud teksti põhjal. Kasutage ainult selles tekstis olevat teavet. Ärge lisage nimesid, numbreid ega allikaid, mida tekstis pole. Kui te pole kindel, kirjutage "pole tekstis täpsustatud".<text>[kleebi siia]</text>

Tulemus: kuna mudel saab allika teilt, muutub paigaldusruum kitsamaks.

Praktilised võtted, mis suurendavad usaldusväärsust

Märkige oma vastuses iga kontrollitav väide (number, kuupäev, nimi, allikas) ja pange need eraldi "peab kontrollima" nimekirja.

Vasta sellele küsimusele. Kui te pole kindel, ärge arvake; Öelge "Ma pole kindel" ja selgitage, et te ei tea, mida. Teema: [teema]

Vastake samale küsimusele kahel erineval viisil ja märkige kahe vastuse vahelised vastuolud. Lubage mul näha, millised punktid on küsitavad. Küsimus: [küsimus]

Kontrollin allolevat teksti. Loetlege riskantsed väited, mida peaksin kontrollima tähtsuse järjekorras, ja soovitage, kus saaksin neid kontrollida. Tekst: [kleepige siia]

Lisaks võtke omaks järgmised harjumused:

1. Esitate allika. Kleepige asjakohane dokument teksti ja öelge "vastus ainult selle põhjal".
2. Kontrollige alati kontrollitavaid fakte. Kontrollige numbreid, kuupäevi, nimesid, tsitaate ja allikaid sõltumatust ja usaldusväärsest allikast.
3. Paluge tal öelda, et ta pole mudelis kindel. See vähendab riski, kuid ei kõrvalda seda täielikult.
4. Kõrge riskiga tööde puhul laske eksperdil väljundit kontrollida. Õigus-, finants- ja tervishoiualased väljundid peavad läbima inimekspertide filtri.
5. Kasutage tehisintellekti "lähtepunktina", mitte "lõpusõnana". Mustand on temalt; Kontrollimine ja otsus on teie.

Ettevaatust: "Model ütles seda kaks korda, siis on see tõsi" loogika on vale. Oskab enesekindlalt sama viga korrata. Kordamine ei tõenda täpsust.

Levinud vead

Levinud vead

• Allikate kasutamine ilma neid kontrollimata. See võib luua näidisraamatuid, artikleid, seaduseartikleid ja linke; Iga viide tuleb kinnitada.
• Enesekindla tooni eksitamine täpsusega. Kõige ohtlikum asi hallutsinatsiooni juures on just see, et see tundub enesekindel.
• Piisab sellest, kui mudel ütleb "te kontrollite". Mudeli enesevalideerimine ei ole iseseisev valideerimine.
• Suure riskiga väljundi kasutamine ilma seda eksperdile näitamata. Inimkontroll on oluline raha, õiguse ja tervise vallas.

Kokkuvõttes

• Hallutsinatsioonid on siis, kui mudel toodab olematut teavet sujuvalt ja enesekindlalt, nagu see oleks tõsi.
• Põhjus ei ole rike, vaid mudeli tõenäosust ennustav iseloom; ei saa täielikult kõrvaldada.
• Eriti suur on risk täpsete arvude, allikate, ajakohase teabe ja nišiprobleemide puhul.
• Enda kaitsmiseks: esitage allikas, kontrollige fakte, öelge "kui te pole kindel, öelge mulle", laske eksperdil kontrollida kõrge riskiga väljundit.
• Kasutage lähtepunktina AI-d; Lõplik kontroll ja vastutus jääb alati teie kanda.

Rakendusülesanne

Öelge oma tehisintellekti tööriistale, et ta "soovitaks 3 akadeemilist allikat" teemal, mis nõuab asjatundlikkust, ja proovige kinnitada soovitatud allikaid Internetis; Pange tähele, kui paljud neist on tõelised. Seejärel korrake sama ülesannet meetodil "annad allika" ja jälgige erinevust.

Kontrollnimekiri

• [ ] Oskan selgitada, mis on hallutsinatsioon ja miks see tekib.
• [ ] Oskan eristada kõrge ja madala hallutsinatsiooniriskiga ülesandeid.
• [ ] Saan vähendada valmistamisohtu, andes mudelile allika.
• [ ] Kontrollin iseseisvalt numbreid, kuupäevi, nimesid ja allikaid.
• [ ] Ma ei pea enesekindlat tooni täpsuse tõendiks.