Dobički:
- Zna razložiti, kaj je halucinacija in zakaj se pojavi
- Lahko določi, kdaj je treba izhod AI potrditi
- Zna uporabiti praktične tehnike, ki povečajo zanesljivost
Morda najbolj kritična tema pismenosti z umetno inteligenco je v tej enoti: izmišljanje modela, to je halucinacija. Razumevanje tega izraza je najosnovnejši varnostni ukrep za vsakogar, ki uporablja AI. Kajti uporabnik, ki halucinacije ne prepozna, lahko lažne informacije zamenja za resnične in jih prenese v poslovno odločitev, komunikacijo s stranko ali uradni dokument. V tej enoti boste izvedeli, kaj so halucinacije, zakaj so neizogibne in kako se pred njimi zaščititi.
Kaj je halucinacija?
Halucinacija je, ko jezikovni model proizvede informacije, ki dejansko ne obstajajo v tekočem in samozavestnem jeziku, tako kot da bi bile resnične. Manekenka ne namerava lagati; Pri ustvarjanju samo "najverjetnejšega nadaljevanja" ustvari besedilo, ki se zdi verjetno, a je v resnici napačno.
Primer: če modelu rečete: "Priporočite akademski vir o temi. Vse se prikaže v pravilni obliki in prepričljivo; vendar je vir popolnoma namišljen. To je klasičen primer halucinacije.
Zakaj se to zgodi? (Spomnite se druge enote)
Izvor halucinacij je v principu delovanja modela. Model ni "enciklopedija dejstev"; Je "verjetnostni stroj". Njegova naloga je ustvariti čim bolj gladko nadaljevanje vašega vprašanja; Ne gre za zagotavljanje najbolj točnih informacij. Model:
- Ne ve, česa ne ve; Ko se sooči s praznino, raje izpolni možen odgovor, kot da reče "ne vem".
- Nima mehanizma za nadzor realnosti; Ne preverja, ali se besedilo, ki ga ustvari, ujema s svetom.
- Tekočnost in natančnost sta zanj dve različni stvari; Samo zato, ker je tekoče, še ne pomeni, da je pravilno.
Pozor: halucinacija ni "motnja"; To je neločljiva lastnost tehnologije. Novi modeli to zmanjšujejo, ne morejo pa popolnoma odpraviti. Zato se je namesto čakanja na »nehalucinacijski model« treba naučiti živeti s halucinacijami.
Kje je tveganje za halucinacije visoko?
Vsak izid ni enako tvegan. Tveganje se poveča, ko:
Visoko tveganje
Nizko tveganje
Točne številke, datumi, statistika
Ustvarjanje splošnih idej, možganska nevihta
Zahteva vire, citate, reference
Spremenite ton besedila
Nišne, specializirane teme
Pogoste, splošne teme
Aktualni dogodki in ljudje
Povzemite svoje besedilo
Notranje informacije, specifične za vaše podjetje
Popravek slovnice
Trije mini kovčki
1. primer — V predstavitev je vstopila lažna številka. Zaposleni je prosil AI za "stopnjo rasti e-trgovine 2023 in vir v Turčiji" za industrijsko poročilo. Model je vrnil prepričljiv odstotek (48 %) in ime ustanove. Zaposleni ga je dal v predstavitev, ne da bi ga preveril; Ko se je na sestanku izkazalo, da je številka izmišljena, sta bila okrnjena tako predstavitev kot tudi ugled podjetja. Če bi isti zaposleni prejel podatek iz uradnega vira, ne bi bilo težav.
Primer 2 – Neobstoječ zakonodajni akt. Asistent je prosil AI za "ustrezen zakonski člen" za peticijo. Model je izdelal številko in besedilo realističnega videza; ampak tega predmeta tam ni bilo. Na srečo je pravna služba to opazila pred dostavo. Nauk: pravni citati so vedno preverjeni iz primarnega vira.
3. primer – pravilna metoda, varen rezultat. Drugi zaposleni v isti ekipi je preprosto dal AI pripraviti poročilo, pri čemer je sam vnesel vse številke iz uradnih podatkov in mu naročil, naj "ne doda nobenih številk, ki niso v tem besedilu." Rezultat je bil hiter in natančen. Razlika: umetna inteligenca je napisala osnutek, človek pa je hranil dejstva.
Šibek poziv / močan poziv
Šibek poziv: Navedite 3 najpomembnejše akademske vire o tej temi z avtorjem in letnico.
Rezultat: Model se lahko varno prilega neobstoječim virom.
Zmogljiv poziv: Napišite povzetek na podlagi besedila, ki sem ga prilepil spodaj. Uporabite le informacije v tem besedilu. Ne dodajajte imen, številk ali virov, ki niso v besedilu. Če niste prepričani, napišite "ni navedeno v besedilu".<text>[prilepite sem]</text>
Rezultat: Ker model dobi vir od vas, postane prostor za prileganje ožji.
Praktične tehnike, ki povečujejo zanesljivost
Označite vsako preverljivo trditev v svojem odgovoru (številka, datum, ime, vir) in jo dajte na ločen seznam "obvezno preveriti".
Odgovorite na to vprašanje. Če niste prepričani, ne ugibajte; Recite "nisem prepričan" in pojasnite, da ne veste kaj. Zadeva: [zadeva]
Odgovorite na isto vprašanje na dva različna načina in označite protislovja med obema odgovoroma. Naj torej vidim, katere točke so vprašljive. Vprašanje: [vprašanje]
Besedilo spodaj bom preveril. Navedite tvegane trditve, ki jih moram preveriti po pomembnosti, in predlagajte, kje lahko vsako preverim. Besedilo: [prilepite sem]
Poleg tega usvojite te navade:
- Navedete vir. Prilepite ustrezen dokument v besedilo in recite "odgovor samo na podlagi tega."
- Vedno preverite preverljiva dejstva. Preverite številke, datume, imena, citate in vire iz neodvisnega, zanesljivega vira.
- Prosite ga, naj pove, da ni prepričan o modelu. To zmanjša tveganje, vendar ga ne odpravi v celoti.
- Pri visoko tveganih opravilih naj izdelek pregleda strokovnjak. Pravni, finančni in zdravstveni rezultati morajo iti skozi filter človeških strokovnjakov.
- Uporabite AI kot »izhodišče«, ne kot »končno besedo«. Osnutek je od njega; Preverjanje in odločitev sta vaša.
Pozor: "model je rekel dvakrat, potem je res" logika je napačna. Samozavestno lahko ponovi isto napako. Ponavljanje ni dokaz točnosti.
Pogoste napake
Pogoste napake
- Uporaba virov brez njihovega preverjanja. Ustvari lahko vzorčne knjige, članke, zakonske člene in povezave; Vsaka referenca mora biti potrjena.
- Samozavestni ton zamenjate za natančnost. Najnevarnejša stvar pri halucinaciji je prav to, da se zdi samozavestna.
- Dovolj je, da model reče "vi preverite". Samopreverjanje modela ni neodvisno preverjanje.
- Uporaba izhoda z visokim tveganjem, ne da bi ga pokazali strokovnjaku. Človeški nadzor je bistven pri denarju, pravu in zdravju.
Če povzamem
- Halucinacija je, ko model ustvari neobstoječo informacijo na tekoč in samozavesten način, kot da bi bila resnična.
- Vzrok ni okvara, ampak verjetnostna narava modela; ni mogoče popolnoma odpraviti.
- Tveganje je še posebej veliko, ko gre za natančne številke, vire, posodobljene informacije in tržne niše.
- Da se zaščitite: navedite vir, preverite dejstva, recite "če niste prepričani, mi povejte", naj tvegane izpise preveri strokovnjak.
- Uporabite AI kot izhodišče; Končno preverjanje in odgovornost vedno ostajata na tebi.
Naloga aplikacije
Povejte svojemu orodju AI, naj "predlaga 3 akademske vire" o temi, ki zahteva strokovno znanje, in poskusite potrditi vire, ki jih predlaga na internetu; Upoštevajte, koliko jih je resničnih. Nato ponovite isto nalogo z metodo »daste vir« in opazujte razliko.
Kontrolni seznam
- [ ] Znam razložiti, kaj je halucinacija in zakaj se pojavi.
- [ ] Razlikujem med nalogami z visokim in nizkim tveganjem za halucinacije.
- [ ] Tveganje izdelave lahko zmanjšam tako, da modelu navedem vir.
- [ ] Samostojno preverjam številke, datume, imena in vire.
- [ ] Samozavesten ton ne štejem za dokaz točnosti.