Dobici:
- Može objasniti šta je halucinacija i zašto se javlja
- Može odrediti kada AI izlaz treba potvrditi
- Može primijeniti praktične tehnike koje povećavaju pouzdanost
Možda najkritičnija tema AI pismenosti je u ovoj jedinici: Izrada modela, odnosno halucinacije. Razumijevanje ovog pojma je najosnovnija mjera predostrožnosti za svakoga ko koristi AI. Zato što korisnik koji ne prepozna halucinaciju može pogrešiti lažne informacije kao istinite i prenijeti ih na poslovnu odluku, komunikaciju s klijentom ili službeni dokument. U ovoj cjelini naučit ćete šta je halucinacija, zašto je neizbježna i kako se zaštititi od nje.
Šta je halucinacija?
Halucinacija je kada jezički model proizvodi informacije koje zapravo ne postoje na tečnom i sigurnom jeziku, baš kao da su istinite. Model nema nameru da laže; U proizvodnji samo "najvjerovatnijeg nastavka", stvara se tekst koji izgleda vjerojatan, ali je zapravo lažan.
Primjer: Ako modelu kažete „Preporučite akademski izvor na temu Sve se pojavljuje u ispravnom formatu i uvjerljivo; Ali izvor je potpuno zamišljen. Ovo je klasičan primjer halucinacije.
Zašto se to događa? (Zapamtite drugu jedinicu)
Izvor halucinacije leži u principu rada modela. Model nije "enciklopedija činjenica"; To je "mašina za vjerovatnoću". Njegov posao je da proizvede što glatkiji mogući nastavak vašeg pitanja; Ne radi se o donošenju najtačnijih informacija. Model:
- On ne zna šta ne zna; Kada se suoči sa prazninom, on teži da popuni mogući odgovor umesto da kaže "ne znam".
- Ona nema mehanizam za kontrolu stvarnosti; Ne provjerava da li tekst koji proizvodi odgovara svijetu.
- Tečnost i tačnost su za njega dve različite stvari; Samo zato što je tečno ne znači da je ispravan.
Oprez: Halucinacija nije "kvar"; To je inherentna karakteristika tehnologije. Novi modeli to smanjuju, ali ne mogu u potpunosti eliminirati. Stoga, umjesto čekanja na "nehalucinacijski model", potrebno je naučiti živjeti sa halucinacijom.
Gdje je visok rizik od halucinacija?
Nije svaki ishod jednako rizičan. Rizik se povećava kada:
Visok rizik
Nizak rizik
Tačne brojke, datumi, statistika
Generisanje opštih ideja, brainstorming
Traženje izvora, citata, referenci
Promijenite ton teksta
Niche, specijalizovane teme
Uobičajene, opšte teme
Aktuelni događaji i ljudi
Sažmite svoj tekst
Insajderske informacije specifične za vašu kompaniju
Gramatička korekcija
Tri mini futrole
Slučaj 1 — Lažna figura je ušla u prezentaciju. Zaposlenik je od AI zatražio "stopu rasta e-trgovine u 2023. i izvor u Turskoj" za izvještaj o industriji. Model je vratio uvjerljiv procenat (48%) i naziv institucije. Zaposlenik ga je stavio u prezentaciju bez verifikacije; Kada je na sastanku otkriveno da je cifra izmišljena, narušena je i prezentacija i reputacija kompanije. Da je isti zaposlenik dobio cifru iz zvaničnog izvora, ne bi bilo problema.
Slučaj 2 — Nepostojeći zakon. Pomoćnik je od AI tražio "relevantni član zakona" za peticiju. Model je proizveo broj stavke i tekst realnog izgleda; ali te stavke nije bilo. Na sreću, pravni odjel je to primijetio prije isporuke. Pouka: pravni citati se uvijek provjeravaju iz primarnog izvora.
Slučaj 3 — Ispravan metod, siguran rezultat. Drugi zaposlenik u istom timu jednostavno je dao AI izraditi izvještaj, sam unio sve brojeve iz službenih podataka i uputio ga da "ne dodaje brojke koje nisu u ovom tekstu". Rezultat je bio i brz i tačan. Razlika: AI je napisao nacrt, činjenice hranjene ljudima.
Slaba prompt / jaka prompt
Slab upit: Navedite 3 najvažnija akademska izvora o ovoj temi sa autorom i godinom.
Rezultat: Model može bezbedno da stane u nepostojeće izvore.
Snažan upit: Napišite sažetak na osnovu teksta koji sam zalijepio ispod. Koristite samo informacije u ovom tekstu. Nemojte dodavati imena, brojeve ili izvore kojih nema u tekstu. Ako niste sigurni, napišite "nije navedeno u tekstu".<text>[nalijepi ovdje]</text>
Rezultat: Pošto model dobija izvor od vas, prostor za uklapanje postaje uži.
Praktične tehnike koje povećavaju pouzdanost
Označite svaku provjerljivu tvrdnju u svom odgovoru (broj, datum, ime, izvor) i stavite ih na zasebnu listu "mora provjeriti".
Odgovori na ovo pitanje. Ako niste sigurni, nemojte pogađati; Recite "nisam siguran" i objasnite da ne znate šta. Predmet: [predmet]
Odgovorite na isto pitanje na dva različita načina i označite kontradiktornosti između dva odgovora. Pa da vidim koje su točke upitne. Pitanje: [pitanje]
Provjeriću tekst ispod. Navedite rizične tvrdnje koje bih trebao provjeriti po važnosti i predložite gdje mogu provjeriti svaku od njih. Tekst: [zalijepi ovdje]
Osim toga, usvojite ove navike:
- Vi navodite izvor. Zalijepite relevantni dokument u tekst i recite "odgovori samo na osnovu ovoga".
- Uvijek provjerite provjerljive činjenice. Proverite brojeve, datume, imena, citate i izvore iz nezavisnog, pouzdanog izvora.
- Zamolite ga da naznači da nije siguran za model. To smanjuje rizik, ali ga ne eliminira u potpunosti.
- Za poslove visokog rizika, neka stručnjak pregleda rezultate. Pravni, finansijski i zdravstveni rezultati moraju proći kroz filter ljudskih stručnjaka.
- Koristite AI kao “početnu tačku”, a ne kao “završnu riječ”. Nacrt je od njega; Provjera i odluka su na vama.
Oprez: "Model je to rekao dva puta, onda je istina" logika je pogrešna. Može ponoviti istu grešku sa sigurnošću. Ponavljanje nije dokaz tačnosti.
Uobičajene greške
Uobičajene greške
- Korištenje izvora bez njihove provjere. Može kreirati knjige modela, članke, članke zakona i linkove; Svaka referenca mora biti potvrđena.
- Mijenjanje samopouzdanog tona za tačnost. Najopasnija stvar kod halucinacije je upravo to što izgleda samouvjereno.
- Dovoljno je samo da model kaže "vi potvrdite". Samovalidacija modela nije nezavisna validacija.
- Korištenje visokorizičnih rezultata bez pokazivanja stručnjaku. Ljudska kontrola je neophodna u novcu, zakonu i zdravlju.
Ukratko
- Halucinacija je kada model proizvodi nepostojeće informacije na tečan i siguran način kao da su istinite.
- Uzrok nije kvar, već priroda modela koja predviđa vjerovatnoću; ne može se potpuno eliminisati.
- Rizik je posebno visok kada su u pitanju precizni brojevi, izvori, ažurne informacije i niša pitanja.
- Da biste se zaštitili: navedite izvor, provjerite činjenice, recite "ako niste sigurni, recite mi", neka visokorizični rezultat provjeri stručnjak.
- Koristite AI kao polaznu tačku; Konačna provjera i odgovornost uvijek ostaju na vama.
Zadatak aplikacije
Recite svom AI alatu da "predloži 3 akademska izvora" o temi koja zahtijeva stručnost i pokušajte potvrditi izvore koje predlaže na internetu; Obratite pažnju koliko ih je stvarnih. Zatim ponovite isti zadatak metodom "dajete izvor" i uočite razliku.
Kontrolna lista
- [ ] Mogu objasniti šta je halucinacija i zašto se javlja.
- [ ] Mogu razlikovati zadatke visokog i niskog rizika od halucinacija.
- [ ] Mogu smanjiti rizik od fabrikacije dajući izvor modelu.
- [ ] Nezavisno provjeravam brojeve, datume, imena i izvore.
- [ ] Ne smatram samouvjereni ton dokazom tačnosti.