Qligħ:
- Jista' jispjega x'inhi alluċinazzjoni u għaliex isseħħ
- Jista 'jiddetermina meta l-output AI jeħtieġ li jiġi vvalidat
- Jista' japplika tekniki prattiċi li jżidu l-affidabbiltà
Forsi l-aktar suġġett kritiku tal-litteriżmu tal-AI jinsab f'din l-unità: Mudell ta' għamla, jiġifieri, alluċinazzjoni. Il-fehim ta' dan it-terminu huwa l-aktar prekawzjoni bażika ta' sikurezza għal kull min juża l-AI. Minħabba li utent li ma jagħrafx l-alluċinazzjoni jista 'jiżbalja informazzjoni falza bħala vera u jittrasferiha għal deċiżjoni kummerċjali, komunikazzjoni tal-klijent jew dokument uffiċjali. F'din l-unità, titgħallem x'inhi alluċinazzjoni, għaliex hija inevitabbli, u kif tipproteġi minnha.
X'inhi alluċinazzjoni?
Alluċinazzjoni hija meta mudell tal-lingwa jipproduċi informazzjoni li fil-fatt ma teżistix f'lingwa fluwenti u kunfidenti, bħallikieku kienet vera. Il-mudell m’għandux il-ħsieb li jigdeb; Fil-produzzjoni biss tal-"kontinwazzjoni l-aktar probabbli", toħloq test li jidher probabbli iżda fil-fatt huwa falz.
Eżempju: Jekk tgħid mudell "Irrakkomanda sors akkademiku dwar is-suġġett Kollox jidher fil-format korrett u konvinċenti; Iżda s-sors huwa kompletament immaġinarju. Dan huwa eżempju klassiku ta 'alluċinazzjoni.
Għaliex Jiġri? (Ftakar it-Tieni Unit)
Is-sors tal-alluċinazzjoni jinsab fil-prinċipju tax-xogħol tal-mudell. Il-mudell mhuwiex "enċiklopedija tal-fatti"; Hija "magna tal-probabbiltà". Ix-xogħol tiegħu huwa li jipproduċi l-aktar kontinwazzjoni bla xkiel possibbli tal-mistoqsija tiegħek; Mhuwiex li jġibu l-aktar informazzjoni preċiża. Mudell:
- Ma jafx dak li ma jafx; Meta jiffaċċja vojt, għandu t-tendenza li jimla tweġiba possibbli aktar milli jgħid "Ma nafx."
- M'għandha l-ebda mekkaniżmu biex tikkontrolla r-realtà; Ma jiċċekkjax jekk it-test li jipproduċi jaqbilx mad-dinja.
- Il-ħeffa u l-eżattezza huma żewġ affarijiet differenti għalih; Sempliċement għax huwa fluwenti ma jfissirx li huwa korrett.
Attenzjoni: Alluċinazzjoni mhix "funzjonament ħażin"; Hija karatteristika inerenti tat-teknoloġija. Mudelli ġodda jnaqqsu dan iżda ma jistgħux jeliminawha kompletament. Għalhekk, minflok ma tistenna "mudell mhux alluċinazzjoni", huwa meħtieġ li titgħallem tgħix bl-alluċinazzjoni.
Fejn hu Għoli r-Riskju ta' Alluċinazzjonijiet?
Mhux kull riżultat huwa ugwalment riskjuż. Ir-riskju jiżdied meta:
Riskju Għoli
Riskju Baxx
Ċifri eżatti, dati, statistika
Ġenerazzjoni ta' ideat ġenerali, brainstorming
Sorsi talba, kwotazzjonijiet, referenzi
Ibdel it-ton ta 'test
Niċċa, suġġetti speċjalizzati
Suġġetti komuni u ġenerali
Ġrajjiet kurrenti u nies
Agħti fil-qosor it-test tiegħek
Informazzjoni minn ġewwa speċifika għall-kumpanija tiegħek
Korrezzjoni tal-grammatika
Tliet Każijiet Mini
Każ 1 — Figura falza daħlet fil-preżentazzjoni. Impjegat talab AI għal "2023 e-commerce tkabbir rata u sors fit-Türkiye" għar-rapport tal-industrija. Il-mudell irritorna persentaġġ konvinċenti (48%) u isem ta' istituzzjoni. L-impjegat poġġih fil-preżentazzjoni mingħajr ma jivverifikaha; Meta fil-laqgħa ġie żvelat li ċ-ċifra kienet iffabbrikata, kemm il-preżentazzjoni kif ukoll ir-reputazzjoni tal-kumpanija ġew imħassra. Kieku l-istess impjegat kien irċieva ċ-ċifra mis-sors uffiċjali, ma jkun hemm l-ebda problema.
Każ 2 — Biċċa leġiżlattiva ineżistenti. Assistent talab lill-AI għall-"artikolu tal-liġi rilevanti" għal petizzjoni. Il-mudell ipproduċa numru u test ta 'oġġett li jidher realistiku; iżda dak l-oġġett ma kienx hemm. Fortunatament, id-dipartiment legali innotaha qabel il-kunsinna. Lezzjoni: iċ-ċitazzjonijiet legali huma dejjem verifikati mis-sors primarju.
Każ 3 — Metodu korrett, riżultat sikur. Impjegat ieħor fl-istess tim sempliċement kellu l-AI jabbozza r-rapport, billi ddaħħal in-numri kollha hu stess minn dejta uffiċjali u tah struzzjonijiet biex "iżżid l-ebda ċifri li mhumiex f'dan it-test." Ir-riżultat kien kemm mgħaġġel kif ukoll preċiż. Differenza: AI kitbet abbozz, fatti mitmugħa mill-bniedem.
Prompt Dgħajjef / Prompt Qawwija
Pront dgħajfa: Agħti t-3 sorsi akkademiċi l-aktar importanti dwar dan is-suġġett mal-awtur u s-sena.
Riżultat: Il-mudell jista 'jwaħħal b'mod sikur sorsi ineżistenti.
Pront qawwija: Ikteb sommarju bbażat fuq it-test li għamilt hawn taħt. Uża biss l-informazzjoni f'dan it-test. Iżżidx ismijiet, numri jew sorsi li mhumiex fit-test. Jekk m'intix ċert, ikteb "mhux speċifikat fit-test".<text>[pejst hawn]</text>
Riżultat: Peress li l-mudell jieħu s-sors mingħandek, l-ispazju tat-twaħħil isir idjaq.
Tekniki Prattiċi Li Jżidu l-Affidabbiltà
Immarka kull talba verifikabbli fit-tweġiba tiegħek (in-numru, id-data, l-isem, is-sors) u poġġihom f'lista separata ta' "għandu jiċċekkja".
Wieġeb din il-mistoqsija. Jekk m'intix ċert, ma raden; Għid "M'inix ċert" u spjega li ma tafx xiex. Suġġett: [suġġett]
Wieġeb l-istess mistoqsija b’żewġ modi differenti u mmarka l-kontradizzjonijiet bejn iż-żewġ tweġibiet. Mela ħa nara liema punti huma dubjużi.Mistoqsija: [mistoqsija]
Se nivverifika t-test hawn taħt. Elenka t-talbiet riskjużi li għandi niċċekkja f'ordni ta' importanza u nissuġġerixxi fejn nista' nivverifika kull waħda.Test: [paste hawn]
Barra minn hekk, adotta dawn id-drawwiet:
- Inti tipprovdi s-sors. Paste d-dokument rilevanti fit-test u għid "tweġiba bbażata fuq dan biss."
- Dejjem iċċekkja fatti verifikabbli. Ivverifika numri, dati, ismijiet, kwotazzjonijiet u sorsi minn sors indipendenti u affidabbli.
- Staqsih jindika li mhux ċert dwar il-mudell. Dan inaqqas ir-riskju iżda ma jeliminahx kompletament.
- Għal impjiegi ta' riskju għoli, qabbad espert li jispezzjona l-output. L-outputs legali, finanzjarji u relatati mas-saħħa għandhom jgħaddu mill-filtru tal-esperti umani.
- Uża l-AI bħala "punt tat-tluq", mhux bħala "kelma finali." L-abbozz huwa minnu; Il-verifika u d-deċiżjoni huma tiegħek.
Attenzjoni: "Il-mudell qalha darbtejn, allura huwa veru" il-loġika hija żbaljata. Jista 'jirrepeti l-istess żball b'kunfidenza. Ir-ripetizzjoni mhix evidenza ta 'eżattezza.
Żbalji Komuni
Żbalji komuni
- Uża sorsi mingħajr ma tivverifikahom. Tista' toħloq mudelli ta' kotba, artikoli, artikoli tal-liġi u links; Kull referenza għandha tiġi kkonfermata.
- Tiżbalja t-ton kunfidenti għall-eżattezza. L-iktar ħaġa perikoluża dwar alluċinazzjoni hija preċiżament li tidher kunfidenti.
- Huwa biżżejjed li l-mudell jgħid "inti tivverifika". L-awtovalidazzjoni tal-mudell mhijiex validazzjoni indipendenti.
- L-użu ta 'output ta' riskju għoli mingħajr ma jurih lil espert. Il-kontroll tal-bniedem huwa essenzjali fil-flus, il-liġi u s-saħħa.
Fil-qosor
- Alluċinazzjoni hija meta l-mudell jipproduċi informazzjoni ineżistenti b'mod fluwenti u kunfidenti bħallikieku kienet vera.
- Il-kawża mhix malfunzjoni, iżda n-natura ta 'tbassir tal-probabbiltà tal-mudell; ma jistgħux jiġu eliminati kompletament.
- Ir-riskju huwa speċjalment għoli meta niġu għal ċifri preċiżi, sorsi, informazzjoni aġġornata u kwistjonijiet ta’ niċċa.
- Biex tipproteġi lilek innifsek: agħti s-sors, ivverifika l-fatti, għid "jekk m'intix ċert, għidli", ikkontrolla l-output ta 'riskju għoli minn espert.
- Uża l-AI bħala punt tat-tluq; Il-verifika u r-responsabbiltà aħħarija dejjem jibqgħu miegħek.
Kompitu tal-Applikazzjoni
Għid lill-għodda tal-AI tiegħek biex "tissuġġerixxi 3 sorsi akkademiċi" dwar suġġett li jeħtieġ għarfien espert u tipprova tikkonferma s-sorsi li tissuġġerixxi fuq l-internet; Innota kemm huma reali. Imbagħad irrepeti l-istess kompitu bil-metodu "inti tagħti s-sors" u osserva d-differenza.
Lista ta' kontroll
- [ ] Kapaċi nispjega x'inhi alluċinazzjoni u għaliex isseħħ.
- [ ] Kapaċi niddistingwi bejn kompiti ta' riskju għoli u baxx ta' alluċinazzjoni.
- [ ] Kapaċi naqqas ir-riskju ta' fabbrikazzjoni billi nagħti s-sors lill-mudell.
- [ ] Jiena nivverifika b'mod indipendenti n-numri, id-dati, l-ismijiet u s-sorsi.
- [ ] Ma nqisx it-ton kunfidenti bħala evidenza ta' eżattezza.