Udanganyifu na Mipaka ya Kuaminika

Faida:

• Anaweza kueleza maono ni nini na kwa nini hutokea
• Inaweza kubainisha wakati utoaji wa AI unahitaji kuthibitishwa
• Inaweza kutumia mbinu za vitendo zinazoongeza kuegemea

Labda mada muhimu zaidi ya kusoma na kuandika kwa AI iko katika kitengo hiki: Uundaji wa kielelezo, ambayo ni, kuona maono. Kuelewa neno hili ndiyo tahadhari ya msingi zaidi ya usalama kwa mtu yeyote anayetumia AI. Kwa sababu mtumiaji ambaye hatambui ndoto hiyo anaweza kukosea taarifa za uwongo kama kweli na kuzihamisha kwa uamuzi wa biashara, mawasiliano ya mteja au hati rasmi. Katika kitengo hiki, utajifunza ni nini kuona ukumbi, kwa nini hauwezi kuepukika, na jinsi ya kulinda dhidi yake.

Maoni ni nini?

Maoni ni wakati mtindo wa lugha hutoa habari ambayo haipo katika lugha fasaha na ya kujiamini, kana kwamba ni kweli. Mfano hauna nia ya kusema uwongo; Katika kutoa tu "mwendelezo unaowezekana zaidi", huunda maandishi ambayo yanaonekana kuwa ya kweli lakini ni ya uwongo.

Mfano: Ukimwambia mwanamitindo "Pendekeza chanzo cha kitaaluma juu ya mada Kila kitu kinaonekana katika umbizo sahihi na kwa kusadikisha; Lakini chanzo ni cha kufikirika kabisa. Huu ni mfano halisi wa mawazo.

Kwa Nini Inatokea? (Kumbuka Sehemu ya Pili)

Chanzo cha hallucination iko katika kanuni ya kazi ya mfano. Mfano sio "ensaiklopidia ya ukweli"; Ni "mashine ya uwezekano". Kazi yake ni kutoa mwendelezo mzuri zaidi wa swali lako; Sio kuleta habari sahihi zaidi. Mfano:

• Hajui asichokijua; Anapokabiliwa na tupu, huwa anajaza jibu linalowezekana badala ya kusema "sijui."
• Haina utaratibu wa kudhibiti ukweli; Haiangalii ikiwa maandishi inayotoa yanalingana na ulimwengu.
• Ufasaha na usahihi ni vitu viwili tofauti kwake; Kwa sababu ni fasaha haimaanishi kuwa ni sahihi.

Tahadhari: Hallucination si "malfunction"; Ni sifa ya asili ya teknolojia. Aina mpya hupunguza hii lakini haiwezi kuiondoa kabisa. Kwa hiyo, badala ya kusubiri "mfano usio wa hallucination", ni muhimu kujifunza kuishi na hallucination.

Ambapo ni Hatari ya Hallucinations Juu?

Sio kila matokeo ni hatari sawa. Hatari huongezeka wakati:

Hatari kubwa

Hatari ndogo

Takwimu kamili, tarehe, takwimu

Kuzalisha mawazo ya jumla, mawazo

Kuomba vyanzo, nukuu, marejeleo

Badilisha sauti ya maandishi

Niche, mada maalum

Mada ya kawaida, ya jumla

Matukio ya sasa na watu

Fanya muhtasari wa maandishi yako

Habari ya ndani maalum kwa kampuni yako

Marekebisho ya sarufi

Kesi Tatu Ndogo

Kesi 1 - Kielelezo ghushi kiliingia kwenye wasilisho. Mfanyikazi aliuliza AI "kiwango cha ukuaji wa biashara ya kielektroniki 2023 na chanzo nchini Türkiye" kwa ripoti ya tasnia. Mfano huo ulirejesha asilimia ya kuridhisha (48%) na jina la taasisi. Mfanyikazi aliiweka kwenye uwasilishaji bila kuithibitisha; Ilipofichuka katika mkutano huo kuwa takwimu hiyo ilitengenezwa, uwasilishaji na sifa ya kampuni iliharibiwa. Ikiwa mfanyakazi huyo huyo angepokea takwimu kutoka kwa chanzo rasmi, hakutakuwa na shida.

Kesi ya 2 - Sehemu ya sheria haipo. Msaidizi aliuliza AI kwa "kifungu husika cha sheria" kwa ombi. Mtindo huo ulitoa nambari ya kipengee yenye sura halisi na maandishi; lakini kitu hicho hakikuwepo. Kwa bahati nzuri, idara ya sheria iligundua kabla ya kujifungua. Somo: dondoo za kisheria mara zote huthibitishwa kutoka kwa chanzo msingi.

Kesi 3 - Njia sahihi, matokeo salama. Mfanyikazi mwingine kwenye timu hiyo hiyo alikuwa na rasimu ya ripoti ya AI, akiingiza nambari zote mwenyewe kutoka kwa data rasmi na kumwagiza "usiongeze takwimu ambazo haziko kwenye maandishi haya." Matokeo yake yalikuwa ya haraka na sahihi. Tofauti: AI iliandika rasimu, ukweli wa kulishwa na binadamu.

Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu

Kidokezo dhaifu: Toa vyanzo 3 muhimu vya kitaaluma kuhusu somo hili na mwandishi na mwaka.

Matokeo: Muundo unaweza kutoshea kwa usalama vyanzo ambavyo havipo.

Kidokezo chenye nguvu: Andika muhtasari kulingana na maandishi niliyobandika hapa chini. Tumia habari iliyo katika maandishi haya pekee. Usiongeze majina, nambari au vyanzo ambavyo havipo kwenye maandishi. Ikiwa huna uhakika, andika "haijabainishwa katika maandishi".<text>[bandika hapa]</text>

Matokeo: Kwa kuwa mfano hupata chanzo kutoka kwako, nafasi inayofaa inakuwa nyembamba.

Mbinu za Kiutendaji Zinazoongeza Kuegemea

Weka alama kwenye kila dai linaloweza kuthibitishwa katika jibu lako (nambari, tarehe, jina, chanzo) na uziweke kwenye orodha tofauti ya "lazima uangalie".

Jibu swali hili. Ikiwa huna uhakika, usikisie; Sema "Sina hakika" na ueleze kuwa hujui nini. Mada: [somo]

Jibu swali moja kwa njia mbili tofauti na uweke alama za kupingana kati ya majibu hayo mawili. Kwa hivyo wacha nione ni hoja gani zinazotia shaka.Swali: [swali]

Nitathibitisha maandishi hapa chini. Orodhesha madai hatari ninayopaswa kuangalia kwa kufuata umuhimu na kupendekeza mahali ninapoweza kuthibitisha kila moja. Maandishi: [bandika hapa]

Kwa kuongeza, fuata tabia hizi:

1. Unatoa chanzo. Bandika hati husika kwenye maandishi na useme "jibu kulingana na hili pekee."
2. Daima angalia ukweli unaoweza kuthibitishwa. Thibitisha nambari, tarehe, majina, nukuu na vyanzo kutoka kwa chanzo huru na cha kuaminika.
3. Mwambie aonyeshe kwamba hana uhakika kuhusu mwanamitindo huyo. Hii inapunguza hatari lakini haiondoi kabisa.
4. Kwa kazi hatarishi, pata mtaalam akague matokeo. Matokeo ya kisheria, kifedha na yanayohusiana na afya lazima yapitie kwenye chujio la wataalam wa kibinadamu.
5. Tumia AI kama "mahali pa kuanzia," sio kama "neno la mwisho." Rasimu imetoka kwake; Uthibitishaji na uamuzi ni wako.

Tahadhari: "Mfano ulisema mara mbili, basi ni kweli" mantiki sio sawa. Inaweza kurudia kosa sawa kwa ujasiri. Kurudia sio ushahidi wa usahihi.

Makosa ya Kawaida

Makosa ya kawaida

• Kutumia vyanzo bila kuvithibitisha. Inaweza kuunda vitabu vya mfano, vifungu, vifungu vya sheria na viungo; Kila kumbukumbu lazima ithibitishwe.
• Kukosea sauti ya kujiamini kwa usahihi. Jambo la hatari zaidi kuhusu hallucination ni kwamba inaonekana kujiamini.
• Kuwa na mfano tu kusema "unathibitisha" inatosha. Uthibitishaji wa kibinafsi wa mfano sio uthibitisho wa kujitegemea.
• Kutumia pato la hatari kubwa bila kuionyesha kwa mtaalam. Udhibiti wa binadamu ni muhimu katika fedha, sheria na afya.

Kwa muhtasari

• Udanganyifu ni wakati modeli hutoa habari ambazo hazipo kwa njia ya ufasaha na ya kujiamini kana kwamba ni kweli.
• Sababu sio malfunction, lakini uwezekano-kutabiri asili ya mfano; haiwezi kuondolewa kabisa.
• Hatari ni kubwa sana linapokuja suala la takwimu sahihi, vyanzo, habari za kisasa na masuala ya niche.
• Ili kujilinda: toa chanzo, thibitisha ukweli, sema "ikiwa huna uhakika, niambie", fanya matokeo ya hatari ya kukaguliwa na mtaalam.
• Tumia AI kama sehemu ya kuanzia; Uthibitishaji na jukumu la mwisho hubaki kwako kila wakati.

Kazi ya Maombi

Iambie chombo chako cha AI "kupendekeza vyanzo 3 vya kitaaluma" kwenye somo linalohitaji utaalam na ujaribu kuthibitisha vyanzo vinavyopendekeza kwenye mtandao; Kumbuka ni ngapi ni za kweli. Kisha kurudia kazi sawa na njia ya "unatoa chanzo" na uangalie tofauti.

Orodha ya ukaguzi

• [ ] Ninaweza kueleza maono ni nini na kwa nini hutokea.
• [ ] Ninaweza kutofautisha kati ya kazi za hatari ya kuona maono ya juu na ya chini.
• [ ] Ninaweza kupunguza hatari ya utengenezaji kwa kutoa chanzo kwa mfano.
• [ ] Ninathibitisha kwa kujitegemea nambari, tarehe, majina na vyanzo.
• [ ] Sichukulii sauti ya kujiamini kama ushahidi wa usahihi.