Kitengo 7 / 12

Uthibitishaji wa Chanzo, Anachronism, na Hallucination

Faida:

  • Uwezo wa kueleza ni kwa nini kuona macho (chanzo kilichotengenezwa, nukuu, tukio) na anachronism ni makosa hatari zaidi katika historia.
  • Uwezo wa kutumia nidhamu ya kuthibitisha kila rejeleo kwenye katalogi, kulinganisha yaliyomo kwenye hati, na kuthibitisha ukweli muhimu.
  • Uwezo wa kuhoji upendeleo na sauti zinazokosekana katika vyanzo kwa kuuliza akili ya bandia mahali pa kuangalia badala ya chanzo halisi.

Kuna tahadhari inayorudiwa katika kila kitengo cha moduli hii: matokeo ya AI ni dai, sio ukweli, hadi kuthibitishwa. Kitengo hiki kinageuza onyo hilo kuwa nidhamu. Historia na uhifadhi wa kumbukumbu ni sehemu zenye msingi wa ushahidi; Ustadi wa kimsingi wa mwanahistoria ni ukosoaji wa chanzo (kuhoji chanzo kilitolewa na nani, lini, kwa madhumuni gani na ni ya kutegemewa kiasi gani). Katika enzi ya AI, ujuzi huu umekuwa muhimu zaidi kwa sababu chanzo chenyewe sasa kinaweza kutengenezwa.

Hapa tutashughulikia hatari tatu kwa kina: kuona maono (AI huzalisha taarifa za kubuni, vyanzo au nukuu), anachronism (vipengele vya muda vinavyohamishwa hadi wakati usiofaa), na nidhamu ya uthibitishaji wa chanzo kwa ujumla. Pia tutaona AI ikijifunza kutoka kwa vyanzo ambavyo havikuwa sahihi au upendeleo hapo awali, kwa hivyo inaweza kuzaa upendeleo.

Hallucination: kosa hatari zaidi

Maoni ni wakati AI inawasilisha kwa ujasiri kitu ambacho hakipo. Kihistoria, mara nyingi huonekana katika aina zifuatazo:

  • Chanzo/rejeleo iliyoundwa: Mfuko wa kumbukumbu ambao haupo, nambari ya faili, kitabu au makala.
  • Nukuu ya maandishi: Neno ambalo halikusemwa, sentensi ambayo haiko kwenye hati.
  • Tukio/tarehe/mtu: Tukio ambalo halikutokea, tarehe ya uongo, mtu ambaye hayupo.
  • Muunganisho wa uwongo: Uhusiano usiopo wa athari ya sababu kati ya matukio mawili ya kweli.

Kinachofanya ndoto kuwa hatari ni kwamba inaonekana kuwa ya kuaminika. Rejea iliyoundwa ina muundo sawa na marejeleo halisi: jina la hazina, nambari, tarehe. Kwa hivyo "umbizo linaonekana sawa" kamwe haimaanishi "sahihi".

Angalizo: Hakuna rasilimali inayotolewa na YZ inayoweza kutumika bila kuthibitishwa na kupatikana katika katalogi au mahali panapotegemewa. Njia pekee ya kuthibitisha kuwa rejeleo lipo ni kuiona mahali chanzo asili kinapatikana (orodha ya kumbukumbu, maktaba, uchapishaji). "AI ilitoa" sio ushahidi.

Anachronism: glasi za kipindi hicho

Anachronism ni kuona yaliyopita kupitia miwani ya leo. Kwa sababu AI imefunzwa katika lugha ya leo, ina mwelekeo mkubwa wa:

  • Istilahi anachronism: Kutumia neno, taasisi au dhana isiyo ya kipindi.
  • Dhana ya anachronism: Kukadiria wazo la sasa (k.m. itikadi ya kisasa au utambulisho) katika siku za nyuma.
  • Thamani anachronism: Kuhukumu tabia ya zamani tu kwa viwango vya leo.

Kazi ya mwanahistoria ni kuelewa yaliyopita katika muktadha wake. AI haina unyeti wa muktadha huu; Lazima uipe mwenyewe.

Kuelewa ni kwa nini uchawi hutokea mara nyingi hufanya iwe rahisi kulinda dhidi yake. AI ni mfumo unaofanya kazi kutoa "neno linalofuata linalowezekana zaidi"; Haina lengo kama "kujua ukweli". Anapoulizwa swali, ikiwa anajua jibu au la, hutoa maandishi ambayo yanaonekana kusadikisha kitakwimu. Muundo wa kumbukumbu ya kumbukumbu (jina la hazina, nambari, tarehe) ni muundo uliojifunza; AI inaweza kujaza muundo huu bila rejeleo halisi. Kwa hivyo "kwa nini AI inatengeneza?" Jibu la swali ni rahisi: ni rahisi kwake kutengeneza kuliko "kutojua". Wajibu ni juu yako kujaza molds hizi na rasilimali halisi.

Nidhamu ya uthibitishaji wa chanzo: hatua kwa hatua

1. Thibitisha uwepo wa rasilimali. Pata kila marejeleo yaliyotolewa na AI kwenye katalogi/chapisho. Ikiwa huwezi kuipata, usiitumie.

2. Linganisha yaliyomo na chanzo. Je, habari ambayo AI inahusisha hati ipo kwenye hati? Je, quote ni sawa kabisa?

3. Thibitisha msalaba. Kwa ukweli muhimu, angalia angalau vyanzo viwili vya kuaminika.

4. Tumia ukosoaji wa chanzo. Je, chanzo chenyewe kinategemeka? Ni nani aliyeitoa, lini na kwa madhumuni gani? Je, ni upendeleo?

5. Pitisha kupitia kichujio cha anachronism. Je, kuna masharti yoyote, dhana au hukumu za thamani ambazo haziendani na kipindi katika matokeo?

6. Swali chuki. Je! AI inaweza kutoa tena upendeleo katika vyanzo vya kihistoria (kupuuza kundi moja, kupendelea maoni moja)?

Safu ya uthibitishaji

Swali

nani anafanya

chombo

Je, rasilimali hii ipo kweli?

Wewe katika katalogi.

Maudhui

Je, hii inasema kweli kwenye hati?

Wewe kwenye hati

Uthibitisho

Je, chanzo kingine chochote kinaiunga mkono?

wewe, msalaba

kutegemewa

Je, chanzo kinategemeka?

uamuzi wa kitaalam

Kipindi

Je, kuna anachronisms yoyote?

uamuzi wa kitaalam

ubaguzi

Sauti ya nani haipo/iliyopotoshwa?

uamuzi wa kitaalam

kesi tatu ndogo

Kesi ya 1 - Marejeleo sita yaliyotungwa. Mtafiti aliuliza AI kwa orodha ya vyanzo kwenye mada. YZ ilitoa marejeleo 6 ya kumbukumbu yenye umbizo bora. Katika utafutaji wa katalogi, 4 kati ya 6 hazikuwepo, 2 kati yao zilikuwa na nambari isiyo sahihi. Ikiwa mtafiti hangethibitisha, utafiti ambao ulitaja vyanzo visivyokuwepo ungeibuka. Somo: kila marejeleo yanathibitishwa katika katalogi.

Kesi ya 2 - Nukuu iliyoundwa. Mwandishi angetumia nukuu ya kushangaza ambayo AI inamtaja mtu wa kihistoria. Alipochunguza chanzo hicho, aliona hakuna hati inayothibitisha mtu huyo kusema hivyo, na kwamba kauli hiyo “ilitengenezwa” na AI. Somo: dondoo haziwezi kutumika bila uthibitishaji kutoka kwa chanzo msingi au cha kuaminika.

Kesi ya 3 - Uzazi wa ubaguzi. Mwanafunzi alikuwa na AI kuelezea historia ya eneo. Matokeo hayo yalipuuza kabisa jumuiya maalum katika eneo hilo kwa sababu vyanzo AI ilikuwa imejifunza kutoka pia vilipuuza. Mwanafunzi aliona na kusahihisha pengo hili kwa marejeleo mtambuka. Somo: AI huzalisha tena ukimya na upendeleo katika vyanzo; Mtu lazima aulize sauti ya nani haipo.

Violezo vinne vinavyoweza kunakiliwa

1) Orodha ya uthibitishaji wa marejeleo:

Vyanzo vyote, marejeleo, nukuu, tarehe na majina ya watu katika maandishi yaliyo hapa chini yanaonekana katika orodha tofauti. Ongeza dokezo kwa kila: "inayodaiwa katika maandishi haya, lazima idhibitishwe kwa kujitegemea." Ukichagua hakuna, "thibitisha"; Toa tu orodha ili kuthibitisha ili niweze kuiangalia kutoka kwa katalogi/chanzo. Maandishi: [hapa]

2) Uchanganuzi wa Anachronism:

Chunguza maandishi kuhusu [kipindi] hapa chini. Angazia sheria na masharti, taasisi, dhana na maadili AMBAYO HUENDA SIO ya kipindi hiki. Kwa kila moja, andika kwa ufupi kwa nini unashuku. Kufanya hukumu ya mwisho; Unda orodha ya tuhuma ambazo mtaalam ataangalia. Maandishi: [hapa]

3) Mfumo wa ukosoaji wa chanzo:

Uhakiki wa chanzo umetayarishwa kuhusu chanzo kifuatacho: (1) Nani angeweza kuitoa, (2) Lini, (3) Kwa madhumuni gani, (4) Je, ni upendeleo gani unaowezekana, (5) Ni masuala gani yanapaswa kuaminiwa na ambayo yanapaswa kuwa ya tahadhari. Kuweka hukumu ya mwisho; Toa maswali na chaguzi zinazowezekana za majibu. Chanzo: [hapa]

4) Kidhibiti cha sauti/upendeleo kinakosekana:

Sauti ya nani na uzoefu wa kikundi gani unaweza kukosa au wa upande mmoja katika muhtasari ufuatao wa kihistoria? Ni mtazamo gani unaotawala, ambao hauonekani? Toa hii kama orodha ya maswali; Nitaijaza na marejeleo mtambuka. Muhtasari: [hapa]

Mwongozo dhaifu / Mwongozo thabiti

Dhaifu:

Nipe vyanzo vya kuaminika vya kihistoria na nukuu juu ya mada hii.

AI huwa na uwezekano mkubwa wa kutoa marejeleo ambayo ni sahihi katika umbo lakini yaliyotungwa katika maudhui yanapoulizwa "chanzo" na "nukuu". Kidokezo hiki ni mwaliko wa moja kwa moja wa kuona ukumbi.

Nguvu:

Pendekeza ni AINA gani ya vyanzo (aina ya hazina ya kumbukumbu, aina ya uchapishaji, taasisi) ninapaswa kutafuta katika utafiti wangu kuhusu somo hili. KUTOA rejeleo maalum, nambari ya faili au nukuu; Niambie tu niangalie wapi. Kisha nitapata vyanzo halisi kutoka kwa katalogi.

Tofauti: AI inaulizwa "mahali pa kuangalia", sio "rejeleo halisi"; Hatari ya kuona macho hupunguzwa sana na uthibitishaji unaachwa kwa mwanadamu.

Makosa ya kawaida

  • Kuegemea kwenye kumbukumbu sahihi. Rejea iliyoundwa pia inaonekana bila dosari; lazima ithibitishwe katika orodha.
  • Kuchukua nukuu moja kwa moja kutoka kwa AI. Nukuu haziwezi kutumika bila uthibitisho kutoka kwa chanzo msingi/kinachotegemewa.
  • Kuzingatia anachronism. Masharti na dhana za leo huingia kimya kimya katika siku za nyuma.
  • Kuzaa ubaguzi. nakala za AI kutoka kwa vyanzo; Inahitajika kuuliza juu ya sauti iliyopotea.
  • Kutegemea chanzo kimoja. Ukweli muhimu lazima uthibitishwe na angalau vyanzo viwili huru.

Kwa muhtasari

Uthibitishaji wa chanzo ndio kiini cha historia na uhifadhi wa kumbukumbu, na ni muhimu zaidi katika enzi ya AI. Uzushi hutoa vyanzo, nukuu, na matukio ambayo umbo lake ni kamilifu lakini maudhui yake ni ya kubuni; anachronism inapotosha zamani kupitia lenzi za leo; na AI inazalisha upendeleo katika vyanzo. Ulinzi ni taaluma: thibitisha kila marejeleo katika katalogi, linganisha maudhui na hati, chunguza ukweli muhimu, chuja kipindi na upendeleo. Uliza AI "wapi pa kuangalia," sio "chanzo halisi." Mlinzi wa ukweli daima ndiye mtaalam.

Jukumu la maombi

Acha AI itoe orodha ya nyenzo kwenye mada unayofanyia kazi (kwa "maagizo dhaifu" kwa makusudi). Kisha toa marejeleo yote kutoka kwa pato hili na kiolezo cha "orodha ya uthibitishaji wa marejeleo" na utafute kila moja kwenye katalogi. Hesabu ni ngapi zipo na ni ngapi zimeundwa au zisizo sahihi. Rudia mada ile ile kwa "uhakika mkali" ("nitazame wapi") na upate tofauti hiyo.

orodha ya ukaguzi

  • [ ] Nilithibitisha kila marejeleo katika katalogi/chanzo kinachoaminika.
  • [ ] Nimethibitisha kila nukuu kwa chanzo msingi/kinachotegemewa.
  • [ ] Nimekagua ukweli muhimu kwa angalau vyanzo viwili huru.
  • [ ] Nilichuja matokeo ya anachronisms.
  • [ ] Nilihoji sauti zilizokosekana/kupotoshwa na upendeleo.