Добици:
- Способност да се објасни зашто су халуцинације (измишљени извор, цитат, догађај) и анахронизам најопасније грешке у историји
- Способност примене дисциплине верификације сваке референце у каталогу, упоређивања садржаја са документом и унакрсног потврђивања критичних чињеница.
- Способност да доведе у питање пристрасност и гласове који недостају у изворима тако што ће вештачку интелигенцију тражити где да тражи уместо правог извора
Постоји упозорење које се понавља у свакој јединици овог модула: излаз АИ је тврдња, а не чињеница, док се не потврди. Ова јединица претвара то упозорење у дисциплину. Историја и архивирање су инхерентно области засноване на доказима; Најосновнија вештина историчара је критика извора (питање ко, када, у коју сврху је извор произведен и колико је поуздан). У доба вештачке интелигенције, ова вештина је постала још критичнија јер је сада извор можда измишљен.
Овде ћемо детаљно покрити три опасности: халуцинацију (АИ производи измишљене информације, изворе или цитате), анахронизам (периодични елементи се померају у погрешан период) и дисциплину верификације извора уопште. Такође ћемо видети како вештачка интелигенција учи из извора који су у прошлости били нетачни или пристрасни, тако да може да репродукује пристрасност.
Халуцинације: најопаснија грешка
Халуцинација је када АИ самоуверено представља нешто што заправо не постоји. Историјски гледано, најчешће се види у следећим облицима:
- Израђен извор/референца: Непостојећи архивски фонд, број датотеке, књига или чланак.
- Измишљени цитат: Реч која заправо није изговорена, реченица која није у документу.
- Измишљени догађај/датум/особа: догађај који се није догодио, лажни датум, особа која не постоји.
- Фиктивна веза: Непостојећи узрочно-последични однос између два стварна догађаја.
Оно што халуцинацију чини опасном је то што изгледа уверљиво. Измишљена референца има исти формат као и права референца: назив фонда, број, датум. Дакле, „формат изгледа исправно“ никада не значи „тачан“.
Пажња: Ниједан ресурс који производи ИЗ не може се користити без провере и проналажења у каталогу или на поузданом месту. Једини начин да се докаже да референца постоји јесте да је видите где се налази оригинални извор (архивски каталог, библиотека, публикација). „АИ је дао“ није доказ.
Анахронизам: наочаре периода
Анахронизам је гледање на прошлост кроз данашње наочаре. Пошто је вештачка интелигенција обучена на данашњем језику, она има јаку тенденцију да:
- Појам анахронизам: Употреба речи, институције или концепта који не припадају периоду.
- Анахронизам концепта: Пројектовање идеје садашњости (нпр. модерне идеологије или идентитета) у прошлост.
- Вредносни анахронизам: процењивање понашања у прошлости само према данашњим стандардима.
Посао историчара је да разуме прошлост у њеном контексту. АИ недостаје ова контекстна осетљивост; Морате га сами обезбедити.
Разумевање зашто се халуцинације дешавају тако често олакшава заштиту од ње. АИ је систем који ради на стварању „следеће највероватније речи“; Она нема сврху као што је "знање истине". Када му се постави питање, зна ли одговор или не, произведе текст који изгледа статистички уверљиво. Формат архивске референце (назив фонда, број, датум) је научени образац; АИ може испунити овај образац без праве референце. Дакле, "зашто АИ то измишља?" Одговор на питање је једноставан: лакше му је да се надокнади него „не зна“. На вама је одговорност да испуните ове калупе стварним ресурсима.
Дисциплина верификације извора: корак по корак
1. Проверите постојање ресурса. Пронађите сваку референцу коју је дала АИ у каталогу/публикацији. Ако га не можете пронаћи, немојте га користити.
2. Упоредите садржај са извором. Да ли информације које АИ приписује документу заиста постоје у документу? Да ли је цитат потпуно исти?
3. Унакрсна потврда. За критичну чињеницу, погледајте најмање два независна поуздана извора.
4. Примените критику извора. Да ли је сам извор поуздан? Ко га је произвео, када и за коју сврху? Да ли је то пристрасно?
5. Провуците га кроз филтер анахронизма. Да ли постоје термини, концепти или вредносни судови који се не уклапају у период у излазу?
6. Питање предрасуда. Да ли је вештачка интелигенција могла да репродукује предрасуде у историјским изворима (игнорисање једне групе, фаворизовање једне тачке гледишта)?
Слој за аутентификацију
Питање
ко ради
ентитета
Да ли овај ресурс заиста постоји?
Ти у каталогу.
Садржај
Да ли ово заиста пише у документу?
Ви у документу
Потврда
Да ли неки други извор то подржава?
ти, крст
поузданост
Да ли је извор поуздан?
стручни суд
Период
Има ли анахронизама?
стручни суд
предрасуда
Чији глас недостаје/искривљен?
стручни суд
три мини кофера
Случај 1 — Шест измишљених референци. Истраживач је од АИ тражио листу извора о некој теми. ИЗ је обезбедио 6 архивских референци са савршеним форматирањем. У каталошкој претрази недостајало је 4 од 6, 2 су имала погрешан број. Да истраживач није потврдио, појавила би се студија која је цитирала непостојеће изворе. Поука: свака референца је верификована у каталогу.
Случај 2 — Измишљени цитат. Писац би користио упечатљив цитат који АИ приписује историјској личности. Када је истражио извор, видео је да не постоји документ који доказује да је та особа тако нешто рекла и да је изјаву „измислила” АИ. Поука: цитати се не могу користити без провере из примарног или поузданог извора.
Случај 3 — Репродукција предрасуда. Ученик је имао АИ да објасни историју региона. Резултат је потпуно игнорисао одређену заједницу у тој области јер су их извори из којих је АИ научила такође игнорисали. Ученик је уочио и исправио ову празнину унакрсним референцама. Лекција: АИ репродукује тишине и пристрасности у изворима; Мора се питати чији глас недостаје.
Четири шаблона за копирање
1) Листа за верификацију референци:
СВИ извори, референце, цитати, датуми и имена особа у тексту испод појављују се у посебној листи. За сваку додајте напомену: „затражено у овом тексту, мора бити независно верификовано“. Ако не изаберете ништа, „верификујте“; Само направите листу да проверим да бих могао да је проверим из каталога/извора. Текст: [овде]
2) Анахронизам скенирање:
Проучите текст о [периоду] испод. Истакните појмове, институције, концепте и вредности који МОЖДА НЕ припадају овом периоду. За сваку напишите укратко зашто сте сумњиви. Доношење коначне пресуде; Направите листу сумњи које ће стручњак проверити. Текст: [овде]
3) Оквир за критику извора:
Критика извора је сачињена о следећем извору: (1) Ко ју је могао произвести, (2) Када, (3) У коју сврху, (4) Које су могуће пристрасности, (5) Којим питањима треба веровати, а којима треба бити опрезан. Изрицање правоснажне пресуде; Наведите питања и могуће опције одговора. Извор: [овде]
4) Недостаје контрола јачине звука/пристраности:
ЧИЈИ глас и искуство које групе можда недостаје или је једнострано у следећем историјском сажетку? Која је перспектива доминантна, а која невидљива? Направите ово као листу питања; Попунићу га унакрсним референцама. Резиме: [овде]
Слаби промпт / Јаки промпт
слаба:
Дајте ми поуздане историјске изворе и цитате на ову тему.
АИ је веома склона да производи референце које су тачне по форми, али измишљене по садржају када се од њих тражи „извор“ и „цитат“. Овај позив је директан позив на халуцинацију.
Јака:
Предложите које ВРСТЕ извора (врста архивског фонда, врста публикације, институција) да тражим у свом истраживању на ову тему. ПОСТАВЉАЊЕ одређене референце, броја датотеке или понуде; Само ми реци где да тражим. Онда ћу пронаћи праве изворе из каталога.
Разлика: од АИ се тражи „где тражити“, а не „стварна референца“; Ризик од халуцинације је радикално смањен, а провера је препуштена човеку.
Уобичајене грешке
- Ослањајући се на тачну референцу. Измишљена референца такође изгледа беспрекорно; морају бити оверене у каталогу.
- Узимајући директан цитат од АИ. Цитати се не могу користити без потврде из примарног/поузданог извора.
- Превиђајући анахронизам. Данашњи појмови и појмови нечујно продиру у прошлост.
- Репродуковање предрасуда. АИ копира тишине из извора; Неопходно је питати за звук који недостаје.
- Ослањајући се на један извор. Критичне чињенице морају бити потврђене од најмање два независна извора.
Укратко
Верификација извора је у срцу историје и архивирања, а још је критичнија у доба вештачке интелигенције. Халуцинација производи изворе, цитате и догађаје чији је облик савршен, али садржај фиктиван; анахронизам искривљује прошлост кроз данашња сочива; а АИ репродукује пристрасности у изворима. Одбрана је дисциплина: проверите сваку референцу у каталогу, упоредите садржај са документом, унакрсно проверите критичне чињенице, филтрирајте период и пристрасност. Питајте АИ за „где тражити“, а не „стварни извор“. Чувар истине је увек стручњак.
Задатак апликације
Нека вештачка интелигенција направи листу ресурса о теми на којој радите (са намерно „слабим упитом“). Затим издвојите све референце из овог излаза помоћу шаблона „листе за валидацију референци“ и претражите сваку од њих у каталогу. Пребројите колико их заиста постоји, а колико је измишљених или нетачних. Поновите исту тему са „јаким упитом“ („где да погледам“) и осетите разлику.
контролна листа
- [ ] Проверио сам сваку референцу у каталогу/поузданом извору.
- [ ] Проверио сам сваки цитат са примарним/поузданим извором.
- [ ] Унакрсно сам проверио критичне чињенице са најмање два независна извора.
- [ ] Филтрирао сам излаз за анахронизме.
- [ ] Испитивао сам гласове који недостају/искривљене и пристрасност.