Добивки:
- Способност да се објасни зошто халуцинацијата (измислен извор, цитат, настан) и анахронизмот се најопасните грешки во историјата
- Способност да се примени дисциплината за проверка на секоја референца во каталогот, споредување на содржината со документот и вкрстено потврдување на критичните факти.
- Способност да се преиспитаат пристрасноста и гласовите што недостасуваат во изворите со барање вештачка интелигенција каде да се погледне наместо вистинскиот извор
Постои предупредување кое се повторува во секоја единица од овој модул: излезот на ВИ е тврдење, а не факт, додека не се потврди. Оваа единица го претвора тоа предупредување во дисциплина. Историјата и архивирањето се инхерентно полиња засновани на докази; Најосновната вештина на историчарот е изворната критика (прашување од кого, кога, за каква цел е произведен извор и колку е сигурен). Во ерата на вештачката интелигенција, оваа вештина стана уште покритична бидејќи самиот извор сега може да биде фабрикуван.
Овде ќе опфатиме три опасности во длабочина: халуцинација (Ви која произведува фабрикувани информации, извори или цитати), анахронизам (периодични елементи се преместуваат во погрешен период) и дисциплината на проверка на изворот воопшто. Ќе видиме и вештачка интелигенција како учи од извори кои биле неточни или пристрасни во минатото, за да може да репродуцира пристрасност.
Халуцинација: најопасната грешка
Халуцинација е кога вештачката интелигенција самоуверено презентира нешто што всушност не постои. Историски гледано, најчесто се гледа во следниве форми:
- Фабрикуван извор/референца: Непостоечки архивски фонд, број на датотека, книга или статија.
- Измислен цитат: Збор што всушност не е кажан, реченица што ја нема во документот.
- Измислен настан/датум/лице: Настан што не се случил, лажен датум, личност која не постои.
- Фиктивна врска: Непостоечка причинско-последична врска помеѓу два реални настани.
Она што ја прави халуцинацијата опасна е тоа што изгледа веродостојно. Изработената референца има ист формат како вистинска референца: име на фонд, број, датум. Значи, „форматот изгледа правилно“ никогаш не значи „точен“.
Внимание: Ниту еден ресурс произведен од YZ не може да се користи без да биде потврден и пронајден во каталогот или на сигурно место. Единствениот начин да се докаже дека постои референца е да се види каде се наоѓа оригиналниот извор (архивски каталог, библиотека, публикација). „АИ го даде“ не е доказ.
Анахронизам: чаши на периодот
Анахронизмот е гледање на минатото низ денешни очила. Бидејќи вештачката интелигенција е обучена на денешниот јазик, таа има силна тенденција да:
- Термин анахронизам: Користење на збор, институција или концепт што не припаѓа на периодот.
- Концептен анахронизам: проектирање на идеја за сегашноста (на пример, модерна идеологија или идентитет) во минатото.
- Вредносен анахронизам: Судејќи го минатото однесување само според денешните стандарди.
Работата на историчарот е да го разбере минатото во неговиот контекст. На вештачката интелигенција и недостасува оваа чувствителност на контекстот; Мора да го обезбедите сами.
Разбирањето зошто халуцинацијата се случува толку често ја олеснува заштитата од неа. ВИ е систем кој работи за да го произведе „следниот најверојатен збор“; Нема цел како „да се знае вистината“. Кога ќе му се постави прашање, без разлика дали го знае одговорот или не, тој произведува текст што изгледа статистички убедливо. Форматот на архивската референца (име на фондот, број, датум) е научена шема; ВИ може да ја пополни оваа шема без вистинска референца. Значи, „зошто вештачката интелигенција ја сочинува? Одговорот на прашањето е едноставен: полесно му е да измисли отколку „да не знае“. Одговорноста паѓа на вас да ги пополните овие калапи со вистински ресурси.
Дисциплина за проверка на изворот: чекор по чекор
1. Потврдете го постоењето на ресурсот. Најдете ја секоја референца дадена од ВИ во каталогот/публикацијата. Ако не можете да го најдете, не го користете.
2. Споредете ја содржината со изворот. Дали информациите што вештачката интелигенција му ги припишува на документот навистина постојат во документот? Дали цитатот е сосема ист?
3. Вкрстено потврдете. За критичен факт, погледнете најмалку два независни доверливи извори.
4. Примени изворна критика. Дали самиот извор е сигурен? Кој го произведе, кога и за каква цел? Дали е пристрасно?
5. Поминете го низ филтерот за анахронизам. Дали има термини, концепти или вредносни проценки кои не одговараат на периодот во излезот?
6. Прашање предрасуди. Дали вештачката интелигенција би можела да ги репродуцира предрасудите во историските извори (игнорирање на една група, фаворизирање на една гледна точка)?
Слој за автентикација
Прашање
кој прави
ентитет
Дали овој ресурс навистина постои?
Вие во каталогот.
Содржина
Дали ова навистина пишува во документот?
Вие во документот
Потврда
Дали некој друг извор го поддржува?
ти, крст
сигурност
Дали изворот е сигурен?
стручна пресуда
Период
Дали има некакви анахронизми?
стручна пресуда
предрасуди
Чиј глас недостасува/искривен?
стручна пресуда
три мини футроли
Случај 1 - Шест измислени референци. Истражувач побара од вештачката интелигенција листа на извори на тема. YZ обезбеди 6 архивски референци со совршено форматирање. Во пребарувањето на каталогот, 4 од 6 недостасуваа, 2 од нив имаа погрешен број. Доколку истражувачот не потврдил, би се појавила студија која наведува непостоечки извори. Лекција: секоја референца е проверена во каталогот.
Случај 2 — Измислен цитат. Писателот би употребил впечатлив цитат што вештачката интелигенција ја припишува на историска личност. Кога го истражил изворот, видел дека нема документ кој докажува дека тоа лице кажало такво нешто, а изјавата е „измислена“ од А.И. Лекција: цитатите не можат да се користат без потврда од примарен или сигурен извор.
Случај 3 - Репродукција на предрасуди. Еден студент имал вештачка интелигенција да ја објасни историјата на еден регион. Излезот целосно игнорираше одредена заедница во таа област, бидејќи изворите од кои научи вештачката интелигенција исто така ги игнорираа. Ученикот ја забележал и ја исправил оваа празнина со вкрстени референци. Лекција: ВИ репродуцира тишини и предрасуди во изворите; Мора да се праша чиј глас недостасува.
Четири шаблони за копирање
1) Список за проверка на референци:
СИТЕ извори, референци, цитати, датуми и имиња на лица во текстот подолу се појавуваат во посебна листа. Додадете белешка за секој од нив: „потврденото во овој текст, мора да биде независно потврдено“. Ако изберете ниту еден, „потврдете“; Само изгответе листа за проверка за да можам да ја проверам од каталогот/изворот. Текст: [тука]
2) Скенирање на анахронизам:
Испитајте го текстот за [период] подолу. Истакнете поими, институции, концепти и вредности кои МОЖЕ ДА НЕ припаѓаат на овој период. За секој, накратко пишете зошто сте сомнителни. Донесување конечна пресуда; Направете листа на сомневања што експертот ќе ги провери. Текст: [тука]
3) Рамка за критика на изворот:
Изготвена е изворна критика за следниов извор: (1) Кој би можел да ја произведе, (2) Кога, (3) За која цел, (4) Кои се можните предрасуди, (5) На кои прашања треба да им се верува, а кои треба да бидат претпазливи. Изрекување правосилна пресуда; Обезбедете прашања и можни опции за одговори. Извор: [тука]
4) Недостасува контрола на јачината на звукот/пристрасноста:
ЧИЈ глас и искуството на која група можеби недостасува или е еднострано во следното историско резиме? Која перспектива е доминантна, која невидлива? Направете го ова како листа на прашања; Ќе го пополнам со вкрстени референци. Резиме: [тука]
Слаб промпт / Силен промпт
Слаб:
Дајте ми сигурни историски извори и цитати на оваа тема.
Вештачката интелигенција е многу склона да произведува референци кои се точни по форма, но измислени по содржина кога ќе се побараат „извор“ и „цитат“. Ова барање е директна покана за халуцинација.
Силно:
Предложете какви извори (тип на архивски фонд, тип на публикација, институција) треба да барам во моето истражување на оваа тема. ПОСТАВУВАЊЕ на одредена референца, број на датотека или понуда; Само кажи ми каде да барам. Потоа ќе ги најдам вистинските извори од каталозите.
Разлика: за вештачката интелигенција се бара „каде да се погледне“, а не „вистинската референца“; Ризикот од халуцинација е радикално намален и верификацијата е препуштена на човекот.
Вообичаени грешки
- Потпирајќи се на правилната референца. Измислената референца исто така изгледа беспрекорна; мора да бидат потврдени во каталогот.
- Преземање директен цитат од вештачката интелигенција. Цитатите не можат да се користат без потврда од примарниот/сигурен извор.
- Со поглед на анахронизмот. Денешните термини и концепти тивко навлегуваат во минатото.
- Репродукција на предрасуди. ВИ копира тишини од извори; Неопходно е да се праша за звукот што недостасува.
- Потпирајќи се на еден единствен извор. Критичните факти мора да бидат потврдени од најмалку два независни извори.
Сумирано
Проверката на изворот е во срцето на историјата и архивирањето и е уште покритична во ерата на вештачката интелигенција. Халуцинацијата произведува извори, цитати и настани чија форма е совршена, но чија содржина е фиктивна; анахронизмот го искривува минатото низ денешните објективи; и ВИ репродуцира предрасуди во изворите. Одбраната е дисциплина: проверете ја секоја референца во каталогот, споредете ја содржината со документот, вкрстете ги критичните факти, филтрирајте низ точка и пристрасност. Прашајте ја вештачката интелигенција „каде да барате“, а не „вистинскиот извор“. Чуварот на вистината е секогаш експертот.
Задача за апликација
Нека вештачката интелигенција подготви листа на ресурси за темата на која работите (со намерно „слаб знак“). Потоа извлечете ги сите референци од овој излез со шаблонот „листа за валидација на референци“ и пребарајте ја секоја во каталог. Пребројте колку всушност постојат и колку се измислени или неточни. Повторете ја истата тема со „силен потсетник“ („каде да гледам“) и искусете ја разликата.
листа за проверка
- [ ] Ја потврдив секоја референца во каталогот/доверливиот извор.
- [ ] Го потврдив секој цитат со примарниот/сигурен извор.
- [ ] Имам вкрстено проверено критични факти со најмалку два независни извори.
- [ ] Го филтрирав излезот за анахронизми.
- [ ] Ги преиспитував исчезнатите/искривените гласови и пристрасноста.