Zyski:
- Umiejętność wyjaśnienia, dlaczego halucynacje (sfabrykowane źródło, cytat, wydarzenie) i anachronizm to najniebezpieczniejsze błędy w historii
- Umiejętność stosowania dyscypliny polegającej na weryfikowaniu każdego odniesienia w katalogu, porównywaniu treści z dokumentem i potwierdzaniu krytycznych faktów.
- Możliwość kwestionowania stronniczości i brakujących głosów w źródłach poprzez zadawanie sztucznej inteligencji pytań, gdzie szukać, zamiast do prawdziwego źródła
W każdej jednostce tego modułu powtarza się zastrzeżenie: wynik sztucznej inteligencji jest twierdzeniem, a nie faktem, dopóki nie zostanie zweryfikowany. Ta jednostka zamienia to ostrzeżenie w dyscyplinę. Historia i archiwizacja to dziedziny z natury oparte na dowodach; Najbardziej podstawową umiejętnością historyka jest krytyka źródła (zadawanie pytań przez kogo, kiedy, w jakim celu źródło zostało wyprodukowane i na ile jest ono wiarygodne). W dobie sztucznej inteligencji umiejętność ta stała się jeszcze bardziej krytyczna, ponieważ samo źródło może być obecnie sfabrykowane.
Omówimy tu szczegółowo trzy zagrożenia: halucynację (sztuczna inteligencja wytwarzająca sfabrykowane informacje, źródła lub cytaty), anachronizm (elementy okresowe przenoszone do niewłaściwego okresu) i ogólnie dyscyplinę weryfikacji źródła. Zobaczymy także, jak sztuczna inteligencja uczy się ze źródeł, które w przeszłości były niedokładne lub stronnicze, dzięki czemu może powielać stronniczość.
Halucynacje: najniebezpieczniejszy błąd
Halucynacja ma miejsce wtedy, gdy sztuczna inteligencja z pewnością przedstawia coś, co w rzeczywistości nie istnieje. Historycznie rzecz biorąc, najczęściej występuje w następujących formach:
- Sfabrykowane źródło/odniesienie: nieistniejący fundusz archiwalny, numer akt, książka lub artykuł.
- Zmyślony cytat: Słowo, które nie zostało faktycznie wypowiedziane, zdanie, którego nie ma w dokumencie.
- Wymyślone wydarzenie/data/osoba: Wydarzenie, które nie miało miejsca, fałszywa data, osoba, która nie istnieje.
- Fikcyjne połączenie: nieistniejący związek przyczynowo-skutkowy pomiędzy dwoma rzeczywistymi zdarzeniami.
To, co czyni halucynację niebezpieczną, to fakt, że wydaje się wiarygodna. Referencja fikcyjna ma taki sam format jak referencja rzeczywista: nazwa funduszu, numer, data. Zatem „format wygląda dobrze” nigdy nie oznacza „poprawnie”.
Uwaga: Żaden zasób wyprodukowany przez YZ nie może być używany bez sprawdzenia i znalezienia go w katalogu lub w wiarygodnym miejscu. Jedynym sposobem udowodnienia istnienia wzmianki jest zobaczenie jej tam, gdzie znajduje się oryginalne źródło (katalog archiwalny, biblioteka, publikacja). „AI to dała” nie jest dowodem.
Anachronizm: okulary epoki
Anachronizm to patrzenie na przeszłość przez dzisiejsze okulary. Ponieważ sztuczna inteligencja jest szkolona w dzisiejszym języku, ma silną tendencję do:
- Termin anachronizm: użycie słowa, instytucji lub koncepcji, które nie należą do danego okresu.
- Anachronizm koncepcji: Projektowanie idei teraźniejszości (np. nowoczesnej ideologii lub tożsamości) w przeszłość.
- Anachronizm wartości: ocenianie przeszłych zachowań wyłącznie według dzisiejszych standardów.
Zadaniem historyka jest zrozumienie przeszłości w jej kontekście. Sztucznej inteligencji brakuje wrażliwości na kontekst; Musisz to zapewnić sam.
Zrozumienie, dlaczego halucynacje zdarzają się tak często, ułatwia ochronę przed nimi. Sztuczna inteligencja to system, który tworzy „następne najbardziej prawdopodobne słowo”; Nie ma innego celu niż „poznanie prawdy”. Zadając pytanie, niezależnie od tego, czy zna odpowiedź, czy nie, pisze tekst, który wygląda statystycznie przekonująco. Format odniesienia archiwalnego (nazwa funduszu, numer, data) jest wyuczonym wzorcem; Sztuczna inteligencja może wypełnić ten wzór bez prawdziwego odniesienia. Zatem „dlaczego sztuczna inteligencja to wymyśla?” Odpowiedź na pytanie jest prosta: łatwiej mu to zmyślić niż „nie wiedzieć”. Na Tobie spoczywa odpowiedzialność za wypełnienie tych form prawdziwymi zasobami.
Dyscyplina weryfikacji źródła: krok po kroku
1. Sprawdź istnienie zasobu. Znajdź wszystkie odniesienia podane przez AI w katalogu/publikacji. Jeśli nie możesz go znaleźć, nie używaj go.
2. Porównaj treść ze źródłem. Czy informacje, które sztuczna inteligencja przypisuje dokumentowi, rzeczywiście istnieją w dokumencie? Czy cytat jest dokładnie taki sam?
3. Potwierdź krzyżowo. Aby uzyskać krytyczny fakt, spójrz na co najmniej dwa niezależne i wiarygodne źródła.
4. Stosuj krytykę źródła. Czy samo źródło jest wiarygodne? Kto, kiedy i w jakim celu to wyprodukował? Czy jest stronniczy?
5. Przepuść go przez filtr anachronizmu. Czy istnieją jakieś terminy, koncepcje lub sądy wartościujące, które nie pasują do okresu w wynikach?
6. Kwestionuj uprzedzenia. Czy sztuczna inteligencja mogła odtworzyć uprzedzenia w źródłach historycznych (ignorując jedną grupę, faworyzując jeden punkt widzenia)?
Warstwa uwierzytelniania
Pytanie
kto to robi
podmiot
Czy to źródło naprawdę istnieje?
Ty w katalogu.
Treść
Czy to naprawdę jest napisane w dokumencie?
Ty w dokumencie
Potwierdzenie
Czy jakieś inne źródło to potwierdza?
ty, krzyżu
niezawodność
Czy źródło jest wiarygodne?
opinia biegłego
Okres
Czy są jakieś anachronizmy?
opinia biegłego
uprzedzenia
Czyj głos jest brakujący/zniekształcony?
opinia biegłego
trzy mini etui
Przypadek 1 – Sześć sfabrykowanych odniesień. Badacz poprosił sztuczną inteligencję o listę źródeł na dany temat. YZ dostarczyło 6 odniesień archiwalnych z doskonałym formatowaniem. Podczas wyszukiwania w katalogu brakowało 4 z 6, 2 z nich miały błędny numer. Gdyby badacz tego nie zweryfikował, pojawiłoby się badanie, w którym powołano się na nieistniejące źródła. Lekcja: każda referencja jest weryfikowana w katalogu.
Przypadek 2 — Cytat zmyślony. Pisarz użyłby uderzającego cytatu, który AI przypisuje postaci historycznej. Kiedy zbadał źródło, zobaczył, że nie ma dokumentu potwierdzającego, że dana osoba powiedziała coś takiego oraz że oświadczenie to zostało „wymyślone” przez sztuczną inteligencję. Lekcja: cytatów nie można używać bez weryfikacji z pierwotnego lub wiarygodnego źródła.
Przypadek 3 – Powielanie uprzedzeń. Uczeń poprosił sztuczną inteligencję o wyjaśnienie historii regionu. Wyniki całkowicie zignorowały konkretną społeczność na tym obszarze, ponieważ źródła, z których dowiedziała się sztuczna inteligencja, również je zignorowały. Uczeń zauważył tę lukę i skorygował ją za pomocą odsyłaczy. Lekcja: sztuczna inteligencja reprodukuje cisze i uprzedzenia w źródłach; Trzeba zadać sobie pytanie, czyjego głosu brakuje.
Cztery szablony do kopiowania
1) Referencyjna lista weryfikacyjna:
WSZYSTKIE źródła, odniesienia, cytaty, daty i nazwiska osób w poniższym tekście pojawiają się na osobnej liście. Do każdego z nich dodaj notatkę: „twierdzenia zawarte w tym tekście muszą zostać niezależnie zweryfikowane”. Jeśli nie wybierzesz żadnego, „zweryfikuj”; Wystarczy przygotować listę do weryfikacji, abym mógł ją sprawdzić w katalogu/źródle. Tekst: [tutaj]
2) Skanowanie anachronizmu:
Przeanalizuj poniższy tekst na temat [kropki]. Podkreśl terminy, instytucje, koncepcje i wartości, które MOGĄ NIE należeć do tego okresu. Dla każdego napisz krótko, dlaczego jesteś podejrzliwy. Dokonywanie ostatecznego wyroku; Stwórz listę podejrzeń, które sprawdzi ekspert. Tekst: [tutaj]
3) Ramy krytyki źródła:
Krytyka źródła sporządzana jest w oparciu o następujące źródła: (1) kto mógł ją wyprodukować, (2) kiedy, (3) w jakim celu, (4) jakie są możliwe błędy stronniczości, (5) którym kwestiom należy ufać, a w których należy zachować ostrożność. Narzucanie ostatecznego wyroku; Podaj pytania i możliwe opcje odpowiedzi. Źródło: [tutaj]
4) Brak kontroli głośności/odchylenia:
CZYJEGO głosu i doświadczeń której grupy może brakować lub być jednostronne w poniższym podsumowaniu historycznym? Która perspektywa dominuje, która jest niewidoczna? Przygotuj to jako listę pytań; Uzupełnię go odsyłaczami. Podsumowanie: [tutaj]
Słaba zachęta/silna zachęta
Słabe:
Podaj mi wiarygodne źródła historyczne i cytaty na ten temat.
Sztuczna inteligencja jest bardzo skłonna do tworzenia odniesień, które są poprawne w formie, ale sfabrykowane w treści, gdy pyta się o „źródło” i „cytat”. Ta zachęta jest bezpośrednim zaproszeniem do halucynacji.
Mocny:
Zasugeruj, jakiego RODZAJU źródeł (typ funduszu archiwalnego, rodzaj publikacji, instytucja) powinienem szukać w swoich badaniach na ten temat. DOPASOWANIE konkretnego odniesienia, numeru pliku lub wyceny; Powiedz mi tylko, gdzie mam szukać. Wtedy znajdę prawdziwe źródła z katalogów.
Różnica: sztuczna inteligencja jest pytana o „gdzie szukać”, a nie o „faktyczne odniesienie”; Ryzyko halucynacji jest radykalnie zmniejszone, a weryfikację pozostawia się człowiekowi.
Typowe błędy
- Opierając się na właściwych referencjach. Zmyślone odniesienie również wydaje się bezbłędne; należy sprawdzić w katalogu.
- Biorąc bezpośredni cytat z AI. Cytaty nie mogą być wykorzystywane bez potwierdzenia z pierwotnego/wiarygodnego źródła.
- Pomijając anachronizm. Dzisiejsze terminy i koncepcje po cichu przenikają do przeszłości.
- Powielanie uprzedzeń. AI kopiuje cisze ze źródeł; Należy zapytać o brakujący dźwięk.
- Opieranie się na jednym źródle. Krytyczne fakty muszą zostać potwierdzone przez co najmniej dwa niezależne źródła.
Podsumowując
Weryfikacja źródła leży u podstaw historii i archiwizacji, a w dobie sztucznej inteligencji jest jeszcze ważniejsza. Halucynacje wytwarzają źródła, cytaty i wydarzenia, których forma jest doskonała, ale których treść jest fikcyjna; anachronizm zniekształca przeszłość przez dzisiejsze soczewki; a sztuczna inteligencja odtwarza błędy w źródłach. Obrona to dyscyplina: sprawdzaj każde odniesienie w katalogu, porównuj treść z dokumentem, sprawdzaj najważniejsze fakty, filtruj okresy i uprzedzenia. Zapytaj sztuczną inteligencję o „gdzie szukać”, a nie o „faktyczne źródło”. Strażnikiem prawdy jest zawsze ekspert.
Zadanie aplikacji
Poproś sztuczną inteligencję o sporządzenie listy zasobów na temat, nad którym pracujesz (z celowo „słabą podpowiedzią”). Następnie wyodrębnij wszystkie odniesienia z tego wyniku za pomocą szablonu „listy sprawdzania referencji” i wyszukaj je w katalogu. Policz, ile faktycznie istnieje, a ile jest wymyślonych lub niedokładnych. Powtórz ten sam temat z „mocną podpowiedzią” („gdzie powinienem szukać”) i poczuj różnicę.
lista kontrolna
- [ ] Sprawdziłem każdą wzmiankę w katalogu/zaufanym źródle.
- [ ] Każdy cytat zweryfikowałem z pierwotnym/wiarygodnym źródłem.
- [ ] Sprawdziłem najważniejsze fakty z co najmniej dwoma niezależnymi źródłami.
- [ ] Przefiltrowałem dane wyjściowe pod kątem anachronizmów.
- [ ] Kwestionowałem brakujące/zniekształcone głosy i uprzedzenia.