Zyski:
- Możliwość uchwycenia halucynacji poprzez weryfikację istnienia każdego źródła, przejście do źródła pierwotnego i niezależne etapy potwierdzania krzyżowego
- Umiejętność zachowania oryginalności i rzetelności akademickiej w stosunku do sfabrykowanych cytatów i dokumentów w naukach humanistycznych i społecznych
- Możliwość nauczania użytkowników umiejętności weryfikacji źródeł i umiejętności korzystania z informacji w erze sztucznej inteligencji
W sercu społecznej misji bibliotekarstwa leży jedna obietnica: wiarygodna informacja. Bibliotekarz doprowadza użytkownika nie tylko do informacji, ale także do informacji zweryfikowanych i uczy go, jak samodzielnie tę informację oceniać. W dobie sztucznej inteligencji misja ta stała się zarówno trudniejsza, jak i ważniejsza; ponieważ sztuczna inteligencja może wytwarzać dezinformację w wysoce przekonujący sposób. W tej części omówimy rozpoznawanie halucynacji, weryfikację źródła i nauczanie umiejętności korzystania z informacji w dobie sztucznej inteligencji.
Zdefiniujmy pojęcia. Halucynacja ma miejsce wtedy, gdy sztuczna inteligencja tworzy informacje, źródła, cytaty lub wydarzenia, które w rzeczywistości nie istnieją, tak jakby były prawdziwe. Weryfikacja źródła to potwierdzenie, że informacja opiera się na prawdziwym, wiarygodnym i pierwotnym źródle. Umiejętność korzystania z informacji to zdolność danej osoby do wyszukiwania informacji, oceniania ich, kwestionowania ich wiarygodności i wykorzystywania ich w sposób etyczny. Celem tej jednostki jest wzmocnienie tych umiejętności przez bibliotekarza zarówno w jego własnej praktyce, jak i podczas nauczania użytkownika.
Krok po kroku: dyscyplina weryfikacji źródła
1. Zapytaj o źródło i zweryfikuj jego istnienie. Kiedy sztuczna inteligencja podaje twierdzenie lub cytat, „z jakiego źródła to pochodzi?” i sprawdź, czy źródło faktycznie istnieje w niezależnym katalogu, bazie danych lub dokumencie pierwotnym.
2. Przejdź do głównego źródła. Najbardziej wiarygodną formą informacji jest jej źródło z pierwszej ręki. Nie zadowalaj się streszczeniem sztucznej inteligencji lub tekstem dodatkowym; Jeśli to możliwe, uzyskaj dostęp do oryginalnego dokumentu, danych lub publikacji.
3. Potwierdź krzyżowo. Zweryfikuj krytyczne twierdzenie za pomocą co najmniej dwóch wiarygodnych, niezależnych od siebie źródeł. Jeden zasób, zwłaszcza zasób AI, nie wystarczy.
4. Oceń wiarygodność źródła. Kto to napisał, kiedy, w jakim celu, na jakich dowodach? Czy jest aktualny? Istnienie informacji nie oznacza, że jest ona prawdziwa; Kwestionuj także charakter źródła.
5. Szczerze wyrażaj niepewność. Jeśli informacji nie można zweryfikować, powiedz to wyraźnie. Zawsze lepiej jest powiedzieć „niepotwierdzone”, niż oferować sfabrykowaną pewność.
Wskazówka: gdy otrzymasz cytat lub źródło od AI, najpierw wyszukaj tytuł i autora w rzeczywistym katalogu. Nieistniejące zasoby pojawiają się tutaj natychmiast. Ta 30-sekundowa kontrola uniemożliwia wprowadzenie sfabrykowanego źródła do bibliografii, zadania lub publikacji.
Autentyczność i weryfikacja w naukach humanistycznych i społecznych
Na ryzyko wystąpienia halucynacji szczególnie narażone są nauki humanistyczne i społeczne. W tych obszarach dowody często opierają się na konkretnym dokumencie, dacie, cytacie lub źródle komentarza. Sztuczna inteligencja może formułować bardzo szczegółowe, ale całkowicie sfabrykowane twierdzenia, takie jak „mówi ten historyk” lub „mówi ten dokument z 1923 r.”. W dziele literackim, historycznym lub prawniczym oznacza to fałszywy łańcuch dowodowy.
Co więcej, oryginalność jest podstawową wartością tych dziedzin: ważne jest, do kogo tak naprawdę należy tekst, interpretacja lub tłumaczenie. Prezentowanie tekstu stworzonego przez sztuczną inteligencję jako dzieła oryginalnego lub poleganie na „źródle” stworzonym przez sztuczną inteligencję narusza uczciwość akademicką. Bibliotekarz jest przewodnikiem, który uczy użytkowników zarówno weryfikacji, jak i granic oryginalności i plagiatu.
Uwaga: nawet jeśli cytat wygenerowany przez sztuczną inteligencję wydaje się dosłowny i przypisany prawdziwemu autorowi, cytat ten może zostać sfabrykowany. Zweryfikuj cytat, odnajdując go jedynie w rzeczywistym dziele autora; Logika „ten autor mógł powiedzieć coś takiego” nie wystarczy.
trzy mini etui
Przypadek 1 — Studenta nauczono weryfikacji. Bibliotekarz zauważył 5 zasobów sztucznej inteligencji w zadaniu ucznia. Razem sprawdzili to w katalogu: 2 źródła zostały sfabrykowane. Uczeń na własnej skórze przekonał się, że „nie wypada, żeby to wyglądało realnie” i na nowo nabrał nawyku sprawdzania każdego źródła.
Przypadek 2 – Sfabrykowany dokument historyczny. Badacz otrzymał od AI „raport prasowy z 1919 r.”; Data, nazwa i treść gazety były niezwykle przekonujące. Bibliotekarz przeszukał archiwum gazety: wówczas nie było takich wiadomości. Sfabrykowane źródło pierwotne zostało wyłapane, zanim w ogóle trafiło do artykułu.
Przypadek 3 – Błędnie przypisany cytat. AI przypisała cytat słynnemu myślicielowi. Bibliotekarz szukał tego słowa w dziełach myśliciela i nie mógł go znaleźć; To słowo nie zostało nigdzie wspomniane. Weryfikacja krzyżowa zapobiegła rozpowszechnianiu błędnie przypisanego cytatu.
Łańcuch szerzenia dezinformacji i rola bibliotekarza
Dezinformacja często zaczyna się od pojedynczego sfabrykowanego wyniku, ale na tym się nie kończy. Użytkownik umieszcza w zadaniu fałszywy zasób wygenerowany przez sztuczną inteligencję; praca staje się publikacją; publikacja jest cytowana przez innych, przez co fikcyjne źródło nabiera pozorów „prawdy” poprzez wielokrotne cytowanie. Możemy to nazwać zanieczyszczeniem atrybucji: fałszywe informacje zyskują na wiarygodności poprzez wielokrotne powtarzanie. Bibliotekarz jest najważniejszym ogniwem tego łańcucha; ponieważ jest to ostatni punkt kontrolny, w którym sprawdzane są informacje przed wprowadzeniem ich do systemu. To, że źródło „występuje w wielu miejscach”, nie oznacza, że jest ono prawdziwe; Te same fałszywe informacje mogą pojawić się w wielu miejscach poprzez wzajemne kopiowanie. Dlatego też potwierdzenie krzyżowe powinno opierać się na pytaniu „ile wiarygodnych źródeł potwierdza to niezależnie od siebie”, a nie „w ilu miejscach się to pojawia?” Dziesięć źródeł wtórnych powtarzających to samo twierdzenie nie jest tyle warte, co jedno niezależne źródło pierwotne. Bibliotekarz powinien umieścić to rozróżnienie (nie myląc niezależności z powtarzalnością) w centrum zarówno swojej własnej weryfikacji, jak i nauczania użytkownika.
Uwaga: Pojawienie się informacji w wyszukiwarce lub na wielu stronach internetowych nie jest dowodem na ich prawdziwość. Ten sam błąd mógł stać się powszechny w wyniku kopiowania ze źródła do źródła. Częstość występowania i dokładność to różne rzeczy; Potwierdzenie wymaga niezależnego i wiarygodnego źródła.
Cztery szablony do kopiowania
1) Zapytanie o jednostkę zasobu:
Wymień wszystkie cytaty źródłowe i cytaty w tekście poniżej. Dla każdego: autor, tytuł, rok i informacje o publikacji (jeśli istnieją). Wyodrębnij element po elemencie informacje, które muszę zweryfikować; nie dodawaj.Tekst: [tutaj]
2) Ocena potwierdzalności:
Dla każdego z poniższych twierdzeń wyodrębnij elementy faktyczne (data, nazwa, numer, cytat), które wymagają weryfikacji. Zaproponuj, z jakim źródłem (katalog, dokument podstawowy, baza danych) można to zweryfikować. Nie oceniaj trafności, po prostu pokaż ścieżkę weryfikacji. Twierdzenia: [tutaj]
3) Lista kontrolna niezawodności spawania:
Oceń wiarygodność następującego źródła: kto je napisał, kiedy i w jakim celu istnieją dowody, czy są aktualne, czy możliwa jest stronniczość? Po prostu oprzyj się na informacjach, które podałem, wpisz „nieznane” tam, gdzie ich brakuje. Informacje źródłowe: [tutaj]
4) Plan nauczania umiejętności informatycznych:
Przygotuj krótki 20-minutowy tutorial na temat weryfikacji źródła i halucynacji w dobie sztucznej inteligencji dla następującej grupy użytkowników (np. studentów): cele, 3 przykłady, 1 zastosowanie. Grupa: [tutaj]
Słaba zachęta/silna zachęta
Słaba zachęta:
Napisz streszczenie na ten temat, korzystając z wiarygodnych źródeł.
Powiedzenie „z wiarygodnymi źródłami” zachęca sztuczną inteligencję do tworzenia fałszywych źródeł, które wydają się prawdziwe; Nie ma haka sprawdzającego.
Potężny monit:
Twoja rola: asystent w zakresie umiejętności informatycznych. PISANIE streszczenia na następujący temat; Zamiast tego wypisz pytania merytoryczne, które użytkownik musi zweryfikować, i rodzaj wiarygodnego źródła, za pomocą którego może je zweryfikować. Nie twórz żadnych cytatów źródłowych; Oznacz obszar, którego nie jesteś pewien, jako „trzeba zweryfikować”. Temat: [tutaj]
Potężny monit; Wykorzystuje sztuczną inteligencję jako przewodnik wskazujący drogę do weryfikacji, zamiast dawać odpowiedzi, i strukturalnie zapobiega fabrykowaniu.
Tabela warstw uwierzytelniania
warstwa
Pytanie
Metoda
podmiot
Czy to źródło jest prawdziwe?
Przeszukiwanie katalogu/bazy danych
prymat
Czy to najbliższe źródło?
Dostęp do oryginalnego dokumentu
Potwierdzenie
Czy inne źródło to potwierdza?
Niezależna kontrola krzyżowa
niezawodność
Jak solidne jest źródło?
Autor, data, cel, dowód
szczerość
Czy jestem pewien?
Wyraźnie określ niepewność
Typowe błędy
- Myślenie, że to, co przekonujące, jest prawdą. Dobry wygląd nie jest dowodem prawości.
- Zadowolenie z jednego źródła. Informacje krytyczne wymagają niezależnego potwierdzenia krzyżowego.
- Nie szukam cytatu u jego źródła. W ten sposób rozprzestrzeniają się błędnie przypisane słowa.
- Ukrywanie niepewności. „Nieweryfikowalne” jest lepsze niż fałszywa pewność.
- Brak uczenia użytkownika uwierzytelniania. Umiejętność korzystania z informacji jest misją bibliotekarza.
Podsumowując
Weryfikacja źródeł i umiejętność korzystania z informacji to najważniejsze zadania bibliotekarstwa w dobie sztucznej inteligencji. Halucynacje dostarczają przekonujących, lecz sfabrykowanych informacji i są szczególnie niebezpieczne w naukach humanistycznych/społecznych. Dyscyplina jest jasna: sprawdź istnienie każdego źródła, udaj się do źródła pierwotnego, przeprowadź niezależną kontrolę krzyżową, podważaj wiarygodność źródła i uczciwie wyrażaj niepewność. Bibliotekarz szerzy tę kulturę weryfikacji nie tylko w swojej praktyce, ale także ucząc użytkowników; Oryginalność i uczciwość akademicka są integralną częścią tej misji.
Zadanie aplikacji
Poproś o 6 źródeł i 2 cytaty ze sztucznej inteligencji w swojej dziedzinie. Zweryfikuj każde źródło, wyszukując je w aktualnym katalogu i każde cytowanie w rzeczywistym dziele autora; Zwróć uwagę, ile jest fabrykacji. Następnie, korzystając z szablonu „Plan nauczania umiejętności korzystania z informacji”, przygotuj 20-minutowy samouczek, w którym wyjaśnisz grupie użytkowników weryfikację źródła i załączysz prawdziwe przykłady, które sam znalazłeś.
lista kontrolna
- [ ] Niezależnie sprawdziłem, czy każde źródło faktycznie istnieje.
- [ ] Tam, gdzie było to możliwe, korzystałem ze źródeł pierwotnych.
- [ ] Sprawdziłem krytyczne twierdzenia z co najmniej dwoma niezależnymi źródłami.
- [ ] Cytaty zweryfikowałem, wyszukując je w aktualnej twórczości autora.
- [ ] Informacje nieweryfikowalne wyraźnie oznaczyłem jako „nieweryfikowalne”.