Zyski:
- Wiedza o tym, dlaczego halucynacje są ukryte w domenie człowieka i możliwość przejścia każdego źródła przez pięcioetapowy łańcuch weryfikacji (istnienie, piętno, cytat, kontekst, atrybucja)
- Możliwość potwierdzenia autentyczności źródła za pomocą konkretnych tożsamości, takich jak DOI, ISBN i katalog.
- Zrozum dyscyplinę związaną z zakazaniem sztucznej inteligencji dokonywania fabrykacji i nigdy nie delegowaniem jej weryfikacji uczciwości cytatów i atrybucji.
Wartość tekstu w polu ludzkim i społecznym zależy od autentyczności i trafnego przekazania źródeł, na których jest on oparty. Esej literacki, praca dyplomowa, notatka z wykładu – wszystko opiera się na wiarygodnych źródłach i uczciwej atrybucji (pokazuje, kto/skąd masz informację lub cytat). Sztuczna inteligencja oferuje na tym polu dużą wygodę, ale niesie ze sobą także największe niebezpieczeństwo: halucynacje, czyli przedstawianie nieistniejącego źródła, cytatu lub faktu jako prawdziwego. Jednostka ta ma za zadanie ustanowić „pancerz weryfikacyjny” chroniący przed tym niebezpieczeństwem.
Zasada jednego zdania: żadne źródło, cytat, data ani numer wygenerowane przez sztuczną inteligencję nie mogą zostać wprowadzone do tekstu bez potwierdzenia w pierwszej osobie z głównego lub wiarygodnego źródła. Zasada ta jest najczęściej powtarzaną i najmniej elastyczną zasadą tego modułu.
Dlaczego halucynacje są tak niebezpieczne w tej dziedzinie?
Jeśli sztuczna inteligencja myli się w kwestii technicznej, często zostanie to zauważone; lecz w sferze ludzkiej halucynacje są umiejętnie ukrywane:
- Realistyczny podpis: AI łączy nazwisko prawdziwego autora z tytułem odpowiednim dla dziedziny i rozsądnym rokiem. Rezultatem jest źródło, które nie istnieje, ale wygląda dokładnie realnie.
- Cytat adekwatny do stylu: AI potrafi naśladować styl autora i przedstawić zdanie, które do niego nie należy, jako „jego słowo”.
- Data bliska, ale błędna: Rok dzieła może zostać przesunięty o rok lub dwa lata; To umknie nieuważnemu czytelnikowi.
- Mylone przypisanie: może przypisać pomysł niewłaściwej osobie.
Wszystko to może po cichu przeniknąć do tekstu autora mającego uczciwe intencje i jeśli nie zostanie wyłapane, zaszkodzić zarówno reputacji autora, jak i zaufaniu czytelnika.
Uwaga: To, że zasób wydaje się „realistyczny” AI, nie oznacza, że jest prawdziwy. Realizm i rzeczywistość to dwie różne rzeczy; Sztuczna inteligencja jest mistrzem w tym pierwszym, nie może zagwarantować tego drugiego.
Pancerz weryfikacyjny: krok po kroku
Dla każdego źródła i cytatu postępuj zgodnie z następującym łańcuchem:
- Czy jest? Poszukaj źródła w katalogu bibliotecznym, wiarygodnej bazie danych lub na stronie wydawcy. Jeśli nie można go znaleźć, oznacza to, że nie istnieje — nie używaj go.
- Czy nadruk jest prawidłowy? Autor, tytuł, wydawca/czasopismo, rok, strona – wszystko musi dokładnie pasować.
- Czy cytat jest prawdziwy? Znajdź cytat w samym źródle, na wskazanej stronie i porównaj go dosłownie.
- Czy kontekst jest poprawny? Czy cytat został użyty dosłownie, czy też został zniekształcony?
- Czy przypisanie jest uczciwe? Czy pomysł przypisuje się właściwej osobie, czy coś zaczerpniętego ze źródła wtórnego jest przedstawiane jako pierwotne?
Jeśli choć jedno ogniwo tego łańcucha zostanie zerwane, nie będzie mogło wejść do tekstu źródłowego.
Wskazówka: poinstruuj sztuczną inteligencję od początku: „Nie podawaj żadnego źródła, którego istnienia nie jesteś pewien; jeśli nie jesteś pewien, powiedz „Nie mogłem znaleźć źródła”. Nie kończy to całkowicie halucynacji, ale skłania sztuczną inteligencję do powiedzenia „nie wiem” zamiast się pogodzić.
Cytowanie i dyscyplina cytowań
Uczciwa atrybucja to obok weryfikacji także dyscyplina:
- Podaj bezpośredni cytat z cytatami i stroną; Niech to będzie dosłownie.
- Połącz także cytat pośredni (streszczający własnymi słowami) ze źródłem; Jeśli pomysł nie jest Twój, wymaga przypisania.
- Przejrzyście określ wkład AI zgodnie z regułą obowiązującą w Twojej organizacji; Sztuczna inteligencja nie jest „zasobem”, ale jeśli zostanie wykorzystana, należy ją zadeklarować.
- Nie przedstawiaj źródła wtórnego jako pierwotnego; Jeśli zacytowałeś autora z innej książki, zaznacz to.
trzy mini etui
Przypadek 1 — Dwa z pięciu źródeł okazały się fikcyjne. Badacz przeszedł proces weryfikacji 5 źródeł podanych przez sztuczną inteligencję. 2 w ogóle nie znajdowały się w katalogu, 1 miał zły rok, 2 były prawdziwe i prawidłowe. Wykorzystano tylko 2 zweryfikowane; artykuł chroniony przed fikcyjnym przypisaniem.
Przypadek 2 — Wykryto zniekształcenie cytatu. Jeden z uczniów znalazł cytat ze sztucznej inteligencji w prawdziwej książce, ale w oryginalnym kontekście oznaczał on coś zupełnie przeciwnego. AI wyjęła zdanie z kontekstu. Uczeń poprawił cytat, dodając właściwy kontekst.
Przypadek 3 — poprawiono nieprawidłowe przypisanie. W jednej notatce z wykładu AI przypisała opinię niewłaściwemu autorowi. Kiedy nauczyciel porównał go z dwoma wiarygodnymi źródłami, znalazł prawowitego właściciela i naprawił go. Notatka przetrwała, nie powodując krzywdy ucznia.
Cztery szablony do kopiowania
1) Instrukcja zakazu produkcji:
Od tej chwili: NIE podawaj żadnego źródła, cytatu, daty ani numeru, co do którego istnienia nie masz pewności. Jeśli nie masz pewności, powiedz „wymaga weryfikacji” lub „Nie mogłem tego znaleźć”. Nigdy nie dawaj metki, która jest realistyczna, ale nie możesz zagwarantować jej autentyczności. Postępuj zgodnie z tą zasadą przy każdej odpowiedzi.
2) Plan działania dotyczący weryfikacji źródła:
Poniżej sam zweryfikuję źródło. Powiedz mi, gdzie szukać tego zasobu (katalog, baza danych, wydawca) i jakie kluczowe informacje. TYpotwierdzasz, że zasób istnieje; po prostu podaj kroki weryfikacji. Źródło: [wklej kredyt]
3) Sprawdzenie kontekstu cytatu:
Poniżej znajduje się cytat i faktyczny akapit, w którym się on pojawia. Czy cytat został użyty w oryginalnym kontekście, czy też został zniekształcony? Po prostu polegaj na tekście, który ci dałem; dodanie komentarza.Cytat: [...] Oryginalny akapit: [...]
4) Audyt integralności atrybucji:
W poniższym tekście: które zdania wymagają źródła, ale pozostają nieprzypisane, która idea może należeć do kogoś innego, czy jest miejsce, w którym pokazuję źródło wtórne jako pierwotne? Sugerowanie sfabrykowanych źródeł; po prostu wskaż brakujące cytaty. Tekst: [wklej tekst]
Słaba zachęta/silna zachęta
Słabe: „Podaj 5 źródeł akademickich i cytatów na ten temat”.
Güçlü: „Powiedz mi, jakich źródeł i słów kluczowych powinienem szukać, szukając informacji na ten temat. Nie podawaj żadnych odniesień ani cytatów, których istnienia nie jesteś pewien; jeśli nie jesteś pewien, powiedz: „Nie mogłem tego znaleźć”. Podam ci źródła, które znalazłem później; potwierdzę cytaty z książek”.
Potężna podpowiedź zamyka drzwi do halucynacji i pozostawia weryfikację człowiekowi. Słaby zachęta bezpośrednio zachęca do wyimaginowanej produkcji zasobów.
Tabela łańcucha walidacji
krok
Pytanie
miejsce weryfikacji
podmiot
Czy źródło naprawdę istnieje?
Katalog / baza danych
odcisk
Czy autor, rok i strona są prawidłowe?
Wydawca/wydawnictwo
cytat
Czy jest to dosłownie w tekście?
samo źródło
Kontekst
Czy znaczenie jest zniekształcone?
główny akapit
Cytat
Do właściwej osoby?
kontrola krzyżowa
Weryfikacja za pomocą stałego linku i nadruku
Istnieją konkretne sposoby szybkiego i niezawodnego potwierdzenia, czy zasób faktycznie istnieje. Większość współczesnych publikacji akademickich posiada DOI (Digital Object Identifier – niezmienny, unikalny identyfikator przypisany na stałe do publikacji; działa jak link i prowadzi bezpośrednio do publikacji). Jeśli uzyskasz dostęp do rzeczywistej publikacji po wpisaniu DOI artykułu w przeglądarce, źródło to istnieje; Jeśli nie możesz go znaleźć lub DOI w ogóle nie istnieje, bądź podejrzliwy. „DOI” generowane przez sztuczną inteligencję są często wymyślone i prowadzą donikąd; Jest to jeden z najbardziej praktycznych testów uchwycenia wyimaginowanego źródła.
ISBN (International Standard Book Number) zapewnia podobną identyfikację książek; Autentyczność książki można zweryfikować wyszukując ją po numerze ISBN w katalogu bibliotecznym lub w wiarygodnej bazie książek. W przypadku czasopism, sprawdź nazwę czasopisma i informacje o tomie/wydaniu na oficjalnej stronie wydawcy. Te konkretne tożsamości są odpowiedzią na pytanie: „Czy źródło jest prawdziwe?” Odpowiada jasno na Twoje pytanie w ciągu kilku minut.
Metody te sprawiają, że weryfikacja staje się raczej „transakcją” niż „zasobem”: kiedy otwierasz i przeglądasz każde źródło osobiście, w katalogu, przez DOI lub na stronie wydawcy, ryzyko fantomowej atrybucji jest w dużej mierze wyeliminowane.
Wskazówka: kiedy skończysz swoją bibliografię, wykonaj „wycieczkę po kliknięciu”: faktycznie otwórz DOI lub rekord katalogowy każdego źródła. Nawet pojedynczy zasób, który się nie otwiera, jest ostrzeżeniem; albo popraw go właściwym nadrukiem, albo usuń z listy.
Typowe błędy
- Mylenie realizmu z rzeczywistością. Wiarygodna tożsamość sztucznej inteligencji nie dowodzi jej istnienia.
- Nie weryfikuję cytatu ze źródła. Sfabrykowane lub zniekształcone cytaty mogą wyciekać.
- Pobieranie historii z jednego źródła. Sprawdź krzyżowo z co najmniej dwoma wiarygodnymi źródłami.
- Sprawianie, że element wtórny wygląda jak główny. Podaj uczciwie łańcuch napędowy.
- Powołując się na sztuczną inteligencję jako źródło. Sztuczna inteligencja nie jest zasobem; deklaruje się jego użycie, odsyła się do źródła pierwotnego.
Podsumowując
Uczciwość w naukach humanistycznych opiera się na dokładności źródła i cytatów. Największym zagrożeniem związanym ze sztuczną inteligencją jest to, że generuje źródła i cytaty, które wyglądają realistycznie, ale nie istnieją. Przepuść każde źródło i cytat przez pięcioetapowy łańcuch weryfikacji (podmiot, autor, cytat, kontekst, atrybucja). Zabroń sztucznej inteligencji fabrykowania od samego początku i nigdy nie deleguj jej weryfikacji. Ta dyscyplina jest gwarancją Twojej rzetelności w tym zawodzie.
Zadanie aplikacji
Spróbuj poprosić sztuczną inteligencję o zasugerowanie kilku źródeł i cytatu na dany temat. Przeprowadź każde źródło przez łańcuch weryfikacji: ile faktycznie istnieje, ile ma prawidłową atrybucję, czy cytat rzeczywiście znajduje się w źródle? Zapisz wyniki w tabeli. To doświadczenie konkretnie pokaże ograniczenia sztucznej inteligencji w tej dziedzinie.
lista kontrolna
- [ ] Potwierdziłem istnienie każdego zasobu w katalogu.
- [ ] Sprawdziłem każdy cytat dosłownie z oryginalnego źródła.
- [ ] Sprawdziłem, czy kontekst cytatu nie został zniekształcony.
- [ ] Sprawdziłem daty z co najmniej dwoma źródłami.
- [ ] Zakazałem sztucznej inteligencji wytwarzania i nie przekazałem jej weryfikacji.