Jednostka 3 / 12

Przegląd literatury i dostęp do informacji opartych na dowodach

Zyski:

  • Umiejętność wykorzystania sztucznej inteligencji w mapowaniu literatury, skanowaniu koncepcji i ustalaniu priorytetów czytania w celu zarządzania ryzykiem związanym ze sfabrykowanymi źródłami (halucynacje)
  • Możliwość ustanowienia procesu weryfikacji, który potwierdza każde cytowanie, ustalenie i stwierdzenie dotyczące wielkości efektu z głównego źródła
  • Umiejętność rozróżnienia poziomu dowodów (metaanaliza, RCT, przypadek) i porównania podsumowania AI z hierarchią dowodów

Psychologia to zawód oparty na dowodach: wyniki badań mówią nam, czy dana interwencja działa, a nie „tylko mi się tak wydaje”. Gdy ekspert chce być na bieżąco, napisać pracę magisterską, wybrać odpowiednie podejście do sprawy, sięga po literaturę. Ale literatura jest ogromna; Co roku publikowanych jest kilkadziesiąt tysięcy artykułów. Sztuczna inteligencja (AI) jest tu ogromnym akceleratorem: definiuje koncepcję, mapuje pole, sugeruje, który artykuł warto przeczytać w pierwszej kolejności, upraszcza skomplikowany tekst. Ale w tym właśnie kryje się najniebezpieczniejsza cecha sztucznej inteligencji opisana w literaturze: fabrykuje ona nieistniejące źródła. W tym module dowiesz się, jak uczynić sztuczną inteligencję akceleratorem w biznesie literackim, jak pracować, nie wpadając w pułapkę sfabrykowanych źródeł (halucynacji).

Czym zajmuje się sztuczna inteligencja w literaturze, z czego się składa?

Zadania literackie, w których sztuczna inteligencja jest silna: wyjaśnianie koncepcji prostym językiem; podsumowywać główne debaty w danej dziedzinie; aby tekst był czytelny; sugerować słowa kluczowe i strategię wyszukiwania; streścić artykuł (jeśli podasz tekst); porównywanie różnych poglądów. W nich sztuczna inteligencja skraca godziny czytania do minut.

Rzeczy, które tworzy AI: cytaty (źródła, które wyglądają idealnie, ale nie istnieją, w tym autor, rok, czasopismo, numer DOI); statystyki (realnie wyglądające liczby, takie jak wielkość efektu, wielkość próby, wartość p); ustalenia (badanie twierdzi, że „odkryło to”, podczas gdy w rzeczywistości tak nie było). Dzieje się tak, ponieważ sztuczna inteligencja nie jest wyszukiwarką, ale „zgadywaczem prawdopodobnych słów”: generuje najbardziej prawdopodobny format cytatu, bez sprawdzania jego dokładności.

Uwaga: każdy cytat podany przez AI jest nieważny bez sprawdzenia go w pierwotnym źródle (samym artykule). Nawet pozornie idealny DOI może być fałszywy. Zawsze lepiej jest powiedzieć „nie mogłem znaleźć” niż „podałem złe źródło”.

Hierarchia dowodów: nie wszystkie ustalenia są sobie równe

Kiedy sztuczna inteligencja podsumowuje ustalenia, nie informuje o ich sile dowodowej. Istnieje jednak hierarchia dowodów. Rozważając roszczenie, istotne jest, aby wiedzieć, na jakim rodzaju dowodach jest ono oparte.

Poziom dowodów

Co masz na myśli?

moc

Metaanaliza / przegląd systematyczny

Statystyczne połączenie wielu badań

najwyższy

Randomizowane badanie kontrolowane (RCT)

Eksperyment, w którym uczestnicy dzielą się na losowe grupy

wysoki

Badanie podłużne/przekrojowe

Obserwacyjne, nieeksperymentalne

średni

Seria przypadków / opis przypadku

Opis jednego lub kilku przypadków

niski

Opinia eksperta/pisanie teoretyczne

Więcej interpretacji niż dowodów

najniższy

Kiedy sztuczna inteligencja powie Ci „badania pokazują…”, Twoim pierwszym pytaniem powinno być: Jaki rodzaj badań? Wyniki metaanalizy nie mają takiej samej wagi, jak ustalenia zawarte w opisie pojedynczego przypadku.

Krok po kroku: bezpieczny przepływ literatury oparty na sztucznej inteligencji

  1. Niech sztuczna inteligencja wyjaśni tę koncepcję. Aby szybko przejść do sedna, poproś AI o proste podsumowanie i kluczowe pojęcia. (To jest starter, a nie źródło.)
  2. Skonfiguruj strategię wyszukiwania. Poproś sztuczną inteligencję o zasugerowanie słów kluczowych, synonimów i ciągu wyszukiwania; używaj go na rzeczywistych bazach danych (wyszukiwarkach akademickich, archiwach czasopism).
  3. Sam znajdź prawdziwe źródła. Pobieraj artykuły z recenzowanych baz danych. Używaj tytułów sugerowanych przez sztuczną inteligencję jako wskazówek do wyszukiwania, a nie jako cytatów.
  4. Podsumuj tekst do AI. Przekaż AI treść znalezionego artykułu i poproś o podsumowanie/porównanie. Sztuczna inteligencja nie wymyśla już żadnych rzeczy, ponieważ ma prawdziwy tekst.
  5. Potwierdź każdy numer i ustalenie. AI porównuje wielkość efektu w abstrakcji z rzeczywistą wartością w tekście.
  6. Oznacz poziom dowodów. Obok każdego ustalenia wpisz rodzaj dowodu.
Wskazówka: używaj sztucznej inteligencji w literaturze na dwa różne sposoby: „sugestywny bez źródła” (ekspozycja koncepcji, pomysł wyszukiwania) i „streszczenie źródłowe” (kiedy podajesz tekst). To drugie jest bezpieczne, ponieważ AI działa na podstawie podanego przez Ciebie tekstu, a nie z własnej pamięci.

trzy mini etui

Przypadek 1 — Epidemia fałszywego atrybucji. Absolwent prosi o cytowanie AI w związku z 15-źródłowym rozdziałem na temat zaburzeń lękowych. AI daje to wszystko w formacie APA. Kiedy student sprawdza, widzi, że 6 z 15 źródeł faktycznie nie istnieje (40%), a 3 przypisano do niewłaściwego czasopisma. Zatem połowa listy jest bezużyteczna. Lekcja: atrybucja pochodzi z prawdziwej bazy danych, a nie sztucznej inteligencji.

Przypadek 2 – Prawidłowe użycie. Lekarz przekazuje AI jeden po drugim tekst PDF 4 prawdziwych metaanaliz i mówi: „Proszę podać numer próbki, wielkość efektu głównego i ograniczenia każdej z nich”. AI redukuje 4 30-stronicowe artykuły do ​​tabeli porównawczej w 10 minut. Lekarz potwierdza każdy numer SMS-em; Wszystkie okazują się prawidłowe, bo AI działała na podstawie podanego tekstu, a nie własnej pamięci.

Przypadek 3 – Poziom pułapki dowodowej. Ekspert pyta sztuczną inteligencję: „Czy terapia X działa?” pyta. AI mówi „tak, badania to potwierdzają” i liczy cztery „badania”. Kiedy biegły je bada, widzi, że trzy z nich to opis pojedynczego przypadku, a jeden to wpis na blogu; Nie ma nawet jednego RCT. Chociaż twierdzenie może wydawać się formalnie „udowodnione”, jego siła dowodowa jest bardzo słaba.

Kopiowalne podpowiedzi i szablony

Dopiero zaczynam przygodę z tym tematem. BEZ TWORZENIA ŹRÓDEŁ, po prostu daj mi wprowadzenie koncepcyjne: podstawowe pojęcia, główne dyskusje na ten temat oraz listę słów kluczowych i synonimów, których mogę użyć podczas wyszukiwania. Atrybucja; Jeśli wymagane jest podanie źródła, powiedz „znajdź źródło samodzielnie”. Temat: [temat]

Poniżej wklejam tekst aktualnego artykułu. Pracuj tylko na podstawie tego tekstu, nie dodawaj informacji zewnętrznych. Wyodrębnij następujące informacje: pytanie badawcze, metoda, próbka (n), główne ustalenie i wielkość efektu, ograniczenia, poziom dowodów. Tekst: [tekst artykułu]

Poniżej treść 3 artykułów. Umieść je w tabeli porównawczej z następującymi kolumnami: rok autora, próba, metoda, główne ustalenie, poziom dowodu, ograniczenie. Pracuj wyłącznie na podanych tekstach, nie dodawaj źródeł. Teksty: [teksty]

Wymień każde twierdzenie liczbowe (n, p, wielkość efektu, procent) w tym tekście w osobnym wierszu, abym mógł je potwierdzić w oryginalnym artykule. Nie dodawaj żadnych numerów, których nie możesz sam zweryfikować. Tekst: [podsumowanie]

Słaba zachęta/silna zachęta

Słaba podpowiedź: „Podaj 10 źródeł akademickich na temat skuteczności terapii poznawczo-behawioralnej w depresji”.

Ta zachęta zachęca sztuczną inteligencję do nadania atrybucji z pamięci; Znaczna część danych wyjściowych będzie fałszywa.

Potężny monit: „Zasugeruj słowa kluczowe, synonimy i ciągi wyszukiwania, aby przeszukać bazę danych dotyczącą terapii poznawczo-behawioralnej i depresji. Nie podawaj źródeł/cytatów; znajdę artykuły z aktualnej bazy danych, a następnie przekażę Ci ich teksty”.

Ten monit stawia sztuczną inteligencję w bezpiecznej roli (stratega wyszukiwania); Odniesienia pochodzą z prawdziwego źródła.

Typowe błędy

  • Bezpośrednio przy użyciu przypisania podanego przez sztuczną inteligencję. Często sfabrykowane są pozornie doskonałe źródła; Nigdy nie jest używany bez potwierdzenia.
  • Ślepo ufając DOI/linkowi. Sztuczna inteligencja może również generować realistyczne, ale nieistniejące DOI; Nie będzie uznawany za ważny, dopóki go nie otworzysz i nie sprawdzisz.
  • Ignorowanie poziomu dowodów. Nie pytam, czy za zdaniem „badania mówią” kryje się blog czy metaanaliza.
  • Zastąpienie artykułu podsumowaniem AI. Jest to mapa podsumowująca; Oparcie krytycznej decyzji wyłącznie na podsumowaniu oznacza wydanie oceny bez czytania tekstu.
  • Używanie w trybie pojedynczym. Zawsze używaj AI w trybie „zasobu z pamięci”; natomiast bezpieczny jest tryb „podsumuj z podanego tekstu”.

Podsumowując

W branży literackiej sztuczna inteligencja jest potężnym akceleratorem wyjaśniania koncepcji, strategii wyszukiwania i podsumowań (po dostarczeniu tekstu). Ale fabrykuje odniesienia, statystyki i wnioski z własnej pamięci (halucynacje). Sprawdź każdy cytat i numer z głównego źródła; Weź pod uwagę źródło, którego nie możesz uznać za nieprawidłowe. Oznacz poziom dowodów (od metaanalizy do opisu przypadku) dla każdego ustalenia. Używaj sztucznej inteligencji w dwóch różnych trybach: „sugestywny bez źródła” i „podsumowujący ze źródła”, preferując ten drugi.

Zadanie aplikacji

Wybierz temat. Najpierw poproś sztuczną inteligencję o 5 cytatów na ten temat (tryb źródłowy). Następnie przeszukaj te 5 cytatów jeden po drugim w prawdziwej wyszukiwarce akademickiej i zanotuj, ile faktycznie istnieje. Następnie znajdź 2 prawdziwe artykuły na ten sam temat, przekaż ich teksty AI i poproś o sporządzenie tabeli porównawczej. Porównaj dwa doświadczenia: które dało wiarygodne wyniki?

lista kontrolna

  • [ ] Nie korzystałem z żadnych referencji podanych przez AI bez ich potwierdzenia.
  • [ ] Artykuły pozyskałem z prawdziwej, recenzowanej bazy danych.
  • [ ] Dla podsumowania podałem AI aktualny tekst artykułu (nie z pamięci).
  • [ ] Porównałem każde twierdzenie liczbowe z tekstem oryginalnym.
  • [ ] Oznaczyłem poziom dowodów dla każdego ustalenia.
  • [ ] Unieważniłem źródło, którego nie mogłem znaleźć.