Zyski:
- Umiejętność wykorzystania sztucznej inteligencji do tworzenia streszczeń literatury i projektów artykułów naukowych oraz rozpoznawania ryzyka fałszywych cytowań (fałszywe artykuły, błędne DOI)
- Umiejętność stosowania nawyku weryfikacji każdego cytatu w źródle pierwotnym poprzez DOI/PubMed i zapobiegania ryzyku plagiatu/sfabrykowanych cytatów
- Umiejętność wykorzystania sztucznej inteligencji jako narzędzia redakcyjnego i językowego przyspieszającego pisanie oraz przyjęcie zasady pozostawienia odpowiedzialności naukowej autorowi
Biologia molekularna i genetyka opierają się na ogromnej literaturze, do której co roku dodawane są setki tysięcy artykułów. Znaczenie kliniczne wariantu, funkcja genu lub ważność metody zależą od opublikowanych dowodów. Sztuczna inteligencja (AI) stanowi potężną pomoc w przeglądaniu, podsumowywaniu i redagowaniu tekstów naukowych do tej literatury, ale jest także najniebezpieczniejszym źródłem halucynacji w tej dziedzinie: sztuczna inteligencja może sfałszować artykuły, które nigdy nie istniały, w prawdziwych czasopismach, z prawdziwie wyglądającymi autorami i z dobrze sformułowanymi tytułami. W tym module dowiesz się, jak bezpiecznie wykorzystywać sztuczną inteligencję w literaturze i piśmie oraz jak weryfikować każdy cytat.
Najważniejsza zasada: Nie korzystaj z żadnych odnośników podanych przez YZ bez osobistego otwarcia i sprawdzenia źródła. Nie ufaj żadnemu byline bez DOI (stałego cyfrowego identyfikatora publikacji), identyfikatora PubMed (PMID) lub bezpośredniej strony wydawcy. Tag dostarczony przez sztuczną inteligencję może wydawać się „zbyt realistyczny”; realizm nie jest rzeczywistością.
Dwa oblicza AI w literaturze
Przydatna strona: Szybko podsumowuje temat, upraszcza skomplikowany artykuł, sugeruje wyszukiwane hasła, poprawia język manuskryptu, porównuje sprzeczne ustalenia.
Aspekt niebezpieczny: fabrykuje nieistniejący artykuł (fałszywy cytat), zniekształca ustalenia dotyczące prawdziwego artykułu, przedstawia nieaktualne informacje tak, jakby były aktualne, „podaje” źródło twierdzenia.
Dlatego używaj sztucznej inteligencji jako punktu wyjścia w przeglądzie literatury, a nie jako ostatniego słowa. Rzeczywiste wyszukiwanie odbywa się w wiarygodnych katalogach, takich jak PubMed, Google Scholar, Europe PMC; Podsumowanie AI nie zastępuje tego wyszukiwania.
Krok po kroku: bezpieczny obieg literatury
1. Wyjaśnij pytanie i wyodrębnij wyszukiwane hasła za pomocą sztucznej inteligencji. Zapytaj AI: „Jakich słów kluczowych i terminów MeSH (tagi tematyczne PubMed) powinienem szukać na ten temat?” zapytać.
2. Wykonaj wyszukiwanie w autorytatywnym katalogu. Wyszukaj to sam w PubMed/Scholar; Nie polegaj na liście AI „są te artykuły”.
3. Poproś sztuczną inteligencję o podsumowanie znalezionych artykułów. Można bezpiecznie przekazać tekst (lub streszczenie) sztucznej inteligencji i poprosić o jego podsumowanie; Ponieważ masz zasoby. Proszenie sztucznej inteligencji o narrację „z pamięci” jest niebezpieczne.
4. Zweryfikuj każdy cytat za pomocą DOI/PMID. Potwierdź, że każde źródło zawarte w Twoim tekście faktycznie istnieje i potwierdza tę tezę.
5. Używaj sztucznej inteligencji w pisaniu ze względu na język i strukturę, a nie do generowania faktów. Sztuczna inteligencja jest dobra dla płynności zdań, organizacji akapitów i podsumowań; ale wyniki, liczby i cytaty pochodzą od Ciebie.
Wskazówka: Najszybszy sposób sprawdzenia cytatu: otwórz podany DOI na doi.org lub wyszukaj PubMed z tytułem w cudzysłowie. Jeśli się nie otwiera lub tytuł/autor nie pasują, najprawdopodobniej ten cytat jest wymyślony.
trzy mini etui
Przypadek 1 — Trzy z pięciu referencji są fałszywe. Absolwent poprosił o akapit wprowadzający i 5 cytatów z AI. Sprawdzając po kolei DOI, stwierdził, że 3 z nich nie były nigdzie otwarte, 1 należał do innego artykułu i tylko 1 był prawidłowy. Akapit był płynny, ale większość źródeł została sfabrykowana.
Przypadek 2 – Zniekształcone ustalenia. Naukowiec zlecił sztucznej inteligencji podsumowanie prawdziwego artykułu; YZ napisał, że w artykule napisano: „Gen X powoduje chorobę Y”. Kiedy badacz otworzył artykuł, zobaczył, że faktycznie napisano w nim: „Stwierdzono, że gen X jest powiązany z Y, ale nie wykazano związku przyczynowego”. Różnica między skojarzeniem a przyczyną była krytyczna z naukowego punktu widzenia.
Przypadek 3 – Uzyskane potwierdzenie. Kiedy doktorant przeszukiwał PubMed, korzystając z terminów MeSH sugerowanych przez YZ, znalazł niedawną recenzję, która miała kluczowe znaczenie dla tematu, ale nigdy nie została wspomniana w streszczeniu YZ. Sztuczna inteligencja wygenerowała wyszukiwane hasła (przydatne), ale prawdziwe odkrycie nastąpiło w autorytatywnym indeksie.
Cztery szablony do kopiowania
1) Strategia wyszukiwania:
Twoja rola: asystent przeglądu literatury. Zaproponuj wyszukiwane hasła, terminy MeSH i kombinacje logiczne (AND/OR) do użycia w PubMed w przypadku następującego pytania badawczego: [pytanie]. WYKAZ ARTYKUŁÓW; Wystarczy skonfigurować dobre zapytanie wyszukiwania. Poszukam w PubMed.
2) Podsumowując podany tekst (posiadam źródło):
Podsumuj tekst/streszczenie artykułu, które wkleiłem poniżej: [tekst]. Rozróżnij: kluczowe ustalenia, metodę, wielkość próby, ograniczenia. NIE MIESZAJ twierdzeń o „korelacji” i „przyczynowości”; Zacytuj dokładnie to, co jest w artykule. Nie dodawaj niczego, czego nie ma w tekście.
3) Lista kontrolna weryfikacji cytatów:
Dam ci tę listę referencji. Pola, które muszę zweryfikować w przypadku każdego z nich (DOI, PMID, czasopismo, rok, zgodność tytułu z autorem) pojawiają się jako lista kontrolna. NIE możesz sprawdzić, czy referencje są prawdziwe; Potwierdzę za pomocą DOI/PMID i podaj kroki sprawdzania.
4) Korekta języka naukowego:
Popraw język i płynność poniższego akapitu, ale używaj faktów, liczb i odniesień. ZMIEŃ, DODAJ, USUŃ: [akapit]. Popraw tylko gramatykę, płynność i styl naukowy. Zaznacz każde zdanie, które zmieniłeś.
Słaba zachęta/silna zachęta
Słabe: „Napisz wprowadzenie składające się z 5 źródeł na temat roli CRISPR w terapii nowotworów”.
Problem: sztuczna inteligencja pisze z pamięci i prawdopodobnie generuje fałszywe cytaty; Nie widzisz źródła.
Strong: „Zaproponuj wyszukiwane hasła, których powinienem użyć w PubMed na temat CRISPR i terapii nowotworów. Następnie podam streszczenie 5 artykułów, które znajdę i wkleję; przygotuj na ich podstawie wstęp, łącząc każde zdanie z odpowiednim artykułem. Nie dodawaj żadnych twierdzeń, których nie ma w tekście.”
Dlaczego jest to potężne: Atrybucje są prawdziwe i pod Twoją kontrolą; Sztuczna inteligencja działa tylko na podstawie tekstu, który widzi.
Zadanie
Czy sztuczna inteligencja jest bezpieczna?
stan
Zaproponuj wyszukiwane hasło
Tak
Ty dzwonisz
Streść podany tekst
Tak
Niech źródło będzie Twoje.
Lista artykułów z pamięci
nie
Istnieje duże ryzyko fałszywych cytatów
Korekta języka/stylu
Tak
Nie zmieniaj faktu/odniesienia
ustalenia dotyczące transferu
ostrożny
Rozróżnienie związku/przyczynowości
Typowe błędy
- Używanie cytatów bez weryfikacji. Najczęstszy i najbardziej szkodliwy błąd; Fałszywy cytat stanowi naruszenie uczciwości akademickiej.
- Żądanie artykułów z pamięci. Lista AI „istnieją te badania” może zostać sfabrykowana.
- Mylenie związku z przyczynowością. Sztuczna inteligencja może zatrzeć to rozróżnienie podczas podsumowywania; wrócić do źródła.
- Zakładając terminowość. W pewnym momencie wiedza AI zostaje odcięta; Pobierz najnowsze ustalenia z indeksu.
- Pozostawienie generowania faktów sztucznej inteligencji. Liczba, wynik i roszczenie muszą pochodzić od Ciebie, a nie od AI.
Uwaga: jeśli podczas pisania artykułu korzystałeś ze sztucznej inteligencji, sprawdź zasady korzystania z AI w swoim czasopiśmie i instytucji. Wiele czasopism zastrzega, że sztuczna inteligencja nie może być autorem i że jej wykorzystanie musi być wyraźnie określone. Fałszywe cytowanie jest powodem wycofania i sankcji akademickich.
Głębokość: wyłapanie fałszywego cytatu w 30 sekund
Większość fałszywych atrybucji szybko się załamuje po kilku mechanicznych kontrolach. Krok po kroku rozwijaj odruch walidacji. Najpierw otwórz DOI za pośrednictwem doi.org. Prawdziwy DOI przeniesie Cię bezpośrednio na stronę wydawcy; Jeśli pojawi się błąd „Nie znaleziono DOI”, cytat jest prawie na pewno fałszywy. Po drugie, wyszukaj w PubMed tytuł z cytatami. Jeśli tytuł w ogóle się nie pojawia lub nie pasuje do autora/czasopisma/roku podanego przez sztuczną inteligencję, bądź podejrzliwy – sztuczna inteligencja często przypisze prawdziwy tytuł niewłaściwemu autorowi lub niewłaściwemu czasopismu. Po trzecie, spójność czasopisma: sztuczna inteligencja czasami fabrykuje artykuł w roku, w którym czasopismo nie istnieje („opublikowano w 2019 r.”, ale czasopismo zostało założone w 2021 r.).
Konkretny przykład: student poprosił sztuczną inteligencję o cytat potwierdzający patogeniczność wariantu. Odcisk wyglądał idealnie: znane czasopismo, nazwa rzeczywistej grupy badawczej, poprawny formalnie DOI. Kiedy otwarto DOI, pojawił się artykuł na zupełnie inny temat – sztuczna inteligencja dopasowała prawdziwy DOI z wymyślonym tytułem. Lekcja: Samo „otwarcie” DOI nie wystarczy; Sprawdź także, czy tytuł i autor otwierającej się strony dokładnie odpowiadają cytatowi.
Jedna szczególnie niebezpieczna sytuacja: twierdzenie, że wariant został „wcześniej zgłoszony jako patogenny”. To stwierdzenie może przełożyć się na decyzję kliniczną (np. PS1/PM5 w ACMG); Jeśli odniesienie, na którym się opiera, jest fałszywe, łańcuch dowodowy radykalnie się załamuje. Każde odniesienie do masy klinicznej musi zostać zweryfikowane w najściślejszy sposób i za pomocą dwóch niezależnych wskaźników.
5) Szablon weryfikacji krzyżowej cytatów:
Wymień w kolejności kontrole, które przeprowadziłbym, aby zweryfikować następujące przypisanie: [odcisk]. Czy wyświetlany jest DOI? Czy wyświetla tytuł/autora/rok otwartej strony? Czy pojawia się przy wyszukiwaniu tytułu w PubMed? Na każdym kroku zostaw pole „zaliczony/niezaliczony”. Nie możesz zweryfikować przypisania; daj mi listę kontrolną.
Podsumowując
- Sztuczna inteligencja jest potężną pomocą w przeglądzie literatury i pisaniu naukowym, ale jest największym źródłem fałszywych cytatów.
- Rzeczywiste wyszukiwanie odbywa się w wiarygodnych katalogach (PubMed, Scholar); Lista AI nie jest ostatnim słowem.
- Każde cytowanie musi zostać osobiście zweryfikowane w DOI/PMID; Należy zachować rozróżnienie między zależnością a przyczyną.
- Używaj sztucznej inteligencji do tworzenia języka i struktury; Fakty, liczby i atrybucje muszą pochodzić od Ciebie.
Zadanie aplikacji
Wybierz pytanie badawcze. Uzyskaj wyszukiwane hasła od AI za pomocą szablonu 1, wyszukaj je samodzielnie w PubMed i znajdź 3 prawdziwe artykuły. Podsumuj je AI (szablon 2). Poproś także sztuczną inteligencję o „3 artykuły z pamięci” i sprawdź ich DOI — zwróć uwagę, ile z nich okazuje się prawdziwych. Napisz w jednym zdaniu różnicę w wiarygodności obu metod.
lista kontrolna
- [ ] Wyodrębniłem wyszukiwane hasła za pomocą sztucznej inteligencji i sam przeprowadziłem wyszukiwanie.
- [ ] Znalazłem artykuły w autorytatywnym indeksie, nie ufałem liście YZ.
- [ ] Sprawdziłem każdy cytat za pomocą DOI/PMID.
- [ ] Potwierdziłem rozróżnienie pomiędzy związkiem a przyczynowością w źródle.
- [ ] Użyłem sztucznej inteligencji tylko do języka/struktury, a nie do generowania faktów.
- [ ] Zapoznałem się z polityką wykorzystania sztucznej inteligencji czasopisma/instytucji.