Zyski:
- Umiejętność rozróżnienia, gdzie sztuczna inteligencja oszczędza czas rzeczywisty w toku badań akademickich (literatura, projektowanie, analiza, pisanie), a gdzie naukowa ocena i odpowiedzialność pozostają w gestii badacza, zgodnie z poziomem ryzyka zadania
- Umiejętność zastosowania dyscypliny, która łączy i weryfikuje każdy wynik sztucznej inteligencji ze źródłem oraz zrozumienie problemu (sfabrykowanego) przypisywania halucynacji, co stanowi najbardziej krytyczne ryzyko w akademii.
- Możliwość przyjęcia ram użytkowania zgodnych z polityką wykorzystania sztucznej inteligencji instytucji i czasopism, zasadami uczciwości akademickiej i przejrzystości.
Praca badacza obejmuje znacznie więcej pisania, czytania i redagowania, niż się wydaje: przeglądanie setek artykułów, streszczanie ich, doskonalenie pytania badawczego, projektowanie metod, analizowanie danych, przepisywanie wyników, formatowanie cytatów, wybór czasopism, odpowiadanie na komentarze recenzentów. Większość tej pracy jest powtarzalna, czasochłonna i rozpraszająca; Kradnie to, co naprawdę wartościowe, oryginalne myślenie i interpretację. Sztuczna inteligencja (AI) — programy komputerowe rozumiejące ludzki język i generujące dane wyjściowe w postaci tekstu, podsumowań, kodu, wersji roboczych itp. — znacznie pomaga przyspieszyć to powtarzalne obciążenie. W całym tym module traktujemy sztuczną inteligencję nie jako magiczne źródło informacji; Nauczymy się go używać jako asystenta badawczego, tworząc wersje robocze, przekazując pomysły i redagując.
Ale od początku postawmy najważniejsze zdanie charakterystyczne dla środowiska akademickiego: AI nie podejmuje decyzji naukowych za badacza; przygotowuje projekt, ocena naukowa i odpowiedzialność należą do badacza. W środowisku akademickim zasada ta jest jeszcze bardziej rygorystyczna niż w innych zawodach, ponieważ walutą nauki jest zaufanie, a podstawą tego zaufania jest powiązanie każdego twierdzenia z weryfikowalnym źródłem.
Ta pierwsza jednostka ustanawia trzy podstawy: rozróżnienie, gdzie AI działa, a gdzie powinna pozostać w procesie badawczym; weryfikacja każdego wyjścia; Przyjęcie zasady uczciwości i przejrzystości akademickiej. Te trzy stanowią podstawową podstawę bezpieczeństwa dla wszystkich kolejnych jednostek.
Gdzie AI oszczędza czas, gdzie decyzja należy do badacza?
Pomaga myśleć o zadaniach badawczych pod kątem poziomu ryzyka. Poziom ryzyka określa, jak duże szkody wyrządziłoby dorobkowi naukowemu, gdyby zostało wykonane nieprawidłowo.
Zadania niskiego ryzyka, które AI znacznie przyspiesza: Wygenerowanie strategii wyszukiwania (słowo kluczowe, synonim), wstępne podsumowanie długiego tekstu, uproszczenie języka akapitu, zasugerowanie nagłówka tabeli, burza mózgów, wyjaśnienie koncepcji na różne sposoby, wymyślenie struktury konspektu. Tutaj sztuczna inteligencja rozwiązuje problem „pustej strony”; poprawiasz, weryfikujesz i wzbogacasz.
Zadania średniego ryzyka tworzone przez sztuczną inteligencję, które wymagają rygorystycznej weryfikacji: zalecenie dotyczące wyboru testu statystycznego, projekt kodu, formatowanie cytatu, projekt interpretacji ustalenia, porównanie opcji metod. Tutaj AI daje prędkość, ale każdy numer, każdy tag, każdy krok logiczny trzeba potwierdzić ręcznie.
Zadania wysokiego ryzyka, w przypadku których decyzję pozostawia się wyłącznie badaczowi: ostateczne określenie hipotezy i metody, podjęcie decyzji, co oznaczają dane, ocena, czy odkrycie ma znaczenie, decyzje w ramach komisji etycznej (IRB), podjęcie decyzji, czy źródło faktycznie istnieje i potwierdza twierdzenie, oświadczenie o autorstwie i wkładzie. Decyzje te decydują o wiarygodności dowodu naukowego; Odpowiedzialność i ostatnie zdanie zawsze należy do badacza.
Uwaga: „AI powiedziała” nie jest uzasadnieniem. Redaktor czasopisma lub jury rozprawy doktorskiej nie zaakceptują stwierdzenia „mój model tak to wyprodukował”. Niezweryfikowany wynik AI jest jak niezweryfikowana plotka.
Dlaczego weryfikacja jest konieczna? Halucynacje i sfabrykowane atrybucje
Sztuczna inteligencja tworzy tekst nie poprzez „wiedzę”, ale „przewidywanie możliwego słowa”. Dlatego czasami podaje niezwykle płynne, choć faktycznie błędne informacje. Nazywa się to halucynacją (fabrykacją). Najbardziej niebezpieczną formą tego w środowisku akademickim jest fałszywe przypisanie: sztuczna inteligencja generuje nazwisko autora, rok, czasopismo, a nawet DOI (cyfrowy identyfikator obiektu — stały adres publikacji), które wydaje się prawdziwe, ale takie źródło nigdy nie istniało. Jeśli badacz użyje tego bez sprawdzenia, wysuwa twierdzenie w oparciu o badanie, które nie istnieje; Prowadzi to do odrzucenia tezy, wycofania artykułu i utraty reputacji.
Drugim problemem jest zniekształcenie: podsumowując artykuł sztuczna inteligencja może wyolbrzymić wnioski, podsumowując badanie, w którym stwierdzono, że „nie było znaczącej różnicy” jako „wykryto znaczącą różnicę”. Trzeci to stronniczość: sztuczna inteligencja powtarza trendy w danych, na których jest szkolona; Może uwydatnić określoną szkołę, język lub punkt widzenia i sprawić, że literatura będzie wyglądać na zniekształconą.
Ze względu na te ograniczenia proponujemy prostą dyscyplinę walidacji do zastosowania do każdego wyniku:
- Podłącz go do źródła. Znajdź i zweryfikuj rzeczywiste źródło (artykuł, bazę danych, DOI) dla każdego faktu, daty, numeru, cytatu, a zwłaszcza każdego cytatu.
- Sprawdź ponownie. Ręcznie sprawdź wyjścia numeryczne lub logiczne (wynik statystyczny, przykładowe obliczenia).
- Filtr naukowy. „Czy to twierdzenie jest zgodne ze znaną literaturą w mojej dziedzinie?” poradzić sobie z tym, korzystając z własnej wiedzy.
- Weź odpowiedzialność. W chwili, gdy umieścisz je w swojej publikacji lub pracy magisterskiej, zdanie to będzie Twoje; Za wszelkie błędy odpowiadasz Ty.
Uczciwość i przejrzystość akademicka
Uczciwość akademicka gwarantuje, że praca jest naprawdę oryginalnym wkładem i że wszystkie źródła są cytowane uczciwie. Stosowanie sztucznej inteligencji nie eliminuje tej zasady, a raczej dodaje nową odpowiedzialność: przejrzystość. Większość czasopism i uniwersytetów wymaga obecnie wyraźnej deklaracji stosowania sztucznej inteligencji. Wspólna linia redakcyjna (przykładowo zasady organów ds. etyki publikacyjnej, takich jak ICMJE i COPE) mówi jasno dwie rzeczy: sztuczna inteligencja nie może być autorem (ponieważ nie może wziąć na siebie odpowiedzialności, nie może zgłosić konfliktu interesów), a wykorzystanie sztucznej inteligencji nie jest ukrywane, ale ujawniane w sekcji dotyczącej metody lub podziękowań.
Wskazówka: Przed wklejeniem tekstu do dowolnego narzędzia zadaj dwa pytania: (1) W jaki sposób to narzędzie przechowuje dane, czy jest wykorzystywane w edukacji? (2) Co mówi polityka AI mojej instytucji i czasopisma docelowego? Nie zaczynaj, nie znając tych dwóch.
trzy mini etui
Przypadek 1 — Sfabrykowana atrybucja zagroziła tezzie. Absolwent poprosił YZ o 12 źródeł do wprowadzenia do swojej pracy dyplomowej i otrzymał je wszystkie wraz z cytatami. Jego doradca losowo wyszukał 4 z nich w Google Scholar; 2 z nich w ogóle nie istniały, 1 z nich miał DOI przechodzący do innego artykułu. Uczeń musiał po kolei weryfikować całą listę i korzystał jedynie z 7 autentycznych źródeł. Weryfikacja trwała 40 minut; gdyby jednak został dostarczony z fikcyjnym odniesieniem, zaufanie ławy przysięgłych zostałoby całkowicie zachwiane.
Przypadek 2 – Oszczędność czasu. Pracownik naukowy ze stopniem doktora spędzał 6 godzin na skanowaniu i podsumowywaniu 15–20 nowych artykułów tygodniowo. Zaczął wykorzystywać sztuczną inteligencję jako swój pierwszy generator podsumowań: zlecił AI podsumowanie streszczenia i wprowadzenia każdego artykułu, pogłębienie go własną krytyczną lekturą i weryfikację wniosków z oryginalnego tekstu. Czas skrócono z 6 godzin tygodniowo do ~2,5 godziny; Zarobiony czas poświęcił pisaniu oryginalnych syntez.
Przypadek 3 — Powrót z ukrycia. Socjolog miał właśnie wkleić niepublikowane dane terenowe i zeznania uczestników do sztucznej inteligencji w celu analizy. Zdał sobie sprawę, że zawierał referencje; Zamiast udostępnić surowe dane, poprosił jedynie o anonimową, podsumowaną próbkę i plan analizy. Otrzymał cenne zalecenie dotyczące metody, ale nie wyciekły żadne wrażliwe dane.
Szablony do kopiowania
1) Podział zadania ze względu na poziom ryzyka:
Twoja rola: asystent akademicki pomagający badaczowi. Podziel następujące zadania badawcze na trzy listy: (A) zadania niskiego ryzyka, dla których sztuczna inteligencja może bezpiecznie wyprodukować manuskrypt, (B) zadania średniego ryzyka, dla których sztuczna inteligencja może wyprodukować manuskrypt i wymagają rygorystycznej weryfikacji, (C) zadania wysokiego ryzyka, w przypadku których ostateczna decyzja musi należeć do badacza. Do każdego zadania napisz jednozdaniowe uzasadnienie. Zadania: [wklej własne zadania]
2) Monit o sprawdzenie poprawności:
Zaznacz w poniższym tekście każde zdanie zawierające fakt, datę, liczbę, cytat lub atrybucję i oznacz je jako „wymaga weryfikacji”. Wyraźnie określ, gdzie nie jesteś pewien. NIE wymyślaj źródła ani numeru; Jeśli nie wiesz, napisz „nie wiem”. Tekst: [wklej wersję roboczą]
3) Projekt deklaracji stosowania AI:
W sekcji poświęconej metodom/podziękowaniom w artykule napisz wersję roboczą składającą się z 2–3 zdań „Oświadczenie o użyciu sztucznej inteligencji”, która w przejrzysty sposób wyjaśni, na jakich etapach korzystałem ze sztucznej inteligencji (np. korekta językowa, szkic wstępny). Zastosowanie: [wyjaśnij]
4) Lista weryfikacyjna źródła:
Wygeneruj arkusz kontrolny weryfikacji dla każdego źródła z poniższej listy cytatów: [autor, rok, tytuł, DOI, zweryfikowane?].Nie możesz zweryfikować; Daj mi pustą tabelę, którą ręcznie sprawdzę. Lista: [wklej cytaty]
Słaba zachęta/silna zachęta
Słaba zachęta:
Znajdź mi źródła wprowadzenia do mojej pracy dyplomowej.
Bez kontekstu i niebezpiecznie: sztuczna inteligencja wypluwa fałszywe dokumenty tożsamości, a Ty myślisz, że są prawdziwe.
Potężny monit:
Twoja rola: konsultant ds. metodologii. Lokalizacja: „Motywacja uczniów w kształceniu na odległość”. NIE ZNAJDŹ MI ŹRÓDŁA; Zamiast tego zasugeruj 8 słów kluczowych, 3 grupy synonimów i ciąg wyszukiwania typu Boole'a, aby wyszukać ten temat w Scopus. Prawdziwy tytuł artykułu FAŁSZYWY. Sprawdzę źródła, które sam znajdę.
Zadanie
Poziom ryzyka
Rola sztucznej inteligencji
ostateczna decyzja
Generowanie strategii wyszukiwania
niski
Sugeruje słowo kluczowe/ciąg
badacz
Projekt streszczenia artykułu
Niski-Średni
Generuje przeciąg
Badacz potwierdza
Zalecenia dotyczące testów statystycznych
średni
Zapewnia opcje
Badacz wybiera/potwierdza
Lista cytatów
wysoki
Asystent formatu
Każdy nadruk jest weryfikowany ręcznie
Znalezienie interpretacji/hipotezy
wysoki
daje pomysły
samotny badacz
Typowe błędy
- Używanie cytatów bez weryfikacji. Sfabrykowane atrybucje to najczęstszy i najbardziej niszczycielski błąd w środowisku akademickim; prowadzi do wycofania się.
- Zastąpienie źródła streszczeniem. Podsumowanie AI może zniekształcić ustalenia; Nie podaje się cytatu bez powrotu do tekstu oryginalnego.
- Pomijanie przezroczystości. Ukrywanie użycia stanowi naruszenie etyki w przypadku wykrycia.
- Pozwól AI podejmować decyzje naukowe. Decyzje dotyczące hipotez, interpretacji i metod należą do badacza.
- Przesyłanie poufnych danych do otwartego narzędzia. Niepublikowane dane i informacje o uczestnikach są poza Twoją kontrolą.
Wskazówka: Pomyśl o każdej sesji AI jak o pracy z doświadczonym, ale nierzetelnym stażystą: jest szybki i sumienny, ale przed podpisaniem weryfikujesz wszystko, co powie.
Podsumowując
Sztuczna inteligencja to potężny asystent, który odciąża badacza w związku z powtarzalnym czytaniem i pisaniem; ale z powodu halucynacji, zniekształceń i stronniczości każdy wynik wymaga weryfikacji. Najbardziej krytycznym ryzykiem w środowisku akademickim są fałszywe cytaty: każde źródło musi zostać zweryfikowane za pomocą DOI i bazy danych. Oddziel zadania według poziomu ryzyka, chroń dane, deklaruj wykorzystanie w przejrzysty sposób. Krótka zasada: projekt pochodzi od sztucznej inteligencji, odpowiedzialność naukowa spoczywa na badaczu.
Zadanie aplikacji
Wymień 8 zadań z Twojego obecnego projektu badawczego i oznacz każde z nich jako ryzyko niskie/średnie/wysokie. Następnie wybierz zadanie niskiego ryzyka i napisz monit z kontekstem, np. „Potężny monit” powyżej. Zaznacz na wyjściu przynajmniej 3 elementy (numer, nadruk, oświadczenie), które musisz zweryfikować i napisz, w jaki sposób będziesz to weryfikować.
lista kontrolna
- [ ] Czy rozdzieliłem zadania według poziomu ryzyka?
- [ ] Czy planuję weryfikować każdy cytat i liczyć go w wynikach AI?
- [ ] Czy znam politykę przechowywania danych pojazdu, z którego korzystam?
- [ ] Czy zapoznałem się z polityką AI mojej instytucji i czasopisma docelowego?
- [ ] Czy jestem pewien, że podtrzymuję ostateczną ocenę naukową?