Nyereség:
- Meg tudja különböztetni, hogy a mesterséges intelligencia hol takarít meg valós időt az akadémiai kutatási munkafolyamatban (irodalom, tervezés, elemzés, írás), és hol marad a tudományos megítélés és felelősség a kutatónál, a feladat kockázati szintjének megfelelően
- Egy olyan tudományág alkalmazásának képessége, amely minden mesterséges intelligencia-kimenetet a forráshoz kapcsol és ellenőrzi, és megérteni a hallucináció (kitalált) attribúció problémáját, amely az akadémia legkritikusabb kockázata.
- Képes olyan használati keretrendszer elfogadására, amely megfelel az intézményi és folyóiratok mesterséges intelligencia használatára vonatkozó irányelveinek, valamint a tudományos őszinteség és az átláthatóság elveinek.
A kutató munkája sokkal több írást, olvasást és szerkesztést foglal magában, mint amilyennek látszik: több száz cikk beszkennelése, összefoglalása, a kutatási kérdés csiszolása, módszerek tervezése, adatok elemzése, eredmények átírása, idézetek formázása, folyóiratok kiválasztása, lektori megjegyzésekre való reagálás. Ennek a munkának a nagy része ismétlődő, időigényes és elvonja a figyelmet; Lop abból, ami igazán értékes, az eredeti gondolkodásból és értelmezésből. A mesterséges intelligencia (AI) – olyan számítógépes programok, amelyek képesek megérteni az emberi nyelvet, és olyan kimeneteket produkálnak, mint például szöveg, összefoglaló, kód, piszkozatok stb. – hatékony segítség az ismétlődő teher felgyorsításában. Ebben a modulban az AI-t nem tekintjük varázslatos információforrásnak; Megtanuljuk használni kutatási asszisztensként, vázlatkészítésben, ötletadásban és szerkesztésben.
De a legelején fogalmazzuk meg a legfontosabb, az akadémiára jellemző mondatot: a mesterséges intelligencia nem hoz tudományos döntéseket a kutató helyett; elkészíti a tervezetet, a tudományos ítélet és a felelősség a kutatót illeti. A tudományos életben ez a szabály még szigorúbb, mint más szakmákban, mert a tudomány pénzneme a bizalom, és ennek az alapja, hogy minden állítás igazolható forráshoz kapcsolódik.
Ez az első egység három alapot hoz létre: megkülönbözteti, hol működik a mesterséges intelligencia, és hol kell maradnia a kutatási munkafolyamatban; minden kimenet ellenőrzése; A tudományos őszinteség és átláthatóság elvének elfogadása. Ez a három az összes további egység biztonsági alapja.
Hol takarít meg időt a mesterséges intelligencia, hol a kutatóé a döntés?
Segít a kutatási feladatok kockázati szinten való gondolkodásában. A kockázati szint az, hogy mennyi kárt okozna a tudományos nyilvántartásban, ha helytelenül hajtják végre.
Alacsony kockázatú feladatok, melyeket a mesterséges intelligencia nagyban felgyorsít: Keresési stratégia generálása (kulcsszó, szinonimák), egy hosszú szöveg kezdeti összefoglalása, egy bekezdés nyelvezetének egyszerűsítése, táblázatfejléc javaslata, ötletbörze, egy fogalom különböző módokon történő magyarázata, vázlat szerkezetének kidolgozása. Itt az AI megoldja az „üres oldal” problémát; kijavítod, igazolod és gazdagítod.
Közepes kockázatú, mesterséges intelligencia által előállított, szigorú ellenőrzést igénylő feladatok: Statisztikai tesztválasztási ajánlás, kódvázlat, hivatkozás formázása, lelet értelmezése vázlat, módszerlehetőségek összehasonlítása. Itt az AI sebességet ad, de minden számot, minden címkét, minden logikai lépést kézzel kell megerősíteni.
Magas kockázatú feladatok, ahol a döntést kizárólag a kutatóra bízzák: a hipotézis és a módszer végleges meghatározása, az adatok jelentésének eldöntése, egy megállapítás értelmességének megítélése, az etikai bizottságon belüli döntések, annak eldöntése, hogy a forrás valóban létezik-e és alátámasztja-e az állítást, a szerzői nyilatkozat és a hozzájárulás. Ezek a döntések határozzák meg a tudományos nyilvántartás megbízhatóságát; A felelősség és a végső szó mindig a kutatóé.
Vigyázat: „Az AI azt mondta” nem indoklás. A folyóirat szerkesztője vagy a szakdolgozat zsűrije nem fogadja el azt a kijelentést, hogy "az én modellem készítette így". Az ellenőrizetlen AI-kimenet olyan, mint egy ellenőrizetlen pletyka.
Miért szükséges az ellenőrzés? Hallucináció és koholt attribúció
A mesterséges intelligencia nem úgy állít elő szöveget, hogy „tudja”, hanem „megjósolja a lehetséges szót”. Ezért néha rendkívül gördülékeny, de valójában helytelen információkat ad. Ezt nevezik hallucinációnak (kitalációnak). Ennek legveszélyesebb formája a tudományos életben a hamis attribúció: az AI létrehoz egy szerzőnevet, évet, folyóiratot vagy akár DOI-t (digitális objektumazonosító – egy publikáció állandó címe), amely valósnak tűnik, de ez a forrás soha nem létezett. Ha a kutató ezt ellenőrzés nélkül használja, akkor egy nem létező tanulmány alapján állítja az állítást; Ez a tézis elutasításához, a cikk visszavonásához és a hírnév elvesztéséhez vezet.
A második probléma a torzítás: egy tanulmány összefoglalásakor az MI eltúlozhat egy megállapítást, egy olyan tanulmányt összefoglalva, amely szerint "nem volt szignifikáns különbség", mivel "szignifikáns különbséget találtak". A harmadik az elfogultság: a mesterséges intelligencia megismétli a trendeket a betanított adatokban; Egy bizonyos iskolát, nyelvet vagy nézőpontot kiemelhet, és az irodalom eltorzultnak tűnik.
Ezen korlátok miatt egy egyszerű érvényesítési szabályt javasolunk minden kimenetre:
- Csatlakoztassa a forráshoz. Keresse meg és ellenőrizze a tényleges forrást (cikk, adatbázis, DOI) minden tényhez, dátumhoz, számhoz, idézethez és különösen minden idézethez.
- Ellenőrizze újra. Manuálisan ellenőrizze a numerikus vagy logikai kimeneteket (statisztikai eredmény, mintaszámítás).
- Tudományos szűrő. „Összhangban van ez az állítás a szakterületemen ismert szakirodalommal?” kezelje saját szakértelmével.
- Vállalj felelősséget. Abban a pillanatban, amikor felveszi publikációjába vagy szakdolgozatába, ez a mondat a tiéd; Minden hiba a te felelősséged.
Akadémiai őszinteség és átláthatóság
Az akadémiai feddhetetlenség biztosítja, hogy a munka valóban az Ön eredeti hozzájárulása, és hogy minden forrást őszintén hivatkozzanak. A mesterséges intelligencia használata nem szünteti meg ezt az elvet, hanem egy új felelősséget ad hozzá: az átláthatóságot. A legtöbb folyóirat és egyetem ma már kifejezett nyilatkozatot követel meg az AI használatáról. A közös szerkesztői irányvonal (például a publikációs etikai testületek, mint az ICMJE és a COPE alapelvei) két dolgot mond egyértelműen: a mesterséges intelligencia nem lehet a szerző (mert nem vállalhat felelősséget, nem jelenthet ki összeférhetetlenséget), és az AI használata nem rejtett, hanem a módszer vagy a köszönetnyilvánítás rovatban fel van tüntetve.
Tipp: Mielőtt szöveget illeszt be bármilyen eszközbe, tegyél fel két kérdést: (1) Hogyan tárolja az eszköz az adatokat, használják az oktatásban? (2) Mit mond az intézményem és a célfolyóirat AI szabályzata? Ne kezdje el a kettő ismerete nélkül.
három mini tok
1. eset – A kitalált hozzárendelés megsértette a tézist. Egy végzős hallgató 12 forrást kért YZ-től a szakdolgozat bevezetőjéhez, és mindegyiket megkapta az idézettel együtt. Tanácsadója véletlenszerűen négyet keresett a Google Tudósban; Közülük 2 egyáltalán nem létezett, 1-nek DOI-ja volt egy másik cikkhez. A hallgatónak egyenként kellett ellenőriznie a teljes listát, és csak 7 hiteles forrást használt fel. Az ellenőrzés 40 percig tartott; de ha fiktív utalással szállították volna, akkor a zsűri bizalma teljesen megrendült volna.
2. eset – Időmegtakarítás. Egy posztdoktori kutató 6 órát töltött hetente 15-20 új cikk szkennelésével és összefoglalásával. Első összefoglaló generátoraként kezdett mesterséges intelligenciát használni: a mesterséges intelligencia összefoglalta az egyes cikkek absztraktját és bevezetését, saját kritikai olvasatával elmélyítette azt, és ellenőrizte az eredeti szövegből származó megállapításokat. Az idő heti 6 óráról ~2,5 órára csökkent; Megkeresett idejét eredeti szintézisek megírására fordította.
3. eset – Visszatérés a lopakodásból. Egy társadalomtudós nem publikált terepi adatokat és résztvevők tanúvallomásait akarta beilleszteni az AI-ba elemzés céljából. Rájött, hogy hitelesítő adatokat tartalmaz; A nyers adatok megosztása helyett csak egy anonimizált, összesített minta- és elemzési tervet kért. Értékes módszerajánlatot kapott, de nem került ki érzékeny adat.
Másolható sablonok
1) A feladat szétválasztása kockázati szint szerint:
Az Ön szerepköre: kutatót segítő akadémiai asszisztens. Osszuk három listára a következő kutatási feladatokat: (A) alacsony kockázatú feladatok, amelyekhez az MI biztonságosan készíthet kéziratot, (B) közepes kockázatú feladatok, amelyekhez az MI kéziratot készíthet, és szigorú ellenőrzést igényel, (C) magas kockázatú feladatok, amelyekről a végső döntést a kutatónak kell meghoznia. Minden feladathoz írjon egy mondatos indoklást! Küldetések: [saját küldetések beillesztése]
2) Érvényesítési ellenőrzés:
Jelölje meg az alábbi szövegben minden olyan mondatot, amely tényt, dátumot, számot, idézetet vagy forrásmegjelölést tartalmaz, és jelölje meg "ellenőrzésre szorul"-ként. Mondja ki egyértelműen, hol bizonytalan. NE találja ki a forrást vagy a számot; Ha nem tudja, írja be, hogy "nem tudom". Szöveg: [piszkozat beillesztése]
3) A mesterséges intelligencia használatára vonatkozó nyilatkozat tervezete:
Egy cikk módszerei/köszönetnyilvánítási részéhez írjon egy 2-3 mondatos "AI használati nyilatkozat" vázlatot, amely átláthatóan elmagyarázza, hogy milyen szakaszokban használtam az AI-t (pl. nyelvi javítás, vázlatvázlat). Használat: [magyarázza]
4) Forrás-ellenőrző lista:
Hozzon létre egy ellenőrző lapot a következő hivatkozási listában szereplő minden egyes forráshoz: [szerző, év, cím, DOI, ellenőrzött?]. Nem tudja ellenőrizni; Adjon egy üres táblázatot, amelyet manuálisan ellenőrizni fogok. Lista: [hivatkozások beillesztése]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Keressen forrásokat szakdolgozatom bevezetéséhez.
Kontextus nélkül és veszélyes: a mesterséges intelligencia hamis azonosítókat köp ki, és Ön azt hiszi, hogy valódiak.
Erőteljes felszólítás:
Az Ön szerepe: módszertani tanácsadó. Helyszín: „diákmotiváció a távoktatásban”. NE TALÁLJ FORRÁST; Ehelyett javasoljon 8 kulcsszót, 3 szinonimacsoportot és egy logikai keresési karakterláncot a téma kereséséhez a Scopusban. Valódi cikk a FAKE sortól. Ellenőrizni fogom magam a forrásokat, amelyeket találtam.
Quest
Kockázati szint
Az AI szerepe
végső döntést
Keresési stratégia létrehozása
alacsony
Kulcsszót/karakterláncot javasol
kutató
Cikk absztrakt tervezet
Alacsony-közepes
Piszkozatot generál
A kutató megerősíti
Statisztikai teszt ajánlás
közepes
Lehetőségeket biztosít
A kutató kiválaszt/megerősít
Idézetlista
magas
Formázási segéd
Minden lenyomatot kézzel ellenőriznek
Értelmezés/hipotézis megtalálása
magas
ötleteket ad
magányos kutató
Gyakori hibák
- Hivatkozások használata ellenőrzés nélkül. A kitalált attribúció a leggyakoribb és legpusztítóbb hiba a tudományos életben; elvonáshoz vezet.
- Az összefoglaló helyettesítése a forrással. Az AI-összefoglaló torzíthatja a leletet; Az eredeti szöveghez való visszatérés nélkül nem lehet idézni.
- Az átlátszóság kihagyása. A használat eltitkolása etikai vétséget jelent, ha felfedezik.
- Hagyja, hogy az AI hozzon tudományos döntéseket. A hipotézisek, értelmezések és módszerekkel kapcsolatos döntések a kutatóé.
- Bizalmas adatok feltöltése a megnyitó eszközbe. A közzé nem tett adatok és a résztvevők információi az Ön ellenőrzésén kívül esnek.
Tipp: Gondoljon minden mesterséges intelligencia munkamenetre úgy, mintha egy tapasztalt, de megbízhatatlan gyakornokkal dolgozna: gyors és szorgalmas, de Ön mindent ellenőriz, amit mond, mielőtt aláírja.
Összefoglalva
Az AI egy hatékony asszisztens, amely megkönnyíti a kutató ismétlődő olvasási és írási terheit; de a hallucináció, a torzítás és a torzítás miatt minden kimenet ellenőrzést igényel. A tudományos életben a legkritikusabb kockázat a hamis hivatkozás: minden forrást ellenőrizni kell a DOI-n és az adatbázison keresztül. A feladatok kockázati szint szerinti szétválasztása, adatok védelme, a felhasználás átlátható deklarálása. A legrövidebb ökölszabály: a terv az MI-től származik, a tudományos felelősség a kutatóé.
Pályázati feladat
Soroljon fel 8 feladatot saját jelenlegi kutatási projektjéből, és mindegyiket jelölje alacsony/közepes/magas kockázatúként. Ezután válasszon egy alacsony kockázatú feladatot, és írjon egy promptot a kontextussal, például a fenti „Erőteljes prompt” kifejezést. Jelöljön meg legalább 3 olyan elemet (szám, impresszum, állítás), amelyet ellenőriznie kell a kimenetben, és írja le, hogyan fogja ellenőrizni.
ellenőrző lista
- [ ] Elválasztottam a feladatokat kockázati szint szerint?
- [ ] Tervezek minden idézetet ellenőrizni és beleszámítani az AI-kimenetbe?
- [ ] Ismerem az általam használt jármű adatmegőrzési szabályzatát?
- [ ] Elolvastam az intézményem és a céllapom AI szabályzatát?
- [ ] Biztos vagyok benne, hogy megtartom a végső tudományos ítéletet?