Nyereség:
- Képes a fizikában hallucinációs formák felismerésére (álkonstans, áltörvény, mértékegységhiba, rossz eredmény, hamis attribúció) és a megfelelő módszerrel elkapni.
- Képes a nem publikált, bizalmas és személyes adatok anonimizálással és minimalizálással történő védelmére azáltal, hogy nem kerül illetéktelen eszközökbe
- Megérteni, hogy a végső felelősség az embert terheli, az adatok őszintén, szépítés nélkül történő bejelentésével és a mesterséges intelligencia használatának átlátható dokumentálásával.
Ebben a modulban minden egységben ugyanazt a tudományágat fedtük le: a mesterséges intelligencia (AI) felgyorsul, az emberek ellenőrzik. Ebben az utolsó részben ezt a teljes verifikációs gyakorlatot a tudományos integritás, a fizikai tudomány legalapvetőbb értékének égisze alá hozzuk össze. A fizika a természetről igazolható ismeretek előállítására való törekvés; Ennek a törekvésnek a középpontjában az integritás, az ismételhetőség és a felelősség áll. A mesterséges intelligencia felhasználható ezeknek az értékeknek a megerősítésére, de ha helytelenül használják, mindegyiket fenyegeti. Ebben az egységben megvitatjuk a hallucináció fizikai formáit, az adat- és adatvédelmi felelősséget, az etikai határokat, és azt, hogy miért marad a végső felelősség mindig az embereknél.
A hallucináció formái a fizikában
A hallucináció – a mesterséges intelligencia magabiztos hamis információtermelése – egyedi és veszélyes formákat ölt a fizikában. Ezek felismerése az első lépés az elkapáshoz:
a hallucináció típusa
példa
Rögzítési módszer
Illesztés fix/adat
Nem megfelelő anyagsűrűség
Megerősítés megbízható referenciával
Hamis képlet/törvény
Nem létező "elv" név
Tankönyv/SymPy levezetés
Egység/rendelés hiba
összetéveszti az eV-t J-vel
Méretelemzés, egységvezérlés
Helytelen számszerű eredmény
Nem megfelelő kódkiadás
Futtassa a kódot
apokrif tulajdonítás
nem létező cikk
Ellenőrzés DOI-val
Rosszul közölt eredmény
A valódi cikk torzítása
Olvasd el az eredeti forrást
A közös szál a következő: egy nagy nyelvi modellt arra terveztek, hogy ne mondjon igazat, hanem hogy "lehetségesnek tűnő szöveget" állítson elő. A fizikában a „lehetségesnek tűnő” és az „igaz” közötti különbség éppen a tudomány létezésének oka.
Adatvédelmi, magánéleti és szellemi tulajdonjogi felelősség
A fizikusok gyakran kényes adatokkal dolgoznak: nem publikált kísérleti adatokkal, szabadalom előtti tervekkel, ipari együttműködésekből származó bizalmas mérésekkel, személyes egészségügyi vagy biztonsági adatokat tartalmazó kutatásokkal. Az ilyen adatok bevitele egy általános mesterséges intelligencia eszközbe harmadik felek és esetleg a modell betanítási adatai számára is hozzáférhetővé teheti azokat – ami egyszerre jelentené a titoktartási kötelezettség megsértését és a tudományos prioritás (az első felfedezés jogának) elvesztését. A szabály egyértelmű: ne írjon be közzé nem tett, bizalmas vagy személyes adatokat olyan mesterségesintelligencia-eszközbe, amelyet szervezete nem hagyott jóvá. Ha belép, anonimizálja, minimalizálja (csak azt adja meg, ami szükséges) és olvassa el az eszköz adatfeltételeit.
Vigyázat: Visszafordíthatatlan hiba lehet, ha egy laboratórium nem publikált méréseit vagy egy vállalat bizalmas tervezési paramétereit beírja egy mesterséges intelligencia eszközbe „gyors elemzés céljából”. Az adatok megosztása után nem hívhatók vissza. Ha kétségei vannak, ne adjon meg adatokat; Először tisztázza intézménye szabályzatát és az eszköz adatvédelmi feltételeit.
Etikai határok és tudományos integritás
A felhasználás technikailag lehetséges, sőt legális is lehet, de etikátlan. A fizikában több piros vonal is érinti a tudományos integritást:
Adatgyártás vagy díszítés. Adatcsalásnak számít, ha arra kérik az AI-t, hogy „hozzon létre jobban illeszkedő pontokat” vagy „tegye meggyőzőbbnek a grafikont”. Az adatokat úgy jelentik, ahogy vannak; A kiugró értékeket csak dokumentált, jogos indokkal szüntetik meg.
A hozzájárulás átláthatósága. Ha MI-t használt egy tanulmányban – kódírásban, nyelvi javításban, elemzésben –, akkor tisztességes, ha ezt a megfelelő helyen tisztázza. Sok folyóirat és intézmény megköveteli ezt.
Szerzőség és felelősség. A mesterséges intelligencia nem író; nem vállal felelősséget a mű tartalmáért. A felelősség mindig az emberi íróké. A mesterséges intelligencia által okozott hibát nem lehet kivédeni azzal, hogy „a jármű megcsinálta”.
Reprodukálhatóság. A tudományos eredmény megköveteli, hogy a módszert (beleértve a használt kódot, paramétereket, mesterséges intelligencia utasításokat) egyértelműen dokumentálják, hogy mások megismételhessék.
három mini tok
1. eset – Bizalmas adatszivárgás. Egy kutató egy céggel kötött titoktartási megállapodás mérési adatait illesztette be egy általános mesterséges intelligencia-eszközbe „egy gyors grafikon elkészítéséhez”. Később rájött, hogy ez az eszköz képes bemeneteket tárolni. Szerződésszegés és esetleges elsőbbségvesztés történt. Tanulság: bizalmas adatokat soha nem adunk meg jóváhagyatlan eszközbe.
2. eset – Szépítő nyomat. Egy diák olyan szerkesztést kért az AI-tól, amely "az adatokat közelebb hozza az elmélethez", mert a kísérleti adatok nem egyeztek meg teljesen az elmélettel. Tanácsadója észrevette ezt, és megállította: az eltérés vagy szisztematikus hibát jelentett a kísérletben, vagy érdekes új fizikát – valami nem rejtett, hanem vizsgálandó. Az adatokat őszintén közölték, és szisztematikus hibát találtak.
3. eset – Átláthatóság. Az egyik csapat mesterséges intelligencia segítségével megírta egy dolgozat adatelemzési kódját, és ezt egyértelműen kifejtette a módszerek részben; megosztotta a kódot és a kéréseket további fájlként. A játékvezető áttekintette a kódot, és kisebb javítást javasolt. Az átláthatóság a közzététel előtt észlelte a hibát, és növelte a tanulmány hitelességét.
Négy másolható sablon
1) Hallucinációs szűrés:
Vizsgálja meg a következő fizikai kimenetet hallucinációkra: vannak-e hamis állandók, hamis képlet-/törvénynevek, mértékegység-/sorrendi hibák, ellenőrizetlen numerikus eredmények és meg nem erősített attribúciók? Jelöljön meg minden gyanús elemet, és adja meg az ellenőrzés módját (hivatkozás, kód, DOI). Kimenet: [itt]
2) Adatvédelmi előzetes ellenőrzés:
Értékelje a következő adatokat/szövegeket, mielőtt beírná őket egy mesterséges intelligencia eszközbe: tartalmaz-e nem publikált, bizalmas, személyes vagy szerződéses védelmet biztosító információkat? Ha igen, javasolja, hogyan tudom anonimizálni vagy minimalizálni. Ha nem biztos benne, mondja azt, hogy "ellenőrizze a vállalati szabályzatot". Tartalom: [itt]
3) Átláthatósági/hozzájárulási nyilatkozat tervezete:
Egy tanulmányban az AI-t a következőkre használtam: [kódolás / nyelvi javítás / elemzés stb.]. Írjon egy rövid vázlatot "AI használatáról szóló nyilatkozat", amely ezt őszintén dokumentálja. Azt is jeleznie kell, hogy mely alkatrészeket ellenőrizték az emberek.
4) A tudományos integritás biztosítása:
Végezzen integritás-ellenőrzést a következő elemzéshez/eredményhez: az adatok a jelenlegi állapotukban jelentek meg (nem díszítenek), jelentenek-e bizonytalanságok, reprodukálható módon dokumentálták-e a módszert, átlátható-e a mesterséges intelligencia használata? Sorolja fel az esetleges hiányosságokat. Tartalom: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge: "Szerkessze a hozamot, hogy jobban illeszkedjen az elmélethez, és hogy a grafikon meggyőző legyen."
Eredmény: adatcsalás; A tudományos integritás közvetlen megsértése, a hírnév visszafordíthatatlan elvesztése.
Erős: "A hozam nem egyezik teljesen az elmélettel. Segítsen elemezni ennek az eltérésnek a lehetséges okait (szisztematikus hiba, statisztikai ingadozás, hiányzó modell vagy új hatás); javasolja, hogyan jelentsem be őszintén az eltérést az adatok megváltoztatása nélkül."
Eredmény: A tudományos integritás őszinte, oknyomozó és hűséges megközelítése; A konfliktus a felfedezés lehetőségévé válik.
Gyakori hibák
- A hallucináció összekeverése az önbizalommal. Csak azért, mert az AI magabiztosan beszél, még nem garancia a pontosságra; Még a legpontosabb mondat is kitalálható.
- Bizalmas adatok bevitele a járműbe jóváhagyás nélkül. A megosztás után az adatok nem kérhetők le; Az elsőbbség és a titoktartás elvész.
- Szépítő adatok. Az adatok "illesztési elméletre" való módosítása az egyik legsúlyosabb tudományos bűncselekmény.
- Az AI használatának elrejtése. Az átláthatóság az őszinteség követelménye, és sok intézményben kötelező.
- A felelősséget a járműre hárítani. „Az AI megcsinálta” nem védekezés; A végső felelősség mindig az embert terheli.
Tipp: Minden mesterséges intelligenciával hajtott tanulmány végén tegyél fel magadnak három kérdést: (1) Minden tényt, számot és attribútumot ebben a kimenetben függetlenül ellenőriztek? (2) Tartalmaztak-e az általam használt adatok bizalmas/személyes információkat, amelyeket nem szabad megadnom? (3) Elég átláthatóan dokumentáltam a mesterséges intelligencia használatát és módszertanát ahhoz, hogy valaki más lemásolhassa? Ha erre a három kérdésre nem tud egyértelműen „igen” választ adni, akkor a tanulmány még nem fejeződött be.
Összefoglalva
A tudományos integritás a fizika létezésének alapja, és még fontosabb a mesterséges intelligencia korában. A hallucináció hamis állandók, hamis törvények, egységhibák, hamis következtetések és hamis hivatkozások formájában jelenik meg a fizikában; mindegyiket saját egyedi ellenőrzési módszerrel rögzítik. A bizalmas és személyes adatok nem kerülnek illetéktelen eszközökbe; az adatok soha nem szépülnek meg; Az AI használata átláthatóan dokumentált; és a végső felelősség mindig az embert terheli. Csak egy tudományágat tanulhatsz meg ebben a modulban: az AI egy erőteljes gyorsító, de az ellenőrzés, az integritás és a felelősség a hozzáértő fizikus – azaz Ön – vállán nyugszik. A nem ellenőrzött mesterséges intelligencia kimenet soha nem helyettesíti a fizikus megerősítését.
Pályázati feladat
Válasszon ki egy AI kimenetet (fiókot, elemzést vagy szöveget), amelyet ebben a modulban készített. 1. Szűrje ki a hallucinációkat sablonnal: vannak álkonstansok, hamis képletek, egységhibák vagy ellenőrizetlen hozzárendelések? A 2. sablonnal értékelje ki, hogy az Ön által használt adatok adatvédelmi szempontból megfelelőek-e. Végül készítsen egy rövid AI használati/átláthatósági nyilatkozatot 3. sablonnal. Írja le 5-6 mondatban: mit tárt fel a vizsgálat, milyen ellenőrzési lépéseket tett?
ellenőrző lista
- [ ] A kimenetben minden állandót, képletet és eredményt függetlenül ellenőriztem.
- [ ] Minden idézetet ellenőriztem a DOI-val/forrással.
- [ ] Ellenőriztem, hogy nem adtam-e meg bizalmas/személyes adatokat az eszközbe jóváhagyás nélkül.
- [ ] Az adatokat úgy, ahogy vannak, szépítés nélkül közöltem.
- [ ] Átlátható és reprodukálható módon dokumentáltam az AI-használatomat.
- [ ] Elfogadtam, hogy a végső felelősség az enyém; Nem tulajdonítottam hibát a járműnek.
Modul vizsga
1. Az alábbiak közül melyik a legpontosabb helymeghatározás a mesterséges intelligencia számára a fizikában?
- A) A mesterséges intelligencia kód-, vázlat- és szerkesztősegéd; Az egységért, a rangért, az ellenőrzésért és az etikai döntésekért a felelősség az embert terheli ✔
- B) A mesterséges intelligencia egy számológép, és az általa adott numerikus eredmények mindig pontosak
- C) A mesterséges intelligencia csak számításban működik, semmi köze a kísérletelemzéshez és a tanításhoz
- D) Mivel a mesterséges intelligencia pártatlanabb, mint az ember, az egységekre és az eredményekre vonatkozó döntéseket rá kell bízni.
Leírás: Mesterséges intelligencia; Ez egy asszisztens, aki kódot ír, vázlatokat készít, származtatási keretrendszereket hoz létre és szervez. Az eredmény mértékegység- és sorrendellenőrzésének, annak megőrzési törvényekkel, állandó és referencia-megerősítésnek a végső felelőssége azonban az illetékes fizikust illeti. A nagy nyelvi modell nem számológép vagy fizikai motor; egy szöveggenerátor, amely a „következő legvalószínűbb szót” állítja elő, és ennek ellenőrizetlen kimenete helytelen értékhez, kialakításhoz vagy eredményhez vezethet.
2. Mi a legpontosabb közelítés egy nagy nyelvi modellbe nyomtatott számítási kód numerikus eredményére?
- A) A számban bízva a modell azt mondja, hogy „ez a kód ezt adja”, mert ő írta a kódot
- B) Futtassa saját maga a kódot, és nézze meg a kimenetet; ✔ nem támaszkodik a modell verbális numerikus előrejelzésére
- C) Elfogadjuk a kódot helyesnek, ha megnézzük, hogyan olvasható, anélkül, hogy futtatnánk
- D) Ha az eredményt ismét közvetlenül a modellnek kérdezzük, és ugyanazt a számot mondja, akkor helyesnek tekintjük.
Magyarázat: Előfordulhat, hogy egy LLM „kiszámolja” a fejében írt kód kimenetét, és rossz számot ad vissza; míg ha ugyanazt a kódot futtatják, az a helyes eredményt adja. Ami determinisztikus, az a végrehajtott kód; Ez nem a modell verbális előrejelzése. Ezért a kódot mindig a saját környezetben kell futtatni, és a kimenetet látni kell.
3. Mi a leghatékonyabb módszer annak tesztelésére, hogy egy súrlódásmentes dinamikus rendszer szimulációja pontosan tükrözi-e a fizikát?
- A) Látva, hogy a diagram vizuálisan szépnek és meggyőzőnek tűnik
- B) A szimuláció futtatása egyetlen időlépéssel, és bízva az eredményben
- C) A megőrzendő mennyiség, például az összenergia vagy a lendület figyelése, és annak ellenőrzése, hogy állandó marad-e ✔
- D) A szimuláció kiértékelése a futási sebesség alapján
Magyarázat: Egy súrlódásmentes rendszerben meg kell őrizni a teljes energiát (és a lendületet, ha van ilyen). Ha ezt a nagyságot a szimuláció során végig figyeljük, és megnézzük, hogy állandó marad-e, számszerű hibákra derül fény (pl. a primitív Euler-módszer, amely folyamatosan növeli az energiát). Ha az energia sodródik, a szimuláció megbízhatatlan; Az, hogy szép grafikát produkál, még nem jelenti azt, hogy helyes.
4. Az alábbiak közül melyik a helyes megközelítés egy modell kísérleti adatokhoz való illesztése során?
- A) Az adatokhoz legjobban illeszkedő magasabb fokú polinom kiválasztása, mert minden ponton áthalad
- B) A paraméterek egyetlen számként történő megadása kétértelműség nélkül
- C) Az illeszkedés minőségének deklarálása egyszerűen azáltal, hogy megnézi, milyen szép a görbe.
- D) A modell kiválasztása a fizikából, a paraméterek jelentése a bizonytalanságukkal és az illeszkedés értékelése a maradékokkal ✔
Magyarázat: A modellt a fizikai törvény alapján kell kiválasztani, amelynek az eseménynek engedelmeskednie kell, nem pedig úgy, hogy az adatokat nézi, és azon töpreng, hogy „melyik illik a legjobban”. Elegendő szabad paraméterrel (pl. nagyfokú polinom) bármilyen adathoz "tökéletes", de fizikailag értelmetlen illeszkedés (overfit) készíthető. A paramétereket bizonytalanságukkal együtt kell jelenteni, az illeszkedés minőségét maradékokkal kell értékelni, és ellenőrizni kell a fizikai elfogadhatóságot.
5. A mérések többszöri megismétlése melyik típusú bizonytalanságot csökkenti?
- A) Véletlenszerű bizonytalanság; a szisztematikus bizonytalanság nem csökken az ismétléssel, az okot meg kell találni és ki kell javítani ✔
- B) Szisztematikus bizonytalanság; mert kiküszöböli az újrakalibrálási hibát
- C) Teljesen kiküszöböli mindkét kétértelműséget
- D) egyiket sem csökkenti; a bizonytalanság független a mérések számától
Magyarázat: Az ismételt mérés csökkenti az eredmények véletlenszerű eloszlásából eredő véletlenszerű bizonytalanságot (az átlagos std/√N standard hibájával). A szisztematikus bizonytalanság viszont olyan hiba, amely mindig ugyanabba az irányba tér el (például rosszul kalibrált mérleg), és nem csökken az ismétléssel; Az ok azonban megtalálható és kijavítható. A „nagyon kicsi” bizonytalanság több méréssel történő jelentése elrejtheti a mögöttes szisztematikus hibát.
6. Mi a legmegbízhatóbb független módszer az AI által levezetett hibaterjedési képlet ellenőrzésére?
- A) A képletre támaszkodva, hogy folyékonynak és meggyőzőnek tűnjön
- B) Keresztellenőrzés Monte Carlo számítással, amely véletlenszerűen mintát vesz a bemenetek bizonytalanságával ✔
- C) Ugyanazt a képletet újra megkérdezni a mesterséges intelligenciától, és elvárni, hogy ugyanazt az eredményt adja
- D) A bizonytalanságok közvetlen összegyűjtése és összehasonlítása az eredménnyel
Magyarázat: Az AI gyakran keveri a részleges derivált együtthatókat és a négyzetgyök-struktúrát a hibaterjedési képletekben. Egy hatékony módszer ennek önálló elérésére a Monte Carlo keresztellenőrzés: véletlenszerűen mintavételez minden bemenetet a bizonytalanságával, a függvény több ezerszeres kiszámítását, és a kimenet szórásának összehasonlítását a képlet által megadott bizonytalansággal. Két független módszer találkozása növeli az önbizalmat.
7. Mi a helyes munkamegosztás az AI és a SymPy között a szimbolikus fizika hosszú levezetésében?
- A) A SymPy generálja a levezetés ötletét, az AI pontosan ellenőrzi az egyes lépéseket
- B) Mindkettő szükségtelen; a hosszú levezetéseket csak manuálisan szabad elvégezni
- C) A mesterséges intelligencia felépíti a levezetés keretrendszerét, a SymPy pontosan ellenőrzi az egyes algebrai lépéseket ✔
- D) A mesterséges intelligencia önállóan elvégzi a levezetést, nincs szükség ellenőrzésre, mert gördülékenynek tűnik
Magyarázat: A mesterséges intelligencia kidolgozza a levezetést és megmagyarázza az utat, de a hosszú algebrában előjelhibákat, kihagyott kifejezéseket és helytelen egyszerűsítéseket alkalmaz. A SymPy viszont szabályok szerint működik, és pontosan ellenőrzi az egyes algebrai lépéseket. A leghatékonyabb munkafolyamat a kettőt ötvözi: szerezze be a vázat az AI-ból, forrásozza le az egyes lépéseket a SymPy segítségével, tesztelje az eredményt a derivált-integrál inverzével és a határesettel.
8. Mit mond a dimenzióanalízis a fizikai képlet pontosságáról?
- A) A dimenzióanalízis mindig határozottan bizonyítja, hogy egy képlet helyes
- B) A dimenzióelemzésnek nincs gyakorlati értéke a fizikában
- C) A dimenzióanalízis csak a képlet állandó tényezőjét adja meg, konzisztenciáját nem
- D) Abszolút rossz az a képlet, amelyik nem tart dimenziót; A méretelemzés számok számlálása nélkül észleli a hibát ✔
Magyarázat: A fizikai egyenlet két oldalának méretben egyenlőnek kell lennie, mielőtt számszerűen egyenlőek lennének. Egy képlet, amely nem tartja meg a dimenziót, egyszerűen rossz; ezt rögzítjük a számlálási számításból. A dimenzióanalízis nem bizonyítja végérvényesen, hogy egy képlet helyes (elhagyhat egy dimenzió nélküli állandó tényezőt vagy szöget), de végérvényesen bizonyítja, hogy helytelen; így ez minden fiók első és legolcsóbb ellenőrzése.
9. Mi a legkritikusabb első lépés egy 36 km/h sebességgel haladó tárgy kinetikus energiájának kiszámításakor?
- A) Minden bemenet átalakítása egyetlen mértékegységrendszerré (SI); 36 km/h sebesség átalakítása 10 m/s-ra ✔
- B) A sebesség km/h-ban kifejezett beírása közvetlenül a képletbe anélkül, hogy m/s-ra konvertálná
- C) Csak számok szorzása az egységek figyelembevétele nélkül
- D) Feltéve, hogy az eredmény kiszámítása után nincs szükség a sorrend ellenőrzésére
Magyarázat: Az SI alapú képletek (E = ½mv²) m/s-ban várják a sebességet. A km/h és a m vagy az órák összekeverése a másodpercekkel a számítás során az egyik leggyakoribb hiba a fizikában. Először az összes bemenetet egyetlen mértékegységrendszerré (SI) kell átalakítani: 36 km/h = 10 m/s. Mivel a mesterséges intelligencia néma hibákat követhet el az összetett mértékegység-konverziók során, ezt az átalakítást manuálisan vagy egy egységtudatos eszközzel kell ellenőrizni.
10. Melyik gyakorlat helyes az „őszinteség” szempontjából egy tudományos grafikonon?
- A) A bizonytalanság elrejtése, mert a hibasávok összezavarják a diagramot
- B) Jelölje meg a tengelyeket mértékegységekkel, válassza ki a skálát torzítás nélkül, és mutassa meg a bizonytalanságot hibasávokkal ✔
- C) Mindig abban a tartományban kezdje az y tengelyt, amelyik a legdrámaibb különbséget fogja mutatni
- D) Hagyja a tengelyeket mértékegységek nélkül, mert az olvasó kitalálhatja az egységet
Leírás: Őszinte tudományos táblázat; a tengelyeket nagyságrenddel és mértékegységgel jelöli meg, a léptéket tudatosan és torzítás nélkül választja (az y tengely nulláról való indítása túlzás miatt félrevezető), a mérési bizonytalanságot hibasávokkal teszi láthatóvá. A bizonytalanság elrejtésével az adatok biztosnak tűnnek, és az elfogultság vagy az egyetértés hamis benyomását keltik. Minél meggyőzőbb egy grafika, annál fontosabb az integritás-ellenőrzés.
11. Mi a legnagyobb kockázat és a helyes fegyelem, amikor a mesterséges intelligencia szakirodalmi és hivatkozási támogatást kap?
- A) A mesterséges intelligencia időt veszít, mert nagyon lassan állít elő idézeteket
- B) A mesterséges intelligencia által javasolt források mindig valósak, nincs szükség igazolásra
- C) A mesterséges intelligencia valósnak látszó, de nem létező attribútumokat képes előállítani; Minden hivatkozást ellenőrizni kell a DOI-val/forrással, és a szakirodalmat az aktuális adatbázisból kell kikeresni ✔
- D) A kitalált idézetek könnyen felismerhetők, mert mindig valótlan folyóiratneveket használnak
Magyarázat: Egy nagy nyelvi modell nem kapcsolódik tényleges adatbázishoz; Az idézési minták utánzásával olyan cikkeket tud készíteni, amelyek a folyóirat valódi nevét, hiteles szerzőket és ésszerű évszámot viselik, de teljesen nem léteznek. Ezért a szakirodalmat valódi adatbázisokból kell keresni, a mesterséges intelligenciát csak az aktuális szöveg összegzésére/fordítására szabad használni, és minden hivatkozást függetlenül kell ellenőrizni a DOI-val vagy a címmel. A nem ellenőrzött idézet sérti az akadémiai feddhetetlenséget.
12. Mi kell a megbízható eredmények eléréséhez, amikor a mesterséges intelligencia összefoglal egy cikket?
- A) Elég megadni a cikk címét, a modell ismeri a tartalmat
- B) Az összefoglaló közvetlen használata anélkül, hogy ellenőrizné, mert gördülékenynek tűnik
- C) Kétszer el kell kérni a modelltől ugyanazt az összegzést, és elfogadni helyesnek, ha hasonló.
- D) Az eredeti szöveg átadása a modellnek, és az elkészített összefoglaló összehasonlítása az eredeti szöveggel, hogy ellenőrizze, nincs-e hozzáadva/torzítva semmi ✔
Magyarázat: Ha egyszerűen megadja az MI-nek egy cikk címét, és összefoglalót kér, akkor a modell egy „valószínű összefoglalóval” áll elő, anélkül, hogy a cikket valaha is látná; Ez az összefoglaló az igazság ellentéte lehet. Megbízható összefoglaló csak akkor érhető el, ha az eredeti szöveget betápláljuk a modellbe, és a generált összefoglalót összehasonlítjuk az eredeti szöveggel. Ezenkívül ellenőrizni kell, hogy az összefoglaló ne adjon hozzá olyan eredményeket vagy számokat, amelyek nem szerepelnek a szövegben.
13. Melyik igaz a mesterséges intelligencia kimenetére a fizika tananyag-előállításban?
- A) Minden megoldást függetlenül kell ellenőrizni, meg kell határozni az analógiák határait, és a zavaró eszközöknek valódi tévhiteket kell célba venniük ✔
- B) A mesterséges intelligencia által előállított válaszkulcs mindig helyes, nincs szükség auditálásra
- C) Az analógiák minden esetben tökéletesek, nem kell meghatározni a határaikat.
- D) A zavaró eszközöket teljesen véletlenszerűen kell kiválasztani, mert a helytelen választás természete nem fontos.
Leírás: A mesterséges intelligencia gyorsan generál kérdéseket, példákat és analógiákat, de az ellenőrzés három ponton elengedhetetlen: az egyes problémák megoldását önállóan (kézzel vagy kóddal) kell ellenőrizni, mert a modell előjel-/egységhibákat okozhat a megoldásban; Minden analógiát fel kell tüntetni, ahol elromlik, különben új hibát eredményez; A zavaró személyeknek a valódi tévhitekre kell irányulniuk. A felelősség a tanárt terheli; A helytelen válasz kulcsa félreértéseket hagy a tanulókban, amelyeket nehéz kijavítani.
14. Milyen a tudományos integritásnak megfelelő viselkedés, ha a kísérleti adatok nem egyeznek meg teljesen az elmélettel?
- A) Mesterséges intelligencia birtokában rendezze az adatokat úgy, hogy illeszkedjen az elmélethez, és meggyőzően mutassa be a grafikont
- B) Az eltérés okainak kivizsgálása (szisztematikus hiba, modellhiány, új hatás) és az adatok megváltoztatása nélkül őszinte bejelentés ✔
- C) Az egyet nem értés figyelmen kívül hagyása és csak a megfelelő pontok bejelentése
- D) Az adatok törlése és új kísérleti eredmény illesztése
Magyarázat: Ha arra kérik az MI-t, hogy „rendezze el az adatokat úgy, hogy jobban illeszkedjen az elmélethez”, az adatcsalás és a tudományos integritás súlyos megsértése. Az egyet nem értést vizsgálni kell, nem pedig elrejteni: jelezhet szisztematikus hibát, statisztikai ingadozást, minta hiányát vagy érdekes új hatást. Az adatokat úgy jelentik, ahogy vannak, bizonytalansággal; A végső felelősség a személyt terheli, és „az eszköz tette” nem védekezés.