Ofskynjanir, siðfræði, trúnaður og vísindaleg heilindi — Gervigreind í eðlisfræði

Hagnaður:

Hæfni til að þekkja ofskynjaform í eðlisfræði (falskur fasti, fölsaður lögmál, einingavilla, röng niðurstaða, fölsuð tilvísun) og ná þeim með viðeigandi aðferð.
Geta til að vernda óbirt, trúnaðarmál og persónuleg gögn með nafnleynd og lágmarkun með því að slá þær ekki inn í óviðkomandi verkfæri
Að geta skilið að endanleg ábyrgð liggur hjá mönnum með því að tilkynna gögnin heiðarlega, án þess að fegra þau, og skjalfesta á gagnsæjan hátt notkun gervigreindar.

Í gegnum þessa einingu fórum við yfir sömu fræðigreinina í hverri einingu: gervigreind (AI) hraðar, menn sannreyna. Í þessari lokaeiningu tökum við saman alla þessa sannprófunaraðferð undir regnhlíf vísindalegrar heiðarleika, grundvallargildi raunvísinda. Eðlisfræði er leit að því að framleiða sannanlega þekkingu um náttúruna; Kjarninn í þessari viðleitni eru heilindi, endurtekningarhæfni og ábyrgð. Hægt er að nota gervigreind til að styrkja þessi gildi - en þegar það er notað rangt ógnar það þeim öllum. Í þessari einingu munum við ræða líkamleg form ofskynjana, ábyrgð á gögnum og persónuvernd, siðferðileg mörk og hvers vegna endanleg ábyrgð er alltaf hjá mönnum.

Form ofskynjana í eðlisfræði

Ofskynjanir—örugg framleiðsla gervigreindar á röngum upplýsingum— tekur sér einstakt og hættulegt form í eðlisfræði. Að viðurkenna þetta er fyrsta skrefið til að ná:

tegund ofskynjana

dæmi

Handtökuaðferð

Mátun fast/gögn

Rangur efnisþéttleiki

Staðfesting með áreiðanlegri tilvísun

Fölsk formúla/lög

"prinsipp" nafn sem ekki er til

Kennslubók/SymPy afleiðslu

Eining/pöntun villa

að misskilja eV fyrir J

Málgreining, einingastjórnun

Röng töluleg niðurstaða

Óviðeigandi kóðaúttak

Keyra kóðann

apókrýft eignarfall

grein sem ekki er til

Staðfesting með DOI

Rangt tilkynnt niðurstaða

Bjögun á raunverulegri grein

Lestu upprunalegu heimildina

Rauði þráðurinn er þessi: stórt mállíkan er hannað til að segja ekki sannleikann, heldur til að framleiða "mögulegan texta". Í eðlisfræði er munurinn á „mögulegum að því er virðist“ og „sannur“ einmitt ástæðan fyrir tilvist vísinda.

Gögn, persónuvernd og hugverkaábyrgð

Eðlisfræðingar vinna oft með viðkvæm gögn: óbirt tilraunagögn, hönnun fyrir einkaleyfi, trúnaðarmælingar frá iðnaðarsamstarfi, rannsóknir sem fela í sér persónuleg heilsu- eða öryggisgögn. Að slá slík gögn inn í almennt gervigreindarverkfæri gæti gert þau aðgengileg þriðja aðila og hugsanlega þjálfunargögn líkansins – sem myndi þýða bæði trúnaðarbrest og tap á vísindalegum forgangi (rétturinn til að vera fyrstur til að gera uppgötvun). Reglan er skýr: ekki slá inn óbirt, trúnaðarmál eða persónuleg gögn í gervigreindarverkfæri sem fyrirtækið þitt hefur ekki samþykkt. Ef þú ætlar að slá inn, nafnleyndu, lágmarkaðu (gefðu aðeins það sem þarf) og lestu gagnaskilmála tólsins.

Varúð: Að slá inn óbirtar mælingar rannsóknarstofu eða trúnaðarlegar hönnunarfæribreytur fyrirtækis í gervigreindarverkfæri „til skjótrar greiningar“ geta verið óafturkræf mistök. Þegar gögnum hefur verið deilt er ekki hægt að afturkalla þau. Ef þú ert í vafa skaltu ekki slá inn gögn; Skýrðu fyrst stefnu stofnunarinnar og persónuverndarskilmála tólsins.

Siðferðileg mörk og vísindaleg heilindi

Notkun getur verið tæknilega möguleg og jafnvel lögleg, en samt verið siðlaus. Það eru nokkrar rauðar línur í eðlisfræði sem varða vísindalega heilindi:

Gagnasmíði eða skreyting. Að biðja gervigreindina um að „búa til stig sem passa betur við ávöxtunina“ eða „láta grafið líta sannfærandi út“ er gagnasvik. Gögn eru tilkynnt eins og þau eru; Frávikum er aðeins útrýmt með skjalfestri, lögmætri ástæðu.

Gagnsæi framlags. Ef þú hefur notað gervigreind í rannsókn - kóðaritun, tungumálaleiðréttingu, greiningu - er sanngjarnt að gera það ljóst á viðeigandi stað. Mörg tímarit og stofnanir krefjast þess.

Höfundarréttur og ábyrgð. AI er ekki rithöfundur; getur ekki borið ábyrgð á innihaldi verks. Ábyrgðin er alltaf hjá mannlegum rithöfundum. Ekki er hægt að verja villu framleidd af gervigreind með því að segja „ökutækið gerði það“.

Afritunarhæfni. Vísindaleg niðurstaða krefst þess að aðferðin (þar á meðal kóði sem notaður er, breytur, gervigreindarleiðbeiningar) sé skýrt skjalfest svo að aðrir geti endurtekið hana.

þrjú smámál

Mál 1 - Leki trúnaðargagna. Einn vísindamaður límdi mæligögn úr þagnarskyldusamningi við fyrirtæki í almennt gervigreindarverkfæri „til að fá fljótlegt línurit“. Hann áttaði sig síðar á því að þetta tól gæti geymt inntak. Samningsbrot og hugsanlegt forgangsrýrnun hefur átt sér stað. Lexía: trúnaðargögn eru aldrei færð inn í ósamþykkt verkfæri.

Mál 2 — Fegrunarprentun. Einn nemandi bað gervigreindina um breytingu sem myndi „láta gögnin líta nær kenningunni“ vegna þess að tilraunagögnin passuðu ekki að fullu við kenninguna. Ráðgjafi hans tók eftir þessu og stöðvaði hann: misræmi þýddi annað hvort kerfisbundin mistök í tilrauninni eða áhugaverða nýja eðlisfræði - eitthvað sem þarf að rannsaka, ekki fela. Gögn voru tilkynnt heiðarlega og kerfisbundin villa fannst.

Mál 3 - Gagnsæi. Eitt teymi skrifaði gagnagreiningarkóðann fyrir ritgerð með hjálp gervigreindar og sagði þetta skýrt í aðferðahlutanum; deildi kóðanum og beiðnum sem viðbótarskrár. Dómari fór yfir kóðann og stakk upp á minniháttar lagfæringu. Gagnsæi náði villunni fyrir birtingu og jók trúverðugleika rannsóknarinnar.

Fjögur afritanleg sniðmát

1) Ofskynjaskimun:

Skannaðu eftirfarandi eðlisfræðiúttak fyrir ofskynjanir: eru einhverjir falsaðir fastar, fölsuð formúlu-/lagaheiti, eininga-/röðunarvillur, óstaðfestar tölulegar niðurstöður og óstaðfestar eignir? Flaggaðu hvern grunsamlegan hlut og tilgreindu hvernig á að sannreyna hann (tilvísun, kóða, DOI). Úttak: [hér]

2) Forathugun gagnaverndar:

Metið eftirfarandi gögn/texta áður en þau eru færð inn í gervigreindarverkfæri: innihalda þau óbirtar, trúnaðarupplýsingar, persónulegar eða samningsverndaðar upplýsingar? Ef svo er, leggðu til hvernig ég get gert nafnleynd eða lágmarkað það. Ef þú ert ekki viss skaltu segja "athugaðu stefnu fyrirtækja". Efni: [hér]

3) Drög að gagnsæi/framlagsyfirlýsingu:

Í einni rannsókn notaði ég gervigreind fyrir: [kóðun / tungumálaleiðréttingu / greining o.s.frv.]. Skrifaðu stutt drög að "AI use statement" sem staðfestir þetta heiðarlega. Það ætti einnig að gefa til kynna hvaða hlutar hafa verið sannreyndir af mönnum.

4) Tryggja vísindalega heiðarleika:

Framkvæma heiðarleikaathugun fyrir eftirfarandi greiningu/niðurstöðu: gögn tilkynnt eins og þau eru (engin skreyting), er óvissa tilkynnt, er aðferðin skjalfest á endurtakanlegan hátt, er notkun gervigreindar gagnsæ? Skráðu alla annmarka. Efni: [hér]

Veik kvaðning / Sterk kvaðning

Veik: "Breyttu ávöxtuninni til að passa betur við kenninguna og gera línuritið sannfærandi."

Niðurstaða: Gagnasvik; Beint brot á vísindalegum heilindum, óafturkræft mannorðsmissi.

Sterkt: "Ávöxtunin er ekki alveg í samræmi við kenninguna. Hjálpaðu mér að greina mögulegar orsakir þessa misræmis (kerfisbundin villa, tölfræðilegar sveiflur, vantar líkan eða ný áhrif); leggðu til hvernig á að tilkynna misræmið heiðarlega án þess að breyta gögnunum."

Niðurstaða: Heiðarleg, rannsakandi og trú nálgun á vísindalega heilindi; Átök verða tækifæri til uppgötvunar.

Algeng mistök

Að rugla saman ofskynjunum og sjálfstrausti. Bara vegna þess að gervigreindin talar af öryggi er ekki trygging fyrir nákvæmni; Jafnvel nákvæmustu setninguna getur verið tilbúið.
Að slá inn trúnaðargögn í ökutækið án samþykkis. Þegar þeim hefur verið deilt er ekki hægt að sækja gögn; Forgangur og trúnaður glatast.
Fegra gögn. Að breyta gögnum í "fit theory" er einn alvarlegasti vísindaglæpurinn.
Að fela notkun gervigreindar. Gagnsæi er krafa um heiðarleika og er skylda í mörgum stofnunum.
Að setja ábyrgðina á ökutækið. „Gigreindin gerði það“ er ekki vörn; Endanleg ábyrgð er alltaf hjá manneskjunni.

Ábending: Í lok hverrar gervigreindrar rannsóknar skaltu spyrja sjálfan þig þriggja spurninga: (1) Hefur allar staðreyndir, tölur og tilvísun í þessari framleiðslu verið sannreynd sjálfstætt? (2) Innihalda gögnin sem ég notaði trúnaðar-/persónuupplýsingar sem ég ætti ekki að slá inn? (3) Hef ég skjalfest gervigreindarnotkun mína og aðferðafræði nógu gagnsætt til að einhver annar geti endurtekið hana? Ef þú getur ekki svarað skýrt „já“ við þessum þremur spurningum er rannsókninni enn ekki lokið.

Í stuttu máli

Vísindaleg heiðarleiki er grundvöllur tilveru eðlisfræðinnar og er enn mikilvægari á tímum gervigreindar. Ofskynjanir koma fram í eðlisfræði í formi falskra fasta, rangra laga, einingavillna, rangra ályktana og rangra tilvísana; hver er tekin með sinni einstöku sannprófunaraðferð. Trúnaðarmál og persónuleg gögn eru ekki færð inn í óviðkomandi verkfæri; gögn eru aldrei fegruð; AI notkun er gagnsæ skjalfest; og endanleg ábyrgð er alltaf hjá manninum. Það er aðeins ein fræðigrein sem þú lærir í gegnum þessa einingu: gervigreind er öflugur hraðall, en sannprófun, heilindi og ábyrgð hvíla á herðum hins hæfa eðlisfræðings - það er, þú. Óstaðfest gervigreind framleiðsla kemur aldrei í staðinn fyrir staðfestingu eðlisfræðings.

Umsóknarverkefni

Veldu AI úttak (reikning, greiningu eða texta) sem þú framleiddir í þessari einingu. 1. skjámynd fyrir ofskynjanir með sniðmáti: eru einhverjir dummy fastar, falskar formúlur, einingavillur eða óstaðfestar eignir? Með sniðmáti 2 skaltu meta hvort gögnin sem þú notar séu persónuverndarvæn. Að lokum skaltu búa til stutta yfirlýsingu um notkun gervigreindar/gagnsæis með sniðmáti 3. Skrifaðu niður í 5-6 setningum: hvað leiddi skönnunin í ljós, hvaða sannprófunarskref tókst þú?

gátlisti

[ ] Ég sannreyndi sjálfstætt hverja fasta, formúlu og niðurstöðu í úttakinu.
[ ] Ég hef staðfest hverja tilvitnun með DOI/heimildinni.
[ ] Ég hef athugað að ég hafi ekki slegið inn trúnaðar-/persónuupplýsingar í tólið án samþykkis.
[ ] Ég tilkynnti gögnin eins og þau eru, án skrauts.
[ ] Ég hef skjalfest notkun mína á gervigreindum á gagnsæjan og endurskapanlegan hátt.
[ ] Ég viðurkenndi að endanleg ábyrgð væri mín; Ég rakti enga sök á bílnum.

Einingapróf

1. Hver af eftirfarandi er nákvæmasta staðsetning gervigreindar í eðlisfræði?

A) Gervigreind er kóða, drög og klippiaðstoðarmaður; Ábyrgð á einingu, stöðu, sannprófun og siðferðilegum ákvörðunum er hjá manneskjunni ✔
B) Gervigreind er reiknivél og tölulegar niðurstöður sem hún gefur eru alltaf nákvæmar
C) Gervigreind virkar bara í útreikningum, hún hefur ekkert með tilraunagreiningu og kennslu að gera
D) Þar sem gervigreind er óhlutdrægari en menn, ætti að fela henni ákvarðanir um einingu og niðurstöður.

Lýsing: Gervigreind; Það er aðstoðarmaður sem skrifar kóða, framleiðir drög, býr til og skipuleggur afleiðsluramma. Hins vegar er endanleg ábyrgð á sannprófun eininga og pöntunar á niðurstöðunni, tryggja hana með varðveislulögum, stöðugri og tilvísunarstaðfestingu hjá þar til bærum eðlisfræðingi. Stóra mállíkanið er ekki reiknivél eða eðlisfræðivél; er textaframleiðandi sem framleiðir „næsta líklegasta orð“ og óstaðfest framleiðsla þess getur leitt til rangs gildis, hönnunar eða niðurstöðu.

2. Hver er nákvæmasta nálgunin fyrir tölulegar niðurstöður reiknikóða sem þú prentar inn í stórt mállíkan?

A) Með því að treysta tölunni segir líkanið „þessi kóði gefur það“, því hann skrifaði kóðann
B) Keyrðu kóðann sjálfur og sjáðu úttakið; ✔ ekki treysta á munnlega tölulega spá líkansins
C) Samþykkja kóðann sem réttan bara með því að skoða hvernig hann er lesinn, án þess að keyra hann yfirleitt
D) Ef niðurstaðan er beðin beint til líkansins aftur og hún segir sömu tölu telst hún rétt.

Skýring: LLM getur 'reiknað' úttak kóðans sem hann skrifaði í hausinn á sér og skilað rangri tölu; en þegar sami kóðinn er keyrður gefur hann rétta niðurstöðu. Það sem er deterministic er kóðinn sem er keyrður; Það er ekki munnleg spá um líkanið. Þess vegna ætti kóðinn alltaf að vera keyrður í þínu eigin umhverfi og úttakið ætti að sjást.

3. Hver er öflugasta leiðin til að prófa hvort eftirlíking á núningslausu kraftmiklu kerfi endurspegli eðlisfræði nákvæmlega?

A) Að sjá að töfluna lítur út fyrir sjónrænt snyrtilegt og sannfærandi
B) Að keyra uppgerðina með aðeins einu tímaþrepi og treysta niðurstöðunni
C) Fylgjast með magni sem þarf að varðveita, svo sem heildarorku eða skriðþunga, og athuga hvort það haldist stöðugt ✔
D) Að meta uppgerðina eftir því hversu hratt hún keyrir

Skýring: Í núningslausu kerfi verður að varðveita heildarorku (og skriðþunga, ef einhver er). Að fylgjast með þessari stærðargráðu í gegnum uppgerðina og sjá hvort hún haldist stöðug sýnir tölulega galla (t.d. frumstæða Euler aðferðin eykur stöðugt orkuna). Ef orka er á reki er uppgerðin óáreiðanleg; Bara vegna þess að það framleiðir fallega grafík þýðir það ekki að það sé rétt.

4. Hver af eftirfarandi er rétta aðferðin þegar líkan er lagað að tilraunagögnum?

A) Að velja hærri gráðu margliðuna sem passar best við gögnin vegna þess að hún fer í gegnum alla punkta
B) Að gefa færibreyturnar sem eina tölu án tvíræðni
C) Lýsa yfir gæðum passa einfaldlega með því að skoða hversu fallegur ferillinn lítur út.
D) Velja líkanið úr eðlisfræði, tilkynna um færibreytur með óvissu þeirra og meta samsvörun við leifar ✔

Skýring: Líkanið ætti að vera valið úr eðlislögmálinu sem atburðurinn verður að hlýða, ekki með því að skoða gögnin og velta því fyrir sér „hverjir passa best“. Með nægum lausum breytum (t.d. hágráðu margliðu) er hægt að gera „fullkomna“ en líkamlega tilgangslausa tengingu (offit) við hvaða gögn sem er. Tilgreina skal færibreytur með óvissu þeirra, gæði passunar ætti að meta með leifum og athuga líkamlegt trúverðugt.

5. Að endurtaka mælingu margfalt dregur úr hvers konar óvissu?

A) Tilviljunarkennd óvissa; kerfisbundin óvissa minnkar ekki við endurtekningu, finna þarf orsökina og leiðrétta ✔
B) Kerfisbundin óvissa; vegna þess að það útilokar endurkvörðunarvillu
C) Eyðir algjörlega báðum óljósunum
D) Dregur ekki úr neinum þeirra; óvissa er óháð fjölda mælinga

Skýring: Endurtekin mæling dregur úr tilviljunarkenndri óvissu (með staðalvillu á meðaltal std/√N) sem stafar af handahófskenndri dreifingu niðurstaðna. Kerfisbundin óvissa er aftur á móti villa sem víkur alltaf í sömu átt (til dæmis rangt kvarðað jafnvægi) og minnkar ekki við endurtekningu; Hins vegar er hægt að finna orsökina og leiðrétta. Að tilkynna um „mjög litla“ óvissu með mörgum mælingum getur falið undirliggjandi kerfisbundna skekkju.

6. Hver er áreiðanlegasta óháða leiðin til að sannreyna villuútbreiðsluformúlu sem fengin er af gervigreind?

A) Að treysta á að formúlan virðist fljótandi og sannfærandi
B) Víxlskoðun með Monte Carlo útreikningi sem tekur slembiúrtak úr inntakunum með óvissu þeirra ✔
C) Að biðja um sömu formúluna til gervigreindar aftur og búast við að hún gefi sömu niðurstöðu
D) Safna óvissuþáttunum beint og bera saman við niðurstöðuna

Skýring: AI blandar oft hlutafleiðustuðlum og kvaðratrótarbyggingu í villuútbreiðsluformúlum. Öflug leið til að ná þessu sjálfstætt er Monte Carlo krossathugun: taka slembiúrtak úr hverju inntaki með óvissu þess, reikna fallið þúsundir sinnum og bera saman staðalfrávik framleiðslunnar við óvissuna sem formúlan gefur. Fundur tveggja sjálfstæðra aðferða eykur sjálfstraust.

7. Hver er rétt verkaskipting milli gervigreindar og SymPy í langri afleiðslu táknrænnar eðlisfræði?

A) SymPy býr til hugmyndina um afleiðsluna, gervigreind sannreynir nákvæmlega hvert skref
B) Hvort tveggja er óþarft; langar afleiður verða að fara fram handvirkt
C) AI byggir upp ramma afleiðslu, SymPy sannreynir nákvæmlega hvert algebruskref ✔
D) Gervigreind gerir afleiðsluna á eigin spýtur, það er engin þörf á sannprófun vegna þess að hún lítur reiprennandi út

Skýring: AI skipuleggur afleiðsluna og útskýrir slóðina, en í langri algebru gerir það táknvillur, sleppt hugtök og rangar einfaldanir. SymPy, aftur á móti, vinnur samkvæmt reglum og sannreynir nákvæmlega hvert algebruskref. Öflugasta verkflæðið sameinar þetta tvennt: fáðu beinagrindina frá gervigreindinni, fáðu hvert skref með SymPy, prófaðu niðurstöðuna með afleiðu-heildarandhverfu og landamæratilviki.

8. Hvað segir víddargreining um nákvæmni eðlisformúlu?

A) Víddargreining sannar alltaf endanlega að formúla sé rétt
B) Víddargreining hefur ekkert hagnýtt gildi í eðlisfræði
C) Víddargreining gefur aðeins fastan þátt formúlunnar, ekki samkvæmni hennar
D) Formúla sem heldur ekki vídd er algerlega röng; víddargreining nær villu án þess að telja tölur ✔

Skýring: Báðar hliðar eðlisfræðilegrar jöfnu verða að vera jafnar að stærð áður en þær geta verið tölulega jafnar. Formúla sem heldur ekki vídd er einfaldlega röng; þetta er tekið úr talningarútreikningi. Víddargreining sannar ekki með óyggjandi hætti að formúla sé rétt (hún gæti misst af víddarlausum föstum stuðli eða horni), en hún sannar með óyggjandi hætti að hún er röng; þannig að það er fyrsta og ódýrasta endurskoðun hvers reiknings.

9. Hvert er mikilvægasta fyrsta skrefið þegar reiknað er út hreyfiorku hlutar sem ferðast á 36 km/klst.

A) Umbreyta öllum aðföngum í eitt einingakerfi (SI); Breytir 36 km/klst í 10 m/s ✔
B) Setja hraðann í km/klst beint inn í formúluna án þess að breyta honum í m/s
C) Margfalda aðeins tölur án þess að taka tillit til eininga
D) Að því gefnu að ekki þurfi að athuga pöntunina eftir útreikning á niðurstöðu

Skýring: SI byggðar formúlur (E = ½mv²) búast við hraða í m/s. Að rugla saman km/klst með m eða klukkustundum og sekúndum í útreikningi er ein algengasta mistökin í eðlisfræði. Fyrst verður að breyta öllum aðföngum í eitt einingakerfi (SI): 36 km/klst = 10 m/s. Þar sem gervigreind getur gert hljóðlausar villur í samsettum einingum, verður að sannreyna þessa umbreytingu handvirkt eða með einingavita tóli.

10. Hvaða framkvæmd er rétt hvað varðar 'heiðarleika' í vísindalegu línuriti?

A) Að fela óvissu vegna þess að villuslár rugla töfluna
B) Merktu ása með einingum, veldu kvarðann án röskunar og sýndu óvissu með villuslárum ✔
C) Byrjaðu alltaf y-ásinn á því bili sem mun sýna mesta stórkostlega muninn
D) Að skilja ásana eftir án eininga vegna þess að lesandinn getur giskað á eininguna

Lýsing: Heiðarleg vísindarit; það merkir ása með stærð og einingu, velur mælikvarða meðvitað og án brenglunar (að byrja y-ásinn frá núlli fyrir ýkjur er villandi) og gerir mælióvissu sýnilega með villuslárum. Að fela óvissu gerir það að verkum að gögnin virðast örugg og skapar ranga mynd af hlutdrægni eða samkomulagi. Því sannfærandi sem grafíkin er, því mikilvægari er heilleikaathugunin.

11. Hver er mesta áhættan og rétta fræðigreinin þegar fá bókmennta- og tilvitnunarstuðning frá gervigreind?

A) Gervigreind eyðir tíma vegna þess að hún framleiðir tilvitnanir mjög hægt
B) Heimildir sem gervigreind gefa til kynna eru alltaf raunverulegar, það er engin þörf á sannprófun
C) Gervigreind getur framleitt eignir sem virðast raunverulegar en eru ekki til; Hver tilvitnun verður að vera staðfest með DOI/heimild og bókmenntir verða að finna úr raunverulegum gagnagrunni ✔
D) Tilbúnar tilvitnanir þekkjast auðveldlega vegna þess að þær nota alltaf óraunveruleg dagbókarnöfn

Skýring: Stórt mállíkan er ekki tengt raunverulegum gagnagrunni; Með því að líkja eftir tilvitnunarmynstri getur það framleitt greinar sem bera hið raunverulega tímaritsnafn, trúverðuga höfunda og sanngjarnt ártal en eru alls ekki til. Þess vegna ætti að finna bókmenntir úr raunverulegum gagnagrunnum, AI ætti aðeins að nota til að draga saman / þýða raunverulegan texta sem fyrir hendi er og hver tilvitnun ætti að vera sjálfstætt staðfest með DOI eða titli. Óstaðfest tilvitnun er brot á fræðilegum heiðarleika.

12. Hvað þarf til að fá áreiðanlegar niðurstöður þegar gervigreind tekur saman grein?

A) Það er nóg að gefa upp titil greinarinnar, líkanið veit innihaldið
B) Nota samantektina beint án þess að athuga hana yfirleitt, því hún lítur út fyrir að vera fljótandi
C) Að biðja fyrirmyndina um sömu samantektina tvisvar og samþykkja hana sem rétta ef hún er svipuð.
D) Að gefa upprunalega textann í líkanið og bera saman framleidda samantekt við upprunalega textann til að ganga úr skugga um að ekkert hafi verið bætt við/afbakað ✔

Skýring: Það að gefa gervigreindinni titil greinar og biðja um samantekt mun valda því að líkanið kemur með „sanngjarna samantekt“ án þess að sjá greinina nokkurn tíma; Þessi samantekt gæti verið andstæða sannleikans. Aðeins er hægt að fá áreiðanlega samantekt þegar frumtextinn er færður í líkanið og samantektin sem myndast er borin saman við upprunalega textann. Auk þess ætti að athuga að samantektin bætir ekki við niðurstöðum eða tölum sem eru ekki í textanum.

13. Hvað á við um framleiðslu gervigreindar í eðlisfræðinámsefnisframleiðslu?

A) Hverja lausn ætti að vera sjálfstætt sannprófuð, takmörk hliðstæðna ætti að tilgreina og truflar ættu að miða við raunverulegar ranghugmyndir ✔
B) Svarlykillinn sem framleiddur er af gervigreind er alltaf réttur, það er engin þörf á endurskoðun
C) Hliðstæður eru fullkomnar í öllum tilvikum, það er engin þörf á að tilgreina takmörk þeirra.
D) Afvegaleiðir ættu að vera valdir algjörlega af handahófi, vegna þess að eðli rangs vals skiptir ekki máli.

Lýsing: gervigreind er fljót að búa til spurningar, dæmi og hliðstæður, en eftirlit er nauðsynlegt á þremur atriðum: lausn hvers vandamáls verður að vera staðfest sjálfstætt (með höndunum eða með kóða), því líkanið getur gert tákn-/einingavillur í lausninni; Hverja samlíkingu verður að koma fram þar sem hún brotnar, annars mun hún gefa tilefni til nýrrar villu; Afvegaleiðarar ættu að miða við sannar ranghugmyndir. Ábyrgðin er hjá kennaranum; Rangur svarlykill skilur eftir misskilning hjá nemendum sem erfitt er að leiðrétta.

14. Hver er hegðun í samræmi við vísindalega heiðarleika þegar tilraunagögn eru ekki alveg í samræmi við kenninguna?

A) Að hafa gervigreind skipuleggja gögnin til að passa við kenninguna og sýna línuritið á sannfærandi hátt
B) Rannsaka ástæður misræmis (kerfisbundin villa, skortur á líkani, ný áhrif) og tilkynna heiðarlega án þess að breyta gögnunum ✔
C) Hunsa ágreining og tilkynna aðeins atriði sem passa
D) Eyða gögnum og setja nýja tilraunarniðurstöðu

Skýring: Að biðja gervigreind um að „raða gögnum þannig að þau passi betur við kenninguna“ er gagnasvik og gróft brot á vísindalegum heiðarleika. Ágreiningur er eitthvað sem þarf að rannsaka, ekki falið: það getur bent til kerfisbundinnar villu, tölfræðilegrar sveiflu, skorts á mynstri eða áhugaverðra nýrra áhrifa. Gögn eru tilkynnt eins og þau eru, með óvissu; Endanleg ábyrgð liggur hjá viðkomandi og „verkfærið gerði það“ er ekki vörn.