Haliucinacijos, etika, konfidencialumas ir mokslinis sąžiningumas

Pelnas:

• Gebėjimas atpažinti haliucinacijų formas fizikoje (netikrą konstantą, netikrą dėsnį, vieneto paklaidą, klaidingą rezultatą, netikrą priskyrimą) ir pagauti jas atitinkamu metodu.
• Galimybė apsaugoti neskelbtus, konfidencialius ir asmeninius duomenis anonimizuojant ir sumažinant, neįvedant jų į neleistinus įrankius
• Suprasti, kad didžiausia atsakomybė tenka žmonėms, sąžiningai pranešant duomenis, jų nepagražinant ir skaidriai dokumentuojant dirbtinio intelekto naudojimą.

Šiame modulyje mes apėmėme tą pačią discipliną kiekviename padalinyje: dirbtinis intelektas (AI) pagreitina, žmonės tikrina. Šiame paskutiniame skyriuje mes sujungiame visą šią tikrinimo praktiką po mokslinio vientisumo, pagrindinės fizikos mokslo vertybės, skėčiu. Fizika yra siekis gauti patikrinamų žinių apie gamtą; Šios pastangos esmė yra sąžiningumas, pakartojamumas ir atsakomybė. Dirbtinis intelektas gali būti naudojamas šioms vertybėms sustiprinti, bet kai naudojamas neteisingai, tai kelia grėsmę joms visoms. Šiame skyriuje aptarsime fizines haliucinacijų formas, atsakomybę už duomenis ir privatumą, etines ribas ir kodėl didžiausia atsakomybė visada tenka žmonėms.

Haliucinacijų formos fizikoje

Haliucinacijos – AI užtikrintai sukuria klaidingą informaciją – fizikoje įgauna unikalias ir pavojingas formas. Tai yra pirmas žingsnis siekiant sugauti:

haliucinacijų tipas

pavyzdys

Užfiksavimo metodas

Montavimas fiksuotas/duomenys

Neteisingas medžiagos tankis

Patvirtinimas su patikima nuoroda

Klaidinga formulė/dėsnis

Neegzistuojantis „principo“ pavadinimas

Vadovėlis/SymPy darinys

Vieneto/užsakymo klaida

supainioti eV su J

Matmenų analizė, vienetų valdymas

Neteisingas skaitinis rezultatas

Netinkamas kodo išvedimas

Paleiskite kodą

apokrifinis priskyrimas

neegzistuojantis straipsnis

Patvirtinimas naudojant DOI

Neteisingai praneštas rezultatas

Realaus straipsnio iškraipymas

Skaitykite originalų šaltinį

Bendra gija tokia: didelis kalbos modelis sukurtas ne sakyti tiesą, o sukurti „galimai atrodantį tekstą“. Fizikoje skirtumas tarp „iš pažiūros įmanoma“ ir „tiesa“ yra kaip tik mokslo egzistavimo priežastis.

Duomenų, privatumo ir intelektinės nuosavybės atsakomybė

Fizikai dažnai dirba su jautriais duomenimis: neskelbtais eksperimentiniais duomenimis, išankstiniais patentais, konfidencialiais pramoninio bendradarbiavimo matavimais, tyrimais, susijusiais su asmens sveikatos ar saugos duomenimis. Įvedus tokius duomenis į bendrą AI įrankį, jie galėtų tapti prieinami trečiosioms šalims ir galbūt modelio mokymo duomenims – tai reikštų ir konfidencialumo pažeidimą, ir mokslinio prioriteto praradimą (teisė pirmajam padaryti atradimą). Taisyklė aiški: neįveskite neskelbtų, konfidencialių ar asmeninių duomenų į AI įrankį, kurio jūsų organizacija nepatvirtino. Jei ketinate įvesti, anoniminkite, sumažinkite (nurodykite tik tai, kas būtina) ir perskaitykite įrankio duomenų sąlygas.

Atsargiai: neskelbtų laboratorijos matavimų ar įmonės konfidencialių projektavimo parametrų įvedimas į AI įrankį „greitai analizei“ gali būti negrįžtama klaida. Kai duomenys yra bendrinami, jie negali būti atšaukti. Jei abejojate, neįveskite duomenų; Pirmiausia išsiaiškinkite savo įstaigos politiką ir įrankio privatumo sąlygas.

Etinės ribos ir mokslinis vientisumas

Naudojimas gali būti techniškai įmanomas ir netgi teisėtas, bet vis tiek neetiškas. Fizikoje yra kelios raudonos linijos, susijusios su moksliniu vientisumu:

Duomenų kūrimas arba pagražinimas. Prašymas dirbtinio intelekto „sugeneruoti taškus, kurie geriau atitiktų derlių“ arba „padaryti diagramą įtikinamesnę“ yra duomenų sukčiavimas. Duomenys pateikiami tokie, kokie yra; Nukrypimai pašalinami tik turint dokumentais pagrįstą, teisėtą priežastį.

Įnašo skaidrumas. Jei AI naudojote tyrime – kodo rašymas, kalbos taisymas, analizė – teisinga tai aiškiai nurodyti tinkamoje vietoje. Daugelis žurnalų ir institucijų to reikalauja.

Autorystė ir atsakomybė. AI nėra rašytojas; negali būti atsakingas už kūrinio turinį. Atsakomybė visada tenka rašytojams. AI padarytos klaidos negalima apginti sakant „transporto priemonė tai padarė“.

Atkuriamumas. Norint gauti mokslinį rezultatą, metodas (įskaitant naudojamą kodą, parametrus, AI raginimus) turi būti aiškiai dokumentuotas, kad kiti galėtų jį pakartoti.

trys mini dėklai

1 atvejis. Konfidencialių duomenų nutekėjimas. Vienas tyrėjas įklijavo matavimo duomenis iš neatskleidimo sutarties su įmone į bendrąjį AI įrankį „greitai diagramai“. Vėliau jis suprato, kad šis įrankis gali saugoti įvestis. Įvyko sutarties pažeidimas ir galimas pirmenybės praradimas. Pamoka: konfidencialūs duomenys niekada neįvedami į nepatvirtintą įrankį.

2 atvejis – pagražinimo spaudinys. Vienas studentas paprašė dirbtinio intelekto pakoreguoti, kad „duomenys atrodytų artimesni teorijai“, nes eksperimentiniai duomenys visiškai neatitiko teorijos. Jo patarėjas tai pastebėjo ir jį sustabdė: neatitikimas reiškė arba sistemingą klaidą eksperimente, arba įdomią naują fiziką – tai, ką reikia ištirti, o ne paslėpti. Duomenys buvo pateikti sąžiningai ir buvo rasta sisteminga klaida.

3 atvejis – įgavo skaidrumo. Viena komanda, naudodama AI, parašė darbo duomenų analizės kodą ir aiškiai tai nurodė metodų skyriuje; bendrino kodą ir raginimus kaip papildomus failus. Teisėjas peržiūrėjo kodą ir pasiūlė nedidelį pataisymą. Skaidrumas užfiksavo klaidą prieš paskelbimą ir padidino tyrimo patikimumą.

Keturi kopijuojami šablonai

1) Haliucinacijų patikra:

Nuskaitykite šią fizikos išvestį, ar nėra haliucinacijų: ar yra fiktyvių konstantų, klaidingų formulių / dėsnių pavadinimų, vienetų / eilės klaidų, nepatvirtintų skaitinių rezultatų ir nepatvirtintų priskyrimų? Pažymėkite kiekvieną įtartiną elementą ir nurodykite, kaip jį patikrinti (nuoroda, kodas, DOI). Išvestis: [čia]

2) Išankstinė duomenų privatumo patikra:

Įvertinkite šiuos duomenis / tekstą prieš įvesdami juos į AI įrankį: ar juose yra neskelbtos, konfidencialios, asmeninės ar sutartimi apsaugotos informacijos? Jei taip, pasiūlykite, kaip jį anonimizuoti arba sumažinti. Jei nesate tikri, pasakykite „patikrinkite įmonės politiką“. Turinys: [čia]

3) Skaidrumo / indėlio pareiškimo projektas:

Viename tyrime AI naudojau: [kodavimui / kalbos taisymui / analizei ir kt.]. Parašykite trumpą „AI naudojimo pareiškimo“ juodraštį, kuriame tai sąžiningai dokumentuojama. Taip pat turėtų būti nurodyta, kurios dalys buvo patikrintos žmonių.

4) Užtikrinti mokslinį vientisumą:

Atlikite šios analizės / rezultato vientisumo patikrą: duomenys pateikiami tokie, kokie yra (be pagražinimų), ar pranešama apie neapibrėžtumus, ar metodas dokumentuotas atkuriamu būdu, ar DI naudojimas yra skaidrus? Išvardykite visus trūkumus. Turinys: [čia]

Silpnas raginimas / Stiprus raginimas

Silpnas: „Redaguokite derlių, kad geriau atitiktų teoriją ir kad grafikas būtų įtikinamas“.

Rezultatas: duomenų sukčiavimas; Tiesioginis mokslinio sąžiningumo pažeidimas, negrįžtamas reputacijos praradimas.

Stiprus: "Rezultatas nevisiškai sutampa su teorija. Padėkite man išanalizuoti galimas šio neatitikimo priežastis (sisteminė klaida, statistinis svyravimas, trūkstamo modelio ar naujas efektas); pasiūlykite, kaip sąžiningai pranešti apie neatitikimą nekeičiant duomenų."

Rezultatas: sąžiningas, tiriamasis ir ištikimas požiūris į mokslinį sąžiningumą; Konfliktas tampa galimybe atrasti.

Dažnos klaidos

• Painiojanti haliucinacijas su pasitikėjimu savimi. Vien todėl, kad AI kalba užtikrintai, nėra tikslumo garantija; Net pats tiksliausias sakinys gali būti išgalvotas.
• Konfidencialių duomenų įvedimas į transporto priemonę be patvirtinimo. Vieną kartą bendrinami duomenys negali būti nuskaityti; Prarandamas prioritetas ir konfidencialumas.
• Gražinantys duomenys. Duomenų pakeitimas į „tinkamo teoriją“ yra vienas sunkiausių mokslo nusikaltimų.
• AI naudojimo slėpimas. Skaidrumas yra sąžiningumo reikalavimas ir yra privalomas daugelyje institucijų.
• Atsakomybės perkėlimas ant transporto priemonės. „AI padarė tai“ nėra gynyba; Didžiausia atsakomybė visada tenka žmogui.

Patarimas: kiekvieno dirbtinio intelekto tyrimo pabaigoje užduokite sau tris klausimus: (1) Ar kiekvienas faktas, skaičius ir priskyrimas šioje išvestyje buvo nepriklausomai patikrinti? (2) Ar mano naudojami duomenys turėjo konfidencialios / asmeninės informacijos, kurios neturėčiau įvesti? (3) Ar pakankamai skaidriai dokumentavau savo AI naudojimą ir metodiką, kad kas nors kitas galėtų tai pakartoti? Jei į šiuos tris klausimus negalite atsakyti aiškiai „taip“, tyrimas dar nebaigtas.

Apibendrinant

Mokslinis vientisumas yra fizikos egzistavimo pagrindas ir dar svarbesnis dirbtinio intelekto amžiuje. Haliucinacijos fizikoje pasireiškia klaidingų konstantų, klaidingų dėsnių, vienetų klaidų, klaidingų išvadų ir klaidingų nuorodų pavidalu; kiekvienas yra užfiksuotas naudojant savo unikalų patvirtinimo metodą. Konfidencialūs ir asmens duomenys neįvedami į neleistinus įrankius; duomenys niekada nepagražinami; AI naudojimas yra skaidriai dokumentuotas; o galutinė atsakomybė visada tenka žmogui. Šiame modulyje išmokstama tik viena disciplina: AI yra galingas greitintuvas, tačiau patikrinimas, vientisumas ir atsakomybė gula ant kompetentingo fiziko pečių – tai yra jūs. Nepatvirtinta AI išvestis niekada nepakeičia fiziko patvirtinimo.

Taikymo užduotis

Pasirinkite AI išvestį (paskyrą, analizę arba tekstą), kurią sukūrėte šiame modulyje. 1. Haliucinacijų ekranas su šablonu: ar yra fiktyvių konstantų, klaidingų formulių, vienetų klaidų ar nepatikrintų priskyrimų? Naudodami 2 šabloną įvertinkite, ar naudojami duomenys yra draugiški privatumui. Galiausiai parenkite trumpą AI naudojimo/skaidrumo pareiškimą su 3 šablonu. Užrašykite 5–6 sakiniais: ką atskleidė nuskaitymas, kokius patikrinimo veiksmus atlikote?

kontrolinis sąrašas

• [ ] Nepriklausomai patikrinau kiekvieną išvestyje pateiktą konstantą, formulę ir rezultatą.
• [ ] Kiekvieną citatą patikrinau DOI / šaltiniu.
• [ ] Patikrinau, kad į įrankį neįvedžiau konfidencialių / asmeninių duomenų be patvirtinimo.
• [ ] Pateikiau duomenis tokius, kokie jie yra, be pagražinimų.
• [ ] Aš dokumentavau savo AI naudojimą skaidriai ir lengvai atkuriamai.
• [ ] Sutikau, kad didžiausia atsakomybė tenka man; Transporto priemonei kaltės nepriskyriau.

Modulio egzaminas

1. Kuris iš šių dalykų yra tiksliausias dirbtinio intelekto pozicionavimas fizikoje?

• A) Dirbtinis intelektas yra kodas, juodraštis ir redagavimo asistentas; Atsakomybė už padalinį, rangą, patikrinimą ir etinius sprendimus tenka žmogui ✔
• B) Dirbtinis intelektas yra skaičiuotuvas ir jo pateikiami skaitiniai rezultatai visada yra tikslūs
• C) Dirbtinis intelektas veikia tik skaičiuojant, jis neturi nieko bendra su eksperimentų analize ir mokymu
• D) Kadangi dirbtinis intelektas yra nešališkesnis nei žmonės, vieneto ir rezultato sprendimai turėtų būti palikti jam.

Aprašymas: Dirbtinis intelektas; Tai asistentas, kuris rašo kodą, gamina juodraščius, kuria ir tvarko išvedimo sistemas. Tačiau galutinė atsakomybė už rezultato vieneto ir užsakymo patikrinimą, jo užtikrinimą išsaugojimo dėsniais, pastoviu ir atskaitos patvirtinimu tenka kompetentingam fizikui. Didžiosios kalbos modelis nėra skaičiuotuvas ar fizinis variklis; yra teksto generatorius, kuris sukuria „kitą labiausiai tikėtiną žodį“, o jo nepatvirtinta išvestis gali lemti neteisingą reikšmę, dizainą ar rezultatą.

2. Koks yra tiksliausias skaičiavimo kodo, kurį atspausdinate į didelę kalbos modelį, skaitinio rezultato aproksimacija?

• A) Pasitikėdamas skaičiumi modelis sako „šis kodas tai suteikia“, nes jis parašė kodą
• B) Paleiskite kodą patys ir pamatysite išvestį; ✔ nepasikliauti modelio žodine skaitine prognoze
• C) Priimti kodą kaip teisingą tik pažiūrėjus, kaip jis skaitomas, jo visai nepaleidus
• D) Jei rezultatas vėl tiesiogiai paprašomas modelio ir jis nurodo tą patį skaičių, jis laikomas teisingu.

Paaiškinimas: LLM gali „apskaičiuoti“ kodo, kurį parašė savo galvoje, išvestį ir grąžinti neteisingą skaičių; tuo tarpu paleidus tą patį kodą, gaunamas teisingas rezultatas. Deterministinis yra vykdomas kodas; Tai nėra žodinis modelio numatymas. Todėl kodas visada turi būti paleistas jūsų aplinkoje, o išvestis turėtų būti matoma.

3. Koks yra galingiausias būdas patikrinti, ar betrinties dinaminės sistemos modeliavimas tiksliai atspindi fiziką?

• A) Matyti, kad diagrama atrodo vizualiai tvarkingai ir įtikinamai
• B) Modeliavimo vykdymas tik vienu laiko žingsniu ir pasitikėjimas rezultatu
• C) Stebėti kiekį, kurį reikia išsaugoti, pvz., bendrą energiją ar impulsą, ir patikrinti, ar jis išlieka pastovus ✔
• D) Modeliavimo įvertinimas pagal jo veikimo greitį

Paaiškinimas: Be trinties sistemoje turi būti išsaugota visa energija (ir impulsas, jei toks yra). Stebint šį dydį viso modeliavimo metu ir matant, ar jis išlieka pastovus, atskleidžiami skaitiniai trūkumai (pvz., primityvus Eulerio metodas nuolat didina energiją). Jei energija dreifuoja, modeliavimas yra nepatikimas; Tai, kad ji sukuria gražią grafiką, dar nereiškia, kad ji teisinga.

4. Kuris iš šių būdų yra teisingas pritaikant modelį prie eksperimentinių duomenų?

• A) Aukštesniojo laipsnio polinomo, kuris geriausiai atitinka duomenis, pasirinkimas, nes jis eina per visus taškus
• B) Parametrų pateikimas kaip vienas skaičius be dviprasmybių
• C) Deklaruoti prigludimo kokybę tiesiog žiūrint, kaip gražiai atrodo kreivė.
• D) modelio parinkimas iš fizikos, parametrų su jų neapibrėžtumu pateikimas ir atitikimo su likučiais įvertinimas ✔

Paaiškinimas: modelis turėtų būti pasirinktas pagal fizinį dėsnį, kuriam įvykis turi paklusti, o ne žiūrint į duomenis ir galvojant, „kuris tinka geriausiai“. Turint pakankamai laisvų parametrų (pvz., aukšto laipsnio daugianario), bet kokiems duomenims galima pritaikyti „puikus“, bet fiziškai beprasmį (perdėtą). Parametrai turėtų būti pateikiami nurodant jų neapibrėžtumą, tinkamumo kokybė turėtų būti įvertinta pagal likučius ir patikrintas fizinis patikimumas.

5. Pakartojus matavimą daug kartų, sumažėja neapibrėžtis?

• A) Atsitiktinė neapibrėžtis; sisteminis neapibrėžtumas kartojant nemažėja, reikia surasti priežastį ir ją ištaisyti ✔
• B) Sisteminis neapibrėžtumas; nes pašalina perkalibravimo klaidą
• C) Visiškai pašalina abu neaiškumus
• D) nesumažina nė vieno iš jų; neapibrėžtis nepriklauso nuo matavimų skaičiaus

Paaiškinimas: Pakartotinis matavimas sumažina atsitiktinę neapibrėžtį (su standartine vidurkio std/√N paklaida), atsirandančią dėl atsitiktinio rezultatų pasiskirstymo. Kita vertus, sisteminis neapibrėžtumas yra klaida, kuri visada nukrypsta ta pačia kryptimi (pavyzdžiui, neteisingai sukalibruotas balansas) ir nemažėja pasikartojant; Tačiau priežastį galima rasti ir ištaisyti. Pranešant apie „labai mažą“ neapibrėžtį atliekant kelis matavimus, gali būti paslėpta pagrindinė sisteminė klaida.

6. Koks yra patikimiausias nepriklausomas būdas patikrinti AI gautą klaidų plitimo formulę?

• A) Pasikliauti formule, kad ji atrodytų sklandi ir įtikinama
• B) Kryžminis patikrinimas naudojant Monte Karlo skaičiavimą, kuris atsitiktinai atrenka įvestis su jų neapibrėžtumu ✔
• C) Vėl paklausti tos pačios formulės dirbtinio intelekto ir tikėtis, kad ji duos tą patį rezultatą
• D) Tiesioginis neapibrėžčių rinkimas ir palyginimas su rezultatu

Paaiškinimas: AI dažnai sumaišo dalinius išvestinius koeficientus ir kvadratinės šaknies struktūrą klaidų sklidimo formulėse. Galingas būdas tai pasiekti nepriklausomai yra Monte Karlo kryžminė patikra: atsitiktinai atrenkama kiekviena įvestis su jos neapibrėžtimi, funkcija apskaičiuojama tūkstančius kartų ir lyginamas standartinis išvesties nuokrypis su neapibrėžtimi, pateikta formule. Dviejų nepriklausomų metodų susitikimas padidina pasitikėjimą.

7. Koks yra teisingas darbo pasidalijimas tarp AI ir SymPy ilgame simbolinės fizikos darinyje?

• A) SymPy generuoja išvedimo idėją, AI tiksliai patikrina kiekvieną žingsnį
• B) Abu yra nereikalingi; ilgi išvedžiojimai turi būti atliekami tik rankiniu būdu
• C) AI sukuria išvedimo sistemą, SymPy tiksliai patikrina kiekvieną algebrinį žingsnį ✔
• D) Dirbtinis intelektas pats daro išvedimą, nereikia tikrinti, nes atrodo sklandžiai

Paaiškinimas: AI strateguoja išvedimą ir paaiškina kelią, tačiau ilgoje algebroje daro ženklų klaidas, išeinančius terminus ir neteisingus supaprastinimus. Kita vertus, SymPy veikia pagal taisykles ir tiksliai patikrina kiekvieną algebrinį žingsnį. Galingiausia darbo eiga sujungia dvi: gaukite skeletą iš AI, gaukite kiekvieną veiksmą naudodami „SymPy“, patikrinkite rezultatą naudodami atvirkštinį išvestinį integralą ir ribinį atvejį.

8. Ką matmenų analizė pasako apie fizikinės formulės tikslumą?

• A) Matmenų analizė visada galutinai įrodo, kad formulė yra teisinga
• B) Matmenų analizė neturi praktinės vertės fizikoje
• C) Matmenų analizė pateikia tik pastovų formulės koeficientą, o ne jos nuoseklumą
• D) Formulė, kuri neatitinka matmenų, yra visiškai neteisinga; matmenų analizė užfiksuoja klaidą neskaičiuodama skaičių ✔

Paaiškinimas: Dvi fizinės lygties kraštinės turi būti lygios, kad būtų skaitiniu požiūriu lygios. Formulė, kuri neatitinka matmenų, yra tiesiog neteisinga; tai užfiksuota iš skaičiavimo. Matmenų analizė galutinai neįrodo, kad formulė yra teisinga (ji gali praleisti bematį pastovų koeficientą arba kampą), tačiau ji įtikinamai įrodo, kad ji neteisinga; taigi tai pirmasis ir pigiausias kiekvienos paskyros auditas.

9. Koks yra pats svarbiausias pirmasis žingsnis apskaičiuojant objekto, važiuojančio 36 km/h greičiu, kinetinę energiją?

• A) Visų įvesties duomenų pavertimas į vieną vienetų sistemą (SI); 36 km/h konvertavimas į 10 m/s ✔
• B) Greitio įvedimas km/h tiesiai į formulę, nekeičiant jo į m/s
• C) Padauginti tik skaičius, neatsižvelgiant į vienetus
• D) Darant prielaidą, kad suskaičiavus rezultatą nereikia tikrinti užsakymo

Paaiškinimas: SI pagrįstos formulės (E = ½mv²) tikisi greičio m/s. Km/h supainiojimas su m arba valandų su sekundėmis skaičiuojant yra viena dažniausių fizikos klaidų. Pirmiausia visi įėjimai turi būti konvertuojami į vieną vienetų sistemą (SI): 36 km/h = 10 m/s. Kadangi dirbtinis intelektas gali padaryti tyliąsias sudėtinių vienetų konvertavimo klaidas, šią konversiją reikia patikrinti rankiniu būdu arba naudojant vieneto žinomą įrankį.

10. Kuri praktika yra teisinga kalbant apie „sąžiningumą“ moksliniame grafike?

• A) Slėpti neapibrėžtumą, nes klaidų juostos užgriozdina diagramą
• B) Pažymėkite ašis vienetais, pasirinkite skalę be iškraipymų ir nurodykite neapibrėžtumą klaidų juostomis ✔
• C) Visada pradėkite y ašį tame diapazone, kuris parodys didžiausią skirtumą
• D) Ašių palikimas be vienetų, nes skaitytojas gali atspėti vienetą

Aprašymas: Sąžiningas mokslinis grafikas; jis pažymi ašis pagal dydį ir vienetą, sąmoningai ir be iškraipymų pasirenka mastelį (y ašies paleidimas nuo nulio dėl perdėto yra klaidinantis), o matavimo neapibrėžtis matoma klaidų juostomis. Paslėpus netikrumą, duomenys atrodo tikri ir sukuriamas klaidingas šališkumo ar susitarimo įspūdis. Kuo įtikinamesnis grafikas, tuo svarbesnis vientisumo patikrinimas.

11. Kokia yra didžiausia rizika ir teisinga disciplina gaunant literatūros ir citavimo paramą iš dirbtinio intelekto?

• A) Dirbtinis intelektas švaisto laiką, nes jis labai lėtai kuria citatas
• B) Dirbtinio intelekto siūlomi šaltiniai visada yra tikri, nereikia tikrinti
• C) Dirbtinis intelektas gali sukurti priskyrimus, kurie atrodo tikri, bet neegzistuoja; Kiekviena citata turi būti patikrinta naudojant DOI / šaltinį, o literatūra turi būti rasta iš tikros duomenų bazės ✔
• D) Sugalvotos citatos lengvai atpažįstamos, nes jose visada naudojami nerealūs žurnalų pavadinimai

Paaiškinimas: didelis kalbos modelis nėra prijungtas prie tikrosios duomenų bazės; Imituodamas citavimo modelius, jis gali sukurti straipsnius, kuriuose yra tikras žurnalo pavadinimas, patikimi autoriai ir pagrįsti metai, tačiau jų visiškai nėra. Todėl literatūra turėtų būti randama iš tikrų duomenų bazių, AI turėtų būti naudojamas tik apibendrinti / išversti tikrąjį tekstą, o kiekviena citata turėtų būti nepriklausomai patikrinta pagal DOI arba pavadinimą. Nepatvirtinta citata yra akademinio sąžiningumo pažeidimas.

12. Ko reikia norint gauti patikimų rezultatų, kai dirbtinis intelektas apibendrina straipsnį?

• A) Pakanka nurodyti straipsnio pavadinimą, modelis žino turinį
• B) Santraukos naudojimas tiesiogiai jos visiškai nepatikrinus, nes ji atrodo sklandžiai
• C) Du kartus paprašyti modelio tos pačios santraukos ir priimti ją kaip teisingą, jei ji panaši.
• D) Originalaus teksto pateikimas modeliui ir sudarytos santraukos palyginimas su originaliu tekstu, siekiant patikrinti, ar nieko nebuvo pridėta / iškraipyta ✔

Paaiškinimas: paprasčiausiai suteikus AI straipsnio pavadinimą ir paprašius pateikti santrauką, modelis pateiks „tikėtiną santrauką“, nematęs straipsnio; Ši santrauka gali būti priešinga tiesai. Patikimą santrauką galima gauti tik tada, kai originalus tekstas įvedamas į modelį ir sugeneruota santrauka lyginama su originaliu tekstu. Be to, reikia patikrinti, ar į santrauką nebūtų įtraukiami rezultatai ar skaičiai, kurių nėra tekste.

13. Kuris yra teisingas dirbtinio intelekto rezultatams gaminant fizikos kurso medžiagą?

• A) Kiekvienas sprendimas turi būti nepriklausomai patikrintas, turėtų būti nurodytos analogijų ribos, o trikdžiai turėtų būti nukreipti į tikras klaidingas nuomones ✔
• B) Dirbtinio intelekto sukurtas atsakymo raktas visada teisingas, nereikia atlikti audito
• C) Analogijos puikiai tinka visais atvejais, nereikia nurodyti jų ribų.
• D) Atitraukikliai turėtų būti parinkti visiškai atsitiktinai, nes neteisingo pasirinkimo pobūdis nėra svarbus.

Aprašymas: AI greitai generuoja klausimus, pavyzdžius ir analogijas, tačiau būtina patikrinti tris dalykus: kiekvienos problemos sprendimas turi būti patikrintas savarankiškai (ranka arba naudojant kodą), nes modelis gali padaryti sprendime ženklo / vieneto klaidų; Kiekviena analogija turi būti nurodyta, kur ji sugenda, kitaip ji sukels naują klaidą; Išblaškytojai turėtų nukreipti į tikrus klaidingus įsitikinimus. Atsakomybė tenka mokytojui; Neteisingas atsakymo raktas sukelia mokiniams nesusipratimų, kuriuos sunku ištaisyti.

14. Koks elgesys atitinka mokslinį vientisumą, kai eksperimentiniai duomenys nevisiškai sutampa su teorija?

• A) Turėdami dirbtinį intelektą, sutvarkykite duomenis, kad jie atitiktų teoriją, ir įtikinamai parodykite grafiką
• B) Neatitikimo priežasčių tyrimas (sisteminė klaida, modelio nebuvimas, naujas efektas) ir sąžiningai pranešti nekeičiant duomenų ✔
• C) Nepaisyti nesutarimų ir pranešti tik tuos dalykus, kurie tinka
• D) Duomenų ištrynimas ir naujo eksperimento rezultato pritaikymas

Paaiškinimas: AI prašymas „sutvarkyti duomenis, kad jie geriau atitiktų teoriją“ yra duomenų sukčiavimas ir šiurkštus mokslinio vientisumo pažeidimas. Nesutarimas yra kažkas, ką reikia ištirti, o ne paslėpti: tai gali reikšti sisteminę klaidą, statistinį svyravimą, modelio trūkumą arba įdomų naują efektą. Duomenys pateikiami tokie, kokie yra, su neapibrėžtumu; Didžiausia atsakomybė tenka asmeniui, o „įrankis tai padarė“ nėra gynyba.