Ieguvumi:
- Spēja atpazīt halucinācijas formas fizikā (viltus konstante, viltus likums, vienību kļūda, nepareizs rezultāts, viltus atribūcija) un noķert tās ar atbilstošu metodi.
- Iespēja aizsargāt nepublicētus, konfidenciālus un personas datus, tos anonimizējot un minimizējot, neievadot tos nesankcionētos rīkos
- Spēja saprast, ka galvenā atbildība gulstas uz cilvēkiem, sniedzot datus godīgi, tos neizskaistinot, un pārredzami dokumentējot mākslīgā intelekta izmantošanu.
Visā šajā modulī mēs aptvērām vienu un to pašu disciplīnu katrā vienībā: mākslīgais intelekts (AI) paātrina, cilvēki pārbauda. Šajā pēdējā daļā mēs apkopojam visu šo verifikācijas praksi zem zinātniskās integritātes, kas ir fiziskās zinātnes pamatvērtība. Fizika ir tiekšanās iegūt pārbaudāmas zināšanas par dabu; Šo centienu pamatā ir integritāte, atkārtojamība un atbildība. AI var izmantot šo vērtību nostiprināšanai, taču, ja to izmanto nepareizi, tas apdraud tās visas. Šajā nodaļā mēs apspriedīsim halucināciju fiziskos veidus, atbildību par datiem un privātumu, ētiskās robežas un to, kāpēc galvenā atbildība vienmēr paliek cilvēkiem.
Halucinācijas formas fizikā
Halucinācijas — mākslīgā intelekta pārliecība, ka tiek radīta nepatiesa informācija — fizikā izpaužas unikālas un bīstamas formas. To atpazīšana ir pirmais solis, lai noķertu:
halucinācijas veids
piemērs
Uztveršanas metode
Fiksēta/datu montāža
Nepareizs materiāla blīvums
Apstiprinājums ar uzticamu atsauci
Viltus formula/likums
Neesošs "principa" nosaukums
Mācību grāmata/SymPy atvasinājums
Vienības/pasūtījuma kļūda
sajaukt eV ar Dž
Izmēru analīze, vienību kontrole
Nepareizs skaitliskais rezultāts
Nepareiza koda izvade
Palaidiet kodu
apokrifā atribūcija
neesošs raksts
Pārbaude ar DOI
Nepareizi paziņots rezultāts
Īstā raksta sagrozīšana
Izlasiet oriģinālo avotu
Kopējais pavediens ir šāds: liels valodas modelis ir veidots nevis tā, lai pateiktu patiesību, bet lai radītu "iespējama izskata tekstu". Fizikā atšķirība starp "šķietami iespējamo" un "patieso" ir tieši zinātnes pastāvēšanas iemesls.
Atbildība par datiem, privātumu un intelektuālo īpašumu
Fiziķi bieži strādā ar sensitīviem datiem: nepublicētiem eksperimentāliem datiem, projektiem pirms patenta, konfidenciāliem mērījumiem no rūpnieciskās sadarbības, pētījumiem, kas saistīti ar personas veselības vai drošības datiem. Šādu datu ievadīšana vispārējā AI rīkā varētu padarīt tos pieejamus trešajām pusēm un, iespējams, modeļa apmācības datiem, kas nozīmētu gan konfidencialitātes pārkāpumu, gan zinātniskās prioritātes (tiesības būt pirmajam, kas atklāj atklājumu) zaudēšanu. Noteikums ir skaidrs: neievadiet nepublicētus, konfidenciālus vai personas datus AI rīkā, ko jūsu organizācija nav apstiprinājusi. Ja plānojat ievadīt, anonimizēt, minimizējiet (norādiet tikai nepieciešamo) un izlasiet rīka datu nosacījumus.
Uzmanību: laboratorijas nepublicētu mērījumu vai uzņēmuma konfidenciālo dizaina parametru ievadīšana AI rīkā "ātrai analīzei" var būt neatgriezeniska kļūda. Kad dati ir kopīgoti, tos nevar atsaukt. Ja rodas šaubas, neievadiet datus; Vispirms noskaidrojiet savas iestādes politiku un rīka konfidencialitātes noteikumus.
Ētiskās robežas un zinātniskā integritāte
Lietošana var būt tehniski iespējama un pat likumīga, taču tā joprojām ir neētiska. Fizikā ir vairākas sarkanās līnijas, kas attiecas uz zinātnisko integritāti:
Datu izgatavošana vai izrotāšana. Lūgšana AI “ģenerēt punktus, kas labāk atbilst ražai” vai “padarīt diagrammai pārliecinošāku” ir datu krāpšana. Dati tiek ziņoti tādi, kādi tie ir; Novirzes tiek novērstas tikai ar dokumentētu, likumīgu iemeslu.
Ieguldījuma caurspīdīgums. Ja esat izmantojis mākslīgo intelektu pētījumā — koda rakstīšanā, valodas korekcijā, analīzē —, ir godīgi to skaidri norādīt attiecīgajā vietā. Daudzi žurnāli un iestādes to pieprasa.
Autorība un atbildība. AI nav rakstnieks; nevar būt atbildīgs par darba saturu. Atbildība vienmēr gulstas uz cilvēku rakstniekiem. AI radīto kļūdu nevar aizstāvēt, sakot "transportlīdzeklis to izdarīja".
Reproducējamība. Zinātniskā rezultāta iegūšanai metodei (tostarp izmantotajam kodam, parametriem, mākslīgā intelekta uzvednēm) ir jābūt skaidri dokumentētai, lai citi varētu to atkārtot.
trīs mini futrāļi
1. gadījums — konfidenciālu datu noplūde. Viens pētnieks ielīmēja mērījumu datus no neizpaušanas līguma ar uzņēmumu vispārīgā AI rīkā, lai izveidotu ātru grafiku. Vēlāk viņš saprata, ka šis rīks var saglabāt ievades datus. Ir noticis līguma pārkāpums un iespējama prioritātes zaudēšana. Nodarbība: konfidenciāli dati nekad netiek ievadīti neapstiprinātā rīkā.
2. gadījums — izdaiļošanas izdruka. Viens students lūdza AI veikt labojumu, kas "pieļautu, ka dati izskatās tuvāk teorijai", jo eksperimentālie dati pilnībā neatbilda teorijai. Viņa padomnieks to pamanīja un viņu apturēja: neatbilstība nozīmēja vai nu sistemātisku kļūdu eksperimentā, vai interesantu jaunu fiziku — kaut ko, kas ir jāizpēta, nevis jāslēpj. Dati tika ziņoti godīgi, un tika konstatēta sistemātiska kļūda.
3. gadījums — iegūta pārskatāmība. Viena komanda uzrakstīja datu analīzes kodu darbam ar AI palīdzību un skaidri to norādīja metožu sadaļā; koplietoja kodu un uzvednes kā papildu failus. Tiesnesis pārskatīja kodu un ieteica nelielu labojumu. Pārredzamība atklāja kļūdu pirms publicēšanas un palielināja pētījuma ticamību.
Četras kopējamas veidnes
1) Halucināciju skrīnings:
Skenējiet šādus fizikas rezultātus, lai noteiktu halucinācijas: vai ir fiktīvas konstantes, viltus formulu/likuma nosaukumi, vienību/kārtības kļūdas, nepārbaudīti skaitliski rezultāti un neapstiprināti attiecinājumi? Atzīmējiet katru aizdomīgo vienumu un norādiet, kā to pārbaudīt (atsauce, kods, DOI). Izvade: [šeit]
2) Datu konfidencialitātes iepriekšēja pārbaude:
Pirms ievadīšanas AI rīkā novērtējiet šādus datus/tekstu: vai tie satur nepublicētu, konfidenciālu, personisku vai ar līgumu aizsargātu informāciju? Ja tā, iesakiet, kā to anonimizēt vai samazināt. Ja neesat pārliecināts, sakiet "pārbaudiet korporatīvo politiku". Saturs: [šeit]
3) Pārredzamības/ieguldījuma paziņojuma projekts:
Vienā pētījumā es izmantoju AI: [kodēšanai / valodas korekcijai / analīzei utt.]. Uzrakstiet īsu “AI izmantošanas paziņojuma” melnrakstu, kas to godīgi dokumentē. Tajā arī jānorāda, kuras daļas ir pārbaudījuši cilvēki.
4) Zinātniskās integritātes nodrošināšana:
Veiciet šādas analīzes/rezultāta integritātes pārbaudi: dati tiek ziņoti tādi, kādi ir (bez izrotājumiem), vai ir ziņots par nenoteiktībām, vai metode ir dokumentēta reproducējamā veidā, vai AI izmantošana ir pārredzama? Uzskaitiet visus trūkumus. Saturs: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāji: "Rediģējiet ienesīgumu, lai labāk atbilstu teorijai un padarītu grafiku pārliecinošu."
Rezultāts: Datu krāpšana; Tiešs zinātniskās integritātes pārkāpums, neatgriezenisks reputācijas zaudējums.
Spēcīgs: "Ienesums pilnībā neatbilst teorijai. Palīdziet man analizēt iespējamos šīs neatbilstības cēloņus (sistemātiska kļūda, statistiskās svārstības, modeļa trūkums vai jauns efekts); iesakiet, kā godīgi ziņot par neatbilstību, nemainot datus."
Rezultāts: godīga, izmeklējoša un uzticama pieeja zinātniskajai integritātei; Konflikts kļūst par iespēju atklāties.
Biežas kļūdas
- Jauc halucinācijas ar pašapziņu. Tas, ka AI runā pārliecinoši, negarantē precizitāti; Pat visprecīzākais teikums var tikt izdomāts.
- Konfidenciālu datu ievadīšana transportlīdzeklī bez apstiprinājuma. Pēc kopīgošanas datus nevar izgūt; Tiek zaudēta prioritāte un konfidencialitāte.
- Skaisti dati. Datu maiņa uz "atbilstības teoriju" ir viens no smagākajiem zinātniskajiem noziegumiem.
- AI izmantošanas slēpšana. Pārredzamība ir godīguma prasība, un tā ir obligāta daudzās iestādēs.
- Atbildības uzlikšana transportlīdzeklim. “AI to izdarīja” nav aizsardzība; Galvenā atbildība vienmēr gulstas uz cilvēku.
Padoms. Katra ar AI darbināma pētījuma beigās uzdodiet sev trīs jautājumus: (1) Vai katrs fakts, skaitlis un attiecinājums šajā iznākumā ir neatkarīgi pārbaudīts? (2) Vai manis izmantotie dati saturēja konfidenciālu/personisku informāciju, kuru man nevajadzētu ievadīt? (3) Vai esmu pietiekami skaidri dokumentējis savu AI lietojumu un metodiku, lai kāds cits varētu to atkārtot? Ja uz šiem trim jautājumiem nevarat atbildēt skaidri "jā", pētījums vēl nav pabeigts.
Rezumējot
Zinātniskā integritāte ir fizikas pastāvēšanas pamatā un vēl svarīgāka AI laikmetā. Halucinācijas parādās fizikā nepatiesu konstantu, viltus likumu, vienību kļūdu, nepatiesu secinājumu un nepatiesu atsauču veidā; katrs ir tverts ar savu unikālo verifikācijas metodi. Konfidenciālie un personas dati netiek ievadīti nesankcionētos rīkos; dati nekad netiek izdaiļoti; AI izmantošana ir pārredzami dokumentēta; un galīgā atbildība vienmēr gulstas uz cilvēku. Šajā modulī jūs apgūstat tikai vienu disciplīnu: AI ir spēcīgs paātrinātājs, taču pārbaude, integritāte un atbildība gulstas uz kompetenta fiziķa, tas ir, uz jums. Nepārbaudīta AI izvade nekad neaizstāj fiziķa apstiprinājumu.
Lietojumprogrammas uzdevums
Atlasiet AI izvadi (kontu, analīzi vai tekstu), ko izveidojāt šajā modulī. 1. halucināciju ekrāns ar veidni: vai ir kādas fiktīvas konstantes, viltus formulas, vienību kļūdas vai nepārbaudīti attiecinājumi? Izmantojot 2. veidni, novērtējiet, vai izmantotie dati ir draudzīgi privātumam. Visbeidzot, izveidojiet īsu AI lietojuma/pārredzamības paziņojumu ar 3. veidni. Pierakstiet 5–6 teikumos: ko skenēšana atklāja, kādas pārbaudes darbības veicāt?
kontrolsaraksts
- [ ] Es neatkarīgi pārbaudīju katru konstanti, formulu un rezultātu.
- [ ] Esmu pārbaudījis katru citātu ar DOI/avotu.
- [ ] Esmu pārbaudījis, vai rīkā bez apstiprinājuma neesmu ievadījis konfidenciālus/personas datus.
- [ ] Es ziņoju datus tādus, kādi tie ir, bez izskaistinājumiem.
- [ ] Esmu dokumentējis savu AI izmantošanu pārredzamā un reproducējamā veidā.
- [ ] Es piekritu, ka galvenā atbildība ir mana; Nekādu vainu transportlīdzeklim nepiedēvēju.
Moduļa eksāmens
1. Kurš no šiem ir visprecīzākais mākslīgā intelekta pozicionēšanas veids fizikā?
- A) Mākslīgais intelekts ir koda, melnraksta un rediģēšanas palīgs; Atbildība par vienību, rangu, pārbaudi un ētiskiem lēmumiem gulstas uz cilvēku ✔
- B) Mākslīgais intelekts ir kalkulators, un tā sniegtie skaitliskie rezultāti vienmēr ir precīzi
- C) Mākslīgais intelekts darbojas tikai aprēķinos, tam nav nekāda sakara ar eksperimentu analīzi un mācīšanu
- D) Tā kā mākslīgais intelekts ir objektīvāks nekā cilvēki, lēmumi par vienību un rezultātiem ir jāatstāj tā ziņā.
Apraksts: Mākslīgais intelekts; Tas ir palīgs, kas raksta kodu, veido melnrakstus, veido un organizē atvasināšanas ietvarus. Tomēr galīgā atbildība par rezultāta vienību un pasūtījuma pārbaudi, tā nodrošināšanu ar saglabāšanas likumiem, konstantu un atsauces apstiprinājumu ir kompetentam fiziķim. Lielais valodas modelis nav kalkulators vai fizikas dzinējs; ir teksta ģenerators, kas ģenerē “nākamo visticamāko vārdu”, un tā nepārbaudītā izvade var novest pie nepareizas vērtības, dizaina vai rezultāta.
2. Kāds ir visprecīzākais skaitļošanas koda skaitliskā rezultāta tuvinājums, ko izdrukājat lielā valodas modelī?
- A) Uzticoties skaitlim, modelis saka: “šis kods to dod”, jo viņš kodu uzrakstīja
- B) Palaidiet kodu pats un skatiet izvadi; ✔ nepaļaujoties uz modeļa verbālo skaitlisko prognozi
- C) Koda pieņemšana par pareizu, tikai skatoties, kā tas tiek lasīts, to nepalaižot vispār
- D) Ja rezultāts tiek tieši uzdots modelim un tas norāda to pašu skaitli, tas tiek uzskatīts par pareizu.
Paskaidrojums: LLM var “aprēķināt” savā galvā ierakstītā koda izvadi un atgriezt nepareizu skaitli; tā kā, palaižot vienu un to pašu kodu, tas dod pareizo rezultātu. Kas ir deterministisks, ir kods, kas tiek izpildīts; Tā nav modeļa verbāla prognoze. Tāpēc kods vienmēr ir jāpalaiž savā vidē un jāredz izvade.
3. Kāds ir visspēcīgākais veids, kā pārbaudīt, vai bezberzes dinamiskas sistēmas simulācija precīzi atspoguļo fiziku?
- A) Redzot, ka diagramma izskatās vizuāli glīta un pārliecinoša
- B) Simulācijas veikšana tikai ar vienu laika soli un uzticēšanās rezultātam
- C) Uzraudzīt lielumu, kas jāsaglabā, piemēram, kopējā enerģija vai impulss, un pārbaudīt, vai tas paliek nemainīgs ✔
- D) Simulācijas novērtēšana pēc tā, cik ātri tā darbojas
Paskaidrojums: bezberzes sistēmā jāsaglabā kopējā enerģija (un impulss, ja tāds ir). Pārraugot šo lielumu simulācijas laikā un pārbaudot, vai tas paliek nemainīgs, tiek atklāti skaitliski trūkumi (piemēram, primitīvā Eilera metode, kas pastāvīgi palielina enerģiju). Ja enerģija dreifē, simulācija nav uzticama; Tas, ka tas rada jauku grafiku, nenozīmē, ka tas ir pareizs.
4. Kura no tālāk norādītajām metodēm ir pareizākā, pielāgojot modeli eksperimentālajiem datiem?
- A) Izvēlēties augstākas pakāpes polinomu, kas vislabāk atbilst datiem, jo tas iet cauri visiem punktiem
- B) Parametru došana kā viens skaitlis bez neskaidrības
- C) Pieguļības kvalitātes deklarēšana, vienkārši aplūkojot, cik skaisti izskatās līkne.
- D) Modeļa izvēle no fizikas, parametru ziņošana ar to nenoteiktībām un atbilstības novērtēšana ar atlikumiem ✔
Paskaidrojums. Modelis ir jāizvēlas no fiziskā likuma, kas notikumam ir jāievēro, nevis skatoties uz datiem un domājot, “kurš no tiem vislabāk atbilst”. Ar pietiekami daudz brīvu parametru (piemēram, augstas pakāpes polinomu) jebkuriem datiem var izveidot “ideālu”, bet fiziski bezjēdzīgu pielāgošanos (overfit). Parametri jānorāda ar to nenoteiktību, atbilstības kvalitāte jānovērtē ar atlikumiem un jāpārbauda fiziskā ticamība.
5. Mērījumu atkārtošana daudzas reizes samazina kāda veida nenoteiktību?
- A) nejauša nenoteiktība; sistemātiskā nenoteiktība ar atkārtošanos nemazinās, ir jāatrod un jālabo cēlonis ✔
- B) Sistemātiska nenoteiktība; jo tas novērš atkārtotas kalibrēšanas kļūdu
- C) Pilnībā novērš abas neskaidrības
- D) nesamazina nevienu no tiem; nenoteiktība nav atkarīga no mērījumu skaita
Paskaidrojums: Atkārtoti mērījumi samazina nejaušo nenoteiktību (ar vidējās std/√N standarta kļūdu), kas izriet no nejaušas rezultātu sadalījuma. Savukārt sistemātiskā nenoteiktība ir kļūda, kas vienmēr novirzās vienā virzienā (piemēram, nepareizi kalibrēts līdzsvars) un nesamazinās ar atkārtošanos; Tomēr cēloni var atrast un novērst. Ziņošana par “ļoti mazu” nenoteiktību ar vairākiem mērījumiem var paslēpt pamatā esošo sistemātisku kļūdu.
6. Kāds ir visuzticamākais neatkarīgais veids, kā pārbaudīt AI iegūto kļūdu izplatīšanās formulu?
- A) Paļauties uz formulu, lai tā izskatās plūstoša un pārliecinoša
- B) Savstarpēja pārbaude ar Montekarlo aprēķinu, kas nejauši atlasa ievades datus ar to nenoteiktību ✔
- C) Atkārtoti lūgt mākslīgajam intelektam to pašu formulu un gaidīt, ka tas dos tādu pašu rezultātu
- D) Nenoteiktību tieša apkopošana un salīdzināšana ar rezultātu
Paskaidrojums: AI bieži sajauc daļējus atvasinājumu koeficientus un kvadrātsaknes struktūru kļūdu izplatīšanās formulās. Spēcīgs veids, kā to panākt neatkarīgi, ir Montekarlo kontrolpārbaude: katras ievades izlases izlase ar tās nenoteiktību, funkcijas aprēķināšana tūkstošiem reižu un izvades standarta novirzes salīdzināšana ar formulas noteikto nenoteiktību. Divu neatkarīgu metožu satikšanās vairo pārliecību.
7. Kāds ir pareizs darba sadalījums starp AI un SymPy garā simboliskās fizikas atvasinājumā?
- A) SymPy ģenerē atvasinājuma ideju, AI precīzi pārbauda katru soli
- B) abi ir nevajadzīgi; gari atvasinājumi jāveic tikai manuāli
- C) AI veido atvasināšanas sistēmu, SymPy precīzi pārbauda katru algebrisko soli ✔
- D) mākslīgais intelekts veic atvasināšanu pats, nav nepieciešama pārbaude, jo tas izskatās raiti
Paskaidrojums: AI stratēģizē atvasinājumu un izskaidro ceļu, bet garajā algebrā tas rada zīmju kļūdas, izplūdes terminus un nepareizus vienkāršojumus. No otras puses, SymPy darbojas saskaņā ar noteikumiem un precīzi pārbauda katru algebrisko soli. Visjaudīgākā darbplūsma apvieno abus: iegūstiet skeletu no AI, iegūstiet katru soli ar SymPy, pārbaudiet rezultātu ar atvasinātā integrāļa apgriezto un robežgadījumu.
8. Ko dimensiju analīze stāsta par fizikālās formulas precizitāti?
- A) Dimensiju analīze vienmēr pierāda, ka formula ir pareiza
- B) Dimensiju analīzei fizikā nav praktiskas vērtības
- C) Dimensiju analīze dod tikai formulas nemainīgo faktoru, nevis tās konsekvenci
- D) Formula, kas neatbilst izmēriem, ir absolūti nepareiza; izmēru analīze uztver kļūdu, neskaitot skaitļus ✔
Paskaidrojums. Fiziskā vienādojuma abām pusēm pēc izmēriem jābūt vienādām, lai tās varētu būt skaitliski vienādas. Formula, kas nesatur izmērus, ir vienkārši nepareiza; tas tiek fiksēts no skaitīšanas aprēķina. Dimensiju analīze neapšaubāmi nepierāda, ka formula ir pareiza (tai var izlaist bezdimensiju nemainīgu faktoru vai leņķi), bet tā pārliecinoši pierāda, ka tā ir nepareiza; tāpēc tā ir pirmā un lētākā katra konta revīzija.
9. Kāds ir vissvarīgākais pirmais solis, aprēķinot objekta kinētisko enerģiju, kas pārvietojas ar ātrumu 36 km/h?
- A) visu ievades datu pārvēršana vienā vienību sistēmā (SI); Pārvēršot 36 km/h uz 10 m/s ✔
- B) Ātruma ielikšana km/h tieši formulā, nepārvēršot to m/s
- C) Reizinot tikai skaitļus, neņemot vērā vienības
- D) Pieņemot, ka pēc rezultāta aprēķināšanas pasūtījums nav jāpārbauda
Paskaidrojums: formulas, kuru pamatā ir SI (E = ½mv²), paredz ātrumu m/s. Km/h jaukšana ar m vai stundu ar sekundēm aprēķinos ir viena no visbiežāk pieļautajām kļūdām fizikā. Vispirms visas ievades ir jāpārvērš vienā vienību sistēmā (SI): 36 km/h = 10 m/s. Tā kā mākslīgais intelekts var pieļaut klusas kļūdas salikto vienību pārrēķinos, šī konversija ir jāpārbauda manuāli vai ar vienību apzinošu rīku.
10. Kura prakse ir pareiza attiecībā uz “godīgumu” zinātniskā grafikā?
- A) Nenoteiktības slēpšana, jo kļūdu joslas pārblīvē diagrammu
- B) Apzīmējiet asis ar mērvienībām, atlasiet skalu bez kropļojumiem un parādiet nenoteiktību ar kļūdu joslām ✔
- C) Vienmēr sāciet y asi tajā diapazonā, kurā būs redzama visdramatiskākā atšķirība
- D) Atstājiet asis bez vienībām, jo lasītājs var uzminēt mērvienību
Apraksts: Godīga zinātniska diagramma; tas apzīmē asis ar lielumu un mērvienību, apzināti un bez kropļojumiem izvēlas mērogu (pārspīlējuma dēļ y ass startēšana prom no nulles ir maldinoša), un mērījumu nenoteiktība ir redzama ar kļūdu joslām. Slēpjot nenoteiktību, dati šķiet droši un rada maldīgu priekšstatu par neobjektivitāti vai vienošanos. Jo pārliecinošāka ir grafika, jo svarīgāka ir integritātes pārbaude.
11. Kāds ir lielākais risks un pareizā disciplīna, iegūstot literatūras un citēšanas atbalstu no mākslīgā intelekta?
- A) Mākslīgais intelekts tērē laiku, jo tas ļoti lēni veido citātus
- B) Mākslīgā intelekta ieteiktie avoti vienmēr ir reāli, verifikācija nav nepieciešama
- C) mākslīgais intelekts var radīt attiecinājumus, kas šķiet reāli, bet neeksistē; Katrs citāts ir jāpārbauda ar DOI/avotu, un literatūra jāatrod no faktiskās datu bāzes ✔
- D) izdomāti citāti ir viegli atpazīstami, jo tajos vienmēr tiek izmantoti nereāli žurnālu nosaukumi
Paskaidrojums: liels valodas modelis nav savienots ar faktisko datu bāzi; Atdarinot citēšanas modeļus, tas var radīt rakstus, kuros ir īsts žurnāla nosaukums, uzticami autori un saprātīgs gads, taču tie pilnībā neeksistē. Tāpēc literatūra ir jāatrod no reālām datu bāzēm, AI jāizmanto tikai, lai apkopotu/tulkotu faktisko tekstu, un katrs citāts ir neatkarīgi jāpārbauda pēc DOI vai nosaukuma. Nepārbaudīts citāts ir akadēmiskās integritātes pārkāpums.
12. Kas nepieciešams, lai iegūtu ticamus rezultātus, AI apkopojot rakstu?
- A) Pietiek tikai norādīt raksta nosaukumu, modelis zina saturu
- B) Izmantojot kopsavilkumu tieši, nepārbaudot to vispār, jo tas izskatās šķidrs
- C) Divreiz pieprasot modelim vienu un to pašu kopsavilkumu un pieņemt to kā pareizu, ja tas ir līdzīgs.
- D) Oriģinālā teksta nodošana modelim un sagatavotā kopsavilkuma salīdzināšana ar oriģinālo tekstu, lai pārbaudītu, vai nekas nav pievienots/sagrozīts ✔
Paskaidrojums: vienkārši piešķirot AI raksta virsrakstu un pieprasot kopsavilkumu, modelis parādīs “ticamu kopsavilkumu”, nekad neredzot rakstu; Šis kopsavilkums var būt pretējs patiesībai. Uzticamu kopsavilkumu var iegūt tikai tad, ja oriģinālais teksts tiek ievadīts modelī un ģenerētais kopsavilkums tiek salīdzināts ar oriģinālo tekstu. Turklāt ir jāpārbauda, vai kopsavilkumā nav pievienoti rezultāti vai skaitļi, kas nav tekstā.
13. Kas attiecas uz mākslīgā intelekta produkciju fizikas kursa materiālu ražošanā?
- A) Katrs risinājums ir neatkarīgi jāpārbauda, jāprecizē analoģiju robežas, un traucējošie faktori jāvērš pret patiesiem maldīgiem priekšstatiem ✔
- B) Mākslīgā intelekta radītā atbildes atslēga vienmēr ir pareiza, audits nav nepieciešams
- C) Analogijas ir ideālas visos gadījumos, nav nepieciešams norādīt to robežas.
- D) Traucējumus vajadzētu izvēlēties pilnīgi nejauši, jo nepareizās izvēles būtībai nav nozīmes.
Apraksts: AI ātri ģenerē jautājumus, piemērus un analoģijas, taču pārbaude ir būtiska trīs punktos: katras problēmas risinājums ir jāpārbauda neatkarīgi (ar roku vai ar kodu), jo modelis risinājumā var radīt zīmes/vienības kļūdas; Katra līdzība ir jānorāda, kur tā sabojājas, pretējā gadījumā tā radīs jaunu kļūdu; Traucējumiem vajadzētu pievērsties patiesiem maldīgiem priekšstatiem. Atbildība gulstas uz skolotāju; Nepareizas atbildes atslēga rada skolēniem pārpratumus, kurus ir grūti labot.
14. Kāda ir uzvedība, kas atbilst zinātniskajai integritātei, ja eksperimentālie dati pilnībā neatbilst teorijai?
- A) Ja ir mākslīgais intelekts, sakārtojiet datus, lai tie atbilstu teorijai, un pārliecinoši parāda grafiku
- B) Izpētīt neatbilstības iemeslus (sistemātiska kļūda, modeļa trūkums, jauns efekts) un godīgi ziņot, nemainot datus ✔
- C) domstarpību ignorēšana un ziņošana tikai par tiem punktiem, kas atbilst
- D) Datu dzēšana un jauna eksperimenta rezultāta pielāgošana
Paskaidrojums. Lūgšana AI “sakārtot datus, lai tie labāk atbilstu teorijai” ir datu krāpšana un rupjš zinātniskās integritātes pārkāpums. Domstarpības ir kaut kas izmeklējams, nevis slēpts: tas var norādīt uz sistemātisku kļūdu, statistiskām svārstībām, modeļa trūkumu vai interesantu jaunu efektu. Dati tiek ziņoti tādi, kādi tie ir, ar nenoteiktību; Galvenā atbildība gulstas uz personu, un “rīks, ko tas izdarīja”, nav aizsardzība.