Halucinácie, etika, dôvernosť a vedecká integrita

zisky:

• Schopnosť rozpoznať formy halucinácií vo fyzike (falošná konštanta, falošný zákon, jednotková chyba, nesprávny výsledok, falošná atribúcia) a zachytiť ich vhodnou metódou.
• Schopnosť chrániť nezverejnené, dôverné a osobné údaje anonymizáciou a minimalizáciou ich nezadávaním do neautorizovaných nástrojov
• Byť schopný pochopiť, že konečná zodpovednosť spočíva na ľuďoch čestným nahlasovaním údajov bez prikrášľovania a transparentným dokumentovaním používania umelej inteligencie.

V rámci tohto modulu sme v každej jednotke pokryli rovnakú disciplínu: umelá inteligencia (AI) zrýchľuje, overujú ľudia. V tejto záverečnej časti spájame celú túto overovaciu prax pod záštitou vedeckej integrity, najzákladnejšej hodnoty fyzikálnej vedy. Fyzika je snaha o získanie overiteľných vedomostí o prírode; Základom tohto úsilia je integrita, opakovateľnosť a zodpovednosť. Umelá inteligencia môže byť použitá na posilnenie týchto hodnôt – ale pri nesprávnom použití ich všetky ohrozuje. V tejto časti budeme diskutovať o fyzických formách halucinácií, o zodpovednosti za údaje a súkromie, o etických hraniciach a o tom, prečo konečná zodpovednosť vždy zostáva na ľuďoch.

Formy halucinácií vo fyzike

Halucinácie – sebavedomá produkcia falošných informácií AI – má vo fyzike jedinečné a nebezpečné formy. Rozpoznať toto je prvým krokom k chyteniu:

typ halucinácie

príklad

Metóda zachytávania

Montáž fixná/dátová

Nesprávna hustota materiálu

Potvrdenie so spoľahlivým odkazom

Falošný vzorec/zákon

Neexistujúce „principové“ meno

Učebnica/odvodzovanie SymPy

Chyba jednotky/objednávky

zameniť eV za J

Rozmerová analýza, riadenie jednotiek

Nesprávny číselný výsledok

Nesprávny výstup kódu

Spustite kód

apokryfné pripisovanie

neexistujúci článok

Overenie pomocou DOI

Nesprávne nahlásený výsledok

Skreslenie skutočného článku

Prečítajte si pôvodný zdroj

Spoločné vlákno je toto: veľký jazykový model nie je navrhnutý tak, aby hovoril pravdu, ale aby produkoval „možno vyzerajúci text“. Vo fyzike je rozdiel medzi „zdanlivo možným“ a „pravdivým“ presne dôvodom existencie vedy.

Údaje, súkromie a zodpovednosť za duševné vlastníctvo

Fyzici často pracujú s citlivými údajmi: nepublikované experimentálne údaje, návrhy pred patentovaním, dôverné merania z priemyselnej spolupráce, výskum zahŕňajúci osobné údaje o zdraví alebo bezpečnosti. Zadanie takýchto údajov do všeobecného nástroja AI by ich mohlo sprístupniť tretím stranám a možno aj tréningové údaje modelu – čo by znamenalo porušenie dôvernosti a stratu vedeckej priority (právo byť prvým, kto niečo objaví). Pravidlo je jasné: nezadávajte nezverejnené, dôverné alebo osobné údaje do nástroja AI, ktorý vaša organizácia neschválila. Ak sa chystáte zadať, anonymizujte, minimalizujte (uveďte len to, čo je nevyhnutné) a prečítajte si dátové podmienky nástroja.

Upozornenie: Zadávanie nepublikovaných meraní laboratória alebo dôverných konštrukčných parametrov spoločnosti do nástroja AI „na rýchlu analýzu“ môže byť nezvratnou chybou. Po zdieľaní údajov ich nemožno vyvolať. Ak máte pochybnosti, nezadávajte údaje; Najprv si ujasnite pravidlá vašej inštitúcie a podmienky ochrany osobných údajov nástroja.

Etické hranice a vedecká integrita

Použitie môže byť technicky možné a dokonca legálne, no stále môže byť neetické. Vo fyzike existuje niekoľko červených čiar, ktoré sa týkajú vedeckej integrity:

Výroba alebo prikrášlenie údajov. Požiadať AI, aby „generovala body, ktoré lepšie zodpovedajú výnosu“ alebo „aby graf vyzeral presvedčivejšie“, je podvod s údajmi. Údaje sa vykazujú tak, ako sú; Odľahlé hodnoty sú eliminované len so zdokumentovaným, legitímnym dôvodom.

Transparentnosť príspevku. Ak ste použili AI v štúdii – písanie kódu, jazykové opravy, analýza – je fér to na vhodnom mieste objasniť. Mnohé časopisy a inštitúcie to vyžadujú.

Autorstvo a zodpovednosť. AI nie je spisovateľ; nemôže zodpovedať za obsah diela. Zodpovednosť je vždy na ľudských spisovateľoch. Chybu, ktorú vytvorila AI, nie je možné obhajovať tým, že to urobilo vozidlo.

Reprodukovateľnosť. Vedecký výsledok vyžaduje, aby bola metóda (vrátane použitého kódu, parametrov, výziev AI) jasne zdokumentovaná, aby ju ostatní mohli replikovať.

tri mini prípady

Prípad 1 – Únik dôverných údajov. Jeden výskumník vložil namerané údaje z dohody o mlčanlivosti so spoločnosťou do všeobecného nástroja AI „pre rýchly graf“. Neskôr si uvedomil, že tento nástroj dokáže ukladať vstupy. Došlo k porušeniu zmluvy a možnej strate prednosti. Poučenie: dôverné údaje sa nikdy nezadávajú do neschváleného nástroja.

Prípad 2 – Skrášľovacia potlač. Jeden študent požiadal AI ​​o úpravu, ktorá by „priblížila dátam teórii“, pretože experimentálne dáta úplne nezodpovedali teórii. Jeho poradca si to všimol a zastavil ho: nezrovnalosť znamenala buď systematickú chybu v experimente, alebo zaujímavú novú fyziku – niečo, čo treba preskúmať, nie skrývať. Údaje boli hlásené čestne a bola zistená systematická chyba.

Prípad 3 – Získanie transparentnosti. Jeden tím napísal kód analýzy údajov pre dokument s pomocou AI a jasne to uviedol v časti metód; zdieľal kód a výzvy ako ďalšie súbory. Rozhodca skontroloval kód a navrhol menšiu opravu. Transparency zachytila ​​chybu ešte pred zverejnením a zvýšila dôveryhodnosť štúdie.

Štyri kopírovateľné šablóny

1) Skríning halucinácií:

Naskenujte nasledujúci výstup z fyziky, či neobsahuje halucinácie: existujú nejaké falošné konštanty, falošné názvy vzorcov/zákonov, chyby jednotiek/poradí, neoverené číselné výsledky a nepotvrdené priradenia? Označte každú podozrivú položku a uveďte, ako ju overiť (odkaz, kód, DOI). Výstup: [tu]

2) Predbežná kontrola ochrany osobných údajov:

Vyhodnoťte nasledujúce údaje/text pred ich zadaním do nástroja AI: obsahuje nezverejnené, dôverné, osobné alebo zmluvne chránené informácie? Ak áno, navrhnite, ako ho môžem anonymizovať alebo minimalizovať. Ak si nie ste istí, povedzte „skontrolujte firemnú politiku“. Obsah: [tu]

3) Návrh vyhlásenia o transparentnosti/príspevku:

V jednej štúdii som použil AI na: [kódovanie / korekciu jazyka / analýzu atď.]. Napíšte krátky návrh „vyhlásenia o používaní AI“, ktorý to úprimne zdokumentuje. Malo by tiež uvádzať, ktoré časti boli overené ľuďmi.

4) Zabezpečenie vedeckej integrity:

Vykonajte kontrolu integrity pre nasledujúcu analýzu/výsledok: údaje sa vykazujú tak, ako sú (bez prikrášľovania), uvádzajú sa neistoty, je metóda zdokumentovaná reprodukovateľným spôsobom, je použitie AI transparentné? Uveďte prípadné nedostatky. Obsah: [tu]

Slabá výzva / Silná výzva

Slabé: "Upravte výnos tak, aby lepšie zodpovedal teórii a aby bol graf presvedčivý."

Výsledok: Podvod s údajmi; Priame porušenie vedeckej integrity, nezvratná strata dobrého mena.

Strong: "Výnos úplne nesúhlasí s teóriou. Pomôžte mi analyzovať možné príčiny tejto nezrovnalosti (systematická chyba, štatistické kolísanie, chýbajúci model alebo nový efekt); navrhnite, ako čestne oznámiť nezrovnalosť bez zmeny údajov."

Výsledok: Čestný, investigatívny a verný prístup k vedeckej integrite; Konflikt sa stáva príležitosťou na objavenie.

Časté chyby

• Zamieňanie halucinácie so sebavedomím. Len preto, že AI ​​hovorí s istotou, nie je zárukou presnosti; Aj tá najpresnejšia veta môže byť vymyslená.
• Zadávanie dôverných údajov do vozidla bez schválenia. Po zdieľaní nie je možné údaje získať; Priorita a dôvernosť sú stratené.
• Skrášľujúce údaje. Zmena údajov na „teóriu prispôsobenia“ je jedným z najzávažnejších vedeckých zločinov.
• Skrytie používania AI. Transparentnosť je podmienkou čestnosti a je povinná v mnohých inštitúciách.
• Prenesenie zodpovednosti na vozidlo. „Urobila to AI“ nie je obrana; Konečná zodpovednosť je vždy na ľudskej bytosti.

Tip: Na konci každej štúdie založenej na AI si položte tri otázky: (1) Boli všetky fakty, čísla a priradenia v tomto výstupe nezávisle overené? (2) Obsahovali údaje, ktoré som použil, dôverné/osobné informácie, ktoré by som nemal zadávať? (3) Zdokumentoval som svoje používanie a metodiku AI dostatočne transparentne, aby ich mohol replikovať niekto iný? Ak na tieto tri otázky neviete odpovedať jednoznačne „áno“, štúdium ešte nie je ukončené.

V súhrne

Vedecká integrita je základom existencie fyziky a je ešte dôležitejšia vo veku AI. Halucinácie sa vo fyzike objavujú vo forme falošných konštánt, falošných zákonov, jednotkových chýb, falošných záverov a falošných odkazov; každý je zachytený svojou vlastnou jedinečnou metódou overovania. Dôverné a osobné údaje sa nevkladajú do neoprávnených nástrojov; údaje nie sú nikdy skrášľované; Používanie AI je transparentne zdokumentované; a konečná zodpovednosť je vždy na človeku. V tomto module sa naučíte iba jednu disciplínu: AI je výkonný akcelerátor, ale overovanie, integrita a zodpovednosť spočíva na pleciach kompetentného fyzika – teda vás. Neoverený výstup AI nikdy nenahradí potvrdenie fyzika.

Aplikačná úloha

Vyberte výstup AI (účet, analýzu alebo text), ktorý ste vytvorili v tomto module. 1. obrazovka pre halucinácie so šablónou: existujú nejaké fiktívne konštanty, falošné vzorce, chyby jednotiek alebo neoverené atribúty? Pomocou šablóny 2 zhodnoťte, či údaje, ktoré používate, sú šetrné k súkromiu. Nakoniec napíšte krátke vyhlásenie o používaní/transparentnosti AI so šablónou 3. Napíšte 5-6 vetami: čo sken odhalil, aké overovacie kroky ste podnikli?

kontrolný zoznam

• [ ] Nezávisle som overil každú konštantu, vzorec a výsledok vo výstupe.
• [ ] Každú citáciu som overil pomocou DOI/zdroja.
• [ ] Skontroloval som, či som do nástroja nezadal dôverné/osobné údaje bez súhlasu.
• [ ] Údaje som nahlásil tak, ako sú, bez prikrášľovania.
• [ ] Svoje používanie AI som zdokumentoval transparentným a reprodukovateľným spôsobom.
• [ ] Prijal som, že konečná zodpovednosť je na mne; Nepripisoval som vozidlu žiadnu chybu.

Modulová skúška

1. Ktoré z nasledujúcich je najpresnejšie určovanie polohy pre umelú inteligenciu vo fyzike?

• A) Umelá inteligencia je asistent kódu, návrhu a úpravy; Zodpovednosť za jednotku, hodnosť, overovanie a etické rozhodnutia nesie ľudská bytosť ✔
• B) Umelá inteligencia je kalkulačka a číselné výsledky, ktoré dáva, sú vždy presné
• C) Umelá inteligencia funguje len vo výpočtoch, nemá nič spoločné s rozborom experimentov a vyučovaním
• D) Keďže umelá inteligencia je nestrannejšia ako ľudia, rozhodovanie o jednotkách a výsledkoch by sa malo ponechať na ňu.

Popis: Umelá inteligencia; Je to asistent, ktorý píše kód, vytvára návrhy, vytvára a organizuje odvodzovacie rámce. Avšak konečná zodpovednosť za jednotkové a poradové overenie výsledku, jeho zabezpečenie so zákonmi zachovania, konštantné a referenčné potvrdenie patrí kompetentnému fyzikovi. Veľký jazykový model nie je kalkulačka alebo fyzikálny motor; je textový generátor, ktorý vytvára „ďalšie najpravdepodobnejšie slovo“ a jeho neoverený výstup môže viesť k nesprávnej hodnote, dizajnu alebo výsledku.

2. Aká je najpresnejšia aproximácia číselného výsledku výpočtového kódu, ktorý vytlačíte do veľkého jazykového modelu?

• A) Dôverujúc číslu model hovorí „tento kód dáva tamto“, pretože kód napísal on
• B) Spustite kód sami a pozrite si výstup; ✔ nespoliehanie sa na verbálnu numerickú predpoveď modelu
• C) Akceptovanie kódu ako správneho len tým, že sa pozriete na to, ako sa číta, bez toho, aby ste ho vôbec spustili
• D) Ak je výsledok opäť priamo požiadaný o model a ten hovorí rovnaké číslo, považuje sa za správny.

Vysvetlenie: LLM môže 'vypočítať' výstup kódu, ktorý napísal vo svojej hlave, a vrátiť nesprávne číslo; zatiaľ čo keď je spustený rovnaký kód, dáva správny výsledok. Čo je deterministické, je kód, ktorý sa vykonáva; Nejde o verbálnu predpoveď modelu. Preto by mal byť kód vždy spustený vo vašom vlastnom prostredí a výstup by mal byť videný.

3. Aký je najúčinnejší spôsob, ako otestovať, či simulácia dynamického systému bez trenia presne odráža fyziku?

• A) Vidieť, že graf vyzerá vizuálne úhľadne a presvedčivo
• B) Spustenie simulácie iba s jedným časovým krokom a dôvera výsledku
• C) Monitorovanie množstva, ktoré je potrebné zachovať, ako je celková energia alebo hybnosť, a kontrola, či zostáva konštantná ✔
• D) Hodnotenie simulácie podľa toho, ako rýchlo prebieha

Vysvetlenie: V systéme bez trenia sa musí zachovať celková energia (a hybnosť, ak existuje). Monitorovanie tejto veličiny počas simulácie a zistenie, či zostáva konštantná, odhaľuje numerické chyby (napr. primitívna Eulerova metóda neustále zvyšuje energiu). Ak sa energia unáša, simulácia je nespoľahlivá; To, že vytvára peknú grafiku, ešte neznamená, že je to správne.

4. Ktorý z nasledujúcich prístupov je správny pri prispôsobovaní modelu experimentálnym údajom?

• A) Výber polynómu vyššieho stupňa, ktorý najlepšie vyhovuje údajom, pretože prechádza všetkými bodmi
• B) Uvedenie parametrov ako jedno číslo bez dvojznačnosti
• C) Deklarovanie kvality prispôsobenia jednoduchým pohľadom na to, ako krásne krivky vyzerajú.
• D) Výber modelu z fyziky, nahlásenie parametrov s ich neistotami a vyhodnotenie zhody so zvyškami ✔

Vysvetlenie: Model by sa mal vybrať z fyzikálneho zákona, ktorému sa udalosť musí podriadiť, nie tak, že sa pozriete na údaje a budete sa pýtať, „ktorý z nich najlepšie vyhovuje“. S dostatkom voľných parametrov (napr. polynóm vysokého stupňa) je možné vytvoriť „dokonalé“, ale fyzicky nezmyselné prispôsobenie (overfit) pre akékoľvek údaje. Parametre by sa mali uviesť s ich neistotou, kvalita prispôsobenia by sa mala vyhodnotiť so zvyškovými hodnotami a mala by sa skontrolovať fyzická vierohodnosť.

5. Ktorý typ neistoty znižuje mnohonásobné opakovanie merania?

• A) Náhodná neistota; systematická neistota opakovaním neklesá, treba nájsť príčinu a opraviť ju ✔
• B) Systematická neistota; pretože eliminuje chybu rekalibrácie
• C) Úplne odstraňuje obe nejasnosti
• D) neznižuje žiadnu z nich; neistota je nezávislá od počtu meraní

Vysvetlenie: Opakované meranie znižuje náhodnú neistotu (so štandardnou chybou priemeru std/√N) vyplývajúcu z náhodného rozdelenia výsledkov. Systematická neistota je naproti tomu chyba, ktorá sa vždy odchyľuje rovnakým smerom (napríklad nesprávne ciachovaná váha) a opakovaním sa nezmenšuje; Príčina sa však dá nájsť a napraviť. Hlásenie „veľmi malej“ neistoty s viacerými meraniami môže skrývať základnú systematickú chybu.

6. Aký je najspoľahlivejší nezávislý spôsob overenia vzorca šírenia chýb odvodeného AI?

• A) Spoliehanie sa na to, že vzorec bude pôsobiť plynule a presvedčivo
• B) Krížová kontrola s výpočtom Monte Carlo, ktorý náhodne odoberie vstupy s ich neistotou ✔
• C) Znovu požiadať umelú inteligenciu o rovnaký vzorec a očakávať, že prinesie rovnaký výsledok
• D) Priamy zber neistôt a ich porovnanie s výsledkom

Vysvetlenie: AI často kombinuje parciálne derivačné koeficienty a štruktúru druhej odmocniny vo vzorcoch šírenia chýb. Účinným spôsobom, ako to dosiahnuť nezávisle, je krížová kontrola Monte Carlo: náhodný výber každého vstupu s jeho neistotou, výpočet funkcie tisíckrát a porovnanie štandardnej odchýlky výstupu s neistotou danou vzorcom. Stretnutie dvoch nezávislých metód zvyšuje dôveru.

7. Aká je správna deľba práce medzi AI a SymPy v dlhom odvodzovaní symbolickej fyziky?

• A) SymPy generuje myšlienku odvodenia, AI presne overuje každý krok
• B) Oboje je zbytočné; dlhé derivácie sa musia robiť iba ručne
• C) AI vytvára rámec odvodenia, SymPy presne overuje každý algebraický krok ✔
• D) Umelá inteligencia robí odvodenie sama, nie je potrebné overovanie, pretože vyzerá plynule

Vysvetlenie: AI stratéguje odvodenie a vysvetľuje cestu, ale v dlhej algebre robí chyby v znamienkach, uniknuté výrazy a nesprávne zjednodušenia. SymPy na druhej strane funguje podľa pravidiel a presne overuje každý algebraický krok. Najvýkonnejší pracovný postup kombinuje tieto dve veci: získajte kostru z AI, vytvorte každý krok pomocou SymPy, otestujte výsledok pomocou derivačno-integrálnej inverzie a hraničného prípadu.

8. Čo hovorí rozmerová analýza o presnosti fyzikálneho vzorca?

• A) Rozmerová analýza vždy definitívne dokáže, že vzorec je správny
• B) Rozmerová analýza nemá vo fyzike žiadnu praktickú hodnotu
• C) Rozmerová analýza poskytuje iba konštantný faktor vzorca, nie jeho konzistenciu
• D) Vzorec, ktorý rozmerovo neplatí, je absolútne nesprávny; rozmerová analýza zachytí chyby bez počítania čísel ✔

Vysvetlenie: Dve strany fyzikálnej rovnice musia byť rozmerovo rovnaké, aby sa mohli rovnať číselne. Vzorec, ktorý neplatí rozmerovo, je jednoducho nesprávny; toto je zachytené z výpočtu počtu. Rozmerová analýza presvedčivo nedokazuje, že vzorec je správny (môže chýbať bezrozmerný konštantný faktor alebo uhol), ale presvedčivo dokazuje, že je nesprávny; takže je to prvý a najlacnejší audit každého účtu.

9. Aký je najdôležitejší prvý krok pri výpočte kinetickej energie objektu pohybujúceho sa rýchlosťou 36 km/h?

• A) Prevod všetkých vstupov do jedného systému jednotiek (SI); Premena 36 km/h na 10 m/s ✔
• B) Zadanie rýchlosti v km/h priamo do vzorca bez prepočtu na m/s
• C) Násobenie iba čísel bez zohľadnenia jednotiek
• D) Za predpokladu, že po vypočítaní výsledku nie je potrebné kontrolovať objednávku

Vysvetlenie: Vzorce založené na SI (E = ½ mv²) očakávajú rýchlosť v m/s. Zamieňanie km/h s m alebo hodín so sekundami vo výpočte je jednou z najčastejších chýb vo fyzike. Najprv musia byť všetky vstupy prevedené do jedného systému jednotiek (SI): 36 km/h = 10 m/s. Keďže AI môže robiť tiché chyby pri konverziách zložených jednotiek, túto konverziu je potrebné overiť manuálne alebo pomocou nástroja na rozpoznávanie jednotiek.

10. Ktorá prax je správna z hľadiska „čestnosti“ vo vedeckom grafe?

• A) Skrytie neistoty, pretože chybové úsečky prekrývajú graf
• B) Označte osi jednotkami, vyberte mierku bez skreslenia a zobrazte neistotu pomocou chybových pruhov ✔
• C) Vždy začnite os y v rozsahu, ktorý bude vykazovať najdramatickejší rozdiel
• D) Ponechanie osí bez jednotiek, pretože čitateľ môže jednotku uhádnuť

Popis: Úprimná vedecká tabuľka; osi označuje veľkosťou a jednotkou, mierku volí vedome a bez skreslenia (začínanie osi y od nuly z dôvodu preháňania je zavádzajúce) a neistotu merania zviditeľňuje pomocou chybových čiar. Skrytie neistoty spôsobuje, že údaje sa zdajú byť isté a vytvára falošný dojem zaujatosti alebo dohody. Čím presvedčivejšia je grafika, tým dôležitejšia je kontrola integrity.

11. Aké je najväčšie riziko a správna disciplína pri získavaní literatúry a podpory citácií od umelej inteligencie?

• A) Umelá inteligencia stráca čas, pretože vytvára citácie veľmi pomaly
• B) Zdroje navrhované umelou inteligenciou sú vždy skutočné, nie je potrebné ich overovanie
• C) Umelá inteligencia môže produkovať atribúty, ktoré sa zdajú skutočné, ale neexistujú; Každá citácia musí byť overená pomocou DOI/zdroja a literatúra musí byť nájdená z aktuálnej databázy ✔
• D) Vymyslené citácie sú ľahko rozpoznateľné, pretože vždy používajú nereálne názvy časopisov

Vysvetlenie: Veľký jazykový model nie je pripojený k skutočnej databáze; Napodobňovaním vzorcov citácií môže produkovať články, ktoré nesú skutočný názov časopisu, dôveryhodných autorov a primeraný rok, ale úplne neexistujú. Preto by sa literatúra mala nájsť zo skutočných databáz, AI by sa mala používať iba na zhrnutie/preloženie aktuálneho textu a každá citácia by mala byť nezávisle overená podľa DOI alebo názvu. Neoverená citácia je porušením akademickej integrity.

12. Čo je potrebné na získanie spoľahlivých výsledkov, keď AI sumarizuje článok?

• A) Stačí uviesť názov článku, modelka pozná obsah
• B) Použitie súhrnu priamo bez toho, aby ste ho vôbec skontrolovali, pretože vyzerá plynule
• C) Dvakrát požiadať model o to isté zhrnutie a akceptovať ho ako správne, ak je podobné.
• D) Pridanie pôvodného textu modelu a porovnanie vytvoreného zhrnutia s pôvodným textom, aby sa skontrolovalo, či nebolo nič pridané/neskreslené ✔

Vysvetlenie: Jednoduché zadanie názvu článku AI a vyžiadanie si súhrnu spôsobí, že model príde s „pravdepodobným súhrnom“ bez toho, aby si článok vôbec pozrel; Toto zhrnutie môže byť opakom pravdy. Spoľahlivé zhrnutie možno získať iba vtedy, keď sa pôvodný text privedie do modelu a vygenerovaný zhrnutie sa porovná s pôvodným textom. Okrem toho je potrebné skontrolovať, či súhrn nepridáva výsledky alebo čísla, ktoré nie sú v texte.

13. Čo platí pre výstupy umelej inteligencie v kurze fyziky materiálovú produkciu?

• A) Každé riešenie by sa malo nezávisle overiť, mali by sa špecifikovať limity analógií a rušitelia by sa mali zamerať na skutočné mylné predstavy ✔
• B) Kľúč odpovede vytvorený umelou inteligenciou je vždy správny, nie je potrebný audit
• C) Analógie sú dokonalé vo všetkých prípadoch, nie je potrebné špecifikovať ich hranice.
• D) Rozptyľovače by sa mali vyberať úplne náhodne, pretože povaha nesprávneho výberu nie je dôležitá.

Popis: Umelá inteligencia je rýchla pri generovaní otázok, príkladov a analógií, ale kontrola je nevyhnutná v troch bodoch: riešenie každého problému sa musí overiť nezávisle (ručne alebo pomocou kódu), pretože model môže v riešení robiť chyby znamienka/jednotky; Každá analógia musí byť uvedená tam, kde je chybná, inak spôsobí novú chybu; Distraktory by sa mali zamerať na skutočné mylné predstavy. Zodpovednosť je na učiteľovi; Nesprávny kľúč odpovede spôsobí, že študenti budú mať nedorozumenia, ktoré je ťažké opraviť.

14. Aké správanie je v súlade s vedeckou integritou, keď experimentálne údaje úplne nesúhlasia s teóriou?

• A) Umelá inteligencia organizuje údaje tak, aby vyhovovali teórii a presvedčivo zobrazovali graf
• B) Skúmanie dôvodov nezrovnalosti (systematická chyba, nedostatok modelu, nový efekt) a čestné podávanie správ bez zmeny údajov ✔
• C) Ignorovanie nesúhlasu a hlásenie iba bodov, ktoré sa hodia
• D) Vymazanie údajov a prispôsobenie nového výsledku experimentu

Vysvetlenie: Žiadať AI, aby „usporiadala údaje tak, aby lepšie vyhovovali teórii“ je podvod s údajmi a hrubé porušenie vedeckej integrity. Nesúhlas je niečo, čo treba skúmať, nie skrývať: môže naznačovať systematickú chybu, štatistické kolísanie, nedostatok vzoru alebo zaujímavý nový efekt. Údaje sa vykazujú tak, ako sú, s neistotou; Konečná zodpovednosť leží na osobe a „nástroj to urobil“ nie je obrana.