Halucinacioni, Etika, Konfidencialiteti dhe Integriteti Shkencor

Fitimet:

• Aftësia për të njohur format e halucinacioneve në fizikë (konstanta e rreme, ligji i rremë, gabimi i njësisë, rezultati i gabuar, atribuimi i rremë) dhe kapja e tyre me metodën e duhur.
• Aftësia për të mbrojtur të dhënat e papublikuara, konfidenciale dhe personale duke anonimizuar dhe minimizuar duke mos i futur ato në mjete të paautorizuara
• Të jesh në gjendje të kuptojmë se përgjegjësia përfundimtare qëndron tek njerëzit duke raportuar të dhënat me ndershmëri, pa i zbukuruar ato dhe duke dokumentuar në mënyrë transparente përdorimin e inteligjencës artificiale.

Gjatë gjithë këtij moduli, ne mbuluam të njëjtën disiplinë në secilën njësi: inteligjenca artificiale (AI) përshpejtohet, njerëzit verifikojnë. Në këtë njësi përfundimtare, ne bashkojmë të gjithë këtë praktikë verifikimi nën ombrellën e integritetit shkencor, vlera më themelore e shkencës fizike. Fizika është kërkimi i prodhimit të njohurive të verifikueshme për natyrën; Në zemër të kësaj përpjekjeje janë integriteti, përsëritshmëria dhe përgjegjësia. Inteligjenca artificiale mund të përdoret për të përforcuar këto vlera - por kur përdoret gabimisht, ajo i kërcënon të gjitha. Në këtë njësi, ne do të diskutojmë format fizike të halucinacioneve, përgjegjësinë për të dhënat dhe privatësinë, kufijtë etikë dhe pse përgjegjësia përfundimtare mbetet gjithmonë tek njerëzit.

Format e halucinacioneve në fizikë

Halucinacioni - prodhimi i sigurt i informacionit të rremë nga AI - merr forma unike dhe të rrezikshme në fizikë. Njohja e këtyre është hapi i parë për të kapur:

lloj halucinacioni

shembull

Metoda e kapjes

Përshtatja fikse/të dhënat

Një dendësi e gabuar e materialit

Konfirmim me referencë të besueshme

Formula/ligj i rremë

Një emër "parimor" inekzistent

Derivimi i tekstit/SymPy

Gabim njësi/porosi

duke gabuar eV për J

Analiza dimensionale, kontrolli i njësisë

Rezultat numerik i pasaktë

Dalje e gabuar e kodit

Ekzekutoni kodin

atribuim apokrif

artikull inekzistent

Verifikimi me DOI

Rezultati i raportuar gabimisht

Shtrembërim i artikullit real

Lexoni burimin origjinal

Fillimi i përbashkët është ky: një model i madh gjuhësor është krijuar jo për të thënë të vërtetën, por për të prodhuar "tekst me pamje të mundshme". Në fizikë, ndryshimi midis "në dukje të mundshme" dhe "të vërtetë" është pikërisht arsyeja e ekzistencës së shkencës.

Të dhënat, privatësia dhe përgjegjësia e pronësisë intelektuale

Fizikanët shpesh punojnë me të dhëna të ndjeshme: të dhëna eksperimentale të papublikuara, dizajne të parapatentave, matje konfidenciale nga bashkëpunimet industriale, kërkime që përfshijnë të dhëna për shëndetin ose sigurinë personale. Futja e të dhënave të tilla në një mjet të përgjithshëm të AI mund t'i bëjë ato të aksesueshme për palët e treta dhe ndoshta të dhënat e trajnimit të modelit - gjë që do të nënkuptonte një shkelje të konfidencialitetit dhe një humbje të përparësisë shkencore (të drejtën për të qenë i pari që bën një zbulim). Rregulli është i qartë: mos futni të dhëna të papublikuara, konfidenciale ose personale në një mjet AI që organizata juaj nuk e ka miratuar. Nëse do të futni, anonimizoni, minimizoni (jepni vetëm atë që është e nevojshme) dhe lexoni kushtet e të dhënave të mjetit.

Kujdes: Futja e matjeve të papublikuara të një laboratori ose parametrave konfidencialë të dizajnit të një kompanie në një mjet AI "për analizë të shpejtë" mund të jetë një gabim i pakthyeshëm. Pasi të ndahen të dhënat, ato nuk mund të rikthehen. Nëse keni dyshime, mos vendosni të dhëna; Sqaroni fillimisht politikën e institucionit tuaj dhe kushtet e privatësisë së mjetit.

Kufijtë etikë dhe integriteti shkencor

Një përdorim mund të jetë teknikisht i mundshëm dhe madje ligjor, por gjithsesi të jetë joetik. Ka disa vija të kuqe në fizikë që kanë të bëjnë me integritetin shkencor:

Fabrikim ose zbukurim i të dhënave. Të kërkosh nga AI të "gjenerojë pika që përshtaten më mirë me rendimentin" ose "ta bëjnë grafikun të duket më bindës" është mashtrim i të dhënave. Të dhënat raportohen si janë; Dallimet eliminohen vetëm me një arsye të dokumentuar, legjitime.

Transparenca e kontributit. Nëse keni përdorur AI në një studim - shkrim kodi, korrigjim gjuhësor, analizë - është e drejtë ta bëni këtë të qartë në vendin e duhur. Shumë revista dhe institucione e kërkojnë këtë.

Autorësia dhe përgjegjësia. AI nuk është një shkrimtar; nuk mund të jetë përgjegjës për përmbajtjen e një vepre. Përgjegjësia qëndron gjithmonë tek shkrimtarët njerëzorë. Një gabim i prodhuar nga AI nuk mund të mbrohet duke thënë "automjeti e bëri atë".

Riprodhueshmëria. Një rezultat shkencor kërkon që metoda (përfshirë kodin e përdorur, parametrat, kërkesat e AI) të dokumentohet qartë në mënyrë që të tjerët të mund ta përsërisin atë.

tre mini kuti

Rasti 1 - Rrjedhja e të dhënave konfidenciale. Një studiues ngjiti të dhënat e matjes nga një marrëveshje moszbulimi me një kompani në një mjet gjenerik të AI "për një grafik të shpejtë". Më vonë ai kuptoi se ky mjet mund të ruante të dhëna. Ka ndodhur një shkelje e kontratës dhe humbje e mundshme e përparësisë. Mësimi: të dhënat konfidenciale nuk futen kurrë në një mjet të pamiratuar.

Rasti 2 - Printimi i zbukurimit. Një student i kërkoi AI një modifikim që "do t'i bënte të dhënat të duken më afër teorisë", sepse të dhënat eksperimentale nuk përputheshin plotësisht me teorinë. Këshilltari i tij e vuri re këtë dhe e ndaloi: një mospërputhje nënkuptonte ose një gabim sistematik në eksperiment ose një fizikë të re interesante - diçka për t'u hetuar, jo për t'u fshehur. Të dhënat u raportuan me ndershmëri dhe u gjet një gabim sistematik.

Rasti 3 — Fituar transparencë. Një ekip shkroi kodin e analizës së të dhënave për një punim me ndihmën e AI dhe e deklaroi qartë këtë në seksionin e metodave; ndau kodin dhe kërkesat si skedarë shtesë. Një gjyqtar rishikoi kodin dhe sugjeroi një rregullim të vogël. Transparenca e kapi gabimin përpara publikimit dhe rriti besueshmërinë e studimit.

Katër shabllone të kopjueshëm

1) Ekzaminimi i halucinacioneve:

Skanoni rezultatin fizik të mëposhtëm për halucinacione: a ka ndonjë konstante false, emra fals të formulave/ligjeve, gabime të njësisë/renditjes, rezultateve numerike të paverifikuara dhe atribuimeve të pakonfirmuara? Shënoni çdo artikull të dyshimtë dhe specifikoni se si ta verifikoni atë (referenca, kodi, DOI). Prodhimi: [këtu]

2) Kontrolli paraprak i privatësisë së të dhënave:

Vlerësoni të dhënat/tekstin e mëposhtëm përpara se t'i vendosni në një mjet AI: a përmban ai informacion të papublikuar, konfidencial, personal ose të mbrojtur me kontratë? Nëse po, sugjeroni se si mund ta anonimizoj ose ta minimizoj atë. Nëse nuk jeni të sigurt, thoni "kontrolloni politikën e korporatës". Përmbajtja: [këtu]

3) Draft deklaratë për transparencë/kontribut:

Në një studim, unë përdora AI për: [kodimin / korrigjimin e gjuhës / analizën, etj.]. Shkruani një draft të shkurtër "Deklarata e përdorimit të AI" që e dokumenton sinqerisht këtë. Gjithashtu duhet të tregojë se cilat pjesë janë verifikuar nga njerëzit.

4) Sigurimi i integritetit shkencor:

Kryeni një kontroll integriteti për analizën/rezultatin e mëposhtëm: të dhënat e raportuara siç janë (pa zbukurime), a raportohen pasiguri, a është metoda e dokumentuar në një mënyrë të riprodhueshme, a është transparent përdorimi i AI? Rendisni çdo mangësi. Përmbajtja: [këtu]

Prompt i dobët / Prompt i fortë

E dobët: "Ndrysho rendimentin për t'iu përshtatur më mirë teorisë dhe për ta bërë grafikun bindës."

Rezultati: Mashtrimi i të dhënave; Shkelje e drejtpërdrejtë e integritetit shkencor, humbje e pakthyeshme e reputacionit.

I fortë: "Rendimenti nuk përputhet plotësisht me teorinë. Më ndihmo të analizoj shkaqet e mundshme të kësaj mospërputhjeje (gabim sistematik, luhatje statistikore, model i munguar ose një efekt i ri); sugjeroni se si të raportoni mospërputhjen me ndershmëri pa ndryshuar të dhënat."

Rezultati: Një qasje e ndershme, hetuese dhe besnike ndaj integritetit shkencor; Konflikti bëhet një mundësi për zbulim.

Gabimet e zakonshme

• Ngatërrimi i halucinacioneve me vetëbesimin. Vetëm për shkak se AI flet me siguri nuk është një garanci e saktësisë; Edhe fjalia më e saktë mund të jetë e sajuar.
• Futja e të dhënave konfidenciale në automjet pa miratim. Pasi të ndahen, të dhënat nuk mund të merren; Prioriteti dhe konfidencialiteti humbasin.
• Të dhëna zbukuruese. Ndryshimi i të dhënave në "teorinë e përshtatjes" është një nga krimet më të rënda shkencore.
• Fshehja e përdorimit të AI. Transparenca është një kërkesë e ndershmërisë dhe është e detyrueshme në shumë institucione.
• Vendosja e përgjegjësisë mbi automjetin. "AI e bëri atë" nuk është një mbrojtje; Përgjegjësia përfundimtare qëndron gjithmonë tek qenia njerëzore.

Këshillë: Në fund të çdo studimi të fuqizuar nga AI, bëni vetes tre pyetje: (1) A është verifikuar në mënyrë të pavarur çdo fakt, numër dhe atribut në këtë rezultat? (2) A përmbajnë të dhënat që përdora informacion konfidencial/personal që nuk duhet t'i fus? (3) A e kam dokumentuar përdorimin dhe metodologjinë time të inteligjencës artificiale dhe metodologjinë në mënyrë transparente që dikush tjetër ta përsërisë atë? Nëse nuk mund t'i përgjigjeni një "po" të qartë këtyre tre pyetjeve, studimi nuk ka përfunduar ende.

Në përmbledhje

Integriteti shkencor është baza e ekzistencës së fizikës dhe është edhe më i rëndësishëm në epokën e AI. Halucinacioni shfaqet në fizikë në formën e konstantave të rreme, ligjeve të rreme, gabimeve të njësive, përfundimeve të rreme dhe referencave të rreme; secili kapet me metodën e vet unike të verifikimit. Të dhënat konfidenciale dhe personale nuk futen në mjete të paautorizuara; të dhënat nuk zbukurohen kurrë; Përdorimi i AI është i dokumentuar në mënyrë transparente; dhe përgjegjësia përfundimtare qëndron gjithmonë tek njeriu. Ekziston vetëm një disiplinë që mësoni gjatë këtij moduli: AI është një përshpejtues i fuqishëm, por verifikimi, integriteti dhe përgjegjësia qëndrojnë mbi supet e fizikantit kompetent - domethënë juve. Një dalje e paverifikuar e AI nuk është kurrë një zëvendësim për konfirmimin e një fizikani.

Detyra e aplikimit

Zgjidhni një dalje të AI (një llogari, një analizë ose një tekst) që keni prodhuar në këtë modul. 1. Ekrani për halucinacione me shabllon: a ka konstante të rreme, formula të rreme, gabime njësie ose atribuime të paverifikuara? Me shabllonin 2, vlerësoni nëse të dhënat që po përdorni janë miqësore me privatësinë. Së fundi, hartoni një deklaratë të shkurtër të përdorimit/transparencës së AI me shabllonin 3. Shkruani me 5-6 fjali: çfarë zbuloi skanimi, çfarë hapash verifikimi keni marrë?

listë kontrolli

• [ ] Unë verifikova në mënyrë të pavarur çdo konstante, formulë dhe rezultat në dalje.
• [ ] Unë kam verifikuar çdo citim me DOI/burimin.
• [ ] Kam kontrolluar që nuk kam futur të dhëna konfidenciale/personale në mjet pa miratim.
• [ ] I raportova të dhënat ashtu siç janë, pa zbukurime.
• [ ] Unë e kam dokumentuar përdorimin tim të AI në një mënyrë transparente dhe të riprodhueshme.
• [ ] Unë pranova se përgjegjësia përfundimtare ishte e imja; Unë nuk i atribuova asnjë defekt automjetit.

Provimi i Modulit

1. Cili nga sa vijon është pozicionimi më i saktë për inteligjencën artificiale në fizikë?

• A) Inteligjenca artificiale është një ndihmës kodi, drafti dhe redaktimi; Përgjegjësia për vendimet e njësisë, gradës, verifikimit dhe etikës bie mbi qenien njerëzore ✔
• B) Inteligjenca artificiale është një kalkulator dhe rezultatet numerike që jep janë gjithmonë të sakta
• C) Inteligjenca artificiale funksionon vetëm në llogaritje, nuk ka lidhje me analizën e eksperimentit dhe mësimdhënien
• D) Meqenëse inteligjenca artificiale është më e paanshme se njerëzit, vendimet për njësinë dhe rezultatet duhet t'i lihen asaj.

Përshkrimi: Inteligjenca artificiale; Është një asistent që shkruan kodin, prodhon drafte, krijon dhe organizon kornizat e derivimit. Megjithatë, përgjegjësia përfundimtare për verifikimin e njësisë dhe rendit të rezultatit, duke e siguruar atë me ligjet e ruajtjes, konfirmimin konstant dhe referencë i takon fizikantit kompetent. Modeli i gjuhës së madhe nuk është një makinë llogaritëse apo fizike; është një gjenerues teksti që prodhon 'fjalën e ardhshme më të mundshme' dhe prodhimi i tij i paverifikuar mund të çojë në një vlerë, dizajn ose rezultat të pasaktë.

2. Cili është përafrimi më i saktë për rezultatin numerik të një kodi llogaritës që printoni në një model të madh gjuhësor?

• A) Duke i besuar numrit, modeli thotë 'ky kod e jep atë', sepse ai e ka shkruar kodin
• B) Drejtoni vetë kodin dhe shikoni daljen; ✔ duke mos u mbështetur në parashikimin numerik verbal të modelit
• C) Pranimi i kodit si të saktë vetëm duke parë se si lexohet, pa e ekzekutuar fare
• D) Nëse rezultati i kërkohet direkt modelit përsëri dhe ai tregon të njëjtin numër, ai konsiderohet i saktë.

Shpjegim: Një LLM mund të 'llogarisë' daljen e kodit që ka shkruar në kokën e tij dhe të kthejë një numër të gabuar; kurse kur ekzekutohet i njëjti kod jep rezultatin e saktë. Ajo që është përcaktuese është kodi që ekzekutohet; Nuk është një parashikim verbal i modelit. Prandaj, kodi duhet të ekzekutohet gjithmonë në mjedisin tuaj dhe dalja duhet të shihet.

3. Cila është mënyra më e fuqishme për të testuar nëse simulimi i një sistemi dinamik pa fërkim pasqyron me saktësi fizikën?

• A) Duke parë që grafiku duket vizualisht i rregullt dhe bindës
• B) Drejtimi i simulimit vetëm me një hap të vetëm kohor dhe besimi në rezultat
• C) Monitorimi i një sasie që duhet të ruhet, si energjia totale ose momenti, dhe kontrollimi nëse ajo mbetet konstante ✔
• D) Vlerësimi i simulimit sipas shpejtësisë së tij

Shpjegim: Në një sistem pa fërkim, energjia totale (dhe momenti, nëse ka) duhet të ruhet. Monitorimi i kësaj madhësie gjatë gjithë simulimit dhe shikimi nëse ajo mbetet konstante zbulon të meta numerike (p.sh. metoda primitive Euler duke rritur vazhdimisht energjinë). Nëse energjia po lëviz, simulimi nuk është i besueshëm; Vetëm për shkak se prodhon një grafikë të bukur nuk do të thotë se është e saktë.

4. Cila nga sa vijon është qasja e saktë kur përshtatet një model me të dhënat eksperimentale?

• A) Zgjedhja e polinomit të shkallës më të lartë që i përshtatet më mirë të dhënave sepse kalon nëpër të gjitha pikat
• B) Dhënia e parametrave si një numër i vetëm pa paqartësi
• C) Deklarimi i cilësisë së përshtatjes thjesht duke parë sa bukur duket kurba.
• D) Zgjedhja e modelit nga fizika, raportimi i parametrave me pasiguritë e tyre dhe vlerësimi i përshtatjes me mbetjet ✔

Shpjegim: Modeli duhet të zgjidhet nga ligji fizik që duhet t'i bindet ngjarja, jo duke parë të dhënat dhe duke pyetur veten 'cila i përshtatet më mirë'. Me mjaft parametra të lirë (p.sh. një polinom i shkallës së lartë) mund të bëhet një përshtatje 'perfekte' por fizikisht e pakuptimtë (mbipërshtatje) për çdo të dhënë. Parametrat duhet të raportohen me pasigurinë e tyre, cilësia e përshtatjes duhet të vlerësohet me mbetjet dhe besueshmëria fizike duhet të kontrollohet.

5. Përsëritja e një matjeje shumë herë redukton cilin lloj pasigurie?

• A) Pasiguri e rastësishme; pasiguria sistematike nuk zvogëlohet me përsëritjen, shkaku duhet gjetur dhe korrigjuar ✔
• B) Pasiguria sistematike; sepse eliminon gabimin e rikalibrimit
• C) Eliminon plotësisht të dyja paqartësitë
• D) Nuk zvogëlon asnjë prej tyre; pasiguria është e pavarur nga numri i matjeve

Shpjegim: Matjet e përsëritura reduktojnë pasigurinë e rastësishme (me gabim standard të mesatares std/√N) që rezulton nga shpërndarja e rastësishme e rezultateve. Nga ana tjetër, pasiguria sistematike është një gabim që devijon gjithmonë në të njëjtin drejtim (për shembull, një bilanc i kalibruar gabimisht) dhe nuk zvogëlohet me përsëritjen; Megjithatë, shkaku mund të gjendet dhe të korrigjohet. Raportimi i një pasigurie 'shumë të vogël' me matje të shumëfishta mund të fshehë gabimin themelor sistematik.

6. Cila është mënyra e pavarur më e besueshme për të verifikuar një formulë të përhapjes së gabimit të nxjerrë nga AI?

• A) Duke u mbështetur në formulën për t'u dukur fluide dhe bindëse
• B) Kontrolli i kryqëzuar me një llogaritje Monte Carlo që merr mostra rastësore të inputeve me pasigurinë e tyre ✔
• C) T'i kërkosh sërish të njëjtën formulë inteligjencës artificiale dhe të presësh që ajo të japë të njëjtin rezultat
• D) Mbledhja e drejtpërdrejtë e pasigurive dhe krahasimi i tyre me rezultatin

Shpjegim: AI shpesh përzien koeficientët e derivateve të pjesshme dhe strukturën e rrënjës katrore në formulat e përhapjes së gabimeve. Një mënyrë e fuqishme për ta arritur këtë në mënyrë të pavarur është kontrolli i kryqëzuar i Monte Carlo: kampionimi i rastësishëm i çdo hyrjeje me pasigurinë e tij, llogaritja e funksionit mijëra herë dhe krahasimi i devijimit standard të prodhimit me pasigurinë e dhënë nga formula. Takimi i dy metodave të pavarura rrit besimin.

7. Cila është ndarja e saktë e punës midis AI dhe SymPy në një derivim të gjatë të fizikës simbolike?

• A) SymPy gjeneron idenë e derivimit, AI verifikon saktësisht çdo hap
• B) Të dyja janë të panevojshme; derivimet e gjata duhet të bëhen vetëm me dorë
• C) AI ndërton kornizën e derivimit, SymPy verifikon saktësisht çdo hap algjebrik ✔
• D) Inteligjenca artificiale e bën derivimin vetë, nuk ka nevojë për verifikim sepse duket rrjedhshëm

Shpjegim: AI strategjizon derivimin dhe shpjegon shtegun, por në algjebër të gjatë bën gabime të shenjave, terma të arratisur dhe thjeshtime të pasakta. SymPy, nga ana tjetër, funksionon sipas rregullave dhe verifikon saktësisht çdo hap algjebrik. Rrjedha më e fuqishme e punës i kombinon të dyja: merrni skeletin nga AI, burimi çdo hap me SymPy, testoni rezultatin me inversin derivat-integral dhe rastin kufitar.

8. Çfarë tregon analiza dimensionale për saktësinë e një formule fizike?

• A) Analiza dimensionale vërteton gjithmonë përfundimisht se një formulë është e saktë
• B) Analiza dimensionale nuk ka vlerë praktike në fizikë
• C) Analiza dimensionale jep vetëm faktorin konstant të formulës, jo konsistencën e saj
• D) Një formulë që nuk qëndron dimensionalisht është absolutisht e gabuar; analiza dimensionale kap gabimin pa numëruar numrat ✔

Shpjegim: Dy anët e një ekuacioni fizik duhet të jenë dimensionalisht të barabarta përpara se të jenë numerikisht të barabarta. Një formulë që nuk qëndron dimensionalisht është thjesht e gabuar; kjo është kapur nga llogaritja e numërimit. Analiza dimensionale nuk vërteton përfundimisht se një formulë është e saktë (mund të humbasë një faktor konstant pa dimension ose kënd), por vërteton përfundimisht se ajo është e pasaktë; kështu që është auditimi i parë dhe më i lirë i çdo llogarie.

9. Cili është hapi i parë më kritik kur llogaritet energjia kinetike e një objekti që udhëton me 36 km/h?

• A) Konvertimi i të gjitha inputeve në një sistem të vetëm njësish (SI); Shndërrimi i shpejtësisë 36 km/h në 10 m/s ✔
• B) Vendosja e shpejtësisë në km/h drejtpërdrejt në formulë pa e kthyer atë në m/s
• C) Shumëzimi i vetëm i numrave pa marrë parasysh njësitë
• D) Duke supozuar se nuk ka nevojë të kontrollohet porosia pas llogaritjes së rezultatit

Shpjegim: Formulat e bazuara në SI (E = ½mv²) presin shpejtësinë në m/s. Ngatërrimi i km/h me m ose orët me sekondat në një llogaritje është një nga gabimet më të zakonshme në fizikë. Së pari të gjitha hyrjet duhet të konvertohen në një sistem të vetëm njësish (SI): 36 km/h = 10 m/s. Meqenëse AI mund të bëjë gabime të heshtura në konvertimet e njësive të përbëra, ky konvertim duhet të verifikohet manualisht ose me një mjet të vetëdijshëm për njësinë.

10. Cila praktikë është e saktë për sa i përket 'ndershmërisë' në një grafik shkencor?

• A) Fshehja e pasigurisë sepse shufrat e gabimit rrëmojnë grafikun
• B) Etiketoni boshtet me njësi, zgjidhni shkallën pa shtrembërim dhe tregoni pasigurinë me shirita gabimi ✔
• C) Gjithmonë filloni boshtin y në intervalin që do të tregojë ndryshimin më dramatik
• D) Lënia e boshteve pa njësi sepse lexuesi mund ta hamendësojë njësinë

Përshkrimi: Një tabelë e ndershme shkencore; ai etiketon boshtet me madhësi dhe njësi, zgjedh shkallën me vetëdije dhe pa shtrembërim (fillimi i boshtit y larg nga zero për ekzagjerim është mashtrues) dhe e bën të dukshme pasigurinë e matjes me shirita gabimi. Fshehja e pasigurisë i bën të dhënat të duken të sigurta dhe krijon një përshtypje të rreme të paragjykimit ose marrëveshjes. Sa më bindës të jetë një grafik, aq më i rëndësishëm është kontrolli i integritetit.

11. Cili është rreziku më i madh dhe disiplina e duhur kur merret literaturë dhe mbështetje cituese nga inteligjenca artificiale?

• A) Inteligjenca artificiale humbet kohë sepse prodhon citate shumë ngadalë
• B) Burimet e sugjeruara nga inteligjenca artificiale janë gjithmonë reale, nuk ka nevojë për verifikim
• C) Inteligjenca artificiale mund të prodhojë atribuime që duken reale, por që nuk ekzistojnë; Çdo citim duhet të verifikohet me DOI/burim dhe literatura duhet të gjendet nga baza e të dhënave aktuale ✔
• D) Citimet e sajuara njihen lehtësisht, sepse ato përdorin gjithmonë emra jorealë të revistave

Shpjegim: Një model i madh gjuhësor nuk është i lidhur me një bazë të dhënash aktuale; Duke imituar modelet e citimeve, ai mund të prodhojë artikuj që mbajnë emrin e vërtetë të revistës, autorë të besueshëm dhe një vit të arsyeshëm, por që janë krejtësisht inekzistente. Prandaj, literatura duhet të gjendet nga bazat e të dhënave reale, AI duhet të përdoret vetëm për të përmbledhur/përkthyer tekstin aktual në fjalë dhe çdo citim duhet të verifikohet në mënyrë të pavarur nga DOI ose titulli. Një citim i paverifikuar është shkelje e integritetit akademik.

12. Çfarë nevojitet për të marrë rezultate të besueshme kur AI përmbledh një artikull?

• A) Mjafton vetëm të japësh titullin e artikullit, modelja e di përmbajtjen
• B) Përdorimi i përmbledhjes drejtpërdrejt pa e kontrolluar fare, sepse duket fluide
• C) Kërkimi i modelit për të njëjtën përmbledhje dy herë dhe pranimi i saj si i saktë nëse është i ngjashëm.
• D) Dhënia e tekstit origjinal modelit dhe krahasimi i përmbledhjes së prodhuar me tekstin origjinal për të kontrolluar që asgjë nuk është shtuar/shtrembëruar ✔

Shpjegim: Thjesht duke i dhënë AI titullin e një artikulli dhe duke kërkuar një përmbledhje do të bëjë që modeli të dalë me një 'përmbledhje të besueshme' pa e parë ndonjëherë artikullin; Kjo përmbledhje mund të jetë e kundërta e së vërtetës. Një përmbledhje e besueshme mund të merret vetëm kur teksti origjinal i jepet modelit dhe përmbledhja e krijuar krahasohet me tekstin origjinal. Gjithashtu, duhet të kontrollohet që përmbledhja të mos shtojë rezultate ose numra që nuk janë në tekst.

13. Cila është e vërtetë për prodhimin e inteligjencës artificiale në prodhimin e materialit të lëndës së fizikës?

• A) Çdo zgjidhje duhet të verifikohet në mënyrë të pavarur, kufijtë e analogjive duhet të specifikohen dhe shpërqendruesit duhet të synojnë keqkuptime reale ✔
• B) Çelësi i përgjigjes i prodhuar nga inteligjenca artificiale është gjithmonë i saktë, nuk ka nevojë për auditim
• C) Analogjitë janë perfekte në të gjitha rastet, nuk ka nevojë të specifikohen kufijtë e tyre.
• D) Shqetësuesit duhet të zgjidhen krejtësisht rastësisht, sepse natyra e zgjedhjes së gabuar është e parëndësishme.

Përshkrimi: AI është i shpejtë në gjenerimin e pyetjeve, shembujve dhe analogjive, por kontrolli është thelbësor në tre pika: zgjidhja e çdo problemi duhet të verifikohet në mënyrë të pavarur (me dorë ose me kod), sepse modeli mund të bëjë gabime shenje/njësie në zgjidhje; Çdo analogji duhet të deklarohet ku zbërthehet, përndryshe do të shkaktojë një gabim të ri; Shqetësuesit duhet të synojnë keqkuptimet e vërteta. Përgjegjësia është e mësuesit; Një çelës i gabuar i përgjigjes i lë studentët me keqkuptime që janë të vështira për t'u korrigjuar.

14. Cila është sjellja në përputhje me integritetin shkencor kur të dhënat eksperimentale nuk përputhen plotësisht me teorinë?

• A) Duke pasur inteligjencë artificiale, organizoni të dhënat për t'iu përshtatur teorisë dhe për të treguar grafikun në mënyrë bindëse
• B) Hetimi i arsyeve të mospërputhjes (gabim sistematik, mungesë modeli, efekt i ri) dhe raportimi me ndershmëri pa ndryshuar të dhënat ✔
• C) Injorimi i mosmarrëveshjeve dhe raportimi i vetëm pikave që përshtaten
• D) Fshirja e të dhënave dhe përshtatja e një rezultati të ri eksperimenti

Shpjegim: Të kërkosh nga AI që të 'rregullojë të dhënat për t'iu përshtatur më mirë teorisë' është mashtrim i të dhënave dhe një shkelje e rëndë e integritetit shkencor. Mosmarrëveshja është diçka për t'u hetuar, jo për t'u fshehur: mund të tregojë një gabim sistematik, një luhatje statistikore, mungesë modeli ose një efekt të ri interesant. Të dhënat raportohen ashtu siç janë, me pasiguri; Përgjegjësia përfundimtare i takon personit dhe 'mjeti e bëri atë' nuk është një mbrojtje.