Hallusinasjoner, etikk, konfidensialitet og vitenskapelig integritet

Gevinster:

Evne til å gjenkjenne hallusinasjonsformer i fysikk (falsk konstant, falsk lov, enhetsfeil, feil resultat, falsk attribusjon) og fange dem med riktig metode.
Evne til å beskytte upubliserte, konfidensielle og personlige data ved anonymisering og minimering ved ikke å legge dem inn i uautoriserte verktøy
Å kunne forstå at det endelige ansvaret ligger hos mennesker ved å rapportere dataene ærlig, uten å pynte på dem, og transparent dokumentere bruken av kunstig intelligens.

Gjennom denne modulen dekket vi den samme disiplinen i hver enhet: kunstig intelligens (AI) akselererer, mennesker bekrefter. I denne siste enheten samler vi hele denne verifiseringspraksisen under paraplyen av vitenskapelig integritet, den mest grunnleggende verdien av fysisk vitenskap. Fysikk er jakten på å produsere etterprøvbar kunnskap om naturen; I hjertet av denne bestrebelsen er integritet, repeterbarhet og ansvar. AI kan brukes til å forsterke disse verdiene - men når det brukes feil, truer det dem alle. I denne enheten vil vi diskutere de fysiske formene for hallusinasjoner, data- og personvernansvar, etiske grenser og hvorfor det endelige ansvaret alltid forblir hos mennesker.

Former for hallusinasjoner i fysikk

Hallusinasjon – AIs sikre produksjon av falsk informasjon – tar unike og farlige former i fysikk. Å gjenkjenne disse er det første trinnet for å fange:

type hallusinasjon

eksempel

Fangemetode

Tilpasning fast/data

En feil materialtetthet

Bekreftelse med pålitelig referanse

Falsk formel/lov

Et ikke-eksisterende "prinsippnavn".

Lærebok/SymPy-avledning

Enhets-/ordrefeil

misforstå eV for J

Dimensjonsanalyse, enhetskontroll

Feil numerisk resultat

Feil kodeutgang

Kjør koden

apokryfisk attribusjon

ikke-eksisterende artikkel

Verifisering med DOI

Feil rapportert resultat

Forvrengning av ekte artikkel

Les originalkilden

Den røde tråden er denne: en stor språkmodell er laget for ikke å fortelle sannheten, men for å produsere "mulig-looking text". I fysikk er forskjellen mellom «tilsynelatende mulig» og «sann» nettopp årsaken til vitenskapens eksistens.

Data, personvern og åndsverksansvar

Fysikere jobber ofte med sensitive data: upubliserte eksperimentelle data, pre-patentdesign, konfidensielle målinger fra industrielle samarbeid, forskning som involverer personlige helse- eller sikkerhetsdata. Å legge inn slike data i et generelt AI-verktøy kan gjøre det tilgjengelig for tredjeparter og muligens modellens treningsdata – noe som vil bety både brudd på konfidensialitet og tap av vitenskapelig prioritet (retten til å være den første til å gjøre en oppdagelse). Regelen er klar: ikke skriv inn upubliserte, konfidensielle eller personlige data i et AI-verktøy som organisasjonen din ikke har godkjent. Hvis du skal inn, anonymiser, minimer (gi kun det som er nødvendig) og les verktøyets databetingelser.

Forsiktig: Å legge inn et laboratoriums upubliserte målinger eller et selskaps konfidensielle designparametere i et AI-verktøy «for rask analyse» kan være en irreversibel feil. Når data først er delt, kan de ikke tilbakekalles. Hvis du er i tvil, ikke oppgi data; Avklar institusjonens retningslinjer og personvernvilkårene for verktøyet først.

Etiske grenser og vitenskapelig integritet

En bruk kan være teknisk mulig og til og med lovlig, men likevel være uetisk. Det er flere røde linjer i fysikk som angår vitenskapelig integritet:

Datafabrikasjon eller utsmykning. Å be AI om å "generere poeng som passer bedre til avkastningen" eller "få grafen til å se mer overbevisende ut" er datasvindel. Data rapporteres som de er; Outliers elimineres kun med en dokumentert, legitim grunn.

Åpenhet om bidrag. Hvis du har brukt AI i en studie – kodeskriving, språkkorrigering, analyse – er det rimelig å gjøre det klart på riktig sted. Mange tidsskrifter og institusjoner krever dette.

Forfatterskap og ansvar. AI er ikke en forfatter; kan ikke være ansvarlig for innholdet i et verk. Ansvaret ligger alltid hos menneskelige forfattere. En feil produsert av AI kan ikke forsvares ved å si "kjøretøyet klarte det".

Reproduserbarhet. Et vitenskapelig resultat krever at metoden (inkludert kode som brukes, parametere, AI-meldinger) er tydelig dokumentert slik at andre kan replikere den.

tre minisaker

Tilfelle 1 — Konfidensiell datalekkasje. En forsker limte inn måledata fra en taushetserklæring med et selskap i et generisk AI-verktøy «for en rask graf». Han innså senere at dette verktøyet kunne lagre inndata. Det har oppstått kontraktsbrudd og mulig prioritetstap. Leksjon: konfidensielle data legges aldri inn i et ikke-godkjent verktøy.

Sak 2 — Forskjønnelsestrykk. En student ba AI om en redigering som ville "få dataene til å se nærmere teorien" fordi de eksperimentelle dataene ikke stemte helt overens med teorien. Rådgiveren hans la merke til dette og stoppet ham: et avvik betydde enten en systematisk feil i eksperimentet eller interessant ny fysikk – noe som skulle undersøkes, ikke skjules. Data ble rapportert ærlig og systematisk feil ble funnet.

Sak 3 – Oppnådd åpenhet. Ett team skrev dataanalysekoden for en artikkel ved hjelp av AI og sa tydelig om dette i metodedelen; delte koden og ledetekstene som tilleggsfiler. En dommer gjennomgikk koden og foreslo en mindre løsning. Transparency fanget opp feilen før publisering og økte troverdigheten til studien.

Fire kopierbare maler

1) Hallusinasjonsscreening:

Skann følgende fysikkutdata for hallusinasjoner: finnes det falske konstanter, falske formel-/lovnavn, enhets-/rekkefølgefeil, ubekreftede numeriske resultater og ubekreftede attribusjoner? Flagg hvert mistenkelig element og spesifiser hvordan det skal verifiseres (referanse, kode, DOI). Utgang: [her]

2) Forhåndssjekk av personvern:

Vurder følgende data/tekst før du legger dem inn i et AI-verktøy: inneholder den upublisert, konfidensiell, personlig eller kontraktsmessig beskyttet informasjon? I så fall, foreslå hvordan jeg kan anonymisere eller minimere det. Hvis du er usikker, si "sjekk bedriftens retningslinjer". Innhold: [her]

3) Utkast til åpenhet/bidragserklæring:

I en studie brukte jeg AI til: [koding / språkkorrigering /analyse, etc.]. Skriv et kort utkast til "AI use statement" som ærlig dokumenterer dette. Det skal også angi hvilke deler som er verifisert av mennesker.

4) Sikre vitenskapelig integritet:

Utfør en integritetssjekk for følgende analyse/resultat: data rapportert som de er (ingen utsmykning), rapporteres usikkerheter, er metoden dokumentert på en reproduserbar måte, er bruken av AI transparent? List opp eventuelle mangler. Innhold: [her]

Svak forespørsel / Sterk forespørsel

Svak: "Rediger avkastningen for å passe bedre til teorien og gjøre grafen overbevisende."

Resultat: Datasvindel; Direkte brudd på vitenskapelig integritet, irreversibelt tap av omdømme.

Sterkt: "Utbyttet stemmer ikke helt med teorien. Hjelp meg med å analysere mulige årsaker til dette avviket (systematisk feil, statistisk fluktuasjon, manglende modell eller en ny effekt); foreslå hvordan du rapporterer avviket ærlig uten å endre dataene."

Resultat: En ærlig, undersøkende og trofast tilnærming til vitenskapelig integritet; Konflikt blir en mulighet for oppdagelse.

Vanlige feil

Forvirrende hallusinasjon med selvtillit. Bare fordi AI’en snakker selvsikkert er ikke en garanti for nøyaktighet; Selv den mest presise setningen kan være oppdiktet.
Legge inn konfidensielle data i kjøretøyet uten godkjenning. Når de er delt, kan ikke data hentes; Prioritet og konfidensialitet går tapt.
Forskjønnende data. Å endre data til «fit theory» er en av de mest alvorlige vitenskapelige forbrytelsene.
Skjuler bruken av AI. Åpenhet er et krav til ærlighet og er obligatorisk i mange institusjoner.
Legger ansvaret på kjøretøyet. "AIen gjorde det" er ikke et forsvar; Det endelige ansvaret ligger alltid hos mennesket.

Tips: Still deg selv tre spørsmål på slutten av hver AI-drevet studie: (1) Har alle fakta, tall og attribusjoner i denne utdata blitt bekreftet uavhengig? (2) Inneholdt dataene jeg brukte konfidensiell/personlig informasjon som jeg ikke skulle oppgi? (3) Har jeg dokumentert min AI-bruk og -metode transparent nok til at noen andre kan replikere den? Hvis du ikke kan svare et klart "ja" på disse tre spørsmålene, er studien ennå ikke fullført.

Oppsummert

Vitenskapelig integritet er grunnlaget for fysikkens eksistens og er enda viktigere i AI-tiden. Hallusinasjoner opptrer i fysikk i form av falske konstanter, falske lover, enhetsfeil, falske konklusjoner og falske referanser; hver er fanget med sin egen unike bekreftelsesmetode. Konfidensielle og personlige data legges ikke inn i uautoriserte verktøy; data blir aldri forskjønnet; AI-bruk er transparent dokumentert; og det endelige ansvaret ligger alltid hos mennesket. Det er bare én disiplin du lærer gjennom denne modulen: AI er en kraftig akselerator, men verifisering, integritet og ansvar hviler på skuldrene til den kompetente fysikeren – det vil si deg. En ubekreftet AI-utgang er aldri en erstatning for en fysikers bekreftelse.

Søknadsoppgave

Velg en AI-utgang (en konto, en analyse eller en tekst) som du produserte i denne modulen. 1. skjerm for hallusinasjoner med mal: er det noen dummy-konstanter, falske formler, enhetsfeil eller ubekreftede attribusjoner? Med mal 2, evaluer om dataene du bruker er personvernvennlige. Til slutt, utkast en kort AI-bruk/gjennomsiktighetserklæring med mal 3. Skriv ned i 5-6 setninger: hva avslørte skanningen, hvilke verifiseringstrinn tok du?

sjekkliste

[ ] Jeg bekreftet uavhengig hver konstant, formel og resultat i utdataene.
[ ] Jeg har verifisert hver sitering med DOI/kilde.
[ ] Jeg har sjekket at jeg ikke har lagt inn konfidensielle/personlige data i verktøyet uten godkjenning.
[ ] Jeg rapporterte dataene som de er, uten pynt.
[ ] Jeg har dokumentert min bruk av AI på en transparent og reproduserbar måte.
[ ] Jeg aksepterte at det endelige ansvaret var mitt; Jeg tilskrev ingen feil på kjøretøyet.

Moduleksamen

1. Hvilken av følgende er den mest nøyaktige posisjoneringen for kunstig intelligens i fysikk?

A) Kunstig intelligens er en kode-, utkast- og redigeringsassistent; Ansvaret for enhet, rangering, verifikasjon og etiske beslutninger ligger hos mennesket ✔
B) Kunstig intelligens er en kalkulator og de numeriske resultatene den gir er alltid nøyaktige
C) Kunstig intelligens fungerer kun i beregning, det har ingenting med eksperimentanalyse og undervisning å gjøre
D) Siden kunstig intelligens er mer upartisk enn mennesker, bør enhets- og resultatbeslutninger overlates til den.

Beskrivelse: Kunstig intelligens; Det er en assistent som skriver kode, produserer utkast, lager og organiserer avledningsrammer. Det endelige ansvaret for enhets- og ordreverifisering av resultatet, å sikre det med bevaringslover, konstant og referansebekreftelse, tilhører imidlertid den kompetente fysikeren. Den store språkmodellen er ikke en kalkulator eller fysikkmotor; er en tekstgenerator som produserer det "neste mest sannsynlige ordet", og dets ubekreftede utdata kan føre til feil verdi, design eller resultat.

2. Hva er den mest nøyaktige tilnærmingen for det numeriske resultatet av en beregningskode du skriver ut i en stor språkmodell?

A) Ved å stole på tallet sier modellen "denne koden gir det", fordi han skrev koden
B) Kjør koden selv og se utdataene; ✔ ikke stole på modellens verbale numeriske prediksjon
C) Godta koden som korrekt bare ved å se på hvordan den leses, uten å kjøre den i det hele tatt
D) Hvis resultatet blir direkte spurt til modellen igjen og det forteller samme nummer, anses det som riktig.

Forklaring: En LLM kan "beregne" resultatet av koden han skrev i hodet og returnere et feil tall; mens når den samme koden kjøres, gir den riktig resultat. Det som er deterministisk er koden som kjøres; Det er ikke en verbal prediksjon av modellen. Derfor bør koden alltid kjøres i ditt eget miljø og utdataene skal sees.

3. Hva er den kraftigste måten å teste om simuleringen av et friksjonsløst dynamisk system nøyaktig gjenspeiler fysikk?

A) Å se at diagrammet ser visuelt ryddig og overbevisende ut
B) Kjøre simuleringen med bare ett enkelt tidstrinn og stole på resultatet
C) Overvåke en mengde som må bevares, for eksempel total energi eller momentum, og sjekke om den forblir konstant ✔
D) Evaluering av simuleringen etter hvor fort den går

Forklaring: I et friksjonsfritt system må total energi (og momentum, hvis noen) bevares. Å overvåke denne størrelsen gjennom simuleringen og se om den forblir konstant avslører numeriske feil (f.eks. den primitive Euler-metoden øker stadig energien). Hvis energien driver, er simuleringen upålitelig; Bare fordi det produserer en fin grafikk betyr ikke det at den er riktig.

4. Hvilken av følgende er den riktige tilnærmingen når en modell tilpasses eksperimentelle data?

A) Velge det høyere gradspolynomet som passer best til dataene fordi det går gjennom alle punkter
B) Å gi parameterne som et enkelt tall uten tvetydighet
C) Erklære kvaliteten på passformen ganske enkelt ved å se på hvor vakker kurven ser ut.
D) Velge modellen fra fysikk, rapportere parameterne med deres usikkerheter og evaluere tilpasningen med residualene ✔

Forklaring: Modellen bør velges fra den fysiske loven som hendelsen må følge, ikke ved å se på dataene og lure på "hvilken passer best". Med nok ledige parametere (f.eks. et polynom i høy grad) kan en "perfekt", men fysisk meningsløs tilpasning (overfit) gjøres til alle data. Parametre bør rapporteres med deres usikkerhet, kvalitet på tilpasning bør evalueres med rester, og fysisk plausibilitet bør kontrolleres.

5. Å gjenta en måling mange ganger reduserer hvilken type usikkerhet?

A) Tilfeldig usikkerhet; systematisk usikkerhet avtar ikke ved gjentakelse, årsaken må finnes og rettes opp ✔
B) Systematisk usikkerhet; fordi det eliminerer rekalibreringsfeil
C) Fjerner begge uklarhetene fullstendig
D) Reduserer ikke noen av dem; usikkerhet er uavhengig av antall målinger

Forklaring: Gjentatte målinger reduserer tilfeldig usikkerhet (med standardfeil på gjennomsnittlig std/√N) som følge av tilfeldig fordeling av resultater. Systematisk usikkerhet er derimot en feil som alltid avviker i samme retning (for eksempel en feilkalibrert balanse) og ikke avtar ved gjentakelse; Årsaken kan imidlertid bli funnet og korrigert. Å rapportere en "veldig liten" usikkerhet med flere målinger kan skjule underliggende systematisk feil.

6. Hva er den mest pålitelige uavhengige måten å verifisere en feilutbredelsesformel utledet av AI?

A) Stole på at formelen skal virke flytende og overbevisende
B) Krysssjekking med en Monte Carlo-beregning som tilfeldig prøver inndataene med deres usikkerhet ✔
C) Spør om samme formel til kunstig intelligens igjen og forventer at den skal gi samme resultat
D) Samle usikkerhetene direkte og sammenligne dem med resultatet

Forklaring: AI blander ofte partielle deriverte koeffisienter og kvadratrotstruktur i feilutbredelsesformler. En kraftig måte å oppnå dette uavhengig på er Monte Carlo-krysssjekking: tilfeldig prøvetaking av hver inngang med dens usikkerhet, beregning av funksjonen tusenvis av ganger, og sammenligning av standardavviket til utgangen med usikkerheten gitt av formelen. Møtet mellom to uavhengige metoder øker tilliten.

7. Hva er den riktige arbeidsdelingen mellom AI og SymPy i en lang avledning av symbolfysikk?

A) SymPy genererer ideen om avledningen, AI verifiserer nøyaktig hvert trinn
B) Begge er unødvendige; lange avledninger må kun gjøres manuelt
C) AI bygger rammeverket for avledning, SymPy verifiserer nøyaktig hvert algebraisk trinn ✔
D) Kunstig intelligens gjør utledningen på egen hånd, det er ikke behov for verifisering fordi det ser flytende ut

Forklaring: AI legger en strategi for avledningen og forklarer banen, men i lang algebra gjør den tegnfeil, escaped termer og ukorrekte forenklinger. SymPy, derimot, fungerer i henhold til regler og verifiserer nøyaktig hvert algebraisk trinn. Den kraftigste arbeidsflyten kombinerer de to: få skjelettet fra AI, kilde hvert trinn med SymPy, test resultatet med derivatintegral-inversen og grensetilfellet.

8. Hva forteller dimensjonsanalyse om nøyaktigheten til en fysisk formel?

A) Dimensjonsanalyse beviser alltid definitivt at en formel er riktig
B) Dimensjonsanalyse har ingen praktisk verdi i fysikk
C) Dimensjonsanalyse gir kun den konstante faktoren til formelen, ikke dens konsistens
D) En formel som ikke holder dimensjonalt er helt feil; dimensjonsanalyse fanger opp feil uten å telle tall ✔

Forklaring: De to sidene av en fysisk ligning må være dimensjonalt like før de kan være numerisk like. En formel som ikke holder dimensjonalt er rett og slett feil; dette fanges opp fra telleberegningen. Dimensjonsanalyse beviser ikke definitivt at en formel er korrekt (den kan savne en dimensjonsløs konstant faktor eller vinkel), men den beviser definitivt at den er feil; så det er den første og billigste revisjonen av hver konto.

9. Hva er det mest kritiske første trinnet når man beregner den kinetiske energien til et objekt som reiser med 36 km/t?

A) Konvertering av alle innganger til et enkelt system av enheter (SI); Konvertering av 36 km/t til 10 m/s ✔
B) Sette hastigheten i km/t direkte inn i formelen uten å konvertere den til m/s
C) Multiplisere bare tall uten å ta hensyn til enhetene
D) Forutsatt at det ikke er behov for å kontrollere bestillingen etter å ha beregnet resultatet

Forklaring: SI-baserte formler (E = ½mv²) forventer hastighet i m/s. Å forveksle km/t med m eller timer med sekunder i en beregning er en av de vanligste feilene i fysikk. Først må alle innganger konverteres til et enkelt enhetssystem (SI): 36 km/t = 10 m/s. Siden AI kan gjøre stille feil i sammensatte enhetskonverteringer, må denne konverteringen verifiseres manuelt eller med et enhetsbevisst verktøy.

10. Hvilken praksis er riktig når det gjelder 'ærlighet' i en vitenskapelig graf?

A) Skjuler usikkerhet fordi feilsøyler fyller diagrammet
B) Merk aksene med enheter, velg skalaen uten forvrengning, og vis usikkerhet med feilstreker ✔
C) Start alltid y-aksen i området som vil vise den mest dramatiske forskjellen
D) La aksene stå uten enheter fordi leseren kan gjette enheten

Beskrivelse: Et ærlig vitenskapelig diagram; den merker akser med størrelse og enhet, velger skala bevisst og uten forvrengning (å starte y-aksen vekk fra null for overdrivelse er misvisende), og gjør måleusikkerhet synlig med feilstreker. Å skjule usikkerhet får dataene til å virke sikre og skaper et falskt inntrykk av partiskhet eller enighet. Jo mer overbevisende grafikken er, desto viktigere er integritetskontrollen.

11. Hva er den største risikoen og riktig disiplin når man får litteratur og siteringsstøtte fra kunstig intelligens?

A) Kunstig intelligens kaster bort tid fordi den produserer siteringer veldig sakte
B) Kilder foreslått av kunstig intelligens er alltid ekte, det er ikke behov for verifisering
C) Kunstig intelligens kan produsere attribusjoner som virker ekte, men som ikke eksisterer; Hver sitering må verifiseres med DOI/kilde og litteraturen må finnes fra selve databasen ✔
D) Oppdiktede sitater gjenkjennes lett fordi de alltid bruker uvirkelige journalnavn

Forklaring: En stor språkmodell er ikke koblet til en faktisk database; Ved å etterligne siteringsmønstre kan den produsere artikler som bærer det virkelige tidsskriftnavnet, troverdige forfattere og et rimelig årstall, men som er helt fraværende. Derfor bør litteratur finnes fra ekte databaser, AI bør kun brukes til å oppsummere/oversette den faktiske teksten som er tilgjengelig, og hver sitering bør verifiseres uavhengig av DOI eller tittel. En ubekreftet sitering er et brudd på akademisk integritet.

12. Hva skal til for å få pålitelige resultater når AI oppsummerer en artikkel?

A) Bare å gi tittelen på artikkelen er nok, modellen kjenner innholdet
B) Bruker sammendraget direkte uten å sjekke det i det hele tatt, fordi det ser flytende ut
C) Be modellen om samme oppsummering to ganger og akseptere den som riktig hvis den er lik.
D) Gi originalteksten til modellen og sammenligne det produserte sammendraget med originalteksten for å kontrollere at ingenting er lagt til/forvrengt ✔

Forklaring: Bare å gi AI tittelen på en artikkel og be om et sammendrag vil føre til at modellen kommer opp med en "plausibel oppsummering" uten å se artikkelen; Denne oppsummeringen kan være det motsatte av sannheten. Et pålitelig sammendrag kan kun oppnås når originalteksten mates til modellen og den genererte sammendraget sammenlignes med originalteksten. I tillegg bør det kontrolleres at sammendraget ikke legger til resultater eller tall som ikke er i teksten.

13. Hva er sant for produksjonen av kunstig intelligens i produksjon av fysikkkursmateriale?

A) Hver løsning bør verifiseres uavhengig, grensene for analogier bør spesifiseres, og distraktører bør målrette seg mot reelle misoppfatninger ✔
B) Svarnøkkelen produsert av kunstig intelligens er alltid korrekt, det er ikke behov for revisjon
C) Analogier er perfekte i alle tilfeller, det er ikke nødvendig å spesifisere deres grenser.
D) Distraktorer bør velges helt tilfeldig, fordi arten av det feilaktige valget er uviktig.

Beskrivelse: AI er rask til å generere spørsmål, eksempler og analogier, men kontroll er viktig på tre punkter: Løsningen på hvert problem må verifiseres uavhengig (for hånd eller med kode), fordi modellen kan lage tegn/enhetsfeil i løsningen; Hver analogi må angis der den bryter sammen, ellers vil det gi opphav til en ny feil; Distraktører bør målrette seg mot sanne misoppfatninger. Ansvaret ligger hos læreren; En feil svarnøkkel etterlater elevene med misforståelser som er vanskelige å rette.

14. Hva er oppførselen forenlig med vitenskapelig integritet når eksperimentelle data ikke stemmer helt overens med teorien?

A) Å ha kunstig intelligens organisere dataene for å passe teorien og vise grafen overbevisende
B) Undersøke årsakene til avviket (systematisk feil, mangel på modell, ny effekt) og rapportere ærlig uten å endre dataene ✔
C) Ignorerer uenighet og rapporterer kun punkter som passer
D) Slette dataene og tilpasse et nytt eksperimentresultat

Forklaring: Å be AI om å "ordne dataene slik at de passer bedre til teorien" er datasvindel og et grovt brudd på vitenskapelig integritet. Uenighet er noe som skal undersøkes, ikke skjules: det kan indikere en systematisk feil, en statistisk svingning, mangel på mønster eller en interessant ny effekt. Data rapporteres som de er, med usikkerhet; Det endelige ansvaret ligger hos personen og "verktøyet gjorde det" er ikke et forsvar.