Gevinster:
- Evne til at genkende hallucinationsformer i fysik (falsk konstant, falsk lov, enhedsfejl, forkert resultat, falsk tilskrivning) og fange dem med den passende metode.
- Evne til at beskytte upublicerede, fortrolige og personlige data ved anonymisering og minimering ved ikke at indtaste dem i uautoriserede værktøjer
- At kunne forstå, at det ultimative ansvar ligger hos mennesker ved at rapportere dataene ærligt, uden at pynte på det, og transparent dokumentere brugen af kunstig intelligens.
Gennem dette modul dækkede vi den samme disciplin i hver enhed: kunstig intelligens (AI) accelererer, mennesker bekræfter. I denne sidste enhed samler vi hele denne verifikationspraksis under paraplyen af videnskabelig integritet, den mest grundlæggende værdi af fysisk videnskab. Fysik er stræben efter at producere verificerbar viden om naturen; Kernen i denne bestræbelse er integritet, repeterbarhed og ansvarlighed. AI kan bruges til at forstærke disse værdier - men når det bruges forkert, truer det dem alle. I denne enhed vil vi diskutere de fysiske former for hallucinationer, data- og privatlivsansvar, etiske grænser, og hvorfor det ultimative ansvar altid forbliver hos mennesker.
Former for hallucinationer i fysik
Hallucination – AI's sikre produktion af falsk information – tager unikke og farlige former i fysik. At genkende disse er det første skridt til at fange:
form for hallucination
eksempel
Optagelsesmetode
Tilpasning fast/data
En forkert materialetæthed
Bekræftelse med pålidelig reference
Falsk formel/lov
Et ikke-eksisterende "princip" navn
Lærebog/SymPy afledning
Enhed/ordre fejl
forveksler eV med J
Dimensionsanalyse, enhedskontrol
Forkert numerisk resultat
Forkert kodeoutput
Kør koden
apokryfisk tilskrivning
ikke-eksisterende artikel
Verifikation med DOI
Forkert rapporteret resultat
Forvrængning af ægte artikel
Læs den originale kilde
Den røde tråd er denne: En stor sprogmodel er designet til ikke at fortælle sandheden, men til at producere "mulig udseende tekst". I fysik er forskellen mellem "tilsyneladende muligt" og "sand" netop årsagen til videnskabens eksistens.
Ansvar for data, privatliv og intellektuel ejendomsret
Fysikere arbejder ofte med følsomme data: upublicerede eksperimentelle data, præ-patentdesign, fortrolige målinger fra industrielle samarbejder, forskning, der involverer personlige sundheds- eller sikkerhedsdata. Indtastning af sådanne data i et generelt AI-værktøj kan gøre det tilgængeligt for tredjeparter og muligvis modellens træningsdata – hvilket ville betyde både et brud på fortroligheden og et tab af videnskabelig prioritet (retten til at være den første til at gøre en opdagelse). Reglen er klar: Indtast ikke upublicerede, fortrolige eller personlige data i et AI-værktøj, som din organisation ikke har godkendt. Hvis du skal ind, anonymiser, minimer (giv kun det nødvendige) og læs værktøjets databetingelser.
Forsigtig: At indtaste et laboratoriums upublicerede målinger eller en virksomheds fortrolige designparametre i et AI-værktøj "til hurtig analyse" kan være en irreversibel fejl. Når først data er delt, kan de ikke genkaldes. Hvis du er i tvivl, skal du ikke indtaste data; Afklar først din institutions politik og vilkårene for beskyttelse af personlige oplysninger for værktøjet.
Etiske grænser og videnskabelig integritet
En brug kan være teknisk mulig og endda lovlig, men stadig være uetisk. Der er flere røde linjer i fysik, der vedrører videnskabelig integritet:
Datafremstilling eller udsmykning. At bede AI om at "generere point, der passer bedre til udbyttet" eller "få grafen til at se mere overbevisende ud" er datasvindel. Data rapporteres som de er; Outliers elimineres kun med en dokumenteret, legitim grund.
Gennemsigtighed af bidrag. Hvis du har brugt AI i en undersøgelse - kodeskrivning, sprogkorrektion, analyse - er det rimeligt at gøre det klart på det rigtige sted. Mange tidsskrifter og institutioner kræver dette.
Forfatterskab og ansvar. AI er ikke en forfatter; kan ikke være ansvarlig for indholdet af et værk. Ansvaret ligger altid hos menneskelige forfattere. En fejl produceret af AI kan ikke forsvares ved at sige "køretøjet klarede det".
Reproducerbarhed. Et videnskabeligt resultat kræver, at metoden (herunder anvendt kode, parametre, AI-prompter) er klart dokumenteret, så andre kan kopiere den.
tre minisager
Case 1 — Fortroligt datalæk. En forsker indsatte måledata fra en tavshedspligt med en virksomhed i et generisk AI-værktøj "til en hurtig graf." Han indså senere, at dette værktøj kunne gemme input. Der er sket et kontraktbrud og eventuelt tab af prioritet. Lektion: fortrolige data indtastes aldrig i et ikke-godkendt værktøj.
Case 2 — Forskønnelsestryk. En studerende bad AI om en redigering, der ville "få dataene til at se tættere på teorien", fordi de eksperimentelle data ikke helt matchede teorien. Hans rådgiver bemærkede dette og stoppede ham: en uoverensstemmelse betød enten en systematisk fejl i eksperimentet eller interessant ny fysik - noget, der skulle undersøges, ikke skjules. Data blev rapporteret ærligt, og der blev fundet systematiske fejl.
Sag 3 — Opnået gennemsigtighed. Et hold skrev dataanalysekoden til et papir ved hjælp af AI og sagde tydeligt dette i metodeafsnittet; delte koden og meddelelser som yderligere filer. En dommer gennemgik koden og foreslog en mindre rettelse. Gennemsigtighed fangede fejlen før offentliggørelsen og øgede troværdigheden af undersøgelsen.
Fire kopierbare skabeloner
1) Hallucinationsscreening:
Scan følgende fysikoutput for hallucinationer: er der falske konstanter, falske formel-/lovnavne, enheds-/rækkefølgefejl, ubekræftede numeriske resultater og ubekræftede tilskrivninger? Markér hvert mistænkeligt element, og angiv, hvordan det skal verificeres (reference, kode, DOI). Output: [her]
2) Forhåndstjek af databeskyttelse:
Evaluer følgende data/tekst, før du indtaster den i et AI-værktøj: indeholder den upublicerede, fortrolige, personlige eller kontraktligt beskyttede oplysninger? Hvis ja, foreslå, hvordan jeg kan anonymisere eller minimere det. Hvis du er usikker, så sig "tjek virksomhedens politik". Indhold: [her]
3) Udkast til gennemsigtighed/bidragserklæring:
I en undersøgelse brugte jeg AI til: [kodning / sprogkorrektion /analyse osv.]. Skriv et kort udkast til "AI use statement", der ærligt dokumenterer dette. Det bør også angive, hvilke dele der er blevet verificeret af mennesker.
4) Sikring af videnskabelig integritet:
Udfør et integritetstjek for følgende analyse/resultat: data rapporteret som de er (ingen udsmykning), rapporteres usikkerheder, er metoden dokumenteret på en reproducerbar måde, er brugen af AI gennemsigtig? Angiv eventuelle mangler. Indhold: [her]
Svag prompt / Stærk prompt
Svag: "Rediger udbyttet for bedre at passe til teorien og gøre grafen overbevisende."
Resultat: Datasvindel; Direkte krænkelse af videnskabelig integritet, irreversibelt tab af omdømme.
Stærkt: "Udbyttet stemmer ikke helt overens med teorien. Hjælp mig med at analysere mulige årsager til denne uoverensstemmelse (systematisk fejl, statistisk udsving, manglende model eller en ny effekt); foreslå, hvordan du rapporterer uoverensstemmelsen ærligt uden at ændre dataene."
Resultat: En ærlig, undersøgende og trofast tilgang til videnskabelig integritet; Konflikt bliver en mulighed for opdagelse.
Almindelige fejl
- Forvirrende hallucination med selvtillid. Bare fordi AI’en taler selvsikkert, er det ikke en garanti for nøjagtighed; Selv den mest præcise sætning kan være opdigtet.
- Indtastning af fortrolige data i køretøjet uden godkendelse. Når de først er delt, kan data ikke hentes; Prioritet og fortrolighed går tabt.
- Forskønnende data. Ændring af data til "fit theory" er en af de mest alvorlige videnskabelige forbrydelser.
- Skjuler brugen af AI. Gennemsigtighed er et krav om ærlighed og er obligatorisk i mange institutioner.
- At lægge ansvaret på køretøjet. "AI'en gjorde det" er ikke et forsvar; Det ultimative ansvar ligger altid hos mennesket.
Tip: Stil dig selv tre spørgsmål i slutningen af hver AI-drevet undersøgelse: (1) Er alle fakta, tal og tilskrivninger i dette output blevet uafhængigt verificeret? (2) Indeholdt de data, jeg brugte, fortrolige/personlige oplysninger, som jeg ikke skulle indtaste? (3) Har jeg dokumenteret min AI-brug og -metode gennemsigtigt nok til, at en anden kan replikere det? Hvis du ikke kan svare et klart "ja" til disse tre spørgsmål, er undersøgelsen endnu ikke afsluttet.
Sammenfattende
Videnskabelig integritet er grundlaget for fysikkens eksistens og er endnu vigtigere i AI's tidsalder. Hallucination optræder i fysik i form af falske konstanter, falske love, enhedsfejl, falske konklusioner og falske referencer; hver er fanget med sin egen unikke verifikationsmetode. Fortrolige og personlige data indtastes ikke i uautoriserede værktøjer; data bliver aldrig forskønnet; AI-brug er gennemsigtigt dokumenteret; og det endelige ansvar ligger altid hos mennesket. Der er kun én disciplin, du lærer gennem dette modul: AI er en kraftfuld accelerator, men verifikation, integritet og ansvar hviler på skuldrene af den kompetente fysiker - det vil sige dig. Et ubekræftet AI-output er aldrig en erstatning for en fysikers bekræftelse.
Ansøgningsopgave
Vælg et AI-output (en konto, en analyse eller en tekst), som du har produceret i dette modul. 1. skærm for hallucinationer med skabelon: er der nogen dummy-konstanter, falske formler, enhedsfejl eller ubekræftede tilskrivninger? Med skabelon 2 skal du vurdere, om de data, du bruger, er privatlivsvenlige. Til sidst skal du lave et udkast til en kort AI-brug/gennemsigtighedserklæring med skabelon 3. Skriv ned i 5-6 sætninger: hvad viste scanningen, hvilke verifikationstrin tog du?
tjekliste
- [ ] Jeg verificerede uafhængigt hver konstant, formel og resultat i outputtet.
- [ ] Jeg har verificeret hvert citat med DOI/kilde.
- [ ] Jeg har kontrolleret, at jeg ikke har indtastet fortrolige/personlige data i værktøjet uden godkendelse.
- [ ] Jeg rapporterede dataene, som de er, uden udsmykning.
- [ ] Jeg har dokumenteret min brug af AI på en gennemsigtig og reproducerbar måde.
- [ ] Jeg accepterede, at det endelige ansvar var mit; Jeg tilskrev ikke køretøjet nogen fejl.
Modul eksamen
1. Hvilken af følgende er den mest nøjagtige positionering for kunstig intelligens i fysik?
- A) Kunstig intelligens er en kode-, udkast- og redigeringsassistent; Ansvaret for enhed, rang, verifikation og etiske beslutninger ligger hos mennesket ✔
- B) Kunstig intelligens er en lommeregner, og de numeriske resultater, den giver, er altid nøjagtige
- C) Kunstig intelligens virker kun i beregning, det har intet med eksperimentanalyse og undervisning at gøre
- D) Da kunstig intelligens er mere upartisk end mennesker, bør beslutninger om enhed og resultat overlades til den.
Beskrivelse: Kunstig intelligens; Det er en assistent, der skriver kode, producerer udkast, skaber og organiserer afledningsrammer. Det endelige ansvar for enheds- og ordreverifikation af resultatet, sikring af det med bevaringslove, konstant og referencebekræftelse, tilhører dog den kompetente fysiker. Den store sprogmodel er ikke en lommeregner eller fysikmotor; er en tekstgenerator, der producerer det 'næste mest sandsynlige ord', og dets ubekræftede output kan føre til en forkert værdi, design eller resultat.
2. Hvad er den mest nøjagtige tilnærmelse til det numeriske resultat af en beregningskode, du udskriver i en stor sprogmodel?
- A) Ved at stole på tallet siger modellen 'denne kode giver det', fordi han skrev koden
- B) Kør selv koden og se outputtet; ✔ ikke stole på modellens verbale numeriske forudsigelse
- C) Acceptere koden som korrekt blot ved at se på hvordan den læses, uden overhovedet at køre den
- D) Hvis resultatet bliver direkte spurgt til modellen igen, og det fortæller det samme tal, anses det for at være korrekt.
Forklaring: En LLM kan 'beregne' outputtet af den kode, han skrev i sit hoved, og returnere et forkert tal; hvorimod når den samme kode køres, giver det det korrekte resultat. Det, der er deterministisk, er den kode, der udføres; Det er ikke en verbal forudsigelse af modellen. Derfor skal koden altid køres i dit eget miljø, og outputtet skal kunne ses.
3. Hvad er den mest effektive måde at teste, om simuleringen af et friktionsløst dynamisk system nøjagtigt afspejler fysikken?
- A) At se, at diagrammet ser visuelt pænt og overbevisende ud
- B) At køre simuleringen med kun et enkelt tidstrin og stole på resultatet
- C) Overvågning af en mængde, der skal bevares, såsom total energi eller momentum, og kontrol af, om den forbliver konstant ✔
- D) Evaluering af simuleringen efter hvor hurtigt den kører
Forklaring: I et friktionsfrit system skal den samlede energi (og momentum, hvis nogen) bevares. Overvågning af denne størrelse gennem simuleringen og se, om den forbliver konstant, afslører numeriske fejl (f.eks. den primitive Euler-metode, der konstant øger energien). Hvis energien driver, er simuleringen upålidelig; Bare fordi det producerer en flot grafik, betyder det ikke, at den er korrekt.
4. Hvilken af følgende er den korrekte tilgang, når en model tilpasses eksperimentelle data?
- A) At vælge det højere grads polynomium, der bedst passer til dataene, fordi det passerer gennem alle punkter
- B) At give parametrene som et enkelt tal uden tvetydighed
- C) Erklærer pasformens kvalitet ved blot at se på, hvor smuk kurven ser ud.
- D) Valg af modellen fra fysik, rapportering af parametrene med deres usikkerheder og evaluering af tilpasningen med residualerne ✔
Forklaring: Modellen skal vælges ud fra den fysiske lov, som begivenheden skal adlyde, ikke ved at se på dataene og spekulere på 'hvilken en passer bedst'. Med nok ledige parametre (f.eks. et polynomium i høj grad) kan der laves en 'perfekt', men fysisk meningsløs tilpasning (overfit) til enhver data. Parametre bør rapporteres med deres usikkerhed, kvalitet af tilpasning bør evalueres med rester, og fysisk plausibilitet bør kontrolleres.
5. Gentagelse af en måling mange gange reducerer hvilken type usikkerhed?
- A) Tilfældig usikkerhed; systematisk usikkerhed aftager ikke ved gentagelse, årsagen skal findes og rettes ✔
- B) Systematisk usikkerhed; fordi det eliminerer rekalibreringsfejl
- C) Fjerner fuldstændig begge uklarheder
- D) Reducerer ikke nogen af dem; usikkerheden er uafhængig af antallet af målinger
Forklaring: Gentagen måling reducerer tilfældig usikkerhed (med standardfejl på middelværdien std/√N) som følge af tilfældig fordeling af resultater. Systematisk usikkerhed er derimod en fejl, der altid afviger i samme retning (f.eks. en forkert kalibreret balance) og ikke aftager ved gentagelse; Årsagen kan dog findes og rettes. Rapportering af en 'meget lille' usikkerhed med flere målinger kan skjule underliggende systematiske fejl.
6. Hvad er den mest pålidelige uafhængige måde at verificere en fejludbredelsesformel udledt af AI?
- A) At stole på, at formlen virker flydende og overbevisende
- B) Krydstjek med en Monte Carlo-beregning, der tilfældigt sampler input med deres usikkerhed ✔
- C) At spørge om den samme formel til kunstig intelligens igen og forvente, at den giver det samme resultat
- D) Indsamling af usikkerheder direkte og sammenligne dem med resultatet
Forklaring: AI blander ofte partielle afledte koefficienter og kvadratrodsstruktur i fejludbredelsesformler. En effektiv måde at opnå dette på uafhængigt er Monte Carlo-krydstjekning: tilfældig stikprøve af hvert input med dets usikkerhed, beregning af funktionen tusindvis af gange og sammenligning af standardafvigelsen af output med usikkerheden givet af formlen. Mødet mellem to uafhængige metoder øger tilliden.
7. Hvad er den korrekte arbejdsdeling mellem AI og SymPy i en lang afledning af symbolfysik?
- A) SymPy genererer ideen om afledningen, AI verificerer præcist hvert trin
- B) Begge dele er unødvendige; lange afledninger må kun udføres manuelt
- C) AI bygger rammen for afledning, SymPy verificerer præcist hvert algebraisk trin ✔
- D) Kunstig intelligens udfører udledningen alene, der er ikke behov for verifikation, fordi det ser flydende ud
Forklaring: AI strategiserer afledningen og forklarer stien, men i lang algebra laver den tegnfejl, undslippede termer og ukorrekte forenklinger. SymPy, på den anden side, arbejder efter regler og verificerer præcist hvert algebraisk trin. Den mest kraftfulde arbejdsgang kombinerer de to: Hent skelettet fra AI'en, kilde hvert trin med SymPy, test resultatet med den afledte-integrale inverse og grænsetilfældet.
8. Hvad fortæller dimensionsanalyse om nøjagtigheden af en fysisk formel?
- A) Dimensionsanalyse beviser altid endegyldigt, at en formel er korrekt
- B) Dimensionsanalyse har ingen praktisk værdi i fysik
- C) Dimensionsanalyse giver kun formlens konstante faktor, ikke dens konsistens
- D) En formel, der ikke holder dimensionelt, er absolut forkert; dimensionsanalyse fanger fejl uden at tælle tal ✔
Forklaring: De to sider af en fysisk ligning skal være dimensionsmæssigt ens, før de kan være numerisk ens. En formel, der ikke holder dimensionelt, er simpelthen forkert; dette er fanget fra tælleberegningen. Dimensionsanalyse beviser ikke endegyldigt, at en formel er korrekt (den kan savne en dimensionsløs konstant faktor eller vinkel), men den beviser endegyldigt, at den er forkert; så det er den første og billigste revision af hver konto.
9. Hvad er det mest kritiske første skridt, når man beregner den kinetiske energi af et objekt, der bevæger sig med 36 km/t?
- A) Konvertering af alle input til et enkelt system af enheder (SI); Konvertering af 36 km/t til 10 m/s ✔
- B) Sætte hastigheden i km/t direkte ind i formlen uden at konvertere den til m/s
- C) Multiplicer kun tal uden at tage hensyn til enhederne
- D) Forudsat at der ikke er behov for at kontrollere ordren efter udregning af resultatet
Forklaring: SI-baserede formler (E = ½mv²) forventer hastighed i m/s. At forveksle km/t med m eller timer med sekunder i en beregning er en af de mest almindelige fejl i fysikken. Først skal alle input konverteres til et enkelt system af enheder (SI): 36 km/t = 10 m/s. Da AI kan lave tavse fejl i sammensatte enhedskonverteringer, skal denne konvertering verificeres manuelt eller med et enhedsbevidst værktøj.
10. Hvilken praksis er korrekt med hensyn til 'ærlighed' i en videnskabelig graf?
- A) Skjuler usikkerhed, fordi fejlbjælker roder diagrammet
- B) Mærk akserne med enheder, vælg skalaen uden forvrængning, og vis usikkerhed med fejlbjælker ✔
- C) Start altid y-aksen i det område, der vil vise den mest dramatiske forskel
- D) At efterlade akserne uden enheder, fordi læseren kan gætte enheden
Beskrivelse: Et ærligt videnskabeligt diagram; den mærker akser med størrelse og enhed, vælger skala bevidst og uden forvrængning (at starte y-aksen væk fra nul for overdrivelse er misvisende), og gør måleusikkerhed synlig med fejlbjælker. At skjule usikkerhed får dataene til at virke sikre og skaber et falsk indtryk af bias eller enighed. Jo mere overbevisende en grafik er, jo vigtigere er integritetskontrollen.
11. Hvad er den største risiko og den korrekte disciplin, når man får litteratur og citatstøtte fra kunstig intelligens?
- A) Kunstig intelligens spilder tid, fordi den producerer citater meget langsomt
- B) Kilder foreslået af kunstig intelligens er altid ægte, der er ikke behov for verifikation
- C) Kunstig intelligens kan frembringe tilskrivninger, der virker ægte, men som ikke eksisterer; Hvert citat skal verificeres med DOI/kilde og litteraturen skal findes fra den aktuelle database ✔
- D) Opdigtede citater genkendes let, fordi de altid bruger uvirkelige journalnavne
Forklaring: En stor sprogmodel er ikke forbundet med en egentlig database; Ved at efterligne citationsmønstre kan den producere artikler, der bærer det rigtige tidsskriftsnavn, troværdige forfattere og et rimeligt årstal, men som er fuldstændig ikke-eksisterende. Derfor bør litteratur findes fra rigtige databaser, AI bør kun bruges til at opsummere/oversætte den aktuelle tekst, og hvert citat bør uafhængigt verificeres af DOI eller titel. Et ubekræftet citat er en krænkelse af den akademiske integritet.
12. Hvad skal der til for at få pålidelige resultater, når AI opsummerer en artikel?
- A) Bare at give artiklens titel er nok, modellen kender indholdet
- B) Bruger resuméet direkte uden at tjekke det overhovedet, fordi det ser flydende ud
- C) At bede modellen om det samme resumé to gange og acceptere det som korrekt, hvis det er ens.
- D) Give den originale tekst til modellen og sammenligne den producerede oversigt med den originale tekst for at kontrollere, at intet er tilføjet/forvrænget ✔
Forklaring: Blot at give AI titlen på en artikel og bede om et resumé vil få modellen til at komme med et 'plausibelt resumé' uden nogensinde at se artiklen; Dette resumé kan være det modsatte af sandheden. Et pålideligt resumé kan kun opnås, når den originale tekst tilføres modellen, og den genererede oversigt sammenlignes med den originale tekst. Derudover skal det kontrolleres, at resuméet ikke tilføjer resultater eller tal, der ikke er i teksten.
13. Hvad er sandt for output af kunstig intelligens i fysik kursusmateriale produktion?
- A) Hver løsning bør verificeres uafhængigt, grænserne for analogier bør specificeres, og distraktorer bør målrette mod reelle misforståelser ✔
- B) Svarnøglen produceret af kunstig intelligens er altid korrekt, der er ikke behov for auditering
- C) Analogier er perfekte i alle tilfælde, der er ingen grund til at specificere deres grænser.
- D) Distraktorer bør vælges helt tilfældigt, fordi karakteren af det forkerte valg er uden betydning.
Beskrivelse: AI er hurtig til at generere spørgsmål, eksempler og analogier, men kontrol er essentiel på tre punkter: Løsningen på hvert problem skal verificeres uafhængigt (i hånden eller med kode), fordi modellen kan lave tegn/enhedsfejl i løsningen; Hver analogi skal angives, hvor den bryder sammen, ellers vil den give anledning til en ny fejl; Distraktorer bør målrette mod sande misforståelser. Ansvaret ligger hos læreren; En forkert svarnøgle efterlader eleverne med misforståelser, som er svære at rette.
14. Hvad er adfærden i overensstemmelse med videnskabelig integritet, når eksperimentelle data ikke stemmer helt overens med teorien?
- A) At have kunstig intelligens organiserer dataene, så de passer til teorien og viser grafen overbevisende
- B) Undersøg årsagerne til uoverensstemmelsen (systematisk fejl, manglende model, ny effekt) og rapporter ærligt uden at ændre data ✔
- C) Ignorerer uenighed og rapporterer kun punkter, der passer
- D) Sletning af data og tilpasning af et nyt eksperimentresultat
Forklaring: At bede AI om at 'arrangere dataene, så de passer bedre til teorien', er datasvindel og en grov krænkelse af videnskabelig integritet. Uenighed er noget, der skal undersøges, ikke skjules: det kan indikere en systematisk fejl, en statistisk udsving, mangel på mønster eller en interessant ny effekt. Data rapporteres som de er, med usikkerhed; Det ultimative ansvar ligger hos personen, og 'værktøjet gjorde det' er ikke et forsvar.