Hallucinationer, etik, konfidentialitet och vetenskaplig integritet

Vinster:

• Förmåga att känna igen hallucinationsformer i fysiken (falsk konstant, falsk lag, enhetsfel, fel resultat, falsk attribution) och fånga dem med lämplig metod.
• Möjlighet att skydda opublicerade, konfidentiella och personliga uppgifter genom anonymisering och minimering genom att inte lägga in dem i obehöriga verktyg
• Att kunna förstå att det yttersta ansvaret ligger hos människan genom att rapportera data ärligt, utan att försköna det, och transparent dokumentera användningen av artificiell intelligens.

Under hela denna modul täckte vi samma disciplin i varje enhet: artificiell intelligens (AI) accelererar, människor verifierar. I denna sista enhet samlar vi hela denna verifieringspraxis under paraplyet av vetenskaplig integritet, det mest grundläggande värdet av fysisk vetenskap. Fysik är strävan efter att producera verifierbar kunskap om naturen; Kärnan i denna strävan är integritet, repeterbarhet och ansvar. AI kan användas för att förstärka dessa värden – men när den används felaktigt hotar den dem alla. I denna enhet kommer vi att diskutera de fysiska formerna av hallucinationer, data- och integritetsansvar, etiska gränser och varför det yttersta ansvaret alltid ligger hos människor.

Former av hallucinationer i fysik

Hallucination – AI:s självsäkra produktion av falsk information – tar unika och farliga former inom fysiken. Att känna igen dessa är det första steget för att fånga:

typ av hallucination

exempel

Infångningsmetod

Passar fast/data

En felaktig materialdensitet

Bekräftelse med pålitlig referens

Falsk formel/lag

Ett icke-existerande "princip"-namn

Lärobok/SymPy härledning

Enhets-/orderfel

misstar eV för J

Dimensionsanalys, enhetskontroll

Felaktigt numeriskt resultat

Felaktig kodutmatning

Kör koden

apokryfisk tillskrivning

obefintlig artikel

Verifiering med DOI

Felrapporterat resultat

Förvrängning av verklig artikel

Läs originalkällan

Den röda tråden är denna: en stor språkmodell är utformad för att inte berätta sanningen, utan för att producera "möjligt utseende text". Inom fysiken är skillnaden mellan "till synes möjligt" och "sant" just orsaken till vetenskapens existens.

Data, integritet och immateriella rättigheter

Fysiker arbetar ofta med känsliga data: opublicerade experimentella data, pre-patentdesigner, konfidentiella mätningar från industriella samarbeten, forskning som involverar personlig hälso- eller säkerhetsdata. Att lägga in sådan data i ett allmänt AI-verktyg skulle kunna göra den tillgänglig för tredje part och möjligen modellens träningsdata – vilket skulle innebära både ett brott mot konfidentialitet och en förlust av vetenskaplig prioritet (rätten att vara den första att göra en upptäckt). Regeln är tydlig: skriv inte in opublicerade, konfidentiella eller personliga uppgifter i ett AI-verktyg som din organisation inte har godkänt. Om du ska in, anonymisera, minimera (ge bara det som behövs) och läs verktygets datavillkor.

Varning: Att ange ett laboratoriums opublicerade mätningar eller ett företags konfidentiella designparametrar i ett AI-verktyg "för snabb analys" kan vara ett oåterkalleligt misstag. När data väl har delats kan de inte återkallas. Om du är osäker, skriv inte in data; Förtydliga din institutions policy och sekretessvillkoren för verktyget först.

Etiska gränser och vetenskaplig integritet

En användning kan vara tekniskt möjlig och till och med laglig, men ändå oetisk. Det finns flera röda linjer i fysiken som rör vetenskaplig integritet:

Datatillverkning eller utsmyckning. Att be AI:n att "generera poäng som bättre passar avkastningen" eller "få grafen att se mer övertygande ut" är databedrägeri. Data rapporteras som de är; Outliers elimineras endast med en dokumenterad, legitim anledning.

Transparens i bidrag. Om du har använt AI i en studie - kodskrivning, språkkorrigering, analys - är det rimligt att göra det tydligt på lämplig plats. Många tidskrifter och institutioner kräver detta.

Författarskap och ansvar. AI är inte en författare; kan inte ansvara för innehållet i ett verk. Ansvaret ligger alltid på mänskliga författare. Ett fel producerat av AI kan inte försvaras med att säga "fordonet klarade det".

Reproducerbarhet. Ett vetenskapligt resultat kräver att metoden (inklusive använd kod, parametrar, AI-prompter) är tydligt dokumenterad så att andra kan replikera den.

tre minifodral

Fall 1 — Konfidentiell dataläcka. En forskare klistrade in mätdata från ett sekretessavtal med ett företag i ett generiskt AI-verktyg "för en snabb graf." Han insåg senare att detta verktyg kunde lagra indata. Ett avtalsbrott och eventuell förlust av företräde har inträffat. Lektion: konfidentiell data läggs aldrig in i ett icke-godkänt verktyg.

Fall 2 — Försköningstryck. En student bad AI om en redigering som skulle "få data att se närmare teorin" eftersom experimentdata inte helt matchade teorin. Hans rådgivare märkte detta och stoppade honom: en diskrepans innebar antingen ett systematiskt fel i experimentet eller intressant ny fysik – något som skulle undersökas, inte döljas. Data rapporterades ärligt och systematiska fel hittades.

Fall 3 – Fått insyn. Ett team skrev dataanalyskoden för ett papper med hjälp av AI och angav detta tydligt i metodavsnittet; delade koden och meddelanden som ytterligare filer. En domare granskade koden och föreslog en mindre korrigering. Transparency fångade felet innan publiceringen och ökade studiens trovärdighet.

Fyra kopierbara mallar

1) Hallucinationsscreening:

Skanna följande fysikutdata för hallucinationer: finns det falska konstanter, falska formel-/lagnamn, enhets-/ordningsfel, overifierade numeriska resultat och obekräftade tillskrivningar? Flagga varje misstänkt objekt och ange hur det ska verifieras (referens, kod, DOI). Utdata: [här]

2) Förhandskontroll av datasekretess:

Utvärdera följande data/text innan du anger den i ett AI-verktyg: innehåller den opublicerad, konfidentiell, personlig eller avtalsskyddad information? Om så är fallet, föreslå hur jag kan anonymisera eller minimera det. Om du är osäker, säg "kolla företagets policy". Innehåll: [här]

3) Utkast till insyn/bidragsförklaring:

I en studie använde jag AI för: [kodning / språkkorrigering /analys, etc.]. Skriv ett kort utkast till "AI use statement" som ärligt dokumenterar detta. Det bör också ange vilka delar som har verifierats av människor.

4) Säkerställa vetenskaplig integritet:

Utför en integritetskontroll för följande analys/resultat: data rapporterade som de är (ingen utsmyckning), rapporteras osäkerheter, är metoden dokumenterad på ett reproducerbart sätt, är användningen av AI transparent? Lista eventuella brister. Innehåll: [här]

Svag prompt / Stark prompt

Svag: "Redigera avkastningen för att bättre passa teorin och göra grafen övertygande."

Resultat: Databedrägeri; Direkt kränkning av vetenskaplig integritet, oåterkallelig förlust av rykte.

Stark: "Utbytet stämmer inte helt överens med teorin. Hjälp mig att analysera möjliga orsaker till denna avvikelse (systematiska fel, statistiska fluktuationer, saknad modell eller en ny effekt); föreslå hur man kan rapportera avvikelsen ärligt utan att ändra data."

Resultat: Ett ärligt, undersökande och troget förhållningssätt till vetenskaplig integritet; Konflikt blir en möjlighet till upptäckt.

Vanliga misstag

• Förvirrande hallucination med självförtroende. Bara för att AI:n talar säkert är inte en garanti för noggrannhet; Även den mest exakta meningen kan vara påhittad.
• Mata in konfidentiell data i fordonet utan godkännande. När data väl har delats kan den inte hämtas; Prioritet och sekretess går förlorad.
• Försköna data. Att ändra data till "fit theory" är ett av de allvarligaste vetenskapliga brotten.
• Döljer användningen av AI. Öppenhet är ett krav på ärlighet och är obligatoriskt på många institutioner.
• Att lägga ansvaret på fordonet. "AI:n gjorde det" är inte ett försvar; Det yttersta ansvaret ligger alltid hos människan.

Tips: I slutet av varje AI-driven studie, ställ dig själv tre frågor: (1) Har alla fakta, siffror och tillskrivningar i denna utdata verifierats oberoende av varandra? (2) Innehöll uppgifterna jag använde konfidentiell/personlig information som jag inte borde ange? (3) Har jag dokumenterat min AI-användning och -metodik tillräckligt transparent för att någon annan ska kunna replikera det? Om du inte kan svara ett klart "ja" på dessa tre frågor är studien ännu inte avslutad.

Sammanfattningsvis

Vetenskaplig integritet är grunden för fysikens existens och är ännu viktigare i AI:s tidsålder. Hallucinationer uppträder i fysiken i form av falska konstanter, falska lagar, enhetsfel, falska slutsatser och falska referenser; var och en fångas med sin egen unika verifieringsmetod. Konfidentiella och personliga uppgifter läggs inte in i obehöriga verktyg; data förskönas aldrig; AI-användning är transparent dokumenterad; och det yttersta ansvaret ligger alltid hos människan. Det finns bara en disciplin du lär dig genom den här modulen: AI är en kraftfull accelerator, men verifiering, integritet och ansvar vilar på den kompetenta fysikerns axlar – det vill säga dig. En overifierad AI-utgång är aldrig en ersättning för en fysikers bekräftelse.

Applikationsuppgift

Välj en AI-utgång (ett konto, en analys eller en text) som du producerade i den här modulen. 1. skärm för hallucinationer med mall: finns det några dummykonstanter, falska formler, enhetsfel eller overifierade tillskrivningar? Med mall 2, utvärdera om den data du använder är integritetsvänlig. Slutligen, utarbeta ett kort AI-användnings-/transparensförklaring med mall 3. Skriv ner i 5-6 meningar: vad visade skanningen, vilka verifieringssteg tog du?

checklista

• [ ] Jag verifierade oberoende varje konstant, formel och resultat i utdata.
• [ ] Jag har verifierat varje citat med DOI/källa.
• [ ] Jag har kontrollerat att jag inte har skrivit in konfidentiella/personliga uppgifter i verktyget utan godkännande.
• [ ] Jag rapporterade uppgifterna som de är, utan utsmyckning.
• [ ] Jag har dokumenterat min användning av AI på ett transparent och reproducerbart sätt.
• [ ] Jag accepterade att det yttersta ansvaret var mitt; Jag tillskrev inget fel på fordonet.

Modulexamen

1. Vilken av följande är den mest exakta positioneringen för artificiell intelligens i fysik?

• A) Artificiell intelligens är en kod-, utkasts- och redigeringsassistent; Ansvaret för enhet, rang, verifiering och etiska beslut ligger på människan ✔
• B) Artificiell intelligens är en miniräknare och de numeriska resultaten den ger är alltid korrekta
• C) Artificiell intelligens fungerar bara i kalkylering, det har inget med experimentanalys och undervisning att göra
• D) Eftersom artificiell intelligens är mer opartisk än människor, bör beslut om enhet och resultat överlåtas till den.

Beskrivning: Artificiell intelligens; Det är en assistent som skriver kod, tar fram utkast, skapar och organiserar härledningsramar. Det yttersta ansvaret för enhets- och orderverifiering av resultatet, säkerställandet av det med bevarandelagar, konstant- och referensbekräftelse tillhör dock den behöriga fysikern. Den stora språkmodellen är inte en miniräknare eller fysikmotor; är en textgenerator som producerar "nästa mest troliga ord" och dess overifierade utdata kan leda till ett felaktigt värde, design eller resultat.

2. Vilken är den mest exakta approximationen för det numeriska resultatet av en beräkningskod du skriver ut i en stor språkmodell?

• A) Att lita på numret säger modellen "den här koden ger det", eftersom han skrev koden
• B) Kör koden själv och se resultatet; ✔ inte förlita sig på modellens verbala numeriska förutsägelse
• C) Acceptera koden som korrekt bara genom att titta på hur den läses, utan att köra den alls
• D) Om resultatet tillfrågas direkt till modellen igen och det säger samma nummer, anses det vara korrekt.

Förklaring: En LLM kan "beräkna" utdata från koden han skrev i sitt huvud och returnera ett fel nummer; medan samma kod körs ger det korrekta resultatet. Det som är deterministiskt är koden som exekveras; Det är inte en verbal förutsägelse av modellen. Därför bör koden alltid köras i din egen miljö och utdata ska synas.

3. Vilket är det mest kraftfulla sättet att testa om simuleringen av ett friktionsfritt dynamiskt system exakt återspeglar fysiken?

• A) Att se att diagrammet ser visuellt snyggt och övertygande ut
• B) Att köra simuleringen med bara ett enda tidssteg och lita på resultatet
• C) Övervaka en kvantitet som behöver bevaras, såsom total energi eller momentum, och kontrollera om den förblir konstant ✔
• D) Utvärdera simuleringen efter hur snabbt den går

Förklaring: I ett friktionsfritt system måste den totala energin (och eventuellt momentum) bevaras. Att övervaka denna storlek under hela simuleringen och se om den förblir konstant avslöjar numeriska brister (t.ex. den primitiva Euler-metoden ökar konstant energin). Om energin driver är simuleringen opålitlig; Bara för att det ger en snygg grafik betyder det inte att det är korrekt.

4. Vilket av följande är det korrekta sättet att anpassa en modell till experimentella data?

• A) Välj det högre gradspolynom som bäst passar data eftersom det passerar genom alla punkter
• B) Ge parametrarna som ett enda tal utan tvetydighet
• C) Deklarera passformens kvalitet helt enkelt genom att titta på hur vacker kurvan ser ut.
• D) Välja modellen från fysiken, rapportera parametrarna med deras osäkerheter och utvärdera passformen med residualerna ✔

Förklaring: Modellen bör väljas från den fysiska lagen som händelsen måste följa, inte genom att titta på data och undra "vilken passar bäst". Med tillräckligt många fria parametrar (t.ex. ett höggradigt polynom) kan en "perfekt" men fysiskt meningslös passning (överanpassning) göras till vilken data som helst. Parametrar bör rapporteras med sin osäkerhet, passformens kvalitet bör utvärderas med rester och fysisk rimlighet bör kontrolleras.

5. Att upprepa en mätning många gånger minskar vilken typ av osäkerhet?

• A) Slumpmässig osäkerhet; systematisk osäkerhet minskar inte vid upprepning, orsaken måste hittas och åtgärdas ✔
• B) Systematisk osäkerhet; eftersom det eliminerar omkalibreringsfel
• C) Helt eliminerar båda oklarheterna
• D) Minskar inte någon av dem; osäkerheten är oberoende av antalet mätningar

Förklaring: Upprepad mätning minskar slumpmässig osäkerhet (med standardfel av medelvärdet std/√N) till följd av slumpmässig fördelning av resultat. Systematisk osäkerhet är å andra sidan ett fel som alltid avviker åt samma håll (till exempel en felaktigt kalibrerad balans) och inte minskar vid upprepning; Orsaken kan dock hittas och åtgärdas. Att rapportera en "mycket liten" osäkerhet med flera mätningar kan dölja underliggande systematiska fel.

6. Vilket är det mest tillförlitliga oberoende sättet att verifiera en felutbredningsformel härledd av AI?

• A) Lita på att formeln ska se flytande och övertygande ut
• B) Korskontroll med en Monte Carlo-beräkning som slumpmässigt samplar indata med deras osäkerhet ✔
• C) Att fråga samma formel till artificiell intelligens igen och förvänta sig att den ska ge samma resultat
• D) Samla in osäkerheterna direkt och jämföra dem med resultatet

Förklaring: AI blandar ofta partiella derivatkoefficienter och kvadratrotsstruktur i formler för fortplantning av fel. Ett kraftfullt sätt att uppnå detta oberoende är Monte Carlo-korskontroll: slumpmässigt urval av varje indata med dess osäkerhet, beräkna funktionen tusentals gånger och jämföra standardavvikelsen för utdata med osäkerheten som ges av formeln. Mötet mellan två oberoende metoder ökar förtroendet.

7. Vad är den korrekta arbetsfördelningen mellan AI och SymPy i en lång härledning av symbolisk fysik?

• A) SymPy genererar idén om härledningen, AI verifierar exakt varje steg
• B) Båda är onödiga; långa härledningar måste endast göras manuellt
• C) AI bygger ramverket för härledning, SymPy verifierar exakt varje algebraiskt steg ✔
• D) Artificiell intelligens gör härledningen på egen hand, det finns inget behov av verifiering eftersom det ser flytande ut

Förklaring: AI lägger en strategi för härledningen och förklarar vägen, men i lång algebra gör den teckenfel, escaped termer och felaktiga förenklingar. SymPy, å andra sidan, fungerar enligt regler och verifierar exakt varje algebraiskt steg. Det mest kraftfulla arbetsflödet kombinerar de två: hämta skelettet från AI:n, käll in varje steg med SymPy, testa resultatet med derivatintegralens invers och gränsfallet.

8. Vad säger dimensionsanalys om noggrannheten hos en fysisk formel?

• A) Dimensionsanalys bevisar alltid definitivt att en formel är korrekt
• B) Dimensionsanalys har inget praktiskt värde i fysiken
• C) Dimensionsanalys ger bara formelns konstanta faktor, inte dess konsistens
• D) En formel som inte håller dimensionellt är helt fel; dimensionsanalys fångar upp fel utan att räkna siffror ✔

Förklaring: De två sidorna av en fysisk ekvation måste vara dimensionellt lika innan de kan vara numeriskt lika. En formel som inte håller dimensionellt är helt enkelt fel; detta fångas från räkneberäkningen. Dimensionsanalys bevisar inte slutgiltigt att en formel är korrekt (den kan missa en dimensionslös konstant faktor eller vinkel), men den bevisar definitivt att den är felaktig; så det är den första och billigaste revisionen av varje konto.

9. Vilket är det mest kritiska första steget när man beräknar den kinetiska energin för ett föremål som färdas i 36 km/h?

• A) Konvertering av alla indata till ett enda system av enheter (SI); Konverterar 36 km/h till 10 m/s ✔
• B) Sätta in hastigheten i km/h direkt i formeln utan att konvertera den till m/s
• C) Multiplicera endast siffror utan att ta hänsyn till enheterna
• D) Förutsatt att det inte finns något behov av att kontrollera beställningen efter att ha beräknat resultatet

Förklaring: SI-baserade formler (E = ½mv²) förväntar sig hastighet i m/s. Att blanda ihop km/h med m eller timmar med sekunder i en beräkning är ett av fysikens vanligaste misstag. Först måste alla indata omvandlas till ett enhetssystem (SI): 36 km/h = 10 m/s. Eftersom AI kan göra tysta fel i sammansatta enhetsomvandlingar måste denna konvertering verifieras manuellt eller med ett enhetsmedvetet verktyg.

10. Vilken praxis är korrekt i termer av "ärlighet" i en vetenskaplig graf?

• A) Döljer osäkerhet eftersom felstaplar belamrar diagrammet
• B) Märk axlarna med enheter, välj skala utan förvrängning och visa osäkerhet med felstaplar ✔
• C) Starta alltid y-axeln i det område som kommer att visa den mest dramatiska skillnaden
• D) Lämna axlarna utan enheter eftersom läsaren kan gissa enheten

Beskrivning: Ett ärligt vetenskapligt diagram; den märker axlar med storlek och enhet, väljer skala medvetet och utan förvrängning (att starta y-axeln bort från noll för överdrift är missvisande) och gör mätosäkerheten synlig med felstaplar. Att dölja osäkerhet gör att uppgifterna verkar säkra och skapar ett felaktigt intryck av partiskhet eller överensstämmelse. Ju mer övertygande en grafik är, desto viktigare är integritetskontrollen.

11. Vilken är den största risken och den korrekta disciplinen när man skaffar litteratur och citeringsstöd från artificiell intelligens?

• A) Artificiell intelligens slösar tid eftersom den producerar citat mycket långsamt
• B) Källor som föreslagits av artificiell intelligens är alltid verkliga, det finns inget behov av verifiering
• C) Artificiell intelligens kan producera tillskrivningar som verkar verkliga men som inte existerar; Varje citat måste verifieras med DOI/källa och litteraturen måste hittas från den faktiska databasen ✔
• D) Påhittade citat är lätta att känna igen eftersom de alltid använder overkliga tidskriftsnamn

Förklaring: En stor språkmodell är inte kopplad till en faktisk databas; Genom att efterlikna citatmönster kan den producera artiklar som bär det verkliga tidskriftsnamnet, trovärdiga författare och ett rimligt årtal men som är helt obefintliga. Därför bör litteratur hittas från riktiga databaser, AI bör endast användas för att sammanfatta/översätta den faktiska texten till hands, och varje citat bör oberoende verifieras av DOI eller titel. Ett overifierat citat är en kränkning av den akademiska integriteten.

12. Vad krävs för att få tillförlitliga resultat när AI sammanfattar en artikel?

• A) Det räcker att bara ge artikelns titel, modellen känner till innehållet
• B) Använda sammanfattningen direkt utan att kontrollera den alls, eftersom den ser flytande ut
• C) Be modellen om samma sammanfattning två gånger och acceptera den som korrekt om den är liknande.
• D) Ge originaltexten till modellen och jämföra den producerade sammanfattningen med originaltexten för att kontrollera att inget har lagts till/förvrängt ✔

Förklaring: Att helt enkelt ge AI titeln på en artikel och be om en sammanfattning kommer att få modellen att komma med en "tänkbar sammanfattning" utan att någonsin se artikeln; Denna sammanfattning kan vara motsatsen till sanningen. En tillförlitlig sammanfattning kan endast erhållas när originaltexten matas till modellen och den genererade sammanfattningen jämförs med originaltexten. Dessutom bör det kontrolleras att sammanfattningen inte lägger till resultat eller siffror som inte finns i texten.

13. Vilket är sant för produktionen av artificiell intelligens vid produktion av fysikkursmaterial?

• A) Varje lösning bör verifieras oberoende, gränserna för analogier bör specificeras och distraktörer bör rikta in sig på verkliga missuppfattningar ✔
• B) Svarsnyckeln som produceras av artificiell intelligens är alltid korrekt, det finns inget behov av revision
• C) Analogier är perfekta i alla fall, det finns inget behov av att specificera deras gränser.
• D) Distraktorer bör väljas helt slumpmässigt, eftersom karaktären av det felaktiga valet är oviktigt.

Beskrivning: AI är snabb på att generera frågor, exempel och analogier, men kontroll är viktigt på tre punkter: lösningen på varje problem måste verifieras oberoende (för hand eller med kod), eftersom modellen kan göra tecken/enhetsfel i lösningen; Varje analogi måste anges där den går sönder, annars kommer den att ge upphov till ett nytt fel; Distraktörer bör rikta in sig på sanna missuppfattningar. Ansvaret ligger på läraren; En felaktig svarsnyckel lämnar eleverna med missförstånd som är svåra att rätta till.

14. Vilket beteende överensstämmer med vetenskaplig integritet när experimentella data inte helt överensstämmer med teorin?

• A) Att ha artificiell intelligens organiserar data för att passa teorin och visa grafen på ett övertygande sätt
• B) Undersöka orsakerna till avvikelsen (systematiskt fel, brist på modell, ny effekt) och rapportera ärligt utan att ändra data ✔
• C) Ignorera oenighet och bara rapportera punkter som passar
• D) Radering av data och anpassning av ett nytt experimentresultat

Förklaring: Att be AI att "ordna data för att bättre passa teorin" är databedrägeri och en grov kränkning av vetenskaplig integritet. Oenighet är något som ska undersökas, inte döljas: det kan tyda på ett systematiskt fel, en statistisk fluktuation, brist på mönster eller en intressant ny effekt. Data rapporteras som de är, med osäkerhet; Det yttersta ansvaret ligger hos personen och "verktyget gjorde det" är inte ett försvar.