Hallucinatie, ethiek, vertrouwelijkheid en wetenschappelijke integriteit

Winst:

• Vermogen om hallucinatievormen in de natuurkunde te herkennen (nepconstante, nepwet, eenheidsfout, verkeerd resultaat, nepattributie) en deze op te vangen met de juiste methode.
• Mogelijkheid om ongepubliceerde, vertrouwelijke en persoonlijke gegevens te beschermen door anonimisering en minimalisering door ze niet in ongeautoriseerde tools in te voeren
• In staat zijn te begrijpen dat de uiteindelijke verantwoordelijkheid bij de mens ligt, door de data eerlijk te rapporteren, zonder deze te verfraaien, en het gebruik van kunstmatige intelligentie transparant te documenteren.

Gedurende deze module hebben we in elke unit dezelfde discipline behandeld: kunstmatige intelligentie (AI) versnelt, mensen verifiëren. In deze laatste unit brengen we deze hele verificatiepraktijk samen onder de paraplu van wetenschappelijke integriteit, de meest fundamentele waarde van de natuurwetenschappen. Natuurkunde is het streven naar het produceren van verifieerbare kennis over de natuur; De kern van dit streven zijn integriteit, herhaalbaarheid en verantwoordelijkheid. AI kan worden gebruikt om deze waarden te versterken, maar als het verkeerd wordt gebruikt, bedreigt het ze allemaal. In deze unit bespreken we de fysieke vormen van hallucinatie, data- en privacyverantwoordelijkheid, ethische grenzen en waarom de uiteindelijke verantwoordelijkheid altijd bij de mens blijft.

Vormen van hallucinatie in de natuurkunde

Hallucinatie – de zelfverzekerde productie van valse informatie door AI – neemt unieke en gevaarlijke vormen aan in de natuurkunde. Het herkennen hiervan is de eerste stap naar het vangen van:

soort hallucinatie

voorbeeld

Vangmethode

Montage vast/data

Een onjuiste materiaaldichtheid

Bevestiging met betrouwbare referentie

Valse formule/wet

Een niet-bestaande "principiële" naam

Leerboek / SymPy-afleiding

Eenheids-/bestellingsfout

eV verwarren met J

Dimensionale analyse, eenheidscontrole

Onjuist numeriek resultaat

Onjuiste code-uitvoer

Voer de code uit

apocriefe toeschrijving

niet bestaand artikel

Verificatie met DOI

Verkeerd gerapporteerd resultaat

Vervorming van het echte artikel

Lees de originele bron

De rode draad is deze: een groot taalmodel is niet ontworpen om de waarheid te vertellen, maar om "mogelijk ogende tekst" te produceren. In de natuurkunde is het verschil tussen ‘schijnbaar mogelijk’ en ‘waar’ precies de reden van het bestaan ​​van de wetenschap.

Gegevens, privacy en aansprakelijkheid voor intellectueel eigendom

Natuurkundigen werken vaak met gevoelige gegevens: ongepubliceerde experimentele gegevens, pre-patentontwerpen, vertrouwelijke metingen uit industriële samenwerkingen, onderzoek waarbij persoonlijke gezondheids- of veiligheidsgegevens betrokken zijn. Het invoeren van dergelijke gegevens in een algemene AI-tool zou deze toegankelijk kunnen maken voor derden en mogelijk ook voor de trainingsgegevens van het model – wat zowel een schending van de vertrouwelijkheid als een verlies van wetenschappelijke prioriteit zou betekenen (het recht om de eerste te zijn die een ontdekking doet). De regel is duidelijk: voer geen ongepubliceerde, vertrouwelijke of persoonlijke gegevens in een AI-tool in die uw organisatie niet heeft goedgekeurd. Als u gaat invoeren, anonimiseer, minimaliseer (geef dan alleen wat nodig is) en lees de gegevensvoorwaarden van de tool.

Let op: het invoeren van de niet-gepubliceerde metingen van een laboratorium of de vertrouwelijke ontwerpparameters van een bedrijf in een AI-tool ‘voor snelle analyse’ kan een onomkeerbare fout zijn. Zodra gegevens zijn gedeeld, kunnen deze niet meer worden teruggehaald. Bij twijfel geen gegevens invoeren; Verduidelijk eerst het beleid van uw instelling en de privacyvoorwaarden van de tool.

Ethische grenzen en wetenschappelijke integriteit

Een gebruik kan technisch mogelijk en zelfs legaal zijn, maar toch onethisch zijn. Er zijn verschillende rode lijnen in de natuurkunde die betrekking hebben op wetenschappelijke integriteit:

Vervaardiging of verfraaiing van gegevens. De AI vragen om “punten te genereren die beter bij de opbrengst passen” of “de grafiek overtuigender te laten lijken” is datafraude. Gegevens worden gerapporteerd zoals ze zijn; Uitschieters worden alleen geëlimineerd als er een gedocumenteerde, legitieme reden voor is.

Transparantie van de bijdrage. Als je AI in een onderzoek hebt gebruikt – code schrijven, taalcorrectie, analyse – is het eerlijk om dat op de juiste plaats duidelijk te maken. Veel tijdschriften en instellingen eisen dit.

Auteurschap en verantwoordelijkheid. AI is geen schrijver; kan niet verantwoordelijk zijn voor de inhoud van een werk. De verantwoordelijkheid ligt altijd bij menselijke schrijvers. Een door AI veroorzaakte fout kan niet worden verdedigd door te zeggen: "Het voertuig heeft het gemaakt".

Reproduceerbaarheid. Een wetenschappelijk resultaat vereist dat de methode (inclusief de gebruikte code, parameters, AI-prompts) duidelijk gedocumenteerd is, zodat anderen deze kunnen repliceren.

drie minikoffers

Geval 1 — Vertrouwelijk datalek. Eén onderzoeker plakte meetgegevens uit een geheimhoudingsovereenkomst met een bedrijf in een generieke AI-tool ‘voor een snelle grafiek’. Later realiseerde hij zich dat deze tool invoer kon opslaan. Er is sprake van contractbreuk en mogelijk verlies van voorrang. Les: vertrouwelijke gegevens worden nooit ingevoerd in een niet-goedgekeurde tool.

Geval 2 — Verfraaiingsafdruk. Eén student vroeg de AI om een ​​bewerking die ‘de data dichter bij de theorie zou laten lijken’, omdat de experimentele data niet volledig overeenkwamen met de theorie. Zijn adviseur merkte dit op en hield hem tegen: een discrepantie betekende óf een systematische fout in het experiment óf een interessante nieuwe natuurkunde – iets dat onderzocht moest worden, niet verborgen. De gegevens werden eerlijk gerapporteerd en er werden systematische fouten gevonden.

Casus 3 — Transparantie verkregen. Eén team schreef met behulp van AI de data-analysecode voor een paper en vermeldde dit duidelijk in het methodengedeelte; deelde de code en aanwijzingen als extra bestanden. Een scheidsrechter beoordeelde de code en stelde een kleine oplossing voor. Transparantie ontdekte de fout vóór publicatie en verhoogde de geloofwaardigheid van het onderzoek.

Vier kopieerbare sjablonen

1) Hallucinatiescreening:

Scan de volgende natuurkundige uitvoer op hallucinaties: zijn er valse constanten, valse namen van formules/wetten, eenheids-/volgordefouten, niet-geverifieerde numerieke resultaten en onbevestigde toeschrijvingen? Markeer elk verdacht item en specificeer hoe het moet worden geverifieerd (referentie, code, DOI). Uitvoer: [hier]

2) Voorafgaande controle van gegevensprivacy:

Evalueer de volgende gegevens/tekst voordat u deze in een AI-tool invoert: bevat deze niet-gepubliceerde, vertrouwelijke, persoonlijke of contractueel beschermde informatie? Zo ja, geef dan een suggestie hoe ik dit kan anonimiseren of minimaliseren. Als u het niet zeker weet, zegt u 'controleer het bedrijfsbeleid'. Inhoud: [hier]

3) Ontwerp transparantie-/bijdrageverklaring:

In één onderzoek gebruikte ik AI voor: [codering / taalcorrectie / analyse, enz.]. Schrijf een korte concept-‘AI-gebruiksverklaring’ waarin dit eerlijk wordt gedocumenteerd. Ook moet worden aangegeven welke onderdelen door mensen zijn geverifieerd.

4) Waarborgen van wetenschappelijke integriteit:

Voer een integriteitscontrole uit voor de volgende analyse/resultaat: data gerapporteerd zoals ze zijn (geen verfraaiing), worden onzekerheden gerapporteerd, is de werkwijze reproduceerbaar gedocumenteerd, is de inzet van AI transparant? Maak een lijst van eventuele tekortkomingen. Inhoud: [hier]

Zwakke prompt/sterke prompt

Zwak: "Bewerk de opbrengst zodat deze beter aansluit bij de theorie en de grafiek overtuigend maakt."

Resultaat: Datafraude; Directe schending van de wetenschappelijke integriteit, onomkeerbaar reputatieverlies.

Strong: "De opbrengst komt niet helemaal overeen met de theorie. Help me mogelijke oorzaken van deze discrepantie te analyseren (systematische fout, statistische fluctuatie, ontbrekend model of een nieuw effect); stel voor hoe ik de discrepantie eerlijk kan rapporteren zonder de gegevens te veranderen."

Resultaat: Een eerlijke, onderzoekende en trouwe benadering van wetenschappelijke integriteit; Conflict wordt een kans tot ontdekking.

Veel voorkomende fouten

• Hallucinatie verwarren met zelfvertrouwen. Het feit dat de AI zelfverzekerd spreekt, is geen garantie voor nauwkeurigheid; Zelfs de meest precieze zin kan verzonnen zijn.
• Zonder toestemming vertrouwelijke gegevens in het voertuig invoeren. Eenmaal gedeeld kunnen gegevens niet meer worden opgehaald; Prioriteit en vertrouwelijkheid gaan verloren.
• Verfraaiende gegevens. Het veranderen van gegevens om de theorie ‘aan te passen’ is een van de ernstigste wetenschappelijke misdaden.
• Het gebruik van AI verbergen. Transparantie is een vereiste voor eerlijkheid en is in veel instellingen verplicht.
• De verantwoordelijkheid bij het voertuig leggen. “De AI heeft het gedaan” is geen verdediging; De uiteindelijke verantwoordelijkheid ligt altijd bij de mens.

Tip: Stel uzelf aan het einde van elk door AI aangedreven onderzoek drie vragen: (1) Is elk feit, getal en toeschrijving in deze output onafhankelijk geverifieerd? (2) Bevatten de gegevens die ik heb gebruikt vertrouwelijke/persoonlijke informatie die ik niet mag invoeren? (3) Heb ik mijn AI-gebruik en -methodologie transparant genoeg gedocumenteerd zodat iemand anders het kan repliceren? Als u op deze drie vragen geen duidelijk ‘ja’ kunt beantwoorden, is het onderzoek nog niet afgerond.

Samengevat

Wetenschappelijke integriteit is de basis van het bestaan ​​van de natuurkunde en is zelfs nog belangrijker in het tijdperk van AI. Hallucinatie komt in de natuurkunde voor in de vorm van valse constanten, valse wetten, eenheidsfouten, valse conclusies en valse verwijzingen; elk wordt vastgelegd met zijn eigen unieke verificatiemethode. Vertrouwelijke en persoonlijke gegevens worden niet ingevoerd in ongeautoriseerde tools; gegevens worden nooit verfraaid; Het gebruik van AI wordt transparant gedocumenteerd; en de uiteindelijke verantwoordelijkheid ligt altijd bij de mens. Er is maar één discipline die je tijdens deze module leert: AI is een krachtige versneller, maar verificatie, integriteit en verantwoordelijkheid rusten op de schouders van de competente natuurkundige – dat wil zeggen: jij. Een niet-geverifieerde AI-uitvoer is nooit een vervanging voor de bevestiging van een natuurkundige.

Applicatie taak

Selecteer een AI-uitvoer (een account, een analyse of een tekst) die u in deze module heeft geproduceerd. 1. screenen op hallucinaties met sjabloon: zijn er dummy-constanten, valse formules, eenheidsfouten of niet-geverifieerde toeschrijvingen? Evalueer met sjabloon 2 of de gegevens die u gebruikt privacyvriendelijk zijn. Stel ten slotte een korte AI-gebruiks-/transparantieverklaring op met sjabloon 3. Schrijf in 5-6 zinnen op: wat heeft de scan opgeleverd, welke verificatiestappen heb je ondernomen?

controlelijst

• [ ] Ik heb onafhankelijk elke constante, formule en resultaat in de uitvoer geverifieerd.
• [ ] Ik heb elke citatie geverifieerd met de DOI/bron.
• [ ] Ik heb gecontroleerd of ik niet zonder toestemming vertrouwelijke/persoonlijke gegevens in de tool heb ingevoerd.
• [ ] Ik heb de gegevens gerapporteerd zoals ze zijn, zonder verfraaiing.
• [ ] Ik heb mijn gebruik van AI op een transparante en reproduceerbare manier gedocumenteerd.
• [ ] Ik accepteerde dat de uiteindelijke verantwoordelijkheid bij mij lag; Ik heb geen enkele fout aan de auto toegeschreven.

Module-examen

1. Welke van de volgende is de meest nauwkeurige positionering voor kunstmatige intelligentie in de natuurkunde?

• A) Kunstmatige intelligentie is een code-, concept- en bewerkingsassistent; De verantwoordelijkheid voor eenheid, rang, verificatie en ethische beslissingen ligt bij de mens ✔
• B) Kunstmatige intelligentie is een rekenmachine en de numerieke resultaten die deze oplevert zijn altijd accuraat
• C) Kunstmatige intelligentie werkt alleen bij berekeningen, het heeft niets te maken met experimentanalyse en lesgeven
• D) Omdat kunstmatige intelligentie onpartijdiger is dan mensen, moeten besluiten over eenheden en resultaten aan hen worden overgelaten.

Omschrijving: Kunstmatige intelligentie; Het is een assistent die code schrijft, concepten maakt, afleidingskaders maakt en organiseert. De uiteindelijke verantwoordelijkheid voor de eenheids- en ordeverificatie van het resultaat, het garanderen ervan met behoudswetten, constante en referentiebevestiging, ligt echter bij de bevoegde natuurkundige. Het grote taalmodel is geen rekenmachine of natuurkunde-engine; is een tekstgenerator die het 'volgende meest waarschijnlijke woord' produceert en de niet-geverifieerde uitvoer ervan kan leiden tot een onjuiste waarde, ontwerp of resultaat.

2. Wat is de meest nauwkeurige benadering voor het numerieke resultaat van een rekencode die u in een groot taalmodel afdrukt?

• A) Vertrouwend op het getal zegt het model 'deze code geeft dat', omdat hij de code heeft geschreven
• B) Voer de code zelf uit en bekijk de uitvoer; ✔ niet vertrouwen op de verbale numerieke voorspelling van het model
• C) De code als correct accepteren door alleen maar te kijken hoe deze wordt gelezen, zonder deze überhaupt uit te voeren
• D) Als het resultaat opnieuw rechtstreeks aan het model wordt gevraagd en hetzelfde getal aangeeft, wordt het als correct beschouwd.

Uitleg: Een LLM kan de uitvoer van de code die hij in zijn hoofd heeft geschreven 'berekenen' en een verkeerd getal retourneren; terwijl wanneer dezelfde code wordt uitgevoerd, dit het juiste resultaat oplevert. Wat deterministisch is, is de code die wordt uitgevoerd; Het is geen verbale voorspelling van het model. Daarom moet de code altijd in uw eigen omgeving worden uitgevoerd en moet de uitvoer zichtbaar zijn.

3. Wat is de krachtigste manier om te testen of de simulatie van een wrijvingsloos dynamisch systeem de natuurkunde nauwkeurig weerspiegelt?

• A) Zien dat de grafiek er visueel netjes en overtuigend uitziet
• B) Voer de simulatie uit met slechts één enkele tijdstap en vertrouw op het resultaat
• C) Het monitoren van een grootheid die behouden moet blijven, zoals totale energie of momentum, en controleren of deze constant blijft ✔
• D) Evalueren van de simulatie op basis van hoe snel deze draait

Uitleg: In een wrijvingsloos systeem moet de totale energie (en eventuele impuls) behouden blijven. Door deze omvang tijdens de simulatie te monitoren en te kijken of deze constant blijft, komen numerieke tekortkomingen aan het licht (bijvoorbeeld de primitieve Euler-methode verhoogt voortdurend de energie). Als de energie afdrijft, is de simulatie onbetrouwbaar; Het feit dat het een mooie afbeelding oplevert, betekent niet dat het correct is.

4. Welke van de volgende benaderingen is de juiste aanpak bij het fitten van een model op experimentele gegevens?

• A) Het kiezen van de polynoom van hogere graad die het beste bij de gegevens past, omdat deze door alle punten gaat
• B) Het geven van de parameters als één enkel getal, zonder dubbelzinnigheid
• C) De kwaliteit van de pasvorm verklaren door simpelweg te kijken naar hoe mooi de ronding eruit ziet.
• D) Selecteren van het model uit de natuurkunde, rapporteren van de parameters met hun onzekerheden en evalueren van de fit met de residuen ✔

Uitleg: Het model moet worden gekozen op basis van de natuurkundige wet waaraan de gebeurtenis moet voldoen, niet door naar de gegevens te kijken en je af te vragen 'welke het beste past'. Met voldoende vrije parameters (bijvoorbeeld een polynoom van hoge graad) kan een 'perfecte' maar fysiek betekenisloze aanpassing (overfit) aan alle gegevens worden gemaakt. Parameters moeten worden gerapporteerd met hun onzekerheid, de kwaliteit van de pasvorm moet worden beoordeeld aan de hand van residuen en de fysieke plausibiliteit moet worden gecontroleerd.

5. Welk type onzekerheid vermindert het vele malen herhalen van een meting?

• A) Willekeurige onzekerheid; systematische onzekerheid neemt niet af bij herhaling, de oorzaak moet worden gevonden en gecorrigeerd ✔
• B) Systematische onzekerheid; omdat het herkalibratiefouten elimineert
• C) Elimineert beide dubbelzinnigheden volledig
• D) Vermindert geen van deze; onzekerheid is onafhankelijk van het aantal metingen

Uitleg: Herhaalde metingen verminderen de willekeurige onzekerheid (met standaardfout van de gemiddelde std/√N) als gevolg van de willekeurige verdeling van de resultaten. Systematische onzekerheid daarentegen is een fout die altijd in dezelfde richting afwijkt (bijvoorbeeld een verkeerd gekalibreerde balans) en niet afneemt bij herhaling; De oorzaak kan echter worden gevonden en verholpen. Het rapporteren van een 'zeer kleine' onzekerheid bij meerdere metingen kan de onderliggende systematische fout verbergen.

6. Wat is de meest betrouwbare, onafhankelijke manier om een ​​door AI afgeleide foutvoortplantingsformule te verifiëren?

• A) Erop vertrouwen dat de formule vloeiend en overtuigend overkomt
• B) Kruiscontrole met een Monte Carlo-berekening waarbij de inputs willekeurig worden bemonsterd met hun onzekerheid ✔
• C) Opnieuw dezelfde formule aan kunstmatige intelligentie vragen en verwachten dat dit hetzelfde resultaat oplevert
• D) Direct verzamelen van de onzekerheden en vergelijken met het resultaat

Uitleg: AI combineert vaak partiële afgeleide coëfficiënten en vierkantswortelstructuren in formules voor het voortplanten van fouten. Een krachtige manier om dit onafhankelijk te bereiken is Monte Carlo-kruiscontrole: het willekeurig bemonsteren van elke invoer met zijn onzekerheid, de functie duizenden keren berekenen en de standaardafwijking van de uitvoer vergelijken met de onzekerheid die door de formule wordt gegeven. De ontmoeting van twee onafhankelijke methoden vergroot het vertrouwen.

7. Wat is de juiste taakverdeling tussen AI en SymPy in een lange afleiding van symbolische fysica?

• A) SymPy genereert het idee van de afleiding, AI verifieert nauwkeurig elke stap
• B) Beide zijn niet nodig; lange afleidingen mogen alleen handmatig worden gedaan
• C) AI bouwt het raamwerk voor afleiding, SymPy verifieert nauwkeurig elke algebraïsche stap ✔
• D) Kunstmatige intelligentie doet de afleiding zelf, er is geen verificatie nodig omdat het er vloeiend uitziet

Uitleg: AI bedenkt een strategie voor de afleiding en verklaart het pad, maar maakt in lange algebra tekenfouten, ontsnapte termen en onjuiste vereenvoudigingen. SymPy daarentegen werkt volgens regels en verifieert elke algebraïsche stap nauwkeurig. De krachtigste workflow combineert de twee: haal het skelet van de AI, bron elke stap met SymPy, test het resultaat met de afgeleide-integrale inverse en het grensgeval.

8. Wat vertelt dimensionale analyse over de nauwkeurigheid van een natuurkundige formule?

• A) Dimensionale analyse bewijst altijd definitief dat een formule correct is
• B) Dimensionale analyse heeft geen praktische waarde in de natuurkunde
• C) Dimensionale analyse geeft alleen de constante factor van de formule, niet de consistentie ervan
• D) Een formule die dimensionaal niet klopt, is absoluut verkeerd; dimensionale analyse spoort fouten op zonder getallen te tellen ✔

Uitleg: De twee zijden van een natuurkundige vergelijking moeten dimensionaal gelijk zijn voordat ze numeriek gelijk kunnen zijn. Een formule die dimensionaal niet klopt, is eenvoudigweg verkeerd; dit wordt uit de tellingsberekening gehaald. Dimensionale analyse bewijst niet onomstotelijk dat een formule correct is (het kan een dimensieloze constante factor of hoek missen), maar het bewijst wel onomstotelijk dat deze onjuist is; het is dus de eerste en goedkoopste audit van elk account.

9. Wat is de meest kritische eerste stap bij het berekenen van de kinetische energie van een object dat zich met een snelheid van 36 km/u voortbeweegt?

• A) Het omzetten van alle input in één systeem van eenheden (SI); Omrekenen van 36 km/u naar 10 m/s ✔
• B) De snelheid in km/u rechtstreeks in de formule invoeren, zonder deze om te rekenen naar m/s
• C) Alleen getallen vermenigvuldigen zonder rekening te houden met de eenheden
• D) Ervan uitgaande dat het niet nodig is om de bestelling te controleren na het berekenen van het resultaat

Uitleg: Op SI gebaseerde formules (E = ½mv²) verwachten snelheid in m/s. Het verwarren van km/u met m of uren met seconden in een berekening is een van de meest voorkomende fouten in de natuurkunde. Eerst moeten alle inputs worden omgezet in één systeem van eenheden (SI): 36 km/h = 10 m/s. Omdat AI stille fouten kan maken bij de conversie van samengestelde eenheden, moet deze conversie handmatig of met een eenheidsbewuste tool worden geverifieerd.

10. Welke praktijk is correct in termen van 'eerlijkheid' in een wetenschappelijke grafiek?

• A) Onzekerheid verbergen omdat foutbalken het diagram onoverzichtelijk maken
• B) Label de assen met eenheden, selecteer de schaal zonder vervorming en toon de onzekerheid met foutbalken ✔
• C) Begin de y-as altijd in het bereik dat het meest dramatische verschil laat zien
• D) De assen zonder eenheden laten, omdat de lezer de eenheid kan raden

Beschrijving: Een eerlijke wetenschappelijke kaart; het labelt assen met grootte en eenheid, kiest schaal bewust en zonder vervorming (het is misleidend om de y-as weg van nul te starten vanwege overdrijving) en maakt meetonzekerheid zichtbaar met foutbalken. Het verbergen van onzekerheid zorgt ervoor dat de gegevens zeker lijken en creëert een valse indruk van vooringenomenheid of overeenstemming. Hoe overtuigender een afbeelding is, hoe belangrijker de integriteitscontrole is.

11. Wat is het grootste risico en de juiste discipline bij het verkrijgen van literatuur- en citatie-ondersteuning uit kunstmatige intelligentie?

• A) Kunstmatige intelligentie verspilt tijd omdat het zeer langzaam citaten produceert
• B) Door kunstmatige intelligentie gesuggereerde bronnen zijn altijd reëel, er is geen noodzaak voor verificatie
• C) Kunstmatige intelligentie kan attributies produceren die echt lijken, maar niet bestaan; Elke citatie moet worden geverifieerd met DOI/bron en de literatuur moet worden gevonden in de daadwerkelijke database ✔
• D) Verzonnen citaten zijn gemakkelijk te herkennen omdat ze altijd onechte tijdschriftnamen gebruiken

Uitleg: Een groot taalmodel is niet verbonden met een daadwerkelijke database; Door citatiepatronen na te bootsen, kan het artikelen produceren die de echte tijdschriftnaam, geloofwaardige auteurs en een redelijk jaartal dragen, maar die helemaal niet bestaan. Daarom moet literatuur uit echte databases worden gevonden, moet AI alleen worden gebruikt om de daadwerkelijke tekst samen te vatten/vertalen, en moet elke citatie onafhankelijk worden geverifieerd aan de hand van DOI of titel. Een niet-geverifieerde citatie is een schending van de wetenschappelijke integriteit.

12. Wat is er nodig om betrouwbare resultaten te krijgen als AI een artikel samenvat?

• A) Het vermelden van de titel van het artikel is voldoende, het model kent de inhoud
• B) De samenvatting rechtstreeks gebruiken zonder deze helemaal te controleren, omdat deze er vloeiend uitziet
• C) Het model twee keer om dezelfde samenvatting vragen en deze als juist accepteren als deze vergelijkbaar is.
• D) De originele tekst aan het model geven en de geproduceerde samenvatting vergelijken met de originele tekst om te controleren of er niets is toegevoegd/vervormd ✔

Uitleg: Door simpelweg de AI de titel van een artikel te geven en om een ​​samenvatting te vragen, komt het model met een ‘plausibele samenvatting’ zonder het artikel ooit te hebben gezien; Deze samenvatting kan het tegenovergestelde van de waarheid zijn. Een betrouwbare samenvatting kan alleen worden verkregen als de originele tekst in het model wordt ingevoerd en de gegenereerde samenvatting wordt vergeleken met de originele tekst. Bovendien moet worden gecontroleerd of de samenvatting geen resultaten of cijfers toevoegt die niet in de tekst staan.

13. Wat geldt voor de output van kunstmatige intelligentie bij de productie van natuurkundecursusmateriaal?

• A) Elke oplossing moet onafhankelijk worden geverifieerd, de grenzen van analogieën moeten worden gespecificeerd en afleiders moeten zich richten op echte misvattingen ✔
• B) De door kunstmatige intelligentie geproduceerde antwoordsleutel is altijd correct, er is geen audit nodig
• C) Analogieën zijn in alle gevallen perfect, het is niet nodig om hun grenzen te specificeren.
• D) Afleiders moeten volledig willekeurig worden gekozen, omdat de aard van de verkeerde keuze onbelangrijk is.

Beschrijving: AI is snel in het genereren van vragen, voorbeelden en analogieën, maar controle is essentieel op drie punten: de oplossing voor elk probleem moet onafhankelijk worden geverifieerd (met de hand of met code), omdat het model teken-/eenheidsfouten kan maken in de oplossing; Elke analogie moet worden vermeld waar zij niet werkt, anders zal zij aanleiding geven tot een nieuwe fout; Afleiders moeten zich richten op echte misvattingen. De verantwoordelijkheid ligt bij de leraar; Een onjuiste antwoordsleutel laat leerlingen met misverstanden achter die moeilijk te corrigeren zijn.

14. Welk gedrag is consistent met wetenschappelijke integriteit als experimentele gegevens niet volledig overeenkomen met de theorie?

• A) Door kunstmatige intelligentie de gegevens te laten organiseren zodat ze bij de theorie passen en de grafiek overtuigend weer te geven
• B) Onderzoek naar de redenen voor de discrepantie (systematische fout, gebrek aan model, nieuw effect) en eerlijk rapporteren zonder de gegevens te wijzigen ✔
• C) Het negeren van meningsverschillen en het rapporteren van alleen punten die passen
• D) Het verwijderen van de gegevens en het aanpassen van een nieuw experimentresultaat

Uitleg: AI vragen om ‘de data zo in te richten dat ze beter bij de theorie passen’ is datafraude en een grove schending van de wetenschappelijke integriteit. Onenigheid is iets dat moet worden onderzocht en niet verborgen: het kan duiden op een systematische fout, een statistische fluctuatie, een gebrek aan patroon of een interessant nieuw effect. Gegevens worden gerapporteerd zoals ze zijn, met onzekerheid; De uiteindelijke verantwoordelijkheid ligt bij de persoon en 'het instrument heeft het gedaan' is geen verdediging.