Halluzination, Ethik, Vertraulichkeit und wissenschaftliche Integrität — Künstliche Intelligenz in der Physik

Gewinne:

Fähigkeit, Halluzinationsformen in der Physik zu erkennen (falsche Konstante, falsches Gesetz, Einheitenfehler, falsches Ergebnis, falsche Zuschreibung) und sie mit der geeigneten Methode einzufangen.
Möglichkeit, unveröffentlichte, vertrauliche und personenbezogene Daten durch Anonymisierung und Minimierung zu schützen, indem sie nicht in nicht autorisierte Tools eingegeben werden
Verstehen können, dass die letztendliche Verantwortung beim Menschen liegt, indem wir die Daten ehrlich, ohne sie zu beschönigen, melden und den Einsatz künstlicher Intelligenz transparent dokumentieren.

In diesem Modul haben wir in jeder Einheit die gleiche Disziplin behandelt: Künstliche Intelligenz (KI) beschleunigt, Menschen überprüfen. In dieser letzten Einheit fassen wir die gesamte Verifizierungspraxis unter dem Dach der wissenschaftlichen Integrität zusammen, dem grundlegendsten Wert der Naturwissenschaften. Physik ist das Streben nach nachweisbarem Wissen über die Natur; Im Mittelpunkt dieses Unterfangens stehen Integrität, Wiederholbarkeit und Verantwortung. KI kann eingesetzt werden, um diese Werte zu stärken – doch wenn sie falsch eingesetzt wird, bedroht sie sie alle. In dieser Einheit besprechen wir die physischen Formen der Halluzination, die Verantwortung für Daten und Privatsphäre, ethische Grenzen und warum die letztendliche Verantwortung immer beim Menschen liegt.

Formen der Halluzination in der Physik

Halluzination – die selbstbewusste Produktion falscher Informationen durch KI – nimmt in der Physik einzigartige und gefährliche Formen an. Diese zu erkennen ist der erste Schritt, um Folgendes zu erkennen:

Art der Halluzination

Beispiel

Erfassungsmethode

Anpassung fest/Daten

Eine falsche Materialdichte

Bestätigung mit verlässlicher Referenz

Falsche Formel/Gesetz

Ein nicht existierender „Prinzip“-Name

Lehrbuch/SymPy-Ableitung

Einheiten-/Bestellfehler

eV mit J verwechseln

Dimensionsanalyse, Einheitensteuerung

Falsches numerisches Ergebnis

Falsche Codeausgabe

Führen Sie den Code aus

apokryphe Zuschreibung

nicht existierender Artikel

Verifizierung mit DOI

Falsch gemeldetes Ergebnis

Verzerrung des echten Artikels

Lesen Sie die Originalquelle

Der gemeinsame Nenner ist folgender: Ein großes Sprachmodell ist nicht darauf ausgelegt, die Wahrheit zu sagen, sondern einen „möglich aussehenden Text“ zu erzeugen. In der Physik ist der Unterschied zwischen „scheinbar möglich“ und „wahr“ genau der Grund für die Existenz der Wissenschaft.

Haftung für Daten, Datenschutz und geistiges Eigentum

Physiker arbeiten oft mit sensiblen Daten: unveröffentlichte experimentelle Daten, vorpatentierte Designs, vertrauliche Messungen aus Industriekooperationen, Forschung mit persönlichen Gesundheits- oder Sicherheitsdaten. Die Eingabe solcher Daten in ein allgemeines KI-Tool könnte diese und möglicherweise auch die Trainingsdaten des Modells für Dritte zugänglich machen – was sowohl einen Verstoß gegen die Vertraulichkeit als auch einen Verlust der wissenschaftlichen Priorität (das Recht, als Erster eine Entdeckung zu machen) bedeuten würde. Die Regel ist klar: Geben Sie keine unveröffentlichten, vertraulichen oder personenbezogenen Daten in ein KI-Tool ein, das Ihre Organisation nicht genehmigt hat. Wenn Sie Daten eingeben, anonymisieren, minimieren (nur das Nötigste angeben) und die Datenbedingungen des Tools lesen möchten.

Achtung: Die Eingabe unveröffentlichter Messungen eines Labors oder vertraulicher Designparameter eines Unternehmens in ein KI-Tool „zur schnellen Analyse“ kann ein irreversibler Fehler sein. Sobald Daten geteilt wurden, können sie nicht mehr zurückgerufen werden. Geben Sie im Zweifelsfall keine Daten ein; Klären Sie zunächst die Richtlinien Ihrer Institution und die Datenschutzbestimmungen des Tools.

Ethische Grenzen und wissenschaftliche Integrität

Eine Nutzung kann zwar technisch möglich und sogar legal, aber dennoch unethisch sein. In der Physik gibt es mehrere rote Linien, die die wissenschaftliche Integrität betreffen:

Datenfälschung oder -verschönerung. Von der KI zu verlangen, „Punkte zu generieren, die besser zum Ertrag passen“ oder „das Diagramm überzeugender aussehen zu lassen“, ist Datenbetrug. Die Daten werden unverändert gemeldet. Ausreißer werden nur mit einem dokumentierten, berechtigten Grund eliminiert.

Transparenz des Beitrags. Wenn Sie KI in einer Studie verwendet haben – Code schreiben, Sprachkorrektur, Analyse – ist es fair, dies an der entsprechenden Stelle klarzustellen. Viele Zeitschriften und Institutionen verlangen dies.

Autorschaft und Verantwortung. KI ist kein Schriftsteller; Für den Inhalt eines Werkes kann keine Verantwortung übernommen werden. Die Verantwortung liegt immer beim menschlichen Autor. Ein von der KI verursachter Fehler kann nicht mit der Aussage „Das Fahrzeug hat es gemacht“ verteidigt werden.

Reproduzierbarkeit. Für ein wissenschaftliches Ergebnis muss die Methode (einschließlich verwendeter Code, Parameter, KI-Eingabeaufforderungen) klar dokumentiert werden, damit andere sie reproduzieren können.

drei Mini-Koffer

Fall 1 – Vertrauliches Datenleck. Ein Forscher fügte Messdaten aus einer Geheimhaltungsvereinbarung mit einem Unternehmen „für eine schnelle Grafik“ in ein generisches KI-Tool ein. Später erkannte er, dass dieses Tool Eingaben speichern konnte. Es liegt ein Vertragsbruch und ein möglicher Prioritätsverlust vor. Lektion: Vertrauliche Daten werden niemals in ein nicht genehmigtes Tool eingegeben.

Fall 2 – Verschönerungsdruck. Ein Student bat die KI um eine Bearbeitung, die „die Daten näher an die Theorie bringen würde“, da die experimentellen Daten nicht vollständig mit der Theorie übereinstimmten. Sein Berater bemerkte dies und hielt ihn davon ab: Eine Diskrepanz bedeute entweder einen systematischen Fehler im Experiment oder eine interessante neue Physik – etwas, das untersucht und nicht verborgen werden müsse. Die Daten wurden ehrlich gemeldet und es wurden systematische Fehler festgestellt.

Fall 3 – Transparenz gewonnen. Ein Team hat den Datenanalysecode für eine Arbeit mit Hilfe von KI geschrieben und dies im Methodenteil deutlich angegeben; den Code und die Eingabeaufforderungen als zusätzliche Dateien freigegeben. Ein Gutachter überprüfte den Code und schlug eine kleinere Korrektur vor. Transparency hat den Fehler schon vor der Veröffentlichung erkannt und die Glaubwürdigkeit der Studie erhöht.

Vier kopierbare Vorlagen

1) Halluzinationsscreening:

Durchsuchen Sie die folgende physikalische Ausgabe nach Halluzinationen: Gibt es falsche Konstanten, falsche Formel-/Gesetznamen, Einheiten-/Ordnungsfehler, unbestätigte numerische Ergebnisse und unbestätigte Zuschreibungen? Markieren Sie jedes verdächtige Element und geben Sie an, wie es überprüft werden soll (Referenz, Code, DOI). Ausgabe: [hier]

2) Datenschutz-Vorabprüfung:

Bewerten Sie die folgenden Daten/Texte, bevor Sie sie in ein KI-Tool eingeben: Enthält sie unveröffentlichte, vertrauliche, persönliche oder vertraglich geschützte Informationen? Wenn ja, schlagen Sie vor, wie ich es anonymisieren oder minimieren kann. Wenn Sie unsicher sind, sagen Sie „Unternehmensrichtlinien prüfen“. Inhalt: [hier]

3) Entwurf der Transparenz-/Beitragserklärung:

In einer Studie habe ich KI für Folgendes verwendet: [Codierung/Sprachkorrektur/Analyse usw.]. Schreiben Sie einen kurzen Entwurf einer „KI-Nutzungserklärung“, der dies ehrlich dokumentiert. Es sollte auch angegeben werden, welche Teile von Menschen überprüft wurden.

4) Gewährleistung der wissenschaftlichen Integrität:

Führen Sie eine Integritätsprüfung für die folgende Analyse/das folgende Ergebnis durch: Daten werden so gemeldet, wie sie sind (keine Ausschmückung), werden Unsicherheiten gemeldet, ist die Methode reproduzierbar dokumentiert, ist der Einsatz von KI transparent? Listen Sie etwaige Mängel auf. Inhalt: [hier]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach: „Bearbeiten Sie die Ausbeute, um sie besser an die Theorie anzupassen und die Grafik überzeugend zu machen.“

Ergebnis: Datenbetrug; Direkte Verletzung der wissenschaftlichen Integrität, irreversibler Reputationsverlust.

Stark: „Der Ertrag stimmt nicht vollständig mit der Theorie überein. Helfen Sie mir, mögliche Ursachen dieser Diskrepanz zu analysieren (systematischer Fehler, statistische Schwankung, fehlendes Modell oder ein neuer Effekt); schlagen Sie vor, wie ich die Diskrepanz ehrlich melden kann, ohne die Daten zu ändern.“

Ergebnis: Ein ehrlicher, recherchierender und getreuer Ansatz zur wissenschaftlichen Integrität; Konflikte werden zu einer Chance zur Entdeckung.

Häufige Fehler

Halluzination mit Selbstvertrauen verwechseln. Nur weil die KI souverän spricht, ist das keine Garantie für die Genauigkeit; Selbst der präziseste Satz kann erfunden sein.
Ohne Genehmigung vertrauliche Daten in das Fahrzeug eingeben. Einmal geteilte Daten können nicht mehr abgerufen werden; Priorität und Vertraulichkeit gehen verloren.
Daten verschönern. Daten so zu ändern, dass sie zur Theorie passen, ist eines der schwersten wissenschaftlichen Verbrechen.
Den Einsatz von KI verbergen. Transparenz ist eine Voraussetzung für Ehrlichkeit und in vielen Institutionen Pflicht.
Die Verantwortung auf das Fahrzeug übertragen. „Die KI hat es geschafft“ ist keine Verteidigung; Die letztendliche Verantwortung liegt immer beim Menschen.

Tipp: Stellen Sie sich am Ende jeder KI-gestützten Studie drei Fragen: (1) Wurden alle Fakten, Zahlen und Zuschreibungen in dieser Ausgabe unabhängig überprüft? (2) Enthielten die von mir verwendeten Daten vertrauliche/persönliche Informationen, die ich nicht eingeben sollte? (3) Habe ich meine KI-Nutzung und -Methodik transparent genug dokumentiert, damit jemand anderes sie nachvollziehen kann? Können Sie diese drei Fragen nicht eindeutig mit „Ja“ beantworten, ist die Studie noch nicht abgeschlossen.

Zusammenfassend

Wissenschaftliche Integrität ist die Existenzgrundlage der Physik und wird im Zeitalter der KI noch wichtiger. Halluzinationen treten in der Physik in Form falscher Konstanten, falscher Gesetze, Einheitsfehler, falscher Schlussfolgerungen und falscher Bezüge auf; jedes wird mit seiner eigenen einzigartigen Verifizierungsmethode erfasst. Vertrauliche und personenbezogene Daten werden nicht in nicht autorisierte Tools eingegeben; Daten werden niemals verschönert; Der KI-Einsatz wird transparent dokumentiert; und die letztendliche Verantwortung liegt immer beim Menschen. In diesem Modul lernen Sie nur eine Disziplin: KI ist ein leistungsstarker Beschleuniger, aber Verifizierung, Integrität und Verantwortung liegen auf den Schultern des kompetenten Physikers – also bei Ihnen. Eine nicht verifizierte KI-Ausgabe ist niemals ein Ersatz für die Bestätigung eines Physikers.

Anwendungsaufgabe

Wählen Sie eine KI-Ausgabe (ein Konto, eine Analyse oder einen Text) aus, die Sie in diesem Modul erstellt haben. 1. Screening auf Halluzinationen mit Vorlage: Gibt es Scheinkonstanten, falsche Formeln, Einheitenfehler oder unbestätigte Zuschreibungen? Bewerten Sie anhand von Vorlage 2, ob die von Ihnen verwendeten Daten datenschutzfreundlich sind. Erstellen Sie abschließend eine kurze KI-Nutzungs-/Transparenzerklärung mit Vorlage 3. Schreiben Sie in 5–6 Sätzen auf: Was hat der Scan ergeben, welche Überprüfungsschritte haben Sie unternommen?

Checkliste

[ ] Ich habe jede Konstante, Formel und jedes Ergebnis in der Ausgabe unabhängig überprüft.
[ ] Ich habe jedes Zitat mit dem DOI/der Quelle überprüft.
[ ] Ich habe überprüft, dass ich ohne Genehmigung keine vertraulichen/personenbezogenen Daten in das Tool eingegeben habe.
[ ] Ich habe die Daten so wie sie sind, ohne Ausschmückung, angegeben.
[ ] Ich habe meinen Einsatz von KI transparent und reproduzierbar dokumentiert.
[ ] Ich akzeptierte, dass die letztendliche Verantwortung bei mir lag; Ich habe dem Fahrzeug keinen Fehler zugeschrieben.

Modulprüfung

1. Welche der folgenden Aussagen ist die genaueste Positionierung für künstliche Intelligenz in der Physik?

A) Künstliche Intelligenz ist ein Code-, Entwurfs- und Bearbeitungsassistent; Die Verantwortung für Einheit, Rang, Verifizierung und ethische Entscheidungen liegt beim Menschen ✔
B) Künstliche Intelligenz ist ein Taschenrechner und die numerischen Ergebnisse, die er liefert, sind immer genau
C) Künstliche Intelligenz funktioniert nur beim Rechnen, sie hat nichts mit Experimentanalyse und Lehre zu tun
D) Da künstliche Intelligenz unparteiischer ist als der Mensch, sollten Einheiten- und Ergebnisentscheidungen ihr überlassen werden.

Beschreibung: Künstliche Intelligenz; Es handelt sich um einen Assistenten, der Code schreibt, Entwürfe erstellt und Ableitungsframeworks erstellt und organisiert. Die letztendliche Verantwortung für die Einheits- und Ordnungsüberprüfung des Ergebnisses, die Sicherstellung der Erhaltungssätze, der Konstanten und der Referenzbestätigung liegt jedoch beim kompetenten Physiker. Das große Sprachmodell ist kein Taschenrechner oder eine Physik-Engine; ist ein Textgenerator, der das „nächstwahrscheinlichste Wort“ erzeugt und dessen ungeprüfte Ausgabe zu einem falschen Wert, Design oder Ergebnis führen kann.

2. Was ist die genaueste Näherung für das numerische Ergebnis eines Rechencodes, den Sie in ein großes Sprachmodell drucken?

A) Im Vertrauen auf die Zahl sagt das Modell: „Dieser Code gibt das“, weil er den Code geschrieben hat
B) Führen Sie den Code selbst aus und sehen Sie sich die Ausgabe an. ✔ sich nicht auf die verbale numerische Vorhersage des Modells verlassen
C) Akzeptieren Sie den Code als korrekt, indem Sie nur darauf achten, wie er gelesen wird, ohne ihn überhaupt auszuführen
D) Wenn das Ergebnis noch einmal direkt an das Modell abgefragt wird und es die gleiche Zahl angibt, gilt es als korrekt.

Erläuterung: Ein LLM kann die Ausgabe des Codes, den er in seinem Kopf geschrieben hat, „berechnen“ und eine falsche Zahl zurückgeben; Wenn hingegen derselbe Code ausgeführt wird, liefert er das richtige Ergebnis. Deterministisch ist der Code, der ausgeführt wird; Es handelt sich nicht um eine verbale Vorhersage des Modells. Daher sollte der Code immer in Ihrer eigenen Umgebung ausgeführt werden und die Ausgabe sollte sichtbar sein.

3. Was ist die wirkungsvollste Methode, um zu testen, ob die Simulation eines reibungsfreien dynamischen Systems die Physik genau widerspiegelt?

A) Achten Sie darauf, dass das Diagramm optisch ordentlich und überzeugend aussieht
B) Die Simulation mit nur einem einzigen Zeitschritt ausführen und dem Ergebnis vertrauen
C) Überwachung einer zu erhaltenden Größe wie Gesamtenergie oder Impuls und Prüfung, ob diese konstant bleibt ✔
D) Bewertung der Simulation danach, wie schnell sie läuft

Erläuterung: In einem reibungsfreien System muss die Gesamtenergie (und ggf. der Impuls) erhalten bleiben. Die Überwachung dieser Größe während der gesamten Simulation und die Prüfung, ob sie konstant bleibt, offenbaren numerische Fehler (z. B. die ständige Erhöhung der Energie durch die primitive Euler-Methode). Wenn die Energie driftet, ist die Simulation unzuverlässig; Nur weil es eine schöne Grafik erzeugt, heißt das nicht, dass es korrekt ist.

4. Welcher der folgenden Ansätze ist der richtige, wenn ein Modell an experimentelle Daten angepasst wird?

A) Auswahl des Polynoms höheren Grades, das am besten zu den Daten passt, da es alle Punkte durchläuft
B) Geben Sie die Parameter ohne Mehrdeutigkeit als einzelne Zahl an
C) Erklären Sie die Qualität der Passform einfach dadurch, dass Sie sich ansehen, wie schön die Kurve aussieht.
D) Auswahl des Modells aus der Physik, Angabe der Parameter mit ihren Unsicherheiten und Bewertung der Anpassung mit den Residuen ✔

Erläuterung: Das Modell sollte anhand des physikalischen Gesetzes ausgewählt werden, dem das Ereignis gehorchen muss, und nicht anhand der Daten und der Frage, welches Modell am besten passt. Mit genügend freien Parametern (z. B. einem Polynom hohen Grades) kann eine „perfekte“, aber physikalisch bedeutungslose Anpassung (Überanpassung) an alle Daten vorgenommen werden. Parameter sollten mit ihrer Unsicherheit angegeben werden, die Qualität der Anpassung sollte mit Residuen bewertet werden und die physikalische Plausibilität sollte überprüft werden.

5. Welche Art von Unsicherheit verringert sich, wenn eine Messung mehrmals wiederholt wird?

A) Zufällige Unsicherheit; Die systematische Unsicherheit nimmt bei Wiederholung nicht ab, die Ursache muss gefunden und behoben werden ✔
B) Systematische Unsicherheit; weil es Rekalibrierungsfehler eliminiert
C) Beseitigt beide Unklarheiten vollständig
D) Reduziert keinen von ihnen; Die Unsicherheit ist unabhängig von der Anzahl der Messungen

Erläuterung: Wiederholte Messungen verringern die zufällige Unsicherheit (mit Standardfehler des Mittelwerts std/√N), die sich aus der zufälligen Verteilung der Ergebnisse ergibt. Systematische Unsicherheit hingegen ist ein Fehler, der immer in die gleiche Richtung abweicht (z. B. eine falsch kalibrierte Waage) und bei Wiederholung nicht abnimmt; Die Ursache kann jedoch gefunden und behoben werden. Die Meldung einer „sehr kleinen“ Unsicherheit bei mehreren Messungen kann den zugrunde liegenden systematischen Fehler verbergen.

6. Was ist die zuverlässigste unabhängige Methode zur Überprüfung einer von KI abgeleiteten Fehlerfortpflanzungsformel?

A) Sich darauf verlassen, dass die Formel flüssig und überzeugend erscheint
B) Gegenprüfung mit einer Monte-Carlo-Berechnung, die die Eingaben mit ihrer Unsicherheit ✔ zufällig abtastet
C) Die gleiche Formel noch einmal an die künstliche Intelligenz stellen und erwarten, dass sie das gleiche Ergebnis liefert
D) Die Unsicherheiten direkt erfassen und mit dem Ergebnis vergleichen

Erläuterung: KI mischt in Fehlerausbreitungsformeln häufig partielle Ableitungskoeffizienten und Quadratwurzelstrukturen. Eine leistungsstarke Möglichkeit, dies unabhängig zu erreichen, ist die Monte-Carlo-Gegenprüfung: Jede Eingabe wird mit ihrer Unsicherheit zufällig abgetastet, die Funktion tausende Male berechnet und die Standardabweichung der Ausgabe mit der durch die Formel angegebenen Unsicherheit verglichen. Das Zusammentreffen zweier unabhängiger Methoden erhöht das Vertrauen.

7. Was ist die richtige Arbeitsteilung zwischen KI und SymPy in einer langen Ableitung der symbolischen Physik?

A) SymPy generiert die Idee der Ableitung, KI überprüft jeden Schritt präzise
B) Beides ist unnötig; Lange Ableitungen dürfen nur manuell durchgeführt werden
C) KI baut das Gerüst der Ableitung auf, SymPy verifiziert jeden algebraischen Schritt präzise ✔
D) Künstliche Intelligenz führt die Ableitung selbstständig durch, eine Verifizierung ist nicht erforderlich, da sie flüssig aussieht

Erläuterung: KI entwickelt Strategien für die Ableitung und erklärt den Pfad, aber in der langen Algebra macht sie Vorzeichenfehler, Escape-Terme und falsche Vereinfachungen. SymPy hingegen arbeitet nach Regeln und verifiziert jeden algebraischen Schritt präzise. Der leistungsstärkste Workflow kombiniert beides: Holen Sie sich das Skelett von der KI, geben Sie für jeden Schritt SymPy als Quelle ein, testen Sie das Ergebnis mit der Ableitungs-Integral-Umkehrung und dem Grenzfall.

8. Was sagt die Dimensionsanalyse über die Genauigkeit einer physikalischen Formel aus?

A) Die Dimensionsanalyse beweist immer eindeutig, dass eine Formel korrekt ist
B) Die Dimensionsanalyse hat in der Physik keinen praktischen Wert
C) Die Dimensionsanalyse gibt nur den konstanten Faktor der Formel an, nicht ihre Konsistenz
D) Eine Formel, die nicht dimensional gilt, ist absolut falsch; Dimensionsanalyse erkennt Fehler, ohne Zahlen zu zählen ✔

Erläuterung: Die beiden Seiten einer physikalischen Gleichung müssen dimensional gleich sein, bevor sie numerisch gleich sein können. Eine Formel, die dimensional nicht gilt, ist einfach falsch; Dies wird aus der Zählberechnung erfasst. Die Dimensionsanalyse beweist nicht schlüssig, dass eine Formel korrekt ist (es kann sein, dass ein dimensionsloser konstanter Faktor oder Winkel fehlt), aber sie beweist schlüssig, dass sie falsch ist; Es handelt sich also um die erste und günstigste Prüfung jedes Kontos.

9. Was ist der wichtigste erste Schritt bei der Berechnung der kinetischen Energie eines Objekts, das sich mit 36 km/h bewegt?

A) Umrechnung aller Eingaben in ein einziges Einheitensystem (SI); Umrechnung von 36 km/h in 10 m/s ✔
B) Die Geschwindigkeit in km/h direkt in die Formel eingeben, ohne sie in m/s umzurechnen
C) Nur Zahlen multiplizieren, ohne die Einheiten zu berücksichtigen
D) Vorausgesetzt, dass nach der Berechnung des Ergebnisses keine Überprüfung der Bestellung erforderlich ist

Erläuterung: SI-basierte Formeln (E = ½mv²) erwarten eine Geschwindigkeit in m/s. Einer der häufigsten Fehler in der Physik ist die Verwechslung von km/h mit m oder von Stunden mit Sekunden in einer Berechnung. Zunächst müssen alle Eingaben in ein einziges Einheitensystem (SI) umgerechnet werden: 36 km/h = 10 m/s. Da KI bei der Umrechnung zusammengesetzter Einheiten stillschweigende Fehler machen kann, muss diese Umrechnung manuell oder mit einem einheitenbewussten Tool überprüft werden.

10. Welche Praxis ist im Hinblick auf „Ehrlichkeit“ in einer wissenschaftlichen Grafik richtig?

A) Unsicherheit verbergen, weil Fehlerbalken das Diagramm unübersichtlich machen
B) Beschriften Sie die Achsen mit Einheiten, wählen Sie den Maßstab ohne Verzerrung und zeigen Sie die Unsicherheit mit Fehlerbalken an ✔
C) Beginnen Sie die Y-Achse immer in dem Bereich, der den größten Unterschied zeigt
D) Die Achsen ohne Einheiten belassen, da der Leser die Einheit erraten kann

Beschreibung: Ein ehrliches wissenschaftliches Diagramm; Es beschriftet Achsen mit Betrag und Einheit, wählt den Maßstab bewusst und ohne Verzerrung (es ist irreführend, die Y-Achse zur Übertreibung von Null weg zu beginnen) und macht die Messunsicherheit durch Fehlerbalken sichtbar. Das Verbergen von Unsicherheit lässt die Daten sicher erscheinen und erweckt den falschen Eindruck von Voreingenommenheit oder Übereinstimmung. Je überzeugender eine Grafik ist, desto wichtiger ist die Integritätsprüfung.

11. Was ist das größte Risiko und die richtige Disziplin bei der Literatur- und Zitierunterstützung durch künstliche Intelligenz?

A) Künstliche Intelligenz verschwendet Zeit, weil sie Zitate sehr langsam erstellt
B) Von der künstlichen Intelligenz vorgeschlagene Quellen sind immer real, eine Überprüfung ist nicht erforderlich
C) Künstliche Intelligenz kann Zuschreibungen erzeugen, die real erscheinen, aber nicht existieren; Jedes Zitat muss mit DOI/Quelle verifiziert werden und die Literatur muss aus der aktuellen Datenbank gefunden werden ✔
D) Erfundene Zitate sind leicht zu erkennen, da sie immer unechte Zeitschriftennamen verwenden

Erläuterung: Ein großes Sprachmodell ist nicht mit einer tatsächlichen Datenbank verbunden; Durch die Nachahmung von Zitiermustern können Artikel erstellt werden, die den echten Zeitschriftennamen, glaubwürdige Autoren und eine angemessene Jahresangabe tragen, aber überhaupt nicht existieren. Daher sollte Literatur aus echten Datenbanken gefunden werden, KI sollte nur zum Zusammenfassen/Übersetzen des tatsächlichen Textes verwendet werden und jedes Zitat sollte unabhängig durch DOI oder Titel überprüft werden. Eine ungeprüfte Zitierung stellt einen Verstoß gegen die wissenschaftliche Integrität dar.

12. Was ist erforderlich, um zuverlässige Ergebnisse zu erhalten, wenn KI einen Artikel zusammenfasst?

A) Es reicht aus, nur den Titel des Artikels anzugeben, das Model kennt den Inhalt
B) Die Zusammenfassung direkt verwenden, ohne sie überhaupt zu überprüfen, da sie flüssig aussieht
C) Das Modell zweimal um dieselbe Zusammenfassung bitten und sie als richtig akzeptieren, wenn sie ähnlich ist.
D) Übergabe des Originaltextes an das Modell und Vergleich der erstellten Zusammenfassung mit dem Originaltext, um zu überprüfen, dass nichts hinzugefügt/verzerrt wurde ✔

Erläuterung: Wenn Sie der KI einfach den Titel eines Artikels geben und nach einer Zusammenfassung fragen, erstellt das Modell eine „plausible Zusammenfassung“, ohne den Artikel jemals zu sehen. Diese Zusammenfassung könnte das Gegenteil der Wahrheit sein. Eine zuverlässige Zusammenfassung kann nur erhalten werden, wenn der Originaltext dem Modell zugeführt wird und die generierte Zusammenfassung mit dem Originaltext verglichen wird. Darüber hinaus sollte darauf geachtet werden, dass in der Zusammenfassung keine Ergebnisse oder Zahlen hinzugefügt werden, die nicht im Text enthalten sind.

13. Was trifft auf den Output künstlicher Intelligenz bei der Produktion von Physikkursmaterialien zu?

A) Jede Lösung sollte unabhängig überprüft werden, die Grenzen von Analogien sollten angegeben werden und Ablenker sollten auf echte Missverständnisse abzielen ✔
B) Der durch künstliche Intelligenz erzeugte Antwortschlüssel ist immer korrekt, eine Prüfung ist nicht erforderlich
C) Analogien sind in allen Fällen perfekt, es besteht keine Notwendigkeit, ihre Grenzen anzugeben.
D) Ablenkungsmanöver sollten völlig zufällig ausgewählt werden, da die Art der falschen Wahl keine Rolle spielt.

Beschreibung: KI generiert schnell Fragen, Beispiele und Analogien, aber die Überprüfung ist in drei Punkten von entscheidender Bedeutung: Die Lösung für jedes Problem muss unabhängig (von Hand oder mit Code) überprüft werden, da das Modell möglicherweise Vorzeichen-/Einheitenfehler in der Lösung macht; Jede Analogie muss dort angegeben werden, wo sie nicht mehr funktioniert, andernfalls führt sie zu einem neuen Fehler. Ablenkungsmanöver sollten auf wahre Missverständnisse abzielen. Die Verantwortung liegt beim Lehrer; Ein falscher Lösungsschlüssel führt bei den Schülern zu Missverständnissen, die schwer zu korrigieren sind.

14. Welches Verhalten steht im Einklang mit wissenschaftlicher Integrität, wenn experimentelle Daten nicht vollständig mit der Theorie übereinstimmen?

A) Künstliche Intelligenz soll die Daten so organisieren, dass sie zur Theorie passen und die Grafik überzeugend darstellen
B) Untersuchung der Gründe für die Diskrepanz (systematischer Fehler, fehlendes Modell, neuer Effekt) und ehrliche Berichterstattung ohne Änderung der Daten ✔
C) Unstimmigkeiten ignorieren und nur Punkte melden, die passen
D) Löschen der Daten und Anpassen eines neuen Experimentergebnisses

Erläuterung: Von der KI zu verlangen, „die Daten so anzuordnen, dass sie besser zur Theorie passen“, ist Datenbetrug und ein grober Verstoß gegen die wissenschaftliche Integrität. Unstimmigkeiten müssen untersucht und nicht versteckt werden: Sie können auf einen systematischen Fehler, eine statistische Schwankung, ein fehlendes Muster oder einen interessanten neuen Effekt hinweisen. Die Daten werden unverändert mit Unsicherheit gemeldet. Die letztendliche Verantwortung liegt bei der Person und „das Werkzeug hat es getan“ ist keine Verteidigung.