Ψευδαίσθηση, Ηθική, Εμπιστευτικότητα και Επιστημονική Ακεραιότητα

Κέρδη:

• Ικανότητα αναγνώρισης μορφών παραισθήσεων στη φυσική (ψευδής σταθερά, ψεύτικος νόμος, σφάλμα μονάδας, λάθος αποτέλεσμα, ψεύτικη απόδοση) και σύλληψη τους με την κατάλληλη μέθοδο.
• Δυνατότητα προστασίας μη δημοσιευμένων, εμπιστευτικών και προσωπικών δεδομένων με ανωνυμοποίηση και ελαχιστοποίηση με τη μη εισαγωγή τους σε μη εξουσιοδοτημένα εργαλεία
• Να είστε σε θέση να κατανοήσετε ότι η τελική ευθύνη ανήκει στους ανθρώπους αναφέροντας τα δεδομένα με ειλικρίνεια, χωρίς να τα εξωραΐζετε και τεκμηριώνοντας με διαφάνεια τη χρήση τεχνητής νοημοσύνης.

Σε όλη αυτή την ενότητα, καλύψαμε τον ίδιο κλάδο σε κάθε ενότητα: η τεχνητή νοημοσύνη (AI) επιταχύνει, οι άνθρωποι επαληθεύουν. Σε αυτήν την τελική ενότητα, συγκεντρώνουμε ολόκληρη αυτή την πρακτική επαλήθευσης κάτω από την ομπρέλα της επιστημονικής ακεραιότητας, της πιο θεμελιώδους αξίας της φυσικής επιστήμης. Η φυσική είναι η επιδίωξη της παραγωγής επαληθεύσιμης γνώσης για τη φύση. Στο επίκεντρο αυτής της προσπάθειας είναι η ακεραιότητα, η επαναληψιμότητα και η υπευθυνότητα. Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για την ενίσχυση αυτών των τιμών — αλλά όταν χρησιμοποιείται εσφαλμένα, τις απειλεί όλες. Σε αυτή την ενότητα, θα συζητήσουμε τις φυσικές μορφές παραισθήσεων, την ευθύνη δεδομένων και ιδιωτικότητας, τα ηθικά όρια και γιατί η απόλυτη ευθύνη παραμένει πάντα στους ανθρώπους.

Μορφές παραισθήσεων στη φυσική

Η ψευδαίσθηση —η σίγουρη παραγωγή ψευδών πληροφοριών από την AI— παίρνει μοναδικές και επικίνδυνες μορφές στη φυσική. Η αναγνώριση αυτών είναι το πρώτο βήμα για να πιάσετε:

είδος παραισθήσεων

παράδειγμα

Μέθοδος λήψης

Προσαρμογή σταθερών/δεδομένων

Λανθασμένη πυκνότητα υλικού

Επιβεβαίωση με αξιόπιστη αναφορά

Λάθος τύπος/νόμος

Ένα ανύπαρκτο «αρχικό» όνομα

Παραγωγή σχολικού βιβλίου/SymPy

Σφάλμα μονάδας/παραγγελίας

μπερδεύοντας το eV για τον J

Ανάλυση διαστάσεων, έλεγχος μονάδας

Λανθασμένο αριθμητικό αποτέλεσμα

Ακατάλληλη έξοδος κώδικα

Εκτελέστε τον κωδικό

απόκρυφη απόδοση

ανύπαρκτο άρθρο

Επαλήθευση με DOI

Λάθος αναφερόμενο αποτέλεσμα

Παραμόρφωση πραγματικού άρθρου

Διαβάστε την αρχική πηγή

Το κοινό νήμα είναι το εξής: ένα μεγάλο γλωσσικό μοντέλο έχει σχεδιαστεί όχι για να λέει την αλήθεια, αλλά για να παράγει "κείμενο με πιθανή εμφάνιση". Στη φυσική, η διαφορά μεταξύ του «φαινομενικά πιθανού» και του «αληθινού» είναι ακριβώς ο λόγος ύπαρξης της επιστήμης.

Δεδομένα, απόρρητο και ευθύνη πνευματικής ιδιοκτησίας

Οι φυσικοί συχνά εργάζονται με ευαίσθητα δεδομένα: μη δημοσιευμένα πειραματικά δεδομένα, σχέδια πριν από τα διπλώματα ευρεσιτεχνίας, εμπιστευτικές μετρήσεις από βιομηχανικές συνεργασίες, έρευνα που περιλαμβάνει προσωπικά δεδομένα υγείας ή ασφάλειας. Η εισαγωγή τέτοιων δεδομένων σε ένα γενικό εργαλείο τεχνητής νοημοσύνης θα μπορούσε να τα καταστήσει προσβάσιμα σε τρίτους και πιθανώς στα δεδομένα εκπαίδευσης του μοντέλου—πράγμα που θα σήμαινε τόσο παραβίαση του απορρήτου όσο και απώλεια επιστημονικής προτεραιότητας (το δικαίωμα να είσαι ο πρώτος που θα κάνει μια ανακάλυψη). Ο κανόνας είναι σαφής: μην εισάγετε αδημοσίευτα, εμπιστευτικά ή προσωπικά δεδομένα σε ένα εργαλείο τεχνητής νοημοσύνης που δεν έχει εγκρίνει ο οργανισμός σας. Εάν πρόκειται να εισαγάγετε, ανωνυμοποιήστε, ελαχιστοποιήστε (δώστε μόνο ό,τι είναι απαραίτητο) και διαβάστε τις συνθήκες δεδομένων του εργαλείου.

Προσοχή: Η εισαγωγή των μη δημοσιευμένων μετρήσεων ενός εργαστηρίου ή των εμπιστευτικών παραμέτρων σχεδιασμού μιας εταιρείας σε ένα εργαλείο τεχνητής νοημοσύνης "για γρήγορη ανάλυση" μπορεί να είναι ένα μη αναστρέψιμο λάθος. Μόλις κοινοποιηθούν τα δεδομένα, δεν μπορούν να ανακληθούν. Εάν έχετε αμφιβολίες, μην εισάγετε δεδομένα. Ξεκαθαρίστε πρώτα την πολιτική του ιδρύματός σας και τους όρους απορρήτου του εργαλείου.

Ηθικά όρια και επιστημονική ακεραιότητα

Μια χρήση μπορεί να είναι τεχνικά δυνατή και ακόμη και νόμιμη, αλλά εξακολουθεί να είναι ανήθικη. Υπάρχουν πολλές κόκκινες γραμμές στη φυσική που αφορούν την επιστημονική ακεραιότητα:

Κατασκευή ή εξωραϊσμός δεδομένων. Το να ζητάτε από την τεχνητή νοημοσύνη να "δημιουργήσει σημεία που ταιριάζουν καλύτερα στην απόδοση" ή "να κάνουν το γράφημα να φαίνεται πιο πειστικό" είναι απάτη δεδομένων. Τα δεδομένα αναφέρονται ως έχουν. Οι ακραίες τιμές εξαλείφονται μόνο με τεκμηριωμένο, νόμιμο λόγο.

Διαφάνεια συνεισφοράς. Εάν έχετε χρησιμοποιήσει την τεχνητή νοημοσύνη σε μια μελέτη - σύνταξη κώδικα, διόρθωση γλώσσας, ανάλυση - είναι δίκαιο να το καταστήσετε σαφές στο κατάλληλο μέρος. Πολλά περιοδικά και ιδρύματα το απαιτούν αυτό.

Συγγραφέας και ευθύνη. Το AI δεν είναι συγγραφέας. δεν μπορεί να ευθύνεται για το περιεχόμενο μιας εργασίας. Η ευθύνη βαρύνει πάντα τους ανθρώπους συγγραφείς. Ένα σφάλμα που παράγεται από την τεχνητή νοημοσύνη δεν μπορεί να υπερασπιστεί λέγοντας "το όχημα τα κατάφερε".

Αναπαραγωγιμότητα. Ένα επιστημονικό αποτέλεσμα απαιτεί η μέθοδος (συμπεριλαμβανομένου του χρησιμοποιούμενου κώδικα, των παραμέτρων, των προτροπών AI) να τεκμηριώνεται με σαφήνεια, ώστε να μπορούν να την αναπαράγουν άλλοι.

τρεις μίνι θήκες

Περίπτωση 1 — Διαρροή εμπιστευτικών δεδομένων. Ένας ερευνητής επικολλούσε δεδομένα μέτρησης από μια συμφωνία μη αποκάλυψης με μια εταιρεία σε ένα γενικό εργαλείο AI «για ένα γρήγορο γράφημα». Αργότερα συνειδητοποίησε ότι αυτό το εργαλείο μπορούσε να αποθηκεύσει εισόδους. Έχει σημειωθεί αθέτηση σύμβασης και πιθανή απώλεια προτεραιότητας. Μάθημα: τα εμπιστευτικά δεδομένα δεν εισάγονται ποτέ σε μη εγκεκριμένο εργαλείο.

Περίπτωση 2 — Εκτύπωση καλλωπισμού. Ένας μαθητής ζήτησε από το AI μια τροποποίηση που θα «έκανε τα δεδομένα να φαίνονται πιο κοντά στη θεωρία», επειδή τα πειραματικά δεδομένα δεν ταίριαζαν πλήρως με τη θεωρία. Ο σύμβουλός του το παρατήρησε και τον σταμάτησε: μια ασυμφωνία σήμαινε είτε ένα συστηματικό σφάλμα στο πείραμα είτε μια ενδιαφέρουσα νέα φυσική - κάτι που έπρεπε να διερευνηθεί, όχι να κρυφτεί. Τα δεδομένα αναφέρθηκαν με ειλικρίνεια και βρέθηκε συστηματικό σφάλμα.

Περίπτωση 3 — Κέρδισε τη διαφάνεια. Μια ομάδα έγραψε τον κώδικα ανάλυσης δεδομένων για ένα έγγραφο με τη βοήθεια της τεχνητής νοημοσύνης και το δήλωσε ξεκάθαρα στην ενότητα μεθόδων. μοιράστηκε τον κώδικα και τα μηνύματα ως πρόσθετα αρχεία. Ένας διαιτητής εξέτασε τον κώδικα και πρότεινε μια μικρή διόρθωση. Η διαφάνεια εντόπισε το σφάλμα πριν από τη δημοσίευση και αύξησε την αξιοπιστία της μελέτης.

Τέσσερα πρότυπα με δυνατότητα αντιγραφής

1) Έλεγχος ψευδαισθήσεων:

Σαρώστε την ακόλουθη έξοδο φυσικής για παραισθήσεις: υπάρχουν ψευδείς σταθερές, ψευδείς ονομασίες τύπων/νόμων, σφάλματα μονάδας/τάξης, μη επαληθευμένα αριθμητικά αποτελέσματα και μη επιβεβαιωμένες αποδόσεις; Επισημάνετε κάθε ύποπτο στοιχείο και καθορίστε τον τρόπο επαλήθευσης του (αναφορά, κωδικός, DOI). Έξοδος: [εδώ]

2) Προέλεγχος απορρήτου δεδομένων:

Αξιολογήστε τα ακόλουθα δεδομένα/κείμενο προτού τα εισαγάγετε σε ένα εργαλείο τεχνητής νοημοσύνης: περιέχει αδημοσίευτες, εμπιστευτικές, προσωπικές ή συμβατικά προστατευμένες πληροφορίες; Αν ναι, προτείνετε πώς μπορώ να το ανωνυμοποιήσω ή να το ελαχιστοποιήσω. Εάν δεν είστε σίγουροι, πείτε "ελέγξτε την εταιρική πολιτική". Περιεχόμενο: [εδώ]

3) Σχέδιο δήλωσης διαφάνειας/συνεισφοράς:

Σε μια μελέτη, χρησιμοποίησα AI για: [κωδικοποίηση / διόρθωση γλώσσας / ανάλυση, κ.λπ.]. Γράψτε ένα σύντομο προσχέδιο "Δήλωση χρήσης AI" που το τεκμηριώνει με ειλικρίνεια. Θα πρέπει επίσης να υποδεικνύει ποια μέρη έχουν επαληθευτεί από τον άνθρωπο.

4) Διασφάλιση επιστημονικής ακεραιότητας:

Πραγματοποιήστε έλεγχο ακεραιότητας για την ακόλουθη ανάλυση/αποτέλεσμα: τα δεδομένα αναφέρονται ως έχουν (χωρίς εξωραϊσμό), αναφέρονται αβεβαιότητες, είναι η μέθοδος τεκμηριωμένη με αναπαραγόμενο τρόπο, είναι διαφανής η χρήση της τεχνητής νοημοσύνης; Καταγράψτε τυχόν ελλείψεις. Περιεχόμενο: [εδώ]

Αδύναμη προτροπή / Ισχυρή προτροπή

Αδύναμο: "Επεξεργαστείτε την απόδοση για να ταιριάζει καλύτερα στη θεωρία και να κάνετε το γράφημα πειστικό."

Αποτέλεσμα: Απάτη δεδομένων. Άμεση παραβίαση της επιστημονικής ακεραιότητας, μη αναστρέψιμη απώλεια φήμης.

Ισχυρή: "Η απόδοση δεν συμφωνεί πλήρως με τη θεωρία. Βοηθήστε με να αναλύσω πιθανές αιτίες αυτής της ασυμφωνίας (συστηματικό σφάλμα, στατιστική διακύμανση, μοντέλο που λείπει ή νέο αποτέλεσμα). προτείνω πώς να αναφέρω τη διαφορά με ειλικρίνεια χωρίς να αλλάξω τα δεδομένα."

Αποτέλεσμα: Μια ειλικρινής, διερευνητική και πιστή προσέγγιση της επιστημονικής ακεραιότητας. Η σύγκρουση γίνεται ευκαιρία για ανακάλυψη.

Συνήθη λάθη

• Συγχέοντας την ψευδαίσθηση με την αυτοπεποίθηση. Ακριβώς επειδή το AI μιλάει με σιγουριά δεν αποτελεί εγγύηση ακρίβειας. Ακόμη και η πιο ακριβής πρόταση μπορεί να κατασκευαστεί.
• Εισαγωγή εμπιστευτικών δεδομένων στο όχημα χωρίς έγκριση. Μετά την κοινή χρήση, τα δεδομένα δεν μπορούν να ανακτηθούν. Η προτεραιότητα και η εμπιστευτικότητα χάνονται.
• Ομορφαίνοντας δεδομένα. Η αλλαγή δεδομένων σε «ταιριαστική θεωρία» είναι ένα από τα σοβαρότερα επιστημονικά εγκλήματα.
• Απόκρυψη της χρήσης AI. Η διαφάνεια είναι απαίτηση ειλικρίνειας και είναι υποχρεωτική σε πολλά ιδρύματα.
• Αναθέτοντας την ευθύνη στο όχημα. «Το AI το έκανε» δεν είναι άμυνα. Η απόλυτη ευθύνη βαραίνει πάντα τον άνθρωπο.

Συμβουλή: Στο τέλος κάθε μελέτης που βασίζεται σε τεχνητή νοημοσύνη, κάντε τρεις ερωτήσεις: (1) Έχουν επαληθευτεί ανεξάρτητα κάθε γεγονός, αριθμός και απόδοση σε αυτό το αποτέλεσμα; (2) Τα δεδομένα που χρησιμοποίησα περιείχαν εμπιστευτικές/προσωπικές πληροφορίες που δεν έπρεπε να καταχωρήσω; (3) Έχω τεκμηριώσει τη χρήση της τεχνητής νοημοσύνης και τη μεθοδολογία μου με αρκετή διαφάνεια ώστε κάποιος άλλος να την αναπαράγει; Εάν δεν μπορείτε να απαντήσετε ξεκάθαρα «ναι» σε αυτές τις τρεις ερωτήσεις, η μελέτη δεν έχει ακόμη ολοκληρωθεί.

Συνοπτικά

Η επιστημονική ακεραιότητα είναι η βάση ύπαρξης της φυσικής και είναι ακόμη πιο σημαντική στην εποχή της τεχνητής νοημοσύνης. Η ψευδαίσθηση εμφανίζεται στη φυσική με τη μορφή ψευδών σταθερών, ψευδών νόμων, σφαλμάτων μονάδας, ψευδών συμπερασμάτων και ψευδών αναφορών. το καθένα καταγράφεται με τη δική του μοναδική μέθοδο επαλήθευσης. Τα εμπιστευτικά και προσωπικά δεδομένα δεν εισάγονται σε μη εξουσιοδοτημένα εργαλεία. Τα δεδομένα δεν ωραιοποιούνται ποτέ. Η χρήση της τεχνητής νοημοσύνης τεκμηριώνεται με διαφάνεια. και η απόλυτη ευθύνη ανήκει πάντα στον άνθρωπο. Υπάρχει μόνο ένας κλάδος που μαθαίνετε σε αυτήν την ενότητα: η τεχνητή νοημοσύνη είναι ένας ισχυρός επιταχυντής, αλλά η επαλήθευση, η ακεραιότητα και η ευθύνη βαρύνουν τους ώμους του αρμόδιου φυσικού — δηλαδή εσάς. Μια μη επαληθευμένη έξοδος AI δεν υποκαθιστά ποτέ την επιβεβαίωση ενός φυσικού.

Εργασία εφαρμογής

Επιλέξτε μια έξοδο AI ​​(έναν λογαριασμό, μια ανάλυση ή ένα κείμενο) που δημιουργήσατε σε αυτήν την ενότητα. 1. Έλεγχος για παραισθήσεις με πρότυπο: υπάρχουν ψευδείς σταθερές, ψευδείς τύπους, σφάλματα μονάδας ή μη επαληθευμένες αποδόσεις; Με το πρότυπο 2, αξιολογήστε εάν τα δεδομένα που χρησιμοποιείτε είναι φιλικά προς το απόρρητο. Τέλος, συντάξτε μια σύντομη δήλωση χρήσης/διαφάνειας AI με το πρότυπο 3. Καταγράψτε σε 5-6 προτάσεις: τι αποκάλυψε η σάρωση, ποια βήματα επαλήθευσης κάνατε;

λίστα ελέγχου

• [ ] Επιβεβαίωσα ανεξάρτητα κάθε σταθερά, τύπο και αποτέλεσμα στην έξοδο.
• [ ] Έχω επαληθεύσει κάθε παραπομπή με το DOI/πηγή.
• [ ] Έχω ελέγξει ότι δεν έχω καταχωρίσει εμπιστευτικά/προσωπικά δεδομένα στο εργαλείο χωρίς έγκριση.
• [ ] Παρέθεσα τα στοιχεία ως έχουν, χωρίς εξωραϊσμό.
• [ ] Έχω τεκμηριώσει τη χρήση της τεχνητής νοημοσύνης από μέρους μου με διαφανή και αναπαραγώγιμο τρόπο.
• [ ] Αποδέχτηκα ότι η τελική ευθύνη ήταν δική μου. Δεν απέδωσα κανένα σφάλμα στο όχημα.

Εξέταση Ενοτήτων

1. Ποιο από τα παρακάτω είναι η πιο ακριβής τοποθέτηση για την τεχνητή νοημοσύνη στη φυσική;

• Α) Η τεχνητή νοημοσύνη είναι βοηθός κώδικα, σχεδίου και επεξεργασίας. Η ευθύνη για τις αποφάσεις της μονάδας, του βαθμού, της επαλήθευσης και της ηθικής ανήκει στον άνθρωπο ✔
• Β) Η τεχνητή νοημοσύνη είναι μια αριθμομηχανή και τα αριθμητικά αποτελέσματα που δίνει είναι πάντα ακριβή
• Γ) Η τεχνητή νοημοσύνη λειτουργεί μόνο στον υπολογισμό, δεν έχει να κάνει με ανάλυση πειραμάτων και διδασκαλία
• Δ) Δεδομένου ότι η τεχνητή νοημοσύνη είναι πιο αμερόληπτη από τους ανθρώπους, οι αποφάσεις για τις μονάδες και τα αποτελέσματα θα πρέπει να αφεθούν σε αυτήν.

Περιγραφή: Τεχνητή νοημοσύνη. Είναι ένας βοηθός που γράφει κώδικα, παράγει προσχέδια, δημιουργεί και οργανώνει πλαίσια παραγωγής. Ωστόσο, η τελική ευθύνη για την επαλήθευση μονάδας και παραγγελίας του αποτελέσματος, διασφαλίζοντάς το με νόμους διατήρησης, σταθερή και επιβεβαίωση αναφοράς ανήκει στον αρμόδιο φυσικό. Το μοντέλο της μεγάλης γλώσσας δεν είναι μια αριθμομηχανή ή μηχανή φυσικής. είναι μια δημιουργία κειμένου που παράγει την «επόμενη πιο πιθανή λέξη» και η μη επαληθευμένη έξοδος της μπορεί να οδηγήσει σε εσφαλμένη τιμή, σχέδιο ή αποτέλεσμα.

2. Ποια είναι η πιο ακριβής προσέγγιση για το αριθμητικό αποτέλεσμα ενός υπολογιστικού κώδικα που εκτυπώνετε σε ένα μεγάλο γλωσσικό μοντέλο;

• Α) Έχοντας εμπιστοσύνη στον αριθμό, το μοντέλο λέει "αυτός ο κωδικός δίνει αυτό", επειδή έγραψε τον κωδικό
• Β) Εκτελέστε τον κωδικό μόνοι σας και δείτε την έξοδο. ✔ δεν βασίζεται στη λεκτική αριθμητική πρόβλεψη του μοντέλου
• Γ) Αποδοχή του κώδικα ως σωστό απλώς κοιτάζοντας πώς διαβάζεται, χωρίς να τον εκτελείτε καθόλου
• Δ) Αν το αποτέλεσμα ζητηθεί ξανά απευθείας στο μοντέλο και λέει τον ίδιο αριθμό, θεωρείται σωστό.

Εξήγηση: Ένας LLM μπορεί να «υπολογίσει» την έξοδο του κώδικα που έγραψε στο κεφάλι του και να επιστρέψει έναν λάθος αριθμό. ενώ όταν εκτελείται ο ίδιος κώδικας δίνει το σωστό αποτέλεσμα. Αυτό που είναι ντετερμινιστικό είναι ο κώδικας που εκτελείται. Δεν είναι λεκτική πρόβλεψη του μοντέλου. Επομένως, ο κώδικας πρέπει πάντα να εκτελείται στο δικό σας περιβάλλον και να φαίνεται η έξοδος.

3. Ποιος είναι ο πιο ισχυρός τρόπος για να ελέγξετε εάν η προσομοίωση ενός δυναμικού συστήματος χωρίς τριβές αντανακλά με ακρίβεια τη φυσική;

• Α) Βλέποντας ότι το διάγραμμα φαίνεται οπτικά προσεγμένο και πειστικό
• Β) Εκτέλεση της προσομοίωσης με ένα μόνο χρονικό βήμα και εμπιστοσύνη στο αποτέλεσμα
• Γ) Παρακολούθηση μιας ποσότητας που πρέπει να διατηρηθεί, όπως η συνολική ενέργεια ή ορμή, και έλεγχος εάν παραμένει σταθερή ✔
• Δ) Αξιολόγηση της προσομοίωσης με βάση το πόσο γρήγορα εκτελείται

Εξήγηση: Σε ένα σύστημα χωρίς τριβές, η συνολική ενέργεια (και η ορμή, εάν υπάρχει) πρέπει να διατηρηθεί. Η παρακολούθηση αυτού του μεγέθους καθ' όλη τη διάρκεια της προσομοίωσης και η διαπίστωση εάν παραμένει σταθερό αποκαλύπτει αριθμητικά ελαττώματα (π.χ. η πρωτόγονη μέθοδος Euler αυξάνει συνεχώς την ενέργεια). Εάν η ενέργεια παρασύρεται, η προσομοίωση είναι αναξιόπιστη. Ακριβώς επειδή παράγει ένα ωραίο γραφικό δεν σημαίνει ότι είναι σωστό.

4. Ποιο από τα παρακάτω είναι η σωστή προσέγγιση κατά την προσαρμογή ενός μοντέλου σε πειραματικά δεδομένα;

• Α) Επιλέγοντας το πολυώνυμο υψηλότερου βαθμού που ταιριάζει καλύτερα στα δεδομένα γιατί διέρχεται από όλα τα σημεία
• Β) Δίνοντας τις παραμέτρους ως ενιαίο αριθμό χωρίς ασάφεια
• Γ) Δηλώνοντας την ποιότητα της εφαρμογής απλά κοιτάζοντας πόσο όμορφη φαίνεται η καμπύλη.
• Δ) Επιλογή του μοντέλου από τη φυσική, αναφορά των παραμέτρων με τις αβεβαιότητές τους και αξιολόγηση της προσαρμογής με τα υπολείμματα ✔

Εξήγηση: Το μοντέλο πρέπει να επιλεγεί από τον φυσικό νόμο που πρέπει να υπακούει το συμβάν, όχι κοιτάζοντας τα δεδομένα και αναρωτιέστε «ποιο ταιριάζει καλύτερα». Με αρκετές ελεύθερες παραμέτρους (π.χ. ένα πολυώνυμο υψηλού βαθμού) μπορεί να γίνει μια 'τέλεια' αλλά χωρίς νόημα προσαρμογή (υπερπροσαρμογή) σε οποιαδήποτε δεδομένα. Οι παράμετροι θα πρέπει να αναφέρονται με την αβεβαιότητά τους, η ποιότητα της προσαρμογής θα πρέπει να αξιολογείται με υπολείμματα και να ελέγχεται η φυσική αληθοφάνεια.

5. Η επανάληψη μιας μέτρησης πολλές φορές μειώνει το είδος της αβεβαιότητας;

• Α) Τυχαία αβεβαιότητα. η συστηματική αβεβαιότητα δεν μειώνεται με την επανάληψη, η αιτία πρέπει να βρεθεί και να διορθωθεί ✔
• Β) Συστηματική αβεβαιότητα. γιατί εξαλείφει το σφάλμα επαναβαθμονόμησης
• Γ) Εξαλείφει πλήρως και τις δύο ασάφειες
• Δ) Δεν μειώνει κανένα από αυτά? η αβεβαιότητα είναι ανεξάρτητη από τον αριθμό των μετρήσεων

Εξήγηση: Η επαναλαμβανόμενη μέτρηση μειώνει την τυχαία αβεβαιότητα (με τυπικό σφάλμα του μέσου όρου std/√N) που προκύπτει από την τυχαία κατανομή των αποτελεσμάτων. Η συστηματική αβεβαιότητα, από την άλλη πλευρά, είναι ένα σφάλμα που αποκλίνει πάντα προς την ίδια κατεύθυνση (για παράδειγμα, μια εσφαλμένα βαθμονομημένη ισορροπία) και δεν μειώνεται με την επανάληψη. Ωστόσο, η αιτία μπορεί να βρεθεί και να διορθωθεί. Η αναφορά μιας «πολύ μικρής» αβεβαιότητας με πολλαπλές μετρήσεις μπορεί να κρύβει το υποκείμενο συστηματικό σφάλμα.

6. Ποιος είναι ο πιο αξιόπιστος ανεξάρτητος τρόπος επαλήθευσης ενός τύπου διάδοσης σφαλμάτων που προκύπτει από την τεχνητή νοημοσύνη;

• Α) Βασιζόμενος στη φόρμουλα για να δείχνεις ρευστός και πειστικός
• Β) Διασταύρωση με έναν υπολογισμό Monte Carlo που δειγματοληπτικά τυχαία τις εισροές με την αβεβαιότητά τους ✔
• Γ) Ζητώντας ξανά την ίδια φόρμουλα στην τεχνητή νοημοσύνη και περιμένοντας να δώσει το ίδιο αποτέλεσμα
• Δ) Συλλέγοντας άμεσα τις αβεβαιότητες και σύγκρισή τους με το αποτέλεσμα

Εξήγηση: Η τεχνητή νοημοσύνη συχνά αναμιγνύει συντελεστές μερικής παραγώγου και δομή τετραγωνικής ρίζας σε τύπους διάδοσης σφαλμάτων. Ένας ισχυρός τρόπος για να επιτευχθεί αυτό ανεξάρτητα είναι ο διασταυρούμενος έλεγχος Monte Carlo: τυχαία δειγματοληψία κάθε εισόδου με την αβεβαιότητά της, υπολογισμός της συνάρτησης χιλιάδες φορές και σύγκριση της τυπικής απόκλισης της εξόδου με την αβεβαιότητα που δίνεται από τον τύπο. Η συνάντηση δύο ανεξάρτητων μεθόδων αυξάνει την εμπιστοσύνη.

7. Ποιος είναι ο σωστός καταμερισμός της εργασίας μεταξύ AI και SymPy σε μια μακροχρόνια παραγωγή της συμβολικής φυσικής;

• Α) Το SymPy δημιουργεί την ιδέα της προέλευσης, το AI επαληθεύει με ακρίβεια κάθε βήμα
• Β) Και τα δύο είναι περιττά. οι μακροχρόνιες παραγόμενες πρέπει να γίνονται μόνο με το χέρι
• Γ) Το AI δημιουργεί το πλαίσιο παραγωγής, το SymPy επαληθεύει με ακρίβεια κάθε αλγεβρικό βήμα ✔
• Δ) Η τεχνητή νοημοσύνη κάνει την εξαγωγή μόνη της, δεν χρειάζεται επαλήθευση γιατί φαίνεται άπταιστα

Επεξήγηση: Η τεχνητή νοημοσύνη σχεδιάζει τη στρατηγική της παραγωγής και εξηγεί τη διαδρομή, αλλά στη μεγάλη άλγεβρα κάνει λάθη προσώπων, όρους διαφυγής και εσφαλμένες απλοποιήσεις. Το SymPy, από την άλλη, λειτουργεί σύμφωνα με κανόνες και επαληθεύει με ακρίβεια κάθε αλγεβρικό βήμα. Η πιο ισχυρή ροή εργασίας συνδυάζει τα δύο: πάρτε τον σκελετό από το AI, προμηθεύστε κάθε βήμα με το SymPy, δοκιμάστε το αποτέλεσμα με την αντίστροφη παράγωγο-ολοκλήρωμα και την οριακή περίπτωση.

8. Τι λέει η ανάλυση διαστάσεων για την ακρίβεια ενός φυσικού τύπου;

• Α) Η ανάλυση διαστάσεων αποδεικνύει πάντα οριστικά ότι ένας τύπος είναι σωστός
• Β) Η ανάλυση διαστάσεων δεν έχει πρακτική αξία στη φυσική
• Γ) Η ανάλυση διαστάσεων δίνει μόνο τον σταθερό παράγοντα του τύπου, όχι τη συνοχή του
• Δ) Ένας τύπος που δεν έχει διαστάσεις είναι απολύτως λάθος. Η ανάλυση διαστάσεων συλλαμβάνει σφάλμα χωρίς να μετράει αριθμούς ✔

Εξήγηση: Οι δύο πλευρές μιας φυσικής εξίσωσης πρέπει να είναι διαστατικά ίσες για να μπορέσουν να είναι αριθμητικά ίσες. Ένας τύπος που δεν έχει διαστάσεις είναι απλώς λάθος. αυτό λαμβάνεται από τον υπολογισμό του πλήθους. Η ανάλυση διαστάσεων δεν αποδεικνύει οριστικά ότι ένας τύπος είναι σωστός (μπορεί να χάσει έναν αδιάστατο σταθερό παράγοντα ή γωνία), αλλά αποδεικνύει οριστικά ότι είναι λανθασμένος. οπότε είναι ο πρώτος και φθηνότερος έλεγχος κάθε λογαριασμού.

9. Ποιο είναι το πιο κρίσιμο πρώτο βήμα κατά τον υπολογισμό της κινητικής ενέργειας ενός αντικειμένου που ταξιδεύει με 36 km/h;

• Α) Μετατροπή όλων των εισόδων σε ένα ενιαίο σύστημα μονάδων (SI). Μετατροπή 36 km/h σε 10 m/s ✔
• Β) Βάζοντας την ταχύτητα σε km/h απευθείας στον τύπο χωρίς να την μετατρέψετε σε m/s
• Γ) Πολλαπλασιασμός μόνο αριθμών χωρίς να λαμβάνονται υπόψη οι μονάδες
• Δ) Υποθέτοντας ότι δεν χρειάζεται έλεγχος της παραγγελίας μετά τον υπολογισμό του αποτελέσματος

Εξήγηση: Οι τύποι που βασίζονται στο SI (E = ½mv²) αναμένουν ταχύτητα σε m/s. Η σύγχυση των km/h με τα m ή τις ώρες με τα δευτερόλεπτα σε έναν υπολογισμό είναι ένα από τα πιο συνηθισμένα λάθη στη φυσική. Πρώτα όλες οι είσοδοι πρέπει να μετατραπούν σε ένα ενιαίο σύστημα μονάδων (SI): 36 km/h = 10 m/s. Εφόσον η τεχνητή νοημοσύνη μπορεί να κάνει σιωπηλά σφάλματα στις μετατροπές σύνθετων μονάδων, αυτή η μετατροπή πρέπει να επαληθευτεί με μη αυτόματο τρόπο ή με ένα εργαλείο που γνωρίζει τη μονάδα.

10. Ποια πρακτική είναι σωστή ως προς την «ειλικρίνεια» σε ένα επιστημονικό γράφημα;

• Α) Απόκρυψη αβεβαιότητας επειδή οι ράβδοι σφάλματος ακαταστάζουν το γράφημα
• Β) Επισημάνετε τους άξονες με μονάδες, επιλέξτε την κλίμακα χωρίς παραμόρφωση και δείξτε αβεβαιότητα με γραμμές σφάλματος ✔
• Γ) Να ξεκινάτε πάντα τον άξονα y στο εύρος που θα δείξει την πιο δραματική διαφορά
• Δ) Αφήνοντας τους άξονες χωρίς μονάδες γιατί ο αναγνώστης μπορεί να μαντέψει τη μονάδα

Περιγραφή: Ένα ειλικρινές επιστημονικό διάγραμμα. επισημαίνει τους άξονες με το μέγεθος και τη μονάδα, επιλέγει κλίμακα συνειδητά και χωρίς παραμόρφωση (η εκκίνηση του άξονα y μακριά από το μηδέν για υπερβολή είναι παραπλανητική) και κάνει ορατή την αβεβαιότητα της μέτρησης με ράβδους σφάλματος. Η απόκρυψη της αβεβαιότητας κάνει τα δεδομένα να φαίνονται βέβαια και δημιουργεί μια εσφαλμένη εντύπωση μεροληψίας ή συμφωνίας. Όσο πιο πειστικό είναι ένα γραφικό, τόσο πιο σημαντικός είναι ο έλεγχος ακεραιότητας.

11. Ποιος είναι ο μεγαλύτερος κίνδυνος και η σωστή πειθαρχία όταν λαμβάνετε υποστήριξη βιβλιογραφίας και αναφορών από την τεχνητή νοημοσύνη;

• Α) Η τεχνητή νοημοσύνη χάνει χρόνο γιατί παράγει παραπομπές πολύ αργά
• Β) Οι πηγές που προτείνει η τεχνητή νοημοσύνη είναι πάντα πραγματικές, δεν χρειάζεται επαλήθευση
• Γ) Η τεχνητή νοημοσύνη μπορεί να παράγει αποδόσεις που φαίνονται πραγματικές αλλά δεν υπάρχουν. Κάθε παραπομπή πρέπει να επαληθεύεται με DOI/πηγή και η βιβλιογραφία πρέπει να βρεθεί από την πραγματική βάση δεδομένων ✔
• Δ) Οι κατασκευασμένες παραπομπές αναγνωρίζονται εύκολα επειδή χρησιμοποιούν πάντα εξωπραγματικά ονόματα περιοδικών

Εξήγηση: Ένα μεγάλο μοντέλο γλώσσας δεν είναι συνδεδεμένο με μια πραγματική βάση δεδομένων. Μιμούμενοι τα μοτίβα παραπομπών, μπορεί να παράγει άρθρα που φέρουν το πραγματικό όνομα του περιοδικού, αξιόπιστους συγγραφείς και ένα εύλογο έτος, αλλά είναι εντελώς ανύπαρκτα. Επομένως, η βιβλιογραφία θα πρέπει να βρεθεί από πραγματικές βάσεις δεδομένων, η τεχνητή νοημοσύνη θα πρέπει να χρησιμοποιείται μόνο για τη σύνοψη/μετάφραση του πραγματικού κειμένου και κάθε αναφορά θα πρέπει να επαληθεύεται ανεξάρτητα από το DOI ή τον τίτλο. Μια μη επαληθευμένη αναφορά αποτελεί παραβίαση της ακαδημαϊκής ακεραιότητας.

12. Τι χρειάζεται για να έχετε αξιόπιστα αποτελέσματα όταν η τεχνητή νοημοσύνη συνοψίζει ένα άρθρο;

• Α) Αρκεί να δώσετε μόνο τον τίτλο του άρθρου, το μοντέλο γνωρίζει το περιεχόμενο
• Β) Χρησιμοποιώντας την περίληψη απευθείας χωρίς να την ελέγξετε καθόλου, γιατί φαίνεται ρευστή
• Γ) Ζητώντας από το μοντέλο δύο φορές την ίδια περίληψη και αποδοχή της ως σωστής εάν είναι παρόμοια.
• Δ) Δίνοντας το αρχικό κείμενο στο μοντέλο και συγκρίνετε την παραγόμενη περίληψη με το αρχικό κείμενο για να ελέγξετε ότι δεν έχει προστεθεί/παραμορφωθεί τίποτα ✔

Εξήγηση: Απλώς δίνοντας στην τεχνητή νοημοσύνη τον τίτλο ενός άρθρου και ζητώντας μια περίληψη θα κάνει το μοντέλο να καταλήξει σε μια «εύλογη περίληψη» χωρίς να δει ποτέ το άρθρο. Αυτή η περίληψη μπορεί να είναι το αντίθετο της αλήθειας. Μια αξιόπιστη περίληψη μπορεί να ληφθεί μόνο όταν το αρχικό κείμενο τροφοδοτηθεί στο μοντέλο και η σύνοψη που δημιουργήθηκε συγκριθεί με το αρχικό κείμενο. Επιπλέον, θα πρέπει να ελεγχθεί ότι η περίληψη δεν προσθέτει αποτελέσματα ή αριθμούς που δεν υπάρχουν στο κείμενο.

13. Τι ισχύει για την παραγωγή τεχνητής νοημοσύνης στην παραγωγή υλικού μαθημάτων φυσικής;

• Α) Κάθε λύση θα πρέπει να επαληθεύεται ανεξάρτητα, τα όρια των αναλογιών θα πρέπει να προσδιορίζονται και οι παράγοντες που αποσπούν την προσοχή πρέπει να στοχεύουν σε πραγματικές παρανοήσεις ✔
• Β) Το κλειδί απάντησης που παράγεται από την τεχνητή νοημοσύνη είναι πάντα σωστό, δεν χρειάζεται έλεγχος
• Γ) Οι αναλογίες είναι τέλειες σε όλες τις περιπτώσεις, δεν χρειάζεται να προσδιορίζονται τα όριά τους.
• Δ) Οι παράγοντες που αποσπούν την προσοχή πρέπει να επιλέγονται εντελώς τυχαία, επειδή η φύση της λανθασμένης επιλογής δεν έχει σημασία.

Περιγραφή: Η τεχνητή νοημοσύνη είναι γρήγορη στη δημιουργία ερωτήσεων, παραδειγμάτων και αναλογιών, αλλά ο έλεγχος είναι απαραίτητος σε τρία σημεία: η λύση σε κάθε πρόβλημα πρέπει να επαληθεύεται ανεξάρτητα (με το χέρι ή με κωδικό), επειδή το μοντέλο μπορεί να κάνει σφάλματα προσήμου/μονάδας στη λύση. Κάθε αναλογία πρέπει να δηλώνεται όπου αναλύεται, διαφορετικά θα προκαλέσει νέο σφάλμα. Οι αποσπούντες την προσοχή πρέπει να στοχεύουν σε αληθινές παρανοήσεις. Η ευθύνη ανήκει στον δάσκαλο. Ένα λάθος κλειδί απάντησης αφήνει τους μαθητές με παρεξηγήσεις που είναι δύσκολο να διορθωθούν.

14. Ποια είναι η συμπεριφορά που συνάδει με την επιστημονική ακεραιότητα όταν τα πειραματικά δεδομένα δεν συμφωνούν πλήρως με τη θεωρία;

• Α) Έχοντας τεχνητή νοημοσύνη οργανώστε τα δεδομένα ώστε να ταιριάζουν στη θεωρία και να εμφανίσετε το γράφημα πειστικά
• Β) Διερεύνηση των λόγων της ασυμφωνίας (συστηματικό σφάλμα, έλλειψη μοντέλου, νέο αποτέλεσμα) και ειλικρινής αναφορά χωρίς αλλαγή των δεδομένων ✔
• Γ) Αγνοώντας τη διαφωνία και αναφέροντας μόνο σημεία που ταιριάζουν
• Δ) Διαγραφή των δεδομένων και προσαρμογή νέου αποτελέσματος πειράματος

Εξήγηση: Το να ζητάμε από την τεχνητή νοημοσύνη να «τακτοποιήσει τα δεδομένα ώστε να ταιριάζουν καλύτερα στη θεωρία» είναι απάτη δεδομένων και κατάφωρη παραβίαση της επιστημονικής ακεραιότητας. Η διαφωνία είναι κάτι που πρέπει να διερευνηθεί, όχι να κρυφτεί: μπορεί να υποδηλώνει ένα συστηματικό σφάλμα, μια στατιστική διακύμανση, έλλειψη προτύπου ή ένα ενδιαφέρον νέο αποτέλεσμα. Τα δεδομένα αναφέρονται ως έχουν, με αβεβαιότητα. Η τελική ευθύνη ανήκει στο άτομο και «το εργαλείο το έκανε» δεν είναι άμυνα.