Κέρδη:
- Ικανότητα κατανόησης ότι η ψευδαίσθηση είναι εγγενής στο γλωσσικό μοντέλο και να επιλέξετε την κατάλληλη μέθοδο επαλήθευσης για κάθε τύπο εξόδου.
- Επαληθεύστε τις κρίσιμες τιμές με δύο ανεξάρτητους τρόπους με τριγωνισμό και μην συγχέετε την ευχέρεια με την ακρίβεια
- Ικανότητα εφαρμογής της διαφάνειας, της ιχνηλασιμότητας, της ακεραιότητας των δεδομένων και της ανθρώπινης ευθύνης ως βάσης της επιστημονικής ακεραιότητας
Μια φράση επανήλθε ξανά και ξανά σε αυτήν την ενότητα: «Το AI παράγει, οι άνθρωποι επαληθεύουν». Σε αυτή την ενότητα, μετατρέπουμε αυτήν την πρόταση σε σύστημα. Στόχος είναι να αναγνωριστεί η ψευδαίσθηση (παραγωγή ψευδών/κατασκευασμένων πληροφοριών με σίγουρη γλώσσα), που είναι η πιο επικίνδυνη συμπεριφορά της τεχνητής νοημοσύνης, να καθιερωθεί μια συγκεκριμένη μέθοδος επαλήθευσης για κάθε τύπο εξόδου και να τοποθετηθούν όλα αυτά στο πλαίσιο της επιστημονικής ακεραιότητας (ειλικρίνεια, διαφάνεια, ιχνηλασιμότητα). Μια μη επαληθευμένη έξοδος τεχνητής νοημοσύνης στη χημεία δεν είναι απλώς ένα λάθος. Θα μπορούσε να είναι ένα πείραμα που εκρήγνυται, ένα άτομο που δηλητηριάζεται ή ένα χαρτί που ανασύρεται.
Γιατί η ψευδαίσθηση είναι αναπόφευκτη;
Το μοντέλο της μεγάλης γλώσσας παράγει την «επόμενη πιο πιθανή λέξη». Στοχεύει σε αυτό που είναι δυνατό, όχι σε αυτό που είναι αληθινό. Έτσι μπορεί να συμπληρώσει ένα μοριακό βάρος, ένα DOI ή ένα σημείο βρασμού με μια τιμή που «φαίνεται λογική» — χωρίς να ελέγξει αν είναι πραγματική. Η ψευδαίσθηση δεν είναι δυσλειτουργία, αλλά συνέπεια της φύσης αυτής της τεχνολογίας. Η λύση δεν είναι να «προσπαθήσετε να διορθώσετε» το μοντέλο, αλλά να δημιουργήσετε ένα κέλυφος επικύρωσης γύρω από κάθε έξοδο.
Η πιο ύπουλη πτυχή της ψευδαίσθησης είναι η σίγουρη γλώσσα της. Ένα λανθασμένο μοριακό βάρος παρουσιάζεται με την ίδια ακριβώς εμπιστοσύνη με ένα σωστό. Οπότε το «φαίνεται σίγουρο» δεν σημαίνει ποτέ «σωστό».
Προσοχή: Το πόσο άπταιστα και με αυτοπεποίθηση μιλάει το AI για ένα θέμα δεν σχετίζεται με την ακρίβεια αυτών των πληροφοριών. Η ευχέρεια πείθει. Μόνο η ανεξάρτητη πηγή καθορίζει την ακρίβεια.
Επικύρωση ανά τύπο εξόδου στη χημεία
Κάθε τύπος εξόδου έχει τη δική του μέθοδο επαλήθευσης. Αντί να απομνημονεύσετε έναν κανόνα, χρησιμοποιήστε το κατάλληλο εργαλείο για την έξοδο:
Τύπος εξόδου
Μέθοδος επαλήθευσης
όχημα
Μοριακό βάρος, τύπος
Υπολογίστε ξανά από τον τύπο
RDKit / χειροκίνητα
ΧΑΜΟΓΕΛΑ/δομή
Ανάλυση + κανονικοποίηση
RDKit
Αναφορά/DOI
Λύση στη βάση δεδομένων
doi.org, Crossref
Φυσική σταθερά (kn, pKa)
Βάση δεδομένων αναφοράς
PubChem, εγχειρίδιο
αριθμητικός υπολογισμός
Κώδικας εγγραφής + εκτέλεσης
Python
αντίδραση/κατάσταση
Επιβεβαίωση βιβλιογραφίας
Reaxys, άρθρο
αξίωση ασφάλειας
SDS/GHS
Επίσημο SDS
Εκχώρηση φάσματος
Πολυτεχνικό + ανθρώπινο
Πειραματικό φάσμα
Αυτός ο πίνακας είναι στην πραγματικότητα μια περίληψη αυτής της ενότητας: κάθε μονάδα είναι μία σειρά.
Τριγωνισμός: τρία ανεξάρτητα μονοπάτια
Η πιο ισχυρή τεχνική επαλήθευσης είναι η «τριγωνοποίηση»: καταλήγοντας στο ίδιο συμπέρασμα με τρεις ανεξάρτητους τρόπους. Για παράδειγμα, για ένα μοριακό βάρος: (1) τι λέει ο YZ, (2) ο υπολογισμός του RDKit, (3) ο υπολογισμός με το χέρι από τον τύπο. Εάν τα τρία αλληλεπικαλύπτονται, η εμπιστοσύνη είναι υψηλή. Εάν κάποιος παραπλανάται, σταματήστε και ερευνήστε. Ποτέ μην βασίζεστε σε μία μόνο πηγή στη χημεία. Αναζητήστε τουλάχιστον δύο ανεξάρτητα μονοπάτια.
Βήμα προς βήμα: ροή εργασιών επαλήθευσης
- Ταξινόμηση της εξόδου: Είναι αριθμός, δομή, απόδοση, ισχυρισμός ασφαλείας;
- Επιλέξτε κατάλληλο εργαλείο: Λάβετε την κατάλληλη διαδρομή επαλήθευσης για τον τύπο εξόδου από τον παραπάνω πίνακα.
- Υπολογισμός/αναζήτηση ανεξάρτητα: Λειτουργήστε το όχημα ανεξάρτητα από το AI. συγκρίνετε το αποτέλεσμα.
- Εάν υπάρχει απόκλιση, σταματήστε: Εάν οι τιμές δεν ταιριάζουν, μην προχωρήσετε χωρίς να διερευνήσετε ποια είναι σωστή.
- Αφήστε το σημάδι σας: Καταγράψτε τι επαληθεύσατε και πώς (επιστημονική ακεραιότητα).
- Προσδιορίστε την αβεβαιότητα: Επισημάνετε κάτι που δεν μπορεί να επαληθευτεί ως "μη επιβεβαιωμένο", μην το αποκρύψετε.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Αυτοεπαλήθευση:
Μόλις δώσατε την ακόλουθη έξοδο: [OUTPUT]. Εργασία: Καταγράψτε κάθε αριθμητικό/πραγματικό ισχυρισμό αυτής της εξόδου σε ξεχωριστή γραμμή. Για κάθε ισχυρισμό: "πώς να το επαληθεύσω ανεξάρτητα;" μέθοδος εγγραφής (ποιο εργαλείο/βάση δεδομένων). ΜΗΝ Ισχυριστείτε ότι ο ισχυρισμός είναι αληθινός. απλά δώστε έναν τρόπο να το επαληθεύσετε.
2) Έλεγχος τριγωνισμού:
Θέλω να ελέγξω το βάρος του παρακάτω μορίου με τρεις τρόπους: [ΧΑΜΟΓΕΛΑ]. Εργασία: 1) Εξάγετε τον μοριακό τύπο. 2) Δείξτε τον υπολογισμό του μοριακού βάρους άτομο ανά άτομο (συμβολή κάθε στοιχείου). Σημείωση: Θα το υπολογίσω επίσης σε RDKit και τρίτον θα το συγκρίνω με αυτό που δώσατε. Εάν τα τρία δεν επικαλύπτονται, προειδοποιήστε.
3) Σήμανση ασάφειας:
Υπάρχουν πολλαπλοί πραγματικοί ισχυρισμοί στο ακόλουθο κείμενο:[TEXT]Εργασία: Τοποθετήστε μια ετικέτα επιπέδου εμπιστοσύνης δίπλα σε κάθε αξίωση:[ΕΠΑΛΛΗΨΗ] / [ΕΠΑΛΗΘΕΥΘΗΚΕ] / [ΑΒΕΒΑΙΩΤΟ]. Μην επισημάνετε τίποτα [Επαληθεύτηκε] εάν δεν είστε σίγουροι.
4) Ερώτημα συνοχής:
Θα κάνω την ίδια ερώτηση με δύο διαφορετικούς τρόπους. Δείτε αν οι απαντήσεις σας είναι συνεπείς. Ερώτηση Α: Ποιος είναι ο μοριακός τύπος της ένωσης
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο:
Γράψτε όλα όσα γνωρίζετε για αυτήν την ένωση.
Η τεχνητή νοημοσύνη αναμειγνύει αδιακρίτως επαληθεύσιμες και κατασκευασμένες πληροφορίες. Δεν είναι σαφές ποιο είναι πραγματικό.
Δυνατό:
Δώστε πληροφορίες σχετικά με αυτήν την ένωση, αλλά επισημάνετε κάθε αξίωση ως: [ΑΠΟΔΕΙΞΗ - επαληθεύτηκε από το όργανο] π.χ. μοριακός τύπος,[ΠΕΙΡΑΜΑΤΙΚΟ - απαιτείται παραπομπή] π.χ. σημείο τήξης,[ΑΒΕΒΑΙΟ - δεν είμαι σίγουρος]. Μην γράφετε ισχυρισμούς χωρίς ετικέτα.
Διαφορά: Αναγκάσαμε το AI να επισημάνει τη δική του αβεβαιότητα. Κάναμε το έργο της επαλήθευσης να προγραμματιστεί.
Επιστημονική ακεραιότητα: ειλικρίνεια και ιχνηλασιμότητα
Η επαλήθευση δεν είναι απλώς ένα τεχνικό βήμα, είναι ένα ηθικό ζήτημα. Η επιστημονική ακεραιότητα απαιτεί:
- Διαφάνεια: Μην κρύβετε ότι χρησιμοποιείτε AI. Καθορίστε σύμφωνα με την πολιτική δημοσίευσης/αναφοράς σας.
- Ιχνηλασιμότητα: Καταγράψτε ποια έξοδο προήλθε από το AI και πώς επαληθεύτηκε.
- Ακεραιότητα δεδομένων: Η «ωραιοποίηση» των αποτελεσμάτων με τεχνητή νοημοσύνη, η απόρριψη των ακραίων στοιχείων χωρίς αιτιολόγηση είναι απάτη.
- Ευθύνη: Είστε υπεύθυνοι για το τελικό αποτέλεσμα. «Το AI το είπε» δεν είναι δικαιολογία.
Συμβουλή: Αποδεχτείτε εξαρχής ότι δεν μπορείτε ποτέ να χρησιμοποιήσετε τη φράση "Το είπε το AI" σε μια αναφορά ή υπεράσπιση. Αυτή η αποδοχή φέρνει αυτόματα τη συνήθεια της επαλήθευσης κάθε εξόδου.
μίνι θήκες
Περίπτωση 1 — Η τριγωνοποίηση εντόπισε ένα σφάλμα. Ένας μαθητής έλεγξε ένα μοριακό βάρος με τρεις τρόπους: ο YZ είπε 178,2, ο χειροκίνητος υπολογισμός έδωσε 180,16, το RDKit έδωσε 180,16. Δύο ανεξάρτητα μονοπάτια αλληλεπικαλύπτονται και εξαλείφουν την τεχνητή νοημοσύνη. Μάθημα: δύο ανεξάρτητες επαληθεύσεις ακυρώνουν σιωπηλά μια ψευδή έξοδο.
Περίπτωση 2 — Ασφαλής γλώσσα, λάθος πληροφορίες. Το AI έγραψε με μεγάλη σιγουριά ότι μια αντίδραση «εκτελείται αυθόρμητα σε θερμοκρασία δωματίου». Η βιβλιογραφία έδειξε ότι αυτό απαιτούσε θέρμανση και καταλύτη. Ο μαθητής εμπιστεύτηκε την πηγή, όχι την ασφαλή γλώσσα. Μάθημα: η ευχέρεια δεν είναι ακρίβεια.
Περίπτωση 3 — Κέρδισε τη διαφάνεια. Στην ενότητα μεθόδων της εργασίας του, ένας ερευνητής δήλωσε ξεκάθαρα σε ποια βήματα χρησιμοποίησε την τεχνητή νοημοσύνη (επεξεργασία κειμένου, σύνταξη κώδικα) και έγραψε ότι επαλήθευε ανεξάρτητα όλα τα αριθμητικά αποτελέσματα. Η διαιτητική διαδικασία κύλησε ομαλά. Μάθημα: η διαφάνεια χτίζει εμπιστοσύνη, η απόκρυψη δημιουργεί ρίσκο.
Συνήθη λάθη
- Εμπιστοσύνη στην ασφαλή γλώσσα. Ο σίγουρος τόνος του AI δεν αποτελεί ένδειξη ακρίβειας.
- Βασιζόμενοι σε μία μόνο πηγή. Αποδοχή μίας εξόδου χωρίς τριγωνισμό.
- Δεν διαχωρίζεται ο τύπος εξόδου. Νομίζοντας ότι «έλεγξα» τον αριθμό, την απόδοση και τη δήλωση ασφάλειας με την ίδια μέθοδο.
- Απόκρυψη αβεβαιότητας. Αναφορά κάτι που δεν μπορεί να επαληθευτεί σαν να ήταν σίγουρο.
- Απόκρυψη της χρήσης AI. Η έλλειψη διαφάνειας υπονομεύει την επιστημονική ακεραιότητα.
- Ανάθεση ευθύνης. Η δικαιολογία "AI είπε έτσι" είναι άκυρη. Η ευθύνη ανήκει στον άνθρωπο.
Συνοπτικά
- Η ψευδαίσθηση είναι εγγενής στο γλωσσικό μοντέλο. Η λύση είναι να δημιουργήσετε ένα κέλυφος επικύρωσης γύρω από κάθε έξοδο.
- Κάθε τύπος εξόδου έχει τη δική του μέθοδο επαλήθευσης. ταξινομήστε την έξοδο και χρησιμοποιήστε το κατάλληλο εργαλείο.
- Ο τριγωνισμός (δύο ανεξάρτητα μονοπάτια) είναι ο ισχυρότερος έλεγχος. Μην εμπιστεύεστε ούτε μία πηγή.
- Η ευχέρεια και η σίγουρη γλώσσα δεν σχετίζονται με την ακρίβεια.
- Η επιστημονική ακεραιότητα απαιτεί διαφάνεια, ιχνηλασιμότητα, ακεραιότητα δεδομένων και ανθρώπινη ευθύνη.
Εργασία εφαρμογής
Δημιουργήστε σκόπιμα μια ποικιλία εξόδων σε μια συνεδρία AI: ένα μοριακό βάρος, μια αναφορά, μια φυσική σταθερά, μια αξίωση ασφαλείας, έναν αριθμητικό υπολογισμό. Επαληθεύστε το καθένα ανεξάρτητα με τη σωστή μέθοδο (βλ. πίνακα). Προσπαθήστε να πιάσετε τουλάχιστον μία παραίσθηση. Στη συνέχεια, προετοιμάστε έναν "πίνακα επικύρωσης": εξόδους σειρών, στήλες (τιμή AI / ανεξάρτητη τιμή / επικαλύφθηκε / πώς το επαλήθευσα). Πώς θα αναφέρατε αυτή τη συνεδρία όσον αφορά την επιστημονική ακεραιότητα;
λίστα ελέγχου
- [ ] Καταλαβαίνω γιατί η ψευδαίσθηση είναι αναπόφευκτη.
- [ ] Ταξινομώ κάθε έξοδο ανάλογα με τον τύπο της και την επαληθεύω με την κατάλληλη μέθοδο.
- [ ] Κάνω τριγωνισμό (δύο ανεξάρτητα μονοπάτια) σε κρίσιμες τιμές.
- [ ] Εμπιστεύομαι την πηγή, όχι την ασφαλή γλώσσα.
- [ ] Σημειώνω ότι δεν μπορεί να επιβεβαιωθεί ως "αβέβαιο".
- [ ] Είμαι διαφανής στη χρήση της τεχνητής νοημοσύνης και θεωρώ τον εαυτό μου υπεύθυνο για το αποτέλεσμα.