Κέρδη:
- Να είναι σε θέση να διακρίνει πού η τεχνητή νοημοσύνη εξοικονομεί πραγματικό χρόνο στη ροή εργασιών της ακαδημαϊκής έρευνας (λογοτεχνία, σχεδιασμός, ανάλυση, γραφή) και πού η επιστημονική κρίση και η ευθύνη παραμένουν στον ερευνητή, σύμφωνα με το επίπεδο κινδύνου της εργασίας
- Να είσαι σε θέση να εφαρμόσεις μια πειθαρχία που συνδέει και επαληθεύει κάθε έξοδο τεχνητής νοημοσύνης με την πηγή και κατανόηση του προβλήματος της παραίσθησης (κατασκευασμένης) απόδοσης, που είναι ο πιο κρίσιμος κίνδυνος της ακαδημίας.
- Δυνατότητα υιοθέτησης ενός πλαισίου χρήσης που συμμορφώνεται με τις θεσμικές και περιοδικές πολιτικές χρήσης τεχνητής νοημοσύνης, τις αρχές της ακαδημαϊκής ειλικρίνειας και της διαφάνειας.
Η δουλειά ενός ερευνητή περιλαμβάνει πολύ περισσότερο γράψιμο, ανάγνωση και επεξεργασία από ό,τι φαίνεται: σάρωση εκατοντάδων άρθρων, σύνοψή τους, τελειοποίηση του ερευνητικού ερωτήματος, σχεδιασμός μεθόδων, ανάλυση δεδομένων, μεταγραφή αποτελεσμάτων, μορφοποίηση παραπομπών, επιλογή περιοδικών, απάντηση σε σχόλια κριτικών. Μεγάλο μέρος αυτής της εργασίας είναι επαναλαμβανόμενη, χρονοβόρα και αποσπά την προσοχή. Κλέβει από ό,τι είναι πραγματικά πολύτιμο, πρωτότυπη σκέψη και ερμηνεία. Η τεχνητή νοημοσύνη (AI) — προγράμματα υπολογιστών που μπορούν να κατανοήσουν την ανθρώπινη γλώσσα και να παράγουν αποτελέσματα όπως κείμενο, περιλήψεις, κώδικας, προσχέδια κ.λπ. — είναι ένα ισχυρό βοήθημα για την επιτάχυνση αυτού του επαναλαμβανόμενου φόρτου. Σε όλη αυτή την ενότητα, θεωρούμε ότι η τεχνητή νοημοσύνη δεν είναι μια μαγική πηγή πληροφοριών. Θα μάθουμε να το χρησιμοποιούμε ως βοηθός έρευνας, παράγοντας προσχέδια, δίνοντας ιδέες και επιμελώντας.
Αλλά από την αρχή, ας βάλουμε την πιο σημαντική πρόταση ειδικά για την ακαδημαϊκή κοινότητα: η τεχνητή νοημοσύνη δεν λαμβάνει επιστημονικές αποφάσεις αντί του ερευνητή. παράγει το προσχέδιο, η επιστημονική κρίση και η ευθύνη ανήκει στον ερευνητή. Στον ακαδημαϊκό χώρο, αυτός ο κανόνας είναι ακόμη πιο αυστηρός από ό,τι σε άλλα επαγγέλματα, επειδή το νόμισμα της επιστήμης είναι η εμπιστοσύνη και η βάση αυτής της εμπιστοσύνης είναι ότι κάθε ισχυρισμός συνδέεται με μια επαληθεύσιμη πηγή.
Αυτή η πρώτη ενότητα θέτει τρία θεμέλια: διάκριση πού λειτουργεί η τεχνητή νοημοσύνη και πού πρέπει να παραμείνει στη ροή εργασιών της έρευνας. επαλήθευση κάθε εξόδου· Να υιοθετήσει την αρχή της ακαδημαϊκής ειλικρίνειας και διαφάνειας. Αυτά τα τρία αποτελούν την υποκείμενη βάση ασφαλείας για όλες τις επόμενες μονάδες.
Πού εξοικονομεί χρόνο η τεχνητή νοημοσύνη, πού ανήκει η απόφαση στον ερευνητή;
Βοηθά να σκεφτόμαστε τα ερευνητικά καθήκοντα ως προς το επίπεδο κινδύνου. Το επίπεδο κινδύνου είναι το πόση βλάβη θα προκαλούσε στο επιστημονικό αρχείο εάν γίνει εσφαλμένα.
Εργασίες χαμηλού κινδύνου που η τεχνητή νοημοσύνη επιταχύνει πολύ: Δημιουργία στρατηγικής αναζήτησης (λέξη-κλειδί, συνώνυμο), δημιουργία αρχικής σύνοψης ενός εκτενούς κειμένου, απλοποίηση της γλώσσας μιας παραγράφου, πρόταση επικεφαλίδας πίνακα, καταιγισμός ιδεών, εξήγηση μιας έννοιας με διαφορετικούς τρόπους, σύνταξη της δομής ενός περιγράμματος. Εδώ η τεχνητή νοημοσύνη λύνει το πρόβλημα της "κενής σελίδας". διορθώνετε, επαληθεύετε και εμπλουτίζετε.
Εργασίες μεσαίου κινδύνου, που παράγονται από AI που απαιτούν αυστηρή επαλήθευση: Σύσταση επιλογής στατιστικών δοκιμών, προσχέδιο κώδικα, μορφοποίηση παραπομπών, πρόχειρη ερμηνεία ενός ευρήματος, σύγκριση επιλογών μεθόδου. Εδώ η τεχνητή νοημοσύνη δίνει ταχύτητα, αλλά κάθε αριθμός, κάθε ετικέτα, κάθε βήμα λογικής πρέπει να επιβεβαιωθεί χειροκίνητα.
Εργασίες υψηλού κινδύνου όπου η απόφαση επαφίεται αποκλειστικά στον ερευνητή: τελικός προσδιορισμός της υπόθεσης και της μεθόδου, απόφαση για το τι σημαίνουν τα δεδομένα, κρίση εάν ένα εύρημα έχει νόημα, αποφάσεις εντός της επιτροπής δεοντολογίας (IRB), απόφαση για το εάν μια πηγή υπάρχει πράγματι και υποστηρίζει τον ισχυρισμό, δήλωση συγγραφής και συνεισφορά. Αυτές οι αποφάσεις καθορίζουν την αξιοπιστία του επιστημονικού αρχείου. Η ευθύνη και ο τελευταίος λόγος ανήκει πάντα στον ερευνητή.
Προσοχή: Το "AI είπε" δεν είναι δικαιολογία. Ένας συντάκτης περιοδικού ή κριτική επιτροπή διατριβής δεν θα αποδεχτεί τη δήλωση "το μοντέλο μου το δημιούργησε έτσι". Μια μη επαληθευμένη έξοδος AI είναι σαν μια μη επαληθευμένη φήμη.
Γιατί είναι απαραίτητη η επαλήθευση; Ψευδαίσθηση και κατασκευασμένη απόδοση
Η τεχνητή νοημοσύνη παράγει κείμενο όχι «γνωρίζοντας» αλλά «προβλέποντας την πιθανή λέξη». Γι' αυτό μερικές φορές δίνει εξαιρετικά ρεαλιστικές αλλά στην πραγματικότητα εσφαλμένες πληροφορίες. Αυτό ονομάζεται παραίσθηση (κατασκευή). Η πιο επικίνδυνη μορφή αυτού στον ακαδημαϊκό χώρο είναι η ψευδής απόδοση: η τεχνητή νοημοσύνη δημιουργεί ένα όνομα συγγραφέα, έτος, περιοδικό ή ακόμα και DOI (ψηφιακό αναγνωριστικό αντικειμένου - η μόνιμη διεύθυνση μιας δημοσίευσης) που φαίνεται αληθινό, αλλά αυτή η πηγή δεν υπήρξε ποτέ. Εάν ένας ερευνητής το χρησιμοποιεί αυτό χωρίς έλεγχο, προβάλλει έναν ισχυρισμό με βάση μια μελέτη που δεν υπάρχει. Αυτό οδηγεί σε απόρριψη της διατριβής, ανάκληση του άρθρου και απώλεια φήμης.
Το δεύτερο πρόβλημα είναι η παραμόρφωση: κατά τη σύνοψη μιας εργασίας, η τεχνητή νοημοσύνη μπορεί να υπερβάλλει ένα εύρημα, συνοψίζοντας μια μελέτη που έλεγε ότι "δεν υπήρχε σημαντική διαφορά" καθώς "βρέθηκε σημαντική διαφορά". Το τρίτο είναι η προκατάληψη: η τεχνητή νοημοσύνη επαναλαμβάνει τις τάσεις στα δεδομένα στα οποία εκπαιδεύεται. Μπορεί να αναδεικνύει μια συγκεκριμένη σχολή, γλώσσα ή άποψη και να κάνει τη λογοτεχνία να φαίνεται παραμορφωμένη.
Λόγω αυτών των ορίων, προτείνουμε μια απλή πειθαρχία επικύρωσης που εφαρμόζεται σε κάθε έξοδο:
- Συνδέστε το στην πηγή. Βρείτε και επαληθεύστε την πραγματική πηγή (άρθρο, βάση δεδομένων, DOI) για κάθε γεγονός, ημερομηνία, αριθμό, απόσπασμα και ειδικά κάθε αναφορά.
- Ελέγξτε ξανά. Ελέγξτε με μη αυτόματο τρόπο αριθμητικές ή λογικές εξόδους (στατιστικό αποτέλεσμα, υπολογισμός δείγματος).
- Επιστημονικό φίλτρο. "Είναι αυτός ο ισχυρισμός συνεπής με τη γνωστή βιβλιογραφία στον τομέα μου;" χειριστείτε το με τη δική σας εμπειρία.
- Αναλάβετε την ευθύνη. Τη στιγμή που το βάζετε στη δημοσίευση ή τη διατριβή σας, αυτή η πρόταση είναι δική σας. Οποιαδήποτε λάθη είναι δική σας ευθύνη.
Ακαδημαϊκή ειλικρίνεια και διαφάνεια
Η ακαδημαϊκή ακεραιότητα διασφαλίζει ότι το έργο είναι πραγματικά η αρχική σας συνεισφορά και ότι όλες οι πηγές αναφέρονται με ειλικρίνεια. Η χρήση της τεχνητής νοημοσύνης δεν καταργεί αυτήν την αρχή, αλλά προσθέτει μια νέα ευθύνη: τη διαφάνεια. Τα περισσότερα περιοδικά και πανεπιστήμια απαιτούν πλέον ρητή δήλωση χρήσης τεχνητής νοημοσύνης. Η κοινή γραμμή σύνταξης (για παράδειγμα, οι αρχές των φορέων δεοντολογίας της δημοσίευσης όπως το ICMJE και το COPE) λέει ξεκάθαρα δύο πράγματα: η τεχνητή νοημοσύνη δεν μπορεί να είναι ο συγγραφέας (γιατί δεν μπορεί να αναλάβει ευθύνη, δεν μπορεί να δηλώσει σύγκρουση συμφερόντων) και η χρήση της τεχνητής νοημοσύνης δεν είναι κρυφή, αλλά αποκαλύπτεται στην ενότητα μεθόδων ή επιβεβαιώσεων.
Συμβουλή: Πριν επικολλήσετε κείμενο σε οποιοδήποτε εργαλείο, κάντε δύο ερωτήσεις: (1) Πώς αποθηκεύει αυτό το εργαλείο δεδομένα, χρησιμοποιείται στην εκπαίδευση; (2) Τι λέει η πολιτική τεχνητής νοημοσύνης του ιδρύματός μου και του περιοδικού στόχου μου; Μην ξεκινήσετε χωρίς να γνωρίζετε αυτά τα δύο.
τρεις μίνι θήκες
Περίπτωση 1 — Διατριβή που διακυβεύεται η κατασκευασμένη απόδοση. Ένας μεταπτυχιακός φοιτητής ζήτησε από τον YZ 12 πηγές για την εισαγωγή της διατριβής του και τις έλαβε όλες με τις αναφορές τους. Ο σύμβουλός του αναζήτησε τυχαία 4 από αυτά στο Google Scholar. 2 από αυτά δεν υπήρχαν καθόλου, 1 από αυτά είχε DOI πηγαίνοντας σε άλλο άρθρο. Ο μαθητής έπρεπε να επαληθεύσει ολόκληρη τη λίστα μία προς μία και χρησιμοποίησε μόνο 7 αυθεντικές πηγές. Η επαλήθευση διήρκεσε 40 λεπτά. αλλά αν είχε παραδοθεί με πλασματική αναφορά, η εμπιστοσύνη της κριτικής επιτροπής θα είχε κλονιστεί εντελώς.
Περίπτωση 2 — Εξοικονόμηση χρόνου. Ένας μεταδιδακτορικός ερευνητής ξόδεψε 6 ώρες σαρώνοντας και συνοψίζοντας 15-20 νέα άρθρα κάθε εβδομάδα. Άρχισε να χρησιμοποιεί την τεχνητή νοημοσύνη ως την πρώτη του δημιουργία περιλήψεων: ζητώντας από την τεχνητή νοημοσύνη να συνοψίσει την περίληψη και την εισαγωγή κάθε άρθρου, να την εμβαθύνει με τη δική του κριτική ανάγνωση και να επαληθεύσει τα ευρήματα από το αρχικό κείμενο. Ο χρόνος μειώθηκε από 6 ώρες την εβδομάδα σε ~2,5 ώρες. Αφιέρωσε τον χρόνο που κέρδισε για να γράψει πρωτότυπη σύνθεση.
Περίπτωση 3 — Επιστροφή από stealth. Ένας κοινωνικός επιστήμονας επρόκειτο να επικολλήσει αδημοσίευτα δεδομένα πεδίου και μαρτυρίες συμμετεχόντων στο AI για ανάλυση. Συνειδητοποίησε ότι περιείχε διαπιστευτήρια. Αντί να μοιράζεται τα ακατέργαστα δεδομένα, ζήτησε μόνο ένα ανώνυμο, συνοπτικό δείγμα και σχέδιο ανάλυσης. Έλαβε μια πολύτιμη σύσταση μεθόδου, αλλά δεν βγήκαν ευαίσθητα δεδομένα.
Αντιγράψιμα πρότυπα
1) Διαχωρισμός της εργασίας ανά επίπεδο κινδύνου:
Ο ρόλος σας: ακαδημαϊκός βοηθός που βοηθά έναν ερευνητή. Χωρίστε τις ακόλουθες ερευνητικές εργασίες σε τρεις λίστες: (Α) εργασίες χαμηλού κινδύνου για τις οποίες η τεχνητή νοημοσύνη μπορεί να παράγει με ασφάλεια ένα χειρόγραφο, (Β) εργασίες μεσαίου κινδύνου για τις οποίες η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ένα χειρόγραφο και απαιτούν αυστηρή επαλήθευση, (Γ) εργασίες υψηλού κινδύνου για τις οποίες η τελική απόφαση πρέπει να ανήκει στον ερευνητή. Γράψτε μια αιτιολόγηση μιας πρότασης για κάθε εργασία. Αποστολές: [επικολλήστε τις δικές σας αποστολές]
2) Προτροπή ελέγχου επικύρωσης:
Σημειώστε κάθε πρόταση στο παρακάτω κείμενο που περιέχει ένα γεγονός, ημερομηνία, αριθμό, απόσπασμα ή απόδοση και σημειώστε την ως "χρειάζεται επαλήθευση". Δηλώστε ξεκάθαρα πού δεν είστε σίγουροι. ΜΗΝ συνθέτετε την πηγή ή τον αριθμό. Αν δεν ξέρετε, γράψτε "Δεν ξέρω". Κείμενο: [επικόλληση προσχέδιο]
3) Σχέδιο δήλωσης χρήσης AI:
Για την ενότητα μεθόδων/επιβεβαιώσεων ενός άρθρου, γράψτε ένα προσχέδιο 2-3 προτάσεων "Δήλωση χρήσης AI" που εξηγεί με διαφάνεια σε ποια στάδια χρησιμοποίησα την τεχνητή νοημοσύνη (π.χ. διόρθωση γλώσσας, πρόχειρο περιγράμματος). Χρήση: [εξηγήστε]
4) Λίστα επαλήθευσης πηγής:
Δημιουργήστε ένα φύλλο ελέγχου επαλήθευσης για κάθε πηγή στην ακόλουθη λίστα παραπομπών: [συγγραφέας, έτος, τίτλος, DOI, επαληθεύτηκε;]. Δεν μπορείτε να επαληθεύσετε. Δώστε μου έναν κενό πίνακα που θα ελέγξω με μη αυτόματο τρόπο. Λίστα: [επικόλληση παραπομπών]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Βρείτε μου πηγές για την εισαγωγή της διατριβής μου.
Χωρίς πλαίσιο και επικίνδυνο: η τεχνητή νοημοσύνη βγάζει πλαστά αναγνωριστικά και νομίζεις ότι είναι αληθινά.
Ισχυρή προτροπή:
Ο ρόλος σας: σύμβουλος μεθοδολογίας. Τοποθεσία: «φοιτητικό κίνητρο στην εξ αποστάσεως εκπαίδευση». ΜΗ ΜΟΥ ΒΡΕΙΤΕ ΠΗΓΗ. Αντ' αυτού, προτείνετε 8 λέξεις-κλειδιά, 3 ομάδες συνωνύμων και μια συμβολοσειρά αναζήτησης Boolean για αναζήτηση αυτού του θέματος στο Scopus. Πραγματικό άρθρο FAKE. Θα επαληθεύσω τις πηγές που βρίσκω ο ίδιος.
Αναζήτηση
Επίπεδο κινδύνου
Ο ρόλος της AI
τελική απόφαση
Δημιουργία στρατηγικής αναζήτησης
χαμηλά
Προτείνει λέξη-κλειδί/συμβολοσειρά
ερευνητής
Περίληψη άρθρου
Χαμηλό-Μεσαίο
Δημιουργεί πρόχειρο
Ο ερευνητής επιβεβαιώνει
Σύσταση στατιστικών δοκιμών
μεσαίο
Παρέχει επιλογές
Ο ερευνητής επιλέγει/επιβεβαιώνει
Λίστα παραπομπών
ψηλά
Βοηθός μορφοποίησης
Κάθε αποτύπωμα επαληθεύεται με το χέρι
Εύρεση ερμηνείας/υπόθεσης
ψηλά
δίνει ιδέες
μοναχικός ερευνητής
Συνήθη λάθη
- Χρήση παραπομπών χωρίς επαλήθευση. Η κατασκευασμένη απόδοση είναι το πιο συχνό και καταστροφικό λάθος στον ακαδημαϊκό χώρο. οδηγεί σε απόσυρση.
- Αντικατάσταση της περίληψης με την πηγή. Η περίληψη AI μπορεί να παραμορφώσει το εύρημα. Καμία αναφορά δεν δίνεται χωρίς επιστροφή στο αρχικό κείμενο.
- Παράλειψη διαφάνειας. Η απόκρυψη της χρήσης αποτελεί ηθική παραβίαση όταν ανακαλυφθεί.
- Αφήστε το AI να λάβει επιστημονικές αποφάσεις. Η υπόθεση, η ερμηνεία και οι αποφάσεις μεθόδου ανήκουν στον ερευνητή.
- Μεταφόρτωση εμπιστευτικών δεδομένων στο ανοιχτό εργαλείο. Τα μη δημοσιευμένα δεδομένα και οι πληροφορίες των συμμετεχόντων είναι εκτός ελέγχου.
Συμβουλή: Σκεφτείτε κάθε συνεδρία AI σαν να δουλεύετε με έναν έμπειρο αλλά αναξιόπιστο ασκούμενο: είναι γρήγορος και επιμελής, αλλά επαληθεύετε όλα όσα λέει πριν υπογράψετε.
Συνοπτικά
Η τεχνητή νοημοσύνη είναι ένας ισχυρός βοηθός που διευκολύνει τον ερευνητή από το βάρος της επαναλαμβανόμενης ανάγνωσης και γραφής. αλλά λόγω παραισθήσεων, παραμόρφωσης και μεροληψίας, κάθε έξοδος απαιτεί επαλήθευση. Ο πιο κρίσιμος κίνδυνος στον ακαδημαϊκό χώρο είναι η ψευδής αναφορά: κάθε πηγή πρέπει να επαληθεύεται μέσω DOI και βάσης δεδομένων. Διαχωρίστε τις εργασίες ανά επίπεδο κινδύνου, προστατέψτε τα δεδομένα, δηλώστε τη χρήση με διαφάνεια. Ο συντομότερος εμπειρικός κανόνας: το σχέδιο προέρχεται από την τεχνητή νοημοσύνη, η επιστημονική ευθύνη είναι του ερευνητή.
Εργασία εφαρμογής
Καταγράψτε 8 εργασίες από το δικό σας τρέχον ερευνητικό έργο και σημειώστε την καθεμία ως χαμηλού/μεσαίου/υψηλού κινδύνου. Στη συνέχεια, επιλέξτε μια εργασία χαμηλού κινδύνου και γράψτε μια προτροπή με περιεχόμενο, όπως "Ισχυρή προτροπή" παραπάνω. Σημειώστε τουλάχιστον 3 στοιχεία (αριθμός, αποτύπωμα, αξίωση) που πρέπει να επαληθεύσετε στην έξοδο και γράψτε πώς θα το επαληθεύσετε.
λίστα ελέγχου
- [ ] Έχω διαχωρίσει τις εργασίες ανά επίπεδο κινδύνου;
- [ ] Σκοπεύω να επαληθεύσω κάθε παραπομπή και καταμέτρηση στην έξοδο AI;
- [ ] Γνωρίζω την πολιτική διατήρησης δεδομένων του οχήματος που χρησιμοποιώ;
- [ ] Έχω διαβάσει την πολιτική τεχνητής νοημοσύνης του ιδρύματός μου και του περιοδικού στόχου μου;
- [ ] Είμαι σίγουρος ότι διατηρώ την τελική επιστημονική κρίση;