Κέρδη:
- Το να μπορείς να διακρίνεις πού στη ροή εργασιών της δημοσιογραφίας (μεταγραφή, πρώτο σχέδιο, σάρωση, μετάφραση) η τεχνητή νοημοσύνη εξοικονομεί πραγματικό χρόνο και πού αποφάσεις όπως η κρίση ακρίβειας και η προστασία της πηγής αφήνονται στον δημοσιογράφο, ανάλογα με το επίπεδο κινδύνου της εργασίας
- Δυνατότητα εφαρμογής μιας πειθαρχίας που επαληθεύει κάθε έξοδο AI συνδέοντάς την με την κύρια πηγή, επιβεβαιώνοντάς την με τη δευτερεύουσα πηγή και ελέγχοντας χειροκίνητα τον αριθμό.
- Ικανότητα αναγνώρισης των ορίων παραισθήσεων και μεροληψίας και απόκτησης του αντανακλαστικού ανωνυμοποίησης και καθαρισμού μεταδεδομένων πριν δώσετε ευαίσθητα έγγραφα και πόρους στην τεχνητή νοημοσύνη
The New Partner of Journalism: Roles, Limits and Verification Reflex of Artificial Intelligence
Σε ένα newsroom, ο χρόνος είναι ο πιο σπάνιος πόρος. Ο ρεπόρτερ επιστρέφει από το πεδίο, έχοντας δύο ώρες ηχογράφησης, έναν ισολογισμό σαράντα σελίδων και ένα ιστορικό προγράμματος περιήγησης με δεκαπέντε καρτέλες. Ο συντάκτης λέει: «Χρειάζομαι ένα σημείο σε μισή ώρα». Αυτή η πίεση είναι ο κύριος λόγος για τον οποίο η τεχνητή νοημοσύνη (AI) - προγράμματα υπολογιστών που μπορούν να κατανοήσουν την ανθρώπινη γλώσσα και να παράγουν αποτελέσματα όπως κείμενο, περιλήψεις, μεταφράσεις και ταξινομήσεις - κερδίζει γρήγορα έδαφος στη δημοσιογραφία. Η τεχνητή νοημοσύνη μειώνει τις επαναλαμβανόμενες και χρονοβόρες εργασίες (μεταγραφή, πρώτο σχέδιο, σάρωση μεγάλου εγγράφου, μετάφραση) σε λεπτά. Αλλά η δημοσιογραφία είναι ένα επάγγελμα όπου το περιθώριο λάθους είναι πολύ μικρό: ένα ψεύτικο όνομα, ένα κατασκευασμένο απόσπασμα, ένας αβάσιμος ισχυρισμός, όταν δημοσιεύεται, μπορεί να βλάψει τόσο τη ζωή ενός ατόμου όσο και τη φήμη του δημοσιεύματος. Γι' αυτό η πρώτη πρόταση της ενότητας είναι: Το AI δεν αποφασίζει για τον ρεπόρτερ. προσχέδια, ταχύτητες, σαρώσεις—αλλά είναι πάντα δουλειά του δημοσιογράφου να επαληθεύει την αλήθεια, να προστατεύει την πηγή και να αποφασίζει τι θα βγει στον αέρα.
Αυτή η πρώτη ενότητα θέτει τρία θεμέλια: διάκριση πού εξοικονομεί πραγματικό χρόνο η τεχνητή νοημοσύνη στη ροή εργασιών της δημοσιογραφίας και πού πρέπει να σταματήσει. reflex για την επαλήθευση κάθε εξόδου. προστασία της πηγής και των ευαίσθητων δεδομένων. Αυτά τα τρία αποτελούν την υποκείμενη βάση ασφαλείας για όλες τις επόμενες μονάδες.
Πού επιταχύνει η τεχνητή νοημοσύνη, πού ανήκει η απόφαση στον δημοσιογράφο;
Βοηθά να σκεφτόμαστε την αναφορά εργασιών σε έναν άξονα κινδύνου. Το ρίσκο είναι πόση ζημιά θα προκαλέσει στο κοινό, την πηγή και τη δημοσίευση αν γίνει κάτι λάθος.
Εργασίες χαμηλού κινδύνου που η τεχνητή νοημοσύνη επιταχύνει πολύ: εξαγωγή μιας ακατέργαστης μεταγραφής μιας ηχογράφησης, σάρωση των κύριων επικεφαλίδων μιας εκτενούς αναφοράς, σύνταξη του πρώτου σχεδίου μιας είδησης, δημιουργία δέκα εναλλακτικών λύσεων για μια επικεφαλίδα, ανασυσκευασία κειμένου για διαφορετικές πλατφόρμες, λήψη πρόχειρης μετάφρασης ενός ξένου εγγράφου, παράθεση σημαντικών μοτίβων σε έναν μεγάλο πίνακα δεδομένων. Εδώ η τεχνητή νοημοσύνη λύνει το πρόβλημα «κενής σελίδας» και «κοσκινίσματος στοίβας». Ο δημοσιογράφος διορθώνει, επιλέγει, εμπλουτίζει.
Καθήκοντα υψηλού κινδύνου όπου η απόφαση επαφίεται στον δημοσιογράφο: Δήλωση ενός ισχυρισμού ως «αληθής», δημοσίευση ενός αποσπάσματος, δήλωση που κατηγορεί κάποιον, κρίνει τη γνησιότητα ενός εγγράφου, επεξεργασία πληροφοριών που περιέχουν την ταυτότητα μιας πηγής, διαπίστωση της ισορροπίας δημόσιου συμφέροντος-απόρρητου. Αυτές οι αποφάσεις επηρεάζουν τη φήμη και την ασφάλεια των ανθρώπων. Η ευθύνη και ο τελευταίος λόγος ανήκει πάντα στον δημοσιογράφο. Εδώ, το AI το πολύ προτείνει μια υπόθεση ή μια λίστα ελέγχου, δεν μπορεί να κάνει μια κρίση.
Προσοχή: Το "AI συνοψίζεται έτσι" δεν είναι λόγος ειδήσεων. Η πηγή ενός ισχυρισμού, η αλήθεια ενός αποσπάσματος ή η αυθεντικότητα ενός εγγράφου δεν μπορούν να δημοσιευτούν χωρίς την επιβεβαίωση αρμόδιου δημοσιογράφου. Μια μη επιβεβαιωμένη έξοδος τεχνητής νοημοσύνης είναι σαν μια φήμη μιας πηγής — μπορεί να είναι αλήθεια, αλλά χρειάζεται μια δεύτερη πηγή για να μπορέσει να κυκλοφορήσει.
Γιατί είναι απαραίτητη η επαλήθευση; Ψευδαίσθηση και προκατάληψη
Η τεχνητή νοημοσύνη παράγει κείμενο όχι «γνωρίζοντας» αλλά «προβλέποντας την πιθανή λέξη». Γι' αυτό μερικές φορές δίνει εξαιρετικά ρεαλιστικές αλλά στην πραγματικότητα εσφαλμένες πληροφορίες. Αυτό ονομάζεται παραίσθηση: μια δικαστική απόφαση που δεν υπάρχει, ένα ανείπωτο απόφθεγμα, μια ψεύτικη ημερομηνία, μια ακαδημαϊκή εργασία που δεν υπάρχει, ένας αριθμός υπόθεσης που φαίνεται πραγματικός αλλά είναι κατασκευασμένος. Αυτό είναι μοιραίο για τη δημοσιογραφία, γιατί μια κατασκευασμένη «πηγή» καταρρέει την είδηση και οδηγεί σε άρνηση.
Το δεύτερο πρόβλημα είναι η προκατάληψη: η τεχνητή νοημοσύνη μπορεί να επαναλάβει κοινωνικά πρότυπα στο τεράστιο σώμα κειμένου στο οποίο έχει εκπαιδευτεί. μπορεί να πλαισιώσει συστηματικά μια ομάδα, μια περιοχή ή μια γνώμη αρνητικά ή θετικά. Εάν ένας δημοσιογράφος εν αγνοία του φέρει αυτό το πλαίσιο στις ειδήσεις, η αντικειμενικότητα βλάπτεται.
Λόγω αυτών των δύο ορίων, προτείνουμε μια πειθαρχία επαλήθευσης τεσσάρων βημάτων που θα εφαρμοστεί σε κάθε έξοδο:
- Κατεβείτε στην πηγή. Επιστρέψτε στο αρχικό έγγραφο, την εγγραφή ή την κύρια πηγή για κάθε γεγονός, όνομα, ημερομηνία, αριθμό και απόσπασμα που παρέχει το AI. Το AI είναι η επιτομή. Δεν είναι απόδειξη.
- Αναζητήστε μια δεύτερη πηγή. Ο κανόνας της αναφοράς δεν αλλάζει με την τεχνητή νοημοσύνη: ο κρίσιμος ισχυρισμός επιβεβαιώνεται από τουλάχιστον δύο ανεξάρτητες πηγές.
- Ελέγξτε τον αριθμό χειροκίνητα. Υπολογίστε ξανά κάθε αριθμητική έξοδο, όπως ποσοστό, σύνολο, αναλογία κ.λπ. από ανεπεξέργαστα δεδομένα.
- Αναλάβετε την ευθύνη. Τη στιγμή που εγκρίνετε τη δημοσίευση, αυτή η πρόταση είναι δική σας. Το λάθος υπάρχει και στην υπογραφή σου.
Προστασία πόρων: απόρρητο από την αρχή
Στη δημοσιογραφία, η προστασία της πηγής είναι η αρχή της διατήρησης εμπιστευτικής της ταυτότητας του πληροφοριοδότη και νόμιμο δικαίωμα στις περισσότερες χώρες. Για έναν ρεπόρτερ είναι θέμα τιμής στο επάγγελμα. Η εγγραφή του ονόματος, της τοποθεσίας, των ιχνών ταυτότητας του εγγράφου που έστειλε ή των στοιχείων που θα του επιτρέψουν την πρόσβαση σε ένα δημόσιο εργαλείο τεχνητής νοημοσύνης παραβιάζει αμέσως αυτήν την προστασία. Πολλά δωρεάν εργαλεία τεχνητής νοημοσύνης μπορούν να αποθηκεύσουν το κείμενο που εισάγετε ή να το χρησιμοποιήσουν στην εκπαίδευση μοντέλων. Έτσι βάζετε τα δεδομένα εκτός ελέγχου.
Ο κανόνας είναι απλός: Ανωνυμοποιήστε πρώτα και εξάγετε ευαίσθητα δεδομένα. Το όνομα της πηγής, ο αριθμός τηλεφώνου, ο τόπος απασχόλησης και τα μεταδεδομένα στο έγγραφο (συγγραφέας, ημερομηνία, πληροφορίες τοποθεσίας ενσωματωμένες σε ένα αρχείο) διαγράφονται χωρίς να μεταβείτε στο AI. Καταργήστε τις γραμμές αναγνώρισης πριν κατακερματίσετε ένα έγγραφο. γενικεύστε άτομα όπως "Πηγή Α", "ένας δημόσιος υπάλληλος" κ.λπ. Για ευαίσθητα αρχεία, εάν είναι δυνατόν, επιλέξτε εργαλεία εκτός σύνδεσης ή εταιρικά εργαλεία με διασφάλιση επεξεργασίας δεδομένων. Θα εμβαθύνουμε αυτήν την αρχή στην ενότητα 10. Κάντε το αντανακλαστικό προς το παρόν.
Συμβουλή: Πριν ανεβάσετε ένα έγγραφο στο AI, διαγράψτε τα μεταδεδομένα και αναζητήστε το κείμενο για όνομα, τηλέφωνο, διεύθυνση, ίδρυμα. Ακόμη και η παραμικρή λεπτομέρεια που θα έδινε την πηγή (μια ημερομηνία, μια περιγραφή ενός δωματίου) πρέπει να παραλειφθεί.
τρεις μίνι θήκες
Περίπτωση 1 — Κατασκευασμένη εγγραφή υπόθεσης. Ένας δημοσιογράφος του δικαστηρίου ζήτησε από τον YZ μια περίληψη προηγουμένου. Ο YZ το έδωσε σε πειστική γλώσσα μαζί με τρεις αριθμούς «αποφάσεις του Ανωτάτου Δικαστηρίου». Ο δημοσιογράφος έτρεξε τους αριθμούς μέσω του επίσημου συστήματος αναζήτησης αποφάσεων: δύο από τα τρία δεν ήταν καθόλου διαθέσιμα. Αν το είχε χρησιμοποιήσει χωρίς έλεγχο, θα είχε εμφανιστεί μια είδηση βασισμένη σε κατασκευασμένο προηγούμενο. Το βήμα επαλήθευσης εξασφάλισε ότι χρησιμοποιούσε μόνο τη μόνη υπάρχουσα απόφαση. Η είδηση βγήκε με 20 λεπτά καθυστέρηση αλλά σταθερή.
Περίπτωση 2 — Εξοικονόμηση χρόνου στη μεταγραφή. Μια ομάδα έρευνας κανονικά ξοδεύει περίπου 40 ώρες για να αποκωδικοποιήσει χειροκίνητα 14 ώρες βίντεο της συνάντησης. Χρησιμοποιώντας μεταγραφή που βασίζεται σε AI, το ακατέργαστο κείμενο εξήχθη σε 2 ώρες. Η ομάδα αφιέρωσε τον υπόλοιπο χρόνο διορθώνοντας τα 6 κρίσιμα αποσπάσματα σε σχέση με την ηχογράφηση και καθιερώνοντας το πλαίσιο. Ο συνολικός χρόνος μειώθηκε από 40 ώρες σε ~9 ώρες. Η ακρίβεια δεν μειώθηκε επειδή ο δημοσιογράφος διόρθωσε χειροκίνητα τα σφάλματα ονόματος και αριθμού στην ακατέργαστη μεταγραφή.
Περίπτωση 3 — Αντανακλαστικό προστασίας πόρων. Ένας δημοσιογράφος, ενώ προσπαθούσε να συμβουλευτεί την AI για την κατάσταση ενός δημόσιου υπαλλήλου που του διέρρευσε ένα έγγραφο, ήταν έτοιμος να επικολλήσει το έγγραφο ως είχε. Παρατήρησε χωρίς να στείλει? καθάρισε τα μεταδεδομένα του εγγράφου, αφαίρεσε την υπογραφή και το όνομα της μονάδας, γενίκευσε το άτομο ως "υπάλληλο ενός ιδρύματος". Οι ιδέες του για εκδοτική στρατηγική λειτούργησαν ξανά. αλλά δεν προέκυψε κανένα ίχνος που να αποκαλύπτει την πηγή.
Αντιγράψιμα πρότυπα
1) Διαχωρισμός της εργασίας ανά επίπεδο κινδύνου:
Ο ρόλος σας: βοηθός υποσυντακτών σε δημοσιογράφο. Χωρίστε τις ακόλουθες εργασίες αναφοράς σε δύο λίστες: (Α) εργασίες χαμηλού κινδύνου όπου η τεχνητή νοημοσύνη μπορεί να παράγει με σιγουριά μια περίληψη/σύνοψη, (Β) εργασίες υψηλού κινδύνου όπου η τελική απόφαση πρέπει να ληφθεί από τον δημοσιογράφο. Γράψτε μια αιτιολόγηση μιας πρότασης για κάθε εργασία. Εργασίες: [επικολλήστε τις δικές σας εβδομαδιαίες εργασίες]
2) Προτροπή κυνηγιού ψευδαισθήσεων:
Καταγράψτε κάθε γεγονός, όνομα, ημερομηνία, αριθμό, απόσπασμα και στοιχείο πηγής που αναφέρονται στο παρακάτω κείμενο. Επισημάνετε το καθένα "πρέπει να επαληθευτεί από την κύρια πηγή" και προτείνετε ποιο έγγραφο/εγγραφή πρέπει να αναζητηθεί. Μην λέτε ΑΛΗΘΕΙΑ με βάση τις δικές σας γνώσεις. Συμπεραίνει μόνο τι πρέπει να επαληθευτεί. Κείμενο: [εδώ]
3) Προέλεγχος ανωνυμοποίησης:
Προτού δημοσιεύσετε το παρακάτω κείμενο, επισημάνετε τυχόν στοιχεία που ενδέχεται να αποκαλύψουν την πηγή: όνομα, τίτλος, ίδρυμα, τοποθεσία, ημερομηνία, αναγνωρίσιμη λεπτομέρεια. Προτείνετε μια ασφαλέστερη γενίκευση για κάθε σημαία (π.χ. "ένας δημόσιος υπάλληλος"). Μην αλλάζετε το κείμενο, αναφέρετε απλώς κινδύνους. Κείμενο: [εδώ]
4) Λίστα ελέγχου επαλήθευσης σύνταξης:
Θα αξιολογήσετε ένα προσχέδιο ειδήσεων. Καταγράψτε τις ελλείψεις στους ακόλουθους τίτλους: (1) ισχυρισμοί μιας πηγής, (2) μη επαληθευμένοι αριθμοί, (3) εισαγωγικά με ασαφή απόδοση, (4) μέρη όπου δεν δόθηκε το δικαίωμα στα μέρη να μιλήσουν, (5) προτάσεις όπου συμπέρασμα και γεγονότα αναμειγνύονται. Απλώς δημιουργήστε μια λίστα ελέγχου, μην ξαναγράφετε τις ειδήσεις. Προσχέδιο: [εδώ]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: "Γράψτε μια είδηση από αυτό το έγγραφο."
Αποτέλεσμα: Η τεχνητή νοημοσύνη εισάγει τρύπες, παράγει αξιώσεις που δεν αποδίδονται, προσθέτει περιβάλλον που δεν υπάρχει στο έγγραφο. Ένας δημοσιογράφος δεν μπορεί να διακρίνει τι είναι ντοκουμέντο και τι είναι κατασκεύασμα.
Ισχυρή προτροπή: "Δημιουργήστε τον σκελετό μιας είδησης με βάση ΜΟΝΟ στο ακόλουθο έγγραφο. Δίπλα σε κάθε πρόταση, σημειώστε σε ποια παράγραφο του εγγράφου βασίζεται, όπως [P3]. Μην προσθέτετε πληροφορίες που δεν υπάρχουν στο έγγραφο. Αφήστε τα μέρη που λείπουν κενά ως "[πρέπει να επαληθευτεί]". Έγγραφο: [εδώ]"
Η διαφορά: Η ισχυρή προτροπή συνδέει το AI με το έγγραφο, καθιστώντας κάθε αξίωση ανιχνεύσιμη και καθιστώντας την ψευδαίσθηση ορατή. Ο δημοσιογράφος ξέρει ποια πρόταση να επιβεβαιώσει.
γράφημα σύγκρισης
Αναζήτηση
Ο ρόλος της AI
Απόφαση/ευθύνη
Υποχρεωτική επαλήθευση
Μεταγραφή ηχογράφησης φωνής
Δημιουργεί ακατέργαστο κείμενο
Κρίσιμα αποσπάσματα υπάρχουν στον δημοσιογράφο
Συγκρίνετε όνομα/αριθμό με εγγραφή
Εκτενής σάρωση εγγράφων
Δημιουργεί τίτλο και περίληψη
Τα νέα είναι στην κρίση του δημοσιογράφου
Επιστρέψτε στην αρχική παράγραφο
Πρώτη σύνταξη σχεδίου
Προτείνει σκελετό και γλώσσα
Οι παραπομπές και τα γεγονότα είναι με τον δημοσιογράφο
Συνδέστε κάθε αξίωση με την πηγή
Επιλογή προσφοράς
Ονομαστικές προτάσεις σημάδια
Δημοσίευση από δημοσιογράφο
Κατά λέξη επιβεβαίωση από το αρχείο
Επεξεργασία πηγής/εγγράφου
(περιορισμένη) βοήθεια
Προστασία της ταυτότητας των δημοσιογράφων
Καθαρισμός μεταδεδομένων και ονόματος
Συνήθη λάθη
- Παρεξήγηση της εξόδου AI με πηγή. Η τεχνητή νοημοσύνη είναι μια γεννήτρια σχεδίων, όχι ένας πόρος. Η δημοσίευση του γεγονότος χωρίς την επιβεβαίωσή του από το κύριο έγγραφο οδηγεί σε άρνηση.
- Επικόλληση του ευαίσθητου εγγράφου ως έχει. Κανένα έγγραφο δεν πρέπει να εισάγει ένα δημόσιο εργαλείο χωρίς να διαγράψει τα μεταδεδομένα και τα ονόματα που δίνουν την πηγή.
- Παράκαμψη του κανόνα των «δύο πόρων» με την τεχνητή νοημοσύνη. Η σύνοψη της τεχνητής νοημοσύνης είναι μια ενιαία πηγή. Ο κρίσιμος ισχυρισμός απαιτεί και πάλι δύο ανεξάρτητες επιβεβαιώσεις.
- Εμπιστεύοντας τους αριθμούς. Η τεχνητή νοημοσύνη συχνά υπολογίζει λάθος ποσοστά και σύνολα. ελέγξτε ξανά κάθε αριθμό από τα πρωτογενή δεδομένα.
- Μη αναγνωρίζοντας την προκατάληψη. Η λήψη του πλαισίου της τεχνητής νοημοσύνης χωρίς αμφισβήτηση και η μεταφορά του στη γλώσσα των ειδήσεων διαταράσσει την αντικειμενικότητα.
Συνοπτικά
Σε αυτήν την ενότητα τοποθετούμε την τεχνητή νοημοσύνη ως βοηθό στο ρεπορτάζ: επιταχύνει τις επαναλαμβανόμενες και μαζικές εργασίες, αλλά εναπόκειται στον δημοσιογράφο να αποφασίσει την αλήθεια, να δημοσιεύσει το απόσπασμα και να προστατεύσει την πηγή. Η ψευδαίσθηση και η προκατάληψη είναι τα δύο κύρια όρια. Ενάντια σε αυτά, η πειθαρχία επαλήθευσης τεσσάρων βημάτων (πήγαινε στην πηγή, δεύτερη πηγή, ελέγξτε τον αριθμό, αναλάβετε την ευθύνη) και το αντανακλαστικό απορρήτου από την αρχή (ανωνυμοποίηση, καθαρά μεταδεδομένα) εφαρμόζονται σε κάθε έξοδο. Οι επόμενες μονάδες θα εγκατασταθούν σε αυτό το έδαφος.
Εργασία εφαρμογής
Καταγράψτε 8 εργασίες αναφοράς που κάνατε την τελευταία εβδομάδα. Επισημάνετε το καθένα ως "χαμηλού κινδύνου - η τεχνητή νοημοσύνη το κάνει πιο γρήγορο" ή "υψηλού κινδύνου - εξαρτάται από εμένα" και προσθέστε μια αιτιολόγηση μιας πρότασης. Στη συνέχεια, επιλέξτε ένα και εφαρμόστε την προτροπή "Hallucination hunt" παραπάνω σε ένα πραγματικό κείμενο. Σημειώστε πόσοι ισχυρισμοί οι σημαίες AI στην πραγματικότητα πρέπει να επαληθευτούν.
λίστα ελέγχου
- [ ] Μπορώ να διαχωρίσω την εργασία ανά επίπεδο κινδύνου. Ξέρω δουλειές όπου η απόφαση αφήνεται στον δημοσιογράφο.
- [ ] Αποδίδω κάθε έξοδο AI στην κύρια πηγή. Δεν παρακάμπτω τον κανόνα των "δύο πόρων" με την τεχνητή νοημοσύνη.
- [ ] Γνωρίζω τους κινδύνους της ψευδαίσθησης και της προκατάληψης και τσακίζω τους αριθμούς με το χέρι.
- [ ] Καθαρίζω τυχόν ίχνη μεταδεδομένων και ταυτότητας προτού δώσω το ευαίσθητο έγγραφο/πόρο στο AI.
- [ ] Έχω εσωτερικεύσει ότι η αιτιολόγηση "Είπε AI" δεν είναι έγκυρη για μετάδοση.