Κέρδη:
- Δυνατότητα αναγνώρισης τύπων, ενδείξεων και μοτίβων διάδοσης συνθετικού κειμένου, εικόνων, ήχου και ψεύτικο βίντεο
- Δυνατότητα διαχείρισης υποψίας συνθετικού περιεχομένου με παρακολούθηση πηγής, μεταδεδομένα, αντίστροφη αναζήτηση και επαλήθευση περιβάλλοντος και χρήση τεχνητής νοημοσύνης ως οργανωτικό εργαλείο στην άμυνα
- Ικανότητα κατανόησης ότι τα εργαλεία ανίχνευσης δεν είναι οριστικά στοιχεία, ότι η κρίση καταλήγει στην πηγή και ότι οι ειδήσεις επιβεβαίωσης πρέπει να γράφονται σε μια ήρεμη, διαφανή γλώσσα.
Η τεχνητή νοημοσύνη δεν είναι μόνο το εργαλείο ενός δημοσιογράφου. Είναι επίσης ο κινητήρας της απειλής εναντίον του. Σήμερα, πειστικό ψεύτικο κείμενο, φαινομενικά αληθινές φωτογραφίες, πρόσωπα ανύπαρκτων ανθρώπων και φωνές που εκφέρουν προτάσεις που κάποιος δεν πρόφερε ποτέ μπορούν να παραχθούν μέσα σε λίγα λεπτά. Αυτά ονομάζονται συλλογικά συνθετικό περιεχόμενο (τεχνητά παραγόμενα μέσα). Ο τύπος βίντεο/ήχου που μιμείται ρεαλιστικά το πρόσωπο ή τη φωνή ενός ατόμου ονομάζεται deepfake. Η παραπληροφόρηση - σκόπιμα διαδίδονται ψευδείς πληροφορίες - έχει γίνει και φθηνότερη και ταχύτερη μέσω αυτών των εργαλείων. Το καθήκον του δημοσιογράφου έχει διπλασιαστεί: τόσο να αποτρέψει τη δημοσίευση αυτού του περιεχομένου όσο και να ενημερώσει το κοινό για αυτήν την απειλή. Σε αυτήν την ενότητα, καλύπτουμε τη χρήση τεχνητής νοημοσύνης τόσο για την κατανόηση της απειλής όσο και για την άμυνα εναντίον της. Βασική αρχή: Κανένα εργαλείο ανίχνευσης δεν αποτελεί πειστική απόδειξη. Η υποψία συνθετικού περιεχομένου επιλύεται με κλασική επαλήθευση που αφορά την πηγή και το πλαίσιο.
Τύποι και συμβουλές συνθετικού περιεχομένου
Κείμενο. Η τεχνητή νοημοσύνη μπορεί να παράγει ρεαλιστικά αλλά κενά, γεμάτα με γενίκευση, κατασκευασμένα κείμενα. Οι ψεύτικες "ιστοσελίδες ειδήσεων" και οι στρατοί σχολίων ευδοκιμούν σε αυτό. Υπόδειξη: μη επαληθεύσιμες πηγές, υπερβολικά γενικές δηλώσεις, επίμονα μονόπλευρη πλαισίωση.
Οπτικός. Σε τεχνητές εικόνες, τα χέρια/δάχτυλα, τα δόντια, τα αυτιά, τα κοσμήματα, το κείμενο φόντου και οι αντανακλάσεις είναι συχνά ασυνεπή. Αλλά η τεχνολογία βελτιώνεται με ταχείς ρυθμούς, επομένως το "μπορώ να το καταλάβω κοιτάζοντάς το με τα μάτια μου" είναι μια επικίνδυνη εμπιστοσύνη.
Ήχος. Οι ανείπωτες προτάσεις μπορούν να παραχθούν από τη φωνή ενός αξιωματούχου. Συμβουλή: φυσικότητα αναπνοής/παύσης, συνέπεια ήχου περιβάλλοντος, αλλά ο πιο αξιόπιστος έλεγχος είναι να επαληθεύσετε την πηγή του περιεχομένου.
Βίντεο (deepfake). Αναντιστοιχία προσώπου και λαιμού/φωτός, αναβοσβήσιμο των ματιών, συγχρονισμός χειλιών-φωνών μπορεί να είναι ενδείξεις. Ωστόσο, δεν είναι σίγουρο.
Προσοχή: "Το εργαλείο ανίχνευσης AI λέει ότι το 90% είναι ψεύτικο" δεν είναι λόγος δημοσίευσης. Αυτά τα εργαλεία είναι λάθος. Μπορεί να πει το αληθινό ψεύτικο και το ψεύτικο αληθινό. Η έξοδος του εργαλείου είναι μια ένδειξη. Η κρίση καταλήγει στην πηγή.
Βήμα προς βήμα: διαχείριση της υποψίας για συνθετικά συστατικά
Βήμα 1 — Βρείτε την πηγή. Ποιος δημοσίευσε πρώτος το περιεχόμενο, πού και πότε; Πηγαίνοντας μόνο στην αρχική πηγή θα καταστρέψει τα περισσότερα ψεύτικα.
Βήμα 2 — Δείτε τα μεταδεδομένα και αντιστρέψτε την αναζήτηση. Τα μεταδεδομένα και η αντίστροφη αναζήτηση εικόνων σε εικόνα/βίντεο ενδέχεται να αποκαλύψουν προηγούμενη έκδοση ή πρωτότυπο.
Βήμα 3 — Ελέγξτε την εσωτερική συνοχή. Ταιριάζουν το φως, η σκιά, η αντανάκλαση, ο ήχος περιβάλλοντος, τα στοιχεία του πραγματικού κόσμου του φόντου (σήμανση, καιρός, αρχιτεκτονική) με τον ισχυρισμό;
Βήμα 4 — Επαληθεύστε το πλαίσιο. Το περιστατικό στο περιεχόμενο έχει δει άλλες ανεξάρτητες πηγές; Υπάρχουν πολλά ίχνη από ένα πραγματικό γεγονός. Το περιεχόμενο "βόμβα" μιας πηγής είναι αμφίβολο.
Βήμα 5 — Χρησιμοποιήστε εργαλεία ανίχνευσης ως ενδείξεις. Μετρήστε την έξοδο των εργαλείων ανίχνευσης τεχνητής νοημοσύνης ως βοηθητικό σήμα, όχι ως απόδειξη.
Βήμα 6 — Αναφέρετε με διαφάνεια. Εάν το δημοσιεύσετε (ως επαλήθευση δεδομένων), δείξτε τι είναι ψεύτικο/ύποπτο, γιατί και πώς το επαληθεύσατε.
Χρήση AI στην άμυνα
Η τεχνητή νοημοσύνη είναι επίσης ένα οργανωτικό εργαλείο ενάντια στο συνθετικό περιεχόμενο: παραθέτει τι πρέπει να αναζητήσετε σε μια εικόνα, παραθέτει ενδείξεις ότι ένα κείμενο μπορεί να έχει δημιουργηθεί από τεχνητή νοημοσύνη, βοηθά στην ανάλυση της αφήγησης μιας εκστρατείας παραπληροφόρησης, συντάσσει έναν επεξηγηματικό έλεγχο στοιχείων για το κοινό. Αλλά ο ίδιος ο προσδιορισμός - η ετυμηγορία «είναι ψεύτικη» - γίνεται από την ανθρώπινη κρίση και την επαλήθευση της πηγής.
τρεις μίνι θήκες
Περίπτωση 1 — Ψεύτικη εγγραφή φωνής. Κυκλοφόρησε ηχητικό μαγνητοσκοπημένο «παραιτούμενο». Ο ρεπόρτερ αρχικά έψαξε για την πηγή: η ηχογράφηση είχε προέλθει από έναν μόνο ανώνυμο λογαριασμό, δεν υπήρχε ίχνος της πουθενά αλλού. Η ομάδα του αξιωματούχου απέρριψε την ηχογράφηση. Ο ήχος περιβάλλοντος ήταν επίσης ασυνεπής. Ο ρεπόρτερ δεν δημοσίευσε την ηχογράφηση, αλλά ανέφερε μια "μη επαληθεύσιμη ηχογράφηση". Η ηχογράφηση αργότερα αποδείχθηκε ότι ήταν συνθετική.
Περίπτωση 2 — Πίεση χρόνου και αντανακλαστικό στοπ. Η φωτογραφία ενός «κτηρίου που κατέρρευσε» μετά από σεισμό εξαπλώθηκε γρήγορα. Ο δημοσιογράφος έκανε μια αντίστροφη αναζήτηση εικόνων: η φωτογραφία ήταν από άλλο γεγονός πριν από 2 χρόνια. Ο έλεγχος 4 λεπτών εμπόδισε μια εσφαλμένη εικόνα να εισέλθει στον ιστότοπο ειδήσεων. Μερικοί αντίπαλοι ιστότοποι το δημοσίευσαν χωρίς έλεγχο και δημοσίευσαν μια άρνηση.
Περίπτωση 3 — Υπερβολική εμπιστοσύνη στο εργαλείο ανίχνευσης. Ένας συντάκτης εισήγαγε τη φωτογραφία ενός πραγματικού ρεπόρτερ σε ένα εργαλείο ανίχνευσης. Το όχημα είναι «78% τεχνητό», είπε. Ο συντάκτης επρόκειτο να το αποσύρει από τη δημοσίευση. Όταν ένας ανώτερος ελεγκτής έδειξε τα μεταδεδομένα λήψης της φωτογραφίας και το ακατέργαστο αρχείο του ρεπόρτερ, έγινε σαφές ότι η φωτογραφία ήταν πραγματική. Μάθημα: ο μέσος σφάλλει, η πηγή μιλάει.
Αντιγράψιμα πρότυπα
1) Λίστα ελέγχου οπτικής συνθετικότητας:
Υποψιάζομαι ότι μια εικόνα μπορεί να παράγεται τεχνητά. Κάντε μια λίστα ελέγχου με πράγματα που πρέπει να δοκιμάσω: χέρια/δάχτυλα, δόντια, κοσμήματα, κείμενο φόντου, αντανακλάσεις, συνοχή φωτός-σκιάς, αντίστροφη αναζήτηση, μεταδεδομένα. Γράψτε πώς να αναζητήσετε κάθε αντικείμενο. Μην πεις "ψεύτικο/αληθινό" σίγουρα. απλά λίστα ελέγχου. Οπτική περιγραφή: [εδώ]
2) Αναλύοντας την αφήγηση παραπληροφόρησης:
Ο ακόλουθος ισχυρισμός μπορεί να είναι καμπάνια παραπληροφόρησης. Συμπερασματικά: (1) ποιο συναίσθημα στοχεύει, (2) ποια διαίρεση ενισχύει, (3) επαληθεύσιμα/μη επαληθεύσιμα στοιχεία, (4) ποιο μπορεί να είναι το τυπικό μοτίβο εξάπλωσης. Έκδοση κρίσης δικαιοσύνης. αναλύω. Αξίωση: [εδώ]
3) Σχέδιο επιβεβαίωσης ειδήσεων για το κοινό:
Έχω επαληθεύσει με πρωτογενείς πηγές ότι το ακόλουθο περιεχόμενο είναι συνθετικό/παραπλανητικό: [σύνοψη ευρημάτων]. Γράψτε ένα προσχέδιο μιας ιστορίας επιβεβαίωσης που να ενημερώνει τον αναγνώστη, να μην σκορπίζει πανικό και να δείχνει με διαφάνεια πώς το επαλήθεψα. Μην συμπεριλάβετε ευρήματα που δεν παρείχα. Ευρήματα: [εδώ]
4) Σημάδια που δημιουργούνται από AI (υπαινιγμός) του κειμένου:
Καταχωρίστε ΣΥΝΔΕΣΕΙΣ ότι το ακόλουθο κείμενο μπορεί να παραχθεί τεχνητά: μη επαληθεύσιμες πηγές, υπερβολική γενικότητα, μονόπλευρο πλαίσιο, επαναλαμβανόμενα μοτίβα. Υπογραμμίστε ότι δεν πρόκειται για πειστικά στοιχεία και σημειώστε ποιες πραγματικές επαληθεύσεις πρέπει να γίνουν. Κείμενο: [εδώ]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: "Πες μου αν αυτή η εικόνα είναι ψεύτικη."
Αποτέλεσμα: Το AI δίνει ένα ακριβές αλλά αναξιόπιστο «ναι/όχι». Ο δημοσιογράφος μπορεί να βασιστεί σε αυτή την απόφαση και να κάνει λάθος.
Ισχυρή προτροπή: "Φτιάξτε μια λίστα με σημάδια που θα έλεγχα ότι αυτή η εικόνα μπορεί να είναι τεχνητή και γράψτε πώς θα το έψαχνα για καθεμία. Μην κάνετε τελικές κρίσεις. Επισημάνετε ότι η πραγματική επαλήθευση είναι να επιστρέψετε στην πηγή και να κάνετε μια αντίστροφη αναζήτηση."
Η διαφορά: Μια ισχυρή προτροπή μειώνει το AI σε γεννήτρια ενδείξεων, αφήνοντας την κρίση στην πηγή και τον δημοσιογράφο, καθιστώντας το περιθώριο σφάλματος του εργαλείου ορατό.
γράφημα σύγκρισης
Τύπος περιεχομένου
Αδύναμα στοιχεία
Ο πιο αξιόπιστος έλεγχος
Ο ρόλος της AI
κείμενο
Γενική, φτιαγμένη πηγή
κατεβείτε στην πηγή
Λίστα πινακίδων
οπτική
Ασυμφωνία χεριών/δοντιών/γραφής
Αντίστροφη αναζήτηση + μεταδεδομένα
λίστα ελέγχου
ήχος
Ασυνέπεια αναπνοής/περιβάλλοντος
Επιβεβαίωση πηγής και περιβάλλοντος
Τι να ψάξετε
Βίντεο (deepfake)
Αναντιστοιχία φωτός/συγχρονισμού
Αρχική πηγή, διασταυρούμενη
Βοήθεια ανάλυσης
Συνήθη λάθη
- Αντιμετώπιση του εργαλείου ανίχνευσης ως αποδεικτικό στοιχείο. Να γίνει λόγος δημοσίευσης το ποσοστό του οχήματος. τα εργαλεία σφάλλουν και προς τις δύο κατευθύνσεις.
- Η αυτοπεποίθηση «μπορώ να πω από την όψη». Τα συνθετικά οπτικά στοιχεία βελτιώνονται γρήγορα. Δεν αρκεί μόνο η οπτική διαίσθηση.
- Δεν πηγαίνει στην πηγή. Τα περισσότερα ψεύτικα καταρρέουν όταν βρεθεί η αρχική πηγή που τα δημοσίευσε. Η παράλειψη αυτού του βήματος είναι λάθος.
- Διαδίδοντας τον ύποπτο. Η κοινή χρήση ύποπτου περιεχομένου λέγοντας "ας δούμε αν είναι αλήθεια ή όχι" εξυπηρετεί παραπληροφόρηση.
- Γλώσσα πανικού. Ο ανησυχητικός τόνος στις ειδήσεις επιβεβαίωσης σκορπίζει νέο φόβο ενώ διορθώνει. Γράψτε ήρεμα και με διαφάνεια.
Ταχύτητα διάχυσης και «παγίδα άρνησης»
Η πραγματική δύναμη της παραπληροφόρησης δεν βρίσκεται στο ίδιο το περιεχόμενο, αλλά στην ταχύτητα με την οποία διαδίδεται. Συναισθηματικά προκλητικό περιεχόμενο που προκαλεί θυμό ή φόβο κοινοποιείται πολύ πιο γρήγορα από επαληθευμένες ειδήσεις. Ενώ το ψεύτικο περιεχόμενο φτάνει σε εκατομμύρια μέσα σε λίγες ώρες, η έκδοση συχνά φτάνει σε πολύ λιγότερους ανθρώπους. Αυτή η ασυμμετρία θέτει μια ιδιαίτερη ευθύνη στον δημοσιογράφο: το να μοιράζεται αμφίβολο περιεχόμενο, ακόμη και λέγοντας «κοίτα πόσο γελοίο», του δίνει πρόσβαση. Αυτό ονομάζεται οξυγόνωση - το να επαναλαμβάνεις ένα ψέμα για να το διαψεύσει πραγματικά το τροφοδοτεί.
Το αντίδοτο σε αυτό είναι η τεχνική «σάντουιτς αλήθειας» στον έλεγχο γεγονότων: πείτε την αλήθεια πριν επαναλάβετε τον ψευδή ισχυρισμό, μετά δείξτε γιατί ο ισχυρισμός είναι ψευδής και μετά επαναλάβετε την αλήθεια ξανά στο τέλος. Με αυτόν τον τρόπο αυτό που μένει στο μυαλό του αναγνώστη δεν είναι το λάθος, αλλά η αλήθεια. Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στη σύνταξη μιας ιστορίας ελέγχου δεδομένων σύμφωνα με αυτήν τη δομή. Αλλά είναι η εκδοτική απόφαση ποια αλήθεια να προβάλει και να ενημερώσει τη γλώσσα χωρίς να σκορπίσει πανικό. Μια άλλη πρακτική: να ρωτάτε ποιο κενό καλύπτει η παραπληροφόρηση; Οι άνθρωποι συχνά ασπάζονται ψεύτικο περιεχόμενο λόγω έλλειψης αξιόπιστων πληροφοριών. Η πλήρωση αυτού του κενού με γρήγορες, ακριβείς και προσβάσιμες ειδήσεις είναι πιο αποτελεσματική άμυνα από το να κυνηγάμε ψέματα ένα προς ένα.
Συνοπτικά
Το συνθετικό περιεχόμενο και τα deepfakes έχουν μειώσει και επιταχύνει την παραπληροφόρηση. Χρέος του δημοσιογράφου είναι να μην το δημοσιεύει και να ενημερώνει το κοινό. Τα εργαλεία ανίχνευσης και η τεχνητή νοημοσύνη παρέχουν ενδείξεις και οργάνωση — αλλά όχι οριστική απόδειξη. Η κρίση γίνεται με τη μετάβαση στην πηγή, τα μεταδεδομένα και την αντίστροφη αναζήτηση, την εσωτερική συνέπεια και το ανεξάρτητο πλαίσιο. Οι ειδήσεις επιβεβαίωσης είναι γραμμένες σε μια ήρεμη, διαφανή γλώσσα που δείχνει πώς επαληθεύτηκαν.
Εργασία εφαρμογής
Βρείτε οπτικό ή ηχητικό περιεχόμενο που πιστεύετε ότι είναι ύποπτο. Ακολουθήστε την προτροπή "Λίστα ελέγχου οπτικής συνθετικότητας" (ή προσαρμογή για ήχο). ελέγξτε πραγματικά κάθε στοιχείο και αντιστρέψτε την αναζήτηση. Βαθμολογήστε το αποτέλεσμα ως «πραγματικό/πλαστό/ανεπαρκές αποδεικτικό στοιχείο» και συγκρίνετε το με την απόφαση που θα λαμβάνατε εάν βασίζεστε αποκλειστικά στο εργαλείο ανίχνευσης.
λίστα ελέγχου
- [ ] Θεωρώ τα αποτελέσματα των εργαλείων ανίχνευσης ως ενδείξεις, όχι ως στοιχεία.
- [ ] Για οποιοδήποτε αμφισβητούμενο περιεχόμενο, αναζητώ πρώτα την αρχική πηγή και την πρώτη δημοσίευση.
- [ ] Φροντίζω να αντιστρέψω την αναζήτηση και τα μεταδεδομένα να ελέγξω τις εικόνες.
- [ ] Δεν διαδίδω μη επαληθευμένο αμφίβολο περιεχόμενο.
- [ ] Γράφω ειδήσεις επιβεβαίωσης σε μια ήρεμη, διαφανή γλώσσα που δείχνει πώς την επαλήθευσα.