Κέρδη:
- Ικανότητα κατανόησης τόσο των ψευδών αποδεικτικών στοιχείων όσο και της απειλής «κέρδους του ψεύτη» των συνθετικών μέσων και της πολυεπίπεδης επαλήθευσης της αυθεντικότητας των μέσων
- Δυνατότητα αξιολόγησης της προέλευσης, των μεταδεδομένων, της τεχνικής ανωμαλίας, της προέλευσης (C2PA) και των επιπέδων συνοχής με βάση τα συμφραζόμενα μαζί και δεν βασίζονται σε ένα μόνο σκορ οχήματος
- Ικανότητα έκφρασης του αποτελέσματος στη γλώσσα του επιπέδου εμπιστοσύνης, όχι βεβαιότητας, και να υιοθετήσει τη χρήση γνώσεων τεχνικής παραγωγής μόνο για ανίχνευση και άμυνα.
Ένα βίντεο έρχεται ως «αποδεικτικό στοιχείο» σε μια έρευνα: μια ηχογράφηση ενός μάνατζερ που δίνει ακατάλληλες οδηγίες, μια φωτογραφία που δείχνει ένα άτομο να βρίσκεται κάπου, ένα βίντεο από μια ομολογία. Αλλά τώρα το ερώτημα παραμένει στην πρώτη γραμμή κάθε αποδεικτικό στοιχείο: Είναι αυτό αληθινό ή δημιουργήθηκε από την τεχνητή νοημοσύνη; Το Deepfake (ψεύτικα μέσα που παράγονται από βαθιά μάθηση που μιμείται το πρόσωπο/φωνή/κίνηση ενός πραγματικού προσώπου) και, ευρύτερα, τα συνθετικά μέσα (συνθετικά μέσα — εικόνες, ήχος, βίντεο που παράγονται εξ ολοκλήρου ή εν μέρει από τεχνητή νοημοσύνη) είναι τα νεότερα και πιο απαιτητικά σύνορα της ψηφιακής εγκληματολογίας. Σε αυτήν την ενότητα, θα καλύψουμε αυτόν τον διπλό ρόλο της τεχνητής νοημοσύνης ως εργαλείου απειλής και ανίχνευσης, καθώς και γιατί η επαλήθευση πρέπει να είναι πολυεπίπεδη.
Γιατί είναι τόσο κρίσιμο;
Τα συνθετικά μέσα είναι μια απειλή με δύο σκέλη. Πρώτον, πλαστά στοιχεία: κάποιος μπορεί να παράγει ένα deepfake για να «αποδείξει» ένα γεγονός που δεν συνέβη. Δεύτερον, πιο ύπουλο, είναι το "liar's dividend" (το μέρισμα του ψεύτη - χάρη στον πολλαπλασιασμό των ψεύτικων μέσων, ακόμη και τα πραγματικά στοιχεία μπορούν να απορριφθούν ως "είναι βαθιά ψεύτικη"). Έτσι, τα συνθετικά μέσα δεν παράγουν μόνο ψευδείς αποδείξεις. Υπονομεύει επίσης την αξιοπιστία των πραγματικών αποδεικτικών στοιχείων. Ως εκ τούτου, ο ιατροδικαστής πρέπει να επαληθεύσει την αυθεντικότητα κάθε αποδεικτικού μέσου - ότι προέρχεται πραγματικά από την ισχυριζόμενη πηγή, αναλλοίωτη.
Προσοχή: Το "εργαλείο ανίχνευσης AI είπε ότι το 98% deepfake" από μόνο του δεν αρκεί στο δικαστήριο. Τα μοντέλα ανίχνευσης είναι λανθασμένα, οι τεχνικές νέας γενιάς τα αποφεύγουν και η βαθμολογία πιθανότητας δεν είναι οριστική απόδειξη. Ο εντοπισμός Deepfake θα πρέπει πάντα να υποστηρίζεται από επαλήθευση πολλαπλών επιπέδων (τεχνική + συμφραζόμενη + πηγή).
Επίπεδα ανίχνευσης
Η ανίχνευση συνθετικών μέσων δεν μπορεί να βασίζεται σε ένα μαγικό εργαλείο. πρέπει να στρωθεί:
- Τεχνική/ιατροδικαστική ανάλυση: Ασυνέπειες συμπίεσης, ανωμαλίες εικονοστοιχείων/συχνότητας, παραμορφώσεις των ορίων του προσώπου, απουσία βιολογικών σημάτων όπως αναβοσβήνει τα μάτια και παλμός, αφύσικα μοτίβα συχνότητας για τον ήχο.
- Μεταδεδομένα και ανάλυση πηγής: Μεταδεδομένα EXIF/κοντέινερ του αρχείου, ίχνη παραγωγής, δακτυλικό αποτύπωμα συσκευής, διαδρομές από τις οποίες πέρασε το αρχείο (αλυσίδα φύλαξης). Τα διαγραμμένα/ασυνεπή μεταδεδομένα αποτελούν προειδοποίηση.
- Προέλευση περιεχομένου: Επαληθεύτηκε από πρότυπα όπως το C2PA (ένα ανοιχτό πρότυπο που προσθέτει κρυπτογραφικά υπογεγραμμένες πληροφορίες προέλευσης στα μέσα, υποδεικνύοντας από πού προήλθε και πώς επεξεργάστηκε). Υπάρχει υπογραφή, είναι συνεπής;
- Επαλήθευση με βάση τα συμφραζόμενα: Τα φώτα, οι σκιές, οι αντανακλάσεις στο βίντεο είναι φυσικά συνεπή; Ταιριάζει ο συγχρονισμός φωνής και χειλιών; Το περιεχόμενο έρχεται σε αντίθεση με γνωστά γεγονότα (καιρός, τοποθεσία, ώρα);
Το AI είναι ο επιταχυντής σε πολλά από αυτά τα επίπεδα: επισημαίνει ανωμαλίες, ανιχνεύει ασυνέπειες, δημιουργεί λίστες ελέγχου. Αλλά η τελική κρίση της αυθεντικότητας γίνεται μέσω πολλαπλών επιπέδων διασταυρούμενης επικύρωσης και αξιολόγησης από ειδικούς.
AI: απειλή και εργαλείο
Η βασική ένταση αυτής της μονάδας: η ίδια τεχνολογία παράγει και ανιχνεύει τα βαθιά ψεύτικα. Ο ιατροδικαστής πρέπει να κατανοήσει τις τεχνικές παραγωγής (πώς να ανιχνεύσει μια πλαστογραφία χωρίς να γνωρίζει πώς κατασκευάστηκε;) αλλά το χρησιμοποιεί μόνο για σκοπούς ανίχνευσης και άμυνας. Η χρήση τεχνητής νοημοσύνης για την παραγωγή πλαστών μέσων για να ξεγελάσει κάποιον άλλο είναι απάτη και κατάχρηση ταυτότητας. Το πεδίο εφαρμογής αυτής της ενότητας είναι αυστηρά η ανίχνευση και η επαλήθευση.
Συμβουλή: Κατά την αξιολόγηση αποδεικτικών στοιχείων μέσων ενημέρωσης, κάντε πρώτα το τεστ της «απλούστερης εξήγησης»: Μήπως αυτό το αρχείο προήλθε πραγματικά από εκεί που ισχυρίζεται ότι βρίσκεται; Είναι ασφαλής η αλυσίδα φύλαξης; Τις περισσότερες φορές, το πρόβλημα δεν είναι το deepfake, αλλά το decontextualization (ένα βίντεο από ένα πραγματικό αλλά παλιό/άλλο γεγονός, που παρουσιάζεται σε λάθος πλαίσιο). Επαληθεύστε την προέλευση και το πλαίσιο πριν από πολύπλοκη ανάλυση deepfake.
Πιθανότητα, όχι βεβαιότητα
Τα εργαλεία ανίχνευσης Deepfake παράγουν μια βαθμολογία πιθανότητας. Όχι «σίγουρα ψεύτικο» ή «σίγουρα αληθινό». Αυτή η βαθμολογία έχει ένα περιθώριο σφάλματος, ένα διάστημα εμπιστοσύνης και η απόδοσή της μειώνεται σε νέες μεθόδους παραγωγής που δεν έχει δει το μοντέλο. Στην ιατροδικαστική έκθεση, αντί να πούμε "είναι ψεύτικο" για ένα μέσο ενημέρωσης, θα πρέπει να πούμε "αυτοί οι δείκτες δείχνουν χειραγώγηση, αυτά τα επίπεδα επαλήθευσης το έδειξαν αυτό, το επίπεδο βεβαιότητας είναι αυτό". Η υπερβολικά ακριβής γλώσσα δημιουργεί αντιρρήσεις στο δικαστήριο και απώλεια φήμης.
τρεις μίνι θήκες
Περίπτωση 1 — Η ανάλυση προέλευσης λύθηκε πριν από το deepfake. Εξετάστηκε ένα βίντεο που υποβλήθηκε ως «αποδεικτικό στοιχείο» σε έναν πίνακα. Πριν προχωρήσουμε στην ανάλυση deepfake, ελέγχθηκε τα μεταδεδομένα: το βίντεο δημιουργήθηκε 8 μήνες πριν από την ημερομηνία αξίωσης και τα μεταδεδομένα κοντέινερ κατέδειξαν μια άλλη εφαρμογή. Το βίντεο δεν ήταν ψεύτικο, αλλά παρουσιάστηκε σε λάθος πλαίσιο. Το απλούστερο στρώμα έλυσε το πρόβλημα.
Περίπτωση 2 — Η πολυεπίπεδη ανίχνευση έπιασε το ψεύτικο. Σε μια ηχογράφηση φωνής το εργαλείο ανίχνευσης AI είπε 71% συνθετικό (δεν είναι σίγουρο). Ο ειδικός εξέτασε πρόσθετα επίπεδα: αφύσικα κανονικά μοτίβα στην ανάλυση συχνότητας, απουσία ήχων αναπνοής και απουσία της υπογραφής C2PA. Ο συνδυασμός τριών ανεξάρτητων δεικτών απέδωσε πολύ ισχυρότερο αποτέλεσμα από μια ενιαία βαθμολογία.
Περίπτωση 3 — Επιστροφή από την υπερβολική βεβαιότητα. «Το βίντεο είναι σίγουρα ένα βαθύ ψεύτικο», ανέφερε ένα προσχέδιο αναφοράς, αναφέροντας ένα μόνο σκορ οχήματος. Ο ανώτερος ειδικός διόρθωσε: ένα εργαλείο δεν αρκεί, η γλώσσα δεν μπορεί να είναι «απολύτως». Η έκθεση έχει μεταφραστεί σε γλώσσα που εκφράζει πολλαπλά επίπεδα και επίπεδα ακρίβειας. με αποτέλεσμα να γίνει υπερασπίσιμο στο δικαστήριο.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Λίστα ελέγχου επαλήθευσης μέσων:
Ο ρόλος σας: ειδικός επαλήθευσης συνθετικών μέσων. Δημιουργήστε μου μια πολυεπίπεδη λίστα ελέγχου για την επικύρωση αποδεικτικών εικόνας/ήχου/βίντεο: (1) προέλευση/αλυσίδα επιμέλειας, (2) μεταδεδομένα, (3) τεχνική ανωμαλία, (4) προέλευση/C2PA, (5) συνέπεια με τα συμφραζόμενα. Γράψτε συγκεκριμένα βήματα ελέγχου για κάθε στρώμα.
2) Ανάλυση συνέπειας μεταδεδομένων:
Θα σας δώσω τα μεταδεδομένα (EXIF/container) ενός αρχείου πολυμέσων. Ασυνέπειες επισήμανσης: δημιουργία-τροποποίησημετασύγκρουσης, ίχνος συσκευής/λογισμικού, πεδία που λείπουν/διαγραμμένα, γεωχρονική απόκλιση. Επισημάνετε ότι αυτά μπορεί να είναι ΣΗΜΑΔΙΑ χειραγώγησης, αλλά δεν αποτελούν από μόνα τους στοιχεία.
3) Έλεγχος συνέπειας με βάση τα συμφραζόμενα:
Αξιολογήστε τη φυσική συνέπεια σε αυτήν την εικόνα/βίντεο: είναι η κατεύθυνση φωτισμού και οι σκιές συνεπείς, είναι ακριβείς οι αντανακλάσεις, ταιριάζει το audio-lipsync, ταιριάζει το φόντο με την τοποθεσία/ώρα που διεκδικείτε; Συνδέστε κάθε παρατήρηση με μια συγκεκριμένη τοποθεσία. Μην κάνετε μια τελική κρίση. αναφέρετε τα σημεία που εγείρουν αμφιβολίες.
4) Γλώσσα επιπέδου ακριβείας:
Μεταφράστε τα ακόλουθα ευρήματα επικύρωσης (βαθμολογίες + αποτελέσματα διαστρωμάτωσης) σε μια παράγραφο αναφοράς. Μην πείτε "σίγουρα ψεύτικο/αληθινό"? δώστε σε κάθε εύρημα την πηγή του και εκφράστε ένα γενικό επίπεδο βεβαιότητας (χαμηλή/μέτρια/υψηλή εμπιστοσύνη). Αποφύγετε τις υπερβολικές απαράδεκτες αξιώσεις.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Πες μου, αυτό το βίντεο είναι deepfake;
Ένα στρώμα, μια κρίση περιμένει. Το AI δημιουργεί ένα «ναι/όχι» χωρίς πλαίσιο, αυτό θα διαψευσθεί στο δικαστήριο.
Ισχυρή προτροπή:
Ο ρόλος σας: ειδικός επαλήθευσης συνθετικών μέσων. Θα σας περιγράψω τα μεταδεδομένα ενός βίντεο, τη βαθμολογία ενός εργαλείου ανίχνευσης και μερικά καρέ. Εργασία: αξιολογήστε ΞΕΧΩΡΙΣΤΑ την προέλευση, τα μεταδεδομένα, την τεχνική ανωμαλία και τη συνοχή των συμφραζομένων. Συνδέστε αυτό που βλέπετε σε κάθε επίπεδο με την πηγή. Εκφράστε το αποτέλεσμα ως το συνδυασμένο επίπεδο εμπιστοσύνης των στρωμάτων, όχι ως "ακριβές". Μην βασίζεστε σε ένα μόνο σκορ. υποδεικνύουν επίπεδα που λείπουν.
Η πολυεπίπεδη αξιολόγηση, η σύνδεση με την πηγή και ο περιορισμός «χωρίς κλήση» καθιστούν την έξοδο αξιόπιστη.
Πίνακας επιπέδων ελέγχου ταυτότητας
στρώμα
Τι κοιτάζει;
δυνατό σημείο
όριο
Προέλευση/CoC
Από πού προήλθε το αρχείο
Απλό, ακριβές
Η απάτη μπορεί να κρυφτεί
μεταδεδομένα
EXIF/κοντέινερ
γρήγορη συμβουλή
Διαγράψιμο/ψεύτικο
τεχνική ανωμαλία
Pixel/συχνότητα
ίχνος χειραγώγησης
Νέα τεχνική παράκαμψη
Προέλευση/C2PA
υπογεγραμμένη προέλευση
κρυπτογραφική εμπιστοσύνη
Όχι παντού
συμφραζόμενα
Αρμονία φυσικής/πραγματικότητας
δύσκολο να εξαπατηθεί
Απαιτεί σχόλιο
Συνήθη λάθη
- Βασιζόμενος σε ένα σκορ οχήματος. Η ανίχνευση Deepfake θα πρέπει να είναι πολυεπίπεδη. Η μοναδική βαθμολογία δεν είναι απόδειξη.
- Σημαίνει «απόλυτα ψεύτικο/πραγματικό». Χρησιμοποιήστε τη γλώσσα των πιθανοτήτων. Η υπερβολική ακρίβεια εγείρει αντιρρήσεις.
- Παράλειψη προέλευσης και πλαισίου. Τα περισσότερα προβλήματα δεν είναι deepfakes αλλά λάθος πλαίσιο/παλιά μέσα.
- Απόλυτη εμπιστοσύνη στα μεταδεδομένα. Τα μεταδεδομένα μπορούν να διαγραφούν και να πλαστογραφηθούν.
- Κατάχρηση τεχνικής παραγωγής. Οι πληροφορίες είναι μόνο για ανίχνευση και άμυνα.
Συνοπτικά
Τα Deepfake και τα συνθετικά μέσα είναι τα νεότερα σύνορα στην ψηφιακή εγκληματολογία. Παράγει και ψευδείς αποδείξεις και κάνει ύποπτα τα πραγματικά στοιχεία. Η τεχνητή νοημοσύνη είναι ένα εργαλείο εντοπισμού και απειλής. Η επαλήθευση δεν πρέπει να βασίζεται σε ένα μόνο εργαλείο, αλλά σε διασταυρούμενη επαλήθευση επιπέδων προέλευσης, μεταδεδομένων, τεχνικής ανωμαλίας, προέλευσης και συνέπειας. Το αποτέλεσμα εκφράζεται όχι με βεβαιότητα αλλά με το επίπεδο βεβαιότητας. Και αυτές οι πληροφορίες προορίζονται μόνο για ανίχνευση και άμυνα — όχι για δημιουργία πλαστών μέσων.
Εργασία εφαρμογής
Περιγράψτε ένα σενάριο αποδεικτικών μέσων (π.χ. μια ηχογράφηση). Δημιουργήστε ένα πολυεπίπεδο σχέδιο με το πρότυπο "λίστα ελέγχου επαλήθευσης μέσων". Στη συνέχεια, εφαρμόστε τα πρότυπα "Ανάλυση συνέπειας μεταδεδομένων" και "Γλώσσα επιπέδου ακριβείας" με εικονικά μεταδεδομένα και βαθμολογία ανίχνευσης. Προσπαθήστε να εκφράσετε το αποτέλεσμα με ένα πολυεπίπεδο επίπεδο αυτοπεποίθησης και όχι «σίγουρα ψεύτικο».
λίστα ελέγχου
- [ ] Στήριξα την επαλήθευση σε πολλαπλά επίπεδα, όχι σε ένα μόνο εργαλείο.
- [ ] Έλεγξα πρώτα την προέλευση και το πλαίσιο.
- [ ] Έχω υπόψη μου ότι τα μεταδεδομένα μπορούν να διαγραφούν/πλαστογραφηθούν.
- [ ] Εξέφρασα το αποτέλεσμα στη γλώσσα του επιπέδου εμπιστοσύνης, όχι της βεβαιότητας.
- [ ] Χρησιμοποίησα πληροφορίες παραγωγής μόνο για ανίχνευση/άμυνα.