Κέρδη:
- Κατανοεί ότι το μοντέλο μπορεί να προκαλέσει παραισθήσεις και ότι κάθε έξοδος πρέπει να επαληθευτεί
- Γνωρίζει τους κινδύνους και τις ασφαλείς εναλλακτικές λύσεις από την υποβολή εμπιστευτικών και προσωπικών δεδομένων στην προτροπή
- Εφαρμόζει όρια δεοντολογίας, πνευματικών δικαιωμάτων και ευθύνης στη χρήση της τεχνητής νοημοσύνης
Δεν αρκεί να μάθετε πώς να γράφετε προτροπές. Είναι επίσης απαραίτητο να μάθουμε να χρησιμοποιείτε την τεχνητή νοημοσύνη με υπευθυνότητα. Αυτή η μονάδα είναι το επίπεδο ασφάλειας που πρέπει να τοποθετηθεί πάνω από την τεχνική ικανότητα. Η τεχνητή νοημοσύνη παράγει απαντήσεις που είναι γρήγορες, πειστικές και συχνά ακριβείς. Αλλά μερικές φορές παράγει εντελώς ψευδείς πληροφορίες με την ίδια σιγουριά, μπορεί να θέσει ευαίσθητα δεδομένα σε κίνδυνο και να ωθήσει τα ηθικά όρια. Σε αυτή την ενότητα θα καλύψουμε την επαλήθευση των αποτελεσμάτων, τους περιορισμούς του μοντέλου, την εμπιστευτικότητα και την ηθική ευθύνη. Χωρίς αυτή τη γνώση, όλες οι άλλες τεχνικές παραμένουν ελλιπείς.
Ψευδαίσθηση: Ταίριασμα στο μοντέλο
Μια ψευδαίσθηση είναι όταν το μοντέλο παράγει εξωπραγματικές πληροφορίες σε μια σίγουρη γλώσσα. Μια ανύπαρκτη πηγή, μια εσφαλμένη ημερομηνία, ένα κατασκευασμένο στατιστικό στοιχείο ή ένας νόμος που δεν γράφτηκε ποτέ είναι παραδείγματα αυτών. Γιατί συμβαίνει; Γιατί το μοντέλο έχει σχεδιαστεί όχι για να «γνωρίζει την αλήθεια» αλλά «να δημιουργεί την πιθανή συνέχεια» (θυμηθείτε τη λογική στην πρώτη ενότητα). Ακριβώς επειδή μια πρόταση είναι γραμματικά δυνατή δεν σημαίνει ότι είναι πραγματικά αληθινή.
Η πρακτική συνέπεια αυτού είναι σαφής: κάθε γεγονός που παράγεται από την τεχνητή νοημοσύνη είναι ισχυρισμός, όχι γεγονός, έως ότου επαληθευτεί ανεξάρτητα. Ειδικότερα, ελέγχετε πάντα:
- Αριθμοί και στατιστικά στοιχεία
- Ονόματα, ημερομηνίες, τοπωνύμια
- Παραπομπές και αναφορές πηγών
- Νομικές ρήτρες, τεχνικά πρότυπα, ιατρικές/οικονομικές πληροφορίες
Συνήθεια επικύρωσης
Μπορείτε να μειώσετε αλλά όχι να επαναφέρετε την επαλήθευση με μια τεχνική άμεσης. Εργαστείτε σε δύο στρώματα:
- Επίπεδο προτροπής: Δώστε στο μοντέλο περιορισμούς όπως "βασίζεστε μόνο στην πηγή που δίνω, μην προσθέτετε πληροφορίες που δεν υπάρχουν, γράψτε "Δεν ξέρω" εάν δεν είστε βέβαιοι, εμφανίστε την πηγή κάθε αξίωσης." Αυτό μειώνει την εφαρμογή.
- Ανθρώπινο επίπεδο: Επαληθεύστε κάθε κρίσιμο γεγονός μόνοι σας από την πηγή. Αυτό το βήμα είναι αδιαπραγμάτευτο. Είναι ιδιαίτερα υποχρεωτικό για περιεχόμενο που θα δημοσιευτεί, θα αποτελέσει τη βάση για αποφάσεις ή θα επηρεάσει άλλα.
Όρια: Τι δεν κάνει καλά το μοντέλο
περιοχή
Κίνδυνος
σωστή προσέγγιση
τρέχοντα γεγονότα
Τα δεδομένα εκπαίδευσης μπορεί να είναι παλιά
Επαλήθευση από την ημερομηνία/τρέχουσα πηγή
ακριβείς αριθμούς
Υπάρχει μεγάλη πιθανότητα τοποθέτησης
Ελέγξτε με την αριθμομηχανή/πηγή
Νομικά/ιατρικά/οικονομικά
Κίνδυνος σοβαρής βλάβης
Συμβουλευτείτε έναν πραγματικό ειδικό, μην βασίζεστε μόνο σε αυτόν
Πηγή/αναφορά
Μπορεί να παράγει ανύπαρκτους πόρους
Ελέγξτε μόνοι σας την αυθεντικότητα της πηγής
Σπάνιο / εξειδικευμένο θέμα
Επιφανειακό ή ανακριβές
Συγκρίνετε με ειδικές γνώσεις
Το μοντέλο είναι βοηθός, όχι η τελική αρχή. Η ευθύνη ανήκει πάντα στο άτομο που το χρησιμοποιεί.
Απόρρητο και Προσωπικά Δεδομένα
Το κείμενο που πληκτρολογείτε σε ένα δημόσιο εργαλείο AI υπόκειται στις πολιτικές επεξεργασίας αυτού του εργαλείου και ενδέχεται να είναι εκτός ελέγχου του οργανισμού σας. Επομένως, η εισαγωγή εμπιστευτικών και προσωπικών δεδομένων χωρίς σκέψη αποτελεί σοβαρό κίνδυνο. Η επεξεργασία προσωπικών δεδομένων στην Τουρκία ρυθμίζεται από τον KVKK (Νόμος για την Προστασία Δεδομένων Προσωπικού Χαρακτήρα). Τα ιδρύματα έχουν επίσης συχνά τις δικές τους πολιτικές δεδομένων.
Ασφαλείς τρόποι εργασίας:
- Ανωνυμοποίηση/μάσκα: Γράψτε "πελάτης" αντί για πραγματικό όνομα, "[αριθμός λογαριασμού]" αντί για πραγματικό αριθμό. Τις περισσότερες φορές, λέγοντας "3ετής εταιρικός πελάτης" θα κάνει το κόλπο.
- Χρησιμοποιήστε ένα εργαλείο εγκεκριμένο από ιδρύματα: Ορισμένα ιδρύματα προσφέρουν εργαλεία με σύμβαση/θεσμικά εργαλεία που δεν διαρρέουν δεδομένα. Επεξεργαστείτε ευαίσθητα δεδομένα μόνο σε αυτά.
- Μην χαρίζετε ό,τι δεν χρειάζεται: Μην συμπεριλάβετε ευαίσθητες λεπτομέρειες που δεν είναι ουσιαστικά απαραίτητες για την εκτέλεση της εργασίας.
- Γνωρίστε την πολιτική: Μάθετε και συμμορφωθείτε με τους κανόνες χρήσης τεχνητής νοημοσύνης του οργανισμού σας.
Ηθική και πνευματικά δικαιώματα
Η υπεύθυνη χρήση δεν τελειώνει με το απόρρητο. Τρεις αρχές:
- Διαφάνεια: Πιστώστε κατάλληλα περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, εάν το απαιτεί το πλαίσιο (για παράδειγμα, όπου αναμένεται ανθρώπινη εργασία). Αποφύγετε την παραπλανητική χρήση.
- Πνευματικά δικαιώματα και πρωτοτυπία: Το αποτέλεσμα του μοντέλου μπορεί να μοιάζει με άλλα έργα. Ελέγξτε την πρωτοτυπία και την κατάσταση των δικαιωμάτων πριν από την εμπορική χρήση. Μην μιμηθείτε τη μάρκα/έργο κάποιου άλλου.
- Μη κακοήθεια: Μην το χρησιμοποιείτε για να δημιουργήσετε περιεχόμενο που είναι παραπλανητικό, μεροληπτικό, χειραγωγικό ή στοχευμένο. Η δύναμη του εργαλείου αυξάνει την ευθύνη.
Τέσσερα αντιγράψιμα πρότυπα
1) Εφαρμογή περιορισμού περιορισμού:
Απλά βασιστείτε στην παρακάτω πηγή. Μην προσθέτετε πληροφορίες που δεν υπάρχουν στην πηγή. Γράψτε "όχι στην πηγή" όπου δεν είστε σίγουροι. Δίπλα σε κάθε σημαντική αξίωση, υποδείξτε τη γραμμή στην οποία βασίζεται. Πηγή: [κείμενο]
2) Εξαγωγή λίστας επαλήθευσης:
Αναφέρετε όλα τα γεγονότα (αριθμός, ημερομηνία, όνομα, αξίωση) που πρέπει να επαληθευτούν στο παρακάτω κείμενο. Προτείνετε εν συντομία πώς μπορώ να επαληθεύσω το καθένα. Κείμενο: [έξοδος]
3) Ανωνυμοποίηση:
Απόκρυψη όλων των προσωπικών/εμπιστευτικών δεδομένων στο ακόλουθο κείμενο: ονομάστε [PERSON], εταιρεία [COMPANY], αριθμούς [NUMBER]. Δώστε ανώνυμη έκδοση με άθικτη τη σημασία. Κείμενο: [κείμενο]
4) Δεοντολογικός έλεγχος:
Αξιολογήστε δεοντολογικά αυτό το περιεχόμενο πριν το δημοσιεύσετε: είναι παραπλανητικό, μεροληπτικό ή άδικο; Σημειώστε το εάν ναι και προτείνετε διορθώσεις. Περιεχόμενο: [κείμενο]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο (επικίνδυνο):
Βρείτε τα προβλήματα στη σύμβαση του Ahmet Yılmaz (TC: ...) και συγκρίνετε τα με τους μέσους όρους του κλάδου.
Ισχυρό (ασφαλές):
Βρείτε τις επικίνδυνες ρήτρες στο κείμενο της σύμβασης παρακάτω. - Χρήση προσωπικών δεδομένων. Αφήστε τα μέρη να αναφέρονται ως [ΕΤΑΙΡΕΙΑ-Α] και [ΠΡΟΣΩΠΟ].- Να βασίζεστε μόνο σε όσα γράφονται στο κείμενο. ο μέσος όρος του κλάδου, γράψτε "δεδομένα μη διαθέσιμα".- Εμφάνιση κάθε κινδύνου με το στοιχείο του. Κείμενο (ανώνυμα): [κείμενο]
Η ισχυρή έκδοση προστατεύει τα προσωπικά δεδομένα και αποκλείει τα πλαστά δεδομένα του κλάδου. Το αποτέλεσμα είναι έτοιμο για έλεγχο από τη νομική ομάδα.
Τρεις Μίνι Θήκες
Περίπτωση 1 — Κατασκευασμένη πηγή. Ένας ερευνητής έβαλε 3 «ακαδημαϊκές πηγές» που έδωσε το μοντέλο στην παρουσίαση χωρίς να τις επαληθεύσει. Δύο από τις πηγές δεν ήταν καθόλου διαθέσιμες. Ένας συνάδελφος το παρατήρησε πριν από την παρουσίαση. Στη συνέχεια, η ομάδα υιοθέτησε τον κανόνα "βρες και ανοίξτε κάθε πόρο προσωπικά πριν από τη δημοσίευση".
Περίπτωση 2 — Εμπιστευτικότητα. Ένας υπάλληλος επικόλλησε ανέπαφη την πραγματική σύμβαση πελάτη σε ένα δημόσιο εργαλείο και ζήτησε μια περίληψη. Όταν η ομάδα ασφάλειας πληροφοριών του ιδρύματος το εντόπισε αυτό, η διαδικασία επανεξετάστηκε. Τα ευαίσθητα έγγραφα επεξεργάζονται πλέον μόνο στο εταιρικό εργαλείο που έχει εγκριθεί από το ίδρυμα και είναι ανώνυμα.
Περίπτωση 3 — Ευθύνη απόφασης. Ένας ιδιοκτήτης μικρής επιχείρησης επρόκειτο να αναλάβει δράση με βάση τη φορολογική ερμηνεία που δόθηκε από το μοντέλο. Το σχόλιο δεν ήταν σύμφωνο με την ισχύουσα νομοθεσία. Το λάθος διαπιστώθηκε όταν συμβουλεύτηκε τον οικονομικό του σύμβουλο. Το μάθημα είναι ξεκάθαρο: το AI προετοιμάζεται, ο ειδικός και ο άνθρωπος αποφασίζουν.
Συμβουλή: Συνηθίστε να επισημαίνετε ένα γεγονός ως "μη επαληθευμένο". Τοποθετήστε ένα σημάδι επιλογής δίπλα σε κάθε αριθμό και πηγή στην έξοδο μέχρι να το επιβεβαιώσετε. Αυτή η απλή πειθαρχία αποτρέπει τη σιωπηλή εξάπλωση της παραπληροφόρησης.
Προσοχή: "Το είπε ο AI" δεν αποτελεί δικαιολογία. Είστε υπεύθυνοι για οποιοδήποτε περιεχόμενο δημοσιεύετε, στέλνετε ή βασίζετε τις αποφάσεις σας. Η ταχύτητα του οχήματος δεν σας απαλλάσσει από την υποχρέωση επιθεώρησης.
Συνήθη λάθη
- Λάθος της ροής εξόδου ως σωστή. Λάθος πειστική γλώσσα ως απόδειξη της αλήθειας.
- Χρήση της πηγής χωρίς έλεγχο. Δημοσίευση ανύπαρκτης πηγής.
- Εισαγωγή εμπιστευτικών δεδομένων χωρίς σκέψη. Επικόλληση ευαίσθητων εγγράφων χωρίς την ανωνυμοποίησή τους.
- Αφήνοντας την τεχνογνωσία μόνο στο μοντέλο. Παράλειψη επαλήθευσης νομικών/ιατρικών/οικονομικών αποφάσεων.
- Αναθέτοντας την ευθύνη στο όχημα. Αποφεύγοντας τον έλεγχο λέγοντας "Το είπε η AI".
Συνοπτικά
- Παραίσθηση είναι όταν το μοντέλο παράγει με σιγουριά αυτό που δεν είναι πραγματικό. Κάθε γεγονός είναι ισχυρισμός μέχρι να επαληθευτεί.
- Η επαλήθευση είναι διπλή: οι άμεσοι περιορισμοί μειώνουν την κατασκευή, ο ανθρώπινος έλεγχος την πιάνει.
- Το μοντέλο περιορίζεται σε τρέχοντα, ακριβή, νομικά/ιατρικά/οικονομικά θέματα. δεν είναι η τελική αρχή.
- Ανωνυμοποιήστε εμπιστευτικά και προσωπικά δεδομένα ή επεξεργαστείτε μόνο το εργαλείο που έχει εγκριθεί από το ίδρυμα (KVKK και πολιτική ιδρύματος).
- Συμμόρφωση με τις ηθικές αρχές, τα πνευματικά δικαιώματα και τις αρχές μη κακοήθειας. Η ευθύνη για το περιεχόμενο βαρύνει πάντα το άτομο.
Εργασία εφαρμογής
Πάρτε μια εκτύπωση που δημιουργήσατε πρόσφατα και εξάγετε όλα τα στοιχεία σε αυτήν (αριθμός, ημερομηνία, όνομα, πηγή, αξίωση) ως λίστα επαλήθευσης. Σημειώστε τη μέθοδο επαλήθευσης για καθεμία και ελέγξτε στην πραγματικότητα τουλάχιστον τρεις από αυτές. Επίσης, ελέγξτε εάν υπάρχουν εμπιστευτικά/προσωπικά δεδομένα στην είσοδο της ίδιας εξόδου και ανωνυμοποιήστε τα εάν χρειάζεται.
λίστα ελέγχου
- [ ] Μπορώ να εξηγήσω τι είναι η ψευδαίσθηση και γιατί συμβαίνει.
- [ ] Επαληθεύω το πραγματικό αποτέλεσμα από ανεξάρτητη πηγή.
- [ ] Ανωνυμοποιώ εμπιστευτικά/προσωπικά δεδομένα ή τα επεξεργάζομαι σε ένα ασφαλές εργαλείο.
- [ ] Συμβουλεύομαι έναν πραγματικό ειδικό σε νομικά/ιατρικά/οικονομικά θέματα.
- [ ] Αποδέχομαι ότι είμαι υπεύθυνος για το περιεχόμενο.