Κέρδη:
- Δυνατότητα μετατροπής νομικής ερώτησης σε ερευνητικό πλαίσιο και προκαταρκτικής έρευνας με AI
- Ικανότητα αναγνώρισης του κινδύνου κατασκευασμένης νομολογίας/αναφοράς (ψευδαίσθηση) και επαλήθευσης κάθε πηγής από το πρωτεύον κείμενο
- Δυνατότητα δημιουργίας ροής εργασιών που χρησιμοποιεί την τεχνητή νοημοσύνη ως γεννήτρια ιδεών και αφήνει την τελική εξουσία σε επίσημες πηγές
Αυτή η μονάδα φέρει την πιο κρίσιμη προειδοποίηση ολόκληρης της μονάδας. Η τεχνητή νοημοσύνη (AI) μπορεί να δώσει μια ευχάριστη, πειστική και πολύ σίγουρη απάντηση σε μια νομική ερώτηση. Το πρόβλημα είναι ότι αυτή η απάντηση μπορεί να βασίζεται σε ανύπαρκτο καταστατικό, σε κατασκευασμένη δικαστική απόφαση ή σε ψευδή αναφορά. Αυτό ονομάζεται ψευδαίσθηση: όταν το μοντέλο παράγει πληροφορίες που φαίνονται αληθινές αλλά είναι στην πραγματικότητα κατασκευασμένες. Υπάρχουν περιστατικά στον κόσμο όπου οι δικηγόροι παρουσιάζουν στο δικαστήριο ψεύτικες αποφάσεις που έχουν ληφθεί από την τεχνητή νοημοσύνη, νομίζοντας ότι είναι πραγματικές και αντιμετωπίζουν πρόστιμα, απώλεια φήμης και πειθαρχικές κυρώσεις. Γι' αυτό αυτή η μονάδα έχει έναν σιδερένιο κανόνα: η τεχνητή νοημοσύνη κάνει προκαταρκτική έρευνα. Η απόλυτη εξουσία είναι πάντα η πρωταρχική πηγή.
Ας διευκρινίσουμε τους όρους. Η νομολογία είναι οι αποφάσεις που εκδίδονται από τα δικαστήρια σε παρόμοιες περιπτώσεις και θεωρούνται κατευθυντήριες. Η κύρια πηγή είναι το πραγματικό κείμενο του νόμου: το κείμενο του νόμου/κανονισμού που ισχύει και το κείμενο της επίσημης απόφασης (π.χ. ΦΕΚ, απόφαση που δημοσιεύεται από το ίδιο το δικαστήριο). Δευτερεύουσες πηγές είναι τα άρθρα, τα σχόλια και τα σχόλια που γράφτηκαν σε αυτά. Μια αναφορά είναι μια επίσημη αναφορά σε μια απόφαση ή άρθρο (αριθμός απόφασης, αριθμός άρθρου). Η επαλήθευση είναι η διαδικασία επαλήθευσης κάθε απόδοσης που δίνεται από το AI από την ίδια την κύρια πηγή.
Γιατί είναι τόσο επικίνδυνο;
Το AI είναι μια μηχανή πρόβλεψης γλώσσας, όχι μια «βάση δεδομένων γεγονότων». Έχει μάθει πώς μοιάζει ένας αριθμός απόφασης, πώς να γράφει ένα σκεπτικό. Επομένως, μπορεί να «παράγει» μια απόφαση που στην πραγματικότητα δεν υπάρχει, στη σωστή μορφή και με πειστική αιτιολόγηση. Και το κάνει αυτό με τον ίδιο σίγουρο τόνο που χρησιμοποιεί όταν μεταφέρει μια πραγματική απόφαση. Επομένως, δεν υπάρχουν εμφανή προειδοποιητικά σημάδια παραισθήσεων. Το ότι «φαίνεται ασφαλές» δεν σημαίνει ότι είναι αξιόπιστο.
Ο δεύτερος κίνδυνος είναι η επικαιρότητα: τα δεδομένα εκπαίδευσης του AI διακόπτονται μέχρι μια συγκεκριμένη ημερομηνία. Το μοντέλο ενδέχεται να μην γνωρίζει αλλαγή νομοθεσίας, καταργημένα άρθρα ή νέα νομολογία μετά από αυτήν την ημερομηνία. Ωστόσο, το μοντέλο ενδέχεται να παρουσιάζει παλιές/λανθασμένες πληροφορίες ως τρέχουσες.
Προσοχή: ΑΓΝΟΗΣΤΕ έναν αριθμό απόφασης AI, αριθμό άρθρου ή παραπομπή, εάν δεν έχει επαληθευτεί από την κύρια πηγή. Δεν υπάρχει κατηγορία "πιθανώς αλήθεια"? Σύμφωνα με το νόμο, η αναφορά είτε είναι επαληθευμένη είτε δεν μπορεί να χρησιμοποιηθεί.
Ασφαλής ροή εργασιών έρευνας
Ο τρόπος για να χρησιμοποιήσετε την τεχνητή νοημοσύνη με ασφάλεια στη νομική έρευνα είναι να την τοποθετήσετε ως «συνεργάτη σκέψης» και όχι ως «τηλεφωνητή». Βήμα προς βήμα:
- Πλαισιώστε την ερώτηση. Διευκρινίστε το γεγονός, το νομικό ερώτημα και ποιον τομέα δικαίου (επιχειρηματικός, εμπορικός, χρέη) ρωτάτε.
- Χρησιμοποιήστε το AI ως γεννήτρια ιδεών/πλαισίων. Πιθανά επιχειρήματα, έννοιες προς εξέταση, αντίθετες απόψεις.
- Μην ζητάτε συγκεκριμένες αναφορές — ζητήστε έναν όρο αναζήτησης. Αντί να ζητάτε από το AI να σχηματίσει έναν αριθμό απόφασης, ζητήστε βασικές έννοιες και όρους που θα αναζητήσετε στην επίσημη βάση δεδομένων.
- Επαληθεύστε κάθε πηγή από την κύρια. Κάθε στοιχείο/απόφαση που λαμβάνεται επιβεβαιώνεται από την επίσημη νομοθεσία και το κείμενο της απόφασης.
- Ελέγξτε για επικαιρότητα. Ελέγξτε εάν το άρθρο είναι σε ισχύ και αν έχει αλλάξει.
- Η τελική άποψη δημιουργείται από τον άνθρωπο. Η τεχνητή νοημοσύνη παράγει προσχέδια επιχειρημάτων. Η νομική γνώμη και η ευθύνη ανήκει στον δικηγόρο.
Ο ρόλος σας: βοηθός νομικού ερευνητή. ΔΕΝ ΕΙΣΤΕ η τελική αρχή. Θέμα: [σύντομη περίληψη της υπόθεσης και νομικής ερώτησης]. Κάνετε:1) Καταγράψτε τις νομικές έννοιες και τις πιθανές γραμμές επιχειρημάτων που θα πρέπει να εξεταστούν για να αναλυθεί αυτή η ερώτηση. 2) Προτείνετε ΒΑΣΙΚΟΥΣ ΟΡΟΥΣ και έννοιες που θα αναζητήσω στις επίσημες βάσεις δεδομένων νομοθεσίας και αποφάσεων (αριθμός απόφασης/αναφοράς. 3) γράψτε επίσης το επιχείρημα expos του νόμου. αριθμός απόφασης, γράψτε δίπλα του "Επαληθεύτηκε — επιβεβαίωση από την κύρια πηγή". Εάν δεν είστε σίγουροι, πείτε "Δεν ξέρω". Μην μαντεύετε.
Εάν η τεχνητή νοημοσύνη εξακολουθεί να παράγει συγκεκριμένες αποδόσεις, είναι απαραίτητο να τις τοποθετήσετε σε μια ουρά επαλήθευσης. Το να κάνεις το ίδιο το AI να λέει "επαληθεύστε αυτό" δεν είναι επαλήθευση. Η επαλήθευση γίνεται από ανθρώπους, στην επίσημη πηγή.
Παρακάτω είναι οι αναφορές που σκοπεύω να χρησιμοποιήσω στο προσχέδιο μου. Δημιουργήστε μια ΛΙΣΤΑ ΕΛΕΓΧΟΥ ΕΠΑΛΗΘΕΥΣΗΣ για καθένα: (α) ποια επίσημη πηγή πρέπει να αναζητηθεί, (β) τι πρέπει να επιβεβαιωθεί (αποτελεσματικότητα του άρθρου, ύπαρξη της απόφασης και το αντικείμενό της), (γ) τι να κάνετε εάν δεν είναι δυνατό να επαληθευτεί. ΜΗΝ υποθέσετε ότι οι αποδόσεις είναι σωστές. απλά πες μου πώς να επαληθεύσω.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: Δώστε τις αποφάσεις του Ανωτάτου Δικαστηρίου και σχετικά άρθρα σχετικά με αυτό το θέμα με τους αριθμούς τους.
Αποτέλεσμα: αριθμοί αποφάσεων και άρθρα που εμφανίζονται στη σωστή μορφή, με πειστική αιτιολογία, αλλά που μπορεί να είναι εξ ολοκλήρου ή εν μέρει κατασκευασμένα. Η χρήση τους χωρίς επαλήθευση είναι σοβαρό επαγγελματικό λάθος.
Ισχυρή προτροπή: [ρόλος βοηθού + "δεν είστε η τελική αρχή" + ανάλυση έννοιας/επιχειρήματος + όρος αναζήτησης αντί για αριθμό απόφασης + ετικέτα "ΠΡΕΠΕΙ ΝΑ ΕΠΑΛΗΘΕΥΘΕΙ" + "αν δεν είστε σίγουροι, πείτε ότι δεν ξέρω" + ξεχωριστή λίστα ελέγχου επαλήθευσης]
Αποτέλεσμα: Μια ερευνητική υποστήριξη που επιταχύνει τη σκέψη σας, αλλά δεν σας παρασύρει σε κατασκευασμένες αναφορές και βάζει κάθε συγκεκριμένη πληροφορία στην ουρά για επαλήθευση.
Πού να χρησιμοποιήσετε το AI και πού να μην το χρησιμοποιήσετε
Αναζήτηση
Είναι κατάλληλο το AI;
Γιατί
Δημιουργία επιχειρημάτων/αντιεπιχειρήματος
Ναι (πρόχειρο)
Παρέχει ποικιλία ιδεών
Πρόταση εννοιών και όρων αναζήτησης
Ναι
Επιταχύνει την έρευνα
Απλοποίηση/σύνοψη κειμένου
Ναι (με επαλήθευση)
Με βάση το κείμενο που δίνεται
Συγκεκριμένη απόφαση/αριθμός άρθρου
Όχι (χωρίς επαλήθευση)
Υψηλός κίνδυνος παραισθήσεων
Τελευταία έκδοση της ισχύουσας νομοθεσίας
Όχι (μόνος)
Τα δεδομένα εκπαίδευσης μπορεί να είναι παλιά
Τελική νομική γνωμοδότηση
όχι
Η ευθύνη και η εξουσία ανήκουν στους ανθρώπους
Τρεις Μίνι Θήκες
Περίπτωση 1 — Δόλιες αποφάσεις. Ένας δικηγόρος ζήτησε από την AI "προηγούμενες αποφάσεις" για την υποστήριξη μιας αναφοράς και πρόσθεσε 4 από τις 6 αποφάσεις στην αναφορά χωρίς επαλήθευση. Όταν ο αντίδικος έδειξε ότι καμία από τις αποφάσεις δεν υπήρχε, ο δικηγόρος έχασε την εμπιστοσύνη του στην υπόθεση και αντιμετώπισε την πειθαρχική διαδικασία. Στη συνέχεια, το γραφείο όρισε γραπτή πολιτική ότι "καμία αναφορά από AI δεν εισέρχεται στο αρχείο χωρίς επαλήθευση από την κύρια πηγή". το επόμενο τρίμηνο, ο αριθμός των μη επαληθευμένων αναφορών μειώθηκε στο μηδέν.
Υπόθεση 2 — Καταργήθηκε άρθρο. Ένας εμπειρογνώμονας συμμόρφωσης επρόκειτο να δημιουργήσει μια διαδικασία με βάση ένα άρθρο κανονισμού στο οποίο είχε αναφερθεί η AI. Κατά τη διάρκεια του ελέγχου ενημέρωσης, συνειδητοποίησε ότι το άρθρο είχε αλλάξει πριν από ένα χρόνο. Τα δεδομένα εκπαίδευσης του AI ήταν ξεπερασμένα. Ο ειδικός όρισε τη διαδικασία σύμφωνα με το τρέχον κείμενο. Μάθημα: Οι ρυθμιστικές πληροφορίες για την τεχνητή νοημοσύνη είναι ένα «στιγμιότυπο» και μπορεί να είναι ξεπερασμένες.
Περίπτωση 3 — Σωστή χρήση. Μια νομική ομάδα χρησιμοποίησε την τεχνητή νοημοσύνη αποκλειστικά για να δημιουργήσει έναν χάρτη επιχειρημάτων και έναν όρο αναζήτησης σε ένα περίπλοκο ζήτημα του δικαίου του ανταγωνισμού. Το AI πρότεινε 9 έννοιες για εξέταση και 4 πιθανά αντεπιχειρήματα. Η ομάδα βρήκε και επαλήθευσε πραγματικές αποφάσεις με αυτούς τους όρους στην επίσημη βάση δεδομένων. Η φάση της εννοιολογικής προετοιμασίας της έρευνας μειώθηκε στο μισό. αλλά δεν χρησιμοποιήθηκε καμία αναφορά χωρίς επαλήθευση από AI. Ταχύτητα που αποκτήθηκε, η αξιοπιστία διατηρήθηκε.
Συνήθη λάθη
- Ζητώντας τον αριθμό απόφασης/στοιχείου απευθείας από το AI και χρήση του χωρίς επαλήθευση. Αυτό είναι το πιο συνηθισμένο και πιο σοβαρό λάθος.
- Εμπιστευόμενος, «Φαίνεται σίγουρος». Ο σίγουρος τόνος δεν είναι απόδειξη της αλήθειας.
- Παράκαμψη του ελέγχου φρεσκάδας. Η ρυθμιστική γνώση της τεχνητής νοημοσύνης έχει παγώσει στην ιστορία της εκπαίδευσης. μπορεί να χάσουν αλλαγές.
- Ζητήστε από το AI να επαληθεύσει την απόδοσή του. Δεν μπορεί να εντοπίσει με αξιοπιστία το σφάλμα μοντέλου από μόνο του. Η επαλήθευση γίνεται στην επίσημη πηγή.
- Λάθος για την τεχνητή νοημοσύνη ως την απόλυτη εξουσία. Το AI είναι ένα εργαλείο προκαταρκτικής έρευνας. Η νομική γνώμη και η ευθύνη βαρύνουν τον άνθρωπο.
- Μη διατηρώντας ίχνη πηγής. Η μη καταγραφή της απόδοσης από πού επαληθεύτηκε δημιουργεί ένα κενό στον έλεγχο και την υπεράσπιση.
Συνοπτικά
Στη νομική έρευνα, η τεχνητή νοημοσύνη είναι ένας ισχυρός συνεργάτης σκέψης αλλά ένας επικίνδυνος «τηλεφωνητής». Ο μεγαλύτερος κίνδυνος είναι οι παραισθήσεις, δηλαδή οι κατασκευασμένες κρίσεις και οι αποδόσεις. Το δεύτερο είναι η επικαιρότητα, δηλαδή τα δεδομένα εκπαίδευσης είναι ξεπερασμένα. Η ασφαλής διαδρομή είναι ξεκάθαρη: χρησιμοποιήστε τεχνητή νοημοσύνη για να δημιουργήσετε επιχειρήματα και όρους αναζήτησης, μην χρησιμοποιείτε ποτέ συγκεκριμένες αναφορές χωρίς επαλήθευση, επαληθεύστε κάθε πηγή από το πρωτεύον κείμενο και αφήστε τον άνθρωπο να σχηματίσει την τελική γνώμη. Η τεχνητή νοημοσύνη επιταχύνει την έρευνα. Η κύρια πηγή και ο εξειδικευμένος επαγγελματίας αποφασίζουν τι είναι πραγματικό και έγκυρο.
Εργασία εφαρμογής
Επιλέξτε μια νομική ερώτηση (πραγματική ή παράδειγμα). (1) Λάβετε εννοιολογικό χάρτη, όρους αναζήτησης και αντεπιχειρήματα από την τεχνητή νοημοσύνη με ασφαλή ερευνητική προτροπή. Βεβαιωθείτε ότι δεν παρέχει αριθμό απόφασης. (2) Εάν το AI εξακολουθεί να λαμβάνει ένα αντικείμενο/απόφαση, τοποθετήστε το σε μια ουρά επικύρωσης με την προτροπή της λίστας ελέγχου επικύρωσης. (3) Επιβεβαιώστε μια αυθεντική πηγή αναζητώντας μια επίσημη πηγή με τουλάχιστον τρεις από τους προτεινόμενους όρους αναζήτησης. (4) Γράψτε τον κανόνα "Δεν χρησιμοποιείται απόδοση από AI χωρίς επαλήθευση" στη δική σας ροή εργασίας.
λίστα ελέγχου
- [ ] Το AI τοποθετείται ως βοηθός έρευνας και όχι ως η τελική αρχή;
- [ ] Ζητήθηκε έννοια και όρος αναζήτησης αντί για συγκεκριμένη αναφορά;
- [ ] Κάθε στοιχείο/απόφαση που λαμβάνει το AI φέρει την ένδειξη "ΠΡΕΠΕΙ ΝΑ ΕΠΑΛΗΘΕΥΘΕΙ";
- [ ] Έχει επαληθευτεί κάθε παραπομπή από την κύρια (επίσημη) πηγή;
- [ ] Έχουν ελεγχθεί τα άρθρα για νόμισμα/εγκυρότητα;
- [ ] Η τελική νομική γνώμη καθορίστηκε από άνθρωπο;
- [ ] Έχουν καταγραφεί πηγές επαλήθευσης και ίχνος;