Κέρδη:
- Αναγνωρίζοντας τις τέσσερις κατηγορίες κινδύνου και τις απαγορευμένες πρακτικές του νόμου της ΕΕ για την τεχνητή νοημοσύνη
- Λογική αξιολόγηση σε ποια κατηγορία κινδύνου εμπίπτει μια χρήση
- Κατανοήστε γιατί οι υποχρεώσεις υψηλού κινδύνου και τεχνητής νοημοσύνης γενικού σκοπού επηρεάζουν τις τουρκικές εταιρείες
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη (EU AI Act), ο οποίος τίθεται σε ισχύ το 2024, είναι ο πρώτος ολοκληρωμένος κανονισμός τεχνητής νοημοσύνης στον κόσμο και ο αντίκτυπός του εκτείνεται πολύ πέρα από τα σύνορα της Ευρωπαϊκής Ένωσης. Αυτός ο νόμος μπορεί να είναι άμεσα δεσμευτικός για μια εταιρεία που εδρεύει στην Τουρκία αλλά εξυπηρετεί την αγορά της ΕΕ, έχει πελάτες της ΕΕ ή πουλά προϊόντα στην ΕΕ. Σε αυτή την ενότητα, θα μάθετε τη βασική λογική του νόμου — την προσέγγιση που βασίζεται στον κίνδυνο — με τις τέσσερις κατηγορίες, τις απαγορευμένες πρακτικές και τις υποχρεώσεις υψηλού κινδύνου. Θα προσπαθήσουμε να αξιολογήσουμε σε ποιο πλαίσιο εμπίπτει μια χρήση.
Βασική ιδέα: όσο μεγαλύτερος είναι ο κίνδυνος, τόσο πιο αυστηρός είναι ο κανόνας
Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη δεν συγκεντρώνει όλες τις ΤΝ μαζί. Χωρίζει ένα σύστημα τεχνητής νοημοσύνης σε τέσσερις κατηγορίες ανάλογα με την πιθανή βλάβη του και επιβάλλει διαφορετικές υποχρεώσεις σε κάθε κατηγορία. Μια σύσταση μουσικής δεν ενέχει τον ίδιο κίνδυνο με ένα σύστημα ελέγχου προσλήψεων. Ο νόμος δεν εφαρμόζει τον ίδιο κανόνα σε αυτούς. Αυτή η προσέγγιση που βασίζεται στον κίνδυνο είναι η ραχοκοκαλιά του νόμου.
Κατηγορία κινδύνου
Σημασία
παράδειγμα
κανόνας
Απαγορεύεται (απαράδεκτο)
Ανοιχτή απειλή για τα θεμελιώδη δικαιώματα
Κοινωνική βαθμολόγηση, υποσυνείδητη χειραγώγηση
πλήρης απαγόρευση
υψηλού κινδύνου
Επηρεάζει σοβαρά την ανθρώπινη ζωή
Προσλήψεις, πίστωση, υγειονομική περίθαλψη, εκπαίδευση, κρίσιμες υποδομές
Αυστηρή ευθύνη
περιορισμένο κίνδυνο
Απαιτεί διαφάνεια
Chat bot, deepfake, περιεχόμενο AI
Η ενημέρωση είναι υποχρεωτική
ελάχιστο ρίσκο
Ασήμαντος κίνδυνος
Φίλτρο ανεπιθύμητης αλληλογραφίας, AI παιχνιδιού, μηχανή συστάσεων
δωρεάν
Απαγορευμένες εφαρμογές: κόκκινη γραμμή
Ορισμένες χρήσεις της τεχνητής νοημοσύνης θεωρούνται τόσο επιβλαβείς που δεν μπορούν να απελευθερωθούν όσο κι αν μειωθεί ο κίνδυνος. Αυτά ανήκουν στην κατηγορία απαγορευμένου (μη αποδεκτού κινδύνου):
- Κοινωνική βαθμολόγηση υποστηριζόμενη από το κράτος (βαθμολόγηση ατόμων σύμφωνα με τη συμπεριφορά/χαρακτηριστικά τους και μειονεκτική θέση τους).
- Συστήματα που χειραγωγούν το υποσυνείδητο των ανθρώπων και προκαλούν βλάβη.
- Συστήματα που εκμεταλλεύονται ευπάθειες όπως η ηλικία και η αναπηρία.
- Ορισμένες εφαρμογές βιομετρικής ταυτοποίησης και μαζικής επιτήρησης σε πραγματικό χρόνο (με στενές εξαιρέσεις).
- Συγκεκριμένες εφαρμογές όπως η αναγνώριση συναισθημάτων στο χώρο εργασίας και η εκπαίδευση.
Προσοχή: Το ότι μια χρήση είναι στην κατηγορία «απαγορευμένη» δεν είναι εμπόδιο που μπορεί να ξεπεραστεί λέγοντας «έχω καλό λόγο». Αυτές οι πρακτικές απαγορεύονται εντελώς. δεν μπορεί να απελευθερωθεί ακόμη και με μέτρα μείωσης του κινδύνου. Ο πρώτος έλεγχος που πρέπει να γίνει είναι εάν το έργο περιλαμβάνεται σε αυτή τη λίστα.
Υποχρεώσεις υψηλού κινδύνου
Τα συστήματα υψηλού κινδύνου δεν απαγορεύονται αλλά υπόκεινται σε αυστηρούς όρους. Τυπικοί τομείς υψηλού κινδύνου: πρόσληψη και διαχείριση εργαζομένων, πιστώσεις και ασφάλιση, εκπαίδευση και αξιολόγηση εξετάσεων, υγειονομική περίθαλψη, κρίσιμες υποδομές, επιβολή του νόμου και μετανάστευση. Τυπικές υποχρεώσεις σε αυτά τα συστήματα:
- Καθιέρωση και διατήρηση συστήματος διαχείρισης κινδύνων.
- Διαχείριση ποιότητας δεδομένων και μεροληψίας (αντιπροσωπευτικό και ακριβές των δεδομένων εκπαίδευσης).
- Τεχνική τεκμηρίωση και τήρηση αρχείων (ιχνηλασιμότητα).
- Διαφάνεια και παροχή πληροφοριών στον χρήστη.
- Ανθρώπινος έλεγχος (ανθρώπινη ικανότητα να παρέμβει και να παρακάμψει).
- Εγγυήσεις ακρίβειας, ευρωστίας και κυβερνοασφάλειας.
Υποχρεώσεις AI γενικού σκοπού (GPAI).
Ο νόμος επιβάλλει συγκεκριμένες υποχρεώσεις διαφάνειας και τεκμηρίωσης σε μοντέλα τεχνητής νοημοσύνης γενικής χρήσης (GPAI) — δηλαδή βασικά μοντέλα πολλαπλών χρήσεων, όπως μεγάλα γλωσσικά μοντέλα — καθώς και σε μεμονωμένες χρήσεις: παροχή περιλήψεων σχετικά με τα δεδομένα εκπαίδευσης, πολιτική συμμόρφωσης με δικαιώματα πνευματικής ιδιοκτησίας, πρόσθετη αξιολόγηση για μοντέλα με συστημικό κίνδυνο. Εάν ένας οργανισμός ενσωματώσει αυτά τα μοντέλα στο δικό του προϊόν, ορισμένες από αυτές τις υποχρεώσεις μπορεί να αντικατοπτρίζονται στην αλυσίδα.
τρεις μίνι θήκες
Περίπτωση 1 — Έλεγχος πρόσληψης (υψηλού κινδύνου). Μια εταιρεία λογισμικού στη Σμύρνη αναπτύσσει μια πλατφόρμα προσλήψεων που εξυπηρετεί εταιρείες της ΕΕ. Το σύστημα βαθμολογεί αυτόματα και αποκλείει τους υποψηφίους. Πρόκειται για έναν τομέα που ο νόμος κρίνει ξεκάθαρα υψηλού κινδύνου. Εταιρεία; πρέπει να πληροί τις υποχρεώσεις ποιότητας δεδομένων, δοκιμών μεροληψίας, ανθρώπινου ελέγχου και τεκμηρίωσης. Το επιχείρημα «Είμαστε στην Τουρκία, δεν μας δεσμεύει» είναι άκυρο. Εφόσον το σύστημα χρησιμοποιείται στην αγορά της ΕΕ, ισχύει ο νόμος.
Περίπτωση 2 — chatbot πελατών (περιορισμένος κίνδυνος). Ένας ιστότοπος ηλεκτρονικού εμπορίου αναπτύσσει ένα chatbot που εξυπηρετεί τους πελάτες του στην ΕΕ. Αυτό ανήκει στην κατηγορία περιορισμένου κινδύνου. Βασική υποχρέωση είναι η διαφάνεια: ο χρήστης πρέπει να ενημερώνεται ξεκάθαρα ότι «μιλάς με τεχνητή νοημοσύνη». Η απόκρυψη αυτού είναι παραβίαση. Αρκεί να διευκρινίσουμε.
Περίπτωση 3 — Προσέγγιση της απαγορευμένης γραμμής. Μια αλυσίδα λιανικής θέλει να αναλύσει τις συναισθηματικές αντιδράσεις των πελατών μέσω των καμερών των καταστημάτων και να δώσει μια βαθμολογία "δυνητικού κλέφτη καταστημάτων". Αυτό εμπίπτει στην περιοχή απαγορευμένου/πολύ υψηλού κινδύνου με διαστάσεις αναγνώρισης συναισθημάτων και βαθμολόγησης. Η νομική ομάδα σταματά το έργο στο στάδιο του σχεδιασμού. Είναι σαφές ότι δεν μπορεί να εφαρμοστεί ακόμη και με μέτρα μείωσης του κινδύνου.
Συμβουλή: Η πρώτη ερώτηση κατά την έναρξη ενός νέου έργου AI είναι "πόσο χρήσιμο είναι αυτό;" αλλά μάλλον "σε ποια κατηγορία κινδύνου ανήκει αυτό;" πρέπει να είναι. Κάνοντας την ταξινόμηση εξαρχής αποφεύγεται η σπατάλη πόρων σε ένα έργο που θα ακυρωθεί αργότερα.
Αντιγράψιμα πρότυπα
ΠΡΟΤΥΠΟ 1 — Προκαταρκτική αξιολόγηση κατηγορίας κινδύνου: "Προεκτιμήστε την ακόλουθη χρήση τεχνητής νοημοσύνης σύμφωνα με τη νομοθεσία της ΕΕ για την τεχνητή νοημοσύνη: [περιγράψτε τη χρήση]. Δηλώστε σε ποια κατηγορία κινδύνου (απαγορευμένη / υψηλή / περιορισμένη / ελάχιστη) μπορεί να εμπίπτει, με αιτιολόγηση. Σημειώστε τα σημεία για τα οποία δεν είστε βέβαιοι ως "απαιτείται νομική επιβεβαίωση". Μην κάνετε οριστική νομική κρίση."
ΠΡΟΤΥΠΟ 2 — Απαγορευμένη σάρωση εφαρμογών: "Σαρώστε την ακόλουθη ιδέα έργου μόνο με βάση τη λίστα "απαγορευμένες εφαρμογές του νόμου για την τεχνητή νοημοσύνη της ΕΕ": [περιγράψτε το έργο]. Υπάρχει κίνδυνος από την άποψη της κοινωνικής βαθμολογίας, της υποσυνείδητης χειραγώγησης, της εκμετάλλευσης ευπάθειας, της μη εξουσιοδοτημένης βιομετρικής παρακολούθησης, της αναγνώρισης/αναγνώρισης συναισθημάτων.
ΠΡΟΤΥΠΟ 3 — Λίστα ελέγχου ευθύνης υψηλού κινδύνου: "Για αυτήν τη χρήση τεχνητής νοημοσύνης υψηλού κινδύνου, [περιγράψτε τη χρήση] δημιουργεί έναν πίνακα "ποια είναι η τρέχουσα κατάστασή μας, τι λείπει" σε έξι επικεφαλίδες ευθυνών (διαχείριση κινδύνου, ποιότητα δεδομένων, τεκμηρίωση, διαφάνεια, ανθρώπινος έλεγχος, ευρωστία). Προτείνετε μια συγκεκριμένη ενέργεια σε κάθε σειρά."
ΠΡΟΤΥΠΟ 4 — Ειδοποίηση διαφάνειας (περιορισμένος κίνδυνος): "Για ένα chatbot που εξυπηρετεί χρήστες της ΕΕ, γράψτε μια σύντομη ειδοποίηση "μιλάτε με τεχνητή νοημοσύνη" που θα εμφανίζεται στον χρήστη. Απλή, καθησυχαστική, έως 2 προτάσεις. Συμπεριλάβετε την επιλογή αλλαγής σε ανθρώπινο πράκτορα."
Αδύναμη προτροπή / Ισχυρή προτροπή
ΑΔΥΝΑΜΟΣ: «Μας αφορά ο νόμος της ΕΕ για την ΤΝ;»-> Το μοντέλο δίνει μια γενική απάντηση. Δεν ταξινομεί τη συγκεκριμένη χρήση σας, δεν αξιολογεί τη σύνδεσή σας με την αγορά της ΕΕ. GÜÇLÜ: "Είμαστε μια εταιρεία με έδρα τη Σμύρνη, πουλάμε πρόσληψη και έλεγχο τεχνητής νοημοσύνης σε μια εταιρεία στη Γερμανία. Ποια κατηγορία κινδύνου εμπίπτει αυτή η χρήση στον νόμο της ΕΕ για την τεχνητή νοημοσύνη, ποιες υποχρεώσεις μας βαρύνουν και γιατί η διαμονή στην Τουρκία δεν μας εξαιρεί; Σημειώστε πού δεν είστε σίγουροι." -> Το μοντέλο παράγει μια λίστα ταξινόμησης και υποχρέωσης για συγκεκριμένο πλαίσιο.
Συνήθη λάθη
- Σκεπτόμενος «Είμαστε στην Τουρκία, η νομοθεσία της ΕΕ δεν μας δεσμεύει»· Ωστόσο, αρκεί να αγγίξουμε την αγορά της ΕΕ.
- Κάνοντας ταξινόμηση κινδύνου μετά την ανάπτυξη του έργου. Ωστόσο, θα πρέπει να γίνει από την αρχή.
- Παρεξήγηση μιας απαγορευμένης πρακτικής ως εμπόδιο που μπορεί να ξεπεραστεί με «καλή αιτιολόγηση».
- Παράκαμψη της αναφοράς διαφάνειας σε συστήματα περιορισμένου κινδύνου (κάνοντας το bot να μοιάζει με άνθρωπο).
- Παραμέληση του ανθρώπινου ελέγχου και διαχείρισης μεροληψίας από υποχρεώσεις υψηλού κινδύνου.
- Παραβλέποντας ότι οι υποχρεώσεις τεχνητής νοημοσύνης γενικού σκοπού (GPAI) ενδέχεται να αντηχούν στην αλυσίδα.
- Ανταλλαγή του νόμου της ΕΕ για την τεχνητή νοημοσύνη με το KVKK. είναι διαφορετικά αλλά συμπληρωματικά.
Συνοπτικά
- Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη υιοθετεί μια προσέγγιση βάσει κινδύνου και χωρίζει την τεχνητή νοημοσύνη σε τέσσερις κατηγορίες: απαγορευμένη, υψηλή, περιορισμένη, ελάχιστη.
- Απαγορευμένες πρακτικές (κοινωνική βαθμολόγηση, χειραγώγηση κ.λπ.) δεν μπορούν να απελευθερωθούν ακόμη και αν ο κίνδυνος είναι μειωμένος.
- Συστήματα υψηλού κινδύνου; Υπόκειται σε αυστηρές υποχρεώσεις όπως διαχείριση κινδύνου, ποιότητα δεδομένων, ανθρώπινος έλεγχος και τεκμηρίωση.
- Στα συστήματα περιορισμένου κινδύνου, η κύρια υποχρέωση είναι η διαφάνεια (αναφορά ότι υπάρχει ΤΝ).
- Οι τουρκικές εταιρείες που αγγίζουν την αγορά της ΕΕ επηρεάζονται επίσης από το νόμο. Η ταξινόμηση πρέπει να γίνει στην αρχή του έργου.
Εργασία εφαρμογής
Εξετάστε τρεις διαφορετικές χρήσεις της τεχνητής νοημοσύνης που μπορεί να χρησιμοποιήσει ο οργανισμός σας (ή μια πλασματική εταιρεία) σε σχέση με την αγορά της ΕΕ. Τοποθετήστε το καθένα σε μία από τις τέσσερις κατηγορίες κινδύνου του νόμου της ΕΕ για την τεχνητή νοημοσύνη και γράψτε την αιτιολόγησή σας. Τοποθετήστε τις έξι υποχρεώσεις υψηλού κινδύνου για τη χρήση που βρίσκετε τον υψηλότερο κίνδυνο σε ένα γράφημα ελέγχου: συμπληρώστε τις στήλες «τρέχουσα κατάσταση» και «ελλιπής/ενέργεια». Γράψτε μια δήλωση διαφάνειας που θα εμφανίζεται στον χρήστη για χρήση που εμπίπτει στην κατηγορία περιορισμένου κινδύνου. Τέλος, εάν κάποια από τις χρήσεις σας πλησιάζει την απαγορευμένη γραμμή, σημειώστε αυτό και γιατί.
λίστα ελέγχου
- [ ] Τοποθέτησα κάθε χρήση AI σε μία από τις τέσσερις κατηγορίες κινδύνου.
- [ ] Σάρωσα τα έργα μου με βάση τη λίστα των απαγορευμένων εφαρμογών.
- [ ] Δημιούργησα ένα γράφημα ελέγχου υποχρέωσης για χρήση υψηλού κινδύνου.
- [ ] Συμπεριέλαβα τον ανθρώπινο έλεγχο και τη διαχείριση μεροληψίας στις υποχρεώσεις.
- [ ] Έχω ετοιμάσει μια δήλωση διαφάνειας για χρήση περιορισμένου κινδύνου.
- [ ] Καταλαβαίνω γιατί η σύνδεσή μου με την αγορά της ΕΕ ενεργοποίησε το νόμο.
- [ ] Έκανα την ταξινόμηση κινδύνου στην αρχή του έργου, όχι στο τέλος.