Κέρδη:
- Ψηφιοποιεί μια διαδικασία δημόσιας αίτησης βήμα προς βήμα και καθορίζει πού θα κρατηθεί ο άνθρωπος στο σημείο λήψης απόφασης.
- Προβλέποντας το ψηφιακό χάσμα και την ανισότητα πρόσβασης, αφήνει ένα εναλλακτικό κανάλι για κάθε διαδικασία.
- Σχεδιάζει εξαιρέσεις και διαχείριση σφαλμάτων. Όταν το μοντέλο δεν είναι σίγουρο, καθιστά κανόνα να το κατευθύνουμε στον άνθρωπο αντί να το απορρίπτουμε.
Ένα αυξανόμενο μέρος της επαφής του πολίτη με το κοινό πραγματοποιείται διαδικτυακά: απόκτηση εγγράφων, υποβολή αιτήσεων, ραντεβού, πληρωμές, έρευνες κατάστασης μέσω της πύλης ηλεκτρονικής διακυβέρνησης. Η ηλεκτρονική διακυβέρνηση (παροχή δημόσιων υπηρεσιών μέσω ψηφιακών καναλιών, από ένα μόνο σημείο και συχνά χωρίς ανθρώπινους μεσάζοντες) διευκολύνει το έργο των πολιτών και μειώνει την επιβάρυνση του φορέα. Πίσω από αυτές τις ψηφιακές υπηρεσίες βρίσκονται ροές εργασίας και, όλο και περισσότερο, η αυτοματοποίηση διαδικασιών (αυτόματη εκτέλεση επαναλαμβανόμενων βημάτων όπως λήψη εφαρμογών, δρομολόγηση, έλεγχος εγγράφων που λείπουν, αποστολή ειδοποιήσεων με λογισμικό). Η τεχνητή νοημοσύνη είναι ένα ισχυρό εργαλείο για το σχεδιασμό αυτών των ροών, την παραγωγή φορμών και κειμένων ειδοποιήσεων, την προαξιολόγηση εισερχόμενων εφαρμογών και την εύρεση εμποδίων στη διαδικασία. Αλλά με μια προειδοποίηση: κάθε απόφαση δημιουργίας/περιορισμού δικαιωμάτων που λαμβάνεται από μια αυτοματοποιημένη διαδικασία πρέπει να συνδέεται νομικά με ένα σημείο που ένας άνθρωπος μπορεί να ελέγξει και να δικαιολογήσει. Η πλήρως αυτοματοποιημένη απόρριψη είναι παράνομη χωρίς αντίρρηση και ανθρώπινη εξέταση.
Στον αυτοματισμό, "πού κρατούνται οι άνθρωποι;" ερώτηση
Η πιο κρίσιμη απόφαση κατά το σχεδιασμό της αυτοματοποίησης της διαδικασίας είναι σε ποιο σημείο θα εμπλακεί ο άνθρωπος. Υπάρχουν τρία κοινά μοντέλα:
- Πλήρης αυτοματισμός (χωρίς ανθρώπους): Κατάλληλο μόνο για εργασίες που δεν δικαιούνται, χαμηλού κινδύνου, χωρίς κανόνες — για παράδειγμα, αυτόματη δημιουργία και παράδοση ενός εγγράφου από το σύστημα. Μπορεί να προτιμάται εάν οι κανόνες είναι απολύτως σαφείς και το σφάλμα είναι χαμηλό κόστος.
- Human-in-the-loop: Το AI/σύστημα παράγει μια πρόταση, ο άνθρωπος την εγκρίνει ή τη διορθώνει. Αυτό είναι το τυπικό μοντέλο αποφάσεων που δημιουργούν δικαιώματα/περιορίζουν. Για παράδειγμα, το σύστημα προ-αξιολογεί μια αίτηση για βοήθεια και ο αξιωματικός λαμβάνει μια απόφαση.
- Υπό ανθρώπινη επίβλεψη (human-on-the-loop): Το σύστημα λειτουργεί αυτόματα, αλλά οι άνθρωποι παρακολουθούν, δειγματίζουν, ελέγχουν και λαμβάνουν εξαιρέσεις. Χρησιμοποιείται σε εργασίες μεγάλου όγκου, μεσαίου κινδύνου.
Βασική αρχή: όσο περισσότερο η απόφαση επηρεάζει τα δικαιώματα του πολίτη, τόσο περισσότερο το άτομο πρέπει να βρίσκεται στο επίκεντρο. Η αυτόματη ανάθεση ώρας ραντεβού και η αυτόματη απόφαση κλεισίματος μιας επιχείρησης δεν μπορούν να υπαχθούν στο ίδιο καθεστώς.
Συμβουλή: Για κάθε αυτόματο βήμα, "αν αυτό το βήμα λειτουργεί λανθασμένα, πώς μπορεί ένας πολίτης να αντιταχθεί και πώς μπορεί ένας άνθρωπος να το διορθώσει;" Επανασχεδιάστε την απάντηση στην ερώτηση από την αρχή. Ο αυτοματισμός χωρίς κανένα μέσο αντίρρησης είναι τόσο νομικά όσο και ηθικά ελαττωματικός.
Βήμα προς βήμα: σχεδιασμός ψηφιακής διαδικασίας
- Χαρτογραφήστε τη διαδικασία. Όλα τα βήματα, οι αποφάσεις και οι παράγοντες από την εφαρμογή μέχρι το συμπέρασμα.
- Ταξινόμηση ανά κίνδυνο. Κάθε βήμα δημιουργεί/περιορίζει δικαιώματα; Πού είναι απαραίτητος ο άνθρωπος;
- Επιλέξτε τι θα αυτοματοποιηθεί. Σαφής κανόνες, χαμηλού κινδύνου, επαναλαμβανόμενα βήματα.
- Δημιουργήστε έντυπα και κείμενα ειδοποίησης. Απλά, προσβάσιμα, προσωπικά δεδομένα-ελάχιστα.
- Καθορίστε μονοπάτια αντιρρήσεων και εξαίρεσης. Συνδέστε ένα ανθρώπινο σημείο ελέγχου σε κάθε αυτοματοποιημένη απόφαση.
- Ελέγξτε τη ροή προσωπικών δεδομένων. Ποια δεδομένα πηγαίνουν πού και για πόσο καιρό; (KVKK)
- Πιλότος, παρακολούθηση, βελτίωση. Μέτρηση ποσοστού σφαλμάτων και καταγγελιών. διορθώστε το.
τρεις μίνι θήκες
Περίπτωση 1 — Μη ολοκληρωμένη αυτοματοποίηση εγγράφων. Σε ένα ίδρυμα, το 38% των αιτήσεων απορρίφθηκαν λόγω έλλειψης εγγράφων και οι πολίτες έρχονταν ξανά. Όταν προστέθηκε έλεγχος ελλείποντος εγγράφου με υποστήριξη τεχνητής νοημοσύνης κατά τη στιγμή της αίτησης, ο πολίτης είδε το έγγραφο που έλειπε πριν καν υποβάλει το έντυπο. Το δεύτερο ποσοστό αίτησης μειώθηκε από 38% σε 11%, και η επιβάρυνση των ταμείων μειώθηκε.
Περίπτωση 2 — Πλήρως αυτόματη αντιστροφή απόρριψης. Ένας πιλότος κοινωνικής βοήθειας υπολόγιζε αυτόματα το όριο εισοδήματος και απέρριψε αυτόματα όσους υπερβαίνουν το όριο. Όμως ορισμένες ειδικές καταστάσεις (επιβάρυνση περίθαλψης αναπήρων, προσωρινό εισόδημα) δεν συμπεριλήφθηκαν στον κανόνα και υπήρξαν άδικες απορρίψεις. Η διαδικασία έχει μετατραπεί σε μοντέλο «άνθρωπος στον βρόχο»: το σύστημα προεκτιμά, ο αξιωματικός βλέπει τις εξαιρέσεις και παίρνει την απόφαση. Τα παράπονα για άδικη απόρριψη εξαφανίστηκαν.
Περίπτωση 3 — Ανίχνευση απόφραξης. Μια μονάδα που ανέλυσε αρχεία καταγραφής διαδικασιών 6 μηνών με τεχνητή νοημοσύνη διαπίστωσε ότι κατά μέσο όρο 9 ημέρες αιτήσεων περίμεναν για ένα μόνο βήμα έγκρισης. Υπήρχε μόνο μία αρχή σε εκείνο το βήμα. Όταν δόθηκε η εξουσία σε δεύτερο άτομο, ο μέσος χρόνος μειώθηκε από 14 ημέρες σε 6 ημέρες.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Χάρτης διαδικασίας και ταξινόμηση κινδύνου:
Ο ρόλος σας: σχεδιαστής δημόσιας διαδικασίας. Εξάγετε όλα τα βήματα της υπηρεσίας παρακάτω, από την εφαρμογή μέχρι το συμπέρασμα. Για κάθε βήμα, προσδιορίστε: (1) τι γίνεται, (2) δημιουργεί/περιορίζει δικαιώματα, (3) θα είναι αυτοματοποιημένο ή θα απαιτείται ανθρώπινη κρίση, (4) είναι ο κύριος κίνδυνος εδώ. Σημειώστε το νομικό σημείο για το οποίο δεν είστε σίγουροι ως "πρέπει να επιβεβαιωθεί". ΥΠΗΡΕΣΙΑ: [περιγράψτε]
2) Απλό κείμενο ειδοποίησης/φόρμας:
Γράψτε ένα κείμενο ειδοποίησης στον πολίτη για την εξής κατάσταση: απλό, σεβαστό, βήμα προς βήμα. Δηλώστε ξεκάθαρα τι πρέπει να γίνει, τη διάρκεια [να επιβεβαιωθεί] και τον τρόπο αντίρρησης. Μην ζητάτε περιττά προσωπικά δεδομένα. Μην χρησιμοποιείτε ορολογία. ΚΑΤΑΣΤΑΣΗ: [π.χ. λείπει έγγραφο / αποτέλεσμα αίτησης]
3) Σχεδιασμός διαδρομής αντιρρήσεων και εξαίρεσης:
Σχεδιάστε έναν μηχανισμό ανθρώπινου ελέγχου και αντίρρησης για το ακόλουθο βήμα αυτόματης απόφασης: (1) πώς αντιτίθεται ο πολίτης, (2) ποιες περιπτώσεις πρέπει να βγουν από το αυτόματο και να πάνε στον άνθρωπο (εξαιρέσεις), (3) τι πρέπει να αναζητήσει ο άνθρωπος όταν λαμβάνει την απόφαση, (4) χρόνο και καταγραφή. Αποφύγετε την πλήρως αυτόματη απόρριψη. ΒΗΜΑ: [αυτόματη απόφαση]
4) Ανάλυση συμφόρησης διαδικασίας:
Εξετάστε τα αρχεία καταγραφής διεργασιών (βήμα - διάρκεια) παρακάτω. Μόλις λάβαμε τα δεδομένα: (1) το μεγαλύτερο βήμα αναμονής, (2) πιθανή αιτία συμφόρησης (μεμονωμένη αρχή, χειροκίνητη λειτουργία κ.λπ.), (3) δώστε 2-3 προτάσεις βελτίωσης. Προσθήκη αριθμών από έξω. LOG: [στοιχεία βήματος και χρόνου]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο: "Αυτοματοποίηση αυτής της διαδικασίας εφαρμογής."
Güçlü: "Σχεδιαστής δημόσιας διαδικασίας του ρόλου. Αρχικά εξάγετε όλα τα βήματα από την εφαρμογή έως την ολοκλήρωση και ταξινομήστε κάθε βήμα ως "δημιουργεί δικαίωμα/μη διόρθωση", "αυτοματοποιημένο/απαιτούμενο από τον άνθρωπο", "κύριος κίνδυνος". Προτείνετε μόνο ξεκάθαρα και χαμηλού κινδύνου βήματα προς την αυτοματοποίηση. Σχεδιάστε τη διαδρομή ανθρώπινης έγκρισης και αντιρρήσεων για κάθε βήμα αυτόματης μη-περιορισμού δεδομένων. (τα οποία δεδομένα πηγαίνουν πού).
Η διαφορά: η ισχυρή προτροπή διαχωρίζει την αυτοματοποίηση από τον κίνδυνο, επιβάλλει την ανθρώπινη αναθεώρηση και ένσταση, κάνει ορατές τη ροή δεδομένων και τη νομική αβεβαιότητα.
Επιλογή μοντέλου αυτοματισμού
τύπο επιχείρησης
Κατάλληλο μοντέλο
Γιατί
Παραγωγή εγγράφων (δίκτυο κανόνων)
Πλήρης αυτοματισμός
Ο χαμηλός κίνδυνος δεν δημιουργεί δικαιώματα
Αξιολόγηση βοήθειας/κινήτρου
άνθρωπος στον βρόχο
Δημιουργεί δικαίωμα, υπάρχουν και εξαιρέσεις
Ταξινόμηση υψηλής έντασης
υπό την επίβλεψη του ανθρώπου
Ο δειγματοληπτικός έλεγχος είναι επαρκής
Απόφαση ποινής/περιορισμού
Ο κόσμος είναι στο κέντρο
Σοβαρός περιορισμός δικαιωμάτων, απαιτείται αιτιολόγηση
Διαχείριση ισοτιμίας και εξαίρεσης πρόσβασης
Ενώ η ψηφιοποίηση και η αυτοματοποίηση μιας δημόσιας διαδικασίας αυξάνει την αποτελεσματικότητα, δημιουργεί έναν νέο κίνδυνο ανισότητας: το ψηφιακό χάσμα (αδυναμία πρόσβασης σε υπηρεσίες για πολίτες χωρίς υπολογιστές, πρόσβαση στο διαδίκτυο ή ψηφιακό γραμματισμό). Ηλικιωμένοι, άτομα με ειδικές ανάγκες, πολίτες της υπαίθρου ή χαμηλού εισοδήματος ενδέχεται να αποκλειστούν από μια εντελώς διαδικτυακή διαδικασία. Μια καλά σχεδιασμένη ψηφιακή διαδικασία αφήνει πάντα ένα εναλλακτικό κανάλι (εφαρμογή πρόσωπο με πρόσωπο, τηλεφωνική υποστήριξη, συναλλαγή μεσολάβησης). Ο αυτοματισμός δεν περιορίζει τον πολίτη στο κανάλι, του προσφέρει επιλογές. Ομοίως, ο καλός αυτοματισμός σχεδιάζεται γύρω από το χειρισμό εξαιρέσεων (τι συμβαίνει όταν ένα έγγραφο που λείπει, σφάλμα συστήματος, εξαίρεση) όχι ένα σενάριο "όλα πάνε καλά". Γιατί την πραγματική θυματοποίηση στον δημόσιο τομέα βιώνουν οι πολίτες που ξεφεύγουν από τους κανόνες.
Μίνι θήκη — αυτές που εξαιρούνται από τον αυτοματισμό. Όταν μια εφαρμογή πρόνοιας μετακινήθηκε εξ ολοκλήρου στο διαδίκτυο, ο αριθμός των αιτήσεων μειώθηκε κατά 30 τοις εκατό τον πρώτο μήνα - όχι επειδή η ζήτηση είχε μειωθεί, αλλά επειδή οι ομάδες με τη μεγαλύτερη ανάγκη, ηλικιωμένοι και πολίτες χωρίς internet, δεν μπορούσαν να υποβάλουν αίτηση. Όταν το ίδρυμα άνοιξε υποστηριζόμενα σημεία αίτησης στα γραφεία της διοίκησης, ο αριθμός ανακτήθηκε. ισότητα πρόσβασης.
Μίνι περίπτωση — η διαδικασία σταμάτησε κατ' εξαίρεση. Σε μια αυτοματοποιημένη διαδικασία αδειοδότησης, το έγγραφο ελέγχθηκε εκ των προτέρων από AI. αλλά το σύστημα απέρριψε σιωπηλά αιτήσεις, θεωρώντας ένα σπάνιο είδος εγγράφου ως "άκυρο". Περίπου 15 νόμιμες αιτήσεις την εβδομάδα έπεσαν σε αυτό το τυφλό σημείο. Η λύση: όταν το μοντέλο δεν είναι σίγουρο, παραπέμψτε το στον αξιωματικό αντί να το απορρίψετε.
Πρότυπο που ελέγχει το σχεδιασμό της διαδικασίας:
Εργασία: Δημιουργήστε μια λίστα ελέγχου RISK and ACCESS για την ακόλουθη ψηφιακή διαδικασία. Διαδικασία: [βήμα προς βήμα ροή]Ερωτήσεις: 1) Πώς κάνει αίτηση ένας πολίτης χωρίς internet/συσκευή; 2) Παρέχεται πρόσβαση για άτομα με ειδικές ανάγκες; 3) Τι συμβαίνει στην εφαρμογή εάν το σύστημα δώσει σφάλμα; 4) Ποιος αποφασίζει σε περίπτωση εξαίρεσης/κανόνα; 5) Εάν δοθεί αυτόματη απόρριψη, υπάρχει μέθοδος αντίρρησης και ανθρώπινος έλεγχος; Έξοδος: Επίπεδο κινδύνου + σύσταση για κάθε ερώτηση. Προσθήκη λύσης προσαρμογής.
Συμβουλή: Αξιολογήστε έναν αυτοματισμό όχι με βάση το "πόσες διαδικασίες επιτάχυνε" αλλά και με το "ποιον άφησε έξω;" Η επιτυχία στη δημόσια υπηρεσία μετριέται από τη μειοψηφία που δεν μένει έξω τόσο όσο η πλειοψηφία που ανεβαίνει.
Συνήθη λάθη
- Λήψη της σωστής περιοριστικής απόφασης πλήρως αυτόματη. Είναι παράνομο χωρίς αντίρρηση και ανθρώπινο έλεγχο.
- Προσπαθώντας να εντάξουμε τις εξαιρέσεις στον κανόνα. Η πραγματική ζωή υπερβαίνει τον κανόνα. Αφήστε την ανθρώπινη πόρτα για εξαίρεση.
- Σκεφτόμαστε τον τρόπο με τον οποίο θα αντιταχθούμε αργότερα. Σχεδιάστε έναν τρόπο αμφισβήτησης και διόρθωσης κάθε αυτοματοποιημένης απόφασης από την αρχή.
- Μη έλεγχος της ροής των προσωπικών δεδομένων. Ο αυτοματισμός αναπαράγει δεδομένα. Ελέγξτε πού πηγαίνει και τον χρόνο αποθήκευσης.
- Γράψιμο της ειδοποίησης σε ορολογία. Αν οι πολίτες δεν καταλάβουν, η διαδικασία θα είναι ψηφιακή αλλά απρόσιτη.
- Να επεκταθεί χωρίς πιλότους. Μετρήστε πρώτα το ποσοστό σφάλματος σε μικρή κλίμακα και μετά αναπτύξτε το.
Συνοπτικά
Η ηλεκτρονική διακυβέρνηση και η αυτοματοποίηση διαδικασιών επιταχύνουν τις δημόσιες υπηρεσίες και μειώνουν το φόρτο. Η τεχνητή νοημοσύνη είναι ισχυρή στη χαρτογράφηση αυτών των διαδικασιών, στη δημιουργία κειμένου, στην προαξιολόγηση και στην εύρεση σημείων συμφόρησης. Αλλά η καρδιά του σχεδιασμού είναι ένα ερώτημα: πού είναι ο άνθρωπος; Όσο περισσότερο επηρεάζει η απόφαση τα δικαιώματα του πολίτη, τόσο περισσότεροι άνθρωποι πρέπει να βρίσκονται στο επίκεντρο. Κάθε αυτόματη απόφαση θα πρέπει να συνδέεται με ένα σημείο αντιρρήσεων και ανθρώπινου ελέγχου και η ροή προσωπικών δεδομένων θα πρέπει να ελέγχεται σύμφωνα με το KVKK.
Εργασία εφαρμογής
Επιλέξτε μια ηλεκτρονική υπηρεσία για τη μονάδα σας. Με το πρότυπο «Χάρτης διαδικασίας και ταξινόμηση κινδύνου», εξάγετε τα βήματα και σημειώστε το καθένα για κίνδυνο και αυτοματοποίηση. Σχεδιάστε έναν μηχανισμό ανθρώπινου ελέγχου για ένα βήμα δημιουργίας δικαιωμάτων με το πρότυπο "Σχεδίαση διαδρομής αντιρρήσεων και εξαίρεσης". Δημιουργήστε ένα κείμενο ειδοποίησης με το πρότυπο "Απλό κείμενο ειδοποίησης/φόρμας" και ελέγξτε την προσβασιμότητά του.
λίστα ελέγχου
- [ ] Έχω ταξινομήσει κάθε βήμα ως προς τον κίνδυνο και την αυτοματοποίηση.
- [ ] Δεν έχω αφήσει καμία απόφαση που περιορίζει τα δικαιώματα στην πλήρη αυτοματοποίηση.
- [ ] Έχω συνδέσει την ανθρώπινη αναθεώρηση και έκκληση σε κάθε αυτοματοποιημένη απόφαση.
- [ ] Σχεδίασα μια ανθρώπινη πόρτα για εξαιρέσεις.
- [ ] Έχω ελέγξει τη ροή και την περίοδο αποθήκευσης προσωπικών δεδομένων (KVKK).
- [ ] Έγραψα τις ειδοποιήσεις απλά και προσβάσιμα. Το δοκίμασα με τον πιλότο.