Gevinster:
- Den digitaliserer en offentlig ansøgningsproces trin for trin og bestemmer, hvor mennesket holdes ved beslutningspunktet.
- Ved at foregribe den digitale kløft og ulighed i adgang, efterlader den en alternativ kanal for hver proces.
- Designer undtagelses- og fejlhåndtering; Når modellen er usikker, gør det det til en regel at rette den til mennesket i stedet for at afvise den.
En voksende del af borgerens kontakt med offentligheden foregår online: Indhentning af dokumenter, ansøgning, aftaler, betalinger, statushenvendelser via e-Government Gateway. E-forvaltning (levering af offentlige tjenester gennem digitale kanaler, fra et enkelt punkt og ofte uden menneskelige mellemled) både letter borgernes arbejde og mindsker institutionens byrde. Bag disse digitale tjenester ligger arbejdsgange og i stigende grad procesautomatisering (automatisk udførelse af gentagne trin såsom modtagelse af applikationer, routing, kontrol af manglende dokumenter, afsendelse af notifikationer med software). AI er et kraftfuldt værktøj til at designe disse flows, producere formularer og notifikationstekster, forhåndsevaluere indkommende applikationer og finde blokeringer i processen. Men med et forbehold: enhver rettighedsskabende/begrænsende beslutning, der træffes af en automatiseret proces, skal være juridisk bundet til et punkt, som et menneske kan gennemgå og retfærdiggøre. Fuldt automatiseret afvisning er illegitim uden indvendinger og menneskelig vurdering.
I automatisering, "hvor holdes folk?" spørgsmål
Den mest kritiske beslutning ved design af procesautomatisering er på hvilket tidspunkt mennesket bliver involveret. Der er tre almindelige modeller:
- Fuld automatisering (ingen mennesker): Kun egnet til ikke-berettigede, lavrisiko, regelklare opgaver - for eksempel automatisk generering og levering af et dokument fra systemet. Det kan være at foretrække, hvis reglerne er helt klare, og fejlen er lave omkostninger.
- Human-in-the-loop: AI/system producerer et forslag, mennesket godkender eller retter det. Dette er standardmodellen for rettighedsskabende/begrænsende beslutninger. For eksempel forhåndsevaluerer systemet en ansøgning om bistand, og betjenten træffer en afgørelse.
- Under menneskelig opsyn (human-on-the-loop): Systemet fungerer automatisk, men mennesker overvåger, prøver, kontrollerer og modtager undtagelser. Det bruges i højvolumen, mellemrisikojob.
Nøgleprincip: Jo mere beslutningen påvirker borgerens rettigheder, jo mere skal personen være i centrum. Den automatiske tildeling af et aftaletidspunkt og den automatiske beslutning om at lukke en virksomhed kan ikke være underlagt samme ordning.
Tip: For hvert automatisk trin, "hvis dette trin fungerer forkert, hvordan kan en borger gøre indsigelse, og hvordan kan et menneske rette det?" Redesign svaret på spørgsmålet fra bunden. Automatisering uden nogen form for indsigelse er både juridisk og etisk mangelfuld.
Trin for trin: design af en digital proces
- Kortlæg processen. Alle trin, beslutninger og aktører fra ansøgning til konklusion.
- Klassificer efter risiko. Skaber/begrænser hvert trin rettigheder? Hvor er mennesket nødvendigt?
- Vælg, hvad der skal automatiseres. Regelklare, lav risiko, gentagne trin.
- Generer formular- og meddelelsestekster. Enkel, tilgængelig, minimalt med personlige data.
- Etabler indsigelses- og undtagelsesstier. Tilslut et menneskeligt kontrolpunkt til hver automatiseret beslutning.
- Styr persondataflow. Hvilke data går hvorhen og hvor længe? (KVKK)
- Pilot, overvåg, forbedre. Mål fejlprocent og klager; ordne det.
tre minisager
Case 1 — Ufuldstændig dokumentautomatisering. I en institution blev 38 % af ansøgningerne afvist på grund af manglende dokumenter, og borgerne kom igen. Når en AI-understøttet manglende dokumentkontrol blev tilføjet på ansøgningstidspunktet, så borgeren det manglende dokument, før han selv indsendte formularen; Den anden ansøgningsrate faldt fra 38 % til 11 %, og kassebyrden faldt.
Tilfælde 2 — Fuldautomatisk tilbageførsel af afvisning. En socialhjælpspilot beregnede automatisk indkomsttærsklen og afviste automatisk dem over tærsklen. Men nogle særlige situationer (handicappede plejebyrder, midlertidig indkomst) var ikke inkluderet i reglen, og der var uretfærdige afslag. Processen er blevet konverteret til en "menneske i løkken"-model: Systemet forudevaluerer, betjenten ser undtagelserne og træffer beslutningen. Klager over uretfærdig afvisning forsvandt.
Tilfælde 3 — Tilstopningsdetektering. En enhed, der analyserede 6-måneders proceslogfiler med AI, fandt ud af, at der i gennemsnit ventede 9 dages ansøgninger på et enkelt godkendelsestrin; Der var kun én myndighed på det trin. Da bemyndigelsen blev givet til en anden person, faldt den gennemsnitlige tid fra 14 dage til 6 dage.
Fire kopierbare skabeloner
1) Proceskort og risikoklassificering:
Din rolle: offentlig procesdesigner. Uddrag alle trinene i tjenesten nedenfor, fra ansøgning til konklusion. Angiv for hvert trin: (1) hvad der bliver gjort, (2) skaber/begrænser det rettigheder, (3) vil det blive automatiseret eller vil der kræves menneskelig dømmekraft, (4) er den største risiko her. Markér det juridiske punkt, du er usikker på, som "skal bekræftes". SERVICE: [beskriv]
2) Almindelig underretning/formulartekst:
Skriv en underretningstekst til borgeren for følgende situation: enkel, respektfuld, trin for trin. Angiv tydeligt, hvad der skal gøres, varigheden [der skal bekræftes] og måden at gøre indsigelse på. Anmod ikke om unødvendige personlige data. Brug ikke jargon.SITUATION: [f.eks. manglende dokument/ansøgningsresultat]
3) Indsigelse og undtagelsesrutedesign:
Design en menneskelig kontrol- og indsigelsesmekanisme til følgende automatiske beslutningstrin: (1) hvordan borgeren gør indsigelse, (2) hvilke sager der skal gå ud af automatikken og gå til mennesket (undtagelser), (3) hvad mennesket skal kigge efter, når det træffer beslutningen, (4) tid og journal. Undgå fuldautomatisk afvisning.TRIN: [automatisk beslutning]
4) Proces flaskehalsanalyse:
Undersøg procesloggene (trin - varighed) nedenfor. Bare givet dataene: (1) længste ventetrin, (2) mulig flaskehalsårsag (enkelt autoritet, manuel betjening osv.), (3) giv 2-3 forbedringsforslag. Tilføjelse af tal udefra.LOG: [trin- og tidsdata]
Svag prompt / Stærk prompt
Svag: "Automatiser denne ansøgningsproces."
Güçlü: "Offentlig procesdesigner af rollen. Udtræk først alle trinene fra ansøgning til konklusion og klassificer hvert trin som 'retgenererende/ikke-rettiggørende', 'automatiseret/menneske-påkrævet', 'hovedrisiko'. Anbefal kun regelklare og lavrisiko-trin til automatisering; design menneskelig godkendelse og indsigelsessti for hvert ret-begrænsende trin, anbefal ikke det personlige dataflow. hvor). Adskil tvetydige juridiske punkter som 'skal bekræftes'."
Forskellen: Kraftig prompt adskiller automatisering efter risiko, gennemtvinger menneskelig gennemgang og appel, gør dataflow og juridisk usikkerhed synlig.
Valg af automatiseringsmodel
virksomhedstype
Egnet model
Hvorfor
Dokumentproduktion (regler-net)
Fuld automatisering
Lav risiko skaber ikke rettigheder
Evaluering af bistand/incitament
menneske i løkken
Det skaber en ret, der er undtagelser
Højvolumen sortering
under menneskelig opsyn
Prøvekontrol er tilstrækkelig
Afgørelse om straf/begrænsning
Folk er i centrum
Stærk begrænsning af rettigheder, begrundelse påkrævet
Adgangsparitet og undtagelsesstyring
Mens digitalisering og automatisering af en offentlig proces øger effektiviteten, skaber det en ny risiko for ulighed: den digitale kløft (manglende evne til at få adgang til tjenester for borgere uden computere, internetadgang eller digitale færdigheder). Ældre, handicappede, landdistrikter eller borgere med lav indkomst kan blive udelukket fra en helt online proces. En veldesignet digital proces efterlader altid en alternativ kanal (ansigt til ansigt-applikation, telefonsupport, proxy-transaktion); Automatisering begrænser ikke borgeren til kanalen, den giver ham muligheder. Ligeledes er god automatisering designet omkring undtagelseshåndtering (hvad der sker, når et manglende dokument, systemfejl, undtagelse opstår), ikke et "alt går godt"-scenarie; For den reelle ofring i den offentlige sektor opleves af de borgere, der falder uden for reglerne.
Mini-etui — dem, der er udelukket af automatisering. Når en velfærdsansøgning flyttede helt online, faldt antallet af ansøgninger med 30 procent den første måned - ikke fordi efterspørgslen var faldet, men fordi de mest trængende grupper, ældre og borgere uden internet, ikke kunne søge. Da institutionen åbnede støttede ansøgningspunkter i ledernes kontorer, blev antallet genvundet; effektivitet afbalanceret med lige adgang.
Mini sag — processen stoppede i undtagelsestilfælde. I en automatiseret licensproces blev dokumentet forhåndstjekket af AI; men systemet afviste stiltiende ansøgninger og anså en sjælden type dokument som "ugyldig". Omkring 15 legitime ansøgninger om ugen faldt i denne blinde plet. Løsningen: Når modellen er usikker, skal du henvise den til betjenten i stedet for at afvise den.
Skabelon, der styrer procesdesign:
Opgave: Lav en RISIKO- og ADGANG-tjekliste til følgende digitale proces.Proces: [trin for trin flow]Spørgsmål: 1) Hvordan søger en borger uden internet/enhed? 2) Er der adgang for handicappede? 3) Hvad sker der med applikationen, hvis systemet giver en fejl? 4) Hvem bestemmer i tilfælde af undtagelse/regel? 5) Hvis der gives automatisk afvisning, er der så en indsigelsesmetode og menneskelig kontrol? Output: Risikoniveau + anbefaling for hvert spørgsmål. Tilføjelse af en passende løsning.
Tip: Evaluer en automatisering ikke ud fra "hvor mange processer fremskyndede den", men også ud fra "hvem udelod den?" Succes i public service måles på det mindretal, der ikke er udeladt lige så meget som flertallet, der rykker op.
Almindelige fejl
- Gør den højrebegrænsende beslutning fuldautomatisk. Det er illegitimt uden indvendinger og menneskelig kontrol.
- Forsøger at indpasse undtagelser i reglen. Det virkelige liv går ud over reglen; Efterlad menneskelig dør til undtagelse.
- Tænker på måden at protestere på senere. Design en måde at udfordre og rette enhver automatiseret beslutning på fra begyndelsen.
- Ikke at kontrollere strømmen af personlige data. Automatisering replikerer data; Tjek, hvor det går hen og opbevaringstiden.
- At skrive meddelelsen i jargon. Hvis borgerne ikke forstår, vil processen være digital, men utilgængelig.
- At udvide uden piloter. Mål først fejlprocenten i lille skala, og udvid derefter.
Sammenfattende
E-forvaltning og procesautomatisering fremskynder offentlig service og reducerer byrden; AI er stærk til at kortlægge disse processer, generere tekst, forhåndsevaluere og finde flaskehalse. Men hjertet af design er et spørgsmål: hvor er mennesket? Jo mere beslutningen påvirker borgerens rettigheder, jo flere mennesker bør være i centrum; Enhver automatisk beslutning bør knyttes til et indsigelses- og menneskelig kontrolpunkt, og persondatastrømmen bør revideres i overensstemmelse med KVKK.
Ansøgningsopgave
Vælg en onlinetjeneste til din enhed. Med skabelonen "Proceskort og risikoklassificering" skal du udtrække trinene og markere hver enkelt for risiko og automatisering. Design en menneskelig kontrolmekanisme til et rettighedsgenererende trin med skabelonen "Indsigelse og undtagelsesstidesign". Generer en meddelelsestekst med skabelonen "Simpel meddelelse/formulartekst", og kontroller dens tilgængelighed.
tjekliste
- [ ] Jeg har klassificeret hvert trin med hensyn til risiko og automatisering.
- [ ] Jeg har ikke overladt nogen rettighedsbegrænsende beslutninger til fuld automatisering.
- [ ] Jeg har forbundet menneskelig gennemgang og appel til hver automatiseret beslutning.
- [ ] Jeg designede en menneskelig dør til undtagelser.
- [ ] Jeg har revideret persondataflow og opbevaringsperiode (KVKK).
- [ ] Jeg skrev meddelelserne enkelt og tilgængeligt; Jeg testede det med piloten.