zisky:
- Krok za krokem digitalizuje proces veřejné žádosti a určuje, kde je lidská bytost držena v bodě rozhodování.
- Tím, že předvídá digitální propast a nerovnost v přístupu, ponechává pro každý proces alternativní kanál.
- Navrhuje správu výjimek a chyb; Když si model není jistý, je pravidlem, že ho nasměruje na člověka, místo aby ho odmítl.
Stále větší část kontaktu občanů s veřejností probíhá online: získávání dokumentů, přihlášek, schůzek, plateb, dotazů na status prostřednictvím brány e-Government. E-government (poskytování veřejných služeb prostřednictvím digitálních kanálů, z jednoho místa a často bez lidských prostředníků) usnadňuje práci občanů a snižuje zátěž instituce. Za těmito digitálními službami stojí pracovní postupy a stále častěji i automatizace procesů (automatické provádění opakujících se kroků, jako je příjem aplikací, směrování, kontrola chybějících dokumentů, zasílání upozornění pomocí softwaru). Umělá inteligence je mocný nástroj při navrhování těchto toků, vytváření formulářů a textů oznámení, předběžném vyhodnocování příchozích aplikací a hledání překážek v procesu. Ale s upozorněním: každé rozhodnutí vytvářející/omezující práva učiněné automatizovaným procesem musí být právně svázáno s bodem, který může člověk přezkoumat a zdůvodnit. Plně automatizované odmítnutí je nelegitimní bez námitek a lidské kontroly.
V automatizaci, "kde jsou lidé drženi?" otázka
Nejkritičtějším rozhodnutím při navrhování automatizace procesů je to, v jakém bodě bude člověk zapojen. Existují tři běžné modely:
- Plná automatizace (bez lidí): Vhodné pouze pro neoprávněné úkoly s nízkým rizikem a jasnými pravidly — například automatické generování a doručení dokumentu ze systému. Může být preferováno, pokud jsou pravidla zcela jasná a chyba je nízká.
- Human-in-the-loop: AI/systém vytvoří návrh, člověk jej schválí nebo opraví. Toto je standardní model rozhodování o vytváření/omezování práv. Systém například předběžně vyhodnotí žádost o pomoc a úředník rozhodne.
- Pod lidským dohledem (human-on-the-loop): Systém funguje automaticky, ale lidé monitorují, odebírají vzorky, kontrolují a přijímají výjimky. Používá se u vysoce objemných a středně rizikových zakázek.
Klíčový princip: čím více rozhodnutí ovlivňuje práva občana, tím více by měl být člověk ve středu zájmu. Automatické přidělení času schůzky a automatické rozhodnutí o uzavření podniku nemohou podléhat stejnému režimu.
Nápověda: U každého automatického kroku „pokud tento krok nefunguje správně, jak může občan vznést námitky a jak to může člověk opravit?“ Přepracujte odpověď na otázku od začátku. Automatizace bez jakýchkoliv námitek je právně i eticky chybná.
Krok za krokem: navrhování digitálního procesu
- Zmapujte proces. Všechny kroky, rozhodnutí a aktéři od aplikace až po závěr.
- Klasifikujte podle rizika. Vytváří/omezuje každý krok práva? Kde je člověk potřebný?
- Vyberte, co chcete automatizovat. Jasná pravidla, nízké riziko, opakující se kroky.
- Generování formulářů a textů oznámení. Jednoduché, dostupné, osobní údaje – minimální.
- Stanovte cesty námitek a výjimek. Ke každému automatizovanému rozhodnutí připojte lidský kontrolní bod.
- Kontrolujte tok osobních údajů. Jaká data jdou kam a jak dlouho? (KVKK)
- Pilotujte, sledujte, vylepšujte. Měření chybovosti a stížností; opravit to.
tři mini pouzdra
Případ 1 – Neúplná automatizace dokumentů. V jedné instituci bylo 38 % žádostí zamítnuto kvůli chybějícím dokladům a občané znovu přicházeli. Když byla v době podání žádosti přidána kontrola chybějících dokumentů podporovaná AI, občan viděl chybějící dokument ještě před odesláním formuláře; Míra druhé aplikace se snížila z 38 % na 11 % a zátěž pokladny se snížila.
Případ 2 — Plně automatické obrácení odmítnutí. Pilotní projekt sociální pomoci automaticky vypočítal hranici příjmu a automaticky zamítl příjem nad touto hranicí. Některé zvláštní situace (zátěž péče o osoby se zdravotním postižením, dočasný příjem) však nebyly do pravidla zahrnuty a došlo k nespravedlivému odmítnutí. Proces byl převeden na model „člověk ve smyčce“: systém předběžně vyhodnotí, úředník vidí výjimky a rozhodne. Stížnosti na nespravedlivé odmítnutí zmizely.
Případ 3 — Detekce ucpání. Jednotka, která analyzovala 6měsíční protokoly procesů s AI, zjistila, že průměrně 9 dní žádostí čekalo na jeden schvalovací krok; V tomto kroku byla pouze jedna autorita. Když byla pravomoc udělena druhé osobě, průměrná doba se snížila ze 14 dnů na 6 dnů.
Čtyři kopírovatelné šablony
1) Procesní mapa a klasifikace rizik:
Vaše role: projektant veřejných procesů. Extrahujte všechny kroky služby níže, od aplikace až po závěr. Pro každý krok specifikujte: (1) co se dělá, (2) vytváří/omezuje práva, (3) bude automatizován nebo bude vyžadován lidský úsudek, (4) je zde hlavním rizikem. Označte právní bod, kterým si nejste jisti, jako „musí být potvrzeno“. SLUŽBA: [popsat]
2) Prostý text oznámení/formuláře:
Napište občanovi text oznámení pro následující situaci: jednoduché, uctivé, krok za krokem. Jasně uveďte, co je třeba udělat, dobu trvání [bude potvrzeno] a způsob, jak vznést námitku. Nevyžadujte zbytečné osobní údaje. Nepoužívejte žargon.SITUACE: [např. chybějící dokument / výsledek žádosti]
3) Návrh trasy námitek a výjimek:
Navrhněte mechanismus lidské kontroly a námitek pro následující automatický rozhodovací krok: (1) jak občan namítá, (2) které případy by měly přejít z automatiky a přejít k člověku (výjimky), (3) co by měl člověk při rozhodování hledat, (4) čas a záznam. Vyhněte se plně automatickému odmítnutí. KROK: [automatické rozhodnutí]
4) Analýza úzkého hrdla procesu:
Prohlédněte si protokoly procesu (krok - trvání) níže. Jen s ohledem na data: (1) nejdelší čekací krok, (2) možná příčina úzkého hrdla (jediné oprávnění, ruční ovládání atd.), (3) poskytněte 2–3 návrhy na zlepšení. Přidávání čísel zvenčí.LOG: [údaje o kroku a čase]
Slabá výzva / Silná výzva
Slabé: „Automatizujte tento aplikační proces.“
Güçlü: "Veřejný procesní návrhář role. Nejprve extrahujte všechny kroky od aplikace k závěru a klasifikujte každý krok jako "vytvářející právo/nenapravující", "automatizovaný/požadovaný člověkem", "hlavní riziko". Doporučte pouze jasné a nízkorizikové kroky k automatizaci; navrhněte cestu lidského souhlasu a námitek pro každý krok omezující právo na osobní údaje, doporučujte plně automatický tok osobních údajů, neoddělujte. Neoddělujte. nejednoznačné právní body jako „musí být potvrzeno“.
Rozdíl: výkonná výzva odděluje automatizaci podle rizika, vynucuje kontrolu člověkem a odvolání, zviditelní tok dat a právní nejistotu.
Výběr modelu automatizace
obchodní typ
Vhodný model
Proč?
Výroba dokumentů (pravidla-net)
Plná automatizace
Nízké riziko nevytváří práva
Hodnocení pomoci/pobídky
člověk ve smyčce
Vytváří právo, existují výjimky
Velkoobjemové třídění
pod lidským dohledem
Kontrola odběru vzorků je dostatečná
Rozhodnutí o penalizaci/omezení
Lidé jsou v centru
Závažné omezení práv, vyžadováno odůvodnění
Správa parity a výjimek
Zatímco digitalizace a automatizace veřejného procesu zvyšuje efektivitu, vytváří nové riziko nerovnosti: digitální propast (nemožnost přístupu ke službám pro občany bez počítačů, přístupu k internetu nebo digitální gramotnosti). Starší, zdravotně postižení, venkovští nebo nízkopříjmoví občané mohou být vyloučeni z plně online procesu. Dobře navržený digitální proces vždy opouští alternativní kanál (osobní aplikace, telefonická podpora, proxy transakce); Automatizace neomezuje občana na kanál, nabízí mu možnosti. Stejně tak dobrá automatizace je navržena kolem zpracování výjimek (co se stane, když chybí dokument, systémová chyba, dojde k výjimce), nikoli scénáře „všechno jde dobře“; Protože skutečnou viktimizaci ve veřejném sektoru zažívají občané, kteří se vymykají pravidlům.
Mini případ — ty vyloučené automatizací. Když se sociální aplikace přesunula zcela online, počet žádostí klesl během prvního měsíce o 30 procent – ne proto, že by se snížila poptávka, ale protože se nemohly přihlásit nejpotřebnější skupiny, senioři a občané bez internetu. Když instituce otevřela podporovaná aplikační místa v kancelářích ředitelů, počet se obnovil; účinnost vyvážená s rovným přístupem.
Mini případ — proces se ve výjimce zastavil. V rámci automatizovaného licenčního procesu byl dokument předem zkontrolován AI; ale systém tiše zamítl žádosti a považoval vzácný typ dokumentu za „neplatný“. Do tohoto slepého místa spadlo asi 15 legitimních aplikací týdně. Řešení: když si model není jistý, raději ho odkažte úředníkovi, než jej odmítněte.
Šablona, která řídí návrh procesu:
Úkol: Vytvořte kontrolní seznam RIZIKA a PŘÍSTUP pro následující digitální proces. Proces: [postup krok za krokem]Otázky: 1) Jak se uplatní občan bez internetu/zařízení? 2) Je zajištěn bezbariérový přístup? 3) Co se stane s aplikací, pokud systém vydá chybu? 4) Kdo rozhoduje v případě výjimky/pravidla? 5) Pokud je dáno automatické odmítnutí, existuje metoda námitek a lidská kontrola? Výstup: Míra rizika + doporučení pro každou otázku. Přidání vhodného řešení.
Tip: Nehodnoťte automatizaci podle toho, „kolik procesů zrychlila“, ale také podle toho, „koho vynechala?“ Úspěch ve veřejné službě se měří podle menšiny, která není opomenuta ani tak, jako u většiny, která nastoupí.
Časté chyby
- Plně automatické rozhodování o správném omezení. Bez námitek a lidské kontroly je to nelegitimní.
- Snaha vměstnat výjimky do pravidla. Skutečný život se vymyká pravidlům; Nechte lidské dveře pro výjimku.
- Přemýšlejte o tom, jak vznést námitky později. Navrhněte způsob, jak zpochybnit a opravit každé automatizované rozhodnutí od začátku.
- Nekontroluje tok osobních údajů. Automatizace replikuje data; Zkontrolujte, kam jde a dobu skladování.
- Psaní oznámení v žargonu. Pokud občané nebudou rozumět, proces bude digitální, ale nepřístupný.
- Rozšířit se bez pilotů. Nejprve změřte chybovost v malém měřítku a poté rozšiřte.
V souhrnu
E-government a automatizace procesů zrychlují veřejnou službu a snižují zátěž; Umělá inteligence je mocná při mapování těchto procesů, generování textu, předběžném vyhodnocování a hledání úzkých míst. Ale srdcem designu je jedna otázka: kde je člověk? Čím více rozhodnutí ovlivní práva občanů, tím více lidí by mělo být ve středu zájmu; Každé automatické rozhodnutí by mělo být spojeno s námitkovým a lidským kontrolním bodem a tok osobních údajů by měl být auditován v souladu s KVKK.
Aplikační úkol
Vyberte online službu pro vaši jednotku. Pomocí šablony „Mapa procesu a klasifikace rizik“ extrahujte kroky a označte každý z nich z hlediska rizika a automatizace. Navrhněte mechanismus lidské kontroly pro krok generování práv pomocí šablony "Návrh cesty námitek a výjimek". Vygenerujte text oznámení pomocí šablony „Jednoduché oznámení/text formuláře“ a zkontrolujte jeho dostupnost.
kontrolní seznam
- [ ] Každý krok jsem klasifikoval z hlediska rizika a automatizace.
- [ ] Neponechal jsem žádná rozhodnutí omezující práva na plnou automatizaci.
- [ ] Připojil jsem kontrolu a odvolání ke každému automatizovanému rozhodnutí.
- [ ] Navrhl jsem lidské dveře pro výjimky.
- [ ] Provedl jsem audit toku osobních údajů a doby uchovávání (KVKK).
- [ ] Napsal jsem oznámení jednoduše a přístupně; Testoval jsem to s pilotem.