Nyereség:
- Megkülönbözteti, hogy a nyilvános munkafolyamatban az AI mely feladatok gyorsulnak fel, és mely jogviszonnyal kapcsolatos döntésekben kell csak segíteni.
- Háromlépcsős ellenőrzési reflexet alkalmaz minden mesterséges intelligencia kimenetre, amely forrás-hozzárendelésből, független ellenőrzésből és értékelési szűrési lépésekből áll.
- Elismeri a nyilvános egyenlőséget, az átláthatóságot, az elszámoltathatóságot és a KVKK piros vonalait, és belsővé teszi, hogy a felelősség a köztisztviselőt terheli.
Ön egy kerületi kormányzói hivatal szolgálati pultjánál áll. Egyrészt sorban álló polgárok az útdíjpénztárnál, másrészt petíciók százai várnak válaszra; Egyrészt az igazgató által kért tevékenységi jelentés, másrészt egy tiszt, aki megpróbálja megérteni, hogy egy új szabályozás hogyan változtatja meg a régi gyakorlatot. A közigazgatás (az állam és az önkormányzatok munkája az állampolgároknak nyújtott szolgáltatások, a források elosztása és a közhatalom felhasználásával történő jogszabályok végrehajtása terén) eleve nagy mennyiségű szöveggel, szigorú szabályokkal, egyenjogúsági elvárásokkal és magas elszámoltathatósággal működő terület. A mesterséges intelligencia (AI – olyan szoftver, amely képes mintákat kinyerni az előzményadatokból, és szövegeket, táblázatokat és kódokat készíteni vagy osztályozni) felgyorsítja Önt ebben a rengeteg szövegben és munkaterhelésben. De ennek a modulnak a legeleje egyértelmű: az AI egy asszisztens, tervgenerátor és osztályozó eszköz; Ön az illetékes köztisztviselő, aki biztosítja az állampolgárok jogait, a jogszabályok helyes végrehajtását és a végső szót a közigazgatási határozat meghozatalában.
Ebben az első részben a fegyelemre fogunk összpontosítani, nem az eszközre. Megtanuljuk, hogy a mesterséges intelligencia hol takarít meg valós időt a kormányzati munkafolyamatban, hol veszélyes, hogyan ellenőrizzük az egyes kimeneteket, hogyan védjük meg az állampolgárok adatait, és hogyan biztosítsuk az átláthatóságot és a méltányosságot. Anélkül, hogy lefektetnénk ezt az alapot, a következő egységek a levegőben maradnak – mert a nyilvánosság előtt ellenőrizetlen kimenet nem csupán rossz válasz; Olyan tévedésről van szó, amely sérti az állampolgári jogokat, rosszul allokál egy erőforrást, vagy jogi felelősségre von egy intézményt.
Hol jön jól az AI a kormányzati munkafolyamatban?
Osszuk két nagy klaszterre a közszféra állásait. Első klaszter: terjedelmes, ismétlődő, szövegintenzív, mintázatból kivonható művek. Hasonló állampolgári kérdésekre adott válaszok első vázlata, hosszas szabályozás összefoglalása, beadvány fordítása hivatalos levelezési nyelvre, pályázatok kategorizálása Excel-táblázatban, határozati tételek kivonatolása ülés jegyzőkönyvéből, tevékenységi jelentés első vázlata. Ezekben a munkákban az AI az órákat percekre csökkenti, és nem fárad el.
Második klaszter: közhatalmat igénybe vevő, jogokat teremtő vagy jogokat korlátozó döntések. Kérelem elutasítása vagy elfogadása, büntetés kiszabása, jár-e szociális segély vagy sem, övezeti döntés jogszerűsége, jogszabály konkrét esetre való alkalmazása, pályázat elbírálása. Ezek a döntések diszkréciót, jogi felelősséget és indoklást igényelnek. A közigazgatási intézkedésnek (a hatóság egyoldalú akaratával jogkövetkezményt kiváltó intézkedése, például engedély megadása vagy visszavonása) indokoltnak és ellenőrizhetőnek kell lennie. Itt az MI megsokszorozza a lehetőségeket, vázlatokat és ellenőrző listákat készít – de az aláírás, az indoklás és a felelősség a tiéd.
Tisztázzuk a különbséget egy mondatban: az AI erős a "mi van ebben a kupacban és hogyan néz ki az első vázlat" kérdésekben; A döntés a tiéd, ha olyan kérdésekről van szó, mint például: "Ez a döntés jogszerű, méltányos, és meg tudom-e védeni?"
Tipp: Mielőtt kiszervezne egy feladatot egy MI-nek, kérdezze meg: „Mit veszít az állampolgár, ha ez a kimenet hibás?” Ha a válasz "néhány perc újraírás", kényelmesen delegáljon. Ha a válasz "tisztességtelen elutasítás, hibás büntetés vagy jogok elvesztése", hagyja, hogy az AI készítsen tervezetet; Ön hozza meg a döntést, az indoklást és az ellenőrzést.
Ellenőrzési fegyelem: három lépés
A mesterséges intelligencia folyékonyan és magabiztosan termel; Ez nem azt jelenti, hogy igaz. A mesterséges intelligencia időnként hallucinációkat produkál – vagyis egy nem létező törvényt, hatályon kívül helyezett rendeletet, koholt bírósági határozatot vagy hamis számot mutat be valósnak. Az adminisztratív levélben vagy az állampolgároknak adott tájékoztatásban ez a jogok elvesztéséhez és az intézmény iránti bizalmatlansághoz vezet. Alkalmazzon háromlépcsős reflexet minden kimenetre:
- Csatlakoztassa a forráshoz. A mesterséges intelligencia minden jogi igényének hivatalos forráson kell alapulnia: a Hivatalos Közlöny, Çözüm.gov.tr, az intézmény saját körlevele. "Melyik törvény melyik cikkelye ez és van-e érvényben?" Kérdezz és nézd meg magad a hivatalos szövegben.
- Ellenőrizd független forrással. Erősítse meg az AI által megadott dátumot, számot és árfolyamot az intézmény saját nyilvántartásaiból vagy hivatalos statisztikáiból. Ne bízzon egyetlen forrásban sem.
- Engedd át az elismerés szűrőjén. Figyelembe veszi-e a kimenet a konkrét esemény jellemzőit? Vannak kivételek? Megfelel-e az egyenlő bánásmód elvének? Az Ön szakértői és adminisztratív megítélése a végső szűrő.
Figyelem: "Az AI ezt írta" nem indok, és nem tart fenn adminisztratív intézkedést. Hamis cikk, kitalált esetjog vagy kiszivárgott személyes adatok esetén a felelősség nem az MI-t, hanem azt a köztisztviselőt és intézményt illeti, amely a kimenetet ellenőrzés nélkül felhasználja.
Négy nyilvános piros vonal
A közszférában a mesterséges intelligencia felhasználását a magánszektortól eltérően négy további alapelv határozza meg: egyenlőség (hasonló helyzetben lévő állampolgár hasonló bánásmódja), átláthatóság (a döntés indoklása és lehetőség szerint a módszer magyarázata), elszámoltathatóság (minden tranzakcióhoz tartozik egy felelős személy és egy ellenőrzési nyomvonal) és a személyes adatok védelme (KVKK - Személyes adatok védelméről szóló törvény 6698. sz.). A Citizen's T.R. egy AI járműhöz. azonosító szám, egészségügyi vagy bűnügyi információ véletlen beillesztése; határozatot indokolatlanul hagyni, mert "az algoritmus ezt mondta"; a polgárok egy csoportjának hátrányos helyzetbe hozása a modellelfogultság miatt – mindez jogellenes és csorbítja a közbizalmat.
három mini tok
1. eset – Megtakarított idő. Egy önkormányzat megoldási központja körülbelül 3200 kérést kapott hetente. A mesterséges intelligencia által támogatott osztályozás a kérelmeket 12 kategóriába osztotta és az illetékes igazgatósághoz irányította; az átlagos első válaszidő 34 óráról 6 órára csökkent. De a "sürgős/biztonsági" megjelölésű kéréseket egy tiszt mindig manuálisan ellenőrizte.
2. eset – Az ellenőrzés hallucinációt kapott. Egy tiszt megkérdezte YZ-t a rendelet vonatkozó cikkéről. YZ azt mondta: "30 napos időszak az ideiglenes 3. cikk értelmében." Amikor a köztisztviselő megnézte a Çözüm.gov.tr oldalt, nem volt ilyen ideiglenes cikk; Az időtartam 60 nap volt. A forráshoz való hivatkozás lépése megakadályozta, hogy a polgárt rossz időpontban értesítsék.
3. eset – Visszatérés a magánélet megsértéséből. A gyorsaság kedvéért egy új munkatárs feltöltötte 400 jóléti kérelmező listáját (név, azonosítószám, jövedelem) közvetlenül egy nyilvános mesterségesintelligencia-eszközbe, és összefoglalót kért. A főnök rájött: a személyes adatok külső rendszerbe kerültek. A folyamatot leállították; Az adatokat anonimizálták és csak kategorikus mezőkkel dolgozták át, az esetet pedig a KVKK nyilvántartásaiban rögzítették.
Négy másolható sablon
1) Munkaköri alkalmasság felmérése:
Az Ön szerepköre: vezető közigazgatási szakember.A munkakört az alábbiakban ismertetem. Mondja el nekem (1) hogy ez a munka egy mesterséges intelligencia számára delegálható tervezet-e, vagy jogokat teremtő/korlátozó adminisztratív döntés, (2) a hibás kimenet költsége az állampolgárnak és a szervezetnek, (3) az ellenőrzés, amelyet el kell végeznem a delegálás előtt és után. Munka: [ide írja be a munkát]
2) A forrásra való hivatkozás kötelezettsége:
Felteszek egy jogi kérdést. Minden válaszban KÖTELEZŐ megadni azt a jogszabályt, amelyre támaszkodik: törvény/rendelet neve, cikkszáma és érvényességi állapota. Ne állítson olyan állítást, amelynek nincs forrása. Jelölje meg azokat a helyeket, amelyekben nem biztos, hogy "hivatalos forrásból kell ellenőrizni". Nem létező cikk vagy határozat kidolgozása.
3) Személyes adatok maszkolása:
Adok egy hivatkozási szöveget. Az elemzés megkezdése előtt takarjon el minden személyes adatot: név-vezetéknév -> [SZEMÉLY], TR ID szám -> [AZONOSÍTÁS], cím -> [CÍM], telefon -> [TEL]. Csak maszkolt szövegből hozzon létre kategóriákat és összefoglalót. Soha ne írjon valódi személyes adatokat a kimenetre.
4) Indoklási keret (igazgatási intézkedésekhez):
Az Ön szerepköre: közigazgatási ügyek írásában jártas jogtanácsos. Készítsen indoklási tervezetet a következő eseményhez: (1) tényállás, (2) alkalmazandó jogszabály (cikkenként, ellenőrizendő), (3) konkrét esetre való alkalmazás, (4) következtetés. Vegye figyelembe, hogy ez egy piszkozat, és minden tételt meg kell erősítenie a hivatalos forrásnak. Incidens: [összefoglalva]
Gyenge felszólítás / Erős felszólítás
Gyenge: "Hogyan válaszoljak ennek a polgári petíciónak?"
Güçlü: "Az Ön szerepe egy tapasztalt főszerkesztő. Készítsen választervezetet a következő petícióra hivatalos levelezési nyelven. Adja meg a vonatkozó jogszabályt a cikkszámmal, de fűzze hozzá a "hivatalos forrásból megerősítendő" megjegyzést. Takarja el a személyes adatokat. Udvarias és érthető nyelven magyarázza el, hogy az állampolgár milyen jogát gyakorolhatja, és hogyan. A tervezet végére, a tételek aláírására van szükségem.
A különbség: az erős prompt szerep újradefiniálja a formátumot, a szabályozási fegyelmet, a titkosságot és a hitelesítést; a kimenet közvetlenül megközelíti a használható huzatot.
Hol erős a mesterséges intelligencia, hol a tiéd a döntés?
üzlet
AI hozzájárulás
végső döntést
Első válasz a polgári kérdésre
Tervezet, nyelvi egyszerűsítés
Az információk pontossága, megerősítése
Rendelet összefoglalója
Gyors összefoglaló, összetevőlista
Végrehajtás és értelmezés
Alkalmazások besorolása
Kategóriajavaslat
Határ/kivételes esetek
Adminisztratív intézkedés oka
csontváz, nyelv
Törvényesség, aláírás
Jelentéstervezet
Szerkezet, első szöveg
Adatpontosság, következtetés
Gyakori hibák
- A kimenet elhelyezése a hivatalos bejegyzésben anélkül, hogy ellenőrizné. A hallucináció legnagyobb kockázata a jogszabályokban és a számokban van; Mindenképpen erősítse meg mindkettőt.
- Személyes adatok feltöltése nyilvános eszközbe. KVKK megsértése és bizalomvesztés. Először maszkolja le, vagy használjon házon belüli/jóváhagyott eszközt.
- A döntést az "algoritmus" hibáztatja. Az adminisztratív cselekvés oka és felelőssége emberi; A "rendszer ezt mondta" tarthatatlan.
- Az egyenlőség szem elől tévesztése. Az azonos helyzetben lévő két polgár számára eltérő tervezeteket készítő mesterséges intelligencia diszkriminációhoz vezethet, ha nem kézi vezérléssel.
- Az AI egyedüli forrássá tétele. Ne folytassa anélkül, hogy megerősítené egy második hivatalos forrással.
Összefoglalva
Az AI nagyszerű gyorsító a nyilvánosság számára: körvonalakat generál, szövegeket összegez, hivatkozásokat osztályoz, mintákat jelöl. De minden közhatalmat igénybe vevő, jogot teremtő vagy korlátozó határozat indoklása, ellenőrzése és aláírása az illetékes köztisztviselőt illeti meg. A háromlépcsős hitelesítés (hivatkozás a forráshoz, független ellenőrzés, felülvizsgálat) és négy nyilvános alapelv (egyenlőség, átláthatóság, elszámoltathatóság, személyes adatok védelme) képezik ennek a modulnak a gerincét.
Pályázati feladat
Válasszon egy tényleges küldetést az egységéből (például válaszoljon egy általános állampolgári kérdésre). Határozza meg, hogy ez a munka átruházható vagy kritikus döntés-e a fenti „Munkakör alkalmassági értékelése” sablon segítségével. Ha átvihető, készítsen vázlatot, alkalmazzon háromlépcsős ellenőrzést, és jegyezzen fel legalább egy hibát, amelyet az ellenőrzés során talált.
ellenőrző lista
- [ ] Megkülönböztettem, hogy a mű átadható tervezet vagy kritikai döntés.
- [ ] Minden jogi igényt a hivatalos forráshoz kapcsoltam, és ellenőriztem annak érvényességét.
- [ ] Elfedtem a személyes adatokat, vagy jóváhagyott eszközt használtam.
- [ ] A döntés okát és a felelőst emberként határoztam meg.
- [ ] Betartottam az egyenlő bánásmód elvét.
- [ ] Megerősítettem a kimenetet egy második forrással.