KVKK, Persónuvernd og ábyrg opinber gervigreindarstjórn

Hagnaður:

• Það beitir KVKK meginreglum og gagnalágmörkun þegar unnið er með persónuupplýsingar borgara í gervigreindarverkfærum.
• Það setur stjórnunarramma fyrir stofnun sem inniheldur AI notkunarstefnu, endurskoðunarferil og ábyrgðarkeðju.
• Það heldur því fram í heild sinni að ábyrg gervigreind hjá almenningi sé byggð á eftirliti manna, gagnsæi og ábyrgð.

Í þessari einingu sáum við hvernig gervigreind er öflugur hraðall á almannafæri: svör við spurningum borgara, beiðnir og bréfaskriftir, lagarannsóknir, stefnugreiningu, skýrslugerð, gagnadrifin ákvarðanatöku, rafræn stjórnsýsla og gagnsæi. Nú komum við að rammanum sem heldur þessu öllu saman: persónuvernd og ábyrga stjórnsýslu. Almenningur vinnur í eðli sínu viðkvæmustu gögn borgarans: auðkenni, heimilisfang, tekjur, heilsufar, sakavottorð, fjölskylduaðstæður. Vinnsla þessara gagna með gervigreindartækjum verður að vera í fullu samræmi við ramma KVKK (Persónuverndarlög nr. 6698; lögin um löglega, takmarkaða og örugga vinnslu persónuupplýsinga). Í þessari lokaeiningu munum við koma á friðhelgi og stjórnun burðarásar opinberrar gervigreindarnotkunar - hvaða gögn er hægt að gefa hvaða tæki, hvaða reglur gilda, hver ber ábyrgð, hvernig stofnun stjórnar gervigreind á öruggan hátt. Þessi eining er þakið sem sett er yfir fyrri tíu einingarnar.

Grunnreglur KVKK sem snerta opinbera gervigreind

KVKK setur fram nokkrar grundvallarreglur, sem hver um sig takmarkar beint notkun gervigreindar:

• Fylgni við lög og fylgni við tilgang: Persónuupplýsingar eru aðeins unnar í sérstökum, lögmætum tilgangi. Ekki er hægt að nota gögn sem safnað er í einum tilgangi (til dæmis að sækja um aðstoð) í öðrum tilgangi (til dæmis að þjálfa líkan) án leyfis.
• Lágmörk gagna: Ekki er unnið með fleiri gögn en nauðsynlegt er í þeim tilgangi. Ef nafn er ekki krafist fyrir flokkagreiningu er ekkert nafn gefið upp.
• Öryggi: Gögn eru vernduð gegn óviðkomandi aðgangi. Að líma borgaragögn inn í opinbert gervigreindarverkfæri er að fara með þessi gögn út fyrir stofnunina - það er brot á öryggisstefnu.
• Geymslutími: Gögnum er eytt þegar tilganginum lýkur; Það er ekki haldið endalaust.
• Upplýsingar og réttindi: Borgarar eiga rétt á að vita hvernig gögn þeirra eru unnin, leiðrétta, eyða og mótmæla sjálfvirkum ákvörðunum.

Athugið: Að hlaða inn gögnum borgara í opinbert gervigreindartæki sem stofnunin hefur ekki samþykkt, hvar gögnin eru geymd og hver hefur aðgang að þeim er óljóst, er í flestum tilfellum brot á KVKK og opnar stofnunina fyrir viðurlögum. Reglurnar eru aldrei beygðar „til að gera starfið auðveldara“.

Hvaða gögn, í hvaða farartæki? Þriggja svæða módel

Sem þumalputtaregla skaltu skipta gögnunum í þrjú svæði:

1. Rauður (fer aldrei inn í almenningsbíl): kennitala, heilsufar, glæpamaður, trú, þjóðerni, líffræðileg tölfræði, fullt heimilisfang, allt sem auðkennir viðkomandi. Þau eru aðeins unnin í samningsbundnu/inni og KVKK samhæfðu umhverfi sem stofnunin hefur samþykkt.
2. Gulur (varlega, með því að gríma): Gögn sem hægt er að tengja óbeint við viðkomandi. Nafnleysa/safna fyrst, vinna síðan úr.
3. Grænt (ókeypis): Ópersónulegt, opinbert, almennar upplýsingar (lagatexti, opinber tölfræði, almenn málsmeðferð). Þú getur auðveldlega unnið úr þessum með AI.

Ábending: Áður en þú gefur gervigreindinni texta skaltu gera 5 sekúndna prófið: "Er eitthvað í þessu efni sem gæti auðkennt mann?" Ef svarið er „já/kannski“ skaltu gríma eða keyra samþykkt ökutæki. Ef þú ert í vafa skaltu íhuga rautt.

Stjórnarhættir fyrirtækja: frá einstaklingi til kerfis

Ábyrg opinber gervigreind er ekki hægt að fela góðum vilja einstakra embættismanna; Stofnanarammi er krafist:

• Stefna: Stofnunin verður að hafa gervigreind notkunarstefnu: hvaða verkfæri eru samþykkt, hvaða gögn er hægt að slá inn, hver ber ábyrgð.
• Samþykkt verkfæralisti: Starfsfólk ætti að nota verkfæri sem stofnunin hefur metið og samþykkt, ekki af handahófi.
• Þjálfun: Starfsfólk verður að þekkja sannprófunarsviðið og gagnasvæði (eins og þessi eining).
• Skráning og endurskoðun: Halda skal endurskoðunarferil ákvarðana sem teknar eru með gervigreind.
• Ábyrgð: Sérhver AI-knúin framleiðsla verður að hafa mannlegan eiganda og samþykki. Ábyrgðin er hjá stofnuninni og yfirmanninum, ekki farartækinu.
• Mannmiðuð meginregla: Engin endanleg réttindaskapandi/takmarkandi ákvörðun er tekin án samþykkis mannsins.

þrjú smámál

Tilfelli 1 - Komið í veg fyrir rauðan gagnaleka. Starfsmaður ætlaði að hlaða upp samantekt á lista yfir heilsubætur fyrir 1.200 manns á opinbert tæki. Þökk sé samþykktri ökutækjastefnu stofnunarinnar og þjálfun „rauðra gagna“ hætti það; Gögnin voru unnin í innanhúss viðurkenndu umhverfi og með auðkennisreitum duluðum. Komið var í veg fyrir hugsanlegt KVKK-brot og tap á trausti fyrir tugþúsundir manna.

Mál 2 - Misnotkun. Ein eining vildi nota gögn sem safnað var til að ná til samskiptaáætlunar fyrir kosningar. Persónuverndarfulltrúi minnti á meginregluna um að farið væri að tilgangi: þetta var notkun upplýsinganna utan þess tilgangs sem þeim var safnað í og ​​var ólögleg. Beiðninni var hafnað.

Mál 3 - Stjórnunarbil lokað. Í einu sveitarfélagi notuðu mismunandi einingar mismunandi gervigreind verkfæri án stjórnunar; Enginn vissi hvaða gögn fóru hvert. Stofnunin kynnti AI notkunarstefnu, samþykktan ökutækjalista og endurskoðunarslóð; Innan 3 mánaða dróst óskráð ökutækisnotkun saman um 90% og gagnaskrá varð til.

Fjögur afritanleg sniðmát

1) Gagnasvæðisflokkun (áður en flutt er út í ökutækið):

Þitt hlutverk: gagnaverndarráðgjafi. Flokkaðu eftirfarandi efni áður en þú gefur það til gervigreindarfulltrúa: RAUTT (auðkennir mann, fer aldrei inn í almenningsfarartæki), GULT (óbeint tengt, gríma), GRÆNT (ópersónulegt, ókeypis). Merktu rauðu/gulu svæðin eitt af öðru og segðu þeim hvernig á að maska. Teldu hinn grunaða rauðan. EFNI: [texti]

2) Gríma/nafnlausn:

Nafnleystu allar persónuupplýsingar áður en þú vinnur eftirfarandi texta: nafn -> [PERSON-1], kennitala -> [IDENTITY], heimilisfang ->[ADDRESS], heilsa/refsing -> [NÆMN]. Taggaðu sama mann. Flyttu út nafnlausan texta sérstaklega. Skrifaðu aldrei raunveruleg gögn í úttakið. TEXTI: [texti]

3) Gátlisti KVKK-samræmis (fyrir notkun gervigreindar):

Þitt hlutverk: KVKK sérfræðingur í samræmi. Búðu til gátlista fyrir eftirfylgni fyrir eftirfarandi gervigreind notkun: (1) er tilgangur vinnslu lögmætrar og sértækrar, (2) er hún tengd tilganginum (er hún að færa sig yfir í annan tilgang), (3) er hún fínstillt, (4) er tólið öruggt/samþykkt, (5) er varðveislutíminn ákveðinn, (6) eru borgararéttindi (mótmæli, eyðing) vernduð. Merktu hlutina sem vantar með rauðum fána. NOTKUN: [uppskrift]

4) Stefna um gervigreind fyrirtækja:

Þitt hlutverk: sérfræðingur í opinberum upplýsingatæknistjórnun. Búðu til stefnu um gervigreind notkunarstefnu fyrir samtökin okkar: umfang, samþykkt verkfæri, gagnasvæði (rautt/gult/grænt), bönnuð notkun, mannlegt samþykki, endurskoðunarslóð, ábyrgð, þjálfun og tilkynningar um brot. Fylltu út hverja fyrirsögn með 1-2 setningum. STOFNUN: [eining og dæmigerð störf]

Veik kvaðning / Sterk kvaðning

Veik: "Taktu saman þennan lista yfir tilvísanir."

Sterkt: "Þitt hlutverk er gagnaverndarráðgjafi. Fyrst skaltu flokka þennan lista eftir gagnasvæðum (rautt/gult/grænt) og merktu alla reiti sem auðkenna manneskjuna. Maskaðu rauðu/gulu reitina með [PERSON]/[IDENTITY]/[NÆMN], hafðu sama manneskju með sama merki. Búðu aðeins til flokkayfirlit með nafnlausum, samansöfnuðum gögnum, ekki skrifa raunverulegar persónuupplýsingar í lokin á þessum gögnum, ekki skrifa raunverulegar persónuupplýsingar. af KVKK (tilgangur, geymsla, öryggi ökutækja) bæta við.“

Munurinn: hin öfluga hvetja flokkar, dular, lágmarkar og samþættir KVKK meginreglur áður en gögnin eru unnin.

Gagnasvæði og regla

Svæði

dæmi

regla

rauður

kennitala TR, heilsa, refsing, fullt heimilisfang

Farðu aldrei í almenningsfarartæki; samþykkt umhverfi

gulur

Aldur+hverfi+starf, óbeint auðkenni

Gríma/grind, síðan vinnsla

grænn

Löggjöf, opinber tölfræði, almenn málsmeðferð

sjálfstætt starf

Algeng mistök

• Flytur út rauð gögn í opinbert tól. Alvarlegasta brotið; Gögn um skilríki/heilsu/viðurlög fara ekki úr viðurkenndu umhverfi.
• Misnotkun. Það brýtur í bága við lög að nota gögn sem safnað er í einum tilgangi í öðrum tilgangi (líkönþjálfun, samskipti) án leyfis.
• Vinnur of mikið af gögnum. Ekki færa óþarfa reiti (nafn, heimilisfang) í þeim tilgangi; Lágmarka.
• Akstur án samþykkis. Óljóst er hvert gögnin fara í farartæki sem stofnunin hefur ekki metið.
• Ekki ákvarða varðveislutímann. Gögnum ætti að eyða þegar tilganginum er lokið; ætti ekki að geyma endalaust.
• Að setja ábyrgðina á ökutækið. Framleiðslan er í eigu og samþykki mannsins; „AI gerði það“ er ekki vörn.

Í stuttu máli

Ramminn fyrir ábyrga gervigreind almennings er persónuvernd og stjórnarhættir fyrirtækja. KVKK meginreglur - markvissun, lágmörkun, öryggi, varðveislutakmörk, borgararéttindi - takmarka hvers kyns notkun gervigreindar. Aðskilja gögn í rautt/gult/grænt svæði, gefa aldrei rautt á opinbert tól, fela persónuleg gögn, nota aðeins viðurkennd verkfæri og tengja mannlegan eiganda við hverja ákvörðun. Stefna stofnanastigs, samþykktur ökutækjalisti, þjálfunar- og skoðunarskrá; Agi sannprófunar á einstaklingsstigi. Þannig þjónar gervigreind almenningi með því að vernda réttindi borgaranna.

Umsóknarverkefni

Veldu raunverulega gervigreind notkun sem þú hefur gert (eða ert að íhuga að gera) í einingunni þinni. Aðskildu efnið sem þú munt vinna í rautt/gult/grænt með sniðmátinu „Data Region Classification“. Notaðu "KVKK samræmi gátlista" sniðmátið og finndu að minnsta kosti einn vantar/áhættusaman punkt. Að lokum, gerðu drög að stuttri stefnu sem hæfir einingunni þinni með „Stefna gervigreindarstefnunnar“.

gátlisti

• [ ] Ég skipti innihaldinu í rautt/gult/grænt svæði; Ég taldi hinn grunaða rauðan.
• [ ] Ég útvegaði ekki rauðu gögnin til opinbera tólsins; Ég notaði viðurkennda miðla.
• [ ] Ég dulaði persónuupplýsingar og fjarlægði óþarfa reiti (lágmörkun).
• [ ] Ég hef athugað tilgang vinnslu, geymslutíma og öryggi ökutækja.
• [ ] Ég hef gætt andmæla/eyðingarréttar borgaranna.
• [ ] Ég festi mannlegan eiganda og samþykki við hverja framleiðslu; Ég hélt endurskoðunarslóð.

Einingapróf

1. Sem opinber embættismaður, hver er besta forgangsspurningin sem þú ættir að spyrja áður en þú framselur starf til gervigreindar?

• A) Hverju tapar borgarinn ef þessi framleiðsla er röng? ✔
• B) Hversu hratt getur gervigreind unnið þetta starf?
• C) Er þetta gervigreind tól ókeypis?
• D) Mun önnur eining líka nota þetta úttak?

Skýring: Ákvörðun um flutning er tekin á grundvelli þess tjóns sem borgarinn verður fyrir ef framleiðsla er röng. Tjónið er auðveldlega yfirfært ef það er aðeins nokkrar mínútur af endurskrifun; Ef um er að ræða ósanngjarna höfnun, ranga refsingu eða missi réttinda, framleiðir gervigreind aðeins drög, ákvörðunin og sannprófunin tilheyrir embættismanninum.

2. Hvað heitir það þegar gervigreind sýnir lög sem ekki eru til eða uppspuni dómstóla sem raunveruleg?

• A) Skyndiminni
• B) Triage
• C) Nafnleynd
• D) Ofskynjanir ✔

Skýring: Ofskynjanir er þegar gervigreind framleiðir af öryggi upplýsingar sem eru ekki til í raun og veru (framleitt efni, niðurfelld reglugerð, rangt númer). Á sviði löggjafar er þetta ein hættulegasta áhættan þar sem það getur leitt til réttindamissis og niðurfellingar stjórnsýsluaðgerða.

3. Yfirmaður ætlar að hafna umsókninni á grundvelli reglugerðargreinar sem YZ bendir á. Hver er réttasta hegðunin?

• A) AI skrifar höfnunina beint vegna þess að hún virðist örugg
• B) Spyrðu sömu spurningar við annað gervigreind farartæki og fáðu staðfestingu
• C) Staðfestir greinina úr núverandi samstæðutexta á Çözüm.gov.tr ✔
• D) Spyr munnlega ákvörðunina til yfirmanns

Lýsing: Þjálfunargögn gervigreindar eru fryst á ákveðnum degi; Greinin sem hún sýnir kann að hafa verið felld úr gildi eða breytt. Staðfesting á því að greinin sé í gildi og endanleg útgáfa hennar úr núverandi sameinuðum texta á Çözüm.gov.tr ​​fyrir ákvörðunina kemur í veg fyrir ósanngjarna höfnun og hugsanlega ógildingarmál.

4. Af hverju er það gæðatrygging fyrir borgaraspjallbót að geta sagt „ég veit það ekki, ég er að flytja þig til embættismanns“?

• A) Bætir tölfræði með því að auka veltuhraða
• B) Kemur í veg fyrir rangar upplýsingar með því að framselja upplýsingar til manna þegar þeir eru ekki vissir ✔
• C) Lengir símtalstímann með því að trufla athygli borgaranna
• D) Leyfir spjallbotni að fá færri spurningar

Skýring: Á almannafæri er öruggt rangt svar miklu kostnaðarsamara en heiðarleg ákvörðun; Það leiðir til réttindamissis og vantrausts á stofnunina. Hæfni spjallbotnsins til að afhenda manneskjunni þegar hann er ekki viss er öryggisbúnaður sem kemur í veg fyrir ofskynjunar rangar upplýsingar.

5. Hver er mikilvægasta áhættan sem þarf að hafa í huga þegar opinber bréfaskipti við gervigreind eru „einfölduð“?

• A) Textinn er of stuttur
• B) Breyting á letri
• C) Að fella niður skilyrði eða undantekningu ✔
• D) Röng stafsetning á nafni viðtakanda

Skýring: Stílfræðileg aðlögun ætti ekki að breyta innihaldinu. Við einföldun fellur gervigreind stundum undan undantekningu, ástandi eða tímalengd. Þess vegna ætti alltaf að bera einfaldaða textann saman við upphaflega ákvörðun eða löggjöf.

6. Nafn og T.R. í gagnasafni. Hvað kallarðu það þegar samsetningin „hverfi + fæðingarár + tegund fötlunar“ getur leitt mann í ljós þótt kennitölu hafi verið eytt?

• A) Endurskilgreining ✔
• B) Lágmörkun gagna
• C) Þekjuhlutfall
• D) Sameining

Skýring: Endurauðkenning er að finna einstakling með blöndu af óbeinum auðkennum úr gögnum sem talið er að séu nafnlaus. Ef sjaldgæfur flokkur finnst hjá einni manneskju er ekki nóg að eyða nafninu; Viðbótarráðstafanir eru nauðsynlegar, svo sem að breyta aldri í svið og sameina sjaldgæfa flokka.

7. Hvað kallast það þegar skoðunarlíkan markar hverfi sem hefur verið mikið skoðað áður sem „áhættusamt“ og sendir fleiri skoðanir þangað sem ýtir undir að líkanið líti á það hverfi sem áhættusamara?

• A) Lágmörkun gagna
• B) Ofskynjanir
• C) Nafnleynd
• D) Endurgjöf lykkja ✔

Skýring: Endurgjöf lykkjan er þegar framleiðsla líkansins hefur áhrif á síðari þjálfunargögn og styrkir núverandi hlutdrægni. Mismunurinn eykst ekki í raunverulegri áhættu heldur hvert horft er. Leiðin til að vernda sjálfan þig er að fylgjast með áhrifunum, ekki framleiðslunni, og stjórna hóptengdri dreifingu ákvarðana.

8. Eftir að bótaumsókn var flutt alfarið á netinu fækkaði umsóknum um 30 prósent fyrsta mánuðinn. Hver er líklegasta skýringin á þessu?

• A) Raunverulegar þarfir borgaranna hafa minnkað
• B) Borgarar án internets og stafræns læsis voru útundan ✔
• C) Vextir lækkuðu vegna þess að aðstoðin lækkaði
• D) Kerfið samþykkti sjálfkrafa allar umsóknir

Lýsing: Stafræn gjá er vanhæfni borgara án netaðgangs eða stafræns læsis til að fá aðgang að þjónustu. Þeim fækkar vegna þess að sá hópur sem er hvað mest þurfandi, aldraðir og borgarar án nettengingar, geta ekki sótt um. Lausnin er að skilja eftir aðrar leiðir, svo sem aðstoð við tilvísunarpunkta.

9. Þó að raunverulegt árangurshlutfall í ársskýrslu sé 63 prósent, segir yfirlitið sem YZ framleitt að „mikill meirihluti umsókna var jákvæður.“ Hver er rétt hegðun?

• A) Tjáningin er látin standa eins og hún er vegna þess að hún er jákvæð.
• B) Hlutfallinu er eytt og aðeins eigindlega tjáningin notuð
• C) Í stað tjáningarinnar kemur rauntalan 63 prósent ✔
• D) Samantektin er alveg tekin úr skýrslunni

Skýring: Ýkt jákvæð skynjun í opinberri skýrslu setur stofnunina í erfiða stöðu í síðari úttektum. Hverja kröfu í samantektinni ætti að bera saman við hrá gögnin og raunverulegan fjölda (63 prósent) ætti að skrifa; Yfirlit yfir gervigreind eru ekki með í skýrslunni án þess að vera endurskoðuð.

10. Þegar gagnagrunnar ákvarðanir eru teknar hjá hinu opinbera, ef „fjöldi skráa sem lokað er mánaðarlega“ eykst á meðan „upplausnarhlutfall við fyrstu snertingu“ lækkar, hvað kennir það okkur fyrst?

• A) Að velja réttan vísi er mikilvægara en að margfalda töluna ✔
• B) Fjölga ætti starfsmönnum
• C) Línurit ættu að vera lituð
• D) Spjallbotninn ætti að svara fleiri spurningum

Skýring: Rangur vísir leiðir til rangrar ákvörðunar jafnvel með réttum gögnum. Skrám gæti verið fljótt lokað og opnað aftur. Með því að velja rétta vísir og lesa vísana saman kemur í veg fyrir hrósa sem byggir á villandi tölu eingöngu.

11. Í myndriti byrjar lóðrétti ásinn á 40 í stað núlls og 2 prósent aukning lítur út eins og stórkostlegt stökk er dæmi um hvaða vandamál?

• A) Ofskynjanir
• B) Lágmörkun gagna
• C) Stafræn skil
• D) Villandi sýn ✔

Skýring: Villandi sjónmynd er að skekkja skynjun með aðferðum eins og ás sem byrjar ekki frá núlli, óhóflegum mælikvarða eða valnu tímabili. Það er hluti af heiðarlegri sjónrænni stjórnsýslu í opinberum gögnum; Raunverulega töfluna ætti að sýna með því að draga ásinn að núll.

12. Hvers vegna er óviðunandi að segja „AI skrifaði það“ sem réttlætingu fyrir stjórnsýsluaðgerð?

• A) Vegna þess að gervigreind verkfæri eru of dýr
• B) Stjórnsýsluaðgerðir verða að vera réttlætanlegar og ábyrgðin er hjá yfirmanni ✔
• C) Vegna þess að gervigreind kann ekki tyrknesku
• D) Vegna þess að borgarar líkar ekki við gervigreind

Skýring: Stjórnsýsluaðgerðir verða að vera rökstuddar og endurskoðanlegar; Ábyrgðin liggur ekki hjá gervigreindinni, heldur opinberum starfsmanni og stofnun sem notar framleiðsluna án þess að sannreyna það. „Gjágreinin sagði það“ er ekki réttlæting og heldur ekki uppi stjórnsýsluaðgerðunum.

13. Hverjar eru fjórar meginreglurnar sem aðgreina notkun gervigreindar í opinbera geiranum frá einkageiranum og ber að virða til viðbótar?

• A) Hraði, ódýrleiki, arðsemi, samkeppni
• B) Sjálfvirkni, mælikvarði, markaðssetning, vörumerki
• C) Jafnrétti, gagnsæi, ábyrgð, vernd persónuupplýsinga ✔
• D) Friðhelgi einkalífs, trúnaðar, friðhelgi einkalífs og trúnaðar

Skýring: Í verkum þar sem opinbert vald er beitt er gervigreind rammuð af jafnræðisreglum (svipuð meðferð á svipuðum aðstæðum), gagnsæi (útskýranleiki á rökstuðningi ákvörðunar), ábyrgð (ábyrg fyrir hverri færslu og endurskoðunarslóð) og vernd persónuupplýsinga (KVKK).

14. Hvað ætti sjálfvirkt forflugskerfi að gera þegar það er ekki viss um sjaldgæfa skjalagerð?

• A) Að hafna umsókn í hljóði
• B) Framsenda umsóknina til endurskoðunar manna ✔
• C) Samþykkja sjálfkrafa umsóknina
• D) Eyða forritinu

Skýring: Góð sjálfvirkni beinir líkaninu til yfirmannsins þegar það er óviss frekar en að hafna því í hljóði. Annars munu lögmætar umsóknir falla í blindan blett og fórnarlamb verður. Að halda fólki á ákvörðunarstað er grundvöllur undantekningastjórnunar.