Verkflæði frá enda til enda, stjórnarhættir og ábyrg notkun

Hagnaður:

• Geta til að fella inn gervigreind stöðugt á hverju stigi frá umsókn til lokunar með sex mannlegum sannprófunarhliðum
• Hæfni til að koma á stjórnarháttum fyrirtækja með samþykktum verkfæralista, gagnastefnu, hlutverkum, skráningu, þjálfun og áframhaldandi endurskoðun
• Hæfni til að fella inn meginreglur mannlegrar ábyrgðar, sannprófunar, friðhelgi einkalífs/KVKK, fylgni við sönnunargögn, hlutdrægni og miðlægni viðskiptavina í verkflæðið

Í þessari einingu fórum við yfir hvernig á að nota gervigreind og hvar á að stöðva hana í mismunandi verkefnum félagsráðgjafar - skjöl, mat, áhættustuðningur, tilvísun, áætlun, skýrsla, samskipti, hönnun forrita. Í þessari lokaeiningu setjum við saman verkin: þar sem gervigreind mun sitja frá lokum til enda frá umsókn til lokunar máls, hvaða mannleg sannprófunarhurð stoppar á hverju stigi, og við munum koma á stjórnunarramma sem þarf til að þetta sé sjálfbært í stofnun. Markmiðið er að breyta dreifðum ábendingum í samræmda og endurtekna vinnugrein.

Samþætt regla frá upphafi: gervigreind er hraðall í hverju skrefi vinnuflæðisins, ekki ákvörðunaraðili í hvaða skrefi sem er. Það eru mannlegar dyr á hverju stigi og þú getur ekki haldið áfram á næsta án þess að fara í gegnum eina dyr. Þessi lagskiptu uppbygging kemur í veg fyrir að ein ofskynjanir, hlutdrægni eða persónuverndarvilla síast inn í ákvörðun sem hefur áhrif á líf skjólstæðings.

End-til-enda flæði og sex mannleg hlið

Við skulum íhuga mál í gegnum dæmigerð stig þess og setja staðfestingarhlið á hverju stigi:

1. Umsókn / fyrsta samband — Hurð: Persónuvernd. Þegar fyrstu upplýsingarnar koma er gervigreind notuð til viðtalsundirbúnings (leiðarvísir, spurningarammi). Hurð: Engin raunveruleg viðskiptavinagögn fara inn í opna tólið; Biðjið um flokk, passið ökutæki.

2. Mat - Hlið: Klínískt mat. Gervigreind skipuleggur athugasemdir í lífsálfélagslegar víddir og minnir á galla og styrkleika. Hurð: Greining og mat tilheyrir sérfræðingnum; AI metur ekki.

3. Áhætta - Hurð: Yfirvald og lið. Gervigreind minnir á áhættu/verndarþætti og býr til beinagrind öryggisáætlunar. Hurð: Ákvörðun um áhættu er aðeins tekin af sérfræðingi, teymi, eftirliti og lögfræðilegu ferli; AI framleiðir ekki stig/ákvarðanir.

4. Skipulag og leiðsögn — Hurð: Löggilding og viðskiptavinur. Gervigreind setur markmiðin í SMART, býr til auðlindahugmyndir og bréfauppkast. Hurð: Viðskiptavinurinn setur sér markmiðin; Þjónustan/heimilisfangið/ástandið er staðfest frá opinberum aðilum.

5. Skýrsla og samskipti — Door: Sönnunargögn og ábyrgð. Gervigreind byggir upp skýrsluna, einfaldar og þýðir textann. Hurð: Sérhvert mál veltur á sönnunargögnum, álitið tilheyrir sérfræðingnum, mikilvæg upplýsingatap og hlutdrægni er athugað, undirskriftin er í viðkomandi.

6. Lokun og afhending — Hlið: Nákvæmni. YZ dregur skrána saman í tímaröð. Hurð: Samantektin er byggð á skránni einni saman; Niðurstöður og lærdómar eru sannreyndir af sérfræðingnum.

Ábending: Notaðu eina spurningu til að muna hurðirnar: "Í þessu skrefi, tekur gervigreindin ákvörðun eða framleiðir skissu?" Ef svarið er „ákvörðun“ skaltu hætta - það skref tilheyrir manneskjunni. Ef svarið er „drög“ skaltu halda áfram, en ekki fara í næsta skref án þess að staðfesta úttakið.

Stjórnarhættir fyrirtækja: einstaklingsaga er ekki nóg

Góðar venjur sérfræðings eru dýrmætar en viðkvæmar; Örugg og stöðug notkun gervigreindar í stofnun krefst stjórnunarramma. Helstu þættir þessa ramma eru:

• Samþykktur ökutækjalisti. Það er skrifað og skýrt hvaða tól verður notað í hvaða verk og hvaða gögn er hægt að slá inn í hvaða tól. „Allir ættu að nota hvaða tæki sem þeir vilja“ er öryggisveikleiki.
• Gagnaflokkunarstefna. Skilgreint er hvaða gögn verða unnin í opna tólinu og hver verður eingöngu unnin í örugga kerfinu.
• Hlutverk og vald. Það er ljóst hver getur gert hvað og hvaða ákvörðun fer eftir hvaða stjórnvaldi (sérstaklega áhættuákvarðanir).
• Dagskrá og endurskoðunarslóð. Hægt er að fylgjast með hvar og hvernig gervigreind er notuð; Þegar það er vandamál er hægt að líta til baka.
• Fræðsla og vitundarvakning. Sérhver starfsmaður þekkir meginreglurnar í þessari einingu; Nýliðinn er þjálfaður.
• Stöðug endurskoðun. Verkfæri, áhættur og lagabreytingar; Ramminn er uppfærður reglulega. Stefna sem einu sinni er skrifuð og gleymd verður úrelt.

þrjú smámál

Tilfelli 1 - Hurðir gripu galla í upphafi keðjunnar. Í einu tilviki bætti gervigreind við athugun sem viðskiptavinurinn minntist ekki á á meðan á matinu stóð. Við hlið „klínísks dóms“ greip sérfræðingurinn þetta og eyddi því. Ef hann hefði ekki náðst hefði þessi tilbúna athugun getað lekið inn í áætlunina, þaðan í skýrsluna og þaðan í dómsúrskurð. Lagskipt auðkenning stöðvaði villuna í fyrsta lagi.

Mál 2 - Stjórnarhættir komu í veg fyrir brot. Ein stofnun starfaði án viðurkennds verkfæralista og gagnastefnu; Allir notuðu eigin farartæki. Úttekt leiddi í ljós að nokkrir starfsmenn voru að slá inn raunveruleg viðskiptavinagögn í opin verkfæri. Stofnunin hefur komið sér upp stjórnarramma: samþykkt verkfæri, flokkun gagna, þjálfun og skráning. Á næsta tímabili fór fjöldi brota niður í núll. Lærdómur: góður vilji einstaklinga er ekki nóg án stofnanauppbyggingar.

Mál 3 — Stöðug endurskoðun uppfærð. Gervigreindarstefna stofnunar, skrifuð fyrir ári síðan, var úrelt í ljósi nýrrar tegundar tækja og uppfærðrar löggjafar. Ársrýni fanga þetta; Stefnan var uppfærð, þjálfunin var endurnýjuð. Ramminn var áfram lifandi skjal, ekki hilluskraut.

Fjögur afritanleg sniðmát

1) Gátlisti fyrir staðfestingarhlið málsflæðis:

Þitt hlutverk: Leiðbeinandi. Ég fæ staðfestingargátlista fyrir eftirfarandi tilviksþrep: hvað geta gervigreindardrögin í þessu skrefi, hvaða ákvörðun er endilega mannleg, hvaða eftirlit með persónuvernd og hlutdrægni ætti að gera, hvað ætti ég að sannreyna áður en ég fer í næsta skref? Skref: [umsókn / mat / áhætta / áætlun / skýrsla / lokun]

2) Staðfest samsvörun ökutækis:

Fyrir hvern af verkefnalistunum hér að neðan, tilgreindu tegund gervigreindarverkfæris sem hægt er að nota (opið verkfæri / öruggt fyrirtækiskerfi eingöngu / Engin gervigreind í boði) og rökstuðning. Merktu hvert verkefni sem inniheldur gögn viðskiptavinar sem „aðeins öruggt kerfi“. Verkefni: [lista verkefni]

3) Drög að stefnu um gervigreind fyrirtækja:

Hlutverk þitt: Ritstjóri stefnumótunar fyrirtækja. Drög að ábyrgri AI notkun stefnu fyrir félagsþjónustustofnun; Farið yfir eftirfarandi efni: tilgang, samþykkt verkfæri, flokkun gagna, hlutverk og heimildir, friðhelgi einkalífs/KVKK, mörk áhættuákvarðana, skráningu og endurskoðun, þjálfun, endurskoðunaráætlun. Settu upp almennan ramma; Stofnunin mun fylla út eigin upplýsingar.

4) Sjálfsstjórnun (persónuleg notkunarskoðun):

Búðu til sjálfsgátlista með 10 spurningum fyrir mig til að fara yfir notkun mína á gervigreind sem félagsráðgjafi: næði, sannprófun, hlutdrægni, sönnunaröryggi, ákvarðanamörk og skjólstæðingsmiðuð. Látum hverri spurningu svara með "já/nei".

Veik kvaðning / Sterk kvaðning

Veik kvaðning:

Ég gef þér allt þetta mál; Þú sérð allt frá umsókn til skýrslu, ég skrifa bara undir í lokin.

Með þessu er verið að útvista öllu ferlinu – þar með talið friðhelgi einkalífs, klínískt mat, áhættumat, að fylgja sönnunargögnum – til hugbúnaðar. Eina undirskriftin í lokin blindar okkur fyrir allar villur, tilbúningur og hlutdrægni þar á milli.

Öflug tilvitnun:

Hlutverk þitt: ritstjóri sem hjálpar mér hvert skref á leiðinni. Ég mun halda áfram með málið skref fyrir skref (mat, áætlun, skýrsla...). Í hverju skrefi: vinna aðeins með nafnlaus/örugg gögn, búa til drög, leyfðu mér að ákveða, ekki bæta við því sem er ekki í athugasemdinni og minntu mig á hvað ég þarf að staðfesta áður en þú ferð í næsta skref. Byrjum á þessu skrefi: [skref]

Munurinn: Að standa vörð um hurðina í hverju skrefi og staðsetja gervigreind sem skref-fyrir-skref aðstoðarmann heldur öryggi og ábyrgð mannlegri á sama tíma og hraða er viðhaldið.

Stage-gate- ábyrgð samantekt

Sviði

Framlag gervigreindar

mannlegt hlið

gagnrýna stjórn

Umsókn

Undirbúningur viðtals

næði

Gagnaflokkur

Mat

Stærðarbreyting

klínískt mat

Engin greining, enginn tilbúningur

Áhætta

Áminning um þátt

Yfirvald + lið

Engin stig/ákvörðun

Áætlun/leiðsögn

uppkast + hugmynd

Staðfesting + viðskiptavinur

Staðfesting heimildar, forgang viðskiptavinar

Tilkynna/hafa samband

Uppbygging + einföldun

Sönnunargögn + ábyrgð

Álit í sérfræðingur, hlutdrægni stjórn

Lokun

Tímabundin samantekt

nákvæmni

met byggt

Algeng mistök

• Að framselja allt ferlið til gervigreindar og undirrita eina undirskrift í lokin. Villurnar þarna á milli eru ekki sýnilegar; Það ættu að vera hurðir við hvert skref.
• Að fara í gegnum hurð án þess að staðfesta það. Tilbúningur eins stigs erfir í þann næsta; Sérhver framleiðsla er staðfest.
• Að fela stjórnun einstaklingsbundinnar aga. Án stofnanaumgjörðar eru góðar venjur viðkvæmar.
• Skrifaðu stefnuna einu sinni og gleymdu henni. Verkfæri og lagabreytingar; Stöðug endurskoðun er nauðsynleg.
• Ekki halda skrár. Án endurskoðunarslóðar er ekki hægt að líta til baka á vandamál og ekki hægt að draga það til ábyrgðar.

Í stuttu máli

Í félagsráðgjöf er gervigreind hvati í hverju skrefi, ákvörðunaraðili í engu skrefi, frá umsókn til lokunar máls. Settu sex mannleg hlið (trúnað, klínískt mat, vald/teymi, staðfestingu/viðskiptavin, sönnunargögn/ábyrgð, heilindi) inn í flæðið frá enda til enda; Ekki fara frá einni hurð til annarrar án þess að fara í gegnum. Til að gera þetta sjálfbært þarf stjórnarhætti: samþykkt verkfæralista, gagnastefnu, hlutverk, skráningu, þjálfun og áframhaldandi endurskoðun. Sex meginreglur einingarinnar – mannleg ábyrgð, sannprófun, friðhelgi einkalífs/PDPA, skuldbinding við sönnunargögn, hlutdrægni og miðuð við viðskiptavini – ættu að vera fléttuð inn í hvert verkflæði.

Umsóknarverkefni

Andlega grafið upp skáldað mál frá umsókn til loka; Búðu til gátlista fyrir hvert stig með sniðmáti fyrir „staðfestingarhlið málsflæðis“. Flokkaðu síðan verkefnin í þessu tilviki sem opið farartæki / öruggt kerfi / ekkert gervigreind með „fullgilt ökutækissamsvörun“ sniðmátinu. Að lokum skaltu meta sjálfan þig með því að búa til lista með 10 spurningum fyrir eigin notkun á gervigreind með „sjálfsendurskoðun“ sniðmátinu.

gátlisti

• [ ] Ég hef greint sex mannleg hlið í flæðinu frá enda til enda.
• [ ] Í hverju skrefi, "ákvörðun eða drög?" Ég beitti spurningunni.
• [ ] Ég passaði verkefnin við rétta gerð ökutækis (opin/örugg/engin).
• [ ] Ég þekki hluta stjórnarhátta fyrirtækja (tól, gögn, hlutverk, skráning, þjálfun, endurskoðun).
• [ ] Ég innleiddi sex burðarreglur einingarinnar í mitt eigið verkflæði.

Einingapróf

1. Hver af eftirfarandi er nákvæmasta staðsetning gervigreindar í félagsráðgjöf?

• A) Gervigreind getur ákveðið áhættustig viðskiptavinar og íhlutunarákvörðun án samþykkis manna
• B) gervigreind er tæki til að draga saman, skipuleggja, einfalda og semja; Ábyrgð á klínísku mati, áhættu og lokaákvörðun er hjá sérfræðingnum ✔
• C) Gervigreind nýtist aðeins til að þýða texta og hefur ekkert með önnur félagsstörf að gera
• D) Þar sem gervigreind er alltaf hlutlausari en menn, ætti matið að vera undir henni komið.

Lýsing: Gervigreind; Það er aðstoðarmaður sem skipuleggur glósur, dregur saman skrána, einfaldar textann og framleiðir drög. Ábyrgð á klínísku mati, áhættumati, faglegu áliti og lokaákvörðun hvílir á þar til bærum sérfræðingi; Óstaðfest framleiðsla gæti leitt til rangrar matar viðskiptavinar, áhættusvika eða leka á viðkvæmum gögnum.

2. Hver er réttasta leiðbeiningin þegar gervigreind er látin breyta hráum skýringum viðtals í málaskrá?

• A) Að biðja um gervigreind til að fylla út þá hluta sem vantar á eðlilegan hátt þannig að það líti fagmannlega út.
• B) Leyfa gervigreind að bæta við viðbótarathugunum til að auðga skrána
• C) Að biðja nemandann um að nota aðeins þær upplýsingar sem raunverulega eru í athugasemdinni, merkja þá hluti sem vantar sem „þarfnast skýringa“ og ekki bæta neinu við ✔
• D) Setja það beint inn í skrána án þess að bera það saman við athugasemdina svo framarlega sem úttakið er reiprennandi

Skýring: Hættulegasta tilhneiging gervigreindar er að búa til athuganir, tölur eða tilvitnanir sem eru ekki í minnismiðanum til að gera skráninguna „fullkomna“. Rétta nálgunin er að segja „notaðu bara það sem er í athugasemdinni, merktu við það sem vantar, ekki bæta neinu við“. Skörðin eru ekki fyllt, þau eru merkt til skýringar.

3. Hvers vegna er greinarmunurinn á „staðreynd“ og „túlkun“ mikilvægur í málaskrá?

• A) Staðreynd er áþreifanleg athugun/fullyrðing á meðan túlkun er fagleg ályktun sem krefst grunns; Þetta tvennt ætti að vera aðskilið og athugasemdin ætti að vera merkt ✔
• B) Aðgreiningin er óþörf; staðreynd og athugasemd er hægt að skrifa á sama hátt í skránni
• C) Aðeins túlkunin skiptir máli; Það er mögulegt þótt staðreyndir séu ekki skráðar
• D) Þar sem gervigreind gerir þennan greinarmun fullkomlega, þá er engin þörf á mannlegri stjórn.

Skýring: „Hann grét þrisvar í viðtalinu“ er staðreynd; „Hann var þunglyndur“ er ummæli sem ekki er hægt að skrifa án klínískra grunna. Skráin lýsir staðreyndinni og inniheldur aðeins túlkun með skýrum merkingum og rökstuðningi. AI getur blandað þessu tvennu reiprennandi; Það er skylda manns að gera greinarmuninn og forðast stimplun.

4. Hvaða hlutverki ætti gervigreind að gegna við að ákveða hvort barn sé öruggt heima eða áhættustigi máls?

• A) Gervigreind getur lesið málið, ákvarðað áhættustigið og tekið öryggisákvörðunina
• B) „Lágáhættumerkið“ sem gervigreind gefur getur hnekið athugun sérfræðingsins um hið gagnstæða
• C) Gervigreind minnir aðeins á þætti og skipuleggur glósur; Áhættustig og öryggisákvörðun tilheyrir sérfræðingi, teymi, eftirliti og lögfræðilegu ferli ✔
• D) Gervigreind er áreiðanlegri en menn við ákvarðanatöku áhættu vegna þess að hún er óhlutdræg.

Lýsing: Áhættustig og öryggisákvörðun; Það krefst faglegs valds, klínísks mats, þverfaglegrar teymisálits, eftirlits og lagalegrar ábyrgðar. Hér getur gervigreind aðeins munað áhættu/verndarþætti og breytt athugasemdum; getur ekki framleitt stig eða ákvarðanir. Það gæti einnig kerfisbundið mikla áhættu til illa settra hópa vegna hlutdrægni í þjálfunargögnum, þannig að ekki er hægt að nota úttak þess sem ákvörðun.

5. Hvað á að gera þegar gervigreind gefur tilvísunarupplýsingar fyrir viðskiptavini með því að segja „þessi miðstöð, þessi sími“?

• A) Staðfestu heimilisfang og símanúmer frá opinberum og núverandi uppruna stofnunarinnar áður en það er gefið viðskiptavininum ✔
• B) Að miðla upplýsingum beint til viðskiptavinarins eins og þær eru settar fram á öruggan hátt
• C) Að því gefnu að upplýsingarnar séu algerlega réttar svo framarlega sem gervigreindin gefur upp núverandi dagsetningu
• D) Að halda að það sé óþarfi að kanna nákvæmni upplýsinganna vegna þess að þær eru nefndar einhvers staðar.

Lýsing: Gervigreind getur búið til þjónustu, umsóknarkröfur, heimilisföng og símanúmer eða veitt úreltar upplýsingar; Stofnanir sameinast, flytja, leggja niður. Að senda viðskiptavininn á óstaðfest heimilisfang mun leiða til sóunar á ferðalagi og taps á trausti. Þess vegna verður að staðfesta tengiliðaupplýsingarnar sem gervigreind gefur í gegnum eigin opinbera rás stofnunarinnar áður en þær eru sendar til viðskiptavinarins.

6. Hver á að setja sér markmið í viðbragðsáætlun og hvert er hlutverk gervigreindar?

• A) Gervigreind ætti bæði að ákvarða markmiðin og skrifa alla áætlunina án þess að spyrja viðskiptavininn.
• B) Viðskiptavinurinn (ásamt sérfræðingnum) ákvarðar markmiðin; Gervigreind setur þau í SMART snið og skipuleggur þau, bætir ekki við nýjum skotmörkum ✔
• C) Markmið skipta engu máli; Því fleiri markmið sem áætlunin inniheldur, því betra.
• D) Gervigreind gæti hunsað forgangsröðun viðskiptavinarins vegna þess að hún lítur fagmannlega út

Lýsing: Kjarnagildi félagsráðgjafar er „sjálfsákvörðunarréttur“: skjólstæðingur setur sér markmið og forgangsröðun, mótar þau með sérfræðiþekkingu. Gervigreind setur þessi markmið í SMART snið og bendir á skref og vísbendingar; en hann getur ekki bætt við nýjum markmiðum sem viðskiptavinurinn segir ekki. Ekki er hægt að beita erlendri utanaðkomandi áætlun fyrir viðskiptavininn.

7. Í samfélagsrannsóknarskýrslu sem á að leggja fyrir dómstólinn, í hvaða máli er gervigreind hættulegast?

• A) Geta til að finna upp dagsetningar, athuganir eða tilvitnanir sem ekki eru til staðar til að láta skýrsluna líta út fyrir að vera „fullkomin“ ✔
• B) Að gera tungumál textans of formlegt
• C) Að skrifa skýrsluna styttri en um var beðið
• D) Stafrófsröð titla

Skýring: Hættulegasta tilhneiging gervigreindar er að bæta við dagsetningu, athugun eða tilvitnun sem ekki er til til að láta skýrsluna virðast „fullkomna“. Tilbúinn dómur í dómsskýrslu getur bæði villt ákvörðun og eyðilagt trúverðugleika sérfræðingsins. Þess vegna ætti hvert mál að vera tengt raunverulegu viðtali/athugun/skjali og faglega álitið ætti að mynda sérfræðinginn.

8. Hver á að skrifa faglega álits- og álitshluta (tillögu) í skýrslu um félagslega rannsókn?

• A) Gervigreind; vegna þess að það gefur óhlutdrægari meðmæli
• B) Álitshlutann er aldrei fylltur út við ritun skýrslunnar.
• C) Gervigreind skrifar álitið, sérfræðingurinn skrifar aðeins undir í lokin
• D) Sérfræðingur; faglegt álit og skoðun eru hans/hennar vald og ábyrgð, gervigreind skýrir aðeins tungumálið ✔

Fullyrðing: Faglegt álit og álit — „þetta er barninu fyrir bestu“, „þetta fyrirkomulag er viðeigandi“ — er lagaheimild og ábyrgð sérfræðingsins. 'Hvað mæli ég með við gervigreind?' Það er ekki spurt; „Tillaga“ sem hann kemur með getur verið bæði tilbúið og framsal ábyrgðar. Í besta falli skýrir gervigreind tungumál álitsins sem sérfræðingurinn skrifar.

9. Hver er mikilvægasta eftirlitið þegar þungt opinbert hjálparbréf er einfaldað fyrir skjólstæðing með gervigreind?

• A) Hafðu textann eins stuttan og hægt er, ekki skoða smáatriði
• B) Útkoman lítur reiprennandi og fagurfræðilega út
• C) Staðfesta að engum réttindum, skilyrðum, upphæðum, dagsetningum eða tilkynningum hafi verið sleppt með því að bera saman við upprunalega ✔
• D) Einföldun veitir skjólstæðingnum huggun með því að gefa honum minni upplýsingar.

Skýring: Að einfalda þýðir ekki að afbaka; Með því að „stytta“ eða „einfalda“ getur gervigreind gleypt rétt, ástand, upphæð, dagsetningu eða tilkynningu. Viðskiptavinurinn gæti misst rétt sinn með „auðveldum“ en ófullnægjandi upplýsingum. Þess vegna ætti að bera einfaldaða textann saman við frumritið og sannreyna að engar mikilvægar upplýsingar hafi glatast og jafnvel hafa gervigreindina lista yfir mikilvæga þætti sem hann verndar.

10. Hvernig er rétt að meðhöndla tölfræði sem framleidd er af gervigreind við gerð fjármögnunarumsóknar?

• A) Notaðu beint tölfræðina sem gervigreind gefur til að láta það líta glæsilega út
• B) Ekki láta gervigreindina mynda tölfræði, prenta [GÖGN ÁSKÖFÐ] þar sem þörf krefur og setja hverja tölu frá raunverulegri uppruna ✔
• C) Með hliðsjón af því að heimildin skipti ekki máli svo framarlega sem númerið er innifalið í umsókn.
• D) Að því gefnu að það sé engin þörf á að sannreyna tölfræði vegna þess að gervigreind skrifar af öryggi

Lýsing: Gervigreind getur myndað sláandi en óheimilt tölfræði; Mynd án heimildar er næstum alltaf óáreiðanleg. Uppspuni tölfræði í umsókn mun bæði hafna umsókninni og eyðileggja trúverðugleika stofnunarinnar. Rétta nálgunin er að láta gervigreindina ekki búa til tölur ('Skrifaðu [GÖGN KÖFIN]') og settu hverja tölu frá raunverulegum, staðfestum uppruna.

11. Hvers vegna er skaðlegt að spyrja gervigreind „útskýra hvers vegna þessi fjölskylda er ófullnægjandi í uppeldi barna“?

• A) Vegna þess að spurningin er of löng
• B) Þar sem gervigreind getur ekki veitt neinar upplýsingar um fjölskyldumál
• C) Vegna þess að hún gerir ráð fyrir niðurstöðunni frá upphafi framkallar gervigreind (flamandi) órökstudda og hlutdræga staðfestingu; Spurningin ætti að vera hlutlaus og yfirveguð ✔
• D) Vegna þess að gervigreind mun alltaf skrifa fjölskyldunni í hag

Skýring: Þessi spurning gerir ráð fyrir niðurstöðunni ('ófullnægjandi'). Gervigreindin framleiðir sönnunarlausan og hlutdrægan texta sem staðfestir þessa forsendu með tilhneigingu sinni til að smjaðra (staðfestu tilgátu þína). Hlutdræg spurning skapar hlutdrægt svar. Reyndar er það hlutlaus spurning sem gerir ekki ráð fyrir niðurstöðunni, jafnvægir bæði styrkleika og áhyggjur og biður aðeins um sannanir.

12. Hvernig á að beita „undirhornsprófun“ til að athuga hvort hlutdrægni sé í gervigreind úttak?

• A) Að hugsa um sömu aðstæður fyrir annan hóp og spyrja "Væri þetta skrifað á sama tungumáli?" ✔ Prófa tvöfalda staðla með því að spyrja
• B) Að samþykkja fyrsta svar gervigreindar sem hlutlaust og leita ekki að öðru sjónarhorni
• C) Að spyrja aðeins spurninga sem styðja hóp viðskiptavinarins
• D) Að því gefnu að ekki sé þörf á frekari eftirliti vegna þess að hlutdrægni er alls ekki til staðar í gervigreind

Skýring: gervigreind getur skrifað sömu hegðun í mismunandi tón fyrir mismunandi hópa (t.d. „hætta á vanrækslu“ fyrir lágtekjufjölskyldu, „þvingað foreldri“ fyrir hátekjufólk). Inversion prófið er "ef skjólstæðingurinn væri frá öðrum félagshagfræðilegum/þjóðernishópi, væri þetta skrifað á sama tungumáli?" er að spyrja; Þetta gerir tvöfalt siðferði sýnilegt byggt á staðalímyndum, ekki sönnunargögnum.

13. Hver er rétta aðferðin til að draga saman raunverulega skrá viðskiptavinar (þar á meðal nafn, heimilisfang, heilsufarsupplýsingar)?

• A) Fyrir hraða skaltu líma það inn í næsta opinbera gervigreindarverkfæri og láta draga það saman
• B) Að vinna úr skránni án þess að huga að friðhelgi einkalífsins vegna þess að hún er stutt
• C) Sláðu inn allt þar á meðal heilsufarsupplýsingar og vistaðu aðeins niðurstöðuna
• D) Vinnsla aðeins í öruggu kerfi sem samþykkt er af stofnuninni eða með afgreindum texta, með lágmarksgögnum ✔

Birting: Persónuupplýsingar sem auðkenna viðskiptavininn - sérstaklega viðkvæm gögn eins og heilsufar - eru aldrei færð inn í opinbert tæki sem stofnunin hefur ekki samþykkt; textinn getur verið unninn, geymdur á ytri netþjónum eða notaður í líkanaþjálfun og útflæðið er óafturkræft. Þetta er líka KVKK-brot. Þessi tegund af vinnu er aðeins unnin í innanhúss, öruggum, viðurkenndum kerfum sem leka ekki gögnum eða með afgreindum texta.

14. Hvers vegna nægir það ekki alltaf að eyða nöfnum úr skjali til að binda það í opinbert tól?

• A) Að eyða nöfnum er alltaf full nafnleynd og gerir hvert skjal öruggt
• B) Svo lengi sem skjalið er stutt er ómögulegt að álykta um auðkenni út frá samhengi
• C) Skjal sem hefur verið afmáð algjörlega fellur utan gildissviðs KVKK.
• D) Samhengi (hverfi, aldur, atburður, fjölskyldugerð) getur endurheimt sjálfsmynd; Vernd er veitt með vali á tæki og umhverfi ✔

Skýring: Jafnvel þótt nöfnum sé eytt, getur samhengi (sjaldgæf samsetning af hverfi, aldri, atburði, dagsetningu, fjölskyldubyggingu osfrv.) gert mann auðkennanlegan; Hann gæti verið eini maðurinn í hverfinu sem passar við lýsinguna. Raunveruleg vernd er ekki veitt með grímu, heldur með því að velja rétt verkfæri og umhverfi; Samhengið er líka persónuupplýsingar og óvissar upplýsingar ættu að vera verndaðar sem hærri stétt.

15. Frá umsókn til lokunar máls, hver er áhrifaríkasta leiðin til að koma í veg fyrir að ein gervigreind villa leki inn í endanlega ákvörðun?

• A) Framselja allt ferlið í eitt gervigreindarverkfæri og undirrita aðeins einu sinni í lokin
• B) Að setja mannlegt sannprófunarhlið og gangskilyrði á hverju stigi (lagskipt sannprófun) ✔
• C) Fjarlægja millistaðfestingar fyrir hraða og athuga aðeins á framleiðslustigi
• D) Leyfa hverjum sérfræðingi að nota sitt eigið verkfæri frjálslega án þess að halda skrár

Lýsing: Mannlegt sannprófunarhlið er komið fyrir á hverju stigi (umsókn/trúnaður, mat/klínískt mat, áhættu/heimild, áætlun/sannprófun, skýrsla/sönnunargögn, lokun/nákvæmni); Þú getur ekki farið í gegnum eina dyr án þess að fara í gegnum aðra. Þessi lagskiptu uppbygging kemur í veg fyrir að ofskynjanir, hlutdrægni eða trúnaðarvilla á einu stigi síast inn í ákvörðunina sem hefur áhrif á skjólstæðing.