Ieguvumi:
- Iespēja konsekventi iegult AI katrā posmā no lietojumprogrammas līdz slēgšanai, izmantojot sešus cilvēka verifikācijas vārtus
- Spēja izveidot korporatīvās pārvaldības sistēmu ar apstiprinātu rīku sarakstu, datu politiku, lomām, reģistrāciju, apmācību un pastāvīgu pārskatīšanu
- Spēja darbplūsmā iestrādāt cilvēka atbildības, verifikācijas, privātuma/KVKK, pierādījumu ievērošanas, neobjektivitātes kontroles un klientu centrēšanas principus
Šajā modulī tika apskatīts, kā izmantot mākslīgo intelektu un kur to apturēt dažādos sociālā darba uzdevumos — dokumentācijā, novērtēšanā, riska atbalstā, nosūtīšanā, plānā, ziņojumā, komunikācijā, programmu izstrādē. Šajā pēdējā daļā mēs salikām vienumus kopā: kur mākslīgais intelekts darbosies no vienas puses līdz galam no pieteikuma līdz lietas slēgšanai, kuras cilvēka verifikācijas durvis apstājas katrā posmā, un mēs izveidosim pārvaldības sistēmu, kas nepieciešama, lai tas būtu ilgtspējīgs organizācijā. Mērķis ir pārvērst izkaisītos padomus par konsekventu un atkārtojamu darba disciplīnu.
Integratīvais princips no paša sākuma: AI ir paātrinātājs katrā darbplūsmas posmā, nevis lēmumu pieņēmējs nevienā solī. Katrā posmā ir cilvēka durvis, un jūs nevarat pāriet uz nākamo, neizejot cauri vienām durvīm. Šī slāņveida struktūra neļauj atsevišķai halucinācijai, neobjektivitātei vai privātuma kļūdai iekļūt lēmumā, kas ietekmē klienta dzīvi.
Plūsma no gala līdz galam un seši cilvēku vārti
Apskatīsim lietu, izmantojot tā tipiskos posmus, un katrā posmā izvietosim verifikācijas vārtus:
1. Pieteikums / pirmā kontaktpersona — Durvis: Privātums. Kad tiek saņemta pirmā informācija, mākslīgais intelekts tiek izmantots intervijas sagatavošanai (ceļvedis, jautājumu rāmis). Durvis: atvērtajā rīkā netiek ievadīti faktiskie klienta dati; Jautājiet par klasi, saskaņojiet transportlīdzekli.
2. Novērtējums — vārti: klīniskais spriedums. AI sakārto piezīmes biopsihosociālās dimensijās un atgādina par trūkumiem un stiprajām pusēm. Durvis: Diagnostika un izvērtēšana pieder speciālistam; AI nenovērtē.
3. Risks — durvis: iestāde un komanda. AI atgādina par riska/aizsardzības faktoriem un izveido drošības plāna skeletu. Durvis: lēmumu par risku pieņem tikai eksperts, komanda, uzraudzība un tiesiskais process; AI nerada punktus/lēmumus.
4. Plānošana un vadība — durvis: apstiprināšana un klients. AI izvirza mērķus SMART, ģenerē resursu idejas un vēstuļu melnrakstus. Durvis: Klients izvirza mērķus; Pakalpojums/adrese/stāvoklis ir pārbaudīts no oficiālā avota.
5. Ziņojums un saziņa — durvis: pierādījumi un atbildība. AI strukturē ziņojumu, vienkāršo un tulko tekstu. Durvis: Katra lieta ir atkarīga no pierādījumiem, atzinums pieder ekspertam, tiek pārbaudīts kritisks informācijas zudums un neobjektivitāte, paraksts ir cilvēkā.
6. Slēgšana un nodošana — Vārti: precizitāte. YZ apkopo failu hronoloģiski. Durvis: kopsavilkums ir balstīts tikai uz ierakstu; Rezultātus un iegūtās zināšanas pārbauda eksperts.
Padoms. Lai atcerētos durvis, izmantojiet vienu jautājumu: "Vai šajā darbībā AI pieņem lēmumu vai izstrādā skici?" Ja atbilde ir “lēmums”, apstājieties — šis solis pieder cilvēkam. Ja atbilde ir "melnraksts", turpiniet, bet nepārejiet uz nākamo darbību, nepārbaudot izvadi.
Korporatīvā pārvaldība: ar individuālo disciplīnu nepietiek
Eksperta labie ieradumi ir vērtīgi, bet trausli; Drošai un konsekventai AI izmantošanai organizācijā ir nepieciešama pārvaldības sistēma. Šīs sistēmas galvenās sastāvdaļas ir:
- Apstiprinātais transportlīdzekļu saraksts. Ir rakstīts un skaidrs, kurš rīks kuram darbam tiks izmantots un kādus datus kurā rīkā var ievadīt. "Ikvienam vajadzētu izmantot jebkuru rīku, ko viņš vēlas" ir drošības ievainojamība.
- Datu klasifikācijas politika. Ir noteikts, kuri dati tiks apstrādāti atvērtajā rīkā un kuri tiks apstrādāti tikai drošajā sistēmā.
- Loma un autoritāte. Ir skaidrs, kurš ko var darīt un kāds lēmums ir atkarīgs no kuras iestādes (sevišķi riska lēmumi).
- Žurnāls un audita pēdas. Var uzraudzīt, kur un kā tiek izmantots AI; Ja rodas problēma, uz to var atskatīties.
- Izglītība un izpratne. Katrs darbinieks zina šajā modulī ietvertos principus; Jaunpienācējs ir apmācīts.
- Pastāvīga pārskatīšana. Instrumenti, riski un likumdošanas izmaiņas; Ietvars tiek regulāri atjaunināts. Vienreiz uzrakstīta un aizmirsta politika kļūst novecojusi.
trīs mini futrāļi
1. gadījums — Durvis ķēdes sākumā noķēra kļūdu. Vienā gadījumā AI pievienoja novērojumu, ko klients nepieminēja novērtēšanas posmā. "Klīniskā sprieduma" vārtos eksperts to uztvēra un izdzēsa. Ja viņš nebūtu pieķerts, šis safabricēts novērojums varētu būt noplūdis plānā, no turienes uz ziņojumu un no turienes uz tiesas lēmumu. Slāņainā autentifikācija apturēja kļūdu agrākajā brīdī.
2. gadījums — pārvaldība novērsa pārkāpumu. Viena organizācija darbojās bez apstiprināta rīku saraksta un datu politikas; Katrs brauca ar savu auto. Revīzijā atklājās, ka vairāki darbinieki atvērtajos rīkos ievada faktiskos klientu datus. Organizācija ir izveidojusi pārvaldības sistēmu: apstiprināti rīki, datu klasifikācija, apmācība un reģistrācija. Turpmākajā periodā pārkāpumu skaits nokritās līdz nullei. Mācība: ar individuālo labo gribu nepietiek bez institucionālās struktūras.
3. gadījums — nepārtraukta pārskatīšana, kas tiek atjaunināta. Organizācijas AI politika, kas tika uzrakstīta pirms gada, bija novecojusi, ņemot vērā jauna veida rīku un atjauninātos tiesību aktus. Gada pārskatā tas tika fiksēts; Politika tika aktualizēta, apmācības tika atjaunotas. Rāmis palika dzīvs dokuments, nevis plaukta ornaments.
Četras kopējamas veidnes
1) Lietu plūsmas pārbaudes vārtu kontrolsaraksts:
Jūsu loma: vadītājs. Es saņemu validācijas kontrolsarakstu šādai gadījuma darbībai: ko AI var sagatavot šajā solī, kurš lēmums noteikti ir pieņemts, kādas privātuma un neobjektivitātes pārbaudes ir jāveic, kas jāpārbauda, pirms pāriet uz nākamo darbību? Solis: [pieteikums / novērtējums / risks / plāns / ziņojums / slēgšana]
2) Apstiprināta transportlīdzekļa atbilstība:
Katram tālāk norādītajam uzdevumu sarakstam norādiet izmantojamā AI rīka veidu (atvērtais rīks / tikai droša uzņēmuma sistēma / AI nav pieejams) un pamatojumu. Atzīmējiet katru uzdevumu, kurā ir klienta dati, kā "tikai droša sistēma". Uzdevumi: [uzdevumu saraksts]
3) Korporatīvās mākslīgā intelekta politikas projekts:
Jūsu loma: korporatīvās politikas redaktors. Izstrādāt atbildīgas AI lietošanas politiku sociālo pakalpojumu aģentūrai; Aptveriet šādas tēmas: mērķis, apstiprinātie rīki, datu klasifikācija, lomas un pilnvaras, privātums/KVKK, riska lēmumu ierobežojums, ierakstīšana un auditēšana, apmācība, pārskatīšanas grafiks. Izveidojiet vispārējo sistēmu; Iestāde aizpildīs savus datus.
4) Pašregulācija (personisks lietošanas pārskats):
Izveidojiet 10 jautājumu pašpārbaudes sarakstu, lai es varētu pārskatīt, kā AI kā sociālais darbinieks izmantoju: privātums, verifikācija, neobjektivitāte, pierādījumu uzticamība, lēmumu ierobežojumi un centrēšana uz klientu. Ļaujiet uz katru jautājumu atbildēt ar "jā/nē".
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Es jums sniedzu visu šo lietu; Jūs kārtojat visu, sākot no pieteikuma līdz atskaitei, es to tikai parakstīšu beigās.
Tas viss process, tostarp privātums, klīniskais vērtējums, riska novērtējums, pierādījumu ievērošana, tiek nodots programmatūrai. Viens paraksts beigās padara mūs aklus pret visām kļūdām, izdomājumiem un aizspriedumiem starp tiem.
Spēcīga uzvedne:
Jūsu loma: redaktors, kurš man palīdz ik uz soļa. Es turpināšu lietu soli pa solim (novērtējums, plāns, atskaite...). Katrā darbībā: strādājiet tikai ar anonīmiem/drošiem datiem, izveidojiet melnrakstu, ļaujiet man izlemt, nepievienojiet to, kas nav piezīmē, un atgādiniet man, kas man ir jāpārbauda, pirms pāriet uz nākamo darbību. Sāksim ar šo darbību: [solis]
Atšķirība: durvju apsargāšana ik uz soļa un AI pozicionēšana kā pakāpenisks palīgs saglabā drošību un atbildību, vienlaikus saglabājot ātrumu.
Posms-vārti-atbildības kopsavilkums
Skatuves
AI ieguldījums
cilvēka vārti
kritiskā kontrole
Pieteikums
Intervijas sagatavošana
privātumu
Datu klase
Novērtēšana
Izmēru rediģēšana
klīniskais spriedums
Nav diagnozes, nav safabricēšanas
Risks
Faktoru atgādinājums
Iestāde + komanda
Bez rezultāta/lēmuma
Plāns/vadības
uzmetums + ideja
Validācija + klients
Avota apstiprinājums, klienta prioritāte
Ziņot/kontaktēties
Struktūra + vienkāršošana
Pierādījumi + atbildība
Eksperta viedoklis, aizspriedumu kontrole
Noslēgšana
Hronoloģiskais kopsavilkums
precizitāte
uz ierakstiem balstīta
Biežas kļūdas
- Visa procesa nodošana AI un viena paraksta parakstīšana beigās. Kļūdas starp tām nav redzamas; Durvīm jābūt katrā solī.
- Iziet cauri durvīm, nepārbaudot tās. Viena posma izgatavošanu manto nākamais; Katrs rezultāts tiek apstiprināts.
- Pārvaldību atstājot individuālās disciplīnas ziņā. Ja nav institucionālas struktūras, labi ieradumi ir trausli.
- Vienreiz uzrakstiet politiku un aizmirstiet to. Instrumentu un likumdošanas maiņa; Nepieciešama pastāvīga pārskatīšana.
- Neveicot uzskaiti. Bez revīzijas liecībām uz problēmu nevar atskatīties un par to nevar saukt pie atbildības.
Rezumējot
Sociālajā darbā mākslīgais intelekts ir katalizators ik uz soļa, lēmumu pieņēmējs nevienā solī, no pieteikuma iesniegšanas līdz lietas slēgšanai. Novietojiet sešus cilvēku vārtus (konfidencialitāte, klīniskais spriedums, autoritāte/komanda, apstiprināšana/klients, pierādījumi/atbildība, integritāte) plūsmā no gala līdz galam; Nepāriet no vienām durvīm uz citām, neizejot cauri. Lai to padarītu ilgtspējīgu, ir nepieciešama korporatīvā pārvaldība: apstiprināts rīku saraksts, datu politika, lomas, reģistrācija, apmācība un pastāvīga pārskatīšana. Seši moduļa pamatprincipi — cilvēka atbildība, pārbaude, privātums/PDPA, apņemšanās nodrošināt pierādījumus, neobjektivitātes kontrole un orientācija uz klientu — jāiekļauj katrā darbplūsmā.
Lietojumprogrammas uzdevums
Garīgi izveidojiet izdomātu gadījumu no pieteikuma līdz slēgšanai; Katram posmam izveidojiet kontrolsarakstu, izmantojot “lietas plūsmas pārbaudes vārtu” veidni. Pēc tam šajā gadījumā klasificējiet uzdevumus kā atvērts transportlīdzeklis / droša sistēma / bez AI, izmantojot veidni “validated vehicle matching”. Visbeidzot, novērtējiet sevi, izveidojot 10 jautājumu sarakstu savai AI lietošanai, izmantojot “pašpārbaudes” veidni.
kontrolsaraksts
- [ ] Esmu identificējis sešus cilvēku vārtus plūsmā no gala līdz galam.
- [ ] Uz katra soļa "lēmums vai projekts?" Es piemēroju jautājumu.
- [ ] Es saskaņoju uzdevumus ar pareizo transportlīdzekļa tipu (atvērts/drošs/nav).
- [ ] Es pārzinu korporatīvās pārvaldības komponentus (rīks, dati, loma, reģistrācija, apmācība, pārskatīšana).
- [ ] Es ieviesu moduļa sešus nesēja principus savā darbplūsmā.
Moduļa eksāmens
1. Kurš no šiem ir visprecīzākais mākslīgā intelekta pozicionējums sociālajā darbā?
- A) Mākslīgais intelekts var izlemt klienta riska līmeni un iejaukšanās lēmumu bez cilvēka piekrišanas
- B) AI ir rīks apkopošanai, organizēšanai, vienkāršošanai un projektēšanai; Atbildība par klīnisko vērtējumu, risku un galīgo lēmumu gulstas uz ekspertu ✔
- C) Mākslīgais intelekts ir noderīgs tikai teksta tulkošanai un tam nav nekāda sakara ar citiem sociālā darba uzdevumiem
- D) Tā kā mākslīgais intelekts vienmēr ir objektīvāks nekā cilvēki, izvērtēšana ir jāatstāj tā ziņā.
Apraksts: Mākslīgais intelekts; Tas ir palīgs, kas organizē piezīmes, apkopo failu, vienkāršo tekstu un veido melnrakstus. Atbildība par klīnisko spriedumu, riska novērtējumu, profesionālu atzinumu un galīgo lēmumu gulstas uz kompetento speciālistu; Nepārbaudīta izvade var izraisīt klienta nepareizu spriedumu, izvairīšanos no riska vai sensitīvu datu noplūdi.
2. Kāds ir vispareizākais norādījums, ja mākslīgais intelekts pārvērš intervijas neapstrādātas piezīmes lietas ierakstā?
- A) Pieprasīt mākslīgajam intelektam saprātīgā veidā aizpildīt trūkstošās daļas, lai tas izskatītos profesionāli.
- B) Ļauj AI pievienot papildu novērojumus, lai bagātinātu ierakstu
- C) Lūdzot skolēnam izmantot tikai piezīmē faktiski iekļauto informāciju, atzīmēt trūkstošos punktus kā "nepieciešams precizējums" un neko nepievienot ✔
- D) ievietojot to tieši failā, nesalīdzinot to ar piezīmi, ja vien izvade ir plūstoša
Paskaidrojums: visbīstamākā mākslīgā intelekta tendence ir izdomāt novērojumus, skaitļus vai citātus, kas nav piezīmēs, lai ieraksts liktos “pilnīgs”. Pareizā pieeja ir teikt “tikai izmantojiet to, kas ir piezīmē, atzīmējiet trūkstošos, neko nepievienojiet”. Atstarpes nav aizpildītas, tās tiek atzīmētas precizēšanai.
3. Kāpēc lietas pierakstā ir svarīga atšķirība starp “faktu” un “interpretāciju”?
- A) Fakts ir konkrēts novērojums/paziņojums, savukārt interpretācija ir profesionāls secinājums, kam nepieciešams pamatojums; Abas ir jāatdala un komentārā jāatzīmē ✔
- B) Atšķirība nav nepieciešama; faktu un komentāru ierakstā var ierakstīt vienādi
- C) nozīme ir tikai interpretācijai; Tas ir iespējams pat tad, ja fakti netiek fiksēti
- D) Tā kā mākslīgais intelekts lieliski atšķir šo atšķirību, nav nepieciešama cilvēka kontrole.
Paskaidrojums: “Viņš intervijā trīs reizes raudāja” ir fakts; "Viņš bija nomākts" ir komentārs, ko nevar uzrakstīt bez klīniska pamata. Ieraksts norāda uz faktu un ietver interpretāciju tikai ar skaidru marķējumu un pamatojumu. AI var raiti sajaukt abus; Cilvēka pienākums ir atšķirt un izvairīties no stigmatizējošas valodas.
4. Kādai AI lomai vajadzētu būt, lemjot par to, vai bērns ir drošībā mājās vai kāda ir gadījuma riska pakāpe?
- A) Mākslīgais intelekts var izlasīt lietu, noteikt riska līmeni un pieņemt drošības lēmumu
- B) mākslīgā intelekta piešķirtā zema riska etiķete var ignorēt eksperta novērojumu par pretējo.
- C) mākslīgais intelekts tikai atgādina faktorus un sakārto piezīmes; Riska līmenis un drošības lēmums pieder ekspertam, komandai, uzraudzībai un juridiskajam procesam ✔
- D) Riska lēmumu pieņemšanā mākslīgais intelekts ir uzticamāks par cilvēkiem, jo tas ir objektīvs.
Apraksts: Riska līmenis un drošības lēmums; Tam nepieciešama profesionāla autoritāte, klīniskais vērtējums, daudznozaru komandas viedoklis, uzraudzība un juridiskā atbildība. Šeit AI var tikai atsaukt atmiņā riska/aizsardzības faktorus un rediģēt piezīmes; nevar iegūt punktu skaitu vai lēmumus. Tas var arī attiecināt sistemātiski augstu risku uz nelabvēlīgām grupām apmācību datu novirzes dēļ, tāpēc tā rezultātu nevar izmantot kā lēmumu.
5. Kā rīkoties, ja mākslīgais intelekts sniedz klientam nosūtīšanas informāciju, sakot "šis centrs, tas tālrunis"?
- A) Adreses un tālruņa numura apstiprināšana no iestādes oficiālā un pašreizējā avota pirms tās nodošanas klientam ✔
- B) informācijas nodošana tieši klientam, ja tā tiek sniegta pārliecinoši
- C) Pieņemot, ka informācija ir absolūti pareiza, kamēr mākslīgais intelekts norāda pašreizējo datumu
- D) Domājot, ka informācijas precizitāte nav jāizmeklē, jo tā kaut kur ir pieminēta.
Apraksts: mākslīgais intelekts var veidot pakalpojumus, pieteikuma prasības, adreses un tālruņu numurus vai sniegt novecojušu informāciju; Iestādes apvienojas, pārceļas, slēdzas. Klienta nosūtīšana uz nepārbaudītu adresi novedīs pie izšķērdēta ceļojuma un uzticības zaudēšanas. Tāpēc mākslīgā intelekta sniegtā kontaktinformācija ir jāapstiprina pašas iestādes oficiālajā kanālā, pirms tā tiek nodota klientam.
6. Kam ir jāizvirza mērķi atbildes plānā un kāda ir AI loma?
- A) Mākslīgajam intelektam ir gan jānosaka mērķi, gan jāuzraksta viss plāns, neprasot klientam.
- B) Klients (kopā ar speciālistu) nosaka mērķus; AI ievieto tos SMART formātā un strukturē, nepievieno jaunus mērķus ✔
- C) mērķi nav svarīgi; Jo vairāk mērķu plānā ir, jo labāk.
- D) Mākslīgais intelekts var ignorēt klienta prioritātes, jo tas izskatās profesionāli
Apraksts: Sociālā darba pamatvērtība ir “pašnoteikšanās”: klients izvirza mērķus un prioritātes, veidojot tās ar ekspertu profesionālajām zināšanām. Mākslīgais intelekts ievieto šos mērķus SMART formātā un iesaka pasākumus un rādītājus; bet viņš nevar pievienot jaunus mērķus, kurus klients nesaka. Klientam nevar attiecināt svešu, ārēji uzspiestu plānu.
7. Kurā jautājumā mākslīgais intelekts ir visbīstamākais tiesā iesniedzamajā sociālās izmeklēšanas ziņojumā?
- A) Spēja izdomāt neesošus datumus, novērojumus vai citātus, lai pārskats izskatītos “pilnīgs” ✔
- B) Padarīt pārāk formālu teksta valodu
- C) Ziņojuma rakstīšana īsāka, nekā prasīts
- D) Virsrakstu alfabētiskā secība
Paskaidrojums: visbīstamākā mākslīgā intelekta tendence ir pievienot neesošu datumu, novērojumu vai citātu, lai ziņojums šķist “pilnīgs”. Safabricēts teikums tiesas ziņojumā var gan maldināt lēmumu, gan sagraut eksperta uzticamību. Tāpēc katrs gadījums ir jāsaista ar reālu interviju/novērojumu/dokumentu, un profesionālais viedoklis jāveido ekspertam.
8. Kam jāraksta sociālās izmeklēšanas ziņojuma profesionālā atzinuma un viedokļu (ieteikumu) sadaļa?
- A) Mākslīgais intelekts; jo tas sniedz objektīvāku ieteikumu
- B) Rakstot ziņojumu, viedokļu sadaļa nekad netiek aizpildīta.
- C) Mākslīgais intelekts raksta atzinumu, eksperts parakstās tikai beigās
- D) eksperts; profesionālais viedoklis un viedoklis ir viņa autoritāte un atbildība, mākslīgais intelekts tikai skaidro valodu ✔
Paziņojums: Profesionāls viedoklis un viedoklis — “tas ir šī bērna interesēs”, “šī vienošanās ir piemērota” — ir eksperta juridiskā vara un atbildība. "Ko es ieteiktu mākslīgajam intelektam?" Tas netiek jautāts; Viņa izteiktais “ieteikums” var būt gan izdomāts, gan atbildības nodošana. Labākajā gadījumā mākslīgais intelekts precizē eksperta rakstītā viedokļa valodu.
9. Kāda ir viskritiskākā kontrole, vienkāršojot smagu oficiālu palīdzības vēstuli klientam ar mākslīgo intelektu?
- A) Saglabājiet tekstu pēc iespējas īsāku, neskatieties uz detaļām
- B) Rezultāts izskatās gluds un estētisks
- C) Pārbaude, vai nav izlaistas nekādas tiesības, nosacījumi, summas, datumi vai paziņojumi, salīdzinot ar oriģinālu ✔
- D) Vienkāršošana sniedz klientam komfortu, sniedzot viņam mazāk informācijas.
Paskaidrojums: vienkāršošana nenozīmē kropļošanu; Izmantojot “saīsināt” vai “vienkāršot”, AI var norīt tiesības, nosacījumu, summu, datumu vai paziņojumu. Klients var zaudēt savas tiesības ar “vieglu”, bet nepilnīgu informāciju. Tāpēc vienkāršotais teksts ir jāsalīdzina ar oriģinālu un jāpārbauda, vai nav pazaudēta svarīga informācija, un pat mākslīgajam intelektam ir jāuzskaita svarīgi elementi, kurus tas aizsargā.
10. Kā ir pareizi izturēties pret mākslīgā intelekta radīto statistiku, sagatavojot finansējuma pieteikumu?
- A) Tieši izmantojot mākslīgā intelekta sniegto statistiku, lai tas izskatītos iespaidīgi
- B) mākslīgā intelekta neveidošana statistikā, nepieciešamības gadījumā izdrukājot [NEPIECIEŠAMI DATI] un ievietojot katru numuru no reālā avota ✔
- C) Uzskatot, ka avots nav svarīgs, kamēr numurs ir iekļauts pieteikumā.
- D) Pieņemot, ka nav nepieciešams pārbaudīt statistiku, jo AI raksta pārliecinoši
Apraksts: mākslīgais intelekts var veidot pārsteidzošu, bet bezavota statistiku; Skaitlis bez avota gandrīz vienmēr ir neuzticams. Safabricēta statistika pieteikumā gan noraidīs pieteikumu, gan graus iestādes uzticamību. Pareizā pieeja ir neveidot AI skaitļus (“Ierakstiet [NEPIECIEŠAMI DATI]”) un ievietot katru numuru no reāla, pārbaudīta avota.
11. Kāpēc ir kaitīgi lūgt mākslīgajam intelektam “paskaidrot, kāpēc šī ģimene ir neadekvāta bērnu audzināšanā”?
- A) Jo jautājums ir pārāk garš
- B) Tā kā mākslīgais intelekts nevar sniegt nekādu informāciju par ģimenes lietām
- C) Tā kā mākslīgais intelekts jau no paša sākuma pieņem rezultātu, tas (glaimojoši) rada nepamatotu un neobjektīvu apstiprinājumu; Jautājumam jābūt neitrālam un līdzsvarotam ✔
- D) Jo mākslīgais intelekts vienmēr rakstīs par labu ģimenei
Paskaidrojums: Šis jautājums paredz rezultātu (“nepietiekams”). AI rada bez pierādījumiem un neobjektīvu tekstu, kas apstiprina šo pieņēmumu ar tendenci glaimot (apstiprināt jūsu mājienu). Neobjektīvs jautājums rada neobjektīvu atbildi. Patiešām, tas ir neitrāls jautājums, kas neparedz iznākumu, līdzsvaro gan stiprās puses, gan bažas un prasa tikai pierādījumus.
12. Kā piemērot testēšanu zem leņķa, lai pārbaudītu, vai AI izvadē nav novirzes?
- A) Domājot par to pašu situāciju citai grupai un jautājot: "Vai tas būtu rakstīts tajā pašā valodā?" ✔ Dubulto standartu pārbaude, jautājot
- B) Pieņemt mākslīgā intelekta pirmo atbildi kā neitrālu un nemeklēt citu leņķi
- C) Uzdodiet tikai tādus jautājumus, kas atbalsta klienta grupu
- D) Pieņemot, ka nav nepieciešama papildu kontrole, jo mākslīgajā intelektā neobjektivitāte vispār nepastāv
Paskaidrojums: AI var rakstīt vienu un to pašu uzvedību atšķirīgā tonī dažādām grupām (piemēram, “nolaidības risks” ģimenēm ar zemiem ienākumiem, “piespiedu vecāks” ar augstiem ienākumiem). Inversijas tests ir "ja klients būtu no citas sociālekonomiskās/etniskās grupas, vai tas būtu rakstīts tajā pašā valodā?" ir jautāt; Tas padara redzamus dubultstandartus, kuru pamatā ir stereotipi, nevis pierādījumi.
13. Kura ir pareizā pieeja, lai apkopotu klienta faktisko lietu (tostarp vārdu, adresi, informāciju par veselību)?
- A) Lai iegūtu ātrumu, ielīmējiet to tuvākajā publiskajā AI rīkā un apkopojiet to
- B) Faila apstrāde, nepievēršot uzmanību privātumam, jo tas ir īss
- C) Ievadiet visu, ieskaitot informāciju par veselību, un saglabājiet tikai rezultātu
- D) Apstrādāt tikai drošā sistēmā, ko apstiprinājusi iestāde vai ar deidentificētu tekstu, ar minimāliem datiem ✔
Izpaušana: personas dati, kas identificē klientu, jo īpaši sensitīvi dati, piemēram, veselība, nekad netiek ievadīti publiskajā rīkā, ko iestāde nav apstiprinājusi; tekstu var apstrādāt, glabāt ārējos serveros vai izmantot modeļu apmācībā, un eksfiltrācija ir neatgriezeniska. Tas arī ir KVKK pārkāpums. Šāda veida darbs tiek veikts tikai iekšējās, drošās, apstiprinātās sistēmās, kurās nenoplūst dati, vai ar deidentificētu tekstu.
14. Kāpēc ar nosaukumu dzēšanu no dokumenta ne vienmēr pietiek, lai to iekļautu publiskajā rīkā?
- A) Vārdu dzēšana vienmēr ir pilnīga anonimizācija un padara katru dokumentu drošu
- B) Kamēr dokuments ir īss, no konteksta nav iespējams izsecināt identitāti
- C) Dokuments, kura nosaukums ir dzēsts, pilnībā neietilpst KVKK darbības jomā.
- D) Konteksts (apkaime, vecums, notikums, ģimenes struktūra) var atkārtoti apstiprināt identitāti; Aizsardzību nodrošina instrumenta un vides izvēle ✔
Paskaidrojums: pat ja vārdi tiek dzēsti, konteksts (reta apkārtnes, vecuma, notikuma, datuma, ģimenes struktūras utt. kombinācija) var padarīt personu identificējamu; Viņš var būt vienīgais cilvēks apkārtnē, kas atbilst aprakstam. Īstu aizsardzību nodrošina nevis maskēšana, bet gan pareiza instrumenta un vides izvēle; Konteksts ir arī personas dati, un neskaidra informācija ir jāaizsargā kā augstāka klase.
15. No pieteikuma iesniegšanas līdz lietas slēgšanai, kāds ir visefektīvākais veids, kā novērst vienas AI kļūdas noplūdi galīgajā lēmumā?
- A) Visa procesa deleģēšana vienam AI rīkam un parakstīšana tikai vienu reizi beigās
- B) Cilvēka verifikācijas vārtu un caurlaides nosacījuma ievietošana katrā posmā (slāņainā verifikācija) ✔
- C) Ātruma starpposma apstiprinājumu noņemšana un pārbaude tikai izejas posmā
- D) ļaut katram ekspertam brīvi izmantot savu rīku, neveicot uzskaiti
Apraksts: katrā posmā (pieteikums/konfidencialitāte, novērtējums/klīniskais spriedums, risks/autorizācija, plāns/pārbaude, ziņojums/pierādījumi, slēgšana/precizitāte) ir izvietoti cilvēka verifikācijas vārti; Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām. Šī slāņveida struktūra neļauj halucinācijām, neobjektivitātei vai konfidencialitātes kļūdai vienā posmā iekļūt lēmumā, kas ietekmē klientu.