Ieguvumi:
- Atpazīt, kad AI rada novirzes, izmantojot apmācību datus, kadrējumu, dubultstandartus un glaimi
- Spēja izveidot kontroli pret neobjektivitāti ar neitrāliem jautājumiem, pierādījumu-stereotipa diskrimināciju un apgrieztā leņķa testu
- Spēja tulkot stigmatizējošo valodu aprakstošā un cieņpilnā valodā, izmantojot kultūras zināšanas kā uzmanības punktu, nevis kā galīgu noteikumu
Sociālā darba raison d'être ir taisnīgums un cilvēka cieņa; Profesijas pamatā ir apņemšanās, ka katrs indivīds ir vienlīdz vērtīgs, tiek iebilsts pret diskrimināciju un tiek aizsargātas neaizsargātās grupas. Mākslīgais intelekts rada risku, kas var klusībā kaitēt tieši šīm vērtībām: neobjektivitāte. AI mācās no vēsturiskiem datiem; Ja šie dati ietver nevienlīdzību, stereotipus un diskrimināciju sabiedrībā, AI tos apgūst un atveido tekošā, “objektīvā” valodā. Sociālā darbinieka rokās tas var izpausties sistemātiski negatīvākā grupas novērtējumā, ģimenes stereotipā vai kultūras neizpratnē. Šajā nodaļā jūs iemācīsities atpazīt AI novirzes, kontrolēt to un izmantot AI godīgi un kultūras jutīgumā.
Fakts no sākuma: AI nav neitrāls, tas šķiet neitrāls. Visbīstamākā neobjektivitāte ir izteikta pārliecinošā un profesionālā valodā; jo tas tiek pieņemts bez šaubām. Jūsu kā sociālā darbinieka uzdevums ir padarīt šo neredzamo aizspriedumu redzamu un uzraudzīt, vai rezultāts nav pretrunā ar jūsu profesionālajām vērtībām.
No kurienes rodas AI novirze un kā tas izskatās?
- Apmācības datu novirze. AI mācās no tekstiem, kas atspoguļo nevienlīdzību sabiedrībā. Stereotipi par noteiktām etniskām grupām, nabadzīgajiem, invalīdiem, noteiktiem rajoniem vai dzimumiem var nonākt produkcijā.
- Valodas un kadrēšanas aizspriedumi. AI var veidot grupu kā pasīvu, “problemātisku” vai “objektu, kam nepieciešama palīdzība”; cita grupa kā priekšmeti. Viena grupa to pašu uzvedību var interpretēt kā "kulturālu" un cita grupa "problemātisku".
- Pārstāvības trūkums. AI var neprecīzi vai virspusēji saprast grupas, kas datos ir nepietiekami pārstāvētas (mazas populācijas, reti gadījumi).
- Glaimi (sycophancy). AI mēdz apstiprināt jūsu netiešo viedokli; Neobjektīvs jautājums sniedz neobjektīvu apstiprinājumu.
Šīs novirzes ir īpaši bīstamas sociālajā darbā, jo rezultāts tieši skar reālu cilvēku dzīvi — novērtējums, ziņojums, nosūtīšana.
Uzmanību: "AI to tā novērtēja" ir brīdinājuma zīme, nevis attaisnojums. Kad redzat rezultātu, kas negatīvi attēlo grupu vai indivīdu, pirmais jautājums ir "vai tas ir balstīts uz pierādījumiem vai stereotipiem?" vajadzētu būt.
Soli pa solim: audits pret aizspriedumiem
- Jautājiet neitrāli. Uzdodiet jautājumus, kas nenozīmē vai nenoved; Nevis "paskaidrojiet, kāpēc šī ģimene ir nevērīga", bet "ko šie novērojumi varētu nozīmēt, kādi ir alternatīvi skaidrojumi?" jautāt.
- Atšķiriet pierādījumus no stereotipiem. Par katru negatīvo apgalvojumu jautājiet: vai tas ir balstīts uz konkrētiem pierādījumiem, kas ir manā priekšā, vai arī tas ir balstīts uz vispārīgu pieņēmumu par grupu?
- Pārbaudiet no pretējā leņķa. Apsveriet to pašu situāciju citai grupai: “Ja klients būtu no citas sociālekonomiskās/etniskās izcelsmes, vai AI to rakstītu tajā pašā valodā?”
- Meklējiet kultūras jūtīgumu. Jautājiet par uzvedības kultūras kontekstu; bet uztveriet kultūras zināšanas kā iespēju un piesardzības punktu, nevis kā absolūtu noteikumu (izvairieties no stereotipiem).
- Notīriet nospieduma mēli. Tulkojiet to valodā, kas apraksta situāciju, nevis personu, kā arī saskata stiprās puses.
trīs mini futrāļi
1. gadījums — apgrieztais leņķis atklāja novirzi. Eksperts lika AI apkopot divus līdzīgus gadījumus; vienīgā atšķirība bija ģimeņu sociāli ekonomiskajā statusā. YZ rakstīja tonī "augsts nolaidības risks" ģimenei ar zemiem ienākumiem un tonī "vecāki, kas spiesti uzvesties" ģimenei ar augstiem ienākumiem. Eksperts atzina šo dubultstandartu un abus vērtējumus destilēja uz pierādījumiem balstītā, vienlīdzīgā valodā.
2. gadījums — izlabota kultūras nepareiza interpretācija. YZ situāciju, kad bērns dzīvo kopā ar paplašinātu ģimeni, raksturoja kā "robežu problēmas un jauktu mājas vidi". Eksperts zināja, ka ģimenes kultūras kontekstā paplašinātā ģimene bija spēcīgs atbalsta un aizsardzības avots. AI bija pārvērtis kultūras spēku par problēmu. Pārskats ir izlabots, lai atzītu šo atbalstu kā resursu.
3. gadījums — galvenais jautājums radīja neobjektivitāti. "Uzrakstiet, kāpēc šis tēvs ir neuzticams," kāds praktikants jautāja AI. AI izstrādāja tekstu, kurā tēvs attēlots negatīvi (glaimi) bez jebkādiem pierādījumiem. Darba vadītājs pārveidoja jautājumu: "Kādi ir novērojumi par tēvu, kādas varētu būt viņa stiprās un vājās puses?" Rezultāts ir kļuvis līdzsvarots un balstīts uz pierādījumiem. Nodarbība: neobjektīvs jautājums rada neobjektīvu atbildi.
Četras kopējamas veidnes
1) Pieprasiet neitrālu, līdzsvarotu novērtējumu:
Apkopojot turpmākos novērojumus, jūs LĪDZSVAROTĀ veidā un TIKAI uz pierādījumiem sniedzat gan iespējamās stiprās puses, gan iespējamās bažas. Neizdariet nekādus secinājumus, pamatojoties uz stereotipiem. Ja komentārs nav balstīts uz novērojumiem, ierakstiet "nepietiekami pierādījumi". Novērojumi: [ielīmēt novērojumus]
2) Novirzes pārbaude (pretēja leņķa pārbaude):
Skatiet tālāk sniegto pārskata tekstu. Vai ir apgalvojumi, kas pauž nepamatotu stereotipu klienta sociālekonomiskā statusa, etniskās piederības, reliģijas, dzimuma, invaliditātes vai apkārtnes dēļ? Katram jautājiet: "Vai tas būtu rakstīts tajā pašā valodā, ja klients būtu no citas grupas?" Atzīmējiet problēmu teikumus. Teksts: [ielīmēt tekstu]
3) Kultūras konteksts (nestereotips):
Sniedziet IESPĒJAS, ko šāda uzvedība/situācija varētu nozīmēt dažādos kultūras kontekstos. Dodiet tos kā punktus, kas jāņem vērā, nevis kā absolūtus noteikumus; Uzsveriet, ka katrā kopienā pastāv individuālas atšķirības. Nevispāriniet par vienu grupu. Situācija: [rakstiet situāciju]
4) Apdrukas mēles tīrīšana:
Tālāk esošajā tekstā atrodiet īpašības vārdus, kas nosoda vai stigmatizē personu (piemēram, "nevērīgs", "nesadarbīgs", "problemātisks"). Katram aizstājiet to pašu faktu ar alternatīvu, kas ir aprakstoša, cienoša un atzīst stiprās puses. Jaunas informācijas pievienošana.Teksts: [ielīmēt tekstu]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Paskaidrojiet, kāpēc šī ģimene ir neadekvāta bērnu audzināšanā.
Šis jautājums jau no paša sākuma pieņem rezultātu ("nepietiekams"). AI ar tendenci uz glaimiem radīs bez pierādījumiem un tendenciozu tekstu, kas apstiprina šo pieņēmumu. Ja jautājums ir tendenciozs, arī atbilde būs tendencioza.
Spēcīga uzvedne:
Pamatojoties uz tālāk sniegtajiem novērojumiem, uzskaitiet gan šīs ģimenes stiprās puses bērnu audzināšanā, gan problēmas, kas rada bažas, LĪDZSVAROTĀ un tikai pierādījumu veidā. Neuzņemieties rezultātu no paša sākuma; Ja pierādījumi nav pietiekami, norādiet to. Izvairieties no stereotipiem.Novērojumi: [ielīmējiet novērojumus]
Atšķirība: līdzsvarots jautājums, kas neparedz iznākumu un prasa pierādījumus, vispirms novērš neobjektivitāti.
Neobjektivitātes veidi un pretpasākumi
Neobjektivitātes veids
Kā tas izskatās
pretpasākums
apmācību dati
grupas stereotips
Pierādījumu un modeļu atšķirība
ierāmēšana
Pasīvā/negatīvā valoda
Līdzsvarota, uz priekšmetu orientēta valoda
dubultstandarti
Tāda pati uzvedība, cits tonis
apgrieztā leņķa pārbaude
kultūras aklums
Kultūras spēka pārvēršana par problēmu
Kultūras konteksta jautājums
glaimi
apstipriniet norādi
Neuzdodiet neitrālus jautājumus
pārstāvības trūkums
Virspusēji/pārpratums
Vietējais/ekspertu apstiprinājums
Biežas kļūdas
- Uzdodot aizspriedumainus jautājumus. Jautājums, kas pieņem secinājumu, rada neobjektīvu atbildi; neitrāla problēma.
- Paļaušanās uz pārliecinošu valodu. Profesionālais tonis nepadara neobjektivitāti pareizu; paskaties pierādījumus.
- Uzskatot kultūras zināšanas par galīgu noteikumu. Uztveriet to kā iespēju un uzmanības punktu; Izvairieties no stereotipiem.
- Nepamanot dubultstandartus. Pārbaudiet, kā viena un tā pati uzvedība tiek rakstīta dažādās grupās.
- Kļūdains zīmogs kā pierādījums. Tas ir "nolaidīgs" spriedums; Aprakstiet parādību, nevērtējiet cilvēku.
Rezumējot
AI nav neitrāls, šķiet neitrāls; Tas atveido nevienlīdzību un stereotipus izglītības datos brīvā valodā. Sociālajā darbā tas var izraisīt netaisnīgu reālu cilvēku vērtējumu. Atzīstiet neobjektivitāti (apmācības dati, ietvars, dubultstandarti, kultūras aklums, glaimi), pārbaudiet to (neitrāls jautājums, pierādījumu un modeļu atdalīšana, leņķa pārbaude, kultūras jutīgums, stigmas attīrīšana) un filtrējiet katru rezultātu, izmantojot profesijas godīguma un goda vērtības. Pēdējais ētiskais filtrs vienmēr esat jūs.
Lietojumprogrammas uzdevums
Palūdziet AI apkopot to pašu izdomātu novērojumu kopu ar diviem dažādiem grupu profiliem (piemēram, atšķirīgu sociālekonomisko statusu) un salīdzināt ar “reversā leņķa testu”, vai toņi/valoda atšķiras. Pēc tam izmēģiniet neitrālu jautājumu ar apzināti neobjektīvu jautājumu ("paskaidrojiet, kāpēc tas nav pietiekami") un pārbaudiet rezultātu atšķirības. Visbeidzot lietojiet tekstam veidni “Ūdenszīmes valodas tīrīšana”.
kontrolsaraksts
- [ ] Es savus jautājumus formulēju neitrāli, nedomājot par rezultātu.
- [ ] Es pārbaudīju katru negatīvo apgalvojumu, izmantojot pierādījumu-stereotipa atšķirību.
- [ ] Es pārbaudīju dubulto standartu ar apgrieztā leņķa testu.
- [ ] Es izmantoju kultūras zināšanas kā piesardzību, nevis kā absolūtu noteikumu.
- [ ] Es aizstāju stigmatizējošo valodu ar aprakstošu, cieņpilnu valodu.