Qligħ:
- Nagħrfu meta l-AI tipproduċi preġudizzju permezz ta' data ta' taħriġ, tfassil, standards doppji, u flattery
- Kapaċità li jiġi stabbilit kontroll kontra l-preġudizzju b'mistoqsijiet newtrali, diskriminazzjoni ta' evidenza-stereotip u test ta' angolu invers
- Kapaċità li tittraduċi lingwa li tistigmatizza f'lingwa deskrittiva u ta' rispett billi tuża l-għarfien kulturali bħala punt ta' attenzjoni aktar milli regola definittiva
Ir-raison d'être tal-ħidma soċjali hija l-ġustizzja u d-dinjità umana; Fil-qalba tal-professjoni hemm impenn li kull individwu jkun ta’ valur ugwali, id-diskriminazzjoni hija opposta, u l-gruppi vulnerabbli huma protetti. L-intelliġenza artifiċjali ġġorr riskju li jista’ jagħmel ħsara fis-skiet preċiżament lil dawn il-valuri: preġudizzju. AI titgħallem minn data storika; Jekk dik id-dejta tinkludi inugwaljanzi, sterjotipi, u diskriminazzjoni fis-soċjetà, l-IA titgħallimhom u tirriproduċihom b’lingwaġġ fluwenti u li jidher “oġġettiv”. F’idejn ħaddiem soċjali, dan jista’ jissarraf f’evalwazzjoni sistematikament aktar negattiva ta’ grupp, sterjotipar ta’ familja, jew fehim ħażin ta’ kultura. F'din l-unità, titgħallem tagħraf il-preġudizzju tal-AI, tikkontrolla kontriha, u tuża l-AI b'ġustizzja u sensittività kulturali.
Fatt mill-bidu: AI mhix newtrali, tidher newtrali. L-aktar preġudizzju perikoluż huwa dak ippreżentat b'lingwaġġ kunfidenti u professjonali; għax hija aċċettata bla dubju. Ix-xogħol tiegħek bħala ħaddiem soċjali huwa li tagħmel dan il-preġudizzju inviżibbli viżibbli u tissorvelja jekk l-output ikunx f'kunflitt mal-valuri professjonali tiegħek.
Minn fejn ġej il-preġudizzju tal-AI u kif jidher?
- Preġudizzju tad-dejta tat-taħriġ. L-IA titgħallem minn testi li jirriflettu l-inugwaljanzi fis-soċjetà. L-istereotipi dwar ċerti gruppi etniċi, il-foqra, il-persuni b'diżabilità, ċerti distretti, jew is-sessi jistgħu joħorġu fl-output.
- Lingwa u preġudizzju tal-qafas. L-AI tista' tinkwadra grupp bħala passiv, "problematiku" jew "oġġett fil-bżonn ta' għajnuna"; grupp ieħor bħala suġġetti. L-istess imġieba tista' tiġi interpretata bħala "kulturali" minn grupp wieħed u "problematika" minn grupp ieħor.
- Nuqqas ta' rappreżentazzjoni. L-AI tista' tifhem b'mod mhux preċiż jew superfiċjali gruppi li mhumiex rappreżentati biżżejjed fid-dejta (popolazzjonijiet żgħar, każijiet rari).
- Flattery (sycophancy). L-AI għandha t-tendenza li tikkonferma l-fehma impliċita tiegħek; Mistoqsija preġudikata ġġib konferma preġudikata.
Dawn il-preġudizzji huma speċjalment perikolużi fix-xogħol soċjali minħabba li l-output jolqot direttament il-ħajja tan-nies reali—valutazzjoni, rapport, riferiment.
Attenzjoni: "L-AI evalwatha hekk" huwa sinjal ta' twissija, mhux ġustifikazzjoni. Meta tara output li jpinġi grupp jew individwu b'mod negattiv, l-ewwel mistoqsija hija "hija bbażata fuq evidenza jew ibbażata fuq sterjotipi?" għandu jkun.
Pass pass: verifika kontra l-preġudizzju
- Staqsi newtrali. Staqsi mistoqsijiet li ma jimplikawx jew iwasslu; Mhux “spjega għala din il-familja hija traskurata,” imma “x’jistgħu jfissru dawn l-osservazzjonijiet, x’inhuma l-ispjegazzjonijiet alternattivi?” staqsi.
- Iddistingwi bejn l-evidenza u l-isterjotip. Għal kull dikjarazzjoni negattiva, staqsi: hija bbażata fuq l-evidenza konkreta quddiemi, jew hija bbażata fuq suppożizzjoni ġenerali dwar grupp?
- Test mill-angolu oppost. Ikkunsidra l-istess sitwazzjoni għal grupp differenti: "Jekk il-klijent kien minn sfond soċjoekonomiku/etniku differenti, l-AI tiktebha bl-istess lingwa?"
- Fittex sensittività kulturali. Staqsi dwar il-kuntest kulturali ta’ imġieba; imma ħu l-għarfien kulturali bħala possibbiltà u punt ta’ kawtela, mhux regola assoluta (evita l-isterjotip).
- Naddaf l-ilsien tal-imprinting. Ittraduċiha f'lingwa li tiddeskrivi s-sitwazzjoni, mhux il-persuna, u tara wkoll is-saħħiet.
tliet każijiet żgħar
Każ 1 — L-angolu invers żvela bias. Espert kellu AI tiġbor fil-qosor żewġ każijiet simili; l-unika differenza kienet l-istatus soċjoekonomiku tal-familji. YZ kiteb fit-ton ta '"riskju għoli ta' negliġenza" għall-familja bi dħul baxx, u fit-ton ta '"ġenitur sfurzat li jġib ruħu" għall-familja bi dħul għoli. L-espert irrikonoxxa dan l-istandard doppju u distillat iż-żewġ valutazzjonijiet f'lingwaġġ ugwali bbażat fuq l-evidenza.
Każ 2 — Interpretazzjoni żbaljata kulturali kkoreġuta. YZ ifformula s-sitwazzjoni ta’ tifel li jgħix ma’ familja estiża bħala “kwistjonijiet ta’ konfini u ambjent domestiku mħallat.” L-espert kien jaf li fi ħdan il-kuntest kulturali tal-familja, il-familja estiża kienet sors qawwi ta’ appoġġ u protezzjoni. L-AI kienet bidlet forza kulturali fi problema. Ir-reviżjoni ġiet ikkoreġuta biex tirrikonoxxi dan l-appoġġ bħala riżors.
Każ 3 — Mistoqsija ewlenija pproduċiet preġudizzju. "Ikteb għaliex dan il-missier mhuwiex affidabbli," staqsa intern lill-AI. L-AI pproduċiet test li jpinġi lill-missier b'mod negattiv (flattery) mingħajr ebda evidenza. Is-superviżur immodifika l-mistoqsija: "X'inhuma l-osservazzjonijiet dwar il-missier, x'jistgħu jkunu s-saħħiet u d-dgħufijiet tiegħu?" L-output sar ibbilanċjat u bbażat fuq l-evidenza. Lezzjoni: mistoqsija preġudikata tipproduċi tweġiba preġudikata.
Erba' mudelli li jistgħu jiġu kkupjati
1) Itlob evalwazzjoni newtrali u bilanċjata:
Fil-qosor tal-osservazzjonijiet li ġejjin, inti tippreżenta kemm is-saħħiet possibbli kif ukoll it-tħassib possibbli b'mod BLANĊjat u bbażat BISS fuq l-evidenza. M'għandekx tagħmel inferenzi bbażati fuq sterjotipi. Jekk kumment ma jiddependix fuq l-osservazzjoni, ikteb "evidenza insuffiċjenti." Osservazzjonijiet: [osservazzjonijiet pejst]
2) Kontroll tal-preġudizzju (test tal-angolu oppost):
Iċċekkja t-test tar-reviżjoni hawn taħt. Hemm dikjarazzjonijiet li jwasslu sterjotip mhux sostanzjat minħabba l-istatus soċjoekonomiku, l-etniċità, ir-reliġjon, is-sess, id-diżabilità jew il-viċinat tal-klijent? Għal kull wieħed, staqsi: "Dan ikun miktub bl-istess lingwa jekk il-klijent ikun minn grupp differenti?" Issenja sentenzi problema.Test: [paste test]
3) Kuntest kulturali (mhux stereotip):
Ipprovdi POSSIBILITAJIET għal xi tista' tfisser l-imġieba/sitwazzjoni li ġejja f'kuntesti kulturali differenti. Agħti dawn bħala punti li għandhom jitqiesu, mhux bħala regoli assoluti; Enfasizza li hemm differenzi individwali f'kull komunità. Tiġġeneralizzax dwar grupp wieħed. Sitwazzjoni: [ekteb is-sitwazzjoni]
4) Tindif tal-ilsien tal-imprinting:
Fit-test ta’ hawn taħt, sib aġġettivi li jiġġudikaw jew jistigmatizzaw lill-persuna (eż., "traskurat," "mhux kooperazzjoni," "problematika"). Għal kull wieħed, ibdel l-istess fatt b'alternattiva li hija deskrittiva, rispettuża, u tagħraf is-saħħiet. Żieda ta' informazzjoni ġdida. Test: [paste test]
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Spjega għaliex din il-familja mhix adegwata biex trabbi t-tfal.
Din il-mistoqsija tassumi r-riżultat mill-bidu ("insuffiċjenti"). L-AI, bit-tendenza tagħha għall-flattery, se tipproduċi test bla evidenza u preġudikat li jikkonferma din is-suppożizzjoni. Jekk il-mistoqsija tkun preġudikata, it-tweġiba tkun ukoll preġudikata.
Pront qawwi:
Ibbażat fuq l-osservazzjonijiet li ġejjin, elenka kemm il-qawwiet ta' din il-familja fit-trobbija tat-tfal kif ukoll l-oqsma ta' tħassib b'mod BLANĊjat u b'evidenza biss. M'għandekx tassumi r-riżultat mill-bidu; Jekk l-evidenza ma tkunx biżżejjed, għid hekk. Evita l-isterjotipi.Osservazzjonijiet: [osservazzjonijiet pejst]
Id-differenza: mistoqsija bilanċjata li ma tassumix ir-riżultat u titlob evidenza tevita l-preġudizzju fl-ewwel lok.
Tipi ta' preġudizzju u kontromiżuri
Tip ta' preġudizzju
Kif jidher
kontromiżura
data tat-taħriġ
sterjotip tal-grupp
Distinzjoni evidenza-mudell
tfassil
Lingwa passiv/negattiv
Lingwa bilanċjata, iċċentrata fuq is-suġġett
standard doppju
L-istess imġieba, ton differenti
test ta' l-angolu b'lura
għama kulturali
Nibdlu l-poter kulturali fi problema
Kwistjoni tal-kuntest kulturali
flatterija
tikkonferma l-implikazzjoni
M'għandekx tistaqsi mistoqsijiet newtrali
nuqqas ta’ rappreżentazzjoni
Superfiċjali/nuqqas ta' ftehim
Konferma lokali/espert
Żbalji komuni
- Tistaqsi mistoqsijiet preġudikati. Mistoqsija li tassumi konklużjoni tipproduċi tweġiba preġudikata; problema newtrali.
- Li sserraħ fuq lingwaġġ kunfidenti. It-ton professjonali ma jagħmilx il-preġudizzju korrett; ħares lejn l-evidenza.
- Tqies l-għarfien kulturali bħala regola definittiva. Ħuha bħala punt ta 'possibbiltà u attenzjoni; Evita l-isterjotipi.
- Mhux innota l-istandards doppji. Ittestja kif l-istess imġieba hija miktuba fi gruppi differenti.
- Tiżbalja t-timbru bħala evidenza. Huwa ġudizzju "negliġenti"; Iddeskrivi l-fenomenu, tiġġudikax il-persuna.
Fil-qosor
AI mhix newtrali, tidher newtrali; Jirriproduċi l-inugwaljanzi u l-isterjotipi fid-dejta edukattiva b'lingwa fluwenti. Fil-ħidma soċjali, dan jista 'jwassal għal evalwazzjonijiet inġusti ta' nies reali. Agħraf il-preġudizzju (dejta tat-taħriġ, tfassil, standards doppji, għama kulturali, flattery), iċċekkja kontriha (mistoqsija newtrali, separazzjoni tal-mudelli tal-evidenza, ittestjar tal-angoli, sensittività kulturali, ikklerjar tal-istigma), u ffiltra kull output permezz tal-valuri tal-ġustizzja u l-unur tal-professjoni. Il-filtru etiku finali dejjem int.
Kompitu ta' applikazzjoni
Ħalli l-AI tiġbor fil-qosor l-istess sett ta’ osservazzjonijiet fittizji b’żewġ profili ta’ grupp differenti (eż. status soċjoekonomiku differenti) u qabbel mat-“test tal-angolu invers” jekk it-toni/lingwa jvarjawx. Imbagħad ipprova mistoqsija newtrali b'mistoqsija preġudikata konxjament (“spjega għaliex mhix adegwata”) u eżamina d-differenza fir-riżultati. Fl-aħħarnett, applika l-mudell "watermarker language cleaning" għal test.
lista ta' kontroll
- [ ] Inkwadrajt il-mistoqsijiet tiegħi b'mod newtrali, mingħajr ma nassumi r-riżultat.
- [ ] Iċċekkja kull dikjarazzjoni negattiva bl-użu tad-distinzjoni evidenza-stereotip.
- [ ] Iċċekkja l-istandard doppju bit-test tal-angolu invers.
- [ ] Jien użajt l-għarfien kulturali bħala punt ta' kawtela, mhux regola assoluta.
- [ ] Bidejt il-lingwaġġ ta' stigmatizzazzjoni b'lingwaġġ deskrittiv u rispettuż.