Табыстар:
- Жаттығу деректері, жақтаулар, қосарланған стандарттар және жағымпаздық арқылы AI қателік тудыратынын мойындау
- Бейтарап сұрақтармен, дәлелдемелік-стереотиптік дискриминациямен және кері бұрыштық тестпен қиғаштыққа қарсы бақылауды орнату мүмкіндігі
- Мәдени білімді нақты ереже емес, назар аудару нүктесі ретінде пайдалану арқылы стигматизациялаушы тілді сипаттаушы және құрметтейтін тілге аудару мүмкіндігі
Әлеуметтік жұмыстың себебі әділдік пен адамдық қадір-қасиет; Мамандықтың өзегі – әрбір адамның тең құндылығы, кемсітушілікке қарсы тұру және осал топтардың қорғалуы туралы міндеттеме. Жасанды интеллект дәл осы құндылықтарға үнсіз зиян келтіруі мүмкін тәуекелге ие: біржақтылық. AI тарихи деректерден сабақ алады; Егер бұл деректер қоғамдағы теңсіздіктерді, стереотиптерді және кемсітуді қамтыса, AI оларды үйренеді және оларды еркін, «объективті» көрінетін тілде шығарады. Әлеуметтік қызметкердің қолында бұл топты жүйелі түрде теріс бағалауға, отбасының стереотипіне немесе мәдениетті түсінбеуге әкелуі мүмкін. Бұл бөлімде сіз AI бейімділігін тануды, оған қарсы бақылауды және AI-ді әділдік пен мәдени сезімталдықпен пайдалануды үйренесіз.
Басынан факт: AI бейтарап емес, ол бейтарап болып көрінеді. Ең қауіпті жағы сенімді және кәсіби тілде берілген; өйткені ол сұрақсыз қабылданады. Сіздің әлеуметтік қызметкер ретіндегі жұмысыңыз – бұл көрінбейтін қиғаштықты көрсету және нәтиже сіздің кәсіби құндылықтарыңызға қайшы келетінін бақылау.
AI бейімділігі қайдан келеді және ол қалай көрінеді?
- Тренинг деректерінің бұрмалануы. AI қоғамдағы теңсіздіктерді көрсететін мәтіндерден үйренеді. Кейбір этникалық топтар, кедейлер, мүгедектер, белгілі бір аудандар немесе жыныстар туралы стереотиптер шығарылымға ағып кетуі мүмкін.
- Тіл және фреймді бұрмалау. AI топты пассивті, «проблемалық» немесе «көмекке мұқтаж нысан» ретінде көрсете алады; субъектілері ретінде басқа топ. Дәл осындай мінез-құлықты бір топ «мәдени», екінші топ «проблемалық» деп түсіндіруі мүмкін.
- Өкілдіктің болмауы. Жасанды интеллект деректерде толық көрсетілмеген топтарды дәл емес немесе үстірт түсінуі мүмкін (популяцияның аздығы, сирек жағдайлар).
- Жағымпаздық (сикофония). AI сіздің болжамды көзқарасыңызды растауға бейім; Біржақты сұрақ біржақты растауды әкеледі.
Бұл біржақтылық қоғамдық жұмыста әсіресе қауіпті, себебі нәтиже нақты адамдардың өміріне тікелей әсер етеді — бағалау, есеп, жолдама.
Абайлаңыз: «АИ оны осылай бағалады» - бұл ақтау емес, ескерту белгісі. Топты немесе жеке адамды теріс бейнелейтін нәтижені көргенде, бірінші сұрақ: «бұл дәлелдерге негізделген бе немесе стереотиптерге негізделген бе?» болуы керек.
Қадамдық: біржақтылыққа қарсы аудит
- Бейтараптан сұраңыз. Түсінбейтін немесе жетелемейтін сұрақтар қойыңыз; «Бұл отбасының неге немқұрайлы екенін түсіндір» емес, «бұл бақылаулар нені білдіруі мүмкін, балама түсіндірмелер қандай?» сұраңыз.
- Дәлелдемелер мен стереотипті ажыратыңыз. Әрбір теріс мәлімдеме үшін мынаны сұраңыз: бұл менің алдымдағы нақты дәлелдерге негізделген бе, әлде топ туралы жалпы болжамға негізделген бе?
- Қарама-қарсы бұрыштан сынау. Басқа топ үшін бірдей жағдайды қарастырыңыз: «Егер клиент басқа әлеуметтік-экономикалық/этникалық ортадан болса, AI оны бір тілде жазар ма еді?»
- Мәдени сезімталдықты іздеңіз. Мінез-құлықтың мәдени контексті туралы сұраңыз; бірақ мәдени білімді абсолютті ереже емес, мүмкіндік және сақтық нүктесі ретінде қабылдаңыз (стереотиптен аулақ болыңыз).
- Басып шығару тілін тазалаңыз. Оны адамды емес, жағдайды сипаттайтын, сонымен қатар күшті жақтарын көретін тілге аударыңыз.
үш шағын іс
1-жағдай - Кері бұрыш қиғаштықты анықтады. Сарапшы AI екі ұқсас жағдайды қорытындылады; Жалғыз айырмашылық отбасылардың әлеуметтік-экономикалық жағдайы болды. YZ аз қамтылған отбасы үшін «немқұрайлылық қаупі жоғары», ал табысы жоғары отбасы үшін «ата-ананың өзін ұстауға мәжбүрлеу» үнімен жазды. Сарапшы бұл қосарланған стандартты мойындады және екі бағалауды да дәлелді, тең тілге айналдырды.
2-жағдай — Мәдени қате түсіндірме түзетілді. YZ үлкен отбасында тұратын баланың жағдайын «шекаралық мәселелер және үйдегі аралас орта» деп атады. Сарапшы отбасының мәдени контекстінде үлкен отбасының қолдау мен қорғаудың күшті көзі екенін білді. AI мәдени күшті проблемаға айналдырды. Бұл қолдауды ресурс ретінде тану үшін шолу түзетілді.
3-жағдай - жетекші сұрақ біржақтылықты тудырды. «Бұл әке неге сенімсіз екенін жазыңыз», - деп сұрады интерн AI. AI ешқандай дәлелсіз әкені теріс (жақсылау) бейнелейтін мәтінді шығарды. Жетекші сұрақты өзгертті: «Әке туралы қандай ескертулер бар, оның күшті және әлсіз жақтары қандай болуы мүмкін?» Шығару теңгерімді және дәлелді болды. Сабақ: біржақты сұрақ біржақты жауап береді.
Көшірілетін төрт үлгі
1) Бейтарап, теңдестірілген бағалауды сұрау:
Келесі бақылауларды қорытындылай отырып, сіз ықтимал күшті жақтарды да, мүмкін алаңдаушылықтарды да ТЕҢДЕЛГЕН түрде және ТЕК дәлелдерге негізделесіз. Стереотиптерге негізделген ешқандай қорытынды жасамаңыз. Егер түсініктеме бақылауға сүйенбесе, «дәлелдер жеткіліксіз» деп жазыңыз. Бақылаулар: [байқауларды қою]
2) ығысуды тексеру (қарсы бұрышты тексеру):
Төмендегі шолу мәтінін қараңыз. Клиенттің әлеуметтік-экономикалық мәртебесіне, этникалық тегіне, дініне, жынысына, мүгедектігіне немесе көршісіне байланысты дәлелденбеген стереотипті жеткізетін мәлімдемелер бар ма? Әрқайсысы үшін: «Егер клиент басқа топтан болса, бұл бір тілде жазылар ма еді?» деп сұраңыз. Проблемалық сөйлемдерді белгілеу. Мәтін: [мәтінді қою]
3) Мәдени контекст (стереотипті емес):
Келесі мінез-құлық/жағдай әртүрлі мәдени контексттерде нені білдіруі мүмкін МҮМКІНДІКТЕРДІ қамтамасыз етіңіз. Бұларды абсолютті ережелер ретінде емес, қарастырылатын нүктелер ретінде беріңіз; Әр қауымда жеке айырмашылықтар бар екенін атап өтіңіз. Бір топ туралы жалпылама. Жағдай: [жағдайды жазу]
4) Тілді тазалау:
Төмендегі мәтінде адамды айыптайтын немесе стигматизациялайтын сын есімдерді табыңыз (мысалы, «немқұрайлы», «ынтымақтастығы жоқ», «проблемалық»). Әрқайсысы үшін бірдей фактіні сипаттайтын, құрметтейтін және күшті жақтарын мойындайтын баламамен ауыстырыңыз. Жаңа ақпарат қосу. Мәтін: [мәтінді қою]
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Бұл отбасының бала тәрбиесіне неліктен жеткіліксіз екенін түсіндіріңіз.
Бұл сұрақ басынан бастап нәтижені болжайды («жеткіліксіз»). Жағымпаздыққа бейім AI осы болжамды растайтын дәлелсіз және біржақты мәтін шығарады. Сұрақ біржақты болса, жауап та біржақты болады.
Күшті шақыру:
Төмендегі бақылауларға сүйене отырып, осы отбасының бала тәрбиелеудегі күшті жақтарын және алаңдататын салаларын ТЕҢДЕНДІ және тек дәлелді түрде тізімдеңіз. Басынан бастап нәтижені болжамаңыз; Егер дәлелдер жеткіліксіз болса, оны көрсетіңіз. Стереотиптерден аулақ болыңыз. Бақылаулар: [байқауларды қою]
Айырмашылық: нәтижені қабылдамайтын және дәлелдеуді сұрайтын теңдестірілген сұрақ бірінші кезекте біржақтылыққа жол бермейді.
Жалғау және қарсы шаралар түрлері
Жалғау түрі
Ол қандай көрінеді
қарсы шара
жаттығу деректері
топтық стереотип
Дәлелдеу үлгісінің айырмашылығы
жақтау
Пассивті/жағымсыз тіл
Теңдестірілген, пәнге бағытталған тіл
қос стандарт
Мінезі бірдей, үні басқа
кері бұрыш сынағы
мәдени соқырлық
Мәдени билікті проблемаға айналдыру
Мәдени контекстік сұрақ
жағымпаздық
салдарын растаңыз
Бейтарап сұрақтар қоймаңыз
өкілдіктің болмауы
Үстірт/түсінбеушілік
Жергілікті/сараптамалық растау
Жалпы қателер
- Алдын ала сұрақтар қою. Қорытындыны болжайтын сұрақ біржақты жауап береді; бейтарап мәселе.
- Сенімді тілге сүйену. Кәсіби тон бұрмалауды дұрыс етпейді; дәлелдерге қараңыз.
- Мәдени білімді түпкілікті ереже ретінде қарастыру. Мүмкіндік пен назар аудару нүктесі ретінде қабылдаңыз; Стереотиптерден аулақ болыңыз.
- Қос стандартты байқамау. Әр түрлі топтарда бірдей мінез-құлық қалай жазылғанын тексеріңіз.
- Мөрді дәлел ретінде қателесу. Бұл «немқұрайлы» үкім; Құбылысты сипаттаңыз, адамға баға бермеңіз.
Қысқаша айтқанда
AI бейтарап емес, ол бейтарап болып көрінеді; Ол білім беру деректеріндегі теңсіздіктер мен стереотиптерді еркін тілде жаңғыртады. Әлеуметтік жұмыста бұл нақты адамдарға әділетсіз баға беруге әкелуі мүмкін. Біржақтылықты (жаттығу деректері, фреймдер, қосарлы стандарттар, мәдени соқырлық, жағымпаздық) мойындаңыз (бейтарап сұрақ, дәлелдер үлгісін бөлу, бұрыштық тестілеу, мәдени сезімталдық, стигманы тазарту) және әрбір нәтижені кәсіптің әділдік пен абырой құндылықтары арқылы сүзгіден өткізіңіз. Соңғы этикалық сүзгі әрқашан сіз.
Қолданбалы тапсырма
AI екі түрлі топ профилі бар (мысалы, әртүрлі әлеуметтік-экономикалық мәртебе) бірдей ойдан шығарылған бақылаулар жинағын қорытындылап, тондар/тілдер айырмашылығы бар-жоғын «кері бұрыш сынағымен» салыстырыңыз. Содан кейін бейтарап сұрақты саналы түрде біржақты сұрап көріңіз («ол неліктен жеткіліксіз екенін түсіндіріңіз») және нәтижелердегі айырмашылықты тексеріңіз. Соңында, мәтінге «су таңбасының тілін тазалау» үлгісін қолданыңыз.
бақылау парағы
- [ ] Мен өз сұрақтарымды нәтижеге сенбей, бейтарап жасадым.
- [ ] Мен әрбір теріс мәлімдемені дәлел-стереотиптік айырмашылықты пайдаланып тексердім.
- [ ] Мен қос стандартты кері бұрыш сынағы арқылы тексердім.
- [ ] Мен мәдени білімді абсолютті ереже емес, сақтық үшін пайдаландым.
- [ ] Мен стигматизациялаушы тілді сипаттаушы, сыйластық тілмен ауыстырдым.