Тәуекелді бағалауды қолдау және қауіпсіздікті жоспарлау: ең сезімтал шекара

Табыстар:

• Жасанды интеллектпен қауіп-қатер мен қорғаныс факторларының бақылау парағын және қауіпсіздік жоспарының қаңқасын дайындау және кез келген аумақты өткізбей жұмыс істеу мүмкіндігі
• Тәуекел деңгейі/балы және қауіпсіздік шешімдерін тек сарапшылар, командалар, қадағалау және құқықтық процестер қабылдайтынын және жасанды интеллект шешім шығара алмайтынын түсініңіз.
• Жасанды интеллект қолайсыз топтарға жүйелі бейімділік бере алатынын көріп, оның нәтижесін шешім ретінде ешқашан пайдаланбау және ең сезімтал деректерді тек қауіпсіз жүйеде өңдеу тәртібін қолдану

Әлеуметтік жұмыстың ең маңызды жауапкершілігі тәуекелді бағалау болып табылады — баланың қараусыз қалуы немесе зорлық-зомбылыққа ұшырауы, жеке адамның өзіне немесе басқа біреуге зиян келтіруі мүмкін бе, қарт адам қауіпсіз бе немесе зорлық-зомбылық құрбанына қауіп төніп тұрғаны сияқты өмір қауіпсіздігіне тікелей қатысты шешімдер. Бұл бөлімнің бірінші және ең батыл ережесі мынада: Тәуекел туралы шешім қабылдау АИ-ге жатпайды, мүмкін емес және болмауы керек. Адамның қауіпсіздігі туралы шешім; Ол кәсіби беделді, клиникалық пайымдауды, көп салалы топ пікірін, қадағалауды және заңды жауапкершілікті талап етеді. Бұл жерде AI жай ғана дайындық және еске салу құралы болып табылады: ол қандай қауіп пен қорғаныс факторларын қарастыру керектігін еске салады, жазбаларыңызды реттейді, қауіпсіздік жоспарын белгілейді. Ұпай бермейді, «тәуекел төмен/жоғары» демейді, шешім қабылдамайды.

Неліктен біз мұны қатты атап көрсетеміз? Өйткені тәуекел аренасында AI қателігінің құны қайтымсыз. AI тәуекелдің «төмен» рейтингі баланы қорғансыз қалдырады; Тәуекелді қажетсіз «жоғары» етіп көрсету отбасының әділетсіз бөлінуіне әкелуі мүмкін. Бұған қоса, AI оқыту деректерінде біркелкілікке ие: белгілі бір әлеуметтік-экономикалық топтарға, этникалық топтарға немесе аудандарға жоғары тәуекелді жүйелі түрде жатқызатын алгоритмдер бүкіл әлемде құжатталған. Осылайша, AI шығысы кіріс болса да, ол ешқашан сіздің тәуелсіз пікіріңізді жоққа шығара алмайды.

АИ-нің заңды рөлі: еске салу және реттеу

Тәуекелде AI-ді қауіпсіз пайдалануға болатын үш орын бар:

1. Факторды еске түсіру. Тәуекелді бағалау кезінде ескерілуі тиіс қауіп факторлары (мысалы, зорлық-зомбылықтың өткен тарихы, есірткіні пайдалану, әлеуметтік оқшаулану, бұрынғы қабылдау) және қорғаныс факторлары (мысалы, қолдау көрсететін ересек адам, мектепке тұрақты бару, күшті әлеуметтік желі) ұзақ; AI ұйымыңыз қолданатын құрылымға сәйкес келетін бақылау тізімін еске түсіру арқылы кез келген аумақтарды жіберіп алмауға көмектеседі.

2. Жазбаны өңдеу. Ол сіздің бақылауыңыз бен клиент мәлімдемеңізді ұйымдасқан, нақты мәтінге аударады — осылайша өз пікіріңізді нақты деректерге негіздей аласыз.

3. Қауіпсіздік жоспарының жобасы. Қауіпсіздік жоспары (қауіпті жағдайда зардап шегушінің не істейтінін, кіммен байланысатынын, қайда баратынын анықтайтын нақты жоспар) белгілі бір құрылымға ие. AI клиентпен толтырылатын қаңқа жобасын жасай алады; Бірақ сіз және клиент жоспардың мазмұнын шындыққа сәйкес толтырасыз.

Абайлаңыз: AI-дан ешқашан «бұл жағдайда қауіп деңгейі қандай?» деп сұрамаңыз. немесе «үйде бала қауіпсіз бе?» Сұрама. Сіз сұрасаңыз да, нәтижені шешім ретінде ҚОЛДАНБАҢЫЗ. Бұл сұрақтарға тек уәкілетті сарапшы, топ және мекеменің ресми тәуекел құралы арқылы қадағалау жауап береді.

Қадамдық: тәуекел процесінде AI-ны дұрыс орналастыру

1. Алдымен қауіпсіздік. Тікелей және елеулі қауіп (өмір қауіпсіздігі) болса, АИ-мен айналыспай, мекеменің төтенше процедурасын орындау қажет. AI кез келген жеделдікті кешіктірмеуі керек.
2. Айырмау. Тәуекел рейтингтері ең құпия деректер болып табылады; Клиентті анықтайтын ақпарат ашық құралға енгізілмейді, тек қауіпсіз мекеме құралы пайдаланылады.
3. Факторлар тізімін еске түсіріңіз. Институционалдық жүйеге сәйкес тәуекелді және қорғаныс факторларын тексеру тізімін сұраңыз.
4. Өзіңіздің пікіріңізді жасаңыз. Сіз факторларды өлшеп, топпен бағалап, жетекшімен кеңесесіз. Сіз AI-ның «бағалауын» қаламайсыз.
5. Клиентпен бірге қауіпсіздік жоспарын толтырыңыз. Скелеттің жобасы АИ-ден келуі мүмкін; Мазмұн клиенттің нақты желісімен, ресурстарымен және теңшелімдерімен толтырылады.

үш шағын іс

1-жағдай - өткізіп алынған қорғаныс факторы. Сарапшы отбасылық зорлық-зомбылық ісіндегі қауіп факторларына тоқталды. Ол AI-дан сұраған факторларды тексеру парағында «қорғаныс факторлары» бөлімінде жұмыс орнында клиенттің қауіпсіз қолдау желісі туралы сұрады - сарапшы жіберіп алған аймақ. Бұл желі қауіпсіздік жоспарының ең шынайы бөлігі болды. Шешім қайтадан сарапшыға байланысты болды; AI жай ғана сұрақты еске түсірді.

2-жағдай – қате ұпайға сенбеді. Бір агенттік сынақ AI құралы істі «төмен тәуекел» деп белгілегенін көрді. Дегенмен, сарапшының бақылауы мен клиенттің мәлімдемесі үлкен қауіпті көрсетті. Команда AI белгісінен бас тартты және өз бағалауына негізделген қорғаныс әрекетін бастады. Қауіптің шынымен болғаны кейінірек расталды. Сабақ: AI ұпайы шешім емес; адамның пайымдауы басым болады.

3-жағдай - қиғаштық ұсталды. Бір сот талқылауында сол іс АИ-ге екі рет берілді; Жалғыз айырмашылық клиент тұратын аудан болды. AI жүйелі түрде қолайсыз аймақ үшін жоғарырақ «тәуекел тілін» шығарды. Бұл жасанды интеллекттік оқыту деректеріндегі біржақтылықты көрсетті және агенттіктің тәуекел туралы шешім қабылдауда AI қолданбау саясатын нығайтты.

Көшірілетін төрт үлгі

1) Тәуекел/қорғаныс факторы туралы ескерту:

Сіздің рөліңіз: әлеуметтік жұмыс жетекшісінің көмекшісі. [тұрмыстық зорлық-зомбылық] жағдайларында тәуекелді бағалауда қарау ұсынылатын қауіп факторлары мен қорғаныс факторларының бақылау тізімін дайындаңыз. Мұны ЕСКЕ АЛУЛАР тізімі ретінде көрсетіңіз; ешқандай ұпайларды, шешімдерді немесе «тәуекел деңгейлерін» шығармаңыз. Бағалау және шешім сарапшыға тиесілі.

2) Қауіпсіздік жоспарының қаңқа жобасы:

Сіздің рөліңіз: редактор. Тұрмыстық зорлық-зомбылық құрбанымен толтырылатын қауіпсіздік жоспарының БЛАНК контурын дайындаңыз: ескерту белгілері, қауіпсіз орындар, байланысатын адамдар мен мекемелер, маңызды құжаттар, балаларға арналған жоспар, цифрлық қауіпсіздік. Мазмұнды толтыру; Клиентпен толтырылатын әрбір тақырыптың астында бос орындар қалдырыңыз.

3) Тәуекел туралы ескертуді өңдеу (шешім қабылдамай):

Келесі бақылаулар мен мәлімдемелерді нақты, ұйымдасқан мәтінге аударыңыз. Бақылауды және клиент мәлімдемесін бөлек белгілеңіз. Тәуекел деңгейін БЕРУ, ШЕШІМ ҚАБЫЛДАУ, ПІКІРМЕНІ ҚОСУ. Жазбадағыны ғана өңдеңіз және жетіспейтін/түсініксіз аймақтарды белгілеңіз. Ескертпе: [анықталмаған жазбаны қою]

4) Өзін-өзі бақылау:

Төмендегі тәуекел ескертпесі жобасында клиенттің әлеуметтік-экономикалық мәртебесіне, этникалық тегіне, көршілестігіне немесе соған ұқсас сипаттамаға байланысты дәлелденбеген біржақтылықты білдіретін мәлімдеме бар ма? Дәлелге емес, стереотиптерге негізделген әрбір сөйлемді белгілеңіз. Мәтінді өзгертпеңіз, тек ескертіңіз. Ескерту: [ескертуді қою]

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Осы жағдайды оқып шығыңыз және баланың үйде қалуы қауіпсіз бе және қауіп деңгейі қандай екенін шешіңіз.

Бұл адам өмірі туралы ең маңызды шешімді бағдарламалық жасақтамаға беру. Бұл этикаға жатпайды, кәсіби жауапкершілікке қайшы келеді және АИ-нің тікелей бала тағдырына теріс әсер етеді.

Күшті шақыру:

Сіздің рөліңіз: еске салғыш көмекшісі. Төмендегі анықталмаған ескертуді оқымас бұрын, [баланың қараусыз қалуы] жағдайларын бағалау кезінде қарау үшін қауіп пен қорғаныс факторларының бақылау тізімін дайындаңыз. Шешім, ұпай немесе тәуекел деңгейін ӨНДІРУ. Бағалауды өз тобыммен жүргіземін; Сіз маған қай аймақтарды өткізіп жіберуге болмайтынын еске саласыз.

Айырмашылық: шешім сұраудың орнына «қай сұрақтарды ұмытпауым керек» деп айту АИ-ді қауіпсіз және этикалық шекарада ұстайды.

Тәуекел саласындағы рөлдік шекаралар

Квест

AI мұны істей ала ма?

Кім жасайды?

Факторлық бақылау тізімінің еске салғышы

Иә

AI (еске салғыш)

Жазбаларды нақты өңдеу

Иә

AI + сарапшының рұқсаты

Қауіпсіздік жоспарының бос қаңқасы

Иә

AI; мазмұн клиенті+сарапшы

Тәуекел деңгейін/ұпайды анықтау

жоқ

Сарапшы + топ + қадағалау

«Қауіпсіз бе?» шешім

жоқ

Құзыретті сарапшы, құқықтық процесс

Қорғаныс шараларын бастау

жоқ

Мекеме, құзырлы орган

Жалпы қателер

• AI-дан тәуекел дәрежесін/шешімін сұрау. Ең қауіпті қателік; Шешім кәсіби өкілеттік пен заңды жауапкершілікті талап етеді.
• AI белгісіне сену. «Төмен тәуекел» қорытындысы ешқашан сіздің бақылауыңызды керісінше жоққа шығармайды.
• Алдын ала пікірді елемеу. AI қолайсыз топтарға жүйелі жоғары тәуекелді жатқыза алады; өзін-өзі бақылау маңызды.
• Шұғылдықты кешіктіру. Егер өмір қауіпсіздігі болса, бірінші кезекте төтенше жағдай тәртібі; AI-мен жұмыс істеу күте алмайды.
• Ашық құралға ең құпия деректерді беру. Тәуекел ескертулері тек қауіпсіз мекеме құралында өңделеді.

Қысқаша айтқанда

Тәуекелді бағалау әлеуметтік жұмыстың ең ауыр жауапкершілігі болып табылады және шешімді тікелей адамға — кәсіпқойға, ұжымға, қадағалауға, заңды органға береді. Бұл жерде AI еске салуға (қауіп-қорғау факторларының тізімі), ұйымдастыруға (факті жазба) және жобасын жасауға (қауіпсіздік жоспарының қаңқасы) арналған құрал ғана; Ол ұпай жинамайды, шешім қабылдамайды. Есіңізде болсын, AI біржақтылықты сақтайды, оның нәтижесін ешқашан шешім ретінде пайдаланбаңыз және ең құпия деректерді тек қауіпсіз жүйеде өңдеңіз.

Қолданбалы тапсырма

Ойдан шығарылған іс түрін таңдаңыз. «Тәуекел/қорғаныш факторы туралы еске салғыш» үлгісі бар бақылау парағын алыңыз және АИ ешқандай «қауіп деңгейін» шығармайтынын тексеріңіз. Содан кейін «қауіпсіздік жоспарының қаңқасы» үлгісі бар бос жоспар қаңқасын алыңыз. AI-дан саналы түрде «қауіп деңгейі қандай?» Деп сұраңыз. және неліктен нәтижені шешім ретінде ҚОЛДАНБАУ керектігін бір сөйлеммен жазыңыз.

бақылау парағы

• [ ] Мен AI-дан шешім/ұпай емес, факторды еске салуды ғана сұрадым.
• [ ] Мен ең құпия деректерді тек қауіпсіз кәсіпорын құралында өңдедім.
• [ ] Мен клиентпен бірге қауіпсіздік жоспарының мазмұнын толтыруды жоспарладым.
• [ ] Мен AI шығысында ауытқу бар-жоғын тексердім.
• [ ] Тәуекел туралы түпкілікті шешім командаға, қадағалауға және тиісті процеске байланысты екенін растадым.