Faida:
- Uwezo wa kuandaa orodha ya hatari na ya kinga na mifupa ya mpango wa usalama na akili ya bandia na kufanya kazi bila kuruka maeneo yoyote.
- Elewa kwamba kiwango cha hatari/alama na maamuzi ya usalama hufanywa na wataalamu, timu, usimamizi na michakato ya kisheria pekee, na kwamba akili bandia haiwezi kutoa maamuzi.
- Kuona kwamba akili ya bandia inaweza kuhusisha upendeleo wa kimfumo kwa vikundi visivyo na uwezo na kutumia nidhamu ya kutowahi kutumia matokeo yake kama uamuzi na kuchakata data nyeti zaidi katika mfumo salama pekee.
Jukumu zito zaidi la kazi ya kijamii ni tathmini ya hatari—hukumu zinazohusu usalama wa maisha moja kwa moja, kama vile ikiwa mtoto ametelekezwa au ananyanyaswa, iwapo kuna uwezekano wa mtu kujidhuru au mtu mwingine, iwe mzee yuko salama, au jinsi mwathiriwa wa unyanyasaji alivyo hatarini. Kanuni ya kwanza na ya ujasiri zaidi ya kitengo hiki ni hii: Uamuzi wa hatari haufai, hauwezi na haupaswi kuwa wa AI. Uamuzi kuhusu usalama wa mtu; Inahitaji mamlaka ya kitaaluma, uamuzi wa kimatibabu, maoni ya timu ya taaluma mbalimbali, usimamizi na wajibu wa kisheria. AI ni zana ya utayarishaji na ukumbusho hapa: inakukumbusha ni mambo gani ya hatari na ya kinga ya kukagua, kupanga madokezo yako, kuelezea mpango wa usalama. Haitoi alama, haisemi "hatari iko chini / juu", haifanyi uamuzi.
Kwa nini tunasisitiza jambo hili kwa ukali sana? Kwa sababu katika uwanja wa hatari, gharama ya kosa la AI haiwezi kutenduliwa. Ukadiriaji wa AI wa hatari kama "chini" huacha mtoto bila ulinzi; Kufanya hatari ionekane kuwa "juu" bila sababu kunaweza kusababisha familia kutengwa isivyo haki. Zaidi ya hayo, AI hubeba upendeleo katika data ya mafunzo: kanuni za algoriti ambazo kwa utaratibu zinahusisha hatari kubwa kwa makundi fulani ya kijamii na kiuchumi, makabila, au vitongoji vimerekodiwa kote ulimwenguni. Kwa hivyo hata kama matokeo ya AI ni pembejeo, haiwezi kamwe kupindua hukumu yako huru.
Jukumu halali la AI: ukumbusho na udhibiti
Kuna maeneo matatu ambapo unaweza kutumia AI kwa usalama katika hatari:
1. Kikumbusho cha sababu. Sababu za hatari (k.m., historia ya zamani ya vurugu, matumizi ya dawa za kulevya, kutengwa kwa jamii, uandikishaji wa awali) na vipengele vya ulinzi (k.m., mtu mzima anayeunga mkono, mahudhurio ya kawaida ya shule, mtandao wa kijamii wenye nguvu) ambayo inapaswa kuzingatiwa katika tathmini ya hatari ni ndefu; AI hukusaidia kuepuka kukosa maeneo yoyote kwa kukumbuka orodha hakiki inayolingana na mfumo unaotumia shirika lako.
2. Kuhariri kumbukumbu. Inatafsiri uchunguzi wako na taarifa za mteja kuwa maandishi yaliyopangwa, ya ukweli - ili uweze kutegemea data iliyo wazi.
3. Rasimu ya mpango wa usalama. Mpango wa usalama (mpango madhubuti unaoamua nini mhasiriwa atafanya ikiwa kuna hatari, ambaye atawasiliana naye, ataenda wapi) ina muundo fulani. AI inaweza kutoa rasimu ya mifupa ya kujazwa na mteja; Lakini wewe na mteja jaza yaliyomo kwenye mpango kulingana na ukweli.
Tahadhari: Usiulize kamwe AI "ni kiwango gani cha hatari katika kesi hii?" au “mtoto yuko salama nyumbani?” Usiulize. USItumie pato kama uamuzi, hata ukiuliza. Maswali haya yanajibiwa tu na mtaalamu aliyeidhinishwa, timu na usimamizi kupitia zana rasmi ya hatari ya taasisi.
Hatua kwa hatua: kuweka AI kwa usahihi katika mchakato wa hatari
- Usalama kwanza. Ikiwa kuna hatari ya haraka na kubwa (usalama wa maisha), ni muhimu kuendesha utaratibu wa dharura wa taasisi, si kukabiliana na AI. AI haipaswi kuchelewesha uharaka wowote.
- Kutofautisha. Ukadiriaji wa hatari ni data nyeti zaidi; Taarifa zinazomtambulisha mteja hazijaingizwa kwenye chombo kilicho wazi, ni chombo cha taasisi salama pekee kinachotumiwa.
- Nikumbushe orodha ya vipengele. Omba orodha ya kukaguliwa ya sababu za hatari na za ulinzi zinazofaa kwa mfumo wa kitaasisi.
- Fanya uamuzi wako mwenyewe. Unapima vipengele, tathmini na timu, na kushauriana na msimamizi. Hutaki AI "kutathmini".
- Kamilisha mpango wa usalama na mteja. Rasimu ya mifupa inaweza kutoka kwa AI; Maudhui yamejaa mtandao halisi wa mteja, rasilimali na mapendeleo.
kesi tatu ndogo
Kesi ya 1 - Kipengele cha kinga kilichokosa. Mtaalam alizingatia sababu za hatari katika kesi ya unyanyasaji wa nyumbani. Orodha ya mambo aliyouliza AI ilimfanya amuulize kuhusu mtandao salama wa usaidizi wa mteja kazini katika sehemu ya "sababu za kinga" - eneo ambalo mtaalam alikosa. Mtandao huu ukawa sehemu ya kweli zaidi ya mpango wa usalama. Uamuzi ulikuwa tena kwa mtaalam; AI ilikumbusha tu swali.
Kesi ya 2 - Alama isiyo sahihi haikuaminika. Shirika moja liliona chombo cha majaribio cha AI kikiweka kisa kama "hatari ndogo." Walakini, uchunguzi wa mtaalam na taarifa ya mteja iliashiria hatari kubwa. Timu ilikataa lebo ya AI na kuanzisha hatua ya ulinzi kulingana na tathmini yake yenyewe. Baadaye ilithibitishwa kuwa hatari ilikuwa kweli. Somo: Alama ya AI sio uamuzi; hukumu ya mwanadamu inachukua nafasi ya kwanza.
Kesi ya 3 - Upendeleo ulipatikana. Katika kesi moja, kesi hiyo hiyo ilipewa AI mara mbili; Tofauti pekee ilikuwa eneo ambalo mteja aliishi. AI ilitoa kwa utaratibu "lugha hatari" ya juu kwa kitongoji kinachojulikana kuwa na hali duni. Hii ilionyesha upendeleo katika data ya mafunzo ya AI na ikaimarisha sera ya wakala ya kutotumia AI katika kufanya maamuzi ya hatari.
Violezo vinne vinavyoweza kunakiliwa
1) Kikumbusho cha sababu za hatari/kinga:
Jukumu lako: msaidizi wa msimamizi wa kazi za kijamii. Tayarisha orodha ya kukaguliwa ya vipengele vya hatari na vipengele vya ulinzi ambavyo vinapendekezwa kupitiwa upya katika tathmini ya hatari katika visa vya [unyanyasaji wa nyumbani]. Wasilisha hii kama orodha ya VIKUMBUSHO; USITOE alama zozote, maamuzi, au "viwango vya hatari". Tathmini na uamuzi ni wa mtaalam.
2) Rasimu ya kiunzi cha mpango wa usalama:
Jukumu lako: mhariri. Tayarisha muhtasari TUPU wa mpango wa usalama utakaojazwa na mwathiriwa wa unyanyasaji wa nyumbani: ishara za onyo, mahali salama, watu na taasisi za kuwasiliana, hati muhimu, mpango wa watoto, usalama wa kidijitali. Kujaza yaliyomo; Acha nafasi tupu chini ya kila kichwa ili kujazwa na mteja.
3) Kuhariri dokezo la hatari (bila kufanya uamuzi):
Tafsiri uchunguzi ufuatao na madokezo ya taarifa katika maandishi ya kweli, yaliyopangwa. Uchunguzi wa lebo na taarifa ya mteja kando. KUSEMA kiwango cha hatari, KUFANYA uamuzi, KUONGEZA maoni. Hariri tu kile kilicho kwenye dokezo na uweke alama kwenye maeneo ambayo hayapo/fiche. Kumbuka: [bandika dokezo lisilotambulika]
4) Kujidhibiti kwa upendeleo:
Katika rasimu ya dokezo lililo hapa chini, je, kuna taarifa inayoonyesha upendeleo ambao haujathibitishwa kwa sababu ya hali ya mteja kijamii na kiuchumi, kabila, ujirani, au tabia kama hiyo? Weka alama kwenye kila sentensi ambayo imeegemezwa kwenye dhana potofu badala ya ushahidi. Usibadilishe maandishi, onya tu. Kumbuka: [bandika dokezo]
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Soma kesi hii na uamue ikiwa ni salama kwa mtoto kukaa nyumbani na kiwango cha hatari ni nini.
Hii ni kutoa uamuzi mzito zaidi kuhusu maisha ya mwanadamu kwa programu. Ni kinyume cha maadili, kinyume na wajibu wa kitaaluma, na hubeba upendeleo wa AI moja kwa moja kwenye hatima ya mtoto.
Agizo lenye nguvu:
Jukumu lako: msaidizi wa ukumbusho. Kabla ya kusoma kidokezo kilichotolewa hapa chini, tayarisha orodha ya kuangalia ya hatari na vipengele vya ulinzi ili kuhakiki katika tathmini ya kesi za [kutelekezwa kwa mtoto]. KUZALISHA uamuzi, alama au kiwango cha hatari. Nitafanya tathmini na timu yangu; Unanikumbusha tu maeneo ambayo sipaswi kuruka.
Tofauti: kusema "maswali gani nisisahau" badala ya kuuliza maamuzi huweka AI kwenye mipaka salama na ya kimaadili.
Mipaka ya jukumu katika uwanja wa hatari
Jitihada
Je, AI inaweza kuifanya?
Nani hufanya hivyo?
Kikumbusho cha orodha ya sababu
Ndiyo
AI (kikumbusho)
Kuhariri madokezo kwa ukweli
Ndiyo
AI + idhini ya mtaalam
Mpango wa usalama mifupa tupu
Ndiyo
AI; mteja+mtaalamu wa maudhui
Kiwango cha hatari/alama
hapana
Mtaalam + timu + usimamizi
"Je, ni salama?" uamuzi
hapana
Mtaalam mwenye uwezo, mchakato wa kisheria
Kuanzisha hatua za kinga
hapana
Taasisi, mamlaka husika
Makosa ya kawaida
- Kuuliza AI kwa alama ya hatari / uamuzi. Makosa hatari zaidi; Uamuzi huo unahitaji mamlaka ya kitaaluma na wajibu wa kisheria.
- Kuamini lebo ya AI. Hitimisho la "hatari ndogo" kamwe halitabatilisha uchunguzi wako kinyume chake.
- Kupuuza ubaguzi. AI inaweza kuhusisha hatari kubwa ya kimfumo kwa vikundi visivyo na uwezo; kujidhibiti ni muhimu.
- Kuchelewesha uharaka. Ikiwa kuna usalama wa maisha, utaratibu wa dharura kwanza; Kushughulika na AI haiwezi kusubiri.
- Kutoa data nyeti zaidi kwa chombo wazi. Vidokezo vya hatari vinachakatwa tu katika chombo cha taasisi salama.
Kwa muhtasari
Tathmini ya hatari ni jukumu zito la kazi ya kijamii, na uamuzi hutegemea mtu - mtaalamu, timu, usimamizi, mamlaka ya kisheria. Hapa, AI ni zana tu ya kukumbusha (orodha ya sababu za hatari/kinga), kuandaa (maelezo ya ukweli) na kuandaa (mifupa ya mpango wa usalama); Haifungi, haifanyi maamuzi. Kumbuka kwamba AI hubeba upendeleo, kamwe usitumie matokeo yake kama uamuzi na kuchakata data nyeti zaidi katika mfumo salama pekee.
Jukumu la maombi
Chagua aina ya kesi ya kubuni. Pata orodha hakiki iliyo na kiolezo cha "kikumbusho cha hatari/kinga" na uthibitishe kuwa AI haitoi "viwango vya hatari." Kisha nyakua kiunzi cha mpango tupu na kiolezo cha "muhtasari wa mpango wa usalama". Kuuliza kwa uangalifu AI "kiwango cha hatari ni nini?" na uandike kwa sentensi moja kwa nini USITUMIE matokeo kama uamuzi.
orodha ya ukaguzi
- [ ] Niliuliza AI tu kwa ukumbusho wa sababu, sio uamuzi/alama.
- [ ] Nilichakata data nyeti zaidi kwenye zana salama ya biashara pekee.
- [ ] Nilipanga kujaza yaliyomo kwenye mpango wa usalama pamoja na mteja.
- [ ] Niliangalia matokeo ya AI kwa upendeleo.
- [ ] Nilithibitisha kwamba uamuzi wa mwisho wa hatari uko kwa timu, usimamizi na mchakato unaotazamiwa.