Yunit 9 / 11

Krisis, Panganib at Mga Hangganan: Kalagayan ng Tao, Dispatch at Legal-Ethical na Framework

Mga nadagdag:

  • Kakayahang maunawaan na ang artificial intelligence ay hindi maaaring gamitin sa mga sitwasyon ng krisis tulad ng pagpapakamatay na ideya, pinsala sa sarili/iba, pang-aabuso at pagpapabaya, at na kinakailangang agad na kumunsulta sa mga eksperto at awtoridad ng tao.
  • Kakayahang magpataw ng mga limitasyon sa paggamit ng artificial intelligence lamang sa yugto ng paghahanda at dokumentasyon, sa labas ng relasyon sa pagkonsulta, kahit na sa mga sitwasyong hindi may krisis.
  • Ang pag-alam sa legal na obligasyon sa abiso, referral chain at emergency protocol at ang kakayahang gumamit ng artificial intelligence sa pagtatala ng mga tala pagkatapos lamang ng protocol na ito, hindi sa halip nito

Ang yunit na ito ang pinakamahalagang yunit ng buong modyul. Sa ngayon ay naiposisyon na namin ang AI bilang isang writing and drafting assistant; Gumuhit kami ng hangganan sa bawat unit. Ngayon ay nililinaw namin ang pinakamatalim sa mga limitasyong iyon, ang isa na hindi maaaring pahabain sa anumang pagkakataon: Hindi ginagamit ang artificial intelligence sa mga sitwasyon ng krisis at panganib. Doon, ang mga eksperto ng tao, pamilya at karampatang awtoridad ay mahalaga.

Ang isang krisis na sitwasyon ay isa kung saan ang kaligtasan sa buhay o pangunahing kagalingan ng isang mag-aaral ay nasa ilalim ng agarang banta: pagpapakamatay na ideya o pagtatangka, pananakit sa sarili, banta ng pananakit sa iba, tanda ng sekswal/pisikal/emosyonal na pang-aabuso, pagpapabaya, malubha at matinding sikolohikal na sintomas (paghiwalay sa katotohanan, hindi makontrol na takot). Ang pagkakapareho ng mga sitwasyong ito ay ang oras ay mahalaga at ang desisyon ay nangangailangan ng ekspertong paghuhusga, institusyonal na protocol at kadalasan ay isang legal na balangkas. Ito ay parehong hindi etikal at mapanganib para sa isang programa na pumasok dito.

Bakit hindi kailanman ginagamit ang AI sa isang krisis?

Mayroong limang konkretong dahilan. Una, responsibilidad: Ang legal at propesyonal na responsibilidad para sa isang desisyon sa krisis ay pag-aari ng isang tao; hindi maaaring ilipat sa isang programa. Pangalawa, konteksto at paghatol: Ang pagtatasa ng krisis ay nangangailangan ng agarang pagmamasid, tono, background, at mga mapagkukunang institusyonal ng propesyonal na nakakakilala sa estudyante; Hindi makakamit ng AI ang alinman sa mga ito. Pangatlo, ang panganib ng mga guni-guni: ang isang maling "pagsusuri" o "mungkahi" ay maaaring nakamamatay dito. Ikaapat, oras: Ang bawat minutong ginugugol sa isang krisis ay mahalaga; Ang tamang reflex ay ang pagpapatakbo ng protocol, hindi ang pagsusulat sa isang sasakyan. Ikalima, privacy at batas: Ang data ng krisis ay ang pinakasensitibong data at ang pagpasok sa isang sasakyan ay isang matinding paglabag.

Babala: Sa isang krisis, tanungin ang AI "ano ang dapat kong gawin?" Pagtatanong, "nag-aaksaya ng mahalagang oras at lumilikha ng ilusyon ng pagtatalaga ng responsibilidad. Ang tamang unang aksyon ay palaging pareho: pagtiyak sa kaligtasan ng mag-aaral at pagpapatakbo ng emergency protocol.

Kahit sa mga sitwasyong hindi may krisis: lumayo sa relasyon sa pagkonsulta

Sa ilalim ng limitasyon ng krisis, ang AI ay may limitadong lugar kahit sa ordinaryong gawaing suporta. Ang AI ay hindi pumapasok sa relasyon sa pagpapayo. Kaya ang relasyon ng tiwala sa isang mag-aaral, ang pakikinig, ang empatiya, ang therapeutic na proseso—lahat ito ay katangi-tanging tao at hindi maiaalis. Gumagana lang ang AI sa yugto ng paghahanda at dokumentasyon sa labas ng kaugnayang ito (paghahanda ng tanong bago ang panayam, pag-edit pagkatapos ng anonymous na pag-record, materyal na draft). Huwag kailanman i-refer ang mag-aaral sa isang AI chat tool bilang isang "tagapayo"; Ang isang programa ay hindi maaaring suportahan ang mental na kagalingan ng isang nagbibinata.

Legal na notification at referral chain

Ang espesyalista sa PDR ay may legal na obligasyon sa pag-abiso sa ilang mga kaso: lalo na kung mayroong isang indikasyon o pahayag na ang isang bata ay nalantad sa pang-aabuso o kapabayaan, isang legal na obligasyon na iulat ito sa mga may-katuturang awtoridad at ang pagiging kompidensiyal ay hindi maaaring i-override ang obligasyon sa pag-abiso sa puntong ito. Katulad nito, sa mga kaso ng malubhang panganib, ang isang referral chain ay nagpapatakbo: pangangasiwa ng paaralan, pamilya (kung naaangkop), healthcare provider, may-katuturang espesyalista o institusyon. Ang mga hakbang ng chain na ito ay isang protocol at dapat malaman nang maaga.

Ang tanging lehitimong tungkulin ng AI sa chain na ito, pagkatapos ng krisis, ay tumulong na mag-compile ng hindi kilalang ulat ng kaganapan o ang wika ng sulat ng notification—pagkatapos matukoy ng eksperto ang desisyon, timing, at content. Magagamit lamang ang AI sa kasunod na dokumentasyon, hindi sa lugar ng protocol; Kahit na pagkatapos, ang personal na data ay hindi nagpapakilala.

Tip: Panatilihing naka-print at naa-access ang iyong emergency protocol, mga numero ng hotline, at impormasyon sa pakikipag-ugnayan sa pagpapadala sa iyong desk. Sa panahon ng krisis, sumangguni sa dati nang inihanda na dokumentong ito, hindi sa memorya o isang search engine.

Hakbang-hakbang: kapag nahaharap sa mga palatandaan ng isang krisis

  1. Tiyakin ang seguridad. Huwag pabayaan ang mag-aaral; Kung may agarang panganib, unahin kaagad ang pisikal na kaligtasan.
  2. Manatiling kalmado at makinig. Nang hindi hinuhusgahan o lumilikha ng gulat; seryosohin mo
  3. Patakbuhin ang protocol. Ipaalam sa administrasyon ng paaralan at mga kaugnay na tao ayon sa protocol.
  4. Ipaalam sa pamilya/awtoridad. Depende sa sitwasyon at legal na obligasyon; Ang pag-uulat ay sapilitan sa mga kaso ng pinaghihinalaang pang-aabuso.
  5. Ipadala ito. Ligtas na sumangguni sa kinakailangang eksperto/institusyon.
  6. Pagkatapos ay idokumento ito. I-edit ang pag-record pagkatapos lumipas ang kaganapan; AI lamang sa huling hakbang na ito, nang hindi nagpapakilala.

Mga nakokopyang template (para sa dokumentasyon ng POST-krisis lamang)

1) Paghahanda ng hindi kilalang minuto pagkatapos ng krisis:

Ang iyong tungkulin: PDR writing assistant. MAGDAGDAG NG COMMENT, diagnosis o mungkahi. I-edit ang anonymous na tala ng katotohanan sa ibaba, na isinulat ko PAGKATAPOS ng insidente, sa isang opisyal na wika ng ulat. Lamang form at daloy; baguhin ang nilalaman. Anonymous na tala ng katotohanan: [i-paste ang tala sa antas ng kaso na walang personal na data]

2) Protocol reminder card generator (paghahanda bago ang krisis):

Ang iyong tungkulin: PDR assistant. Mag-draft ng REMINDER card para sa mga sitwasyon ng krisis sa paaralan: isang pangkalahatang, item-by-item na checklist na inuuna ang kaligtasan at protocol, na pinamagatang "Mga unang hakbang kapag nahaharap sa mga palatandaan ng isang krisis." Ia-update ko ito sa aktwal na protocol ng aking paaralan at impormasyon sa pakikipag-ugnayan.

3) Tala ng briefing ng koponan (pagkatapos ng kaganapan, hindi kilalang kilala):

I-edit ang sumusunod na anonymous na buod ng insidente sa isang neutral, batay sa katotohanan na briefing upang ibahagi sa team ng krisis. Paggamit ng mga tag at komento; isama lang ang nangyari, anong hakbang ang ginawa, at nakaplanong follow-up. Buod: [anonymous na buod]

Mahinang diskarte / Malakas na diskarte

Mahina (mapanganib):

Ang isang estudyante ko ay nagsalita tungkol sa pananakit sa kanyang sarili. Hayaan akong ipaliwanag ang sitwasyon sa AI, tanungin siya kung ano ang gagawin, at ipatupad ang kanyang mungkahi.

Bumaling sa AI sa krisis; pagkawala ng oras, ilusyon ng paglipat ng responsibilidad, paglabag sa pagiging kompidensiyal at panganib ng maling "rekomendasyon".

Malakas (tama):

Ang isa sa aking mga estudyante ay nagsalita tungkol sa pananakit sa sarili. Ito ay isang krisis. Nang walang pagsulat ng ANUMANG BAGAY sa AI: Hindi ko pinababayaan ang mag-aaral, mahinahon akong nakikinig, pinapatakbo ko ang emergency protocol, ipinapaalam ko sa administrasyon ng paaralan at sa pamilya, nagbibigay ako ng ligtas na referral sa nauugnay na espesyalista/institusyon. Maaari ko lang gamitin ang AI upang i-edit ang wika ng hindi kilalang ulat pagkatapos ng katotohanan.

tatlong mini case

Case 1 — Tamang reflex. Sa isang pulong, ang estudyante ay nagpahayag ng mga saloobin ng pagpapakamatay. Ang dalubhasa ay hindi sumulat ng isang linya sa AI; Hindi niya pinabayaan ang mag-aaral, isinagawa ang protocol, naabot ang pamilya at ang kinauukulang institusyong pangkalusugan, at nagbigay ng ligtas na referral. Sa sandaling ligtas na nahawakan ang insidente, ginamit lamang niya ang AI upang i-edit ang wika ng hindi kilalang ulat. Walang nasayang na oras, nanatili sa tamang lugar ang responsibilidad.

Kaso 2 — Obligasyon sa pag-abiso. Ang sinabi ng isang estudyante ay nagdulot ng hinala ng pagpapabaya/pang-aabuso. Alam ng eksperto na hindi maaring i-override ng pagiging kumpidensyal ang obligasyon sa pag-uulat sa puntong ito; Direktang pinaandar nito ang legal na notification at referral chain, nang hindi sinusubukang kumonsulta sa AI tungkol sa sitwasyon. Gumamit lang siya ng AI sa ibang pagkakataon, nang hindi nagpapakilala, sa pag-edit ng opisyal na wika ng paunawa.

Kaso 3 — Bumalik mula sa maling direksyon. Isinaalang-alang ng isang eksperto na sabihin sa isang nahihirapang mag-aaral, "Maaari mong subukang makipag-usap sa isang AI chat tool," ngunit nagpasya ito laban dito: ang isang programa ay hindi maaaring makuha ang pag-iisip ng isang kabataan, hindi makatukoy ng mga palatandaan ng isang krisis, at hindi ligtas. Sa halip, nagbigay ito ng mga regular na konsultasyon at referral sa isang naaangkop na espesyalista. Ang relasyon sa pagpapayo ay nanatili sa tao.

Mga karaniwang pagkakamali

  • Nagtatanong sa AI tungkol sa krisis. Pag-aaksaya ng oras at paglipat ng responsibilidad. Solusyon: direktang protocol at eksperto sa tao.
  • Naantala ang abiso. Pag-aatubili sa hinala ng pang-aabuso. Solusyon: ang legal na obligasyon ay higit pa sa pagiging kumpidensyal.
  • Pagtuturo sa mag-aaral sa AI. Delegasyon ng advisory relationship sa programa. Solusyon: ang relasyon at referral ay nasa tao.
  • Hindi alam ang protocol. Sinusubukang alalahanin kung ano ang gagawin sa isang krisis. Solusyon: naka-print, handa na protocol.
  • Paglalagay ng data ng krisis sa tool. Pagbubunyag ng pinakasensitibong data. Solusyon: walang personal na data ng krisis ang pumapasok sa tool.

Talahanayan: Walang AI o tao?

Katayuan

Papel ng AI

desisyon/aksyon

pagtatasa ng krisis

wala

Dalubhasa sa tao + protocol

interbensyon sa krisis

wala

dalubhasa + awtoridad ng tao

Legal na pagpapasya sa abiso

wala

Eksperto (ligal na obligasyon)

relasyon sa pagpapayo

wala

dalubhasa ng tao

Anonymous na ulat pagkatapos ng insidente

Language/format scheme

Ang dalubhasa ay nagsusulat at nag-apruba

Pangkalahatang protocol card bago ang krisis

burador

Ang dalubhasa ay umaangkop sa katotohanan

Sa buod

Ang AI ay hindi kailanman ginagamit sa mga sitwasyon ng krisis at panganib; Doon, ang mga eksperto ng tao, pamilya at karampatang awtoridad ay mahalaga. Ang tamang reflex ay palaging pareho: tiyakin ang seguridad, makinig, patakbuhin ang protocol, ipaalam sa mga kinakailangang awtoridad, ligtas na magpadala. Sa kaso ng hinala ng pang-aabuso o pagpapabaya, ang legal na abiso ay hihigit sa pagiging kumpidensyal. Ang ugnayan sa pagpapayo ay natatangi sa tao at hindi maiaalis. Ang tanging lehitimong tungkulin ng AI ay upang ayusin ang wika ng hindi kilalang dokumentasyon pagkatapos ng krisis.

Gawain ng aplikasyon

Gumawa ng "first steps" reminder card para sa mga sitwasyon ng krisis sa sarili mong paaralan (o isang kathang-isip na paaralan). Kumuha ng outline na may template na "protocol reminder card" sa itaas; Pagkatapos ay i-update ito gamit ang aktwal na protocol, referral chain at impormasyon ng contact ng iyong institusyon. Ilagay ang card sa isang lugar na naa-access sa iyong desk. Tandaan na ang tungkulin ng AI sa misyon na ito ay isang malawak na balangkas lamang, ang aktwal na protocol ay nagmumula sa ahensya.

checklist

  • [ ] Alam ko na kung sakaling magkaroon ng krisis, hindi ako magre-resort sa AI, diretso akong magpapatakbo ng protocol.
  • [ ] Ang emergency protocol at dispatch contact information ay naka-print at naa-access sa akin.
  • [ ] Alam ko ang legal na obligasyong abiso kung sakaling may hinala ng pang-aabuso/pagpapabaya.
  • [ ] Hindi ko ire-refer ang estudyante sa isang AI tool bilang isang "consultant".
  • [ ] Gagamitin ko lang ang AI para sa after-the-fact, anonymous na dokumentasyon.