Zyski:
- Możliwość przygotowania listy kontrolnej ryzyka i czynników ochronnych oraz szkieletu planu bezpieczeństwa ze sztuczną inteligencją i pracą bez pomijania żadnego obszaru
- Zrozum, że decyzje dotyczące poziomu/wyniku ryzyka i bezpieczeństwa są podejmowane wyłącznie przez ekspertów, zespoły, nadzór i procesy prawne oraz że sztuczna inteligencja nie jest w stanie podejmować decyzji.
- Dostrzeżenie, że sztuczna inteligencja może przypisywać systematyczne stronniczość grupom znajdującym się w niekorzystnej sytuacji, i zastosowanie dyscypliny polegającej na tym, aby nigdy nie wykorzystywać jej wyników jako decyzji i przetwarzać najbardziej wrażliwe dane wyłącznie w bezpiecznym systemie
Najpoważniejszym obowiązkiem pracy socjalnej jest ocena ryzyka – oceny, które bezpośrednio dotyczą bezpieczeństwa życia, np. czy dziecko jest zaniedbywane lub wykorzystywane, czy dana osoba może skrzywdzić siebie lub kogoś innego, czy osoba starsza jest bezpieczna lub jak zagrożona jest ofiara przemocy. Pierwsza i najodważniejsza zasada tej jednostki jest następująca: podejmowanie decyzji w sprawie ryzyka nie należy, nie może i nie powinno należeć do sztucznej inteligencji. Decyzja o bezpieczeństwie danej osoby; Wymaga autorytetu zawodowego, oceny klinicznej, opinii zespołu wielodyscyplinarnego, nadzoru i odpowiedzialności prawnej. Sztuczna inteligencja jest tutaj jedynie narzędziem przygotowawczym i przypominającym: przypomina, które czynniki ryzyka i czynniki ochronne należy sprawdzić, porządkuje notatki, nakreśla plan bezpieczeństwa. Nie przyznaje punktów, nie mówi „ryzyko jest niskie/wysokie”, nie podejmuje decyzji.
Dlaczego tak mocno to podkreślamy? Ponieważ w obszarze ryzyka koszt błędu sztucznej inteligencji jest nieodwracalny. Ocena ryzyka przez sztuczną inteligencję jako „niska” pozostawia dziecko bez ochrony; Sprawianie, że ryzyko wydaje się niepotrzebnie „wysokie”, może prowadzić do niesłusznego rozdzielenia rodziny. Ponadto sztuczna inteligencja niesie ze sobą błędy w danych szkoleniowych: na całym świecie udokumentowano algorytmy, które systematycznie przypisują wyższe ryzyko określonym grupom społeczno-ekonomicznym, grupom etnicznym lub dzielnicom. Zatem nawet jeśli dane wyjściowe sztucznej inteligencji są danymi wejściowymi, nigdy nie mogą one zastąpić Twojej niezależnej oceny.
Uzasadniona rola sztucznej inteligencji: przypomnienie i regulacja
Istnieją trzy miejsca, w których można bezpiecznie używać sztucznej inteligencji w przypadku ryzyka:
1. Przypomnienie o czynniku. Czynniki ryzyka (np. historia przemocy, używanie substancji psychoaktywnych, izolacja społeczna, wcześniejsze przyjęcia) i czynniki ochronne (np. wspierająca osoba dorosła, regularne uczęszczanie do szkoły, silna sieć społeczna), które należy uwzględnić w ocenie ryzyka, są długie; Sztuczna inteligencja pomaga uniknąć pominięcia jakichkolwiek obszarów, przywołując listę kontrolną pasującą do struktury używanej przez Twoją organizację.
2. Edycja notatek. Tłumaczy Twoje obserwacje i wypowiedzi klientów na uporządkowany, oparty na faktach tekst, dzięki czemu możesz oprzeć swój osąd na jasnych danych.
3. Projekt planu bezpieczeństwa. Plan bezpieczeństwa (konkretny plan, który określa, co ofiara zrobi w przypadku zagrożenia, z kim się skontaktuje, dokąd się uda) ma określoną strukturę. Sztuczna inteligencja może stworzyć szkielet projektu do wypełnienia wraz z klientem; Ale Ty i klient wypełniacie treść planu zgodnie z rzeczywistością.
Uwaga: nigdy nie pytaj sztucznej inteligencji „jaki jest poziom ryzyka w tym przypadku?” lub „czy dziecko jest bezpieczne w domu?” Nie pytaj. NIE używaj wyników jako decyzji, nawet jeśli o to poprosisz. Odpowiedzi na te pytania udziela wyłącznie upoważniony ekspert, zespół i nadzór za pośrednictwem oficjalnego narzędzia oceny ryzyka instytucji.
Krok po kroku: prawidłowe pozycjonowanie AI w procesie ryzyka
- Bezpieczeństwo przede wszystkim. Jeżeli istnieje bezpośrednie i poważne zagrożenie (bezpieczeństwo życia), należy zastosować procedurę ratunkową instytucji, a nie zajmować się sztuczną inteligencją. Sztuczna inteligencja nie powinna opóźniać żadnych pilnych spraw.
- Zdydentyfikować. Oceny ryzyka są najbardziej wrażliwymi danymi; Informacje identyfikujące klienta nie są wprowadzane do narzędzia otwartego, wykorzystywane jest jedynie narzędzie bezpiecznej instytucji.
- Przypomnij mi o liście czynników. Poproś o listę kontrolną ryzyka i czynników ochronnych odpowiednią do ram instytucjonalnych.
- Dokonaj własnego osądu. Ważysz wszystkie czynniki, oceniasz z zespołem i konsultujesz się z przełożonym. Nie chcesz, aby sztuczna inteligencja „oceniła”.
- Uzupełnij plan bezpieczeństwa wspólnie z klientem. Szkielet projektu może pochodzić od AI; Treść jest wypełniana rzeczywistą siecią, zasobami i preferencjami klienta.
trzy mini etui
Przypadek 1 – Pominięty czynnik ochronny. Ekspert zajmujący się czynnikami ryzyka w sprawie przemocy domowej. Lista kontrolna czynników, o którą poprosił sztuczną inteligencję, zawierała pytanie o bezpieczną sieć wsparcia klienta w pracy w sekcji „czynniki ochronne” – obszar, który ekspert przeoczył. Sieć ta stała się najbardziej realistyczną częścią planu bezpieczeństwa. Decyzja ponownie należała do eksperta; AI jedynie przypomniała pytanie.
Przypadek 2 — Nieprawidłowy wynik nie został uznany za wiarygodny. Jedna z agencji zauważyła, że próbne narzędzie AI określiło przypadek jako „niskiego ryzyka”. Obserwacje biegłego oraz oświadczenie klienta wskazywały jednak na poważne zagrożenie. Zespół odrzucił etykietę AI i na podstawie własnej oceny podjął działania ochronne. Później potwierdzono, że zagrożenie było realne. Lekcja: Wynik AI nie jest decyzją; ludzki osąd ma pierwszeństwo.
Przypadek 3 — Złapano stronniczość. W jednym procesie tę samą sprawę dwukrotnie przekazano AI; Jedyną różnicą była dzielnica, w której mieszkał klient. Sztuczna inteligencja systematycznie tworzyła „język ryzyka” w odniesieniu do dzielnicy, o której wiadomo, że jest w niekorzystnej sytuacji. Wykazało to stronniczość w danych szkoleniowych sztucznej inteligencji i wzmocniło politykę agencji polegającą na niewykorzystywaniu sztucznej inteligencji w procesie podejmowania decyzji dotyczących ryzyka.
Cztery szablony do kopiowania
1) Przypomnienie o ryzyku/czynniku ochronnym:
Twoja rola: asystent opiekuna pracy socjalnej. Przygotuj listę kontrolną czynników ryzyka i czynników ochronnych, które zaleca się uwzględnić w ocenie ryzyka w przypadkach [przemocy w rodzinie]. Przedstaw to jako listę PRZYPOMINAŃ; NIE dostarczają żadnych wyników, decyzji ani „poziomów ryzyka”. Ocena i decyzja należą do eksperta.
2) Szkielet projektu planu bezpieczeństwa:
Twoja rola: redaktor. Przygotuj PUSTY zarys planu bezpieczeństwa do wypełnienia dla ofiary przemocy domowej: znaki ostrzegawcze, bezpieczne miejsca, osoby i instytucje, z którymi możesz się skontaktować, ważne dokumenty, plan dla dzieci, bezpieczeństwo cyfrowe. Wypełnianie treści; Pozostaw puste miejsca pod każdym nagłówkiem do wypełnienia wspólnie z klientem.
3) Edycja noty o ryzyku (bez podejmowania decyzji):
Przetłumacz poniższe uwagi i uwagi na oparty na faktach, uporządkowany tekst. Oznacz oddzielnie obserwację i oświadczenie klienta. PODANIE poziomu ryzyka, PODEJMOWANIE decyzji, DODAWANIE komentarza. Edytuj tylko to, co jest w notatce i zaznacz brakujące/niejasne obszary. Uwaga: [wklej niezidentyfikowaną notatkę]
4) Uprzedzenia samokontroli:
Czy w poniższym projekcie notatki dotyczącej ryzyka znajduje się stwierdzenie, które przekazuje niepotwierdzoną stronniczość ze względu na status społeczno-ekonomiczny klienta, pochodzenie etniczne, sąsiedztwo lub podobną cechę? Zaznacz każde zdanie, które opiera się na stereotypach, a nie na dowodach. Nie zmieniaj tekstu, po prostu ostrzegaj. Uwaga: [wklej notatkę]
Słaba zachęta/silna zachęta
Słaba zachęta:
Przeczytaj ten przypadek i zdecyduj, czy pozostawienie dziecka w domu jest bezpieczne i jaki jest poziom ryzyka.
Jest to outsourcing najważniejszych decyzji dotyczących ludzkiego życia do oprogramowania. Jest to nieetyczne, sprzeczne z odpowiedzialnością zawodową i przenosi uprzedzenia sztucznej inteligencji bezpośrednio na los dziecka.
Potężny monit:
Twoja rola: asystent przypomnień. Przed zapoznaniem się z poniższą notatką dotyczącą anonimowości, przygotuj listę kontrolną czynników ryzyka i czynników ochronnych, które należy uwzględnić podczas oceny przypadków [zaniedbania dziecka]. PRODUKCJA decyzji, wyniku lub poziomu ryzyka. Oceny dokonam wraz z moim zespołem; Przypomniałeś mi tylko, których obszarów nie powinienem pomijać.
Różnica: mówienie „o jakich pytaniach nie powinienem zapomnieć” zamiast prosić o decyzje, utrzymuje sztuczną inteligencję na bezpiecznej i etycznej granicy.
Granice ról w obszarze ryzyka
Zadanie
Czy sztuczna inteligencja może to zrobić?
Kto to robi?
Przypomnienie o liście kontrolnej czynników
Tak
AI (przypomnienie)
Redagowanie notatek merytorycznie
Tak
AI + zgoda eksperta
Pusty szkielet planu bezpieczeństwa
Tak
sztuczna inteligencja; klient treści+ekspert
Określenie poziomu/wyniku ryzyka
nie
Ekspert + zespół + nadzór
„Czy to bezpieczne?” decyzja
nie
Kompetentny ekspert, proces prawny
Wszczęcie działań ochronnych
nie
Instytucja, właściwy organ
Typowe błędy
- Pytanie do sztucznej inteligencji o ocenę/decyzję ryzyka. Najbardziej niebezpieczny błąd; Decyzja wymaga autorytetu zawodowego i odpowiedzialności prawnej.
- Zaufanie etykiecie AI. Wniosek o „niskim ryzyku” nigdy nie unieważni Twoich przeciwnych obserwacji.
- Ignorowanie uprzedzeń. Sztuczna inteligencja może przypisywać systematyczne wysokie ryzyko grupom znajdującym się w niekorzystnej sytuacji; samokontrola jest niezbędna.
- Opóźnianie pilności. Jeśli istnieje bezpieczeństwo życia, należy najpierw zastosować procedurę awaryjną; Radzenie sobie ze sztuczną inteligencją nie może czekać.
- Przekazanie najbardziej wrażliwych danych otwartemu narzędziu. Noty o ryzyku przetwarzane są wyłącznie w bezpiecznym narzędziu instytucji.
Podsumowując
Ocena ryzyka jest najpoważniejszym obowiązkiem pracy socjalnej, a decyzja należy do osoby – profesjonalisty, zespołu, nadzoru, władzy prawnej. W tym przypadku sztuczna inteligencja jest jedynie narzędziem do przypominania (lista ryzyka/czynników ochronnych), organizowania (notatka faktograficzna) i opracowywania (szkielet planu bezpieczeństwa); Nie zdobywa punktów, nie podejmuje decyzji. Pamiętaj, że sztuczna inteligencja niesie ze sobą stronniczość, nigdy nie używaj jej wyników jako decyzji i przetwarzaj najbardziej wrażliwe dane tylko w bezpiecznym systemie.
Zadanie aplikacji
Wybierz fikcyjny typ sprawy. Uzyskaj listę kontrolną z szablonem „przypomnienia o ryzyku/czynniku ochronnym” i sprawdź, czy sztuczna inteligencja nie generuje żadnych „poziomów ryzyka”. Następnie weź pusty szkielet planu z szablonem „szkielet planu bezpieczeństwa”. Świadome pytanie AI „jaki jest poziom ryzyka?” i napisz w jednym zdaniu, dlaczego NIE powinieneś używać wyników jako decyzji.
lista kontrolna
- [ ] Poprosiłem sztuczną inteligencję jedynie o przypomnienie o czynnikach, a nie o decyzję/wynik.
- [ ] Przetworzyłem najbardziej wrażliwe dane wyłącznie w bezpiecznym narzędziu dla przedsiębiorstw.
- [ ] Planowałem wypełnić wspólnie z klientem treść planu bezpieczeństwa.
- [ ] Sprawdziłem wyjście AI pod kątem stronniczości.
- [ ] Potwierdziłem, że ostateczna decyzja w sprawie ryzyka należy do zespołu, nadzoru i należytych procesów.