Zyski:
- Możliwość rozróżnienia, gdzie sztuczna inteligencja oszczędza czas w pracy socjalnej (podsumowanie, edycja, uproszczenie, wersja robocza), a gdzie ocena kliniczna, decyzje dotyczące ryzyka i reprezentacji pozostawia się człowiekowi, w zależności od poziomu ryzyka.
- Umiejętność zastosowania dyscypliny weryfikującej każdy wynik poprzez powiązanie go z prawdziwymi dowodami, potwierdzenie informacji zewnętrznych z aktualnymi oficjalnymi źródłami i filtrowanie ich pod kątem uprzedzeń.
- Aby zrozumieć, dlaczego prywatność klientów, rozróżnienie między światem anonimowych i danych klientów oraz odpowiedzialność KVKK powinny być brane pod uwagę od samego początku w pracy socjalnej.
Jesteś rano w centrum usług społecznych. Wczoraj napłynęły trzy nowe wnioski: kobieta, która była ofiarą przemocy i jej dwójka dzieci, osoba starsza wymagająca opieki oraz nastolatka zagrożona porzuceniem szkoły. Na twoim biurku leżą cztery raporty z dochodzeń społecznych, opinia wydana na wniosek sądu, akta sprawy do wypełnienia i przygotowania do wizyty domowej z rodziną dzisiejszego popołudnia. Praca socjalna (zawód i dyscyplina wykonywana w celu poprawy funkcjonalności społecznej jednostek, rodzin i społeczności, zapewnienia im dostępu do praw i opieki społecznej oraz ochrony grup bezbronnych) to dziedzina, która z natury wymaga dużej liczby dokumentów, wymaga presji czasu, dotyka życia ludzkiego i wiąże się z dużą odpowiedzialnością. Sztuczna inteligencja (AI – oprogramowanie, które potrafi wyodrębniać wzorce z danych historycznych i tworzyć lub klasyfikować teksty, streszczenia, tłumaczenia i wersje robocze) daje wytchnienie w obliczu obciążenia dokumentami i presji czasu. Ale sam początek tego modułu jest jasny: AI to asystent, sumator i generator konspektów; Jesteś kompetentnym ekspertem, który dokonuje oceny, ryzyka i ostatecznej decyzji dotyczącej klienta.
W tej pierwszej części skupimy się na dyscyplinie, a nie na narzędziu. Dowiesz się, gdzie sztuczna inteligencja pozwala zaoszczędzić czas w pracy socjalnej, gdzie jest niebezpieczna, jak weryfikować każdy wynik, jak chronić prywatność i dane osobowe klientów oraz jak zachować czujność w przypadku uprzedzeń. Bez założenia tego fundamentu kolejne jednostki wiszą w powietrzu — bo w pracy socjalnej niezweryfikowany wynik to nie tylko fałszywe zdanie; Jest to błąd, który może prowadzić do błędnej oceny dziecka, przeoczenia ryzyka, niesprawiedliwego napiętnowania rodziny lub wycieku poufnych informacji.
Gdzie sztuczna inteligencja przydaje się w pracy socjalnej?
Podzielmy stanowiska pracy socjalnej na dwie duże grupy. Pierwsza grupa: zadania wymagające dużej ilości dokumentów, powtarzalne, umożliwiające wyodrębnienie wzorców i oparte na języku. Tłumaczenie rozproszonych notatek po przesłuchaniu na uporządkowany protokół sprawy, chronologiczne podsumowanie długich akt, pierwszy szkielet raportu z dochodzenia społecznego, uproszczenie listy pomocy/usług do języka klienta, projekt listu polecającego, tłumaczenie prostego tekstu informacyjnego dla wielojęzycznego klienta, pierwsze ramy analizy potrzeb programu. W tych zawodach sztuczna inteligencja skraca godziny do minut i nie męczy się.
Grupa druga: zadania wymagające osądu, oceny klinicznej, oceny ryzyka i odpowiedzialności. Czy dziecko jest bezpieczne w domu, jaki jest poziom ryzyka samookaleczenia danej osoby, czy rodzina potrzebuje środków ochronnych, z jaką opinią zostanie przedstawiony sąd protokół, czy usługa jest rzeczywiście odpowiednia dla klienta. Decyzje te wymagają kompetencji zawodowych, oceny klinicznej, znajomości kontekstu, odpowiedzialności etycznej i często opinii zespołu wielodyscyplinarnego. Tutaj AI mnoży opcje, generuje wersje robocze, przypomina o tym, co zostało przeoczone – ale ostateczna ocena i podpis należą do Ciebie.
Wyjaśnijmy to rozróżnienie w jednym zdaniu: sztuczna inteligencja jest silna w pytaniach „co jest w tym pliku i jak wygląda pierwsza wersja robocza”; Decyzja należy do Ciebie, jeśli chodzi o pytania typu: „Jaka jest realna sytuacja tej osoby i czy mogę jej bronić w imieniu swojego zawodu?”
Wskazówka: zanim zlecisz zadanie sztucznej inteligencji, zadaj sobie pytanie: „Kto ucierpi, jeśli wyniki będą nieprawidłowe?” Jeśli odpowiedź brzmi „kilka minut refaktoryzacji”, deleguj wygodnie. Jeśli odpowiedź brzmi: „błędna ocena klienta, unikanie ryzyka lub wyciek informacji”, pozwól sztucznej inteligencji sporządzić wersję roboczą, a Ty podejmiesz decyzję i weryfikację.
Prywatność: zasada nienaruszalna
Sercem pracy socjalnej jest zaufanie, a zaufanie opiera się na poufności. Klient przekazuje Ci swoje najbardziej prywatne i najbardziej wrażliwe informacje – przemoc, ubóstwo, stan zdrowia, tajemnice rodzinne – powołując się na tajemnicę zawodową. Gdy informacje te wpadną w niepowołane ręce, zagrażają życiu, bezpieczeństwu i godności danej osoby. Podstawowa zasada: Żadne dane osobowe identyfikujące klienta (imię i nazwisko, adres, TR ID, stan zdrowia, informacje o rodzinie itp.) nie zostaną wprowadzone do publicznego narzędzia AI, którego Twoja instytucja nie zatwierdziła. Tekst wpisywany w publicznej usłudze AI jest przetwarzany na serwerach tej usługi; Nie możesz kontrolować, kto to widzi, gdzie jest przechowywany i czy jest używany do uczenia modelu. W Turcji jest to również odpowiedzialność prawna na mocy KVKK (Ustawa o ochronie danych osobowych – ustawa regulująca przetwarzanie danych osobowych).
Dlatego wykorzystanie sztucznej inteligencji w pracy socjalnej funkcjonuje w dwóch odrębnych światach: narzędzia ogólne mogą być stosowane w świecie pozbawionym możliwości identyfikacji/ogólnym (anonimowe lub fikcyjne przykłady, które nie identyfikują klienta, pytania z wiedzy ogólnej); W świecie danych klientów wykorzystywane są wyłącznie wewnętrzne, bezpieczne, zatwierdzone systemy, które nie powodują wycieku danych. Pomieszanie tych dwóch elementów jest najniebezpieczniejszym błędem tego modułu.
Uwaga: „AI tak powiedziała” nie jest uzasadnieniem i nie ma mocy w aktach sprawy. W przypadku błędnej oceny, sfabrykowanych informacji lub wycieku danych odpowiedzialność nie należy do sztucznej inteligencji, ale do eksperta, który wykorzystuje te wyniki bez ich weryfikacji lub wprowadza te dane do narzędzia.
Dyscyplina weryfikacji: trzy kroki
AI produkuje płynnie i pewnie; To nie znaczy, że to prawda. Sztuczna inteligencja czasami wywołuje halucynacje — to znaczy przedstawia jako prawdziwy akt prawny, który nie istnieje, usługę, która nie istnieje, zmyśloną statystykę lub stwierdzenie, którego klient nigdy nie powiedział. W raporcie z dochodzenia społecznego lub memorandum na temat ryzyka jest to katastrofalne. Zastosuj trzystopniowy odruch do każdego wyjścia:
- Link do źródła/dowodu. Każde stwierdzenie AI na temat klienta musi opierać się na faktycznej notatce lub rozmowie, którą przeprowadziłeś. „W jakiej rozmowie, z czyich ust, z jaką obserwacją została przekazana ta informacja?” zapytać. AI nie powinna dodawać niczego, czego nie powiedział klient.
- Potwierdź w niezależnym źródle. Zweryfikuj informacje zewnętrzne, takie jak prawo, prawa, usługi, adres do wysyłki itp., z aktualnego oficjalnego źródła. Wymagania aplikacji lub numer telefonu podany przez AI mogą być nieaktualne lub fałszywe.
- Przepuść to przez filtr interpretacji i uprzedzeń. Czy wyniki są stronnicze wobec grupy? Czy istnieje język, który stygmatyzuje i obwinia klienta? Czy ignoruje mocne strony? Twój profesjonalny osąd jest ostatecznym filtrem.
trzy mini etui
Przypadek 1 — Oszczędność czasu na dokumentacji. Pracownik socjalny przeprowadził 14 wywiadów w ciągu tygodnia i prowadził luźne notatki do każdego z nich. Edycja wspomagana sztuczną inteligencją skróciła całkowity czas tłumaczenia tych notatek na ustrukturyzowane zapisy przypadków z około 4 godzin do 1 godziny. Jednak każde nagranie było czytane przez biegłego i weryfikowane poprzez porównanie z faktycznym wywiadem; Usunięto dwa zdania, które AI „zinterpretowała”.
Przypadek 2 — Weryfikacja złapała halucynację. Ekspert zadał AI pytanie dotyczące praw; YZ stwierdził: „W przypadku tej pomocy minimalny wymóg pobytu wynosi 24 miesiące”. Kiedy ekspert przyjrzał się urzędowemu ustawodawstwu, nie było takiego wymogu; AI połączyła dwie podobne pomoce i stworzyła stan, który nie istniał. Etap przypisania zapobiegł niesłusznemu odrzuceniu klienta.
Przypadek 3 – Powrót z naruszenia prywatności. Aby przyspieszyć, nowy specjalista chciał wkleić wszystkie informacje dotyczące sprawy dotyczącej ochrony dziecka (w tym imię i nazwisko dziecka, adres, szkoła) do publicznego narzędzia sztucznej inteligencji i wydrukować raport. Starszy ekspert zdał sobie sprawę: są to wrażliwe dane osobowe objęte zakresem KVKK i zostały ujawnione. Incydent potraktowano jako naruszenie danych; zadanie zostało wykonane ponownie z usuniętymi poświadczeniami i wyłącznie przy użyciu bezpiecznej metody wewnętrznej.
Cztery szablony do kopiowania
1) Ocena przydatności do pracy:
Twoja rola: starszy pracownik socjalny i przełożony. Poniżej opiszę tę pracę. Powiedz mi (1) czy jest to praca polegająca na podsumowaniu/edycji/konkrecie, którą można oddelegować sztucznej inteligencji, czy też wymagająca oceny klinicznej i oceny ryzyka, (2) koszt dla klienta wynikający z nieprawidłowych wyników, (3) weryfikację, którą muszę przeprowadzić przed delegowaniem i po nim. Stanowisko: [tu wstaw stanowisko]
2) Obowiązek opierania się na dowodach:
Przekażę panu notatki ze spotkania. Edytując nagranie, korzystaj WYŁĄCZNIE z informacji zawartych w notatce. Nie dodawaj niczego, czego klient nie powiedział, nie diagnozuj, nie komentuj. Oznacz oddzielnie obserwację i wypowiedź klienta. Oznacz brakujące lub niejasne obszary jako „wymagające wyjaśnienia”.
3) Wstępna kontrola prywatności:
Oceń następujący tekst PRZED przetworzeniem: czy ten tekst może zawierać dane osobowe identyfikujące klienta (imię i nazwisko, adres, TR ID, stan zdrowia, informacje o rodzinie)? Jeśli tak, to które sekcje? W związku z tym, jeśli nie należy go przetwarzać w narzędziu publicznym, ostrzeż mnie i wymień pola, które muszę usunąć. Tekst: [wpisz tekst tutaj]
4) Kontrola stronniczości/języka:
Rozważ następujący opis przypadku: Czy istnieje język, który stygmatyzuje, obwinia lub uprzedza klienta wobec grupy? Czy ignoruje mocne strony i zasoby? Zaproponuj język, który będzie pełen szacunku, skupiony na faktach i uznający mocne strony. Nie zmieniaj rekordu, po prostu zgłoś problemy językowe.
Słaba zachęta/silna zachęta
Słaba zachęta:
Napisz raport na temat tej rodziny i zdecyduj, czy dziecko jest bezpieczne w domu.
Ta zachęta jest pozbawiona kontekstu i niebezpieczna: nie jest jasne, jakie informacje, jakie obserwacje i sztuczna inteligencja jest proszona o podjęcie decyzji dotyczącej bezpieczeństwa dziecka. Sztuczna inteligencja przewiduje, może stronniczo, może zmyślać – a to dotyczy ludzkiego życia.
Potężny monit:
Twoja rola: asystent redaktora pracownika socjalnego. Źródło: Notatki z wywiadu i obserwacji, z usuniętymi danymi identyfikacyjnymi, które wkleję poniżej. Zadanie: stworzyć projekt szkieletu protokołu śledztwa społecznego w oparciu wyłącznie o informacje RZECZYWIŚCIE zawarte w tych notatkach; Oznacz osobno obserwacje, oświadczenie klienta i brakujące informacje. PODEJMOWANIE decyzji dotyczącej ryzyka lub bezpieczeństwa; Zrobię ocenę. Oznacz obszar, którego nie jesteś pewien, jako „wymagający wyjaśnienia”.
Różnica jest wyraźna: deidentyfikacja, ograniczenie „prawdziwego przejścia”, etykietowanie i ograniczenie „decyzji” sprawiają, że dane wyjściowe są bezpieczne i użyteczne.
Tabela porównawcza ról/zadań
biznes
Rola sztucznej inteligencji
rola mężczyzny
weryfikacja
Edytuj zapis sprawy
Skonfiguruj notatkę
potwierdzenie, dokładność
Porównanie z notatką
Podsumowanie pliku
zarys chronologiczny
Znaczenie, komentarz
Link do źródła
Informacje o prawach/usługach
pierwszy projekt
Aktualne potwierdzenie
oficjalne ustawodawstwo
ocena ryzyka
Przypomnienie o pytaniu/ramce
Ocena kliniczna, decyzja
Zespół + nadzór
Raport
szkic szkieletu
Treść, opinia, podpis
Dopasowanie dowodów i oświadczeń
Projekt programu
Generowanie pomysłów/frameworków
kwalifikowalność, decyzja
Pole + potwierdzenie danych
Typowe błędy
- Mylenie wyników AI z oceną. Wynikiem jest zawsze wersja robocza, którą należy zweryfikować; Nie trafia do akt bez powiązania z dowodami.
- Wklejanie danych klienta do otwartego narzędzia. Jeśli wycieknie, nie można tego cofnąć i stanowi to naruszenie KVKK; To najniebezpieczniejszy błąd.
- Poproszenie sztucznej inteligencji o podjęcie decyzji dotyczącej ryzyka/bezpieczeństwa. Decyzje te wymagają autorytetu i odpowiedzialności zawodowej; Sztuczna inteligencja nie może podejmować decyzji.
- Żądanie, które nie wymaga dowodów. Jeśli nie powiesz: „Wykorzystaj tylko to, co jest w notatce”, sztuczna inteligencja może dodać to, czego klient nie powiedział.
- Nie zauważając stygmatyzującego języka. Język sztucznej inteligencji może nieść ze sobą uprzedzenia; Język pełen szacunku i uwzględniający mocne strony jest pod Twoją kontrolą.
Podsumowując
AI to potężny asystent w pracy socjalnej: porządkuje niechlujną notatkę, podsumowuje plik, tworzy wersje robocze, upraszcza, tłumaczy. Jednak ocena kliniczna, ocena ryzyka, reprezentacja i ostateczna decyzja należą do człowieka. Podstawą tego modułu jest dwuetapowa separacja (praca wymagająca dużej ilości dokumentów vs. ocena/decyzje dotyczące ryzyka), trzyetapowa weryfikacja (link do dowodów, niezależne potwierdzenie, filtr stronniczości), świadomość prywatności (anonimowość vs. świat danych klientów) i czujność na stronniczość.
Zadanie aplikacji
Wypisz 6 zadań ze swojego (lub wyimaginowanego) biurka. Sklasyfikuj każde z nich jako „podsumowanie/edycję/projekt podlegające delegowaniu przez sztuczną inteligencję” lub „ocenę kliniczną/decyzję dotyczącą ryzyka”. W przypadku jednego z zbywalnych (z fikcyjnym przykładem, który nie identyfikuje klienta), skorzystaj z powyższego szablonu „Ocena przydatności stanowiska” i uzyskaj odpowiedź od AI; następnie zastosuj weryfikację trzyetapową i wypróbuj również wstępną kontrolę prywatności.
lista kontrolna
- [ ] Podzieliłem pracę na dwie grupy (ocena wymagająca dużej ilości dokumentów/ocena oparta na ocenie ryzyka).
- [ ] Zastosowałem weryfikację trójetapową (dowód, niezależne potwierdzenie, stronniczość).
- [ ] Zadbałem o to, aby nie podawać do otwartego narzędzia danych osobowych identyfikujących Klienta.
- [ ] Powiązałem każde oświadczenie AI dotyczące klienta z faktyczną notatką.
- [ ] Sprawdziłem, czy w wynikach nie pojawił się stygmatyzujący/stronniczy język.