Добици:
- Бити у стању да разликује где вештачка интелигенција штеди време у току рада социјалног рада (сажетак, уређивање, поједностављење, нацрт) и где су клиничко расуђивање, ризик и одлуке о заступању препуштени човеку, у зависности од нивоа ризика.
- Способност примене дисциплине која проверава сваки резултат кроз кораке повезивања са стварним доказима, потврђивања екстерних информација са тренутним званичним изворима и филтрирања кроз пристрасност.
- Да бисмо разумели зашто приватност клијената, разлику између света анонимних и клијентских података и КВКК одговорност треба узети у обзир од самог почетка у социјалном раду.
Ви сте ујутру у центру за социјални рад. Јуче су стигле три нове пријаве: жена жртва насиља и њено двоје деце, старија особа којој је потребна нега и тинејџер у ризику да напусти школу. На вашем столу стоје четири извештаја о социјалној истрази, судско затражено мишљење, евиденција предмета коју треба попунити и припреме за кућну посету породици данас поподне. Социјални рад (професија и дисциплина која се спроводи ради побољшања друштвене функционалности појединаца, породица и заједница, обезбеђивања њиховог приступа правима и благостању и заштите рањивих група) је област која је сама по себи захтевна за документе, под притиском времена, дотиче се људског живота и носи велику одговорност. Вештачка интелигенција (АИ – софтвер који може да издваја обрасце из историјских података и производи или класификује текст, резиме, преводе и нацрте) даје вам дах у оптерећењу овог документа и временском притиску. Али сам почетак овог модула је јасан: АИ је помоћник, резиматор и генератор контуре; Ви сте компетентан стручњак који доноси процену, ризик и коначну одлуку о клијенту.
У овој првој јединици фокусираћемо се на дисциплину, а не на алат. Научићете где АИ штеди реално време у току рада социјалног рада, где је опасно, како да проверите сваки резултат, како да заштитите приватност и личне податке клијената и како да останете упозорени на пристрасност. Без постављања овог темеља, наредне јединице остају у ваздуху — јер у социјалном раду непроверени резултат није само лажна реченица; То је грешка која може довести до тога да дете буде погрешно процењено, до ризика да буде занемарено, да породица буде неправедно стигматизована или до цурења осетљивих информација.
Где је АИ корисна у току рада социјалног рада?
Поделимо послове социјалног рада у два велика кластера. Први кластер: задаци који интензивно захтевају документе, који се понављају, задаци који се могу издвојити по обрасцима и задаци засновани на језику. Превођење разбацаних белешки након интервјуа у организовану евиденцију случаја, хронолошки сажетак дугачког досијеа, први скелет извештаја о друштвеној истрази, поједностављење листе помоћи/услуга како би одговарао језику клијента, нацрт писма препоруке, превод једноставног информативног текста за вишејезичног клијента, први оквир анализе потреба програма. У овим пословима, АИ скраћује сате на минуте и не умара се.
Други кластер: задаци који захтевају расуђивање, клиничку процену, процену ризика и одговорност. Да ли је дете безбедно код куће, степен ризика појединца од самоповређивања, да ли су породици потребне заштитне мере, мишљење са којим ће се поднети извештај суду, да ли је услуга заиста прикладна за клијента. Ове одлуке захтевају професионалну компетенцију, клиничко расуђивање, познавање контекста, етичку одговорност и често мултидисциплинарно мишљење тима. Овде вештачка интелигенција умножава опције, генерише нацрте, подсећа вас на оно што сте превидели — али коначна оцена и потпис су ваши.
Хајде да разјаснимо разлику у једној реченици: АИ је јак у питањима „шта је у овој датотеци и како изгледа први нацрт“; Одлука је на вама када су у питању питања попут „Каква је стварна ситуација за ову особу и могу ли то да браним у име своје професије?“
Савет: Пре него што предате посао АИ, питајте: „Ко ће бити повређен ако је овај резултат погрешан?“ Ако је одговор „неколико минута преправљања“, делегирајте удобно. Ако је одговор „погрешна процена клијента, избегавање ризика или процуреле информације“, пустите АИ да изради нацрт, а ви доносите одлуку и верификацију.
Приватност: неприкосновено начело
Срце социјалног рада је поверење, а поверење се заснива на поверљивости. Клијент вам говори своје најприватније, најкрхкије информације – насиље, сиромаштво, здравствено стање, породичне тајне – ослањајући се на професионалну поверљивост. Када ова информација доспе у погрешне руке, она угрожава живот, безбедност и достојанство особе. Основно правило овде: Никакви лични подаци који идентификују клијента (име, адреса, ТР ИД, здравствено стање, подаци о породици, итд.) неће бити унети у јавни АИ алат који ваша институција није одобрила. Текст који унесете у јавни АИ сервис се обрађује на серверима те услуге; Не можете да контролишете ко га види, где се чува и да ли се користи за обуку модела. У Турској, ово је такође законска обавеза према КВКК (Закон о заштити података о личности – закон који регулише обраду личних података).
Стога, употреба АИ у социјалном раду функционише у два одвојена света: Општи алати се могу користити за деидентификовани/генерички свет (анонимни или измишљени примери који не идентификују клијента, питања општег знања); За свет података о клијентима, користе се само интерни, безбедни, одобрени системи који не пропуштају податке. Бркање то двоје је најопаснија грешка овог модула.
Опрез: „АИ је тако рекао“ није оправдање и нема снагу у спису предмета. Ако постоји погрешна процена, измишљене информације или процурели подаци, одговорност није на АИ, већ на стручњаку који користи тај излаз без провере или уноси те податке у алат.
Дисциплина верификације: три корака
АИ производи флуидно и поуздано; То не значи да је истина. АИ повремено производи халуцинације — то јест, представља стварни закон који не постоји, услугу која не постоји, измишљену статистику или изјаву коју клијент никада није рекао. У извештају о социјалној истрази или меморандуму о ризику, ово је катастрофално. Примените рефлекс у три корака на сваки излаз:
- Линк до извора/доказа. Свака изјава коју АИ даје о клијенту мора бити заснована на стварној белешци или разговору који сте дали. „У ком разговору, из чијих уста, са којим запажањем је дата ова информација? питати. АИ не треба да додаје ништа што клијент није рекао.
- Потврдите са независним извором. Проверите екстерне информације као што су закон, права, услуга, адреса за прослеђивање итд. из тренутног званичног извора. Захтеви за пријаву или телефонски број које даје АИ могу бити застарели или лажни.
- Прођите кроз филтер тумачења и пристрасности. Да ли је резултат пристрасан у односу на групу? Постоји ли језик који стигматизује и окривљује клијента? Да ли игнорише предности? Ваш професионални суд је коначни филтер.
три мини кофера
Случај 1 — Документација је уштедела време. Социјални радник је обавио 14 интервјуа у једној недељи и водио белешке за сваки од њих. Уређивање уз помоћ вештачке интелигенције смањило је укупно време превођења ових белешки у структуриране записе случајева са приближно 4 сата на 1 сат. Али сваки снимак је прочитао вештак и проверио га упоређивањем са стварним интервјуом; Две реченице које је АИ „протумачио“ су избрисане.
Случај 2 — Верификација је ухватила халуцинацију. Експерт је поставио АИ питање о правима; ИЗ је рекао: "Постоји минимални услов боравка од 24 месеца за ову помоћ." Када је вештак погледао званично законодавство, није постојао такав захтев; АИ је помешао два слична помагала и направио услов који није постојао. Корак приписивања је спречио да клијент буде неправедно одбијен.
Случај 3 — Повратак од повреде приватности. Да би био брз, нови професионалац је желео да налепи све информације о случају заштите деце (укључујући име детета, адресу, школу) у јавни алат за вештачку интелигенцију и одштампа извештај. Виши стручњак је схватио: ово су осетљиви лични подаци у оквиру КВКК-а и био је ван њега. Инцидент је третиран као повреда података; посао је поново обављен са уклоњеним акредитивима и јединим безбедним методом.
Четири шаблона за копирање
1) Процена подобности за посао:
Ваша улога: виши социјални радник и супервизор. Описаћу посао у наставку. Реците ми (1) да ли је ово посао резимеа/уређивања/цртања који се може делегирати АИ или онај који захтева клиничку процену и процену ризика, (2) цену за клијента нетачног резултата, (3) верификацију коју треба да урадим пре и после делегирања. Посао: [унесите посао овде]
2) Обавеза ослањања на доказе:
Даћу вам белешке са састанка. Приликом уређивања снимка користите САМО информације у напомени. Не додавати ништа што клијент није рекао, не постављати дијагнозу, не коментарисати. Означите запажање и израз клијента одвојено. Означите области које недостају или нејасне као „потребно је појашњење“.
3) Претходна провера приватности:
Процените следећи текст ПРЕ обраде: да ли овај текст може да садржи личне податке који идентификују клијента (име, адреса, ТР ИД, здравствено стање, подаци о породици)? Ако јесте, које секције? Као такав, ако не би требало да се обради у јавном алату, упозори ме и наведи поља која треба да де-идентификујем. Текст: [напишите текст овде]
4) Пристрасност/провера језика:
Размотрите следећу евиденцију случаја: Да ли постоји језик који стигматизује, окривљује или предрасуде клијента према групи? Да ли игнорише снаге и ресурсе? Предложите језик који је више поштован, фокусиран на чињенице и који препознаје предности. Не мењајте запис, само означите језичке проблеме.
Слаби промпт / Јаки промпт
Слабо обавештење:
Напишите извештај о овој породици и одлучите да ли је дете безбедно код куће.
Овај упит је без контекста и опасан: нејасно је које информације, које запажање и АИ се траже да донесу одлуку о безбедности детета. АИ предвиђа, може пристрасност, може надокнадити - а то укључује људски живот.
Снажан упит:
Ваша улога: помоћник уредника социјалног радника. Извор: Белешке о интервјуима и запажањима са уклоњеним идентификационим подацима, које ћу налепити у наставку. Задатак: израдити нацрт скелета извештаја о социјалној истрази само на основу информација СТВАРНО садржаних у овим белешкама; Означите запажање, изјаву клијента и информације које недостају посебно. ДОНОШЕЊЕ одлуке о ризику или безбедности; Ја ћу урадити процену. Означите област у коју нисте сигурни као „треба да се разјасни“.
Разлика је јасна: де-идентификација, ограничење „труе-пассинг“, означавање и ограничење „одлуке“ чине излаз безбедним и корисним.
Табела поређења улога/задатака
посао
Улога АИ
улога човека
верификација
Уредите евиденцију случаја
Конфигуришите белешку
потврда, тачност
Поређење са напоменом
Резиме датотеке
хронолошки нацрт
Важност, коментар
Линк до извора
Информације о правима/услузи
први нацрт
Тренутна потврда
званично законодавство
процена ризика
Подсетник за питање/оквир
Клинички суд, одлука
Тим + надзор
Извештај
скица скелета
Садржај, мишљење, потпис
Усклађивање доказа са исказом
Дизајн програма
Генерисање идеје/оквира
подобност, одлука
Поље + потврда података
Уобичајене грешке
- Грешка АИ излаза за процену. Излаз је увек нацрт који треба проверити; Не улази у фајл без повезивања са доказима.
- Лепљење података о клијенту у отворени алат. Ако процури, то се не може поништити и представља кршење КВКК; То је најопаснија грешка.
- Тражите од АИ да донесе одлуку о ризику/безбедности. Ове одлуке захтевају професионални ауторитет и одговорност; АИ не може да доноси одлуке.
- Захтев за који нису потребни докази. Ако не кажете „Само користите оно што је у белешци“, АИ може додати оно што клијент није рекао.
- Не примећујући стигматизујући језик. Језик вештачке интелигенције може имати пристрасност; Језик који поштује и узима у обзир предности је под вашом контролом.
Укратко
АИ је моћан асистент у социјалном раду: организује неуредну белешку, резимира фајл, прави нацрте, поједностављује, преводи. Али клиничко просуђивање, процена ризика, представљање и коначна одлука припадају човеку. Носите раздвајање у два сета (рад који је интензиван на документу у односу на просуђивање/одлуке о ризику), верификацију у три корака (веза са доказима, независна потврда, филтер за пристрасност), свест о приватности (анонимни у односу на свет података о клијентима) и будност на пристрасност као окосницу овог модула.
Задатак апликације
Наведите 6 задатака из свог (или замишљеног) стола. Класификујте сваки као „сажетак/уређивање/нацрт који може да се делегира АИ“ или „клиничка процена/одлука о ризику“. За један од преносивих (са измишљеним примером који не идентификује клијента), користите горњи шаблон „Процена подобности за посао“ и добијте одговор од АИ; затим примените верификацију у три корака и покушајте и са претходном провером приватности.
контролна листа
- [ ] Поделио сам рад у два кластера (документ-интензивна / просуђивање-ризик).
- [ ] Применио сам верификацију у три корака (докази, независна потврда, пристрасност).
- [ ] Уверио сам се да отвореној алатки нисам дао личне податке који идентификују клијента.
- [ ] Повезао сам сваку изјаву коју је АИ дао о клијенту са стварном белешком.
- [ ] Проверио сам да ли у излазу има стигматизованог/пристрасног језика.