Добици:
- Способност доследног уграђивања АИ у свакој фази од апликације до затварања са шест капија за верификацију људи
- Способност успостављања оквира корпоративног управљања са листом одобрених алата, политиком података, улогама, регистрацијом, обуком и сталним прегледом
- Способност уграђивања принципа људске одговорности, верификације, приватности/КВКК, придржавања доказа, контроле пристрасности и усредсређености на клијента у ток посла
Кроз овај модул покрили смо како користити вештачку интелигенцију и где је зауставити у различитим задацима социјалног рада — документовање, процена, подршка ризику, упућивање, план, извештај, комуникација, дизајн програма. У овој последњој јединици, саставили смо делове: где ће АИ стајати од краја до краја од апликације до затварања случаја, која врата верификације људи се заустављају у свакој фази, а ми ћемо успоставити оквир управљања који је потребан да би ово било одрживо у организацији. Циљ је да се расути савети претвори у доследну и поновљиву радну дисциплину.
Интегративни принцип од самог почетка: АИ је акцелератор на сваком кораку тока посла, а не доносилац одлука ни на једном кораку. У свакој фази постоје људска врата и не можете прећи на следећу а да не прођете кроз једна врата. Ова слојевита структура спречава да једна халуцинација, пристрасност или грешка у приватности продре у одлуку која утиче на живот клијента.
Ток од краја до краја и шест људских капија
Хајде да размотримо случај кроз његове типичне фазе и поставимо капију за верификацију у сваку фазу:
1. Пријава / први контакт — Врата: Приватност. Када дођу прве информације, АИ се користи за припрему интервјуа (водич, оквир питања). Врата: У отворени алат не улазе стварни подаци о клијенту; Питајте за класу, ускладите возило.
2. Процена — Гате: Клиничка оцена. АИ организује белешке у биопсихосоцијалне димензије и подсећа на недостатке и предности. Врата: Дијагноза и евалуација припадају специјалисти; АИ не оцењује.
3. Ризик — Врата: Ауторитет и тим. АИ подсећа на факторе ризика/заштитне факторе и ствара скелет безбедносног плана. Врата: Одлуку о ризику доноси само стручни, тимски, надзорни и правни процес; АИ не производи резултате/одлуке.
4. Планирање и вођење — Врата: Валидација и клијент. АИ поставља циљеве у СМАРТ, генерише идеје о ресурсима и нацрте писама. Врата: Клијент поставља циљеве; Услуга/адреса/услов је потврђен из званичног извора.
5. Извештај и комуникација — Врата: Докази и одговорност. АИ структурира извештај, поједностављује и преводи текст. Врата: Сваки случај зависи од доказа, мишљење припада вештаку, проверавају се губитак критичних информација и пристрасност, потпис је у лицу.
6. Затварање и примопредаја — Капија: тачност. ИЗ резимира датотеку хронолошки. Врата: Резиме се заснива само на запису; Резултате и сазнања верификује стручњак.
Савет: Користите једно питање да бисте запамтили врата: „Да ли у овом кораку АИ доноси одлуку или прави скицу?“ Ако је одговор "одлука", стани - тај корак припада човеку. Ако је одговор "нацрт", наставите, али немојте прелазити на следећи корак без провере резултата.
Корпоративно управљање: индивидуална дисциплина није довољна
Добре навике стручњака су вредне, али крхке; Безбедна и доследна употреба вештачке интелигенције у организацији захтева оквир управљања. Кључне компоненте овог оквира су:
- Листа одобрених возила. Написано је и јасно који алат ће се користити за који посао и који подаци се могу унети у који алат. „Свако треба да користи алат који жели“ је безбедносна рањивост.
- Политика класификације података. Дефинисано је који ће се подаци обрађивати у отвореном алату, а који само у безбедном систему.
- Улога и ауторитет. Јасно је ко шта може да ради и која одлука зависи од ког органа (нарочито одлуке о ризику).
- Дневник и ревизијски траг. Где и како се АИ користи може се пратити; Када постоји проблем, може се погледати уназад.
- Образовање и свест. Сваки запослени познаје принципе овог модула; Новајлија је обучена.
- Стални преглед. Алати, ризици и промена закона; Оквир се редовно ажурира. Политика једном написана и заборављена постаје застарела.
три мини кофера
Случај 1 — Врата су ухватила бубу на почетку ланца. У једном случају, АИ је додао запажање које клијент није споменуо током фазе евалуације. На капији "клиничке процене" вештак је ово ухватио и избрисао. Да није ухваћен, ово измишљено запажање могло је да процури у план, одатле у извештај, а одатле у судску одлуку. Вишеслојна аутентификација зауставила је грешку у најранијој фази.
Случај 2 — Управљање је спречило кршење. Једна организација је радила без одобрене листе алата и политике података; Свако је користио своје возило. Ревизија је открила да је неколико запослених уносило стварне податке о клијентима у отворене алате. Организација је успоставила оквир управљања: одобрени алати, класификација података, обука и регистрација. У наредном периоду број прекршаја је пао на нулу. Поука: индивидуална добра воља није довољна без институционалне структуре.
Случај 3 — Континуирани преглед који се ажурира. Политика вештачке интелигенције једне организације, написана пре годину дана, застарела је пред новим типом алата и ажурираним законима. Годишњи преглед је ово забележио; Политика је ажурирана, обука је обновљена. Оквир је остао живи документ, а не орнамент полице.
Четири шаблона за копирање
1) Контролна листа капије за верификацију тока предмета:
Ваша улога: супервизор. Добијам контролну листу за следећи корак случаја: шта АИ може да нацрта у овом кораку, која одлука је нужно људска, које провере приватности и пристрасности треба да се ураде, шта треба да проверим пре него што пређем на следећи корак? Корак: [пријава / процена / ризик / план / извештај / затварање]
2) Потврђено подударање возила:
За сваку од доле наведених листа задатака наведите тип алата АИ који се може користити (отворени алат / само безбедан систем предузећа / АИ није доступан) и оправдање. Означите сваки задатак који садржи податке клијента као „само безбедан систем“. Задаци: [наведите задатке]
3) Нацрт политике корпоративне АИ:
Ваша улога: уредник корпоративне политике. Израдити политику одговорне употребе вештачке интелигенције за агенцију за социјалне услуге; Покријте следеће теме: сврха, одобрени алати, класификација података, улоге и овлашћења, приватност/КВКК, граница одлуке о ризику, снимање и ревизија, обука, распоред прегледа. Поставите општи оквир; Институција ће попунити своје податке.
4) Саморегулација (преглед личне употребе):
Направите листу за самоконтролу од 10 питања за мене да прегледам своју употребу АИ као социјалног радника: приватност, верификација, пристрасност, верност доказа, границе одлучивања и усредсређеност на клијента. Нека се на свако питање одговори са „да/не“.
Слаби промпт / Јаки промпт
Слабо обавештење:
Дајем вам цео овај случај; Ви се бавите свиме од пријаве до извештаја, ја ћу га само потписати на крају.
Ово је препуштање целог процеса – укључујући приватност, клиничку процену, процену ризика, придржавање доказа – софтверу. Јединствени потпис на крају нас заслепљује од свих грешака, измишљотина и пристрасности између.
Снажан упит:
Ваша улога: уредник који ми помаже на сваком кораку. Наставићу са случајем корак по корак (процена, план, извештај...). У сваком кораку: радите само са анонимним/безбедним подацима, израдите нацрт, дозволите мени да одлучим, немојте додавати оно што није у белешци и подсетите ме шта треба да проверим пре него што пређем на следећи корак. Почнимо са овим кораком: [корак]
Разлика: чување врата на сваком кораку и позиционирање АИ као помоћника корак по корак чува безбедност и одговорност човека уз одржавање брзине.
Стаге-гате-респонсибилити резиме
Стаге
Допринос АИ
људска капија
критичка контрола
Апликација
Припрема за интервју
приватност
Класа података
Евалуација
Уређивање величине
клинички суд
Нема дијагнозе, нема измишљотина
Ризик
Подсетник фактора
Ауторитет + тим
Нема резултата/одлуке
План/смернице
нацрт + идеја
Валидација + клијент
Потврда извора, приоритет клијента
Пријави/контакт
Структура + поједностављење
Докази + одговорност
Мишљење стручњака, контрола пристрасности
Затварање
Хронолошки сажетак
тачност
на основу записа
Уобичајене грешке
- Предаја целог процеса АИ и потписивање једног потписа на крају. Грешке између нису видљиве; Врата би требало да буду на сваком кораку.
- Пролазак кроз врата без провере. Измишљање једне фазе наслеђује следећа; Сваки излаз је валидиран.
- Остављање управљања индивидуалној дисциплини. Без институционалног оквира, добре навике су крхке.
- Напишите политику једном и заборавите. Промена алата и закона; Неопходан је стални преглед.
- Не вођење евиденције. Без ревизорског трага, проблем се не може осврнути и не може се сматрати одговорним.
Укратко
У социјалном раду, АИ је катализатор на сваком кораку, доносилац одлука ни у једном кораку, од пријаве до затварања случаја. Ставите шест људских капија (поверљивост, клиничка процена, ауторитет/тим, валидација/клијент, докази/одговорност, интегритет) у ток од краја до краја; Не прелазите са једних врата на друга а да не прођете. Да би се ово учинило одрживим, потребно је корпоративно управљање: листа одобрених алата, политика података, улоге, регистрација, обука и стални преглед. Шест покретачких принципа модула — људска одговорност, верификација, приватност/ПДПА, посвећеност доказима, контрола пристрасности и усредсређеност на клијента — треба да буду уткани у сваки ток посла.
Задатак апликације
Ментално нацртајте измишљени случај од пријаве до затварања; Направите контролну листу за сваку фазу са шаблоном „капија за верификацију тока случаја“. Затим класификујте задатке у овом случају као отворено возило / безбедни систем / без вештачке интелигенције са шаблоном „потврђено подударање возила“. На крају, процените себе тако што ћете креирати листу од 10 питања за сопствену употребу АИ са шаблоном „само-ревизија“.
контролна листа
- [ ] Идентификовао сам шест људских капија у току од краја до краја.
- [ ] На сваком кораку, "одлука или нацрт?" Применио сам питање.
- [ ] Упарио сам задатке са исправним типом возила (отворено/безбедно/нема).
- [ ] Познајем компоненте корпоративног управљања (алат, подаци, улога, регистрација, обука, преглед).
- [ ] Применио сам шест принципа носиоца модула у свој радни ток.
Модул Екам
1. Шта је од следећег најтачније позиционирање вештачке интелигенције у социјалном раду?
- А) Вештачка интелигенција може одлучити о нивоу ризика клијента и одлуку о интервенцији без људског одобрења
- Б) АИ је алат за сумирање, организовање, поједностављивање и израду нацрта; Одговорност за клиничку процену, ризик и коначну одлуку лежи на стручњаку ✔
- Ц) Вештачка интелигенција је корисна само за превођење текста и нема никакве везе са другим задацима социјалног рада
- Д) Пошто је вештачка интелигенција увек непристраснија од људи, процену треба препустити њој.
Опис: Вештачка интелигенција; То је помоћник који организује белешке, резимира фајл, поједностављује текст и прави нацрте. Одговорност за клиничку процену, процену ризика, стручно мишљење и коначну одлуку је на компетентном стручњаку; Непроверени резултат може довести до погрешне процене клијента, избегавања ризика или цурења осетљивих података.
2. Која је најисправнија инструкција када вештачка интелигенција претвори сирове белешке интервјуа у евиденцију случаја?
- А) Захтевање вештачке интелигенције да попуни делове који недостају на разуман начин тако да изгледа професионално.
- Б) Омогућавање АИ да дода додатна запажања како би обогатио запис
- Ц) Замолити ученика да користи само информације које су стварно укључене у белешку, означи ставке које недостају као 'потребно је појашњење' и не додавати ништа ✔
- Д) Стављање директно у датотеку без поређења са белешком све док је излаз течан
Објашњење: Најопаснија тенденција АИ је да измишља запажања, бројеве или цитате који нису у белешци како би запис изгледао 'потпуно'. Исправан приступ је да се каже 'само користи оно што је у белешци, означи оне које недостају, не додај ништа'. Празнине се не попуњавају, оне су означене ради појашњења.
3. Зашто је разлика између 'чињенице' и 'тумачења' важна у спису предмета?
- А) Чињеница је конкретно запажање/изјава, док је тумачење професионални закључак који захтева основу; То двоје треба раздвојити и коментар означити ✔
- Б) Разлика је непотребна; чињеница и коментар се могу уписати на исти начин у записник
- Ц) Само је тумачење важно; Могуће је чак и ако чињенице нису забележене
- Д) Пошто вештачка интелигенција савршено прави ову разлику, нема потребе за људском контролом.
Објашњење: 'Плакао је три пута у интервјуу' је чињеница; 'Био је депресиван' је коментар који се не може написати без клиничке основе. Запис истиче чињеницу и укључује тумачење само са јасним означавањем и образложењем. АИ може течно да меша то двоје; Дужност је особе да направи разлику и избегне стигматизацију језика.
4. Коју улогу треба да игра вештачка интелигенција у одлучивању да ли је дете безбедно код куће или ниво ризика од случаја?
- А) Вештачка интелигенција може да прочита случај, одреди ниво ризика и донесе безбедносну одлуку
- Б) Ознака „ниског ризика“ коју даје вештачка интелигенција може заменити запажање стручњака о супротном
- Ц) Вештачка интелигенција само подсећа факторе и организује белешке; Ниво ризика и одлука о безбедности припада експертском, тимском, надзорном и правном процесу ✔
- Д) Вештачка интелигенција је поузданија од људи у доношењу одлука о ризику јер је непристрасна.
Опис: Ниво ризика и безбедносна одлука; То захтева професионални ауторитет, клиничко расуђивање, мишљење мултидисциплинарног тима, надзор и правну одговорност. Овде АИ може само да се сети фактора ризика/заштитних фактора и да уређује белешке; не може произвести резултате или одлуке. Такође може приписати систематски висок ризик групама у неповољном положају због пристрасности у подацима о обуци, тако да се његов резултат не може користити као одлука.
5. Шта треба учинити када вештачка интелигенција даје информацију о упутству за клијента говорећи „овај центар, тај телефон“?
- А) Потврђивање адресе и броја телефона од званичног и тренутног извора институције пре него што их дате клијенту ✔
- Б) Преношење информација директно клијенту онако како су поуздано представљене
- Ц) Под претпоставком да су информације апсолутно тачне све док вештачка интелигенција даје тренутни датум
- Г) Мислећи да нема потребе да се истражује тачност информације јер се она негде помиње.
Опис: Вештачка интелигенција може да чини услуге, захтеве за апликације, адресе и бројеве телефона или да пружи застареле информације; Институције се спајају, селе, затварају. Слање клијента на непроверену адресу ће довести до изгубљеног путовања и губитка поверења. Према томе, контакт информације које пружа вештачка интелигенција морају бити потврђене преко званичног канала институције пре него што се пренесу клијенту.
6. Ко треба да постави циљеве у плану одговора и која је улога вештачке интелигенције?
- А) Вештачка интелигенција треба да одреди циљеве и да напише цео план без питања клијента.
- Б) Клијент (заједно са специјалистом) одређује циљеве; АИ их ставља у СМАРТ формат и структурира их, не додаје нове циљеве ✔
- Ц) Циљеви су неважни; Што више циљева план укључује, то боље.
- Д) Вештачка интелигенција може да игнорише приоритете клијента јер изгледа професионално
Опис: Основна вредност социјалног рада је 'самоопредељење': клијент поставља циљеве и приоритете, обликујући их стручним стручним знањем. Вештачка интелигенција ставља ове циљеве у СМАРТ формат и предлаже кораке и индикаторе; али не може додати нове циљеве које клијент не каже. Страни, споља наметнути план не може се применити на клијента.
7. У извештају социјалне истраге који се подноси суду, у ком питању је вештачка интелигенција најопаснија?
- А) Способност измишљања непостојећих датума, запажања или цитата како би извештај изгледао 'потпун' ✔
- Б) Превише формалан језик текста
- Ц) Писање извештаја краће од захтеваног
- Г) Азбучни ред наслова
Објашњење: Најопаснија тенденција АИ је додавање непостојећег датума, запажања или цитата како би извештај изгледао 'потпун'. Измишљена реченица у судском извештају може и довести у заблуду одлуку и уништити кредибилитет вештака. Дакле, сваки случај треба повезати са правим интервјуом/опажањем/документом, а стручно мишљење треба да формира експерт.
8. Ко треба да напише стручно мишљење и мишљење (сугестију) у извештају о социјалној истрази?
- А) Вештачка интелигенција; јер производи непристрасније препоруке
- Б) Одељак за мишљење се никада не попуњава приликом писања извештаја.
- В) Вештачка интелигенција пише мишљење, експерт потписује тек на крају
- Д) Експерт; стручно мишљење и мишљење су његов ауторитет и одговорност, вештачка интелигенција само појашњава језик ✔
Изјава: Професионално мишљење и мишљење — „ово је најбољи интерес овог детета“, „овај аранжман је одговарајући“ — је законски ауторитет и одговорност стручњака. 'Шта препоручујем вештачкој интелигенцији?' Не пита се; 'Предлог' који он изнесе може бити и измишљен и може бити преношење одговорности. У најбољем случају, вештачка интелигенција појашњава језик мишљења које је написао стручњак.
9. Која је најкритичнија контрола приликом поједностављивања тешког службеног писма помоћи за клијента са вештачком интелигенцијом?
- А) Нека текст буде што краћи, не гледајте у детаље
- Б) Резултат изгледа течно и естетски
- Ц) Провера да никаква права, услови, износи, датуми или обавештења нису изостављени упоређивањем са оригиналом ✔
- Д) Поједностављење пружа удобност клијенту дајући му или њој мање информација.
Објашњење: Поједностављивање не значи искривљавање; 'скратити' или 'поједноставити' АИ може прогутати право, услов, износ, датум или обавештење. Клијент може изгубити своје право са 'лаким', али непотпуним информацијама. Стога, поједностављени текст треба упоредити са оригиналним и проверити да није изгубљена ниједна критична информација, па чак и да вештачка интелигенција наведе критичне елементе које штити.
10. Како је исправно третирати статистику коју производи вештачка интелигенција приликом израде апликације за финансирање?
- А) Директно коришћење статистике коју даје вештачка интелигенција да би изгледала импресивно
- Б) Не правити да вештачка интелигенција прави статистику, штампа [ПОТРЕБНИ ПОДАЦИ] где је потребно и ставља сваки број из стварног извора ✔
- Ц) С обзиром да је извор небитан све док је број укључен у апликацију.
- Д) Под претпоставком да нема потребе за провером статистике јер АИ пише самоуверено
Опис: Вештачка интелигенција може да направи упечатљиву статистику без извора; Фигура без извора је скоро увек непоуздана. Измишљена статистика у апликацији ће и одбити пријаву и уништити кредибилитет институције. Исправан приступ је да не правите АИ да измишља бројеве ('Напишите [ПОТРЕБНИ ПОДАЦИ]') и стављате сваки број из стварног, провереног извора.
11. Зашто је штетно тражити од вештачке интелигенције да 'објасни зашто је ова породица неадекватна у васпитању деце'?
- А) Зато што је питање предугачко
- Б) Пошто вештачка интелигенција не може да пружи никакве информације о породичним стварима
- Ц) Пошто претпоставља резултат од почетка, вештачка интелигенција (ласкаво) даје непоткрепљену и пристрасну потврду; Питање треба да буде неутрално и уравнотежено ✔
- Д) Зато што ће вештачка интелигенција увек писати у корист породице
Објашњење: Ово питање претпоставља резултат ('недовољан'). АИ производи текст без доказа и пристрасан који потврђује ову претпоставку својом тенденцијом да се ласка (потврди своју инсинуацију). Пристрасно питање ствара пристрасан одговор. Заиста, то је неутрално питање које не претпоставља исход, балансира и снаге и бриге и тражи само доказе.
12. Како применити 'тестирање под углом' да проверите пристрасност у АИ излазу?
- А) Размишљање о истој ситуацији за другу групу и питање „Да ли би ово било написано на истом језику?“ ✔ Тестирање двоструких стандарда питањем
- Б) Прихватање првог одговора вештачке интелигенције као неутралног и не тражење другог угла
- Ц) Постављање само питања која подржавају групу клијента
- Д) Под претпоставком да нема потребе за додатном контролом јер пристрасност уопште не постоји у вештачкој интелигенцији
Објашњење: АИ може да напише исто понашање различитим тоном за различите групе (нпр. 'ризик занемаривања' за породицу са ниским примањима, 'присилни родитељ' за породицу са високим приходима). Тест инверзије је „да је клијент из друге социоекономске/етничке групе, да ли би ово било написано на истом језику?“ је питати; Ово чини видљивим двоструке стандарде засноване на стереотипима, а не доказима.
13. Који је исправан приступ да се резимира стварни фајл клијента (укључујући име, адресу, здравствене информације)?
- А) За брзину, налепите га у најближи јавни алат за вештачку интелигенцију и резимирајте га
- Б) Обрада датотеке без обраћања пажње на приватност јер је кратка
- Ц) Унесите све укључујући здравствене податке и сачувајте само резултат
- Д) Обрађивати само у безбедном систему који је одобрила институција или са неидентификованим текстом, са минималним подацима ✔
Откривање: Лични подаци који идентификују клијента – посебно осетљиви подаци као што је здравље – никада се не уносе у јавни алат који институција није одобрила; текст се може обрадити, чувати на спољним серверима или користити у обуци модела, а ексфилтрација је неповратна. Ово је такође кршење КВКК-а. Ова врста посла се обавља само у интерним, безбедним, одобреним системима који не пропуштају податке или са де-идентификованим текстом.
14. Зашто брисање имена из документа није увек довољно да га укључите у јавни алат?
- А) Брисање имена је увек потпуна анонимизација и чини сваки документ безбедним
- Б) Све док је документ кратак, немогуће је закључити идентитет из контекста
- Ц) Документ чије је име потпуно избрисано не спада у делокруг КВКК.
- Д) Контекст (суседство, године, догађај, породична структура) може поново потврдити идентитет; Заштита се обезбеђује избором алата и окружења ✔
Објашњење: Чак и ако се имена избришу, контекст (ретка комбинација комшилука, година, догађаја, датума, породичне структуре, итд.) може учинити особу препознатљивом; Он је можда једина особа у комшилуку која одговара опису. Права заштита се не обезбеђује маскирањем, већ одабиром правог алата и окружења; Контекст су такође лични подаци и несигурне информације треба заштитити као вишу класу.
15. Од пријаве до затварања предмета, који је најефикаснији начин да се спречи да једна грешка вештачке интелигенције процури у коначну одлуку?
- А) Делегирање целог процеса на један АИ алат и потписивање само једном на крају
- Б) Постављање људске капије за верификацију и услова пролаза у свакој фази (слојевита верификација) ✔
- Ц) Уклањање средњих валидација за брзину и провера само на излазној фази
- Д) Дозволити сваком стручњаку да слободно користи свој алат без вођења евиденције
Опис: У свакој фази поставља се капија за верификацију људи (примена/поверљивост, процена/клиничка процена, ризик/овлашћење, план/верификација, извештај/докази, затварање/тачност); Не можете проћи кроз једна врата, а да не прођете кроз друга. Ова слојевита структура спречава халуцинације, пристрасност или грешку у поверљивости у једној фази да продре у одлуку која утиче на клијента.