Работен процес от край до край, управление и отговорна употреба — Изкуствен интелект в социалната работа

Печалби:

Възможност за последователно вграждане на AI на всеки етап от приложението до затварянето с шест порта за човешка проверка
Възможност за създаване на рамка за корпоративно управление с одобрен списък с инструменти, политика за данни, роли, регистрация, обучение и текущ преглед
Възможност за вграждане на принципите на човешка отговорност, проверка, поверителност/KVKK, придържане към доказателства, контрол на пристрастията и ориентиране към клиента в работния процес

По време на този модул разгледахме как да използваме изкуствения интелект и къде да го спрем в различни задачи на социалната работа — документация, оценка, подкрепа при риска, насочване, план, доклад, комуникация, програмен дизайн. В тази последна единица ние събираме парчетата заедно: къде AI ще седи от край до край от приложението до затварянето на случай, коя врата за човешка проверка спира на всеки етап и ще установим рамката за управление, необходима, за да бъде това устойчиво в една организация. Целта е разпръснатите съвети да се превърнат в последователна и повторяема работна дисциплина.

Интегративен принцип от самото начало: AI е ускорител на всяка стъпка от работния процес, а не вземащ решения на която и да е стъпка. На всеки етап има човешка врата и не можете да преминете към следващия, без да преминете през една врата. Тази слоеста структура предотвратява проникването на една халюцинация, пристрастие или грешка в поверителността в решение, което засяга живота на клиента.

Поток от край до край и шест човешки порти

Нека разгледаме даден случай през неговите типични етапи и да поставим порта за проверка на всеки етап:

1. Приложение / първи контакт — Врата: Поверителност. Когато дойде първата информация, AI се използва за подготовка на интервюто (ръководство, рамка за въпроси). Врата: Никакви действителни клиентски данни не влизат в отворения инструмент; Попитайте за класа, съпоставете превозното средство.

2. Оценка — Изход: Клинична преценка. AI организира бележките в биопсихосоциални измерения и напомня за недостатъци и силни страни. Врата: Диагнозата и оценката принадлежат на специалиста; AI не оценява.

3. Риск — Врата: Орган и екип. AI напомня за рискови/защитни фактори и създава скелет на план за сигурност. Врата: Решението за риска се взема само от експерт, екип, надзор и правен процес; AI не дава резултати/решения.

4. Планиране и насоки — Врата: Валидиране и клиент. AI поставя целите в SMART, генерира идеи за ресурси и чернови на писма. Врата: Клиентът определя целите; Услугата/адресът/състоянието е потвърдено от официалния източник.

5. Доклад и комуникация — Врата: Доказателства и отчетност. AI структурира доклада, опростява и превежда текста. Врата: Всеки случай зависи от доказателства, мнението принадлежи на експерта, критичната загуба на информация и пристрастията се проверяват, подписът е на лицето.

6. Затваряне и предаване — Врата: Точност. YZ обобщава файла хронологично. Врата: Резюмето се основава само на записа; Резултатите и наученото се проверяват от експерт.

Съвет: Използвайте един въпрос, за да запомните вратите: „В тази стъпка AI взема ли решение или създава скица?“ Ако отговорът е „решение“, спрете – тази стъпка принадлежи на човека. Ако отговорът е „чернова“, продължете, но не преминавайте към следващата стъпка, без да проверите резултата.

Корпоративно управление: индивидуалната дисциплина не е достатъчна

Добрите навици на експерта са ценни, но крехки; Безопасното и последователно използване на AI в една организация изисква рамка за управление. Ключовите компоненти на тази рамка са:

Списък с одобрени превозни средства. Написано и ясно кой инструмент за коя работа ще се използва и кои данни в кой инструмент могат да се въвеждат. „Всеки трябва да използва какъвто инструмент иска“ е уязвимост в сигурността.
Политика за класифициране на данни. Дефинира се кои данни ще се обработват в отворения инструмент и кои само в защитената система.
Роля и авторитет. Ясно е кой какво може и кое решение зависи от кой орган (особено рисковите решения).
Дневник и одитна пътека. Може да се наблюдава къде и как се използва AI; Когато има проблем, той може да се погледне назад.
Образование и информираност. Всеки служител знае принципите в този модул; Новодошлият е обучен.
Постоянен преглед. Инструменти, рискове и промени в законодателството; Рамката се актуализира редовно. Веднъж написана и забравена политика става остаряла.

три мини калъфа

Случай 1 — Вратите хванаха грешка в началото на веригата. В един случай AI добави наблюдение, което клиентът не спомена по време на фазата на оценка. На вратата на "клиничната преценка" експертът улови това и го изтри. Ако не беше заловен, това скалъпено наблюдение можеше да изтече в плана, оттам в доклада, а оттам в съдебно решение. Многослойното удостоверяване спря грешката в най-ранния момент.

Случай 2 — Управлението предотврати нарушение. Една организация работеше без одобрен списък с инструменти и политика за данни; Всеки е използвал собственото си превозно средство. Одит разкри, че няколко служители въвеждат действителни клиентски данни в отворени инструменти. Организацията е създала рамка за управление: одобрени инструменти, класификация на данни, обучение и регистрация. През следващия период броят на нарушенията падна до нула. Урок: индивидуалната добра воля не е достатъчна без институционална структура.

Случай 3 — Постоянно актуализиран преглед. Политиката на една организация за ИИ, написана преди година, беше остаряла в лицето на нов тип инструменти и актуализирано законодателство. Годишният преглед засне това; Актуализирана е политиката, подновено е обучението. Рамката си остана жив документ, а не украшение на рафт.

Четири копируеми шаблона

1) Контролен списък за проверка на потока на делата:

Вашата роля: ръководител. Получавам контролен списък за проверка за следната стъпка на случая: какво може да изготви AI в тази стъпка, кое решение непременно е човешко, какви проверки за поверителност и пристрастия трябва да се направят, какво трябва да проверя, преди да премина към следващата стъпка? Стъпка: [заявление/оценка/риск/план/доклад/закриване]

2) Потвърдено съвпадение на превозното средство:

За всеки от списъците със задачи по-долу посочете вида на инструмента за изкуствен интелект, който може да се използва (отворен инструмент / само защитена корпоративна система / няма наличен изкуствен интелект) и обосновка. Маркирайте всяка задача, съдържаща клиентски данни, като „само защитена система“. Задачи: [списък със задачи]

3) Проект на корпоративна политика за AI:

Вашата роля: редактор на корпоративна политика. Изготвяне на отговорна политика за използване на AI за агенция за социални услуги; Покрийте следните теми: цел, одобрени инструменти, класификация на данни, роли и оторизации, поверителност/KVKK, лимит на решение за риск, записване и одит, обучение, график за преглед. Създайте общата рамка; Институцията ще попълни свои данни.

4) Саморегулиране (личен преглед на употребата):

Създайте списък за самопроверка от 10 въпроса, за да прегледам използването на AI като социален работник: поверителност, проверка, пристрастия, достоверност на доказателствата, ограничения за вземане на решения и ориентиране към клиента. Нека на всеки въпрос се отговаря с "да/не".

Слаба подкана / Силна подкана

Слаба подкана:

Давам ви целия случай; Вие се занимавате с всичко от заявлението до доклада, аз само ще го подпиша накрая.

Това е възлагане на целия процес — включително поверителност, клинична преценка, преценка на риска, придържане към доказателства — към софтуера. Единственият подпис в края ни заслепява за всички грешки, измислици и пристрастия между тях.

Мощна подкана:

Вашата роля: редактор, който ми помага на всяка стъпка. Ще продължа със случая стъпка по стъпка (оценка, план, доклад...). На всяка стъпка: работете само с анонимни/защитени данни, създайте чернова, позволете ми да реша, не добавяйте това, което не е в бележката, и ми напомнете какво трябва да проверя, преди да премина към следващата стъпка. Нека започнем с тази стъпка: [стъпка]

Разликата: охраната на вратата на всяка стъпка и позиционирането на AI като асистент стъпка по стъпка запазва безопасността и отговорността на човека, като същевременно поддържа скорост.

Резюме на отговорностите на етапа-врата

Етап

Принос на AI

човешка порта

критичен контрол

Приложение

Подготовка за интервю

поверителност

Клас данни

Оценка

Редактиране на размера

клинична преценка

Няма диагноза, няма измислици

Риск

Фактор напомняне

Авторитет + екип

Без резултат/решение

План/насоки

чернова + идея

Валидиране + клиент

Потвърждение на източника, клиентски приоритет

Доклад/контакт

Структура + опростяване

Доказателства + отговорност

Експертно мнение, пристрастен контрол

Затваряне

Хронологично обобщение

точност

базирани на записи

Често срещани грешки

Предаване на целия процес на AI и подписване на един подпис в края. Грешките между тях не се виждат; Трябва да има врати на всяка стъпка.
Преминаване през врата без проверка. Изработването на един етап се наследява от следващия; Всеки изход се валидира.
Оставяне на управлението на индивидуалната дисциплина. Без институционална рамка добрите навици са крехки.
Напишете политиката веднъж и я забравете. Инструменти и промяна на законодателството; Необходим е постоянен преглед.
Не водене на записи. Без одитна пътека проблемът не може да бъде разгледан назад и не може да бъде държан отговорен.

В обобщение

В социалната работа изкуственият интелект е катализатор на всяка стъпка, вземащ решения на нито една стъпка, от молбата до приключването на случай. Поставете шест човешки порти (конфиденциалност, клинична преценка, авторитет/екип, валидиране/клиент, доказателства/отчетност, почтеност) в потока от край до край; Не преминавайте от една врата към друга, без да сте преминали. За да стане това устойчиво, е необходимо корпоративно управление: списък с одобрени инструменти, политика за данни, роли, регистрация, обучение и текущ преглед. Шестте движещи принципа на модула – човешка отговорност, проверка, поверителност/PDPA, ангажираност с доказателства, контрол на пристрастията и ориентиране към клиента – трябва да бъдат вплетени във всеки работен процес.

Задача за приложение

Мислено очертайте измислен случай от молбата до приключването; Създайте контролен списък за всеки етап с шаблон „шлюз за проверка на потока от случаи“. След това класифицирайте задачите в този случай като отворено превозно средство / защитена система / без AI с шаблона „валидирано съвпадение на превозно средство“. И накрая, оценете себе си, като създадете списък от 10 въпроса за собствена употреба на AI с шаблона за „самопроверка“.

контролен списък

[ ] Идентифицирах шест човешки порти в потока от край до край.
[ ] На всяка стъпка "решение или проект?" Приложих въпроса.
[ ] Свързах задачите с правилния тип превозно средство (отворен/безопасен/няма).
[ ] Познавам компонентите на корпоративното управление (инструмент, данни, роля, регистрация, обучение, преглед).
[ ] Приложих шест принципа на модула за носене в моя собствен работен процес.

Изпит по модул

1. Кое от следните е най-точното позициониране на изкуствения интелект в социалната работа?

A) Изкуственият интелект може да реши нивото на риск на клиента и решението за намеса без човешко одобрение
B) AI е инструмент за обобщаване, организиране, опростяване и изготвяне; Отговорността за клиничната преценка, риска и окончателното решение се носи от експерта ✔
В) Изкуственият интелект е полезен само за превод на текст и няма нищо общо с други задачи на социалната работа
Г) Тъй като изкуственият интелект винаги е по-безпристрастен от хората, оценката трябва да бъде оставена на него.

Описание: Изкуствен интелект; Това е асистент, който организира бележки, обобщава файла, опростява текста и създава чернови. Отговорността за клиничната преценка, оценката на риска, професионалното мнение и окончателното решение се носи от компетентния специалист; Непроверен резултат може да доведе до погрешна преценка на клиент, избягване на риска или изтичане на чувствителни данни.

2. Коя е най-правилната инструкция, когато необработените бележки от интервю се преобразуват в запис на случай от изкуствен интелект?

A) Изискване от изкуствен интелект да попълни липсващите части по разумен начин, така че да изглежда професионално.
B) Позволяване на AI да добавя допълнителни наблюдения за обогатяване на записа
C) Помолете ученика да използва само информацията, която действително е включена в бележката, да отбележи липсващите елементи като „нуждае се от пояснение“ и да не добавя нищо ✔
D) Поставянето му директно във файла, без да се сравнява с бележката, стига изходът да е плавен

Обяснение: Най-опасната тенденция на AI е да изфабрикува наблюдения, числа или цитати, които не са в бележката, за да направи записа да изглежда „пълен“. Правилният подход е да кажете „просто използвайте това, което е в бележката, маркирайте липсващите, не добавяйте нищо“. Празнините не са попълнени, те са маркирани за пояснение.

3. Защо разграничението между „факт“ и „тълкуване“ е важно в досиетата?

A) Фактът е конкретно наблюдение/изявление, докато интерпретацията е професионално заключение, което изисква основа; Двете трябва да бъдат разделени и коментарът да бъде тагнат ✔
Б) Разграничението е ненужно; факт и коментар могат да бъдат записани по същия начин в записа
В) Само тълкуването има значение; Възможно е дори фактите да не са записани
Г) Тъй като изкуственият интелект прави това разграничение перфектно, няма нужда от човешки контрол.

Обяснение: „Той плака три пъти в интервюто“ е факт; „Той беше в депресия“ е коментар, който не може да бъде написан без клинична основа. Записът поставя факта на преден план и включва тълкуване само с ясно обозначение и обосновка. AI може да смесва двете плавно; Задължение на всеки е да прави разграничение и да избягва стигматизирането на езика.

4. Каква роля трябва да играе изкуственият интелект при вземането на решение дали едно дете е безопасно у дома или нивото на риск от даден случай?

A) Изкуственият интелект може да прочете случая, да определи нивото на риск и да вземе решение за сигурност
B) Етикетът „нисък риск“, даден от изкуствения интелект, може да отмени наблюдението на експерта за обратното
В) Изкуственият интелект само напомня фактори и организира бележки; Решението за нивото на риска и безопасността принадлежи на експерта, екипа, надзора и правния процес ✔
Г) Изкуственият интелект е по-надежден от хората при вземането на рискови решения, защото е безпристрастен.

Описание: Ниво на риск и решение за сигурност; Изисква професионален авторитет, клинична преценка, мнение на мултидисциплинарен екип, надзор и правна отговорност. Тук AI може само да извиква рискови/защитни фактори и да редактира бележки; не може да произвежда резултати или решения. Той може също така да припише систематично висок риск на групи в неравностойно положение поради отклонение в данните за обучение, така че неговият резултат не може да се използва като решение.

5. Какво трябва да се направи, когато изкуственият интелект даде реферална информация за клиент, като каже „този център, онзи телефон“?

A) Потвърждаване на адреса и телефонния номер от официалния и актуален източник на институцията, преди да го дадете на клиента ✔
B) Предаване на информация директно на клиента, тъй като тя е представена уверено
В) Приемайки, че информацията е абсолютно вярна, стига изкуственият интелект да дава текуща дата
Г) Мисля, че няма нужда да се проучва точността на информацията, защото е спомената някъде.

Описание: Изкуственият интелект може да създава услуги, изисквания за кандидатстване, адреси и телефонни номера или да предоставя остаряла информация; Институциите се сливат, местят, закриват. Изпращането на клиента до непроверен адрес ще доведе до пропиляно пътуване и загуба на доверие. Следователно информацията за контакт, предоставена от изкуствения интелект, трябва да бъде потвърдена чрез официалния канал на институцията, преди да бъде предадена на клиента.

6. Кой трябва да постави цели в план за реагиране и каква е ролята на AI?

А) Изкуственият интелект трябва както да определя целите, така и да напише целия план, без да пита клиента.
Б) Клиентът (съвместно със специалиста) определя целите; AI ги поставя в SMART формат и ги структурира, не добавя нови цели ✔
В) Целите са маловажни; Колкото повече цели включва планът, толкова по-добре.
Г) Изкуственият интелект може да пренебрегне приоритетите на клиента, защото изглежда професионално

Описание: Основната ценност на социалната работа е „самоопределение“: клиентът определя цели и приоритети, оформяйки ги с експертни професионални познания. Изкуственият интелект поставя тези цели в SMART формат и предлага стъпки и индикатори; но не може да добавя нови цели, които клиентът не казва. Чужд, външно наложен план не може да се приложи към клиента.

7. В доклад за социално разследване, който ще бъде представен на съда, в кой въпрос изкуственият интелект е най-опасен?

A) Възможност за измисляне на несъществуващи дати, наблюдения или цитати, за да изглежда докладът „завършен“ ✔
Б) Превръщане на езика на текста в твърде формален
В) Написване на доклада по-кратък от изискваното
Г) Азбучен ред на заглавията

Обяснение: Най-опасната тенденция на AI е да добавя несъществуваща дата, наблюдение или цитат, за да изглежда докладът „пълен“. Изфабрикувано изречение в съдебен доклад може както да подведе решението, така и да унищожи доверието в вещото лице. Следователно всеки случай трябва да бъде свързан с реално интервю/наблюдение/документ, а професионалното мнение да бъде формирано от експерта.

8. Кой трябва да напише професионалното мнение и частта за мнение (предложение) на доклад за социално разследване?

А) Изкуствен интелект; защото дава по-безпристрастна препоръка
B) Разделът за мнение никога не се попълва при писане на доклада.
В) Изкуственият интелект пише становището, експертът се подписва чак накрая
Г) Експерт; професионалното мнение и мнение са негови правомощия и отговорност, изкуственият интелект само изяснява езика ✔

Изявление: Професионално мнение и становище — „това е най-добрият интерес на това дете“, „това споразумение е подходящо“ — е законното правомощие и отговорност на експерта. „Какво препоръчвам на изкуствения интелект?“ Не се иска; „Предложението“, което прави, може да бъде както измислено, така и прехвърляне на отговорност. В най-добрия случай изкуственият интелект изяснява езика на становището, написано от експерта.

9. Кой е най-критичният контрол при опростяване на тежко официално помощно писмо за клиент с изкуствен интелект?

А) Поддържайте текста възможно най-кратък, не се вглеждайте в подробности
B) Резултатът изглежда плавен и естетичен
C) Проверка дали не са пропуснати права, условия, суми, дати или известия чрез сравняване с оригинала ✔
Г) Опростяването осигурява комфорт на клиента, като му дава по-малко информация.

Обяснение: Опростяването не означава изкривяване; Чрез „съкращаване“ или „опростяване“ AI може да погълне право, условие, сума, дата или известие. Клиентът може да загуби правото си с "лесна", но непълна информация. Следователно опростеният текст трябва да бъде сравнен с оригинала и да се провери дали не е загубена критична информация и дори изкуственият интелект да изброи критичните елементи, които защитава.

10. Как е правилно да се третират статистическите данни, произведени от изкуствения интелект, когато се изготвя заявление за финансиране?

А) Директно използване на статистическите данни, дадени от изкуствения интелект, за да изглежда впечатляващо
B) Не правите изкуствения интелект да съставя статистически данни, отпечатвайки [ИЗИСКВАНИТЕ ДАННИ], където е необходимо, и поставяйки всяко число от истинския източник ✔
В) Като се има предвид, че източникът е маловажен, стига номерът да е включен в приложението.
Г) Ако приемем, че няма нужда да проверяваме статистиката, тъй като AI пише уверено

Описание: Изкуственият интелект може да състави поразителни, но неизследвани статистики; Цифра без източник почти винаги е ненадеждна. Изфабрикувана статистика в заявлението едновременно ще отхвърли заявлението и ще унищожи доверието в институцията. Правилният подход е да не карате AI да съставя числа („Напишете [ИЗИСКВАТ СЕ ДАННИ]“) и да поставяте всяко число от истинския, проверен източник.

11. Защо е вредно да се иска от изкуствения интелект „обяснение защо това семейство е неадекватно в отглеждането на деца“?

А) Защото въпросът е твърде дълъг
Б) Тъй като изкуственият интелект не може да предостави информация по семейни въпроси
В) Тъй като предполага резултата от самото начало, изкуственият интелект (ласкателно) произвежда необосновано и пристрастно потвърждение; Въпросът трябва да е неутрален и балансиран ✔
Г) Защото изкуственият интелект винаги ще пише в полза на семейството

Обяснение: Този въпрос предполага резултата („недостатъчен“). AI произвежда свободен от доказателства и предубеден текст, който потвърждава това предположение с тенденцията си да ласкае (потвърдете инсинуацията си). Предубеденият въпрос създава предубеден отговор. Всъщност това е неутрален въпрос, който не предполага резултата, балансира силните страни и опасенията и изисква само доказателства.

12. Как да приложите „тестване под ъгъл“, за да проверите за отклонение в изхода на AI?

A) Мисля за същата ситуация за различна група и питам „Това ще бъде ли написано на същия език?“ ✔ Тестване на двойни стандарти чрез питане
Б) Приемане на първия отговор на изкуствения интелект като неутрален и нетърсене на друг ъгъл
В) Задаване само на въпроси, които подкрепят групата на клиента
Г) Ако приемем, че няма нужда от допълнителен контрол, тъй като пристрастията изобщо не съществуват в изкуствения интелект

Обяснение: AI може да напише едно и също поведение с различен тон за различни групи (напр. „риск от пренебрегване“ за семейство с ниски доходи, „принудителен родител“ за семейство с високи доходи). Тестът за инверсия е „ако клиентът беше от различна социално-икономическа/етническа група, това щеше ли да бъде написано на същия език?“ е да попитам; Това прави видими двойните стандарти, основани на стереотипи, а не на доказателства.

13. Кой е правилният подход за обобщаване на действителното досие на клиента (включително име, адрес, здравна информация)?

A) За бързина го поставете в най-близкия публичен AI инструмент и го обобщете
Б) Обработка на файла, без да се обръща внимание на поверителността, защото е кратък
C) Въведете всичко, включително здравна информация и запазете само резултата
Г) Обработвайте само в защитена система, одобрена от институцията, или с деидентифициран текст, с минимум данни ✔

Разкриване: Лични данни, които идентифицират клиента – особено чувствителни данни като здравословно състояние – никога не се въвеждат в публичен инструмент, който институцията не е одобрила; текстът може да бъде обработен, съхранен на външни сървъри или използван в обучението на модели и ексфилтрацията е необратима. Това също е нарушение на KVKK. Този тип работа се извършва само във вътрешни, защитени, одобрени системи, които не изпускат данни или с деидентифициран текст.

14. Защо изтриването на имена от документ не винаги е достатъчно, за да го включите в публичен инструмент?

A) Изтриването на имена винаги е пълна анонимност и прави всеки документ безопасен
B) Докато документът е кратък, не е възможно да се направи извод за идентичност от контекста
В) Документ, чието име е напълно изтрито, попада извън обхвата на КВКК.
Г) Контекст (съседство, възраст, събитие, семейна структура) може да потвърди идентичността; Защитата се осигурява чрез избор на инструмент и среда ✔

Обяснение: Дори ако имената са изтрити, контекстът (рядка комбинация от квартал, възраст, събитие, дата, семейна структура и т.н.) може да направи човек разпознаваем; Той може да е единственият човек в квартала, който отговаря на описанието. Истинската защита не се осигурява чрез маскиране, а чрез избор на подходящ инструмент и среда; Контекстът също е лични данни и несигурната информация трябва да бъде защитена като по-висок клас.

15. От заявлението до приключването на случай, кой е най-ефективният начин да се предотврати изтичането на една грешка на ИИ в окончателното решение?

A) Делегиране на целия процес на един инструмент с изкуствен интелект и подписване само веднъж в края
B) Поставяне на порта за човешка проверка и условие за преминаване на всеки етап (послойна проверка) ✔
В) Премахване на междинните валидации за скорост и проверка само на изходния етап
Г) Позволяване на всеки експерт да използва собствения си инструмент свободно, без да води записи

Описание: На всеки етап се поставя порта за човешка проверка (заявление/конфиденциалност, оценка/клинична преценка, риск/разрешение, план/проверка, доклад/доказателство, затваряне/точност); Не можеш да минеш през една врата, без да минеш през друга. Тази слоеста структура предотвратява проникването на халюцинация, пристрастност или грешка в поверителността на даден етап в решението, засягащо клиента.