Підтримка оцінки ризиків і планування безпеки: найбільш чутливий рубіж

Прибуток:

• Можливість підготувати контрольний список факторів ризику та захисту та скелет плану безпеки за допомогою штучного інтелекту та працювати, не пропускаючи жодної області
• Зрозумійте, що рішення щодо рівня/оцінки ризику та безпеки приймаються лише експертами, командами, наглядовими та юридичними процесами, і що штучний інтелект не може приймати рішення.
• Бачачи, що штучний інтелект може приписувати систематичну упередженість групам, що перебувають у невигідному становищі, і застосовуючи дисципліну ніколи не використовувати його результати як рішення та обробляти найбільш конфіденційні дані лише в безпечній системі

Найсерйознішим обов’язком соціальної роботи є оцінка ризику — судження, які безпосередньо стосуються безпеки життя, наприклад, чи знехтували дитиною чи жорстоким поводженням, чи може людина завдати шкоди собі або комусь іншому, чи в безпеці літня людина, чи в небезпеці знаходиться жертва насильства. Перше і найсміливіше правило цього підрозділу таке: прийняття рішень про ризик не належить, не може і не повинно належати ШІ. Рішення про безпеку людини; Це вимагає професійного авторитету, клінічного судження, думки мультидисциплінарної групи, нагляду та юридичної відповідальності. ШІ тут лише інструмент підготовки та нагадування: він нагадує вам, які фактори ризику та захисні фактори слід переглянути, упорядковує ваші нотатки, окреслює план безпеки. Він не дає оцінку, не говорить «ризик низький/високий», він не приймає рішення.

Чому ми так жорстко наголошуємо на цьому? Оскільки на арені ризику ціна помилки штучного інтелекту є незворотною. ШІ оцінює ризик як «низький» і залишає дитину незахищеною; Створення ризику, який здається надмірно «високим», може призвести до несправедливого розлучення сім’ї. Крім того, штучний інтелект несе упередження в навчальних даних: алгоритми, які систематично приписують вищий ризик певним соціально-економічним групам, етнічним групам або районам, були задокументовані по всьому світу. Таким чином, навіть якщо результат ШІ є вхідним, він ніколи не зможе перекрити ваше незалежне судження.

Законна роль ШІ: нагадування та регулювання

Є три місця, де ви можете безпечно використовувати ШІ під час ризику:

1. Фактор нагадування. Фактори ризику (наприклад, насильство в минулому, вживання психоактивних речовин, соціальна ізоляція, попередні госпіталізації) і захисні фактори (наприклад, підтримуючий дорослий, регулярне відвідування школи, сильна соціальна мережа), які слід враховувати при оцінці ризику, є тривалими; Штучний інтелект допоможе вам не пропустити будь-які області, викликаючи контрольний список, який відповідає структурі, яку використовує ваша організація.

2. Редагування приміток. Він перетворює ваші спостереження та заяви клієнтів у організований фактичний текст, щоб ви могли базувати своє судження на чітких даних.

3. Проект плану безпеки. План безпеки (конкретний план, який визначає, що потерпілий робитиме у разі небезпеки, з ким зв'яжеться, куди піде) має певну структуру. AI може створювати чорновий скелет, який буде заповнений клієнтом; Але ви з клієнтом заповнюєте зміст плану відповідно до реальності.

Застереження: ніколи не запитуйте ШІ «який рівень ризику в цьому випадку?» або «чи безпечно дитина вдома?» Не питай. НЕ використовуйте результат як рішення, навіть якщо ви запитуєте. Відповіді на ці запитання дає лише уповноважений експерт, команда та нагляд через офіційний інструмент ризику установи.

Крок за кроком: правильне позиціонування ШІ в процесі ризику

1. Безпека перш за все. Якщо існує безпосередня і серйозна небезпека (безпека життя), необхідно діяти в установі в надзвичайних ситуаціях, а не мати справу з AI. ШІ не повинен відкладати будь-яку терміновість.
2. Розідентифікувати. Рейтинги ризику є найбільш конфіденційними даними; Інформація, що ідентифікує клієнта, не вводиться у відкритий інструмент, використовується лише інструмент безпечної установи.
3. Нагадайте мені список факторів. Вимагайте контрольний перелік факторів ризику та захисту, який відповідає інституційній структурі.
4. Зробіть свій власний суд. Ви зважуєте фактори, оцінюєте з командою та консультуєтеся з керівником. Ви ж не хочете, щоб ШІ «оцінював».
5. Завершіть разом із клієнтом план безпеки. Чернетка скелета може бути отримана від ШІ; Вміст заповнюється фактичною мережею, ресурсами та налаштуваннями клієнта.

три міні-чохла

Випадок 1 — пропущений фактор захисту. Експерт зупинився на факторах ризику у справі про домашнє насильство. Контрольний список факторів, який він попросив у ШІ, змусив його запитати про безпечну мережу підтримки клієнта на роботі в розділі «фактори захисту» — область, яку експерт пропустив. Ця мережа стала найбільш реалістичною частиною плану безпеки. Рішення знову було за експертом; AI лише нагадав питання.

Випадок 2 — Невірна оцінка не була довірою. Одна агенція побачила, як пробний інструмент ШІ позначає випадок як «низький ризик». Проте спостереження експерта та заява клієнта вказували на серйозну небезпеку. Команда відхилила маркування ШІ та ініціювала захисні дії на основі власної оцінки. Пізніше підтвердилося, що небезпека була реальною. Урок: оцінка ШІ не є рішенням; людське судження має перевагу.

Випадок 3 — Упередженість спіймано. В одному судовому процесі одну й ту саму справу було передано ШІ двічі; Різниця була лише в районі проживання клієнта. Штучний інтелект систематично виробляв «мову підвищеного ризику» для регіону, який, як відомо, був неблагополучним. Це продемонструвало упередженість у навчальних даних штучного інтелекту та підкріпило політику агентства щодо невикористання штучного інтелекту під час прийняття рішень про ризики.

Чотири шаблони, які можна копіювати

1) Нагадування про ризик/фактор захисту:

Ваша роль: помічник керівника соціальної роботи. Підготуйте контрольний перелік факторів ризику та захисних факторів, які рекомендується переглянути під час оцінки ризику у випадках [домашнього насильства]. Представити це як список НАГАДУВАНЬ; НЕ створюйте жодних балів, рішень або «рівнів ризику». Оцінка та рішення належать експерту.

2) Скелет проекту плану безпеки:

Ваша роль: редактор. Підготуйте ПУСТИ план безпеки, який потрібно заповнити разом із жертвою домашнього насильства: попереджувальні знаки, безпечні місця, люди та установи, з якими можна зв’язатися, важливі документи, план для дітей, цифрова безпека. Наповнення контенту; Залиште порожні місця під кожним заголовком, які потрібно заповнити клієнтом.

3) Редагування примітки про ризик (без прийняття рішення):

Перекладіть наведені нижче зауваження та зауваження до фактичного організованого тексту. Позначте спостереження та заяву клієнта окремо. ЗАЯВЛЕННЯ рівня ризику, ПРИЙНЯТТЯ РІШЕННЯ, ДОДАВАННЯ коментаря. Відредагуйте лише те, що є в нотатці, і позначте відсутні/незрозумілі області. Примітка: [вставити деідентифіковану примітку]

4) Самоконтроль упередженості:

Чи є в наведеному нижче проекті примітки про ризики твердження, яке свідчить про недоведену упередженість через соціально-економічний статус, етнічну приналежність, сусідство чи подібні характеристики клієнта? Позначте кожне речення, яке базується на стереотипах, а не на доказах. Не міняйте текст, лише попередьте. Примітка: [вставити примітку]

Слабка підказка / Сильна підказка

Слабка підказка:

Прочитайте цей випадок і визначте, чи безпечно для дитини залишатися вдома та який рівень ризику.

Це аутсорсинг найвагомішого рішення про людське життя програмному забезпеченню. Це неетично, суперечить професійній відповідальності та несе упередженість ШІ безпосередньо в долю дитини.

Потужна підказка:

Ваша роль: помічник нагадування. Перш ніж прочитати наведену нижче примітку про деідентифікацію, підготуйте контрольний перелік факторів ризику та захисних факторів для перегляду в оцінці випадків [бездоглядності за дитиною]. ВИРОБНИЦТВО рішення, оцінка або рівень ризику. Я зроблю оцінку зі своєю командою; Ви просто нагадуєте мені, які області я не повинен пропускати.

Різниця: якщо говорити «про які питання я не повинен забувати», а не запитувати про рішення, це тримає ШІ на безпечному та етичному кордоні.

Межі ролей у сфері ризику

Квест

Чи може ШІ це зробити?

Хто робить?

Фактор контрольного списку нагадування

так

ШІ (нагадування)

Фактологічне редагування заміток

так

ШІ + схвалення експерта

План безпеки пустий скелет

так

ШІ; контент клієнт+експерт

Визначення рівня ризику/оцінки

немає

Експерт + команда + супервізія

«Це безпечно?» рішення

немає

Грамотний експерт, судовий процес

Початок захисних заходів

немає

Установа, компетентний орган

Поширені помилки

• Запит ШІ на оцінку ризику/рішення. Найнебезпечніша помилка; Рішення вимагає професійних повноважень і юридичної відповідальності.
• Довіряючи етикетці AI. Висновок про «низький ризик» ніколи не спростує ваше протилежне спостереження.
• Ігнорування упереджень. ШІ може приписувати систематичний високий ризик групам, що знаходяться в несприятливому становищі; самоконтроль необхідний.
• Терміновість відстрочки. Якщо існує безпека життя, спочатку надзвичайна процедура; Робота з ШІ не може чекати.
• Передача найбільш конфіденційних даних у відкритий інструмент. Нотатки про ризики обробляються лише в інструменті безпечної установи.

Підсумовуючи

Оцінка ризику є найважчим обов’язком соціальної роботи, і рішення залишається безпосередньо за людиною — професіоналом, командою, наглядом, юридичною владою. Тут штучний інтелект є лише інструментом для нагадування (список факторів ризику/захисту), організації (фактологічна примітка) і складання (скелет плану безпеки); Він не забиває, не приймає рішень. Пам’ятайте, що штучний інтелект несе упередження, ніколи не використовуйте його результати як рішення та обробляйте найбільш конфіденційні дані лише в безпечній системі.

Аплікаційне завдання

Виберіть вигаданий тип справи. Отримайте контрольний список із шаблоном «нагадування про ризик/фактор захисту» та переконайтеся, що ШІ не створює жодних «рівнів ризику». Потім візьміть чистий скелет плану з шаблоном «скелет плану безпеки». Свідомо запитуючи ШІ «який рівень ризику?» і напишіть одним реченням, чому НЕ слід використовувати результат як рішення.

контрольний список

• [ ] Я запитав ШІ лише про нагадування про фактор, а не про рішення/бал.
• [ ] Я обробляв найбільш конфіденційні дані лише в безпечному корпоративному інструменті.
• [ ] Я планував заповнити зміст плану безпеки разом із клієнтом.
• [ ] Я перевірив вихід ШІ на зміщення.
• [ ] Я підтвердив, що остаточне рішення щодо ризику приймається командою, наглядом і належним процесом.