Криза, ризик і кордони: людські умови, диспетчерські та юридично-етичні рамки

Прибуток:

• Здатність розуміти, що штучний інтелект не можна використовувати в кризових ситуаціях, таких як суїцидальні думки, заподіяння шкоди собі/іншим, жорстоке поводження та нехтування, і що необхідно негайно проконсультуватися з експертами та органами влади.
• Можливість накладати обмеження на використання штучного інтелекту лише на етапі підготовки та документації, поза межами консультаційних відносин, навіть у некризових ситуаціях
• Знання зобов’язань щодо юридичного сповіщення, ланцюжка перенаправлення та протоколу надзвичайних ситуацій і вміння використовувати штучний інтелект для запису записів лише після цього протоколу, а не замість нього

Цей блок є найважливішим у всьому модулі. Наразі ми позиціонували ШІ як помічника з написання та редагування; У кожній одиниці ми намалювали кордон. Зараз ми уточнюємо найгострішу з цих меж, ту, яку не можна розширювати ні за яких обставин: штучний інтелект не використовується в кризових ситуаціях і ситуаціях ризику. Тут важливі люди-експерти, сім'я та компетентний авторитет.

Кризова ситуація – це ситуація, в якій безпека життя або базове благополуччя учня знаходиться під безпосередньою загрозою: суїцидальні думки або спроби, самоушкодження, загроза заподіяння шкоди іншому, ознаки сексуального/фізичного/емоційного насильства, нехтування, серйозний і гострий психологічний симптом (відрив від реальності, неконтрольована паніка). Спільним для цих ситуацій є те, що час має важливе значення, а рішення вимагає експертної оцінки, інституційного протоколу та часто правової бази. І неетично, і небезпечно для програми входити сюди.

Чому ШІ ніколи не використовують під час кризи?

Є п'ять конкретних причин. По-перше, відповідальність: юридична та професійна відповідальність за кризове рішення належить людині; не можна перенести в програму. По-друге, контекст і судження: Кризова оцінка вимагає негайного спостереження, тону, досвіду та інституційних ресурсів професіонала, який знає студента; ШІ не може цього досягти. По-третє, небезпека галюцинацій: неправильна «оцінка» чи «навіювання» тут можуть стати фатальними. По-четверте, час: кожна хвилина, проведена в кризі, цінна; Правильний рефлекс – працювати за протоколом, а не писати на транспортному засобі. По-п’яте, конфіденційність і закон: кризові дані є найбільш конфіденційними даними, а злом автомобіля є серйозним порушенням.

Застереження: під час кризи запитайте ШІ «що мені робити?» Запитування " витрачає дорогоцінний час і створює ілюзію делегування відповідальності. Правильна перша дія завжди однакова: забезпечення безпеки учня та виконання протоколу надзвичайних ситуацій.

Навіть у некризових ситуаціях: уникайте консультаційних відносин

Нижче порогу кризи ШІ займає обмежене місце навіть у звичайній роботі підтримки. ШІ не вступає у відносини консультування. Тож довірливі стосунки з учнем, слухання, співпереживання, терапевтичний процес — усе це унікально людське й невід’ємне. ШІ працює лише на етапі підготовки та документування поза цими відносинами (підготовка запитань до співбесіди, редагування пост-анонімного запису, чернетка матеріалу). Ніколи не направляйте студента до інструменту чату AI як до «порадника»; Програма не може підтримувати психічне благополуччя підлітка.

Юридичне повідомлення та ланцюжок направлень

У деяких випадках фахівець з PDR має юридичне зобов’язання повідомити: особливо якщо є вказівки або твердження про те, що дитина зазнала жорстокого поводження або зневаги, це юридичне зобов’язання повідомити про це відповідним органам, і на цьому етапі конфіденційність не може переважати над зобов’язанням щодо повідомлення. Подібним чином у випадках серйозного ризику діє ланцюжок перенаправлення: адміністрація школи, сім’я (де це доречно), медичний працівник, відповідний спеціаліст чи установа. Етапи цього ланцюжка є протоколом і повинні бути відомі заздалегідь.

Єдина законна роль штучного інтелекту в цьому ланцюжку після завершення кризи полягає в тому, щоб допомогти скласти анонімний звіт про подію або мову листа-повідомлення — після того, як експерт визначить рішення, час і зміст. ШІ можна використовувати лише в подальшій документації, а не замість протоколу; Навіть тоді особисті дані анонімізуються.

Порада. Зберігайте протокол екстрених ситуацій, номери гарячих ліній і контактну інформацію про відправлення роздрукованими та доступними на вашому столі. Під час кризи звертайтеся до цього заздалегідь підготовленого документа, а не до пам’яті чи пошукової системи.

Крок за кроком: коли стикаєшся з ознаками кризи

1. Забезпечте безпеку. Не залишати учня одного; Якщо є безпосередня небезпека, негайно зробіть пріоритет фізичної безпеки.
2. Зберігайте спокій і слухайте. Без засудження та створення паніки; сприйміть це серйозно
3. Керуйте протоколом. Повідомити адміністрацію школи та відповідних осіб згідно з протоколом.
4. Повідомити родину/владу. Залежно від ситуації та правового зобов'язання; Повідомлення є обов’язковим у випадках підозри на зловживання.
5. Відправте його. Сміливо звертайтеся до необхідного експерта/установи.
6. Потім задокументуйте це. Редагувати запис після закінчення події; ШІ лише на цьому останньому кроці, анонімно.

Шаблони, які можна копіювати (лише для ПІСЛЯ-кризової документації)

1) Підготовка анонімних протоколів після кризи:

Ваша роль: помічник з написання PDR. ДОДАТИ КОМЕНТАР, діагноз чи пропозицію. Відредагуйте наведену нижче анонімну довідку про факти, написану мною ПІСЛЯ інциденту, мовою офіційного звіту. Просто форма і течія; змінити вміст. Анонімна примітка: [вставити примітку на рівні справи без особистих даних]

2) Генератор карток протокольних нагадувань (передкризова підготовка):

Ваша роль: асистент ПДР. Створіть картку НАГАДУВАННЯ для шкільних кризових ситуацій: загальний, пункт за пунктом контрольний список, який визначає безпеку та протокол, під назвою «Перші кроки, коли ви стикаєтеся з ознаками кризи». Я оновлю це з фактичним протоколом моєї школи та контактною інформацією.

3) Брифінг команди (після події, анонімно):

Відредагуйте наведене нижче анонімне резюме інциденту в нейтральний, заснований на фактах брифінг, щоб поділитися ним з командою з надзвичайних ситуацій. Використання тегів і коментарів; просто вкажіть, що сталося, які кроки було вжито та заплановані подальші дії. Резюме: [анонімне резюме]

Слабкий підхід / Сильний підхід

Слабкий (небезпечний):

Один мій студент говорив про те, щоб завдати собі шкоди. Дозвольте мені пояснити ситуацію ШІ, запитати його, що робити, і реалізувати його пропозицію.

Звернення до ШІ під час кризи; втрата часу, ілюзія передачі відповідальності, порушення конфіденційності та ризик помилкової «рекомендації».

Сильний (правильно):

Один із моїх студентів говорив про самоушкодження. Це криза. НІЧОГО не пишучи до ШІ: я не залишаю учня одного, спокійно вислуховую, веду аварійний протокол, інформую адміністрацію школи та родину, безпечно направляю до відповідного спеціаліста/установи. Я можу використовувати штучний інтелект лише для редагування мови анонімного звіту після факту.

три міні-чохла

Випадок 1 — Правильний рефлекс. Під час однієї зустрічі студент висловив суїцидальні думки. Експерт не написав жодного рядка в ШІ; Він не залишив студента одного, склав протокол, зв’язався з родиною та відповідним закладом охорони здоров’я та надав безпечне направлення. Після того, як інцидент було успішно врегульовано, він використав ШІ лише для редагування мови анонімного повідомлення. Час не було втрачено, відповідальність залишилася на своєму місці.

Випадок 2 — Зобов’язання повідомляти. Те, що студент розповів, викликало підозру в нехтуванні/жорстокому поводженні. Експерт знав, що на даний момент конфіденційність не може переважати над зобов’язаннями звітності; Він керував ланцюжком юридичних сповіщень і направлень безпосередньо, не намагаючись проконсультуватися з ШІ щодо ситуації. Він використав ШІ лише пізніше, анонімно, у редагуванні офіційної мови повідомлення.

Випадок 3 — Повернення з неправильного напрямку. Один експерт подумав сказати учневі, що відчуває труднощі: «Ти можеш спробувати поговорити з інструментом чату зі штучним інтелектом», але відмовився: програма не може охопити психіку підлітка, не може виявити ознаки кризи та небезпечна. Натомість забезпечувала регулярні консультації та направлення до відповідного спеціаліста. Консультаційні стосунки з людиною залишилися.

Поширені помилки

• Запитання ШІ про кризу. Марна трата часу і переклад відповідальності. Рішення: прямий протокол і експерт.
• Затримка повідомлення. Вагання в підозрі в зловживанні. Рішення: юридичні зобов’язання переважають над конфіденційністю.
• Спрямування учня на ШІ. Делегування консультаційних відносин програмі. Рішення: зв’язок і реферал – це люди.
• Незнаючи протоколу. Намагаючись згадати, що робити в кризу. Рішення: роздрукований, готовий протокол.
• Введення кризових даних в інструмент. Розкриття найбільш конфіденційних даних. Рішення: жодні особисті кризові дані не потрапляють в інструмент.

Таблиця: ні з ШІ, ні з людьми?

Статус

Роль ШІ

рішення/дія

оцінка кризи

Жодного

Людський експерт + протокол

кризове втручання

Жодного

людина експерт + авторитет

Рішення про юридичне повідомлення

Жодного

Експерт (юридичний обов'язок)

консультативні відносини

Жодного

людина експерт

Анонімне повідомлення після події

Схема мови/формату

Експерт пише і затверджує

Докризова картка загального протоколу

проект

Експерт адаптується до реальності

Підсумовуючи

ШІ ніколи не використовується в кризових ситуаціях і ситуаціях ризику; Тут важливі люди-експерти, сім'я та компетентний авторитет. Правильний рефлекс завжди однаковий: забезпечити безпеку, слухати, керувати протоколом, інформувати необхідні органи, безпечно відправляти. У разі підозри у жорстокому поводженні чи зневазі юридичне повідомлення має перевагу над конфіденційністю. Консультаційні стосунки є виключно людськими та невідчужуваними. Єдина законна роль ШІ – регулювати мову анонімної документації після завершення кризи.

Аплікаційне завдання

Створіть картку-нагадування «Перші кроки» для кризових ситуацій у вашій власній школі (або вигаданій школі). Отримайте схему за допомогою шаблону «картка нагадування про протокол» вище; Потім оновіть його фактичним протоколом вашої установи, ланцюжком направлень і контактною інформацією. Покладіть картку в доступне місце на вашому столі. Зверніть увагу, що роль штучного інтелекту в цій місії є лише загальною структурою, фактичний протокол походить від агентства.

контрольний список

• [ ] Я знаю, що в разі кризи я не буду вдаватися до ШІ, я керуватиму протоколом безпосередньо.
• [ ] Протокол надзвичайних ситуацій і контактна інформація про відправлення надруковані та доступні на мені.
• [ ] Я знаю юридичне зобов’язання повідомляти у разі підозри у жорстокому поводженні/нехтуванні.
• [ ] Я не направлятиму студента до інструменту ШІ як до «консультанта».
• [ ] Я використовуватиму штучний інтелект лише для постфактум анонімної документації.