Прибыль:
- Возможность различать, где в рабочем процессе PDR (записи интервью, психообразовательные материалы, содержание карьеры, последующее резюме) искусственный интеллект экономит время в реальном времени, а где такие решения, как диагностика, рекомендации и психологическое консультирование, оставляются на усмотрение эксперта, в зависимости от уровня риска задачи.
- Понимая, что искусственный интеллект никогда не сможет принять решение в случае кризиса и риска, что необходимо консультироваться с экспертами-людьми и необходимыми властями, и что каждый результат должен быть проверен.
- Анонимизация данных студентов в рамках КВКК, профессиональной конфиденциальности и этических принципов PDR, а также формирование привычки выбирать безопасные транспортные средства.
День школьного консультанта наполнен кучей письменных материалов и документации, которую мало кто видит: протоколы индивидуальных собеседований, планы руководства классом, психообразовательные брошюры, информационные письма для родителей, масштабные отчеты, таблицы отслеживания учащихся, протоколы групп и комиссий, материалы по выбору карьеры. Большая часть этой работы повторяется и отнимает часы за столом; Однако настоящая ценность профессии заключается в личных, доверительных отношениях, устанавливаемых со студентом. Искусственный интеллект (ИИ) — компьютерные программы, которые могут понимать человеческий язык и создавать текст, схемы, планы и резюме — является мощным помощником в ускорении этой повторяющейся писательской нагрузки. В этом модуле мы научимся использовать ИИ не как волшебное решение, а как помощника в написании, который создает черновики, дает идеи и редактирует.
Но с самого начала давайте сформулируем два предложения, которые стоят выше всего остального в этой профессии: ИИ не принимает решения об ученике; Он не ставит диагноз, не дает рекомендаций и не заменяет отношения психологического консультирования. И что еще важнее: в ситуациях кризиса и риска ИИ никогда не вступает в игру; Здесь необходимы эксперты, семья и компетентные органы. Эти два принципа являются основой безопасности, на которой построена остальная часть модуля.
В этом первом модуле закладываются три основы: определение того, где ИИ экономит время в рабочем процессе PDR, а где ему следует остановиться; проверка каждого вывода; защита данных учащихся.
Где ИИ экономит время, где решение принадлежит эксперту?
Полезно рассматривать задачи PDR с точки зрения уровня риска. Уровень риска – это то, какой вред нанесет ученику, если задание будет выполнено неправильно. В ПДР этот риск более серьезен, чем в большинстве профессий; потому что речь идет о духовном благополучии, безопасности и будущем ребенка.
Задачи с низкими ставками, которые ИИ значительно ускоряет: составление плана методической работы в классе, написание первой версии брошюры по тестированию тревожности, организация разрозненных заметок об интервью в организованную структуру (после удаления личных данных), составление информационного бюллетеня для родителей, упрощение текста, посвященного карьере, генерация идей для психообразовательной презентации. Здесь ИИ решает проблему «пустой страницы»; Вы корректируете его, обогащаете своими профессиональными знаниями и даете окончательное утверждение.
Задачи высокого риска, решение которых остается за экспертом: постановка учащемуся ярлыка типа диагноза («этот ребенок в депрессии», «у него дефицит внимания»), клиническая интерпретация результата шкалы, направление учащемуся в профессию, использование окончательных утверждений для семьи, определение поведения как «рискованного» и инициирование действия. Эти решения влияют на жизнь ребенка; Ответственность и последнее слово всегда принадлежат эксперту. ИИ здесь предлагает максимум точку зрения, он не может принимать решения.
Запретная зона — куда ИИ никогда не заходил: Кризис и риск. Суицидальные мысли, причинение вреда себе или другим, сексуальное/физическое/эмоциональное насилие, пренебрежение, тяжелые психологические симптомы. В этих случаях мы спрашиваем ИИ «что мне делать?» Спрашивать — это пустая трата драгоценных минут и попытка делегировать ответственность программе. Правильным будет действовать протокол чрезвычайной ситуации, связаться с уполномоченным экспертом и его семьей и уведомить необходимые органы. Мы подробно рассмотрим это в разделе 9; Но рефлекс должен быть выработан с сегодняшнего дня.
Внимание: фраза «ИИ сказал» не является оправданием. Результаты искусственного интеллекта не заменяют одобрение компетентного эксперта в любой области, которая влияет на психическое благополучие, безопасность или будущее учащегося. Непроверенные данные ИИ похожи на непроверенный слух.
Зачем нужна верификация? Галлюцинации и предвзятость
ИИ создает текст не «зная», а «предсказывая возможное слово». Поэтому иногда он дает крайне беглую, но на самом деле неверную информацию. Это называется галлюцинацией: научное исследование, которого не существует, невысказанная цитата, ложная статистика, норма шкалы, которой не существует, сфабрикованный ориентир. Для специалиста по ПДР это опасно; Потому что неверная информация, подаваемая при психообразовании, превращается в стойкое заблуждение у ученика, а неверная статистика, подаваемая семье, превращается в неправильную тревогу.
Вторая проблема — предвзятость: ИИ может повторять социальные закономерности в данных, на которых он обучается; может давать предвзятые данные о поле, культуре, социально-экономическом статусе или «достижениях». Например, это может привести к перекосу студентки в сторону определенных профессий, а студента-мужчины - к другим; или же поведение может восприниматься как «непослушание» у одного ученика и как «серьезная проблема» у другого. Предвзятость в НДР напрямую подрывает принцип справедливости и равенства возможностей.
Из-за этих двух ограничений мы предлагаем простую процедуру проверки, применимую к каждому результату:
- Подключите его к источнику. Проверяйте все, что содержит факты, статистику, цитаты, правила или диагностические критерии, из надежного источника (научное исследование, правительственный орган, документ профессиональной организации).
- Проверьте еще раз. Вручную проверьте числовой или логический вывод (таблицу, временной план).
- Профессиональный фильтр. «Подходит ли это для этого студента, этого возраста, этой культуры, этой семьи? Может ли это причинить вред?» справьтесь с этим, используя свой собственный опыт.
- Возьмите на себя ответственность. В тот момент, когда вы его одобрите, этот текст станет вашим; Любые ошибки — ваша ответственность.
Данные учащихся: конфиденциальность с самого начала
Записи PDR содержат наиболее конфиденциальный тип данных. Имя, номер, класс студента являются персональными данными; психическое состояние, семейная ситуация, информация о здоровье, диагноз или травма являются особыми персональными данными и требуют гораздо более строгой защиты. В Турции это регулируется KVKK (Закон о защите персональных данных); Кроме того, на специалиста по PDR возлагается строгое обязательство по соблюдению конфиденциальности, вытекающее из профессиональной этики. Просто ввести имя, статус или запись разговора учащегося в общедоступный инструмент искусственного интеллекта означает оставить самые конфиденциальные данные вне вашего контроля.
Правило простое и бескомпромиссное: сначала анонимизируйтесь. Удалить идентификационную информацию, такую как имя-фамилия, номер школы, класс-филиал, имя и адрес родителя; Используйте общие выражения, такие как «Студент А», «13-летний ученик», «подросток, испытывающий напряжение в семье». Если возможно, выберите корпоративные инструменты, обеспечивающие гарантию обработки данных, предоставляемые вашей школой или министерством. Мы углубим этот принцип в модуле 10; Сделайте это пока рефлексом.
Совет: прежде чем вставлять текст в AI, найдите имя, номер, учреждение и имя родителя с помощью «Ctrl+F». Если вы его нашли, перед отправкой замените его общими фразами. В случае сомнений: «Идентифицирует ли эта информация студента?» просить; Если ваш ответ «да», он появится.
три мини-кейса
Случай 1 — Выдуманная статистика. Консультант спросил у AI «уровень тревожности перед экзаменами у старшеклассников» на семинаре по тревоге перед экзаменами. ИИ дал четкую цифру вроде «73%» и «исследовательское» название. Когда учитель попытался найти источник, он увидел, что ни того места, ни того кабинета не существует. Благодаря этапу проверки он обернулся и представил фиктивный номер 120 родителям; вместо этого он использовал общее заявление, источник которого можно было проверить. Подготовка заняла 6 минут дольше, дезинформация была заблокирована.
Случай 2. Экономия времени. Специалист по PDR планировал отдельные методические мероприятия для 4 классов каждый месяц и тратил на это около 4 часов. Он начал использовать ИИ в качестве генератора черновиков: он заставлял ИИ создавать проекты планов занятий на основе результатов и корректировать их в соответствии с реальностью в классе. Время сократилось с 4 часов в месяц до ~1,5 часов; Заработанные 2,5 часа он посвятил индивидуальным встречам. Качество не пострадало, поскольку финальное редактирование и фильтрацию делал эксперт.
Случай 3 — Кризисная граница. В одном из интервью студентка рассказала о мыслях о причинении себе вреда. Разум эксперта спрашивает: «Должен ли я написать ситуацию ИИ и получить предложения?» Оно прошло, но остановилось: это была кризисная ситуация. Не написав ИИ ни строчки, он выполнил экстренный протокол, проинформировал администрацию школы и семью и благополучно направил ученика к соответствующему специалисту. Он использовал ИИ только после кризиса, чтобы отредактировать язык протокола, в котором инцидент был анонимно зафиксирован.
Копируемые шаблоны
1) Разделение задачи по уровню риска:
Ваша роль: ПИСЬМЕННЫЙ помощник школьного консультанта. Разделите следующие 8 задач PDR на два списка: (A) задачи с низким уровнем риска, где ИИ может уверенно составить план, (B) задачи с высоким риском, где окончательное решение должно оставаться за экспертом. Также, если задача попадает в зону кризиса/риска, отметьте ее «ЗАПРЕЩЕНО – человек-эксперт». Напишите обоснование в одном предложении для каждой задачи. Задачи: [вставьте сюда свои собственные еженедельные задания]
2) Подсказка для проверки:
Отметьте каждое предложение в тексте ниже, которое содержит факт, статистику, цитату, источник или научное утверждение, и добавьте примечание для каждого «из какого источника следует это проверить?» Не подтверждайте себя; перечислите только то, что необходимо проверить. Текст: [вставить черновик]
3) Предварительная проверка анонимности:
Найдите в тексте ниже каждую фразу, которая может прямо или косвенно описать учащегося (имя, номер, класс, школу, имя родителя, уникальное описание ситуации) и предложите более общую альтернативу для каждой. Комментирование содержимого.Текст: [вставить текст]
4) Дополнительные вопросы по подготовке к собеседованию:
Ваша роль: помощник по написанию PDR. Диагностика, рекомендации. Готовлюсь к ПОДДЕРЖИВАТЕЛЬНОЙ встрече с учеником 13 лет (анонимно) по поводу академической мотивации. Предложите 8 непредвзятых и открытых подготовительных вопросов. Добавьте вверху предупреждение «проконсультируйтесь с профессионалом/семьей» при обнаружении признаков кризиса.
Слабая подсказка / Сильная подсказка
Слабый:
Мой ученик недоволен, что мне делать?
Эта подсказка не имеет контекста, может представлять риск для персональных данных и подталкивает ИИ на территорию диагностики/направления; производит общий, рискованный и бесполезный результат.
Сильный:
Ваша роль: ПИСЬМЕННЫЙ помощник школьного консультанта. Не ставьте диагнозы и не давайте рекомендаций. Следующая ситуация была АНОНИМИЗИРОВАНА. Контекст: 13-летний ученик, кажется, потерял интерес к занятиям в последние недели. Задание: предложите 6 непредвзятых, открытых подготовительных вопросов для ПОДДЕРЖИВАЮЩЕГО собеседования с этим студентом. Если обнаружены признаки кризиса, добавьте вверху предупреждение «проконсультируйтесь с профессионалом/семьей».
Это требование с самого начала кодирует роль, ограничение, анонимность, формат и кризисный рефлекс.
Распространенные ошибки
- Вставка учетных данных. Ввод записи интервью или имени студента в инструмент как есть. Решение: сначала анонимизируйте.
- Спрашиваем ИИ о кризисе. Трата минут в случае риска. Решение: прямой протокол и эксперт-человек.
- Использование без проверки. Передача сфабрикованной статистики/источников учащемуся или родителю. Решение: подключиться к источнику.
- Ждем диагностики. От ИИ до «Что не так с этим ребенком?» попросить поставить диагноз. Решение: диагностика и интерпретация принадлежат специалисту.
- Это означает «ИИ сказал». Возложение ответственности на автомобиль. Решение: окончательное решение и ответственность принадлежит эксперту.
Таблица: Уровень риска миссии и роль ИИ
Квест
Уровень риска
Роль ИИ
лицо, принимающее решения
План руководящей деятельности в классе
низкий
Создает черновик
Эксперт организует
Брошюра по психообразованию, первая версия
низкий
черновик + идея
Эксперт подтверждает
Редактирование заметок разговора (анонимно)
средний
Формат/язык макета
Эксперт подтверждает
Интерпретация результатов шкалы
высокий
Только языковое представление
Отзывы экспертов
Диагностика / окончательные рекомендации
высокий
Не принимает участие
эксперт
Реагирование на кризисы/риски
запрещено
Не принимает участие
человек-эксперт + авторитет
В заключение
ИИ — мощный помощник, который ускоряет повторяющуюся нагрузку по написанию PDR, но он не принимает решения. Разделяйте задачи по уровню риска; Свободно используйте ИИ в проектах с низким уровнем риска, держите при себе решения с высоким риском, полностью оставляйте ИИ в стороне от кризиса и риска. Проверяйте каждый вывод, анонимизируйте все данные, всегда берите на себя ответственность.
Задача приложения
Запишите в список 10 своих еженедельных задач PDR. Пометьте каждый из них «низкий риск/высокий риск/запрещено (кризис)». Затем, используя описанный выше шаблон «настоятельной подсказки», попросите инструмент искусственного интеллекта анонимно создать черновик одной из задач с низким уровнем риска и провести результаты через 4 этапа проверки.
контрольный список
- [ ] Я разделил задачу на уровни риска (низкий/высокий/запрещенный).
- [ ] Я анонимизировал учетные данные перед отправкой текста в инструмент.
- [ ] В ситуации кризиса/риска я нацелился на протокол и эксперта-человека, а не на ИИ.
- [ ] Я проверил факты, статистику и источники в выводе.
- [ ] Я признал, что окончательное решение и ответственность лежат на мне.