Этика, конфиденциальность, экспертный надзор и практические ограничения

Прибыль:

• Способность трансформировать этические принципы использования искусственного интеллекта в специальном образовании (благодеяние, непричинение вреда, справедливость, избежание предвзятости) в конкретные правила.
• Возможность управлять конфиденциальностью данных учащихся и членов семьи, ограничениями на хранение и обмен данными в рамках KVKK.
• Способность связать обучение, полученное в рамках модуля, в сквозной безопасный рабочий процесс и определить, где заканчивается искусственный интеллект и начинается ответственность эксперта.

В ходе этого модуля мы научились использовать ИИ в качестве помощника: составили цель IEP, адаптировали материалы, установили AAC и план поведения, отслеживали прогресс и укрепили связь с семьей. В последнем разделе рассматривается структура, которая объединяет все это: этика, конфиденциальность и экспертный надзор. Потому что «данные», с которыми вы работаете в специальном образовании, — это не таблица, а ребенок; «Результат», который вы производите, — это не документ, а решение, затрагивающее право ребенка на образование. Искусственный интеллект обеспечивает большое удобство в этой области; Но при неправильном использовании люди, которым может быть нанесён наибольший вред, также и наиболее уязвимы. Давайте в последний раз повторим принцип, который мы установили с самого начала: Искусственный интеллект – помощник; Диагностика, размещение, цель и решения, влияющие на будущее ребенка, принадлежат компетентному специалисту, команде IEP и семье.

Четыре этических принципа и их конкретные аналоги

Мы можем объяснить использование искусственного интеллекта в специальном образовании четырьмя основными этическими принципами:

• Благотворность: ИИ следует использовать для того, чтобы действительно способствовать образованию ребенка; Это должно помочь учителю освободить свое время и уделить больше внимания ребенку. Использование не является самоцелью.
• Невредность: непроверенная, неприемлемая для детей или стигматизирующая информация может причинить вред. Каждый вывод проходит через фильтр «нанесет ли это вред ребенку?»
• Справедливость: Каждый ребенок должен иметь равный доступ к ресурсам и качественному образованию. ИИ не должен отдавать предпочтение одним детям и пренебрегать другими; Каждому должно быть уделено индивидуальное внимание.
• Как избежать предвзятости: ИИ может отражать стереотипы в данных, на которых он обучается; Конкретный тип инвалидности может привести к дискриминационному выводу о поле, культуре или социально-экономическом статусе. Специалист должен распознать и скорректировать эти результаты и оценить каждого ребенка индивидуально.

Предвзятость особенно важна, поскольку она коварна. ИИ может бегло выдавать такое предложение, как «такие дети обычно не могут сделать X»; Однако это стереотип, который одновременно неправильный и мешает ребенку. Задача специалиста – увидеть эти закономерности и оценить ребенка и его потенциал.

Внимание: никакие обобщения, созданные ИИ («дети с Х-инвалидностью могут/делают Y»), не могут использоваться для ограничения целей ребенка. Заниженные ожидания — одна из самых распространенных и незаметных форм дискриминации.

Конфиденциальность: ограничения на хранение и обмен данными

Данные учащегося (личность, диагноз, отчет RAM, запись о поведении, семейная информация) являются особыми персональными данными в рамках KVKK. Давайте уточним правила в этом блоке:

• Анонимизация: имя, идентификатор, протокол, школа, адрес и семейные данные удаляются перед использованием любого инструмента искусственного интеллекта.
• Минимум данных: делитесь только той информацией, которая необходима для выполнения задачи; Не давайте весь файл «на всякий случай».
• Безопасный инструмент: по возможности предпочтительны корпоративные инструменты, которые имеют контракт на обработку данных и не используют ваши данные при обучении модели; Конфиденциальные данные не загружаются из личных аккаунтов.
• Хранение и удаление. Если черновики, созданные с помощью ИИ, содержат данные учащихся, они сохраняются в соответствии с правилами учебного заведения и удаляются при необходимости; Его не оставляют в случайных местах.
• Обмен информацией: информация передается только уполномоченным лицам (группе IEP, семье, соответствующему специалисту) и только в объеме, необходимом.

В таблице ниже в одном месте собраны ограничения, изученные на протяжении всего модуля:

площадь

ИИ может

ИИ не может/принадлежит людям

Оценка

Обобщает анонимные данные

Диагнозы/изменения

БЭП

Пишет проект целей

Подтверждает/подтверждает намерение

материал

Адаптируется, дифференцируется

Принимает решение об учебной программе/авторских правах

ААС

Карта/набросок истории

Выбирает метод и адаптирует его к ребенку

поведение

ABC подводит итоги, дает советы

Определяет функцию, утверждает план

прогресс

Обобщает и интерпретирует данные

Окончательное решение продолжить

семья

текстовые черновики

Проверяет текст, обеспечивает связь

Правый столбец в этой таблице является пределом ответственности эксперта и не может быть делегирован ИИ ни при каких обстоятельствах.

Комплексный безопасный рабочий процесс

Объединим модуль в один поток. Безопасный рабочий процесс обучения с поддержкой искусственного интеллекта заключается в следующем: (1) анонимизация данных; (2) напишите подсказку с четкими ролями и границами; (3) получить черновик от ИИ; (4) проверить результат в три этапа — ссылка на источник, сравнение с реальным профилем ребенка, эксперт-фильтр; (5) провести аудит этики и предвзятости; (6) адаптироваться и согласовываться с командой/семьей; (7) применять и отслеживать данные; (8) сохранять/удалять черновики в соответствии с правилами учреждения. Этот цикл повторяется для каждой задачи, сохраняя ясность, где заканчивается ИИ и начинается ответственность эксперта.

три мини-кейса

Случай 1. Уловить предвзятость. Учитель попросил у ИИ план цели; В выводе было такое предложение, как «учащиеся такого типа не могут мыслить абстрактно, поэтому ставьте цель на низком уровне». Учитель признал это стереотипом; Его собственный ученик смог установить абстрактные отношения. Он извлек предложение и написал цель, основанную на истинном потенциале ребенка. Этический надзор предотвратил заниженные ожидания, которые могли бы помешать ребенку.

Случай 2. Дисциплина конфиденциальности. Одно учреждение установило для всех учителей правило проводить «проверку анонимности» перед использованием ИИ. Учитель удалил имя, протокол и информацию о семье, прежде чем обобщить отчет RAM. Спустя несколько месяцев проверка данных показала, что организация не предоставила никаких конфиденциальных данных внешнему инструменту. Простая привычка защитила организацию от серьезного риска.

Случай 3 — Ошибка в делегировании ответственности. Учитель в условиях нехватки времени реализовал план поведения, созданный ИИ, не читая его. План не соответствовал функционированию ребенка, и его поведение обострилось. Проблема была не в «ошибке» ИИ, а в делегировании ответственности. Непроверенные данные подобны неподписанному экспертному заключению; Ответственность всегда лежит на эксперте. Ошибка: подменять удобство ответственностью.

Слабая подсказка / Сильная подсказка

Слабая подсказка:

Проанализируйте все об этом студенте и скажите мне, что делать.

Этот запрос одновременно подталкивает нас к предоставлению большего количества данных (возможно, содержащих идентификационные данные), чем необходимо, говоря «все», и передает решение ИИ. Это также нарушает два основных принципа.

Мощная подсказка:

Ваша роль: помощник специалиста по специальному образованию. Используйте только следующую анонимную информацию по конкретной задаче: [необходимый минимум]. Задача: подготовить ПРОЕКТ для [единственной, четкой задачи]. Правила: Диагностика/принятие решения. Не обобщайте/стереотипизируйте. Скажите, что вы не уверены. Предположим, что это будет проверено профессионалом и подтверждено командой/семьей.

Это утверждение включает в себя минимум данных, четкую задачу, предвзятость и ограничения решений вместе взятые; Он собирает все принципы работы модуля в одном шаблоне.

Распространенные ошибки

• Делегирование ответственности. Оставляя решение за ИИ; выполнение без чтения вывода.
• Не видя предрассудков. Не замечая стереотипных, занижающих ожидания обобщений.
• Распространение избыточных данных. Передача ненужных конфиденциальных данных инструменту, сказав «проанализировать все».
• Обход анонимизации. Работа без уточнения личности, диагноза и семейной информации.
• Небезопасное хранение черновиков. Оставление распечаток, содержащих данные учащихся, в случайных местах.
• Считать этический аудит формальным. Пропуск вопросов типа «принесет ли это вред, справедливо ли это, предвзято ли это?»

В итоге

В специальном образовании ИИ — мощный помощник, но поскольку вы работаете с наиболее уязвимыми людьми, этика и конфиденциальность не подлежат обсуждению. Нами руководят четыре принципа: благодеяние, непричинение вреда, справедливость и избежание предвзятости. Данные учащихся анонимизируются, передаются минимальными и безопасными способами и надежно хранятся. Сквозной безопасный рабочий процесс; Цикл: анонимизация, получение черновика, проверка в три этапа, этическая проверка, утверждение командой/семьей, отслеживание с помощью данных. Где бы ни закончился ИИ в этом цикле, начинается ответственность эксперта. Непроверенный вывод подобен неподписанному экспертному заключению; Подпись всегда ваша.

Задача приложения

Выберите одну из схем, которые вы создали на протяжении всего модуля (цель IEP, материал, план поведения или семейный текст), и пройдите с ней все этапы «сквозного безопасного рабочего процесса» в этом модуле. В частности, проверьте этику/предвзятость: нет ли в выводе унижающих обобщений, стигматизирующих заявлений или утечки конфиденциальной информации? Устраните все обнаруженные проблемы и отметьте, на каком этапе процесса возникла эта проблема.

контрольный список

• [ ] Я анонимизировал данные; Я поделился только необходимым минимумом.
• [ ] Я проверил выходные данные в три этапа (источник/профиль/эксперт).
• [ ] Я очистился от предрассудков и обобщений, снижающих ожидания.
• [ ] Я искоренил стигматизирующие высказывания; Я соблюдал четыре этических принципа.
• [ ] Я сохранял черновики в безопасности/удалял их при необходимости.
• [ ] Я принял окончательное решение и взял на себя ответственность как эксперт/команда/семья.

Модульный экзамен

1. Учитель специального образования спрашивает искусственный интеллект «какой диагноз у этого ребенка», просто называя имя и возраст ученика, и записывает ответ в файл IEP. В чем принципиальная ошибка такого подхода?

• А) Игнорирование того, что полномочия на постановку диагноза принадлежат РАМ и уполномоченным экспертам; также переместите непроверенный результат в официальную запись ✔
• Б) Нет необходимости передавать информацию о возрасте искусственному интеллекту
• В) Запрещено хранить файл BEP в цифровой среде.
• Г) Искусственный интеллект всегда делает диагноз тяжелее, чем он есть на самом деле.

Пояснение: Искусственный интеллект не может и не должен диагностировать; Диагностика и оценка являются работой RAM и уполномоченных экспертов. Кроме того, без предоставления данных в модель желаемый результат становится вымыслом (галлюцинацией), а раскрытие личности студента является нарушением конфиденциальности.

2. Что из перечисленного является основным свойством краткосрочной (измеримой) цели BEP?

• А) Стремление к тому, чтобы учащемуся в целом понравился предмет
• Б) Основано только на наблюдении учителя и не содержит числовых критериев
• В) Соберите как можно больше результатов в одном предложении.
• D) Содержит наблюдаемое поведение, состояние и измеримый критерий успеха ✔

Пояснение: Краткосрочная цель включает наблюдаемое поведение, состояние и критерий (сколько попыток, какой процент, какой уровень независимости). Неизмеримые выражения, такие как «понимает», «узнает», «сознает», вызывают ошибки в написании цели.

3. Преподаватель загружает отчет RAM, который включает полное имя учащегося, номер TR ID и диагноз, в общедоступный инструмент искусственного интеллекта и говорит «подвести итог». Каким будет правильный подход?

• А) Загрузить отчет без каких-либо изменений, так как для резюме требуется вся информация
• Б) Просто удалите номер TR ID и оставьте имя и диагноз
• C) Удаление идентификационной информации, анонимизация данных и выбор безопасного/институционального инструмента ✔
• D) Распространение отчета по электронной почте из вашего личного аккаунта и соответствующее его обобщение.

Пояснение: Данные учащихся — это особые персональные данные в рамках KVKK. Личную информацию следует удалить, а данные анонимизировать («10-летний ученик мужского пола»), и, если возможно, следует отдать предпочтение безопасному инструменту, который является институциональным и не использует данные в образовании.

4. Каков наилучший подход при создании социальной истории с использованием искусственного интеллекта для альтернативной и дополняющей коммуникации (AAC)?

• А) Адаптировать проект специально для ребенка и получить одобрение эксперта ✔
• Б) Использование составленного рассказа ровно для всех учащихся, совершенно его не меняя.
• В) Напишите рассказ, используя как можно более длинные и абстрактные слова.
• Г) Предоставление только длинного текста без добавления визуальной поддержки

Описание: Искусственный интеллект генерирует черновики; Однако социальный анамнез и коммуникативная поддержка должны быть адаптированы к индивидуальным особенностям ребенка и одобрены логопедом/специалистом. Общий план не может быть применен непосредственно.

5. Что из следующего является основным принципом получения помощи от искусственного интеллекта в плане поддержки позитивного поведения?

• А) Попросить его/ее порекомендовать самое суровое наказание, чтобы быстро подавить такое поведение.
• Б) Понять функцию поведения и разработать альтернативный вариант позитивного поведения и проект профилактической стратегии ✔
• В) Доработка плана, не зная ученика, просто глядя на название поведения.
• Г) Реализация плана без вовлечения в процесс семьи и специалиста

Пояснение: Поддержка позитивного поведения не ориентирована на наказание; Он направлен на понимание функции поведения (функциональная оценка), профилактических правил и предоставление обучаемого альтернативного поведения вместо нежелательного поведения. Экспертный контроль обязателен.

6. Что означает «решение на основе данных» при отслеживании прогресса?

• А) Принятие решения на основании только одного наблюдения в конце года
• Б) Написание отчета об успеваемости на основе общего впечатления учителя без просмотра данных
• В) Оставить решение полностью на усмотрение искусственного интеллекта.
• Г) Принятие решения о сохранении, адаптации или изменении цели на основе данных регулярных измерений ✔

Пояснение: Принятие решений на основе данных — это принятие решения о сохранении, адаптации или изменении цели на основе регулярных измерений, основанных на достижениях (процент, количество попыток, уровень независимости). Искусственный интеллект обобщает данные и предлагает интерпретацию; Решение принимает эксперт.

7. Как лучше всего сделать материал доступным в соответствии с принципом универсального дизайна (UDL)?

• А) Изложение материала только в одном формате, мелким шрифтом и плотным текстом
• Б) Представление контента несколькими способами, с использованием простого языка и альтернативного текста ✔
• В) Удалить все адаптации и дать всем одинаковый стандартный материал.
• D) Предполагая, что доступность достигается только за счет изменения цвета.

Описание: UDL предполагает представление контента несколькими способами (текстовым, визуальным, аудио), простым языком, альтернативным текстом и гибкими форматами. Цель состоит в том, чтобы разработать дизайн, отвечающий различным потребностям, а не только одному «среднему» учащемуся. Окончательная проверка зависит от экспертного и реального пользовательского тестирования.

8. Учитель отправляет семье текст с информацией о семье, созданный искусственным интеллектом, не проверяя его, и текст содержит неправильную дату встречи и преувеличенное обещание «выздоровления». В чем здесь принципиальная ошибка?

• А) Создание ложной информации и нереалистичных ожиданий путем отправки текста без его проверки ✔
• Б) Отправка письменного сообщения семье сама по себе является неправильной.
• В) Текст слишком короткий
• Г) Искусственному интеллекту строго запрещено создавать семейные тексты.

Описание: Каждый текст, передаваемый семье, должен быть составлен с соблюдением точности, конфиденциальности и одобрения экспертов. Искусственный интеллект свободно владеет языком, но может выдавать ложную информацию (галлюцинации); Текст, отправленный без проверки, наносит ущерб доверию и процессу.

9. Какой из следующих подходов является правильным при проведении дифференциации в классе включения/интеграции?

• А) Полное отделение ученика от класса и предоставление ему/ей возможности выполнять каждое действие в одиночку.
• Б) Поддержка одного и того же достижения с общей ответственностью, без адаптации и маркировки его по уровню ✔
• В) Давать один и тот же материал всему классу без исключения и не делать никаких адаптаций.
• Г) Оставить адаптацию только коррекционному педагогу и исключить из процесса классного руководителя

Объяснение: Дифференциация означает адаптацию одних и тех же результатов обучения к разным уровням и поддержку учащегося без навешивания на них ярлыков. Адаптация – это совместная ответственность классного руководителя и преподавателя специального образования; Избегаются решения, которые отделяют и стигматизируют учащегося от его сверстников.

10. Почему языковые модели искусственного интеллекта особенно рискуют вызывать «галлюцинации» в контексте специального образования?

• А) Потому что модель всегда работает медленно
• Б) Потому что модель не знает турецкого языка
• В) Потому что галлюцинации возникают только при зрительном производстве.
• Г) Потому что выдуманная информация может повлиять на решение ребенка об образовании и может считаться правдивой при свободном разговорном языке ✔

Пояснение: Галлюцинация — это когда модель бегло выдумывает несуществующую информацию, как если бы она была правдой. Сфабрикованный законодательный акт, неправильная норма развития или воображаемый метод специального образования могут напрямую повлиять на право ребенка на образование и развитие; поэтому каждый вывод должен быть проверен.

11. Что означает «избегать предвзятости» в этических принципах использования искусственного интеллекта в специальном образовании?

• А) Распознавание и корректировка стереотипных или дискриминационных результатов, создаваемых моделью, и оценка каждого ребенка индивидуально ✔
• Б) Не писать длинные подсказки только для быстрого вывода.
• В) Использование искусственного интеллекта только на одном типе препятствий
• D) Применение одного и того же предвзятого шаблона ко всем учащимся.

Пояснение: Искусственный интеллект может отражать искажения в данных, на которых он обучается; может производить стереотипные выводы об определенном типе инвалидности, поле, социально-экономическом статусе или культуре. Специалист должен контролировать результат в этом отношении и оценивать каждого ребенка индивидуально.

12. Почему важно включать раздел «Сильные стороны» при подведении итогов отчета RAM с использованием искусственного интеллекта и создании профиля учащегося?

• А) Чтобы отчет выглядел длиннее
• Б) Сильные стороны используются только для формы, хотя по закону они не требуются.
• В) Основывать планирование на сильных сторонах, а не определять ученика только по его/ее недостаткам ✔
• Г) Полностью игнорировать потребности и писать только позитивно

Пояснение: Планирование в специальном образовании основано на сильных сторонах; Только профиль, ориентированный на дефициты/потребности, определяет студента с его недостатками. Сильные стороны являются основой для целей и мотивации и обеспечивают позитивный, ориентированный на рост взгляд на жизнь.

13. Каково правильное отношение с точки зрения «авторского права и оригинальности» при производстве адаптированного материала?

• А) Воспроизведение вывода с символами и контентом, защищенными авторским правом, без проверки.
• Б) Проверка и оригинализация материала на предмет соответствия учебной программе, достоверности и авторских прав ✔
• В) Распространять каждое изображение на коммерческой основе, независимо от источника.
• Г) Предполагая, что проблема авторских прав вообще не относится к цифровому материалу.

Пояснение: Результаты искусственного интеллекта могли быть получены из других источников; может содержать контент, защищенный авторским правом, персонажей брендов или непроверенную информацию. Эксперт должен проверить материал на соответствие учебной программе, достоверность и авторские права, при необходимости указать источник и оригинализировать его.

14. Как ключевой принцип, подчеркиваемый в модуле, описывает роль искусственного интеллекта в специальном образовании?

• А) Искусственный интеллект заменяет эксперта и принимает решения автоматически
• Б) Искусственный интеллект можно использовать только для ведения заметок и ничего больше.
• В) При использовании искусственного интеллекта экспертный надзор отпадает.
• Г) Искусственный интеллект – помощник и генератор тяги; Окончательное решение и ответственность лежат на специалисте, команде и семье ✔

Описание: Искусственный интеллект — помощник и генератор эскизов; Диагностика, постановка целей, постановка целей и решения, влияющие на будущее ребенка, принадлежат компетентному специалисту, команде IEP и семье. Непроверенный вывод — это как неподписанный экспертный вердикт.