Етика, конфіденційність, експертний нагляд і практичні обмеження

Прибуток:

• Здатність трансформувати етичні принципи використання штучного інтелекту в спеціальній освіті (доброчинність, нешкідливість, справедливість, уникнення упередженості) у конкретні правила
• Можливість керувати конфіденційністю даних студента та сім’ї, обмеженнями зберігання та обміну даними в рамках КВКК
• Можливість зв’язати навчання протягом усього модуля в наскрізний безпечний робочий процес і визначити, де закінчується штучний інтелект і починається відповідальність експерта

Протягом цього модуля ми навчилися використовувати штучний інтелект як помічника: склали мету IEP, адаптували матеріали, створили AAC і план поведінки, відстежували прогрес і зміцнювали спілкування з родиною. У цьому останньому розділі розглядається структура, яка тримає все разом: етика, конфіденційність і експертний нагляд. Бо «дані», з якими ти працюєш у спеціальній освіті, — це не таблиця, а дитина; Вироблений вами «результат» — це не документ, а рішення, яке впливає на право дитини на освіту. Штучний інтелект забезпечує велику зручність у цій сфері; Але при неправильному використанні люди, які можуть постраждати найбільше, також є найбільш уразливими. Давайте востаннє повторимо принцип, який ми встановили з самого початку: Штучний інтелект – помічник; Діагноз, розміщення, призначення та рішення, що впливають на майбутнє дитини, належать компетентному спеціалісту, команді IEP та родині.

Чотири етичних принципи та їхні конкретні відповідники

Ми можемо віднести використання штучного інтелекту в спеціальній освіті до чотирьох основних етичних принципів:

• Благодійність: штучний інтелект слід використовувати для справжнього внеску в освіту дитини; Це повинно допомогти вчителю звільнити свій час і приділити більше уваги дитині. Використання не є самоціллю.
• Нешкідливість: неперевірені, невідповідні для дітей або стигматизуючі результати можуть завдати шкоди. Кожен висновок проходить через фільтр "чи зашкодить це дитині?"
• Справедливість: кожна дитина повинна мати рівний доступ до ресурсів і якісної освіти. ШІ не повинен привілейувати одних дітей і нехтувати іншими; Кожному слід приділяти індивідуальну увагу.
• Уникнення упередженості: ШІ може відображати стереотипи в даних, на яких він навчається; Конкретний тип інвалідності може спричинити дискримінацію щодо статі, культури чи соціально-економічного статусу. Спеціаліст повинен розпізнати та скоригувати ці результати та оцінити кожну дитину окремо.

Упередженість особливо важлива, оскільки вона підступна. ШІ може вільно створювати речення на кшталт «такі діти зазвичай не можуть робити Х»; Однак це стереотип, який і неправильний, і заважає дитині. Завдання фахівця – побачити ці закономірності та оцінити дитину з її можливостями.

Застереження: жодні узагальнення, згенеровані штучним інтелектом («діти з обмеженими можливостями X можуть/роблять Y») не можуть використовуватися для обмеження мети дитини. Низькі очікування є однією з найпоширеніших і найбільш непомітних форм дискримінації.

Конфіденційність: обмеження на зберігання та обмін даними

Дані студента (особа, діагноз, висновок РАМ, історія поведінки, відомості про сім’ю) є спеціальними персональними даними в межах КВКК. Давайте уточнимо правила в цьому підрозділі:

• Анонімність: ім’я, ідентифікатор, протокол, школа, адреса та відомості про сім’ю видаляються перед входом у будь-який інструмент AI.
• Мінімум даних: ділитися лише інформацією, необхідною для виконання завдання; Не давайте весь файл «про всяк випадок».
• Захищений інструмент: якщо можливо, перевагу надають корпоративним інструментам, які мають контракт на обробку даних і не використовують ваші дані під час навчання моделі; Конфіденційні дані не завантажуються з особистих облікових записів.
• Зберігання та видалення: якщо чернетки, створені за допомогою штучного інтелекту, містять дані студентів, вони зберігаються відповідно до правил навчального закладу та видаляються, якщо це необхідно; Його не залишають у випадкових місцях.
• Обмін інформацією: інформація надається лише уповноваженим особам (команда IEP, родина, відповідний спеціаліст) і лише стільки, скільки необхідно.

У наведеній нижче таблиці в одному місці підсумовано обмеження, вивчені протягом усього модуля:

область

AI може

ШІ не може / належить людям

Оцінка

Узагальнює анонімні дані

Діагнози/зміни

BEP

Пише проект цілей

Підтверджує/підтверджує намір

матеріал

Адаптується, диференціюється

Приймає рішення щодо навчальної програми/авторського права

AAC

Схема картки/розповіді

Вибирає методику та адаптує її під дитину

поведінка

Буквар підводить підсумки, дає поради

Визначає функції, затверджує план

прогрес

Узагальнює та інтерпретує дані

Остаточне рішення про продовження

родина

чернетки тексту

Перевіряє текст, забезпечує зв’язок

Правий стовпець у цій таблиці є межею відповідальності експерта і не може бути делегований ШІ ні за яких обставин.

Наскрізний безпечний робочий процес

Давайте об’єднаємо модуль в єдиний потік. Захищений навчальний процес із підтримкою штучного інтелекту полягає в наступному: (1) анонімізація даних; (2) написати підказку з чіткими ролями та межами; (3) отримати проект від ШІ; (4) перевірити результат у три кроки — посилання на джерело, порівняння з фактичним профілем дитини, експерт-фільтр; (5) провести перевірку етики та упередженості; (6) адаптація та перевірка з командою/родиною; (7) застосовувати та контролювати дані; (8) зберігати/видаляти чернетки відповідно до правил установи. Цей цикл повторюється з кожним завданням, чітко вказуючи, де закінчується ШІ та починається відповідальність експерта.

три міні-чохла

Випадок 1 — упередження вловлювання. Учитель попросив ШІ накреслити мету; У вихідних даних було речення на кшталт «цей тип студентів не може мислити абстрактно, тримайте мету низькою». Учитель визнав це стереотипом; Його власний учень умів встановлювати абстрактні відносини. Він витягнув речення та написав ціль, виходячи зі справжнього потенціалу дитини. Етичний нагляд запобіг низьким очікуванням, які б завадили дитині.

Випадок 2 — Дисципліна конфіденційності. Одна установа встановила правило, щоб усі вчителі проводили «перевірку анонімізації» перед використанням ШІ. Учитель видалив ім’я, протокол і інформацію про сім’ю перед тим, як узагальнити звіт RAM. Через кілька місяців перевірка даних показала, що організація не надала жодних конфіденційних даних зовнішньому інструменту. Проста звичка захистила організацію від серйозного ризику.

Випадок 3 — Помилка при делегуванні відповідальності. Учитель під тиском часу впровадив план поведінки, розроблений штучним інтелектом, не читаючи його. План не відповідав функціонуванню дитини, і поведінка загострилася. Проблема полягала не в «помилці» ШІ, а в делегуванні відповідальності. Неперевірений результат схожий на непідписане експертне рішення; Відповідальність завжди лежить на експерті. Помилка: підміна відповідальності на зручність.

Слабка підказка / Сильна підказка

Слабка підказка:

Проаналізуйте все про цього студента і скажіть мені, що робити.

Цей запит водночас спонукає нас надати більше даних (можливо, що містять ідентичність), ніж це необхідно, кажучи «все», і передає рішення штучному інтелекту. Це також порушує два основні принципи.

Потужна підказка:

Ваша роль: помічник фахівця зі спеціальної освіти. Використовуйте лише таку анонімну інформацію, пов’язану з конкретним завданням: [необхідний мінімум]. Завдання: Створіть ПРОЕКТ для [одного чіткого завдання]. Правила: Діагностика/прийняття рішень. Не узагальнюйте/стереотипуйте. Зазначте, що ви не впевнені. Припустімо, що це буде перевірено фахівцем і підтверджено командою/родиною.

Це твердження включає мінімальні дані, чітке завдання, упередженість і обмеження щодо прийняття рішень разом; Він збирає всі принципи модуля в одному шаблоні.

Поширені помилки

• Делегування відповідальності. Залишення рішення за ШІ; виконання без читання виводу.
• Не бачачи упередженості. Не помічаючи стереотипних узагальнень, що знижують очікування.
• Обмін надмірними даними. Надання непотрібних конфіденційних даних інструменту, кажучи «проаналізуйте все».
• Обхід анонімізації. Робота без підтвердження особи, діагнозу та сімейної інформації.
• Ненадійне зберігання чернеток. Залишення роздруківок із даними студентів у довільних місцях.
• Вважати етичний аудит формальним. Пропуск запитань на кшталт «чи завдасть це шкоди, чи справедливо це, чи упереджено?»

Підсумовуючи

У спеціальній освіті ШІ є потужним помічником, але оскільки ви працюєте з найбільш вразливими людьми, етика та конфіденційність не підлягають обговоренню. Нами керуються чотири принципи: доброзичливість, нешкідливість, справедливість, уникнення упередженості. Дані студентів анонімні, передаються за допомогою мінімальних безпечних засобів і надійно зберігаються. Наскрізний безпечний робочий процес; Цикл полягає в анонімізації, отриманні чернетки, перевірці в три етапи, етичній перевірці, погодженні командою/родиною, відстеженні даних. Там, де ШІ закінчується в цьому циклі, починається відповідальність експерта. Неперевірений вихід подібний до непідписаного експертного висновку; Підпис завжди ваш.

Аплікаційне завдання

Виберіть один із планів, які ви підготували протягом модуля (мета IEP, матеріал, план поведінки або сімейний текст), і виконайте його через усі кроки «наскрізного безпечного робочого процесу» в цьому розділі. Зокрема, перевірте етику/упередженість: чи є у вихідних даних принизливе узагальнення, стигматизаційне твердження чи витік конфіденційності? Виправте будь-які проблеми, які ви знайдете, і запам’ятайте, на якому етапі потоку ця проблема виникла.

контрольний список

• [ ] Я анонімізував дані; Я поділився лише необхідним мінімумом.
• [ ] Я перевірив результат за допомогою трьох кроків (джерело/профіль/експерт).
• [ ] Я очистив упередження та узагальнення, що знижують очікування.
• [ ] Я відсіяв стигматизаційну мову; Я дотримувався чотирьох етичних принципів.
• [ ] Я зберігав чернетки в безпеці/за потреби видаляв їх.
• [ ] Я прийняв остаточне рішення та відповідальність як експерт/команда/сім’я.

Модульний екзамен

1. Вчитель спеціальної освіти запитує штучний інтелект «який діагноз у цієї дитини», просто називаючи ім’я та вік учня, і записує відповідь у файл IEP. У чому принципова помилка такого підходу?

• А) Ігнорування того, що повноваження постановки діагнозу належать ОЗУ та уповноваженим експертам; також перемістіть неперевірений вихід до офіційного запису ✔
• B) Штучному інтелекту немає потреби давати інформацію про вік
• C) Забороняється зберігати файл BEP у цифровому середовищі
• D) Штучний інтелект завжди робить діагноз важчим, ніж він є

Пояснення: Штучний інтелект не може і не повинен діагностувати; Діагностика та оцінка – робота RAM та уповноважених експертів. Крім того, без надання даних моделі бажаний результат стає вигадкою (галюцинацією), а розголошення особи студента є порушенням конфіденційності.

2. Що з наведеного є основною характеристикою, яку має мати короткострокова (вимірна) ціль BEP?

• А) Прагнення до того, щоб студент загалом любив предмет
• Б) Базується лише на спостереженні вчителя і не містить числових критеріїв
• C) Зберіть якомога більше результатів в одному реченні.
• D) Містить спостережувану поведінку, умови та вимірний критерій успіху ✔

Пояснення: Короткострокова мета включає спостережувану поведінку, умову та критерій (скільки випробувань, який відсоток, який рівень незалежності). Невимірні вирази, такі як «розуміє», «дізнається», «усвідомлює» викликають помилки в написанні мети.

3. Викладач завантажує звіт RAM, який містить повне ім’я студента, номер TR ID та діагноз, у загальнодоступний інструмент штучного інтелекту та каже «резюмувати». Яким буде правильний підхід?

• A) Завантажте звіт без будь-яких змін, оскільки резюме вимагає всієї інформації
• B) Просто видаліть ідентифікаційний номер TR і залиште назву та діагноз
• C) Видалення ідентифікаційної інформації, анонімізація даних і вибір безпечного/інституційного інструменту ✔
• D) Надсилання звіту електронною поштою з вашого особистого облікового запису та відповідне його узагальнення

Пояснення: Дані студента є спеціальними персональними даними в межах КВКК. Інформацію про особу слід видалити, а дані зробити анонімними («10-річний учень»), і, якщо можливо, слід віддати перевагу безпечному інструменту, який є інституційним і не використовує дані в освіті.

4. Яке найкраще ставлення до створення соціальної історії зі штучним інтелектом для альтернативної та доповнюючої комунікації (AAC)?

• А) Адаптуйте проект спеціально для дитини та погодьте його експертом ✔
• B) Використовувати створену історію точно для всіх учнів, не змінюючи її взагалі
• В) Написання розповіді якомога довшими та абстрактними словами
• D) Надання лише довгого тексту без додавання візуальної підтримки

Опис: Штучний інтелект створює чернетки; Однак соціальний анамнез і підтримка спілкування повинні бути адаптовані до індивідуальних особливостей дитини та схвалені логопедом/спеціалістом. Загальний план не можна застосувати безпосередньо.

5. Що з наведеного нижче є основним принципом при отриманні допомоги від штучного інтелекту в плані підтримки позитивної поведінки?

• A) Попросити його/її порекомендувати найсуворіше покарання, щоб швидко придушити поведінку.
• B) Зрозумійте функцію поведінки та створіть альтернативну позитивну поведінку та проект превентивної стратегії ✔
• C) Доопрацювання плану, не знаючи учня, просто дивлячись на назву поведінки
• Г) Реалізація плану без залучення до процесу родини та спеціаліста

Пояснення: підтримка позитивної поведінки не орієнтована на покарання; Він спрямований на розуміння функції поведінки (функціональна оцінка), превентивних правил і забезпечення альтернативної поведінки, яку можна навчити, замість небажаної поведінки. Експертний нагляд необхідний.

6. Що означає «рішення, кероване даними» для відстеження прогресу?

• A) Прийняття рішення на основі лише одного спостереження в кінці року
• B) Написання звіту про успішність на основі загального враження вчителя без огляду на дані
• C) Залишення рішення повністю на інтерпретацію штучного інтелекту
• D) Прийняття рішення підтримувати, адаптувати або змінювати мету, переглядаючи дані регулярних вимірювань ✔

Пояснення: прийняття рішень на основі даних — це рішення підтримувати, адаптувати або змінювати мету шляхом перегляду регулярних вимірювань на основі досягнень (відсоток, кількість спроб, рівень незалежності). Штучний інтелект узагальнює дані та пропонує інтерпретацію; Рішення приймає експерт.

7. Відповідно до принципу універсального дизайну (UDL), який найкращий спосіб зробити матеріал доступним?

• А) Викладення матеріалу тільки в одному форматі, дрібним шрифтом і щільним текстом
• Б) Представлення вмісту різними способами, надаючи зрозумілу мову та альтернативний текст ✔
• C) Видаліть усі адаптації та дайте всім однаковий стандартний матеріал
• D) Припущення, що доступність досягається лише зміною кольору

Опис: UDL передбачає представлення вмісту різними способами (текст, зображення, аудіо), простою мовою, альтернативним текстом і гнучкими форматами. Мета полягає в тому, щоб дизайн відповідав різним потребам, а не лише одному «середньому» студенту. Остаточна перевірка залежить від тестування експертів і реальних користувачів.

8. Вчитель надсилає сім’ї текст сімейної інформації, створений штучним інтелектом, не перевіряючи його, і текст містить неправильну дату зустрічі та перебільшену обіцянку «одужання». У чому тут принципова помилка?

• A) Створення неправдивої інформації та нереалістичних очікувань шляхом надсилання тексту без його перевірки ✔
• B) Надсилання письмового тексту родині само по собі є неправильним.
• В) Текст занадто короткий
• Г) Штучному інтелекту суворо заборонено створювати сімейний текст

Опис: кожен текст, який надається членам сім’ї, має бути створений з точністю, конфіденційністю та схваленням експертів. Штучний інтелект вільно володіє, але може видавати неправдиву інформацію (галюцинації); Текст, надісланий без перевірки, шкодить довірі та процесу.

9. Що з наведеного нижче є правильним підходом до диференціації в класі включення/інтеграції?

• А) Повністю відокремте учня від класу та запропонуйте йому/їй виконувати кожну дію окремо
• Б) Підтримка того самого досягнення зі спільною відповідальністю, без адаптації та маркування відповідно до рівня ✔
• В) Давати той самий матеріал усьому класу без винятку і не вносити жодних адаптацій
• Г) Залишення адаптації лише вчителю-дефектологу та усунення від процесу класного керівника

Пояснення: диференціація означає адаптацію того самого результату навчання до різних рівнів і підтримку учня без ярликів. Адаптація – спільна відповідальність класного керівника та вчителя-дефектолога; Уникають рішень, які відокремлюють і стигматизують учня від його однолітків.

10. Чому для мовних моделей ШІ створювати «галюцинації» особливо ризиковано в контексті спеціальної освіти?

• А) Оскільки модель завжди працює повільно
• Б) Тому що модель не знає турецької мови
• В) Тому що галюцинація виникає тільки в візуальному виробництві
• D) Тому що вигадана інформація може вплинути на рішення дитини щодо навчання, і її можна вважати правдивою вільною мовою ✔

Пояснення: галюцинація — це коли модель вільно вигадує неіснуючу інформацію, наче вона правдива. Сфабрикований законодавчий акт, неправильна норма розвитку чи вигадана методика спеціального навчання можуть безпосередньо вплинути на право дитини на освіту та розвиток; тому кожен результат має бути перевірений.

11. Що означає «уникнення упередженості» в етичних принципах використання штучного інтелекту в спеціальній освіті?

• A) Розпізнавання та виправлення стереотипних або дискримінаційних результатів, створених моделлю, та оцінювання кожної дитини окремо ✔
• B) Не писати довгі підказки лише для швидкого виведення.
• C) Використання штучного інтелекту лише на одному типі перешкод
• Г) Застосування того самого упередженого шаблону до всіх учнів

Пояснення: Штучний інтелект може відображати упередження в даних, на яких він навчається; може створювати стереотипні результати щодо конкретного типу інвалідності, статі, соціально-економічного статусу чи культури. Спеціаліст повинен контролювати результат у цьому відношенні та оцінювати кожну дитину окремо.

12. Чому важливо включити розділ «сильні сторони» під час узагальнення звіту RAM зі штучним інтелектом і створення профілю студента?

• А) Щоб звіт виглядав довшим
• B) Сильні сторони використовуються лише для форми, хоча вони не є обов’язковими за законом.
• C) Базувати планування на сильних сторонах, а не визначати учня лише за його/її недоліками ✔
• Г) Повністю ігнорувати потреби і писати тільки позитивне

Пояснення: планування в спеціальній освіті базується на сильних сторонах; Лише профіль, орієнтований на недоліки/потреби, визначає учня з його/її недоліками. Сильні сторони є основою для цілей і мотивації та забезпечують позитивне, орієнтоване на зростання перспективу.

13. Яке правильне ставлення до «авторського права та оригінальності» під час створення адаптованого матеріалу?

• A) Відтворення результату із захищеними авторським правом символами та вмістом без перевірки
• Б) Перевірка та оригіналізація матеріалу на предмет відповідності навчальній програмі, точності та авторських прав ✔
• C) Розповсюджуйте кожне зображення комерційно, незалежно від джерела
• D) Якщо припустити, що проблема авторського права взагалі не стосується цифрових матеріалів

Пояснення: вихідні дані штучного інтелекту могли надходити з інших джерел; може містити захищений авторським правом вміст, символи брендів або неперевірену інформацію. Експерт повинен перевірити матеріал на відповідність навчальній програмі, точність і авторські права, а також посилатися на джерело та оригіналізувати його, якщо це необхідно.

14. Як ключовий принцип, на якому наголошується в модулі, описує роль штучного інтелекту в спеціальній освіті?

• А) Штучний інтелект замінює експерта і приймає рішення автоматично
• B) Штучний інтелект можна використовувати лише для нотаток і ні для чого іншого
• C) Коли використовується штучний інтелект, експертний нагляд більше не потрібен
• Г) Штучний інтелект – помічник і генератор чернетки; Остаточне рішення та відповідальність лежить на спеціалісті, команді та родині ✔

Опис: Штучний інтелект - помічник і генератор ескізів; Діагностика, розміщення, постановка цілей і рішення, що стосуються майбутнього дитини, належать компетентному спеціалісту, команді IEP і сім'ї. Неперевірений висновок схожий на непідписаний експертний вердикт.