Етика, поверителност, експертен надзор и ограничения на практиката

Печалби:

• Способност за трансформиране на етичните принципи на използването на изкуствен интелект в специалното образование (благотворност, невредност, справедливост, избягване на пристрастия) в конкретни правила
• Възможност за управление на поверителността на данните на учениците и семействата, ограниченията за съхранение и споделяне на данни в рамките на KVKK
• Възможност за обвързване на обучението в целия модул в защитен работен процес от край до край и дефиниране къде свършва изкуственият интелект и започва отговорността на експерта

По време на този модул се научихме да използваме AI като помощник: съставихме цел на IEP, адаптирахме материали, създадохме AAC и план за поведение, наблюдавахме напредъка и засилихме комуникацията със семейството. Тази последна единица разглежда рамката, която държи всичко заедно: етика, поверителност и експертен надзор. Защото „данните“, с които работите в специалното образование, не са таблица, а дете; „Резултатът“, който произвеждате, не е документ, а решение, засягащо правото на образование на детето. Изкуственият интелект осигурява голямо удобство в тази област; Но когато се използва неправилно, хората, които могат да бъдат наранени най-много, са и най-уязвими. Нека за последен път повторим принципа, който установихме от самото начало: Изкуственият интелект е помощник; Диагнозата, настаняването, целта и решенията, засягащи бъдещето на детето, са на компетентния специалист, екипа по IEP и семейството.

Четири етични принципа и техните конкретни двойници

Можем да отдадем използването на изкуствен интелект в специалното образование на четири основни етични принципа:

• Благодеяние: AI трябва да се използва, за да допринесе наистина за образованието на детето; Тя трябва да помогне на учителя да освободи времето си и да обърне повече внимание на детето. Употребата не е самоцел.
• Безвредност: Непроверени, неподходящи за деца или стигматизиращи резултати могат да причинят вреда. Всеки резултат минава през филтъра "това ще навреди ли на детето?"
• Справедливост: Всяко дете трябва да има равен достъп до ресурси и качествено образование. ИИ не трябва да привилегирова някои деца и да пренебрегва други; На всеки трябва да се обърне индивидуално внимание.
• Избягване на пристрастия: AI може да отразява стереотипите в данните, върху които се обучава; Специфичният тип увреждане може да доведе до дискриминационни резултати относно пола, културата или социално-икономическия статус. Специалистът трябва да разпознае и коригира тези резултати и да оцени всяко дете индивидуално.

Пристрастието е особено важно, защото е коварно. AI може свободно да произведе изречение като „такива деца обикновено не могат да направят X“; Това обаче е стереотип, който хем е грешен, хем пречи на детето. Задачата на специалиста е да види тези модели и да оцени детето с неговия потенциал.

Внимание: Не могат да се използват генерализации, генерирани от AI („децата с X увреждания могат/да правят Y“), за да се ограничи целта на детето. Ниските очаквания са една от най-често срещаните и най-невидимите форми на дискриминация.

Поверителност: ограничения за съхранение и споделяне на данни

Данните за ученика (самоличност, диагноза, отчет на RAM, запис на поведение, семейна информация) са специални лични данни в обхвата на KVKK. Нека изясним правилата в тази единица:

• Анонимизиране: Име, ID, протокол, училище, адрес и подробности за семейството се премахват, преди да влезете в който и да е AI инструмент.
• Минимални данни: Споделете само информацията, необходима за задачата; Не давайте целия файл "за всеки случай".
• Сигурен инструмент: Ако е възможно, предпочитат се корпоративни инструменти, които имат договор за обработка на данни и не използват вашите данни в обучението на модели; Чувствителни данни не се качват от лични акаунти.
• Съхранение и изтриване: Ако чернови, произведени с AI, съдържат данни за студенти, те се съхраняват в съответствие с правилата на институцията и се изтриват, когато е необходимо; Не се оставя на произволни места.
• Споделяне: Информацията се споделя само с упълномощени лица (екип по IEP, семейство, съответен специалист) и само толкова, колкото е необходимо.

Таблицата по-долу обобщава на едно място ограниченията, научени през целия модул:

площ

AI може

AI не може / принадлежи на хората

Оценка

Обобщава анонимни данни

Диагнози/промени

BEP

Пише проект на целите

Потвърждава/потвърждава намерението

материал

Адаптира се, разграничава

Взема решение относно учебната програма/авторските права

AAC

Схема на карта/история

Избира метода и го адаптира към детето

поведение

АБВ обобщава, дава съвети

Решава функцията, одобрява плана

прогрес

Обобщава и интерпретира данни

Окончателно решение за продължаване

семейство

текстови чернови

Потвърждава текста, налага връзка

Дясната колона в тази таблица е границата на експертната отговорност и не може да бъде делегирана на AI при никакви обстоятелства.

Сигурен работен процес от край до край

Нека комбинираме модула в един поток. Сигурният работен поток, поддържан от AI, е както следва: (1) анонимизиране на данни; (2) напишете подкана с ясни роли и граници; (3) вземете чернова от AI; (4) проверка на резултата в три стъпки — връзка към източника, сравнение с действителния профил на детето, експертен филтър; (5) провеждане на одит за етика и пристрастия; (6) адаптиране и валидиране с екип/семейство; (7) прилага и наблюдава с данни; (8) съхранява/изтрива чернови според правилата на институцията. Този цикъл се повтаря с всяка задача, като остава ясно къде свършва AI и започва отговорността на експерта.

три мини калъфа

Случай 1 — Пристрастие при улавяне. Учител помоли AI за очертание на целта; В изхода имаше изречение като „този тип студенти не могат да мислят абстрактно, дръжте целта ниска“. Учителят разпозна това като стереотип; Неговият ученик успя да установи абстрактни отношения. Той извади изречението и написа целта въз основа на истинския потенциал на детето. Етичният надзор предотврати ниските очаквания, които биха попречили на детето.

Случай 2 — Дисциплина за поверителност. Една институция направи правило за всички учители да правят „проверка за анонимизиране“, преди да използват AI. Учител премахна име, протокол и информация за семейството, преди да получи обобщен отчет за RAM. Месеци по-късно одит на данни показа, че организацията не е предоставила никакви чувствителни данни на външен инструмент. Един прост навик предпази организацията от сериозен риск.

Случай 3 — Грешка при делегирането на отговорност. Учител, под натиска на времето, приложи план за поведение, създаден от AI, без да го прочете. Планът не отговаря на функционирането на детето и поведението ескалира. Проблемът не беше „грешката“ на ИИ, а делегирането на отговорност. Непровереният резултат е като неподписана експертна преценка; Отговорността винаги е на експерта. Грешка: замяна на удобството с отговорност.

Слаба подкана / Силна подкана

Слаба подкана:

Анализирайте всичко за този ученик и ми кажете какво да правя.

Тази заявка едновременно ни подтиква да споделяме повече данни (може би съдържащи самоличност), отколкото е необходимо, като казваме „всичко“, и прехвърля решението към AI. Освен това нарушава два основни принципа.

Мощна подкана:

Вашата роля: асистент на специалист по специално образование. Използвайте само следната анонимна информация, специфична за задачата: [необходим минимум]. Задача: Създаване на ЧЕРНОВА за [единична, ясна задача]. Правила: Диагностика/вземане на решение. Не обобщавайте/стереотипирайте. Заявете, че не сте сигурни. Да приемем, че това ще бъде проверено от професионалиста и потвърдено с екипа/семейството.

Това твърдение включва минимални данни, ясна задача, пристрастия и ограничения за вземане на решения заедно; Той събира всички принципи на модула в един шаблон.

Често срещани грешки

• Делегиране на отговорност. Оставяне на решението на AI; изпълнение без четене на изхода.
• Не виждам предразсъдъци. Незабелязване на стереотипни, понижаващи очакванията обобщения.
• Споделяне на прекомерни данни. Предоставяне на ненужни, чувствителни данни на инструмента, като се каже „анализирайте всичко“.
• Заобикаляне на анонимизирането. Работа без изчистване на самоличност, диагноза и семейна информация.
• Несигурно съхранение на чернови. Оставяне на произволни места на разпечатки, съдържащи данни за ученици.
• Разглеждане на етичния одит като формален. Пропускане на въпроси като „ще причини ли вреда, справедливо ли е, предубедено ли е?“

В обобщение

В специалното образование AI е мощен помощник, но тъй като работите с най-уязвимите хора, етиката и поверителността не подлежат на обсъждане. Четири принципа ни ръководят: благотворителност, невредимост, справедливост, избягване на пристрастия. Данните на учениците се анонимизират, споделят се с минимални и сигурни средства и се съхраняват сигурно. Защитен работен процес от край до край; Цикълът е анонимизиране, получаване на чернова, проверка в три стъпки, етичен преглед, одобрение с екип/семейство, проследяване с данни. Където и да свърши AI в този цикъл, започва отговорността на експерта. Непровереният резултат е като неподписана експертна преценка; Подписът винаги е твой.

Задача за приложение

Изберете един от очертанията, които сте създали в целия модул (цел на IEP, материал, план за поведение или семеен текст) и го преминете през всички стъпки на „сигурен работен процес от край до край“ в този модул. По-специално, проверете за етика/пристрастност: има ли понижаващо обобщение, стигматизиращо изявление или изтичане на поверителност в изхода? Коригирайте всички проблеми, които откриете, и отбележете коя стъпка от потока е хванала този проблем.

контролен списък

• [] Анонимизирах данните; Споделих само необходимия минимум.
• [ ] Проверих резултата с три стъпки (източник/профил/експерт).
• [ ] Изчистих предразсъдъците и понижаващите очакванията обобщения.
• [ ] Премахнах стигматизиращия език; Спазвах четири етични принципа.
• [ ] Запазих черновите/изтрих ги, когато беше необходимо.
• [ ] Поех окончателното решение и отговорност като експерт/екип/семейство.

Изпит по модул

1. Учител по специално образование пита изкуствения интелект „каква е диагнозата на това дете“, като просто дава името и възрастта на ученика и записва отговора в IEP файла. Каква е основната грешка в този подход?

• А) Пренебрегване, че правомощията за поставяне на диагноза принадлежат на РАМ и оторизирани експерти; също преместете непроверен изход в официален запис ✔
• Б) Не е необходимо да се дава информация за възрастта на изкуствения интелект
• C) Забранено е съхраняването на BEP файла в цифрова среда
• Г) Изкуственият интелект винаги кара диагнозата да изглежда по-тежка, отколкото е

Обяснение: Изкуственият интелект не може и не трябва да диагностицира; Диагностиката и оценката са работа на RAM и оторизирани експерти. Освен това, без предоставяне на данни на модела, желаният резултат се превръща в измислица (халюцинация) и споделянето на самоличността на ученика е нарушение на поверителността.

2. Кое от следните е основната характеристика, която трябва да има една краткосрочна (измерима) BEP цел?

• А) Целта е ученикът като цяло да хареса предмета
• Б) Основава се само на наблюдението на учителя и не съдържа числени критерии
• В) Съберете възможно най-дълги и възможно най-много резултати в едно изречение.
• D) Съдържа наблюдавано поведение, състояние и измерим критерий за успех ✔

Обяснение: Краткосрочната цел включва наблюдавано поведение, състояние и критерий (колко изпитания, какъв процент, какво ниво на независимост). Неизмерими изрази като „разбира“, „научава“, „осъзнава“ причиняват грешки при писане на целта.

3. Учител качва отчета на RAM, който включва пълното име на ученика, TR ID номер и диагноза, в публично достъпен инструмент за изкуствен интелект и казва „обобщи“. Какъв би бил правилният подход?

• A) Качете отчета без никакви промени, тъй като резюмето изисква цялата информация
• B) Просто изтрийте TR ID номера и оставете името и диагнозата
• C) Премахване на информация за самоличност, анонимизиране на данни и избор на защитен/институционален инструмент ✔
• Г) Споделяне на отчета чрез електронна поща от вашия личен акаунт и съответното му обобщаване

Пояснение: Данните за ученика са специални лични данни в обхвата на КВКК. Информацията за самоличност трябва да бъде премахната и данните анонимизирани („10-годишен ученик“) и, ако е възможно, трябва да се предпочете сигурен инструмент, който е институционален и не използва данните в образованието.

4. Какво е най-доброто отношение при създаването на социална история с изкуствен интелект за алтернативна и допълваща комуникация (AAC)?

• A) Адаптирайте проекта специално за детето и го одобри от експерт ✔
• Б) Използване на създадената история точно за всички ученици, без изобщо да я променяте
• В) Написване на историята с възможно най-дълги и абстрактни думи
• Г) Предоставяне само на дълъг текст без добавяне на визуална поддръжка

Описание: Изкуственият интелект генерира чернови; Социалната история и комуникационната подкрепа обаче трябва да бъдат адаптирани към индивидуалните характеристики на детето и одобрени от логопеда/специалиста. Общата схема не може да бъде приложена директно.

5. Кое от следните е основният принцип при получаване на помощ от изкуствен интелект в план за подкрепа на положително поведение?

• А) Помолете го/нея да препоръча най-суровото наказание за бързо потискане на поведението.
• B) Разберете функцията на поведението и създайте алтернативно положително поведение и проект на превантивна стратегия ✔
• В) Финализиране на плана без познаване на ученика, просто гледане на името на поведението
• Г) Прилагане на плана без участие на семейството и специалиста в процеса

Обяснение: Подкрепата за положително поведение не е ориентирана към наказание; Тя има за цел да разбере функцията на поведението (функционална оценка), превантивните разпоредби и да осигури алтернативно поведение, което може да се научи, вместо нежелано поведение. Експертният надзор е от съществено значение.

6. Какво означава „решение, управлявано от данни“ при проследяване на напредъка?

• А) Вземане на решение въз основа само на едно наблюдение в края на годината
• Б) Писане на доклад за напредъка въз основа на общото впечатление на учителя, без да се разглеждат данните
• В) Оставяне на решението изцяло на интерпретацията на изкуствения интелект
• Г) Вземане на решение за поддържане, адаптиране или промяна на целта чрез разглеждане на данни от редовни измервания ✔

Обяснение: Вземането на решения въз основа на данни е вземане на решение за поддържане, адаптиране или промяна на целта чрез разглеждане на редовни измервания, базирани на постижения (процент, брой опити, ниво на независимост). Изкуственият интелект обобщава данни и предлага интерпретация; Експертът взема решението.

7. Според принципа на универсалния дизайн (UDL), кой е най-добрият начин да направите материал достъпен?

• А) Представяне на материала само в един формат, с дребен шрифт и плътен текст
• B) Представяне на съдържание по множество начини, предоставяне на обикновен език и алтернативен текст ✔
• C) Премахнете всички адаптации и дайте на всички еднакъв стандартен материал
• Г) Да приемем, че достъпността се постига само чрез промяна на цвета

Описание: UDL предвижда представяне на съдържание по множество начини (текст, визуално, аудио), обикновен език, алтернативен текст и гъвкави формати. Целта е да се проектира така, че да отговаря на различни нужди, а не само на един „среден“ ученик. Крайната проверка зависи от експертно и реално потребителско тестване.

8. Учител изпраща текста с информация за семейството, произведен от изкуствен интелект, на семейството, без да го проверява, и текстът съдържа неправилна дата за среща и преувеличено обещание за „възстановяване“. Каква е основната грешка тук?

• A) Създаване на невярна информация и нереалистични очаквания чрез изпращане на текста без проверка ✔
• Б) Изпращането на писмен текст до семейството само по себе си е грешно.
• В) Текстът е твърде кратък
• Г) На изкуствения интелект е строго забранено да произвежда семеен текст

Описание: Всеки текст, споделен със семейството, трябва да бъде произведен с точност, конфиденциалност и експертно одобрение. Изкуственият интелект е свободен, но може да произведе невярна информация (халюцинации); Текстът, изпратен без проверка, уврежда доверието и процеса.

9. Кое от следните е правилният подход при извършване на диференциация в клас за включване/интегриране?

• А) Напълно отделяне на ученика от класната стая и той/тя да върши всяка дейност сам
• B) Подкрепа на едно и също постижение със споделена отговорност, без адаптиране и етикетиране според нивото ✔
• В) Предоставяне на един и същи материал на целия клас без изключение и без адаптиране
• Г) Оставяне на адаптацията само на учителя по специалното образование и отстраняване на класния ръководител от процеса

Обяснение: Диференцирането означава адаптиране на един и същ резултат от обучението към различни нива и подкрепа на ученика, без да му се поставя етикет. Адаптацията е съвместна отговорност на класния ръководител и учителя по специалното образование; Избягват се решения, които разделят и стигматизират ученика от неговите връстници.

10. Защо е особено рисковано езиковите модели на ИИ да произвеждат „халюцинации“ в контекста на специалното образование?

• A) Защото моделът винаги работи бавно
• Б) Защото моделът не знае турски
• В) Тъй като халюцинациите възникват само при визуална продукция
• Г) Тъй като измислената информация може да повлияе на образователното решение на детето и може да се приеме, че е вярна на свободен език ✔

Обяснение: Халюцинация е, когато моделът плавно измисля несъществуваща информация, сякаш е истина. Изфабрикуван нормативен акт, неправилна норма за развитие или измислен метод в специалното обучение могат пряко да засегнат правото на детето на образование и развитие; така че всеки изход трябва да бъде валидиран.

11. Какво означава „избягване на пристрастия“ в етичните принципи за използване на изкуствен интелект в специалното образование?

• A) Разпознаване и коригиране на стереотипни или дискриминационни резултати, произведени от модела, и оценяване на всяко дете поотделно ✔
• B) Не пишете дълги подкани само за да получите бърз резултат.
• В) Използване на изкуствен интелект само върху един вид препятствие
• Г) Прилагане на един и същ предубеден шаблон към всички ученици

Обяснение: Изкуственият интелект може да отразява отклонения в данните, върху които се обучава; може да доведе до стереотипни резултати относно конкретния вид увреждане, пол, социално-икономически статус или култура. Специалистът трябва да следи резултата в това отношение и да оценява всяко дете индивидуално.

12. Защо е важно да включите раздел „силни страни“, когато обобщавате отчет на RAM с изкуствен интелект и създавате профил на ученик?

• А) За да направите отчета по-дълъг
• B) Силните страни се използват само за форма, въпреки че не са задължителни по закон.
• C) Да се основава планирането на силните страни и да не се определя ученикът само чрез неговите/нейните недостатъци ✔
• Г) Напълно да игнорирате нуждите и да пишете само положително

Обяснение: Планирането в специалното образование се основава на силните страни; Само профил, ориентиран към недостатъците/потребностите, определя ученика с неговите/нейните недостатъци. Силните страни са основата за целите и мотивацията и осигуряват положителна, ориентирана към растеж перспектива.

13. Какво е правилното отношение по отношение на „авторските права и оригиналността“ при производството на адаптиран материал?

• A) Възпроизвеждане на резултата със защитени с авторски права знаци и съдържание без проверка
• Б) Проверка и оригинализиране на материала по отношение на съответствие с учебната програма, точност и авторски права ✔
• В) Разпространявайте всяко изображение комерсиално, независимо от източника
• Г) Ако приемем, че проблемът с авторските права изобщо не се отнася за цифров материал

Обяснение: Резултатът от изкуствения интелект може да е бил захранван от други източници; може да съдържа защитено с авторски права съдържание, символи на марки или непотвърдена информация. Експертът трябва да провери материала за съответствие с учебната програма, точност и авторски права, както и да цитира източника и да го оригинализира, когато е необходимо.

14. Как ключовият принцип, подчертан в целия модул, описва ролята на изкуствения интелект в специалното образование?

• А) Изкуственият интелект замества експерта и взема решения автоматично
• Б) Изкуственият интелект може да се използва само за водене на бележки и нищо друго
• В) Когато се използва изкуствен интелект, вече не е необходим експертен надзор
• Г) Изкуственият интелект е помощник и генератор на чернови; Крайното решение и отговорност е на специалиста, екипа и семейството ✔

Описание: Изкуственият интелект е асистент и генератор на скици; Диагнозата, настаняването, поставянето на цели и решенията, засягащи бъдещето на детето, принадлежат на компетентния специалист, екипа по IEP и семейството. Непровереният резултат е като неподписана експертна присъда.