Добици:
- Способност трансформације етичких принципа употребе вештачке интелигенције у специјалном образовању (добронамерност, незлонамерност, правда, избегавање пристрасности) у конкретна правила
- Способност управљања приватношћу података ученика и породице, складиштењем података и ограничењима дељења у оквиру КВКК-а
- Способност повезивања учења кроз модул у безбедан радни ток од краја до краја и дефинисања где се завршава вештачка интелигенција и почиње одговорност стручњака
Током овог модула научили смо да користимо АИ као помоћника: израдили смо нацрт ИЕП циља, прилагодили материјале, успоставили ААЦ и план понашања, пратили напредак и ојачали комуникацију са породицом. Ова последња јединица разматра оквир који све то држи заједно: етику, приватност и стручни надзор. Јер „подаци” са којима радите у дефектологији нису табела, већ дете; „Резултат“ који произведете није документ, већ одлука која утиче на право детета на образовање. Вештачка интелигенција пружа велику погодност у овој области; Али када се неправилно користе, људи који могу бити највише повређени су и најугроженији. Поновимо последњи пут принцип који смо установили од почетка: Вештачка интелигенција је помоћник; Дијагноза, смештај, намена и одлуке које утичу на будућност детета припадају надлежном специјалисти, ИЕП тиму и породици.
Четири етичка принципа и њихови конкретни пандани
Можемо приписати употребу вештачке интелигенције у специјалном образовању четири основна етичка принципа:
- Добротворност: АИ треба да се користи за истински допринос образовању детета; То би требало да помогне наставнику да ослободи своје време и посвети више пажње детету. Употреба није сама себи сврха.
- Незлонамерност: Непроверен, неприкладан за децу или стигматизујући резултат може да нанесе штету. Сваки излаз пролази кроз филтер "хоће ли ово нашкодити детету?"
- Правда: Свако дете треба да има једнак приступ ресурсима и квалитетном образовању. АИ не би требало да привилегује неку децу и занемари другу; Свакоме треба посветити индивидуалну пажњу.
- Избегавање пристрасности: АИ може одражавати стереотипе у подацима на којима се обучава; Специфична врста инвалидитета може произвести дискриминаторне резултате у погледу пола, културе или социоекономског статуса. Специјалиста мора да препозна и исправи ове исходе и да процени свако дете појединачно.
Пристрасност је посебно важна јер је подмукла. АИ може течно произвести реченицу као што је „таква деца обично не могу да ураде Кс“; Међутим, ово је стереотип који је и погрешан и омета дете. Задатак специјалисте је да види ове обрасце и процени дете са његовим потенцијалом.
Опрез: Никакве генерализације генерисане вештачком интелигенцијом („деца са Кс сметњама у развоју могу/раде И“) не могу се користити за ограничавање сврхе детета. Ниска очекивања су један од најчешћих и најневидљивијих облика дискриминације.
Приватност: ограничења складиштења и дељења података
Подаци о ученицима (идентитет, дијагноза, РАМ извештај, евиденција понашања, подаци о породици) су посебни лични подаци у оквиру КВКК. Хајде да разјаснимо правила у овој јединици:
- Анонимизирај: Име, ИД, протокол, школа, адреса и детаљи породице се уклањају пре уласка у било који АИ алат.
- Минимални подаци: Делите само информације потребне за задатак; Немојте давати цео фајл "за сваки случај".
- Безбедна алатка: ако је могуће, предност имају корпоративни алати који имају уговор о обради података и не користе ваше податке у обуци за моделе; Осетљиви подаци се не учитавају са личних налога.
- Чување и брисање: Ако нацрти направљени помоћу АИ садрже податке о ученицима, они се чувају у складу са правилима институције и бришу када је то потребно; Не оставља се на случајним местима.
- Дељење: Информације се деле само са овлашћеним лицима (ИЕП тим, породица, релевантни специјалиста) и само онолико колико је потребно.
Табела испод резимира ограничења научена током модула на једном месту:
области
АИ може
АИ не може / припада људима
Евалуација
Сажима анонимне податке
Дијагнозе/промене
БЕП
Пише нацрт циљева
Потврђује/потврђује намеру
материјала
Прилагођава се, разликује
Доноси одлуку о наставном програму/ауторским правима
ААЦ
Преглед картице/приче
Бира метод и прилагођава га детету
понашање
АБЦ сажима, даје савете
Одлучује о функцији, одобрава план
напредак
Сажима и тумачи податке
Коначна одлука да се настави
породица
нацрти текста
Потврђује текст, спроводи везу
Десна колона у овој табели је граница стручне одговорности и ни под којим околностима се не може пренети на АИ.
Безбедан радни ток од краја до краја
Хајде да комбинујемо модул у један ток. Безбедан ток подучавања подржан од стране вештачке интелигенције је следећи: (1) анонимизација података; (2) написати упит са јасним улогама и границама; (3) добити нацрт од АИ; (4) верификовати излаз у три корака — линк ка извору, упоредити са стварним профилом детета, експертски филтер; (5) спровести ревизију етике и пристрасности; (6) прилагодити и потврдити са тимом/породицом; (7) примењује и прати са подацима; (8) чува/брише нацрте у складу са правилима институције. Овај циклус се понавља са сваким задатком, држећи јасно где АИ завршава и почиње одговорност стручњака.
три мини кофера
Случај 1 — Хватање пристрасности. Наставник је од АИ тражио нацрт циља; У излазу је била реченица попут „овај тип ученика не може да размишља апстрактно, држите мету ниском“. Наставник је то препознао као стереотип; Његов ученик је био у стању да успостави апстрактне односе. Извукао је реченицу и написао циљ на основу правог потенцијала детета. Етички надзор је спречио ниска очекивања која би омела дете.
Случај 2 — Дисциплина приватности. Једна институција је поставила правило да сви наставници обаве „проверу анонимизације“ пре употребе АИ. Наставник је уклонио име, протокол и информације о породици пре него што је резимирао РАМ извештај. Неколико месеци касније, ревизија података је показала да организација није доставила никакве осетљиве податке спољном алату. Једноставна навика штитила је организацију од озбиљног ризика.
Случај 3 — Грешка у делегирању одговорности. Наставник је, под притиском времена, применио план понашања који је израдила АИ, а да га није прочитао. План није одговарао функционисању детета и понашање је ескалирало. Проблем није била "грешка" вештачке интелигенције већ у делегирању одговорности. Непроверени излаз је као непотписана стручна пресуда; Одговорност увек лежи на стручњаку. Грешка: замена погодности за одговорност.
Слаби промпт / Јаки промпт
Слабо обавештење:
Анализирај све о овом ученику и реци ми шта да радим.
Овај захтев нас истовремено гура да поделимо више података (можда који садрже идентитет) него што је потребно говорећи „све“ и преноси одлуку на АИ. Такође крши два основна принципа.
Снажан упит:
Ваша улога: помоћник специјалисте за специјално образовање. Користите само следеће анонимне информације везане за задатак: [минимално потребан]. Задатак: Направите НАЦРТ за [један, јасан задатак]. Правила: Дијагноза/доношење одлука. Немојте генерализовати/стереотипизирати. Наведите да нисте сигурни. Претпоставимо да ће ово потврдити професионалац и потврдити тим/породицу.
Ова тврдња укључује минималне податке, јасан задатак, пристрасност и границе одлуке заједно; Сакупља све принципе модула у једном шаблону.
Уобичајене грешке
- Делегирање одговорности. Препуштање одлуке АИ; извршавање без читања излаза.
- Не видећи предрасуде. Не примећујући стереотипне генерализације које смањују очекивања.
- Дељење превеликих података. Давање непотребних, осетљивих података алатки говорећи „анализирај све“.
- Заобилазећи анонимизацију. Рад без чишћења идентитета, дијагнозе и породичних података.
- Небезбедно складиштење нацрта. Остављање исписа који садрже податке о ученицима на насумичном месту.
- Гледање на етичку ревизију као на формалну. Прескакање питања попут „да ли ће то проузроковати штету, да ли је поштено, да ли је пристрасно?“
Укратко
У специјалном образовању, АИ је моћан асистент, али пошто радите са најугроженијим појединцима, о етици и приватности се не може преговарати. Четири принципа нас воде: доброчинство, незлонамерност, правда, избегавање пристрасности. Подаци о ученицима су анонимни, деле се на минимална и безбедна средства и безбедно се чувају. Безбедан радни ток од краја до краја; Циклус је анонимизиран, набавите нацрт, верификујте у три корака, етички преглед, одобрите са тимом/породицом, пратите са подацима. Где год да се АИ заврши у овом циклусу, почиње одговорност стручњака. Непроверени резултат је као непотписана стручна пресуда; Потпис је увек ваш.
Задатак апликације
Изаберите један од нацрта које сте израдили током модула (ИЕП циљ, материјал, план понашања или породични текст) и прођите кроз све кораке „безбедног тока рада од краја до краја“ у овој јединици. Конкретно, проверите да ли постоји етичност/пристрасност: да ли постоји генерализација на снижавање, стигматизујућа изјава или цурење приватности у резултатима? Решите све проблеме које пронађете и забележите који корак тока је ухватио тај проблем.
контролна листа
- [ ] Анонимизовао сам податке; Делио сам само неопходан минимум.
- [ ] Проверио сам излаз у три корака (извор/профил/стручњак).
- [ ] Очистио сам предрасуде и генерализације које смањују очекивања.
- [ ] Искоријенио сам стигматизирајући језик; Поштовао сам четири етичка принципа.
- [ ] Држао сам нацрте на сигурном/брисао када је било потребно.
- [ ] Преузео сам коначну одлуку и одговорност као стручњак/тим/породица.
Модул Екам
1. Наставник дефектологије пита вештачку интелигенцију 'која је дијагноза овог детета' тако што једноставно даје име и године ученика и уписује одговор у ИЕП фајл. Шта је суштинска грешка у овом приступу?
- А) Игнорисање да овлашћења за постављање дијагнозе имају РАМ и овлашћени стручњаци; такође премести непроверени излаз у званични запис ✔
- Б) Непотребно је давати информације о старости вештачкој интелигенцији
- Ц) Забрањено је чување БЕП датотеке у дигиталном окружењу
- Д) Вештачка интелигенција увек чини да дијагноза изгледа тежа него што јесте
Објашњење: Вештачка интелигенција не може и не треба да дијагностикује; Дијагноза и евалуација су посао РАМ-а и овлашћених стручњака. Поред тога, без давања података моделу, жељени резултат постаје измишљотина (халуцинација), а дељење студентског идентитета представља кршење приватности.
2. Која је од следећег главна карактеристика коју треба да има краткорочни (мерљиви) БЕП циљ?
- А) Циљ да се ученику уопште допадне предмет
- Б) Заснован је само на запажању наставника и не садржи нумеричке критеријуме
- В) Сакупи што дуже и што више исхода у једној реченици.
- Д) Садржи видљиво понашање, стање и мерљиви критеријум успеха ✔
Објашњење: Краткорочни циљ укључује уочљиво понашање, стање и критеријум (колико покушаја, који проценат, који ниво независности). Неизмерни изрази као што су 'разуме', 'учи', 'постаје свестан' узрокују грешке у писању сврхе.
3. Наставник учитава РАМ извештај, који укључује пуно име ученика, ТР ИД број и дијагнозу, у јавно доступан алат вештачке интелигенције и каже „сажми“. Шта би био прави приступ?
- А) Отпремите извештај без икаквих модификација, јер резиме захтева све информације
- Б) Само избришите ТР ИД број и оставите име и дијагнозу
- Ц) Уклањање информација о идентитету, анонимизација података и одабир безбедног/институционалног алата ✔
- Д) Дељење извештаја путем е-поште са вашег личног налога и његово сумирање у складу са тим
Образложење: Подаци о студентима су посебни лични подаци у оквиру КВКК. Информације о идентитету треба уклонити и податке анонимизирати („10-годишњи ученик“), а ако је могуће, треба дати предност безбедном алату који је институционалан и који не користи податке у образовању.
4. Који је најбољи став када креирате друштвену причу са вештачком интелигенцијом за алтернативну и аугментативну комуникацију (ААЦ)?
- А) Прилагодите нацрт посебно за дете и нека га одобри стручњак ✔
- Б) Коришћење произведене приче тачно за све ученике без икакве промене
- Ц) Писање приче што дужим и апстрактним речима
- Д) Давање само дугачког текста без додавања визуелне подршке
Опис: Вештачка интелигенција ствара нацрте; Међутим, социјална историја и комуникацијска подршка треба да буду прилагођени индивидуалним карактеристикама детета и одобрени од стране логопеда/специјалисте. Општи оквир се не може директно применити.
5. Шта је од следећег основни принцип при добијању помоћи од вештачке интелигенције у плану подршке позитивном понашању?
- А) Тражење од њега/ње да препоручи најоштрију казну за брзо сузбијање понашања.
- Б) Разумети функцију понашања и произвести алтернативно позитивно понашање и нацрт превентивне стратегије ✔
- Ц) Завршавање плана без познавања ученика, само гледање назива понашања
- Д) Спровођење плана без укључивања породице и специјалисте у процес
Објашњење: Подршка позитивном понашању није оријентисана на казну; Има за циљ да разуме функцију понашања (функционална евалуација), превентивне прописе и обезбеди алтернативно понашање које се може научити уместо непожељног понашања. Стручни надзор је неопходан.
6. Шта значи 'одлука вођена подацима' у праћењу напретка?
- А) Доношење одлуке на основу само једног запажања на крају године
- Б) Писање извештаја о напретку на основу општег утиска наставника без увида у податке
- Ц) Остављање одлуке у потпуности тумачењу вештачке интелигенције
- Д) Доношење одлуке о одржавању, прилагођавању или промени циља гледањем редовних података мерења ✔
Објашњење: Доношење одлука засновано на подацима је одлука да се одржи, прилагоди или промени циљ гледајући редовна мерења заснована на постигнућима (проценат, број покушаја, ниво независности). Вештачка интелигенција сумира податке и предлаже тумачење; Стручњак доноси одлуку.
7. Према принципу универзалног дизајна (УДЛ), који је најбољи начин да се материјал учини доступним?
- А) Представљање материјала само у једном формату, ситним словима и густим текстом
- Б) Представљање садржаја на више начина, пружајући једноставан језик и алтернативни текст ✔
- Ц) Уклоните све адаптације и дајте свима исти стандардни материјал
- Д) Под претпоставком да се приступачност постиже само променом боје
Опис: УДЛ предвиђа представљање садржаја на више начина (текст, визуелни, аудио), обичан језик, алтернативни текст и флексибилне формате. Циљ је да се дизајнира тако да одговара различитим потребама, а не само једном „просечном“ ученику. Коначна провера зависи од стручног и стварног тестирања корисника.
8. Наставник шаље породици информативни текст који је произвела вештачка интелигенција без провере, а текст садржи нетачан датум заказивања и претерано обећање „опоравка“. Шта је овде суштинска грешка?
- А) Стварање лажних информација и нереалних очекивања слањем текста без његове провере ✔
- Б) Слање писаног текста породици је само по себи погрешно.
- В) Текст је прекратак
- Д) Вештачкој интелигенцији је строго забрањено да производи породични текст
Опис: Сваки текст који се дели са породицом мора бити произведен са тачношћу, поверљивошћу и стручним одобрењем. Вештачка интелигенција течно говори, али може да произведе лажне информације (халуцинације); Текст послат без верификације нарушава поверење и процес.
9. Шта је од следећег исправан приступ када се прави диференцијација у класи инклузије/интеграције?
- А) У потпуности одвојити ученика од учионице и дати му/јој да сваку активност ради сам
- Б) Подржавање истог достигнућа са заједничком одговорношћу, без прилагођавања и означавања према нивоу ✔
- В) Давање истог материјала целом одељењу без изузетка и не вршење икаквих адаптација
- Г) Остављање адаптације само дефектологу и уклањање наставника разредне наставе из процеса
Објашњење: Диференцијација значи прилагођавање истог исхода учења различитим нивоима и пружање подршке ученику без етикетирања. Адаптација је заједничка одговорност наставника разредне наставе и дефектолога; Избегавају се решења која одвајају и стигматизују ученика од вршњака.
10. Зашто је посебно ризично да језички модели вештачке интелигенције производе 'халуцинације' у контексту специјалног образовања?
- А) Зато што модел увек ради споро
- Б) Зато што модел не зна турски
- Ц) Зато што се халуцинације јављају само у визуелној продукцији
- Д) Зато што измишљене информације могу утицати на образовну одлуку детета и може се претпоставити да су истините на течном језику ✔
Објашњење: Халуцинација је када модел течно измишља непостојеће информације као да су истините. Измишљени закон, нетачна развојна норма или измишљена метода у специјалном образовању могу директно утицати на право детета на образовање и развој; тако да сваки излаз мора бити валидиран.
11. Шта значи 'избегавање пристрасности' у етичким принципима коришћења вештачке интелигенције у специјалном образовању?
- А) Препознавање и исправљање стереотипних или дискриминаторних резултата које производи модел и евалуација сваког детета појединачно ✔
- Б) Не писати дугачке упите само да бисте добили брзи излаз.
- Ц) Коришћење вештачке интелигенције само на једној врсти препрека
- Д) Примена истог пристрасног шаблона на све ученике
Објашњење: Вештачка интелигенција може одражавати пристрасности у подацима на којима је обучена; може произвести стереотипне резултате о одређеној врсти инвалидитета, полу, социоекономском статусу или култури. Специјалиста треба да прати исход у овом погледу и да процени свако дете појединачно.
12. Зашто је важно укључити одељак 'снаге' када резимирате РАМ извештај са вештачком интелигенцијом и креирате профил ученика?
- А) Да би извештај изгледао дужи
- Б) Снаге се користе само за форму, иако нису законски обавезне.
- Ц) Засновати планирање на предностима и не дефинисати ученика само према његовим/њеним недостацима ✔
- Г) Потпуно игнорисати потребе и писати само позитивно
Објашњење: Планирање у специјалном образовању заснива се на предностима; Само профил оријентисан према недостатку/потреби дефинише ученика са његовим недостацима. Снаге су основа за циљеве и мотивацију и пружају позитиван поглед на раст оријентисан.
13. Какав је исправан став у погледу 'ауторских права и оригиналности' у производњи прилагођеног материјала?
- А) Репродукција излаза са ликовима и садржајем заштићеним ауторским правима без провере
- Б) Провера и оригинализација материјала у погледу усклађености са наставним планом и програмом, тачности и ауторских права ✔
- Ц) Дистрибуирајте сваку слику комерцијално, без обзира на извор
- Д) Под претпоставком да се питање ауторских права уопште не односи на дигитални материјал
Објашњење: Излаз вештачке интелигенције је можда напајан из других извора; може да садржи садржај заштићен ауторским правима, знакове бренда или непроверене информације. Стручњак треба да провери усаглашеност материјала са наставним планом и програмом, тачност и ауторска права, као и да наведе извор и по потреби га оригинализује.
14. Како кључни принцип наглашен кроз модул описује улогу вештачке интелигенције у специјалном образовању?
- А) Вештачка интелигенција замењује стручњака и аутоматски доноси одлуке
- Б) Вештачка интелигенција се може користити само за вођење белешки и ништа друго
- Ц) Када се користи вештачка интелигенција, стручни надзор више није потребан
- Д) Вештачка интелигенција је помоћник и генератор нацрта; Коначна одлука и одговорност су на специјалисти, тиму и породици ✔
Опис: Вештачка интелигенција је помоћник и генератор скица; Дијагноза, постављање, постављање циљева и одлуке које утичу на будућност детета припадају надлежном специјалисту, ИЕП тиму и породици. Непроверени излаз је као непотписана стручна пресуда.