Добивки:
- Способност да се трансформираат етичките принципи на употребата на вештачката интелигенција во специјалното образование (добротворност, незлобност, правда, избегнување на пристрасност) во конкретни правила
- Способност за управување со приватноста на студентските и семејните податоци, ограничувањата за складирање и споделување податоци во рамките на KVKK
- Способност да се поврзат учењата низ модулот во безбеден работен тек од крај до крај и да се дефинира каде завршува вештачката интелигенција и каде започнува експертската одговорност
Во текот на овој модул, научивме да користиме вештачка интелигенција како асистент: подготвивме цел на IEP, приспособувавме материјали, воспоставивме план за AAC и однесување, го следевме напредокот и ја зајакнавме комуникацијата со семејството. Оваа последна единица ја разгледува рамката што го држи сето тоа заедно: етика, приватност и стручен надзор. Бидејќи „податоците“ со кои работите во дефектологијата не се табела, туку дете; „Излезот“ што го произведувате не е документ, туку одлука што влијае на правото на детето на образование. Вештачката интелигенција обезбедува голема погодност на ова поле; Но, кога се користи неправилно, луѓето кои можат да бидат најмногу повредени се и најранливи. Да го повториме за последен пат принципот што го воспоставивме од почеток: Вештачката интелигенција е асистент; Дијагнозата, поставеноста, целта и одлуките кои влијаат на иднината на детето им припаѓаат на надлежниот специјалист, тимот на ИОП и семејството.
Четири етички принципи и нивните конкретни колеги
Можеме да ја припишеме употребата на вештачка интелигенција во дефектологијата на четири основни етички принципи:
- Придобивка: ВИ треба да се користи за вистински да придонесе за образованието на детето; Тоа треба да му помогне на наставникот да го ослободи своето време и да посвети поголемо внимание на детето. Употребата не е цел сама по себе.
- Нештети: Непроверениот, несоодветен за децата или стигматизирачкиот резултат може да предизвика штета. Секој излез поминува низ филтерот "дали ова ќе му наштети на детето?"
- Правда: Секое дете треба да има еднаков пристап до ресурси и квалитетно образование. ВИ не треба да привилегира некои деца, а други да ги занемарува; На секој треба да му се посвети индивидуално внимание.
- Избегнување на пристрасност: вештачката интелигенција може да ги рефлектира стереотипите во податоците за кои е обучен; Специфичниот тип на попреченост може да произведе дискриминаторски резултат за полот, културата или социо-економскиот статус. Специјалистот мора да ги препознае и коригира овие исходи и да го оцени секое дете поединечно.
Пристрасноста е особено важна бидејќи е подмолна. Вештачката интелигенција може течно да произведе реченица како „таквите деца обично не можат да направат X“; Сепак, ова е стереотип кој истовремено е погрешен и го попречува детето. Задачата на специјалистот е да ги види овие обрасци и да го оцени детето со неговиот потенцијал.
Внимание: Не може да се користат генерализации генерирани од вештачката интелигенција („децата со X попреченост можат/направат Y“) за ограничување на целта на детето. Ниските очекувања се една од најчестите и најневидливите форми на дискриминација.
Приватност: ограничувања за складирање и споделување податоци
Податоците за студентот (идентитет, дијагноза, извештај за RAM меморија, евиденција за однесување, информации за семејството) се посебни лични податоци во опсегот на KVKK. Ајде да ги разјасниме правилата во оваа единица:
- Анонимизирај: Името, личната карта, протоколот, училиштето, адресата и деталите за семејството се отстранети пред да се внесе која било алатка за вештачка интелигенција.
- Минимални податоци: Споделете ги само информациите потребни за задачата; Не ја давајте целата датотека „за секој случај“.
- Безбедна алатка: Ако е можно, се претпочитаат корпоративни алатки кои имаат договор за обработка на податоци и не ги користат вашите податоци за обука на модели; Чувствителните податоци не се поставуваат од лични сметки.
- Складирање и бришење: Доколку нацртите произведени со вештачка интелигенција содржат податоци за студентите, тие се складираат според правилата на институцијата и се бришат кога е потребно; Не се остава на случајни места.
- Споделување: Информациите се споделуваат само со овластени лица (тим за ИОП, семејство, релевантен специјалист) и само онолку колку што е потребно.
Табелата подолу ги сумира ограничувањата научени низ модулот на едно место:
област
ВИ може
ВИ не може / им припаѓа на луѓето
Евалуација
Сумира анонимни податоци
Дијагнози/промени
БЕП
Пишува нацрт на цели
Ја потврдува/потврдува намерата
материјал
Се прилагодува, разликува
Донесува одлука за наставната програма/авторските права
AAC
Преглед на картички/приказна
Го избира методот и го прилагодува на детето
однесување
ABC резимира, дава совети
Одлучува за функцијата, го одобрува планот
напредок
Ги сумира и толкува податоците
Конечна одлука за продолжување
семејството
нацрти на текст
Го потврдува текстот, ја наметнува врската
Десната колона во оваа табела е граница на експертска одговорност и не може да се делегира на вештачката интелигенција под никакви околности.
Безбеден работен тек од крај до крај
Ајде да го комбинираме модулот во еден тек. Безбеден работен тек на туторство поддржан од вештачка интелигенција е како што следува: (1) анонимизирај податоци; (2) напишете промпт со јасни улоги и граници; (3) добие нацрт од вештачка интелигенција; (4) проверете го излезот во три чекори - врска до изворот, споредете со вистинскиот профил на детето, експерт-филтер; (5) спроведе ревизија на етика и пристрасност; (6) приспособат и потврдуваат со тимот/семејството; (7) применува и следи со податоци; (8) чува/брише нацрти според правилата на институцијата. Овој циклус се повторува со секоја задача, одржувајќи јасно каде завршува вештачката интелигенција и каде започнува експертската одговорност.
три мини футроли
Случај 1 - Фаќање пристрасност. Еден наставник побара од вештачката интелигенција преглед на целта; Имаше реченица во излезот како „овој тип на студенти не можат да размислуваат апстрактно, да ја одржуваат целта ниска“. Наставникот го препозна ова како стереотип; Неговиот студент можеше да воспостави апстрактни односи. Ја извлече реченицата и ја напиша целта врз основа на вистинскиот потенцијал на детето. Етичкиот надзор спречи ниско очекување кое би го попречило детето.
Случај 2 - Дисциплина за приватност. Една институција направи правило сите наставници да прават „проверка на анонимизација“ пред да користат вештачка интелигенција. Наставникот ги отстрани информациите за името, протоколот и семејството пред да се сумира извештајот за RAM меморијата. Месеци подоцна, ревизијата на податоците покажа дека организацијата не доставила чувствителни податоци на надворешна алатка. Едноставна навика ја заштити организацијата од сериозен ризик.
Случај 3 - Грешка при делегирање одговорност. Еден наставник, под притисок на времето, спроведе план за однесување произведен од вештачка интелигенција без да го прочита. Планот не одговарал на функционирањето на детето и однесувањето ескалирало. Проблемот не беше „грешката“ на вештачката интелигенција, туку делегирањето на одговорноста. Непроверениот излез е како непотпишана експертска пресуда; Одговорноста секогаш е кај експертот. Грешка: замена на удобноста за одговорност.
Слаб промпт / Силен промпт
Слаба навестување:
Анализирај сè за овој студент и кажи ми што да правам.
Ова барање не турка да споделиме повеќе податоци (можеби кои содржат идентитет) отколку што е потребно со кажување „сè“ и ја пренесува одлуката на вештачката интелигенција. Тоа, исто така, прекршува два основни принципи.
Моќен потсетник:
Вашата улога: помошник на специјалист за специјално образование. Користете ги само следните анонимни информации специфични за задачата: [минимум потребно]. Задача: Направете НАЦРТ за [единечна, јасна задача]. Правила: Дијагноза/донесување одлуки. Не генерализирајте/стереотипирајте. Наведете дека не сте сигурни. Претпоставете дека ова ќе биде потврдено од професионалецот и потврдено со тимот/семејството.
Ова тврдење вклучува минимални податоци, јасна задача, пристрасност и ограничувања за одлучување заедно; Ги собира сите принципи на модулот во еден шаблон.
Вообичаени грешки
- Делегирање на одговорност. Препуштање на одлуката на ВИ; извршување без читање на излезот.
- Не гледајќи предрасуди. Не забележувајќи стереотипни генерализации кои ги намалуваат очекувањата.
- Споделување прекумерни податоци. Давање непотребни, чувствителни податоци на алатката со кажување „анализирај сè“.
- Заобиколувајќи ја анонимизацијата. Работа без бришење на информации за идентитетот, дијагнозата и семејството.
- Складирање на нацрти несигурно. Оставање отпечатоци што содржат податоци за учениците на случајни места.
- Гледајќи ја етичката ревизија како формална. Прескокнување на прашања како „дали тоа ќе предизвика штета, дали е фер, дали е пристрасно?“
Сумирано
Во специјалното образование, вештачката интелигенција е моќен асистент, но бидејќи работите со најранливите поединци, за етиката и приватноста не може да се преговара. Четири принципи нè водат: добротворност, незлобност, праведност, избегнување на пристрасност. Податоците на студентите се анонимизираат, се споделуваат со минимални и безбедни средства и се складираат безбедно. Безбеден работен тек од крај до крај; Циклусот е анонимизирање, добивање нацрт, проверка во три чекори, етички преглед, одобрување со тим/семејство, следење со податоци. Каде и да заврши вештачката интелигенција во овој циклус, започнува експертската одговорност. Непроверениот излез е како непотпишана стручна пресуда; Потписот е секогаш ваш.
Задача за апликација
Изберете еден од контурите што сте ги направиле низ модулот (цел на IEP, материјал, план за однесување или семеен текст) и поминете го низ сите чекори „безбеден работен тек од крај до крај“ во оваа единица. Конкретно, проверете дали има етика/пристрасност: дали има намалена генерализација, стигматизирачка изјава или протекување на приватноста во резултатот? Поправете ги сите проблеми што ќе ги најдете и забележете кој чекор од протокот го фати тој проблем.
листа за проверка
- [ ] Ги анонимизирав податоците; Го споделив само потребниот минимум.
- [ ] Го потврдив излезот со три чекори (извор/профил/експерт).
- [ ] Ги расчистив предрасудите и генерализациите што ги намалуваат очекувањата.
- [ ] го отстранив стигматизирачкиот јазик; Запазив четири етички принципи.
- [ ] Ги чував нацртите безбедни/ги избришав кога беше потребно.
- [ ] Ја презедов конечната одлука и одговорност како експерт/тим/семејство.
Модул испит
1. Дефектолог ја прашува вештачката интелигенција „која е дијагнозата на ова дете“ со едноставно давање на името и возраста на ученикот и го запишува одговорот во датотеката IEP. Која е основната грешка во овој пристап?
- А) Игнорирање дека овластувањето за поставување дијагноза е на RAM и овластени експерти; исто така преместете го непроверениот излез во официјален запис ✔
- Б) Непотребно е да се даваат информации за возраста на вештачката интелигенција
- В) Забрането е чување на BEP-датотеката во дигитална средина
- Г) Вештачката интелигенција секогаш прави дијагнозата да изгледа потешка отколку што е
Објаснување: Вештачката интелигенција не може и не треба да дијагностицира; Дијагнозата и евалуацијата се работа на RAM меморијата и овластени експерти. Дополнително, без давање податоци на моделот, саканиот излез станува измислица (халуцинација) и споделувањето на студентскиот идентитет е повреда на приватноста.
2. Која од наведеното е главната карактеристика што треба да ја има краткорочната (мерлива) цел на BEP?
- А) Со цел на ученикот општо да му се допадне предметот
- Б) Се заснова само на набљудување на наставникот и не содржи нумерички критериуми
- В) Соберете што е можно подолго и што повеќе резултати во една реченица.
- Г) Содржи забележливо однесување, состојба и мерлив критериум за успех ✔
Објаснување: Краткорочната цел вклучува забележливо однесување, состојба и критериум (колку испитувања, колкав процент, кое ниво на независност). Немерливите изрази како што се 'разбира', 'учи', 'стане свесен' предизвикуваат грешки при пишувањето на целта.
3. Наставникот го прикачува извештајот за RAM меморијата, кој го вклучува целото име на ученикот, бројот TR ID и дијагнозата, на јавно достапна алатка за вештачка интелигенција и вели „сумирај“. Кој би бил вистинскиот пристап?
- А) Поставете го извештајот без никакви измени, бидејќи резимето ги бара сите информации
- Б) Само избришете го TR ID бројот и оставете го името и дијагнозата
- В) Отстранување на информации за идентитетот, анонимизирање податоци и избор на безбедна/институционална алатка ✔
- Г) Споделување на извештајот преку е-пошта од вашата лична сметка и соодветно сумирање
Објаснување: Податоците за студентот се посебни лични податоци во опсегот на КВКК. Информациите за идентитетот треба да се отстранат и податоците да се анонимизираат („10-годишен машки ученик“), а ако е можно, треба да се претпочита безбедна алатка која е институционална и не ги користи податоците во образованието.
4. Кој е најдобриот став при креирање социјална приказна со вештачка интелигенција за алтернативна и зголемена комуникација (AAC)?
- А) Прилагодете го нацртот специјално за детето и нека биде одобрен од експерт ✔
- Б) Користење на произведената приказна точно за сите ученици без воопшто да се менува
- В) Пишување на приказната со што е можно подолги и апстрактни зборови
- Г) Давање само долг текст без додавање визуелна поддршка
Опис: Вештачката интелигенција генерира нацрти; Сепак, социјалната историја и поддршката за комуникација треба да се прилагодат на индивидуалните карактеристики на детето и да бидат одобрени од патологот/специјалист за говор-јазик. Општ преглед не може директно да се примени.
5. Кој од наведеното е основниот принцип кога се добива помош од вештачката интелигенција во план за поддршка на позитивно однесување?
- А) Барање од него/неа да препорача најстрога казна за брзо потиснување на однесувањето.
- Б) Разберете ја функцијата на однесување и изгответе алтернативно позитивно однесување и нацрт на превентивна стратегија ✔
- В) Финализирање на планот без познавање на ученикот, само гледање на името на однесувањето
- Г) Спроведување на планот без вклучување на семејството и специјалистот во процесот
Објаснување: Поддршката за позитивно однесување не е ориентирана кон казна; Таа има за цел да ја разбере функцијата на однесувањето (функционална евалуација), превентивните прописи и да обезбеди алтернативно однесување кое може да се научи наместо непожелно однесување. Експертскиот надзор е од суштинско значење.
6. Што значи „одлука заснована на податоци“ во следењето на напредокот?
- А) Донесување одлука врз основа на само едно набљудување на крајот на годината
- Б) Пишување извештај за напредокот врз основа на општиот впечаток на наставникот без да се гледаат податоците
- В) Препуштање на одлуката целосно на толкувањето на вештачката интелигенција
- Г) Донесување одлука за одржување, прилагодување или промена на целта со гледање на редовните податоци од мерењето ✔
Објаснување: Донесувањето одлуки засновани на податоци е одлучување за одржување, прилагодување или промена на целта со гледање на редовни мерења засновани на достигнувања (процент, број на обиди, ниво на независност). Вештачката интелигенција ги сумира податоците и предлага толкување; Експертот ја донесува одлуката.
7. Според принципот на универзален дизајн (UDL), кој е најдобриот начин да се направи материјал достапен?
- А) Презентирање на материјалот само во еден формат, со ситни букви и густ текст
- Б) Презентирање содржина на повеќе начини, обезбедување на обичен јазик и алтернативен текст ✔
- В) Отстранете ги сите адаптации и дајте им на сите истиот стандарден материјал
- Г) Претпоставувајќи дека пристапноста се постигнува само со промена на бојата
Опис: UDL предвидува презентирање на содржината на повеќе начини (текст, визуелно, аудио), обичен јазик, алтернативен текст и флексибилни формати. Целта е да се дизајнира за да одговара на различни потреби, а не само на еден „просечен“ ученик. Конечната инспекција зависи од стручното и тестирање од вистински корисник.
8. Наставникот го испраќа семејниот информативен текст произведен од вештачката интелигенција до семејството без да го провери, а текстот содржи неточен датум за закажување и претерано ветување за „закрепнување“. Која е основната грешка овде?
- А) Создавање лажни информации и нереални очекувања со испраќање на текстот без да се потврди ✔
- Б) Испраќањето на писмен текст до семејството само по себе е погрешно.
- В) Текстот е премногу краток
- Г) Вештачката интелигенција е строго забранета да произведува семеен текст
Опис: Секој текст споделен со семејството мора да биде изработен со точност, доверливост и стручно одобрение. Вештачката интелигенција е течно, но може да произведе лажни информации (халуцинации); Текст испратен без потврда ја оштетува довербата и процесот.
9. Кој од наведените е правилен пристап кога се прави диференцијација во класа за инклузија/интеграција?
- А) Целосно одвојување на ученикот од училницата и негово/неа да ја врши секоја активност сам
- Б) Поддршка на истото достигнување со споделена одговорност, без приспособување и етикетирање според нивото ✔
- В) Давање ист материјал на целото одделение без исклучок и не правење никакви адаптации
- Г) Препуштање на адаптацијата само на дефектологот и отстранување на наставникот од училницата од процесот
Објаснување: Диференцијацијата значи прилагодување на ист исход од учењето на различни нивоа и поддршка на ученикот без етикетирање. Адаптацијата е заедничка одговорност на наставникот и дефектологот; Се избегнуваат решенија кои го одвојуваат и стигматизираат ученикот од неговите врсници.
10. Зошто е особено ризично моделите на јазични ВИ да произведуваат „халуцинации“ во контекст на специјалното образование?
- А) Затоа што моделот секогаш работи бавно
- Б) Затоа што манекенката не знае турски
- В) Бидејќи халуцинацијата се јавува само во визуелната продукција
- Г) Бидејќи измислените информации може да влијаат на образовната одлука на детето и може да се претпостави дека се вистинити на течен јазик ✔
Објаснување: Халуцинација е кога моделот течно фабрикува непостоечки информации како да се вистинити. Фабрикувана легислатива, неправилна развојна норма или имагинарен метод во специјалното образование може директно да влијае на правото на детето на образование и развој; така што секој излез мора да биде потврден.
11. Што значи „избегнување на пристрасност“ во етичките принципи за користење на вештачката интелигенција во специјалното образование?
- А) Препознавање и коригирање стереотипни или дискриминаторски резултати произведени од моделот и оценување на секое дете поединечно ✔
- Б) Не пишување долги потсетници само за да добиете брз излез.
- В) Користење на вештачка интелигенција само на еден вид пречка
- Г) Примена на истиот пристрасен образец за сите ученици
Објаснување: Вештачката интелигенција може да одразува предрасуди во податоците за кои е обучена; може да произведе стереотипни резултати за одреден тип на попреченост, пол, социо-економски статус или култура. Специјалистот треба да го следи исходот во овој поглед и да го оцени секое дете поединечно.
12. Зошто е важно да се вклучи делот „јаки страни“ кога се сумира извештај за RAM со вештачка интелигенција и креирање студентски профил?
- А) За да се направи извештајот да изгледа подолг
- Б) Јаките страни се користат само за форма, иако тие не се законски потребни.
- В) Планирањето да го заснова на силни страни и да не го дефинира ученикот само според неговите недостатоци ✔
- Г) Целосно да ги игнорирате потребите и да пишувате само позитивно
Објаснување: Планирањето во дефектологијата се заснова на силни страни; Само профилот ориентиран кон недостаток/потреба го дефинира ученикот со неговите/нејзините недостатоци. Силните страни се основа за целите и мотивацијата и обезбедуваат позитивен изглед, ориентиран кон раст.
13. Кој е правилниот став во однос на „авторските права и оригиналноста“ во производството на адаптиран материјал?
- А) Репродукција на излезот со знаци и содржина заштитени со авторски права без проверка
- Б) Проверка и оригинализирање на материјалот во однос на усогласеноста со наставната програма, точноста и авторските права ✔
- В) Дистрибуирајте ја секоја слика комерцијално, без оглед на изворот
- Г) Под претпоставка дека прашањето за авторските права воопшто не се однесува на дигиталниот материјал
Објаснување: Излезот за вештачка интелигенција можеби е хранет од други извори; може да содржи содржина заштитена со авторски права, знаци на бренд или непроверени информации. Експертот треба да го провери материјалот за усогласеност со наставната програма, точноста и авторските права и да го наведе изворот и да го оригинализира кога е потребно.
14. Како клучниот принцип нагласен низ модулот ја опишува улогата на вештачката интелигенција во специјалното образование?
- А) Вештачката интелигенција го заменува експертот и автоматски носи одлуки
- Б) Вештачката интелигенција може да се користи само за земање белешки и ништо друго
- В) Кога се користи вештачка интелигенција, веќе не е потребен стручен надзор
- Г) Вештачката интелигенција е асистент и генератор на нацрти; Конечната одлука и одговорност е на специјалистот, тимот и семејството ✔
Опис: Вештачката интелигенција е асистент и генератор на скици; Дијагнозата, поставеноста, поставувањето цели и одлуките кои влијаат на иднината на детето им припаѓаат на надлежниот специјалист, тимот на ИОП и семејството. Непроверениот излез е како непотпишана стручна пресуда.