Добици:
- Способност да се класификују и анонимизују подаци о ученицима у оквиру КВКК и посебних концепата личних података и примени безбедан избор возила
- Способност прилагођавања принципа професионалне етике ПДР-а (поверљивост, доброчинство, незлонамерност, аутономија) употреби вештачке интелигенције
- Способност препознавања пристрасности, културолошке неосетљивости и халуцинација у производњи вештачке интелигенције и креирања политике етичке употребе
Поверење је у срцу професије ПДР-а. Ако студент може да каже специјалисту своја најинтимнија осећања, породицу и страхове, то је само зато што верује да ће информације бити заштићене. Алати вештачке интелигенције представљају озбиљан нови тест за ово поверење: најосетљивији подаци могу да измакну контроли у једној реченици. У овој јединици систематски разматрамо приватност, КВКК, ПДР професионалну етику и како се они примењују на коришћење вештачке интелигенције. Примењивали смо ове принципе део по део у претходним јединицама; Овде ћемо то спојити у целину и претворити у трајну политику.
КВКК и типови података: шта је заштићеније
КВКК (Закон о заштити података о личности) је закон који регулише закониту обраду података људи. Два концепта су посебно важна. Лични подаци су сваки податак који идентификује или идентификује особу: име, презиме, број школе, разред, адреса, фотографија. Посебни лични подаци су врста осетљивих података која захтева већу заштиту: здравље, психичко стање, дијагноза, сексуални живот, вера, национална припадност, кривични статус. Већина ПДР записа спада у ову другу, осетљиву категорију; јер су ментални статус, породични проблеми и историја подршке директно приватни подаци. То значи да ПДР подаци никада не би требало да се уносе у сировом облику у јавне алате.
У пракси, ово се преводи у три правила: (1) Минимизација података — рад са најмањом количином података потребних за обављање посла. (2) Анонимизација — учините податке неповезаним са појединцем тако што ћете уклонити личне информације. (3) Сигурна средства и граница сврхе — користите алате предузећа са обезбеђењем података где је то могуће и обрађујте податке само у сврху за коју су прикупљени.
Пажња: Није довољно рећи „некако сам то анонимизовао“. Чак и ако је име изостављено из текста, јединствени опис ситуације (веома специфична ситуација код једног ученика у малој школи) може учинити особу препознатљивом. У анонимизацији, генерализујте не само име, већ и детаље који заједно указују на особу.
Пракса анонимизације: поступак контроле
Пре него што извезете текст у алатку, следите ову процедуру: (а) Уклоните директне идентификаторе као што су име, презиме, број, разред-огранак, име родитеља, адреса, телефон, назив школе. (б) Генерализујте индиректне дескрипторе: „ученик средње школе“ уместо „једини ученик са оштећеним видом у 12-Б“. (ц) Замутите датум и детаље догађаја по потреби. (д) Након читања: „Може ли ико читајући овај текст сазнати ко се помиње?“ Ако је одговор нејасан, генерализујте даље. Аутентификациони запис се уписује само у затворени, сигурни систем институције; Алат АИ је изван овог система.
ПДР професионална етика и АИ
Професионална етика ПДР-а заснива се на четири основна принципа, од којих се сваки директно примењује на употребу АИ:
- Поверљивост (чување тајне): Подаци о студентима су заштићени. Неуношење необрађених података у АИ, њихово анонимизирање и одабир сигурног алата је услов овог принципа.
- Доброчинство: Све урађено треба да служи за добробит ученика. АИ се користи ради погодности, а не на начин који би угрозио корист ученика.
- Нонмалефиценце: Приоритет је да не учините штету. Непроверени резултати, нетачни статистички подаци, обележавање и употреба вештачке интелигенције у кризи су ризици од штете; стога је верификација и граница кризе етички императив.
- Аутономија: Заштићено је право ученика да донесе своју одлуку. АИ не би требало да сведе ученика на етикету или да доноси одлуке у његово/њено име.
Овоме се додаје одговорност: Одговорност за сваки коришћени резултат лежи на експерту; „АИ је то произвео“ није одбрана.
Пристрасност, културна осетљивост и транспарентност
АИ може одражавати друштвене обрасце у подацима о обуци. У ПДР-у, ово је питање правичности: исходи који стереотипизирају ученика према његовом полу, култури или социо-економском статусу поткопавају једнаке могућности. Експерт проверава произведени садржај на културну осетљивост и пристрасност. Такође и транспарентност: где је то прикладно, интерно треба да буде јасно да је АИ коришћен у припреми материјала или нацрта; Не треба га користити као тајну "магију". Поверљивост је неопходна у односу са учеником; Оно што ученик објасни не преноси се на возило.
Корак по корак: успостављање политике употребе вештачке интелигенције
- Класификујте податке. Одвојите све информације које имате као "личне / приватне / јавне".
- Изаберите возило. Једини сигуран, пословни алат за осетљиве податке; Радите анонимно за општи преглед.
- Пратите процедуру анонимизације. Покрените рутину провере пре сваког уноса.
- Валидација и провера пристрасности. Испитајте сваки резултат у погледу чињеница и праведности.
- Одржавајте кризни лимит. Држите кризни и консултативни однос ван возила.
- Преузмите одговорност и будите транспарентни. Коначно одобрење припада стручњаку; Употреба је отворена унутар организације.
Шаблони који се могу копирати
1) Контрола анонимизације:
Ваша улога: помоћник за ревизију приватности. Наведите сваку тврдњу у тексту испод која би ДИРЕКТНО или ИНДИРЕКТНО могла идентификовати особу (име, број, разред, школа, јединствени опис ситуације) и предложите општију алтернативу за сваку. Коментаришући садржај. Текст: [налепи текст]
2) Ревизија пристрасности и културолошке осетљивости:
Проверите следећи ПДР материјал за пристрасност и културну осетљивост: Да ли садржи стереотипе о полу, култури, социоекономском статусу или породичној структури? Ко може да искључи? Означите ризичне изјаве и предложите инклузивне алтернативе. Материјал: [налепите материјал]
3) Нацрт корпоративне политике коришћења вештачке интелигенције:
Ваша улога: ПДР помоћник за писање. За службу вођења, израдите кратку интерну политику о коришћењу алата вештачке интелигенције. Наслови: на којим пословима се користи, на којим пословима се не користи (криза, дијагноза, консултације), правило анонимизације података, обавеза провере, одговорност је на стручњаку. Кратко и применљиво.
Слаби промпт / Јаки промпт
слаба:
Да сумирамо ситуацију Ахмета Иıлмаза 8-Ц, он је био изложен насиљу код куће.
Уноси најосетљивије податке (име, класа, посебан статус) у возило у сировом облику — озбиљно кршење КВКК-а и етике; Штавише, ово може бити ситуација обавештења (јединица 9).
Јака:
Ваша улога: помоћник за контролу приватности. Напомена: Анонимизовао сам текст испод пре него што сам га послао у алатку. Међутим, проверите поново: да ли је остао неки детаљ који чини особу препознатљивом? Текст: „Ученик средње школе је наговестио да доживљава напетост код куће.
три мини кофера
Случај 1 — Индиректно обелодањивање. Стручњак се спремао да унесе текст у алат из којег је изоставио име; али је схватио да се фраза „једини ученик школе који користи инвалидска колица“ директно односи на ту особу. Он је ово генерализовао на "студента". Само стварање имена није било довољно; Опис јединствене ситуације је такође био идентификујући.
Случај 2 — Корекција пристрасности. Експерт који је прегледао материјал о каријери открио је да је вештачка интелигенција увек користила мушка имена у инжењерским примерима и женска имена у професијама за негу. Уравнотежио је узорке и разбио калуп. Ова наизглед мања исправка сачувала је правичност поруке упућене студентима.
Случај 3 — Успостављање политике. Служба за усмјеравање је креирала заједнички текст интерне политике како би елиминисала конфузију која произилази из чињенице да сви различито користе АИ: у којим задацима се користи, а не у кризи и дијагнози, подаци су анонимизирани, резултати су верификовани, одговорност је на стручњаку. АИ је дао нацрт; Тим је финализовао садржај са сопственим вредностима. Неизвесност је уступила место јасном оквиру.
Уобичајене грешке
- Уношење необрађених података. Писање у возило са именом/статусом. Решење: поступак анонимизације, безбедна алатка.
- Само уклањање имена. Заборављање индиректних идентификатора. Решење: генерализујте и јединствене детаље.
- Игнорисање пристрасности. Усвајање стереотипног излаза. Решење: ревизија пристрасности и културе.
- Стављање одговорности на возило. То значи "АИ га је произвео". Решење: одговорност лежи на стручњаку.
- Злоупотреба. Обрада података прикупљених за једну сврху у другу сврху. Решење: поштујте ограничење сврхе.
Табела: Тип података и АИ правило
Тип података
пример
АИ правило
јавности
Увод опште струке
слободно доступан
личне податке
Име, број, класа
Не може се унети без анонимизације
Подаци о посебном квалитету
Ментално стање, породица, дијагноза
Никада се не може унети у свом сировом облику.
кризних података
Ризик, злостављање, самоубиство
Никада не улазите у возило (јединица 9)
Укратко
У ПДР-у, поверљивост је темељ поверења у професију и најпроверенији принцип у ери вештачке интелигенције. КВКК раздваја податке на личне и приватне податке; Већина ПДР података је осетљива и не уносе се у алатку у сировом облику. Минимизација података, анонимизација (са директним и индиректним идентификаторима) и сигуран избор алата су основна правила. Четири принципа професионалне етике – поверљивост, доброчинство, незлонамерност, аутономија – обавезујућа су за коришћење вештачке интелигенције; Пристрасност је контролисана, одговорност остаје на стручњаку, а употреба је транспарентна унутар организације.
Задатак апликације
Нацртајте кратку „Политика коришћења АИ“ за сопствену услугу вођења. Започните са шаблоном „Нацрт политике коришћења вештачке интелигенције предузећа“; Затим га прилагодите реалности ваше институције. Такође прођите (измишљени) текст кроз шаблон „провера анонимизације“ и ухватите и генерализујте најмање један индиректни идентификатор.
контролна листа
- [ ] Податке које имам класификовао сам као личне / приватне / јавне.
- [ ] Ја сам генерализовао директне и индиректне идентификаторе у анонимизацији.
- [ ] Користио сам безбедни/предузетнички алат за осетљиве податке.
- [ ] Проверио сам излаз на пристрасност и културну осетљивост.
- [ ] Прихватио сам одговорност и задржао транспарентност коришћења.