Добивки:
- Способност да се класифицираат и анонимизираат податоците на учениците во рамките на KVKK и специјалните концепти за лични податоци и да се примени безбеден избор на возила
- Способност да се приспособат начелата на професионалната етика на PDR (доверливост, добротворност, незлобност, автономија) на употребата на вештачка интелигенција
- Способност да се препознаат пристрасност, културна нечувствителност и халуцинации во резултатите од вештачката интелигенција и да се создаде политика за етичка употреба
Довербата е во срцето на професијата PDR. Ако студентот може да ги каже своите најинтимни чувства, семејството и стравовите на специјалист, тоа е само затоа што тој/таа верува дека информациите ќе бидат заштитени. Алатките за вештачка интелигенција претставуваат сериозен нов тест за оваа доверба: најчувствителните податоци можат да излезат од контрола во реченица. Во оваа единица, ние систематски разговараме за приватноста, KVKK, PDR професионалната етика и како тие се применуваат за употреба на вештачка интелигенција. Ние ги применивме овие принципи дел по дел во претходните единици; Овде ќе го споиме во целина и ќе го претвориме во постојана политика.
KVKK и типови на податоци: што е позаштитено
KVKK (Закон за заштита на лични податоци) е закон кој ја регулира законската обработка на податоците на луѓето. Два концепти се особено важни. Лични податоци се секоја информација што идентификува или идентификува лице: име, презиме, број на училиште, класа, адреса, фотографија. Посебните лични податоци се вид на чувствителни податоци кои бараат повисока заштита: здравје, психичка состојба, дијагноза, сексуален живот, религија, етничка припадност, криминална состојба. Поголемиот дел од записите на PDR спаѓаат во оваа втора, чувствителна категорија; бидејќи менталниот статус, семејните проблеми и историјата на поддршка се директно приватни податоци. Ова значи дека податоците за PDR никогаш не треба да се внесуваат во сурова форма во јавни алатки.
Во пракса, ова се преведува во три правила: (1) Минимизирање на податоци — работа со најмала количина на податоци потребни за извршување на работата. (2) Анонимизација - направи податоците не можат да се поврзат со поединецот со отстранување на личните информации за идентификација. (3) Безбедни средства и граница на намената — користете алатки на претпријатието обезбедени со податоци каде што е можно и обработувајте ги податоците само за целта за која се собрани.
Внимание: Не е доволно да се каже „некако го анонимизирав“. Дури и ако името е испуштено од текстот, единствен опис на ситуацијата (многу специфична ситуација во еден ученик во мало училиште) може да го направи лицето да се идентификува. При анонимизација, генерализирајте го не само името, туку и деталите што заедно ја означуваат личноста.
Практика на анонимизација: контролна постапка
Пред да извезете текст во алатката, следете ја оваа постапка: (а) Отстранете ги директните идентификатори како што се име, презиме, број, одделение-огранок, име на родител, адреса, телефон, име на училиште. (б) Генерализирајте ги индиректните дескриптори: „средношколец“ наместо „единствениот ученик со оштетен вид во 12-Б“. (в) Заматете ги деталите за датумот и настанот по потреба. (г) Постчитање: „Дали некој што го чита овој текст може да открие кој се споменува? Ако одговорот е нејасен, генерализирајте понатаму. Потврдениот запис се запишува само на затворениот, безбеден систем на институцијата; Алатката за вештачка интелигенција е надвор од овој систем.
ПДР професионална етика и вештачка интелигенција
Професионалната етика на PDR се заснова на четири основни принципи, од кои секој директно се однесува на употребата на ВИ:
- Доверливост (чување тајни): Информациите за ученикот се заштитени. Невнесувањето необработени податоци во вештачката интелигенција, нивното анонимизирање и изборот на безбедна алатка е услов на овој принцип.
- Придобивка: Сè што е направено треба да служи за благосостојбата на ученикот. ВИ се користи за погодност, а не на начин што би ја загрозил користа на ученикот.
- Незлобност: Приоритет е да не се прави штета. Непроверениот резултат, неточната статистика, етикетирањето и употребата на вештачка интелигенција во криза се ризици од штета; затоа верификацијата и кризната граница е етички императив.
- Автономија: Правото на ученикот да донесе сопствена одлука е заштитено. ВИ не треба да го сведува ученикот на етикета или да донесува одлуки во негово/нејзино име.
Одговорноста е додадена на ова: Одговорноста за секој искористен резултат лежи кај експертот; „Ви го произведе“ не е одбрана.
Пристрасност, културна чувствителност и транспарентност
ВИ може да ги рефлектира социјалните обрасци во податоците за обуката. Во PDR, ова е прашање на правичност: исходите што го стереотипизираат студентот според неговиот пол, култура или социо-економски статус ја поткопуваат еднаквоста на можности. Експертот ја проверува произведената содржина за културна чувствителност и пристрасност. Исто така, транспарентност: онаму каде што е соодветно, внатрешно треба да биде јасно дека вештачката интелигенција била користена при подготовка на материјал или нацрт; Не треба да се користи како тајна „магија“. Доверливоста е од суштинско значење во односот со ученикот; Она што ученикот го објаснува не се пренесува на возило.
Чекор по чекор: воспоставување политика за користење вештачка интелигенција
- Класифицирајте ги податоците. Одделете ги сите информации што ги имате како „лични / приватни / јавни“.
- Изберете возило. Единствената безбедна, претпријатие алатка за чувствителни податоци; Работете анонимно за генералниот преглед.
- Следете ја постапката за анонимизација. Извршете ја рутината за проверка пред секој запис.
- Валидација и проверка на пристрасност. Испитајте го секој излез за факти и праведност.
- Одржувајте го лимитот за кризи. Чувајте ја кризата и односот консултации надвор од возилото.
- Преземете одговорност и бидете транспарентни. Конечното одобрение му припаѓа на експертот; Употребата е отворена во организацијата.
Шаблони за копирање
1) Контрола на анонимизација:
Вашата улога: помошник за ревизија на приватноста. Наведете ја секоја изјава во текстот подолу што може ДИРЕКТНО или ИНДИРЕКТНО да го идентификува лицето (име, број, класа, училиште, опис на единствена ситуација) и предложете поопшта алтернатива за секоја од нив. Содржина на коментирање. Текст: [залепи текст]
2) Ревизија на пристрасност и културна чувствителност:
Проверете го следниов PDR материјал за пристрасност и културна чувствителност: Дали содржи стереотипи за полот, културата, социо-економскиот статус или структурата на семејството? Кој може да исклучи? Означете ги ризичните изјави и предложете инклузивни алтернативи. Материјал: [залепете материјал]
3) Нацрт политика за користење на корпоративна вештачка интелигенција:
Вашата улога: асистент за пишување PDR. За услугата за насоки, изгответе кратка внатрешна политика за употреба на алатки за вештачка интелигенција. Наслови: во кои работни места се користи, на кои работни места не се користи (криза, дијагноза, консултација), правило за анонимизација на податоците, обврска за верификација, одговорноста е на експертот. Кратко и применливо.
Слаб промпт / Силен промпт
Слаб:
Да резимираме ситуацијата на Ахмет Јилмаз 8-Ц, тој беше подложен на насилство дома.
Ги внесува најчувствителните податоци (име, класа, посебен статус) во возилото во сурова форма - сериозно прекршување на KVKK и етиката; Покрај тоа, ова може да биде ситуација за известување (единица 9).
Силно:
Вашата улога: помошник за контрола на приватноста. Забелешка: Го анонимизирав текстот подолу пред да го поднесам на алатката. Сепак, проверете повторно: дали остана некој детал што го прави лицето да се идентификува? Текст: „Средношколец навести дека има тензија дома“.
три мини футроли
Случај 1 - Индиректно обелоденување. Експерт требаше да внесе текст во алатката од која го изостави името; но сфатил дека фразата „единствениот ученик во училиштето кој користи инвалидска количка“ директно се однесува на таа личност. Ова го генерализираше на „студент“. Самото именување не беше доволно; Идентификационен беше и описот на уникатната ситуација.
Случај 2 - Корекција на пристрасност. Експерт кој извршил ревизија на материјал за кариера открил дека вештачката интелигенција секогаш користела машки имиња во инженерските примери и женски имиња во професиите за нега. Ги балансираше примероците и го скрши калапот. Оваа навидум мала корекција ја зачува праведноста на пораката испратена до студентите.
Случај 3 - Воспоставување политика. Услугата за насоки создаде заеднички текст за внатрешна политика за да ја елиминира конфузијата што произлегува од фактот дека секој различно користи вештачка интелигенција: во кои задачи се користи, а не при криза и дијагноза, податоците се анонимизираат, излезот се проверува, одговорноста е на експертот. АИ даде нацрт; Тимот ја финализираше содржината со свои вредности. Неизвесноста отстапи место за јасна рамка.
Вообичаени грешки
- Внесување необработени податоци. Пишување на возило со име/статус. Решение: процедура за анонимизација, сигурна алатка.
- Само отстранување на името. Заборавајќи ги индиректните идентификатори. Решение: генерализирајте ги и уникатните детали.
- Игнорирање на пристрасност. Усвојување стереотипни резултати. Решение: пристрасност и ревизија на културата.
- Префрлање на одговорноста на возилото. Тоа значи „Ви го произведе“. Решение: одговорноста е кај експертот.
- Злоупотреба. Обработка на податоци собрани за една цел за друга цел. Решение: почитувајте ја границата на намената.
Табела: Тип на податоци и правило за вештачка интелигенција
Тип на податоци
пример
Правило за вештачка интелигенција
јавен
Општа професија вовед
слободно достапни
лични податоци
Име, број, класа
Не може да се внесе без анонимизација
Податоци за посебен квалитет
Ментален статус, семејство, дијагноза
Никогаш не може да се внесе во сурова форма.
кризни податоци
Ризик, злоупотреба, самоубиство
Никогаш не влегувајте во возилото (единица 9)
Сумирано
Во PDR, доверливоста е основата на довербата во професијата и најпроверениот принцип во ерата на вештачката интелигенција. КВКК ги одвојува податоците на лични и приватни податоци; Повеќето PDR податоци се чувствителни и не се внесуваат во алатката во сурова форма. Минимизирањето на податоците, анонимизацијата (со директни и индиректни идентификатори) и безбедниот избор на алатки се основните правила. Четирите принципи на професионалната етика - доверливост, добротворност, нелојалност, автономија - се обврзувачки за употребата на вештачката интелигенција; Пристрасноста е контролирана, одговорноста останува кај експертот, а употребата е транспарентна во организацијата.
Задача за апликација
Нацртајте кратка „Политика за употреба на вештачка интелигенција“ за вашата сопствена услуга за насоки. Започнете со шаблонот „Нацрт политика за користење на вештачка интелигенција на претпријатијата“; Потоа прилагодете го според реалноста на вашата сопствена институција. Исто така, поминете (фиктивен) текст преку шаблонот „проверка на анонимизација“ и доловете и генерализирајте барем еден индиректен идентификатор.
листа за проверка
- [ ] Ги класифицирав податоците што ги имам како лични / приватни / јавни.
- [ ] Имам генерализирани директни и индиректни идентификатори во анонимизацијата.
- [ ] Користев безбедна/претпријатие алатка за чувствителни податоци.
- [ ] Го проверив резултатот за пристрасност и културна чувствителност.
- [ ] Ја прифатив одговорноста и ја одржав употребата транспарентна.