Добици:
- Наведите основне принципе одговорног коришћења вештачке интелигенције
- Може објаснити зашто је људска контрола неопходна
- Може да направи контролну листу одговорног коришћења за свој рад
У овом модулу смо научили шта је вештачка интелигенција, како функционише, њене предности, слабости, ризици и ток посла. У овој јединици све ово комбинујемо у практичном оквиру под насловом одговорне употребе. АИ је моћан алат; Али његова моћ постаје ризик када није у равнотежи са одговорношћу особе која је користи. „Одговорна употреба“ може звучати као апстрактни етички принцип; Међутим, састоји се од врло конкретних, свакодневних навика. У овој јединици ћемо ове навике ставити у једноставан и привлачан оквир.
Пет основних принципа одговорног коришћења
1. Људи имају последњу реч
Ово је најосновнији принцип. АИ даје препоруку; Људи сносе одлуку и одговорност. Нарочито у вези са питањима са великим утицајем као што су новац, здравље, закон, запошљавање и репутација, излаз АИ никада не би требало да се спроводи без надзора. „Машина ми је рекла“ никада није ваљан изговор.
2. Провери, па веруј
Сетите се јединице за халуцинације. Немојте користити проверене чињенице које генерише вештачка интелигенција (број, датум, име, извор) без да их независно потврдите. Течан и самоуверен језик није доказ тачности.
3. Заштитите приватност
Примените принцип у јединици за приватност података: Не пишите личне податке, пословне тајне и поверљиве информације на јавним медијима; анонимизујте где је потребно и придржавајте се политике ваше компаније.
4. Поштујте правду
Будите свјесни пристрасности: осигурајте да резултат не искључује неправедно или стереотипизира одређене групе; Надгледајте различите погледе на одлуке са великим утицајем.
5. Будите транспарентни
Немојте лажно представљати да користите АИ. Прикладно навођење да је уз помоћ вештачке интелигенције припремљен кључни резултат, заснован на пословном контексту и корпоративној политици, гради поверење.
Напомена: Ових пет принципа се допуњују. Није довољно спровести само један; На пример, ако обратите пажњу на приватност и прескочите верификацију, и даље сте у опасности.
Зашто је људска контрола неопходна?
АИ не може преузети одговорност; Када погреши, не плаћа он цену, већ особа и институција која га користи. Поред тога, АИ не може да види пун контекст (корпоративна политика, односи, секторска осетљивост, специфична ситуација у овом тренутку). Људска контрола; Оно истовремено одређује ауторитет који ће сносити законску одговорност и филтер је који хвата слепе тачке модела (халуцинације, пристрасност, неприкладност). Што је ревизија ближа одлуци са великим утицајем, то би требало да буде строжија.
Ниво ревизије према ризику
Тип задатка
пример
Обавезна инспекција
мали утицај
Нацрт интерног меморандума, браинсторминг
Лагана рецензија
средњи ефекат
Одлазна е-пошта, сажетак извештаја
Пажљиво читање + провера чињеница
висок утицај
Правна/финансијска/здравствена/одлука о запошљавању
Вештачење + писмена потврда
Слаб приступ / јак приступ
Слаб приступ: Спроведите одлуку са великим утицајем (нпр. процену запосленог) на основу резултата АИ без верификације.
Резултат: Халуцинације или предрасуде директно утичу на одлуку која утиче на живот особе.
Снажан приступ: Користите АИ само за подршку/нацрт; Сами образложите одлуку релевантним доказима, консултујте релевантног стручњака и дајте коначно одобрење у писаној форми.
Резултат: Имате користи од брзине, али одговорност и правичност су задржани.
Три мини кућишта
Случај 1 — Контролна листа је открила грешку. Када је почео са АИ, један тим је одштампао пет принципа на картици и ставио их на столове. Запослени је наишао на питање о „приватности“ у вези са предлогом за слање и приметио је да садржи име купца и учинио га анонимизованим. Једноставна листа спречила је могуће кршење.
Случај 2 — „Машина је тако рекла“ није радила. Други запослени је применио нетачне регулаторне информације које је дала АИ, а да их није верификовао, а када је настао проблем, бранио се речима „То је оно што је АИ рекла“. Овај изговор није прихваћен; јер је он био тај који је користио и спроводио оруђе. Одговорност је на кориснику.
Случај 3 — Флексибилна контрола према ризику. Када менаџер брзо користи резултате интерног мозгања; Потребно стручно одобрење + писмено образложење за одлуке са великим утицајем као што су запошљавање и учинак. Тако је убрзао и рад ниског ризика и повећао сигурност у критичним одлукама.
Цопиабле Темплатес
Пре употребе овог излаза, поставите ми пет питања о одговорној употреби по реду и замолите ме да означим „у реду/непотпуно“ за свако: 1) Да ли је извршена људска ревизија? 2) Да ли су чињенице проверене? 3) Да ли је очувана поверљивост? 4) Да ли је поштено и инклузивно? 5) Да ли сам спреман да будем одговоран за исход?
Процените ниво утицаја (низак/средњи/висок) овог задатка и у складу са тим предложите листу корака ревизије. Задатак: [напишите задатак]
У доњем резултату, наведите ризичне тачке (истина, поверљивост, правичност, посвећеност) које би особа свакако требало да провери, по важности. Излаз: [налепите овде]
Припремите ми кратак, лични „кодекс одговорног коришћења вештачке интелигенције“ за моју улогу; Нека ставке буду оријентисане на акцију и лаке за памћење. Моја улога: [напишите своју улогу]
Практична контролна листа
контролу
Питање
Ревизија
Да ли сам прегледао овај резултат као човек?
тачност
Да ли сам потврдио чињенице (број, име, датум) у њему?
Приватност
Да ли сам у алат написао осетљиве или личне податке?
правда
Да ли је исход фер и инклузиван?
транспарентност
Да ли је употреба вештачке интелигенције на одговарајући начин наведена и не доводи у заблуду?
Одговорност
Да ли сам спреман да будем одговоран за последице овог резултата?
Одговор на последње питање увек треба да буде „да“; Јер све док ви користите алат, резултат је ваш.
Уобичајене грешке
Уобичајене грешке
- Спровођење одлуке високог утицаја без надзора. Стручно одобрење и писмени надзор су од суштинског значаја за новац, здравље, закон и запошљавање.
- То значи "Машина је то рекла." Одговорност не обавезује алат, већ особу која га користи.
- Примена политике селективно. Пет принципа су једна целина; Ако један недостаје, ризик остаје.
- Увек обављајте инспекцију са истом строгошћу. Контрола скале према ризику; брзина уз мали ризик, педантност под високим ризиком.
Одговорност доноси слободу
Правила одговорне употребе могу изгледати ограничавајућа, али чине управо супротно: када стекнете ове безбедносне навике, можете користити вештачку интелигенцију много удобније и смелије. Јер чак и ако постоји грешка, знате да имате филтер да је ухватите. Правила нису ту да вас успоре, она су ту да вам помогну да безбедно убрзате.
Укратко
- Пет принципа одговорног коришћења: људи имају последњу реч, верификује, а затим верује, штити поверљивост, тежи правичности, буди транспарентан.
- Ови принципи се међусобно допуњују; Ако један недостаје, ризик се наставља.
- Људски надзор је неопходан јер вештачка интелигенција не може да преузме одговорност и види пун контекст.
- Скалирајте ревизију у складу са ризиком: светло у малом утицају, стручно одобрење и писмено образложење у великом утицају.
- Пошто ви користите алат, ви сте такође одговорни за резултат; "Машина ми је рекла" није изговор.
Апплицатион Таск
Направите кратак, лични „код одговорног коришћења вештачке интелигенције“ за своју улогу користећи горњи шаблон (максимално 6 ставки). Снимите то негде на видљивом месту и вежбајте питања у табели „контролне листе за вежбање“ једно по једно на следећем важном резултату вештачке интелигенције.
Контролна листа
- [ ] Могу да наведем пет принципа одговорног коришћења.
- [ ] Могу да објасним зашто је људска контрола неопходна.
- [ ] Могу да прилагодим ниво контроле према ризику задатка.
- [ ] Направио сам контролну листу одговорног коришћења за своју улогу.
- [ ] Интернационализовао сам да „машина ми је рекла“ није изговор.