Добици:
- Способност класификовања података према њиховој осетљивости (јавни/интерни/поверљиви/критични) и анонимизирања поверљивих и критичних података без њиховог откривања јавним алатима
- Претварање верификације у рефлекс и обележавање чињеница, одлазак до извора и скалирање корака отварања извора које даје вештачка интелигенција према ризику
- Способност примене етике транспарентности, приписивања и поверљивости разумевањем да брисање није заштита и да се одговорност не може приписати медију.
Два принципа се понављају у свакој јединици овог модула: одржавати поверљивост и верификовати сваки излаз. Ова јединица претвара та два принципа у једну систематску дисциплину — јер највећи ризици коришћења вештачке интелигенције у личној продуктивности нису брзина или квалитет, већ процурели подаци и непроверена неистина. Једна нетачна е-пошта се може исправити; Подаци о клијентима који су послати на сервер не могу се преузети. Измишљени број представљен самоувереним тоном ће побити одлуку ако се не примети. Зато су приватност и аутентификација темељи ефикасности који се изграђују из темеља, а не „додају касније“.
Услови. Лични подаци су информације које идентификују особу — име, ИД број, е-маил, здравље, локација. КВКК/ГДПР су закони који регулишу заштиту личних података (КВКК у Турској, ГДПР у ЕУ). Класификација података је чин означавања информација према њиховој осетљивости (јавне, интерне, поверљиве). Анонимизација је уклањање личних елемената из података. Верификација је провера тачности излаза са независним извором.
Приватност: шта налепити, шта не
Све што унесете у АИ алат, у већини случајева иде на сервер и чува се у неком сервису или се може користити за обуку модела. Дакле, основно питање је: да ли сте вољни да дате ове информације непознатој трећој страни? Ако је одговор не, немојте га дати ни АИ.
Користите једноставну класификацију:
класе
пример
Да ли спада у АИ?
генерал
Објављена информација, нацрт текста
бесплатно
ентеријер
Белешка о процесу, општи резиме састанка
Анонимизацијом
тајна
Подаци о клијентима, финансијски подаци, стратегија
Само возила одобрена од стране институција
критичан
Лозинка, АПИ кључ, уговор, здравље
никад
Практичне заштите: анонимизирати личне податке (направити имена „Лице А“, компанија „Компанија Кс“); користите АИ алат који је одобрила ваша институција (верзије за предузећа често гарантују да нећете користити податке у обуци); и прочитајте своју политику употребе вештачке интелигенције — иначе подразумевано будите опрезни.
Опрез: Претпоставка „Избрисао сам ћаскање, сада је безбедно“ је погрешна. Брисањем се уклања из интерфејса, али се не враћа запис на серверу или подаци укључени у обуку. Заштита почиње пре везивања; не после.
Валидација: систематска навика
Нека верификација буде рефлекс, а не „Урадићу то ако се сетим“. Ево практичне дисциплине верификације:
- Означите чињенице. Свако име, датум, број, цитат, закон, захтев у одштампаном документу — они ће бити верификовани.
- Иди до извора. Потврдите сваку чињеницу независним, поузданим извором. Отворите извор који даје АИ и прочитајте га; Да ли постоји, да ли садржи ту информацију?
- Скалирајте према ризику. Лагана контрола интерне белешке ниског ризика; Потпуна контрола презентације са високим улозима или екстерне комуникације.
- Прихватите неизвесно. Ако АИ каже „нисам сигуран“ или информације не могу бити потврђене, немојте попуњавати празнину са измишљотином; Оставите као "непроверено".
Кључна разлика: генерално можете веровати језичком раду АИ (течна реченица, уредна структура, одговарајући тон). Никада не верујте слепо тврдњама АИ о чињеницама (овај број, овај датум, овај извор). Валидација раздваја то двоје.
Етика: транспарентност и одговорност
Коришћење вештачке интелигенције за ефикасност није етичко питање – али начин на који га користите може бити. Три принципа: Транспарентност — у неким контекстима (академски рад, новинарство, званични документ) можда ћете морати да назначите да користите АИ. Приписивање — узимање туђе идеје путем вештачке интелигенције и представљање као своје је плагијат, чак и ако се медиј промени. Одговорност — све што објавите је ваша одговорност; „АИ је то написао“ није изговор.
Корак по корак: безбедна контрола тока рада АИ
- Сортирајте пре лепљења. У којој класи су ови подаци? Зауставите ако је тајно/критично.
- Анонимизирај. Уклоните личне ствари ако није потребно.
- Произвести и означити чињенице. Идентификујте ставке у излазу које желите да потврдите.
- Верифи. Потврда заснована на извору на нивоу ризика.
- Поседујте га. Ретуширајте сопственим гласом, преузмите одговорност.
- Знај свој знак. Пратите шта сте налепили где и која алатка чува податке.
Четири шаблона безбедности/аутентификације који се могу копирати
Анонимизујте следећи текст пре него што га дате АИ: - Промените имена у „Особа А/Б“, а компаније у „Компанија
Наведите све чињенице које треба да се верификују у овом излазу вештачке интелигенције: – Направите посебну тачку за свако име, датум, број, статистику, цитат и тврдњу. – Питајте „како да проверим?“ за сваку. Предложите (који извор).- Означите непроверљиве/сумњиве. Излаз: """[налепи]"""
Проверите следећу тврдњу према извору који сте дали: Тврдња: [број/чињеница].- Да ли је ова тврдња заиста укључена у извор који сте споменули?- У супротном, реците „Нисам могао да је проверим у овом извору“, измислите.- Ако нисте сигурни, не говорите као да сте сигурни.
Проверите који ризици по приватност постоје у овом задатку: Задатак: [Посао који намеравам да урадим са АИ, са којим подацима].- У коју класу података спада (јавни/интерни/поверљиви/критични)?- Да ли треба да иде у јавни алат за вештачку интелигенцију или не?- Ако не, која је безбедна алтернатива?
Слаби промпт / Јаки промпт
Слабо: „Сажмите ту е-поруку са жалбом корисника.“ (Укључује име купца, ИД поруџбине, можда телефон — све то иде директно на сервер.)
Јака: Прво анонимизирајте текст („Купац А, поруџбина [ид је скривена], жали се на овај производ“), а затим реците „сажмите овај анонимизирани текст“. Иста ефикасност, нула цурења личних података. Разлика није у излазу, већ у одржавању улаза.
три мини кофера
Случај 1 — Неповратно цурење. Запослени је налепио целу листу купаца (име, телефон, потрошњу) у генерички алат за вештачку интелигенцију да би их „сегментирао“. Институција је ово оценила као кршење КВКК; подаци су сада били на серверу треће стране и нису се могли преузети. Иста анализа се може урадити без ризика са анонимним подацима или алатом за предузећа.
Случај 2 — Даје рефлекс верификације. Један новинар је поставио за правило да проверава сваку статистику и цитат који је АИ дао у изворном извору пре објављивања. За недељу дана, открио је да су 2 од 5 „чињеница“ које је дала АИ лажне. Овај рефлекс је спречио могуће лажне вести и губитак угледа.
Случај 3 — Изговор „АИ је то написао“ није успео. Консултант је послао извештај генерисан вештачком интелигенцијом клијенту без верификације; Лажна правна тврдња у њему довела је у заблуду купца. Одбрана „дошла је од вештачке интелигенције“ није била ни код купца ни код регулатора; Одговорност је била на консултанту. Поука: алат се мења, а одговорност не.
Уобичајене грешке
- Лепљење поверљивих/критичних података: Најскупља и неповратна грешка; прво класификовати.
- Размишљајући „Избрисао сам, сигуран сам“: Брисање не поништава регистрацију сервера; заштита пре лепљења.
- Бркање чињенице са језиком: Верујте језику, проверите чињеницу—раздвојите то двоје.
- Не отварајући извор који је дала АИ: Може произвести лажни отисак; види извор.
- Пребацивање кривице на алат: "АИ је то написао" није изговор.
- Непознавање политике: Прочитајте политику коришћења вештачке интелигенције организације; У супротном, будите опрезни.
Савет: Дајте себи једноставно лично правило: „Не лепим ништа поверљиво или критично у јавни алат за вештачку интелигенцију; проверавам сваку цифру и извор пре него што је пошаљем.“ Ово правило од две реченице одмах смањује већину ризика у овом модулу.
Укратко
- Највећи ризици од вештачке интелигенције нису брзина или квалитет, већ процурели подаци и непроверена нетачност.
- Класификовати податке (јавне/интерне/поверљиве/критичне); Немојте давати поверљиве и критичне за јавне алате вештачке интелигенције, анонимизујте их.
- Брисање није заштита; Заштита почиње пре лепљења.
- Претворите верификацију у рефлекс: означите чињенице, идите до извора, отворите извор АИ, скалите према ризику.
- Верујте језику АИ, верујте његовим чињеницама; Одговорност не пада на возило, оно је увек на вама.
Задатак апликације
Узмите стварни текст који ћете дати АИ ове недеље. Са четвртим шаблоном, прво одредите класу приватности; Ако постоје поверљиви подаци, анонимизирајте их првим шаблоном. Након што добијете АИ излаз, нека други шаблон наведе чињенице које треба проверити и потврдити барем једну од њих у оригиналном извору. Напишите себи правило за проверу приватности од две реченице и поставите га негде.
контролна листа
- [ ] Класификовао сам податке пре него што сам их налепио.
- [ ] Нисам пружио поверљиве/критичне податке јавном АИ алату; Анонимизовао сам га ако је потребно.
- [ ] Проверио сам сваку чињеницу (име, датум, број, извор) у излазу.
- [ ] Отворио сам извор који је дао АИ и проверио да ли га заиста садржи.
- [ ] Уверио сам се да познајем корпоративну политику вештачке интелигенције.
- [ ] Преузео сам одговорност за коначни резултат.