Добици:
- Препознавање ризика коришћења вештачке интелигенције без политике (АИ у сенци) са нумеричким примерима
- Схватите да добра политика није листа забрана, већ оквир који омогућава одговорно коришћење
- Објасните људе, процесне и технолошке стубове и улоге заинтересованих страна у управљању АИ
У понедељак ујутру, главни службеник за усаглашеност у осигуравајућој компанији средње величине (особа одговорна за усклађеност организације са законима и интерним правилима) отвара своју е-пошту на изненађење: купац пита да ли су његове здравствене информације „уписане у АИ алат и где су отишле“. Брза истрага открива да стручњак из тима за потраживања користи лични АИ налог за брзо сумирање датотека са потраживањима. Нико није злонамеран; Нико не мисли да крши правила. Јер не постоји писано правило. Овај јаз се назива вештачка интелигенција у сенци, а овај модул вас учи како да изградите оквир управљања да бисте попунили управо ову празнину.
Увођење вештачке интелигенције у посао није тако једноставно као инсталирање обичног софтвера. АИ утиче на одлуке, обрађује личне податке, може да производи садржај заштићен ауторским правима и ствара одговорност када прави грешке. Зато је свакој организацији која „користи“ АИ потребан и оквир који њоме „управља“. У овој првој јединици покривамо зашто је потребна писана политика вештачке интелигенције, опипљиве цене вештачке интелигенције у сенци и три стуба управљања.
Шта је вештачка интелигенција у сенци и зашто је неизбежна?
АИ у сенци је употреба вештачке интелигенције без знања, одобрења и контроле институције. Реч "сенка" потиче од назива "сенка ИТ", који се даје софтверу који није одобрен од стране ИТ одељења. Запослени почињу да користе АИ алате са или без политике; јер су ови алати бесплатни, брзи и олакшавају њихов рад. Чак и забрана не зауставља употребу, она је само скрива.
Употреба без политике ствара следеће конкретне ризике:
- Цурење података: Запослени може несвесно да залепи поверљиве податке о клијентима или тајне компаније у АИ алат. Подаци излазе ван контроле институције.
- Казне за непоштовање: Кршење КВКК (Закон о заштити података о личности) резултира административном казном од милиона лира; Кршење ГДПР-а може довести до казни до 4% годишњег промета.
- Одлука заснована на дезинформацијама: Одлуке донете које се ослањају на дезинформације које је измислила вештачка интелигенција („халуцинације“) штете клијенту и организацији.
- Питања ауторских права и интелектуалне својине: Коришћење резултата може нарушити туђу интелектуалну својину.
- Губитак репутације: Када се у штампи пријави неконтролисана употреба, поверење у бренд је пољуљано.
Опрез: Потпуно забрана употребе АИ није решење. Забрана не елиминише употребу; само га чини невидљивим и неконтролисаним. Циљ није да се прекине употреба, већ да се стави у безбедан оквир.
Три мини случаја: стварна цена вештачке интелигенције у сенци
Случај 1 — Процурео уговор. Правни стручњак налепи цео текст у индивидуални АИ налог да резимира поверљиви споразум о спајању на 40 страница. Уговор још није јавно доступан. Текст се обрађује на серверима провајдера и постаје доступан за обуку будућих модела. Компанија одлаже спајање за 3 недеље како би елиминисала ризик од могућег цурења информација; Трошкови консултација се повећавају за приближно 250.000 ТЛ.
Случај 2 — Халуцинаторна јуриспруденција. Адвокат прилаже три „преседане одлуке“ из АИ уз свој захтев. Два броја одлука су измишљене одлуке које у стварности не постоје. Суд то схвата; Адвокат се суочава са дисциплинским процесом, као и губитком угледа. Једнолинијско правило верификације (провери сваки извор у односу на званични систем одлучивања) би спречило ову кризу.
Случај 3 — Невидљива уштеда. У истој компанији, маркетиншки тим производи копију кампање 6 сати недељно брже помоћу сертификованог АИ алата за предузећа. Међутим, ова уштеда се нигде не пријављује јер је коришћење нерегистровано. Менаџмент одбија нови буџет за лиценцирање јер не види корист од вештачке интелигенције. АИ у сенци елиминише не само ризик, већ и видљивост користи.
Шта осигурава добра политика?
Добра политика вештачке интелигенције није листа забрана; То је оквир који омогућава одговорно коришћење. Ради пет ствари:
- Јасноћа: Запослени зна шта је дозвољено, шта забрањено, а шта подлеже одобрењу.
- Поверење: Менаџмент може да одобри нове пројекте знајући да се вештачка интелигенција користи на контролисан начин.
- Усклађеност: Законске обавезе (КВКК, ГДПР, закон о вештачкој интелигенцији ЕУ) се систематски испуњавају.
- Доследност: Различити тимови поштују иста правила.
- Одговорност: Када постоји проблем, јасно је ко је одговоран.
Шта је управљање? три стопе
Управљање вештачком интелигенцијом је скуп правила и процеса који одређују како ће се вештачка интелигенција бирати, користити, контролисати и ко ће бити одговоран за њу у институцији. Политика је писани документ ове управе; Управљање је живи систем који оживљава политику. Изграђен је на три ноге:
ногом
Значење
Пример у политици вештачке интелигенције
људски
Улоге и одговорности
АИ контролор, менаџер за одобравање, службеник за заштиту података
Процес
Правила и токови
Процес одобравања новог возила, редовни прегледи, реаговање на инциденте
технологије
Алати и контроле
Одобрена листа возила, контрола приступа, вођење евиденције
Ако недостаје један од три стуба, оквир се руши: без правила, алат је бескорисан, без алата, правило се не може контролисати, без одговорности, нико не може бити поседован.
Једно одељење не може да ради овај посао.
Политика вештачке интелигенције није само посао ИТ одељења. Успешан оквир захтева учешће различитих јединица: правних/усаглашености (законске обавезе и уговори), ИТ/безбедности (техничке контроле и безбедност података), људских ресурса (обука запослених и кодекси понашања), пословних јединица (стварне потребе коришћења) и вишег менаџмента (одобрење, набавка извора и корпоративно власништво).
Савет: Имајте 30-минутни састанак са представником сваке јединице заинтересованих страна пре него што почнете да пишете политику. „За шта тренутно користите или желите да користите вештачку интелигенцију?“ питање открива и стварне потребе и тренутну употребу у сенци.
Постављање АИ у рад: шаблони који се могу реплицирати
Сама вештачка интелигенција је помоћ при постављању оквира управљања — све док је њен резултат валидиран. Следећи шаблони убрзавају рад ове јединице.
ШАБЛОН 1 — Анкета за основно скенирање (уметна интелигенција у сенци): „Нацрт анонимне анкете запослених са 8 питања је спреман за мапирање употребе вештачке интелигенције у нашој организацији. Питања треба да покрију: који алати, које задатке, који типови података су унети, потребна обука. Излаз: нумерисана питања + тип одговора за свако питање (вишеструки избор/отворено).“
ШАБЛОНА 2 — Направите резиме ризика: „Размотрите следећи случај употребе вештачке интелигенције: [налепите сценарио]. Дајте ми кратак резиме ризика под следећим насловима: приватност података, усклађеност, халуцинације, тантијема, репутација. Означите „ниско/средње/високо“ и образложење од једне реченице за сваки наслов дајте само поени.
ШАБЛОНА 3 — Дневни ред састанка заинтересованих страна: „Припремите дневни ред састанка одбора од 60 минута да покренете оквир управљања вештачком интелигенцијом. Учесници: правни, ИТ, ХР, пословна јединица, виши менаџмент. Напишите трајање и очекивани резултат за сваку тачку дневног реда.“
ШАБЛОНА 4 — Кратак брифинг за менаџмент: „Напишите брифинг на пола странице под насловом „Зашто нам је потребна политика вештачке интелигенције“ да бисте је представили вишем руководству. Укључите 3 конкретна ризика + 3 конкретне користи; немојте користити технички жаргон; имајте јасан захтев за доношење одлуке у последњем реду.“
Слаби промпт / Јаки промпт
СЛАБО: „Пишите политику вештачке интелигенције.“-> Модел производи генерички, неинституционални текст који се не може ревидирати; не одражава класе података, улоге и регулаторни контекст. ГУЦЛУ: „Ми смо осигуравајућа компанија од 50 људи, подложна КВКК-у, обрађујемо здравствене податке клијената. Предлажемо нацрт за одељке 'обухват' и 'забрањена употреба' политике вештачке интелигенције. Немојте наметати коначну пресуду; додајте напомену 'потребно је правно одобрење' у сваки чланак и оставите контекст за мене."-> проверљив нацрт; Одлука остаје на вама.
Уобичајене грешке
- Потпуно забранити употребу вештачке интелигенције и учинити АИ невидљивом.
- Омогућавање ИТ-у да само пише политику и искључује стварне потребе пословних јединица.
- Почињемо да пишемо правила директно из постојећег мапирања употребе сенке.
- Писање политике правним језиком на начин који запослени не може да разуме.
- Стављање на снагу нацрта политике коју је израдила АИ без правног одобрења.
- Говорити о ризику, али не мерити корист; чиме је изгубио подршку администрације.
- Једном написати политику и заборавити да је ажурирате; док је управљање живи систем.
Укратко
- АИ у сенци је неизбежна у организацијама без политике и представља ризик за податке, усклађеност и репутацију.
- Добра политика није листа забрана; То је оквир који омогућава одговорно коришћење.
- Управљање вештачком интелигенцијом је изграђено на људима (улоге), процесу (правила) и технологији (контроле); Ако неко недостаје, руши се.
- Политика није одговорност једног одељења; То је заједнички рад права, ИТ-а, људских ресурса, пословних јединица и вишег менаџмента.
- АИ може помоћи у постављању оквира, али сваки резултат мора бити подвргнут људском и законском одобрењу.
Задатак апликације
Изаберите организацију за коју сте радили или о којој сањате (нека индустрија, број запослених и врста података које обрађује буду јасни). Прво нацртајте анкету од 8 питања за скрининг АИ у сенци (можете да користите шаблон 1). Затим напишите три конкретна ризика које би вештачка интелигенција у сенци могла да представља у овој организацији, додајући нумерички процењени утицај (казна, кашњење, изгубљени сати) сваком од њих. На крају, идентификујте примере специфичне за вашу организацију за сваки од три стуба управљања (људи, процеси, технологија) и забележите која ће јединица заинтересованих страна бити одговорна за овај стуб.
контролна листа
- [ ] Мапирао сам тренутну (сенку) употребу вештачке интелигенције у мојој организацији.
- [ ] Написао сам три конкретна ризика недостатка политике са бројчаним ефектом.
- [ ] Припремио сам брифинг који је менаџменту пренео и ризик и корист од вештачке интелигенције.
- [ ] Одредио сам специфичан пример институције и одговорну особу за три стуба управљања.
- [ ] Направио сам план да укључим најмање три јединице заинтересованих страна у процес.
- [ ] Сваки нацрт који направим са АИ подвргавам законском одобрењу/усаглашености.