Добивки:
- Препознавање на ризиците од употреба на вештачка интелигенција без полиса (ВИ во сенка) со нумерички примери
- Разберете дека добрата политика не е листа на забрани, туку рамка која овозможува одговорна употреба
- Објаснете ги луѓето, процесните и технолошките столбови и улогите на засегнатите страни во управувањето со вештачката интелигенција
Во понеделник наутро, главен службеник за усогласеност на осигурителна компанија од средна големина (лицето одговорно за усогласеноста на организацијата со законите и внатрешните правила) ја отвора својата е-пошта за изненадување: клиентот прашува дали неговите здравствени информации „се напишани во алатка за вештачка интелигенција и каде отишле“. Брзата истрага открива дека експерт од тимот за побарувања користи лична сметка за вештачка интелигенција за брзо сумирање на датотеките за побарувања. Никој не е злонамерен; Никој не мисли дека ги крши правилата. Затоа што нема пишано правило. Оваа празнина се нарекува вештачка интелигенција во сенка и овој модул ве учи како да изградите рамка за управување за да ја пополните токму оваа празнина.
Внесувањето на вештачката интелигенција во бизнисот не е толку едноставно како инсталирањето обичен софтвер. ВИ влијае на одлуките, ги обработува личните податоци, може да произведе содржина заштитена со авторски права и создава одговорност кога прави грешки. Затоа на секоја организација што „користи“ вештачка интелигенција и треба рамка што „управува“ со неа. Во оваа прва единица, покриваме зошто е потребна пишана политика за вештачка интелигенција, опипливите трошоци за вештачката интелигенција во сенка и трите столба на управување.
Што е вештачка интелигенција во сенка и зошто е неизбежна?
Shadow AI е употреба на вештачка интелигенција без знаење, одобрение и контрола на институцијата. Зборот „shadow“ доаѓа од името „shadow IT“, кое се дава на софтвер кој не е одобрен од ИТ одделот. Вработените почнуваат да користат алатки за вештачка интелигенција со или без полиса; бидејќи овие алатки се бесплатни, брзи и им ја олеснуваат работата. Дури и да се има забрана не ја запира употребата, туку само ја крие.
Употребата без полиса ги создава следните конкретни ризици:
- Протекување податоци: вработен може несвесно да залепи доверливи податоци за клиентите или тајни на компанијата во алатка за вештачка интелигенција. Податоците излегуваат надвор од контрола на институцијата.
- Казни за непочитување: Прекршувањето на KVKK (Закон за заштита на лични податоци) резултира со административна казна од милиони лири; Прекршувањето на GDPR може да доведе до казни до 4% од годишниот промет.
- Одлука заснована на дезинформации: Одлуките донесени врз основа на дезинформации смислени со вештачка интелигенција („халуцинација“) им штетат на клиентот и на организацијата.
- Проблеми со авторското право и интелектуалната сопственост: Користењето на резултатот може да наруши туѓа интелектуална сопственост.
- Губење на репутацијата: Кога се известува за неконтролирана употреба во печатот, довербата на брендот е разнишана.
Внимание: Целосната забрана за употреба на вештачка интелигенција не е решение. Забраната не ја елиминира употребата; само го прави невидлив и неконтролиран. Целта не е да се стави крај на употребата, туку да се стави во безбедна рамка.
Три мини случаи: реалната цена на вештачката интелигенција во сенка
Случај 1 - Протече договор. Правен специјалист го залепува целиот текст во индивидуална сметка за вештачка интелигенција за да го сумира доверливиот договор за спојување од 40 страници. Договорот се уште не е јавно достапен. Текстот се обработува на серверите на давателот и станува достапен за обука за потенцијалните модели. Компанијата го одложува спојувањето за 3 недели за да го елиминира ризикот од можно протекување информации; Трошоците за консултантски услуги се зголемуваат за приближно 250.000 TL.
Случај 2 - Халуцинаторна јуриспруденција. Адвокат приложува три „преседан одлуки“ од вештачката интелигенција на неговата петиција. Два од броевите на одлуки се измислени одлуки кои не постојат во реалноста. Судот го сфаќа ова; Адвокатот се соочува со дисциплинска постапка, како и губење на угледот. Правилото за верификација во една линија (проверете го секој извор во однос на официјалниот систем на одлуки) ќе ја спречи оваа криза.
Случај 3 - Невидливи заштеди. Во истата компанија, маркетинг тимот произведува копија од кампањата 6 часа неделно побрзо со сертифицирана алатка за вештачка интелигенција на претпријатието. Сепак, оваа заштеда никаде не е пријавена бидејќи користењето е нерегистрирано. Менаџментот го отфрла новиот буџет за лиценцирање бидејќи не може да ја види користа од вештачката интелигенција. Shadow AI го елиминира не само ризикот, туку и видливоста на користа.
Што обезбедува добрата политика?
Добрата политика за вештачка интелигенција не е список на забрани; Тоа е рамка која овозможува одговорно користење. Прави пет работи:
- Јасност: Вработениот знае што е дозволено, што е забрането и што е предмет на одобрување.
- Доверба: Менаџментот може да одобри нови проекти знаејќи дека вештачката интелигенција се користи на контролиран начин.
- Усогласеност: Правните обврски (KVKK, GDPR, EU AI Law) се исполнуваат систематски.
- Конзистентност: Различни тимови ги следат истите правила.
- Одговорност: Кога има проблем, јасно е кој е одговорен.
Што е владеење? три стапки
Управувањето со вештачката интелигенција е збир на правила и процеси кои одредуваат како вештачката интелигенција ќе се избира, користи, контролира и кој ќе биде одговорен за тоа во една институција. Политиката е пишан документ на ова владеење; Управувањето е живиот систем кој ја оживува политиката. Изграден е на три нозе:
нога
Значење
Пример во политиката за вештачка интелигенција
човечки
Улоги и одговорности
Контролор на вештачка интелигенција, менаџер за одобрување, службеник за заштита на податоци
Процес
Правила и текови
Процес на одобрување на ново возило, редовна проверка, одговор на инциденти
технологија
Алатки и контроли
Одобрена листа на возила, контрола на пристап, водење евиденција
Ако недостасува еден од трите столба, рамката пропаѓа: без правилото, алатката е бескорисна, без алатката, правилото не може да се контролира, без одговорност, никој не може да се поседува.
Еден оддел не може да ја заврши оваа работа.
Политиката за вештачка интелигенција не е само работа на одделот за ИТ. Успешната рамка бара учество на различни единици: законска/усогласеност (законски обврски и договори), ИТ/безбедност (технички контроли и безбедност на податоците), човечки ресурси (обука на вработените и кодекси на однесување), деловни единици (реални потреби за користење) и повисоко раководство (одобрување, извори и корпоративна сопственост).
Совет: имајте 30-минутен состанок со претставник од секоја единица на засегнатите страни пред да започнете да ја пишувате политиката. „За што во моментов користите или сакате да користите вештачка интелигенција? Прашањето ги открива и реалните потреби и моменталната употреба во сенка.
Ставањето на вештачката интелигенција во работа: шаблони што може да се реплицираат
Самата вештачка интелигенција е помош при поставувањето на рамката за управување - сè додека нејзиниот резултат е потврден. Следниве шаблони ја забрзуваат работата на оваа единица.
шаблон 1 — Анкета за скенирање на основната линија (ВИ во сенка): „Предлог анонимна анкета на вработените со 8 прашања е подготвен да ја мапира употребата на вештачка интелигенција во нашата организација. Прашањата треба да опфатат: кои алатки, кои задачи, кои типови на податоци се внесени, потребна е обука. Излез: нумерирани прашања + тип на одговор за секое прашање (повеќе избор/отворен).
шаблон 2 — Направете резиме на ризик: „Размислете за следниов случај на употреба на вештачка интелигенција: [залепете сценарио]. Дајте ми кратко резиме на ризикот под следните наслови: приватност на податоците, усогласеност, халуцинации, авторски права, репутација.
шаблон 3 — Агенда на состанокот на засегнатите страни: „Подгответе 60-минутна агенда за состаноци на одборот за да ја започнете рамката за управување со вештачка интелигенција. Учесници: правни, ИТ, човечки ресурси, деловна единица, виш менаџмент. Напишете го времетраењето и очекуваниот резултат за секоја точка од дневниот ред“.
шаблон 4 — Краток брифинг до менаџментот: „Напишете брифинг на половина страница со наслов „Зошто ни е потребна политика за вештачка интелигенција“ што ќе ја претставиме на повисокото раководство. Вклучете 3 конкретни ризици + 3 конкретни придобивки; не користете технички жаргон; имајте јасно барање за одлука во последната линија“.
Слаб промпт / Силен промпт
СЛАБ: „Напишете политика за вештачка интелигенција.“-> Моделот произведува генерички, вонинституционален, неревидиран текст; не ги одразува класите на податоци, улогите и регулаторниот контекст. ГУЧЛУ: „Ние сме осигурителна компанија од 50 луѓе, предмет на KVKK, ги обработуваме податоците за здравјето на клиентите. Предложете нацрт за деловите „опсег“ и „забранета употреба“ на полисата за вештачка интелигенција. Не наметнувајте конечна пресуда; додадете белешка „потребно е законско одобрение“ во секој член и оставете ги празнините на мене да ги проверам нацртите, апликативниот контекст.-> Одлуката останува кај вас.
Вообичаени грешки
- Целосно да се забрани употребата на вештачка интелигенција и да се направи вештачката интелигенција во сенка невидлива.
- Дозволете IT да ја пишува само политиката и исклучувајќи ги реалните потреби на деловните единици.
- Почнува да пишува правила директно од постоечкото мапирање на употреба во сенка.
- Пишување на полисата на правен јазик на начин што работникот не може да го разбере.
- Ставање на сила на нацрт-политиката произведена од ВИ без законско одобрение.
- Зборувајќи за ризикот, но не мерење на користа; со што се губи поддршката од администрацијата.
- Пишување на политиката еднаш и заборавање да се ажурира; додека владеењето е жив систем.
Сумирано
- Сенка вештачка интелигенција е неизбежна во организации без политики и претставува ризици за податоци, усогласеност и репутација.
- Добрата политика не е список за забрана; Тоа е рамка која овозможува одговорно користење.
- Управувањето со вештачката интелигенција е изградено на луѓе (улоги), процеси (правила) и технологија (контроли); Ако некој недостасува, се урива.
- Политиката не е одговорност на еден оддел; Тоа е заедничка работа на правото, ИТ, човечки ресурси, деловните единици и високиот менаџмент.
- ВИ може да помогне во поставувањето на рамката, но секој излез мора да биде подложен на човечко и законско одобрување.
Задача за апликација
Изберете организација за која сте работеле или за која сонувате (индустријата, бројот на вработени и типот на податоци што ги обработува бидат јасни). Прво нацртајте анкета со 8 прашања за проверка на вештачката интелигенција во сенка (можете да го користите Шаблон 1). Потоа напишете три конкретни ризици што вештачката интелигенција во сенка може да ги наметне во оваа организација, додавајќи нумеричко проценето влијание (казна, доцнење, изгубени часови) на секој. Конечно, идентификувајте примери специфични за вашата организација за секој од трите столба на управување (луѓе, процес, технологија) и забележете која единица на засегнати страни ќе биде одговорна за овој столб.
листа за проверка
- [ ] Ја мапирав тековната (во сенка) употреба на ВИ во мојата организација.
- [ ] Напишав три конкретни ризици од недостаток на политика со нумерички ефект.
- [ ] Подготвив брифинг кој ги пренесе и ризикот и користа од вештачката интелигенција на раководството.
- [ ] Одредив пример специфичен за институцијата и одговорно лице за трите столба на владеење.
- [ ] Направив план да вклучам најмалку три од единиците на засегнатите страни во процесот.
- [ ] Секој нацрт што го подготвувам со вештачка интелигенција го подложувам на законско одобрување/усогласеност.