Добивки:
- Способност да се препознаат ризиците специфични за вештачката интелигенција, како што се халуцинации, пристрасност, истекување податоци, префрлање на моделот, зависност и необјаснивост со деловното влијание
- Оценување на ризиците во димензии на веројатност и влијание и нивно одржување во рамките на апетитот за ризик на институцијата со мерки за ублажување
- Способност да се прилагоди надзорот според нивото на ризик наместо униформност, обезбедувајќи човечки последен збор и континуирано следење во одлуките со висок ризик
Вредноста и ризикот се две страни на иста монета. Вештачката интелигенција отвора нови извори на вредност, но воведува и нови видови на ризици кои традиционалниот софтвер не ги носи. За висок менаџер, прашањето не е да се избегне ризикот, туку свесно да се управува со ризикот (управување со ризик; дисциплина на препознавање, мерење, намалување на ризиците и нивно одржување на прифатливи граници). Во оваа единица, ќе научите за ризиците специфични за вештачката интелигенција, нивното деловно влијание и практичните методи за ублажување. Целта не е „да не го правиш тоа затоа што има ризик“ или „да се однесуваш како да нема ризик“; Тоа е да се спроведе секоја иницијатива со свесен апетит за ризик; нивото на ризик што институцијата е подготвена да го преземе.
Ризици специфични за вештачката интелигенција
Сè уште важат традиционалните ИТ ризици (ранливост, прекин); Но, вештачката интелигенција додава свои ризици:
Тип на ризик
Што сакаш да кажеш?
Пример деловно влијание
халуцинација
Тоа беше измислено, но испадна веродостојно
Неточни информации за клиентот, законска одговорност
предрасуди
Одразот на неправдата во податоците за аутпутот
Дискриминаторска одлука за вработување/кредит
истекување на податоци
Доверливи податоци протекуваат во возилото
Прекршување на КВКК, губење на угледот
Модел лебдат
Деградација на перформансите со текот на времето
Тивко поништување на одлуките
зависност
Заклучен во еден добавувач
Шок за цена/пристап
необјаснивост
Не знаејќи ја причината за одлуката
Тешкотија за ревизија и приговор
Овде се важни два поима: пристрасност е кога вештачката интелигенција учи нефер обрасци во податоците за обука и ги рефлектира во своите одлуки; На пример, ако историските податоци за вработување фаворизираат една група, тоа го прави и моделот. Модел дрифт е кога моделот станува застарен и неговите перформанси тивко опаѓаат како што се менува светот (нови производи, нови однесувања).
Совет: Размислете за ризикот не во смисла на „може/нема да се случи“, туку во две димензии: веројатност (колку е веројатно) и влијание (колку штета ако се случи). Прво се решаваат оние со големо влијание + голема веројатност; оние со ниски+ниски вредности се прифаќаат и следат.
Надзор според нивото на ризик
Не секоја област на употреба го носи истиот ризик. Паметниот пристап е да се прилагоди надзорот на нивото на ризик:
- Низок ризик (внесен нацрт, бура на идеи): лесен надзор, приоритет на брзина.
- Среден ризик (содржина за клиент, поддршка за одлуки): човечко одобрување, контрола на земање примероци.
- Висок ризик (кредит, регрутирање, здравствени, правни): задолжително човечко расудување, целосна регистрација, редовна ревизија.
Овој „заснован на ризик“ пристап е, исто така, столбот на Законот на ЕУ за вештачка интелигенција (одделение 9).
Чекор по чекор: циклус на управување со ризик
1. Препознајте ги ризиците. Наведете ги ризиците специфични за вештачката интелигенција за секоја иницијатива.
2. Веројатност за бодување и влијание. Оценете го и дадете приоритет на секој ризик во две димензии.
3. Дефинирајте мерки за ублажување. Како што се човечко одобрување, анонимизација на податоци, следење, диверзификација на добавувачи.
4. Прифатете или престанете со преостанатиот ризик. Ризикот кој останува по намалувањето е прифатен доколку е во рамките на апетитот; Ако не, обидот престанува.
5. Гледајте и прегледајте. Ризиците не се статични; Од суштинско значење е постојаното следење за наноси и нови закани.
три мини футроли
Случај 1 - Цената на халуцинации. Чет-ботот за клиенти на авиокомпанија „измисли“ непостоечка политика за враќање на пари за патник; Клиентот му веруваше на ова и ја направи трансакцијата. Судот ја сметаше компанијата одговорна за изјавата на сопствениот бот. Лекција: Излезот на вештачката интелигенција за клиентот е со среден/висок ризик; верификацијата и ограничувањето беа суштински. Потоа, ботот беше ограничен да одговара само од одобрени текстови на политики.
Случај 2 - Тивка пристрасност. Моделот за скрининг за вработување на една компанија систематски ги фаворизираше регрутите од одредени училишта поради нерамнотежа во историските податоци. Разликата беше откриена во ревизија; Имаше репутациски и правен ризик. Моделот беше одвоен од заштитените карактеристики и поврзан со редовно следење на правдата. Ако тестот за пристрасност беше направен од самиот почеток, тоа немаше да се случи.
Случај 3 - Фаќање на Дрифт. Моделот за откривање измами на една банка беше тивко ослабен кога се појави нова шема на измама; Стапката на промашување се зголеми од 8% на 19% за 3 месеци. Добри вести: агенцијата спроведуваше месечен мониторинг на перформансите, дрифтот беше откриен рано, а моделот беше преквалификуван. Без мониторинг, загубата ќе се множеше.
Четири шаблони за копирање
1) Инвентар на ризик:
Вашата улога: менаџер за ризик со вештачка интелигенција. Наведете ги ризиците специфични за вештачката интелигенција за следниов случај на употреба: халуцинација, пристрасност, истекување на податоци, оддалечување, зависност, необјаснивост. За секој ризик, напишете во една реченица неговата можна манифестација и деловното влијание во ова сценарио. Област на користење: [текст]
2) Оценување на веројатност/влијание:
Дајте приоритет на следните ризици со бодување и множење како веројатност (1-5) и влијание (1-5). Објаснете зошто давате приоритет на првите три ризици. Ризици: [листа]
3) План за ублажување:
Предложете практични мерки за ублажување за следните приоритетни ризици: [ризици]. За секоја мерка: што да се прави, кој е одговорен, на кое ниво на ризик е задолжително. Користете човечки надзор, анонимизација на податоци, следење и диверзификација на добавувачи каде што е соодветно.
4) Матрица за надзор базирана на ризик:
Доделете ги следните области на употреба на нивото на ризик (ниско/средно/високо) и одредете го надзорот потребен за секое ниво: дали е потребно човечко одобрение, дали ќе се води евиденција, која е фреквенцијата на инспекцијата? Користи: [листа]
Слаб промпт / Силен промпт
Слаб: „Кои се ризиците од овој проект за вештачка интелигенција?
Заклучок: Општа листа на ризици; веројатност, влијание и без ублажување, не можете да одлучите.
Гучлу: „Ќе користиме вештачка интелигенција во прелиминарната евалуација на барањето за заем во банка (човекот ќе ја донесе конечната одлука). Наведете ги ризиците специфични за ова сценарио (пристрасност, необјаснивост, халуцинации, приватност на податоците); оценете го секој по веројатност и влијание; предложете конкретни барања за ублажување и надзор за трите најкритични барања.
Резултатот: анализа на ризикот специфична за сценарио, бодувана, ублажувачка и поврзана со усогласеноста.
Вообичаени грешки
- Примена на истиот надзор на сите иницијативи. Забавувањето на работата со низок ризик е исто толку штетно како и занемарувањето на работата со висок ризик; Надзорот треба да се заснова на нивото на ризик.
- Сметајќи ја халуцинацијата како „мала грешка“. Неточниот резултат за клиентот може да резултира со правна одговорност.
- Не тестирање за пристрасност. Моделот употребен без тестирање на правичност може да произведе тивка дискриминација.
- Не гледам Drift. Модел кој еднаш добро функционира, не функционира добро засекогаш; Потребно е постојано следење.
- Заклучување во еден добавувач. Без план за излез, зависноста ве остава отворени за шок за цените и пристапот.
Внимание: Управувањето со ризикот не е еднаш засекогаш; Системите за вештачка интелигенција се живи системи. Само затоа што моделот е безбеден денес, не гарантира дека ќе биде безбеден и утре. Континуирано следење, редовна проверка и јасен прекинувач за убивање треба да бидат дел од секој систем со висок ризик.
Сумирано
Згора на традиционалните ИТ ризици, вештачката интелигенција додава уникатни ризици како што се халуцинации, пристрасност, истекување на податоци, одведување, зависност и необјаснивост. Овие ризици треба да се проценат и да се приоретизираат во однос на веројатноста и влијанието и треба да се чуваат во рамките на апетитот за ризик на институцијата со мерки за ублажување. Надзорот не е униформен, но треба да биде приспособен на нивото на ризик; Во одлуките со висок ризик, луѓето треба да го кажат последниот збор. Управувањето со ризикот е континуиран циклус; не е комплетен без следење и контрола. Во следната единица, ќе ја воспоставиме структурата на управување и политика што ја прави оваа дисциплина на ризик постојана.
Задача за апликација
Изберете случај на употреба на вештачка интелигенција и наведете ги неговите специфични ризици со шаблон 1. Оценете го секој ризик според веројатноста и влијанието, идентификувајќи ги трите најкритични. Напишете конкретни мерки за ублажување и нивото на надзор потребен за овие три ризици. Конечно, класифицирајте ја употребата како низок/среден/висок ризик и забележете како тоа ги менува барањата за надзор.
листа за проверка
- [ ] Ги наведов ризиците специфични за сценаријата за вештачка интелигенција.
- [ ] Го оценував секој ризик по веројатност и влијание.
- [ ] Ги дефинирав мерките за ублажување на најкритичните ризици.
- [ ] Ја класифицирав употребената област според нивото на ризик.
- [ ] Го прилагодив надзорот според нивото на ризик.
- [ ] Планирав тестирање/следење за пристрасност и дрифт.
- [ ] Поставив овластување за запирање за системот со висок ризик.