Законски ограничувања на излезна вештачка интелигенција и професионална одговорност

Добивки:

• Бидете во можност да разјасните дека вештачката интелигенција не дава правен совет и професионалната одговорност останува кај човекот
• Способност да се дефинираат човечки порти за инспекција и верификација во задачи со висок ризик
• Способност да се воспостави рамка за внатрешно управување и одговорност која ја документира употребата на ВИ

Во текот на овој модул, видовме дека вештачката интелигенција (ВИ) е моќен мултипликатор на брзината во прегледот на договорите, изготвувањето, правните истражувања и работата за усогласеност. Во оваа последна единица ја повлекуваме најважната линија: АИ е асистент, а не адвокат. Не дава правен совет, не го заменува професионалецот, а одговорноста секогаш останува кај личноста. Оваа линија не е ограничување, туку предуслов за безбедно и одржливо користење на технологијата. Истиот принцип се применува и во другите професии кои се критични за безбедноста: во инженерството, вештачката интелигенција може да изготви пресметка за градба, но во безбедносно критична работа, излезот на вештачката интелигенција не е замена за одобрение од компетентен и компетентен инженер. Во правото, конечната анализа, одлука и одговорност е на надлежниот професионалец. Во оваа единица ќе воспоставиме рамка за внатрешно управување и одговорност што ќе ја документира употребата на ВИ.

Ајде да ги разјасниме условите. Професионална одговорност е правна и етичка одговорност што произлегува при исполнување на барањата на професијата; Неисправната работа може да резултира со компензација и дисциплина. Human-in-the-loop е принципот дека критичната одлука се прегледува и одобрува од овластен човек пред да стапи на сила. Управувањето е рамка која одредува кој ќе користи вештачка интелигенција, под кои правила и под кои услови. Вратата за верификација е задолжителна контролна точка која излезот мора да ја помине пред да може да се користи. Следливост (ревизорска патека) е евиденција за тоа кој производ е произведен, како и од кого е одобрено.

Крајна линија: ВИ не дава препораки

Текстот генериран со вештачка интелигенција, без разлика колку професионален може да изгледа, не е правен совет. Постојат три конкретни причини за ова. Прво, вештачката интелигенција не може целосно да го знае целосниот контекст на вашиот инцидент, вистинските намери на страните и актуелниот применлив закон; Се произведува од општи обрасци. Второ, информациите што тој ги дава може да се измислени поради ризикот од халуцинација (види Целина 5). Трето, не може да сноси правна одговорност; Во случај на грешка, секогаш професионалецот е тој што одговара, обештетува или дисциплинира.

Оттука, излезот од вештачката интелигенција треба да се гледа како „суровина“ на експертот: вреден, забрзан, но неупотреблив без обработка и валидација.

Внимание: „Излезот дојде од вештачката интелигенција“ не е одбрана. Одговорноста за секој текст претставен на клиент, суд или регулатор е на професионалецот што го презентира. Законски не е возможно да се пренесе одговорноста на возилото или на лицето кое го напишало известувањето.

Ревизија според нивото на ризик

Не секоја задача бара исто ниво на надзор. За задача со мал удар и лесно повратна, доволна е контрола на светлината; Одлуката со големо влијание и тешко да се смени бара задолжителен човечки надзор и документација. Рангирањето на ризикот врз основа на влијанието на задачата и реверзибилноста ги зачувува и безбедноста и ефикасноста.

Ниво на ризик

примерок задача

Потребна инспекција

низок

Резиме на интерна белешка, објаснување на терминот

Лесен преглед

средно

Резиме на договор, листа за проверка

Експертска контрола + проверка на изворот

високо

Петиција, договор да се потпише, правно мислење

Задолжително човечко одобрение + документација

критички

Презентација пред судот, регулаторна изјава

Одобрување со повеќе очи + целосна следливост

Вашата улога: советник за управување со вештачка интелигенција. Предложете матрица за контрола на ризикот за следната листа на задачи:| Потрага | Влијание (ниско/средно/високо) | Враќање | Препорачана инспекциска порта | Кој одобрува | Потребна е документација | Препорачајте задолжително човечко одобрување за задачи со големо влијание и тешко превртливи. Означете ги вашите предлози како „мора да бидат одобрени од организацијата“; строго наметнување правила.<tasks>[задачи што правниот/тимот за усогласеност ги извршува со ВИ]</tasks>

Воспоставување Рамка за управување

Употребата на дистрибуирана и зависна од личноста вештачка интелигенција порано или подоцна ќе доведе до грешка. Рамка за корпоративно управување; Тој одредува за кои задачи може да се користи вештачката интелигенција, кои податоци може да се внесат (види единици 9 и 11), кои порти за автентикација се задолжителни и како ќе се евидентира користењето.

Подгответе „Политика за употреба на вештачка интелигенција“ за нашиот правен тим/Тим за усогласеност. Делови:1) Цел и опсег2) Дозволени и забранети употреби (засновани на задача)3) Правила за податоци (за кој медиум; маскирање; привилегиран документ) 4) Порти за верификација (халуцинација/доверба, верификација на нивоа на одобрување на извор 6 и надгледување на нивото на ризик)5) Документација и следливост7) Прекршувањето и одговорноста[ДА СЕ ПОПОЛНУВА] оставаат празнини; Проверете „потребно е законско одобрение“ за легална содржина. Не измислувајте законска одредба сами.

Исто така, корисно е да се има прикачена кратка „ознака за користење“ на секоја важна испорака; Ова ја прави следливоста практична.

Генерирајте краток шаблон „ознака за употреба на вештачка интелигенција“ што ќе се додаде на секој излез напојуван со вештачка интелигенција: која задача, која алатка, внесена класа на податоци, извршени чекори за проверка, проверувач, лице кое одобрува, датум. Направете го формуларот од 6-8 линии што лесно се пополнува.

Слаба навестување / Силен навестување

Слаб пристап: Пренеси излез од вештачка интелигенција директно до клиентот/судот; Бидете брзи.

Резултат: Непроверен, неодговорен, неодржлив во случај на грешка. Една халуцинација или грешка во контекст може да предизвика сериозна штета.

Силен пристап: [ревизија според нивото на ризик + задолжителни порти за верификација + потврда на изворот + овластено човечко одобрување + документација со кориснички ID]

Резултат: проверен и следен резултат кој има корист од неговата брзина, но има јасна одговорност. ВИ ја зголемува ефикасноста; Процесот дава гаранција.

Кој е одговорен? Брз поглед

• Точност на излезот: зависи од професионалецот кој го користи.
• Работата презентирана пред клиентот/судот: лицето кое го потпишало/ја презентирало.
• Заштита на податоците и приватност: на тимот што ги обработува податоците (не на давателот на алатката).
• Управување и владеење: во институцијата и во управувањето.

Во никој случај одговорноста не се префрла на „ВИ“ или на „помошникот што го пишува потписот“.

Три мини футроли

Случај 1 - Локација на одговорност. Во една агенција, асистент испрати извештај за усогласеност што го подготви со ВИ директно до регулаторот; Извештајот содржеше непроверени податоци. Одбраната „ВИ го напиша“ не функционираше кога се појави проблемот; Се смета дека одговорноста припаѓа на институцијата што го презентира извештајот и на службеното лице кое треба да го одобри. Институцијата тогаш наложи дека „нема да се испраќа надворешна декларација без овластено одобрение и потврда на изворот“.

Случај 2 - Ревизија на ниво на ризик. Кога правниот тим го примени истиот тежок процес на одобрување на сите задачи, вештачката интелигенција не добиваше никакви резултати. Тие воспоставија матрица за ризик-ревизија: резимеата на внатрешните меморандуми поминаа низ лесен преглед, договорите и петициите за потпишување беа предмет на задолжително двојно слепо одобрување. Така, додека брзината се одржуваше кај работните места со низок ризик, безбедноста се зголеми на работните места со висок ризик; Тимот почна да користи вештачка интелигенција и широко и самоуверено.

Случај 3 - Вредноста на следливоста. Во ревизијата, „како го направивте овој преглед на договорот, дали користевте вештачка интелигенција, дали потврдивте? дојде прашањето. Тимот што ја примени ознаката за користење покажа со документација со која алатка е произведен секој излез, низ кои чекори за верификација помина и кој го одобри. Ревизорот увидел дека процесот е контролиран и не напишал никакви дополнителни наоди. Документацијата ја трансформираше употребата на вештачка интелигенција од ризик во управуван процес.

Вообичаени грешки

• Пренесување на одговорноста на возилото. „Ви го напиша тоа“ не е одбрана; Одговорноста секогаш е кај личноста.
• Примена на истата контрола на секоја задача. Или ефикасноста се намалува или високиот ризик останува неконтролиран; Стапка по ниво на ризик.
• Заобиколувајќи ги портите за верификација. Конкретно, излезот не треба да излегува без потврда за атрибуција и извор.
• Не ставање на владеење во писмена форма. Личната, нередовна употреба порано или подоцна ќе доведе до грешка.
• Не одржување на следливост. Ако не е документирано кој што произвел и како го потврдил, ќе се појави јаз во контролата и спорови.
• Оставајќи ја вештачката интелигенција нерегулирана бидејќи е „доволно напредна“. Зголемувањето на способноста не значи дека одговорноста исчезнува од луѓето.

Сумирано

ВИ е моќен множител на брзината во законот, но не дава правен совет и не го заменува професионалецот; Конечната анализа, одлука и одговорност секогаш лежи кај личноста која е на власт. Начинот да се направи ова одржливо е со рамка на управување: оценете ги задачите според нивото на ризик, наметнете задолжителни човечка ревизија и порти за верификација на високоризичната работа, спроведување на правилата за податоци и приватност и направете го секој резултат да може да се следи со ознака за употреба. На овој начин имате корист од брзината на вештачката интелигенција и одржувате одговорност и доверба. ВИ генерира и забрзува; Надлежниот професионалец одлучува и сноси одговорност за тоа што ќе биде презентирано и последиците од него.

Задача за апликација

Наведете ги задачите што ги прави вашиот тим со вештачката интелигенција. (1) Со барањето за матрица ризик-ревизија, оценете ја секоја задача според влијанието и реверзибилноста и доделете порти за ревизија. (2) Подгответе нацрт политика за употреба на вештачка интелигенција; Соберете ги знаците „потребно е законско одобрение“. (3) Направете шаблон за ознака за употреба и применете го на конечниот отпечаток. (4) Во писмена форма се става правилото дека „Ниту една надворешна декларација не оди без овластено одобрение и потврда на изворот“.

листа за проверка

• [ ] Дали задачите се оценети според нивото на ризик (влијание + реверзибилност)?
• [ ] Дали е дефинирана задолжителна човечка согласност за мисии со висок ризик?
• [ ] Дали портите за потврда на атрибуција/извор се вклучени во процесот?
• [ ] Дали податоците и правилата за приватност (Единици 9 и 11) се додадени во рамката?
• [ ] Дали секој важен излез може да се следи со ознака за користење?
• [ ] Дали писмено е појаснето дека одговорноста е кај човекот?
• [ ] Дали политиката за користење на вештачката интелигенција е подготвена за законско одобрување?

Модул испит

1. Кога вештачката интелигенција резимира долг договор, која апликација најмногу ја зголемува веродостојноста на излезот?

• А) Поврзување на секоја определба во резимето со изворот со соодветниот број на статијата и краток цитат ✔
• Б) Побарајте го резимето што е можно пократко, во еден параграф
• В) Давање инструкции на моделот „да не прави грешки“ и верување на резултатот
• Г) Потпишување на договорот само врз основа на резимето без воопшто да го прочитате

Прибелешка: Поврзувањето на секој наод во резимето на вештачката интелигенција со изворот со соодветниот број на ставка и краткиот цитат го прави резимето проверливо и ви овозможува брзо да фатите измислени информации (халуцинации). Ова е најкритичната проверка на кредибилитет за правен преглед.

2. Кој е најефективниот влез за вештачката интелигенција при евалуација на клаузули за ризик во договорот за набавка?

• А) Само „Дали овој договор е ризичен? да прашам
• Б) Давање тетратка која ги содржи стандардните позиции на институцијата и класифицирање на ставките според овие критериуми ✔
• В) Барање од АИ да го преработи договорот во корист на другата страна.
• Г) Броење само на бројот на знаци на ставките

Опис: Давањето книга со стандардните позиции на организацијата ѝ овозможува на вештачката интелигенција да ги класифицира ставките како „прифатливи / треба да се преговараат / отфрлени“ според вашите критериуми. Тоа е многу покорисно од општото прашање „дали е ризично“.

3. Зошто е вредна анализата на „клаузулата што недостасува“ со вештачка интелигенција при прегледот на договорот?

• А) Затоа што е корисно само за наоѓање правописни грешки
• Б) Затоа што го скратува договорот
• В) Бидејќи воведува заштитни клаузули кои требало да бидат присутни, но никогаш не биле вклучени во договорот ✔
• Г) Затоа што одредува која е другата страна

Објаснување: Дел од ризикот не е во писмената клаузула, туку во клаузули кои треба да бидат присутни, но не се во договорот (на пример, пренос на интелектуална сопственост, обработка на податоци, одговорност по раскинувањето). Ја прашав вештачката интелигенција „кои се клаузулите што се очекуваат во овој тип на договор, но недостасуваат овде?“ Прашување: ги открива овие празнини.

4. Кој пристап најмногу го подобрува квалитетот и конзистентноста при изготвување договори со вештачка интелигенција?

• А) Барање од вештачката интелигенција да ја напише темата од почеток без да даде никаков контекст
• Б) Копирање на кој било договор пронајден на интернет и директно користење
• В) Ставање на нацртот во сила без негово разгледување
• Г) Обезбедете образец и информации за сценарио одобрени од институцијата и нека вештачката интелигенција ги приспособи ✔

Опис: Наместо да се произведува од празна страница, да се даде образец и информации за сценарио одобрени од институцијата и да се адаптира вештачката интелигенција; Тоа и го одржува институционалниот стандард и го намалува ризикот од халуцинации. Одобрениот шаблон делува како „сидро“ и го спречува моделот да се оддалечи од текстот.

5. При разгледување на договор за необјавување (НДА) со вештачка интелигенција, која разлика треба да биде јасна на самиот почеток?

• А) Дали НДА е еднонасочна или двонасочна и на која страна лежи обврската ✔
• Б) Вкупен број на страници од документот
• В) Со кој фонт е напишан договорот?
• Г) Дали другата страна има лого или не

Обелоденување: Дали NDA е еднонасочна (само една страна открива информации) или двонасочна (взаемно откривање) го одредува целокупниот биланс на обврските. Да се ​​натера вештачката интелигенција да го побара ова прво е клучно за правилно читање на клаузули како период на доверливост, исклучувања и обврска за враќање.

6. Кој е најсериозниот ризик при правење правни истражувања со вештачка интелигенција и како се управува со тоа?

• А) ВИ е премногу бавна; се користи помоќен хардвер
• Б) Способноста на ВИ да фабрикува непостоечки преседан/цитат; Секој извор е потврден од примарниот текст ✔
• В) АИ го пишува текстот на многу формален јазик; стилот се коригира со рака
• Г) ВИ излегува само на англиски јазик; преводот е направен

Опис: ВИ може да фабрикува непостоечки преседан, статут или цитат (халуцинација). Затоа, секој извор, одлука и референца направени од ВИ мора да се проверат од примарниот/официјален текст (официјално законодавство, текст на одлука). ВИ е за прелиминарно истражување, а не за конечниот авторитет.

7. Кој чекор најмногу ја зајакнува содржината при изготвување на петиција со вештачка интелигенција?

• А) Пишување на петицијата на што е можно подолг и фенси јазик
• Б) Само напишете го вашето барање и игнорирајте ги контра-аргументите
• В) Однапред испрашување евентуални противприговори и одговарање на истите врз основа на фактичко-правно-барање ✔
• Г) Поднесување на претставката директно до судот без нејзино верификација

Објаснување: Добрата петиција ги предвидува не само сопствените аргументи, туку и можните приговори на другата страна. Прашајте ја вештачката интелигенција „какви забелешки може да се појават на ова барање и како да одговорите на секое од нив?“ Поставувањето прашања како ова го гради нацртот на рамката за фактичко право-барање и однапред ги затвора слабите точки.

8. Која е најкорисната форма на излез што треба да се побара од вештачката интелигенција при преточување на регулативата во список за проверка на усогласеноста што може да се изврши?

• А) Печатење само на насловот и датумот на уредувањето
• Б) Комбинирање на сите ставки во еден долг пасус
• В) Задоволство со подредување на барањата по азбучен ред
• Г) Ставање на барањата во контролен графикон со колони за одговорна улога, потребни докази и статус на задоволство ✔

Опис: Секое барање; Ставањето во табела со одговорна улога, докази/документација и статус на задоволство (да/не/делумно) го прави списокот подложен на ревизија и дејствување. Апстрактната листа на ставки не може да се следи сама.

9. Кој е највредниот додаток што треба да се побара од вештачката интелигенција за да може нацртот на корпоративната политика да може да се ревидира?

• А) Усогласување на секоја обврска со одговорната улога/RACI ✔
• Б) Одржување на политиката колку што е можно апстрактно и општо
• В) Наведете само правни цитати
• Г) Додавање на многу правен жаргон во политиката.

Објаснување: Мапирањето на секоја обврска со RACI (Одговорен/Одобрува/консултиран/Информиран) или барем „одговорната улога“ ја појаснува политиката „кој што ќе прави“ и утврдува кој ќе биде одговорен во ревизијата. Не може да се спроведе политика без улога.

10. Што треба да направи експерт кој сака да резимира документ кој содржи TR ID на клиентот, име и детали за случајот со вештачка интелигенција?

• А) Залепете го документот како што е и брзо добијте резултати
• Б) Маскирање и анонимизирање лични податоци и/или користење одобрена алатка со обезбедување на корпоративни податоци ✔
• В) Само додадете „доверливо“ на крајот од документот
• Г) Доволно е еднаш да го испратите документот и потоа да го избришете разговорот

Објаснување: Личните податоци и тајните на клиентот не треба директно да се внесуваат. Вистинскиот пристап; маскирање и анонимизирање информации за идентитетот и/или користење одобрена алатка со институционално осигурување на податоци (некористење во образованието, политика за задржување податоци). Ова е услов и на KVKK и на обврските за доверливост.

11. Кој е правилниот пристап кога се оценува статусот на интелектуална сопственост и авторски права на текст изработен со вештачка интелигенција?

• А) Излезот со вештачка интелигенција е секогаш автоматски сопственост и целосно уникатен
• Б) Излезот со вештачка интелигенција не може да се користи под никакви околности
• В) Излезот со вештачка интелигенција не се претпоставува дека е оригинален/бесплатен; се оценува потеклото, ризикот од сличност и сопственоста ✔
• Г) Авторското право важи само за музика, па затоа е неважно за текстовите.

Обелоденување: Сопственоста на авторските права на излезот од вештачката интелигенција може да биде несигурна во зависност од земјата и ситуацијата; Дополнително, излезот може да личи на заштитена содржина од трета страна. Затоа, излезот од вештачката интелигенција не треба да се претпоставува дека е оригинален/бесплатен без верификација, ризикот од изворот и сличноста треба да се процени, а корпоративната сопственост треба да се разјасни со договор.

12. Кое е правилото за користење на вештачка интелигенција во однос на привилегијата на адвокат-клиент (доверлив/привилегиран документ)?

• А) Привилегираните документи може слободно да се внесуваат во секоја алатка за вештачка интелигенција
• Б) Употребата на вештачка интелигенција е ирелевантна бидејќи привилегијата се применува само на суд
• В) Ако документот е шифриран, не е важно во која алатка е внесен.
• Г) Доверливите/привилегираните документи треба да се обработуваат само во одобрени возила со соодветни заштитни мерки, во спротивно привилегијата и доверливоста може да бидат загрозени ✔

Објаснување: Привилегијата може да биде загрозена и доверливоста може да биде нарушена кога се пристапува до привилегирани и доверливи документи преку алатки од трети страни кои немаат заложби за безбедност и доверливост на податоците. Затоа, таквите документи треба да се обработуваат само на одобрени возила со соодветни договорни и технички заштитни мерки.

13. Каде лежи професионалната одговорност во врска со употребата на ВИ во корпоративниот правен тим/тим за усогласеност?

• А) Конечната анализа, одлука и одговорност секогаш лежи на компетентниот човеков професионалец; AI е само алатка за поддршка ✔
• Б) Бидејќи излезот доаѓа од вештачка интелигенција, одговорноста е на давателот на алатката
• В) Ако вештачката интелигенција е доволно напредна, нема да биде потребна човечка проверка
• Г) Одговорноста е на помошниот персонал кој го напишал известувањето.

Опис: ВИ е множител на брзина и генератор на нацрти; Не дава правен совет и не е замена за професионалец. Конечната анализа, одлука и одговорност секогаш лежи на компетентниот човечки професионалец; Резултатите мора да бидат потврдени од експерт.

14. Која контрола на управувањето е најсоодветна за користење на вештачка интелигенција во правна задача со високи влогови (на пр., конечно одобрување на договор)?

• А) Испратете излез на вештачка интелигенција директно за одобрување за да заштедите време
• Б) Потребна е врата за инспекција од луѓе која е прегледана и одобрена од квалификуван професионалец и употреба на документи ✔
• В) Лицето кое го напишало промптот го дава одобрението сам.
• Г) Само прашајте ја вештачката интелигенција „сигурен ли сте?“ прашувајќи и верувајќи во одговорот

Објаснување: За одлуки со големо влијание и тешки за поништување, излезот на вештачката интелигенција не треба да се применува директно; Мора да се бара пренесување од човек во јамката, прегледано и одобрено од квалификуван професионалец и оваа употреба мора да биде документирана.