Печалби:
- Бъдете в състояние да изясните, че AI не предоставя правни съвети и професионалната отговорност остава на човека
- Възможност за дефиниране на врати за човешка инспекция и проверка при високорискови задачи
- Способност за създаване на рамка за вътрешно управление и отчетност, която документира използването на AI
По време на този модул видяхме, че изкуственият интелект (AI) е мощен мултипликатор на скоростта при преглед на договори, изготвяне, правни проучвания и работа по съответствие. В тази последна част теглим най-важната линия: AI е помощник, а не адвокат. Не дава правни съвети, не замества професионалиста, а отговорността винаги остава на човека. Тази линия не е ограничение, а предпоставка за безопасно и устойчиво използване на технологията. Същият принцип се прилага и в други критични за безопасността професии: в инженерството AI може да изготви изчисление на конструкцията, но в критична за безопасността работа изходът от AI не е заместител на одобрението от компетентен и компетентен инженер. В правото крайният анализ, решение и отговорност се носят от компетентния професионалист. В това звено ще създадем рамка за вътрешно управление и отчетност, която документира използването на AI.
Нека уточним условията. Професионалната отговорност е правната и етична отговорност, която възниква при изпълнение на изискванията на дадена професия; Грешната работа може да доведе до обезщетение и дисциплина. Човекът в цикъла е принципът, че критично решение се преглежда и одобрява от упълномощен човек, преди да влезе в сила. Управлението е рамката, която определя кой ще използва ИИ, при какви правила и при какви условия. Портата за проверка е задължителна контролна точка, която изходът трябва да премине, преди да може да се използва. Проследяемостта (одитна пътека) е запис на това коя продукция е произведена, как и от кого е одобрена.
В крайна сметка: AI не дава препоръки
Текстът, генериран от AI, колкото и професионален да изглежда, не е правен съвет. Има три конкретни причини за това. Първо, AI не може да знае напълно пълния контекст на вашия инцидент, истинските намерения на страните и действащото приложимо право; Произвежда се от общи модели. Второ, информацията, която дава, може да е изфабрикувана поради риск от халюцинации (виж Раздел 5). Трето, не може да носи юридическа отговорност; В случай на грешка винаги професионалистът е този, който носи отговорност, компенсира се или дисциплинира.
Поради това изходът на AI трябва да се разглежда като „суров материал“ за експерт: ценен, ускоряващ, но неизползваем без обработка и валидиране.
Внимание: „Резултатът идва от AI“ не е защита. Отговорността за всеки текст, представен на клиент, съд или регулатор, е на професионалиста, който го представя. Законово не е възможно да се прехвърли отговорността върху превозното средство или лицето, което е написало подканата.
Одит според нивото на риск
Не всяка задача изисква същото ниво на надзор. За задача с нисък удар, която лесно може да бъде възстановена, контролът на светлината е достатъчен; Решение със силно въздействие и трудно за отмяна изисква задължителен човешки надзор и документация. Класирането на риска въз основа на въздействието на задачата и обратимостта запазва както безопасността, така и ефективността.
Ниво на риск
примерна задача
Задължителна проверка
ниско
Резюме на вътрешната бележка, обяснение на термина
Лек преглед
среден
Резюме на договора, контролен лист
Експертен контрол + проверка на източника
високо
Петиция, договор за подписване, правно становище
Задължително човешко одобрение + документация
критичен
Представяне пред съда, регулаторна декларация
Многократно одобрение + пълна проследимост
Вашата роля: съветник по управление на ИИ. Предложете матрица за контрол на риска за следния списък със задачи:| Мисия | Въздействие (слабо/средно/високо) | Възможност за възстановяване | Препоръчителна ревизионна врата | Кой одобрява | Необходима документация | Препоръчвайте задължително човешко одобрение за задачи с голямо въздействие и трудни за обръщане. Маркирайте вашите предложения като „трябва да бъдат одобрени от организацията“; налагане на стриктни правила.<задачи>[задачи, които правният екип/екипът за съответствие изпълнява с AI]</задачи>
Създаване на рамка за управление
Използването на разпределен и зависим от човека AI рано или късно ще доведе до грешка. Рамка за корпоративно управление; Той определя за кои задачи може да се използва AI, какви данни могат да се въвеждат (вижте Раздели 9 и 11), кои портове за удостоверяване са задължителни и как ще се записва използването.
Изгответе „политика за използване на AI“ за нашия правен/съответстващ екип. Раздели: 1) Цел и обхват 2) Разрешени и забранени употреби (базирани на задачи) 3) Правила за данни (кои данни към кой носител; маскиране; привилегирован документ) 4) Портали за проверка (проверка на халюцинация/приписване, потвърждение на източника) 5) Човешки надзор и нива на одобрение (въз основа на нивото на риск) 6) Документация и проследимост7) Нарушение и отговорност [ДА СЕ ПОПЪЛНИ] оставят пропуски; Отбележете „изисква се законово одобрение“ за легално съдържание. Не измисляйте правна разпоредба сами.
Също така е полезно да имате кратък „таг за използване“, прикрепен към всеки важен резултат; Това прави проследимостта практична.
Генерирайте кратък шаблон за „таг за използване на AI“, който да бъде добавен към всеки задвижван от AI изход: коя задача, кой инструмент, въведен клас данни, извършени стъпки за проверка, верификатор, лице, одобряващо, дата. Направете го формуляр от 6-8 реда, който е лесен за попълване.
Слаба подкана / Силна подкана
Слаб подход: Предавайте AI изход директно на клиента/съда; Бъдете бързи.
Резултат: Непроверен, неотчетен, несъстоятелен в случай на грешка. Една единствена халюцинация или грешка в контекста може да причини сериозна вреда.
Силен подход: [одит според нивото на риск + задължителни врати за проверка + потвърждение на източника + одобрение от оторизиран човек + документация с потребителско име]
Резултатът: проверен и проследим изход, който се възползва от своята скорост, но има ясна отчетност. AI повишава ефективността; Процесът осигурява увереност.
Кой е отговорен? Бърз поглед
- Точност на изхода: зависи от професионалиста, който го използва.
- Работата, представена на клиента/съда: лицето, което я е подписало/представило.
- Защита на данните и поверителност: в екипа, обработващ данните (не доставчика на инструмента).
- Управление и управление: в институцията и в управлението.
В никакъв случай отговорността не се прехвърля върху „AI“ или „асистента, който пише подканата“.
Три мини калъфа
Случай 1 — Местоположение на отговорността. В една агенция асистент изпрати доклад за съответствие, който изготви с ИИ, директно до регулатора; Докладът съдържаше непроверени данни. Защитата „AI го е написал“ не работи, когато възникне проблемът; Смята се, че отговорността принадлежи на институцията, представяща доклада, и длъжностното лице, което трябва да го одобри. След това институцията упълномощи, че „никаква външна декларация не трябва да се изпраща без оторизирано одобрение и потвърждение на източника“.
Случай 2 — Одит на ниво риск. Когато правен екип приложи един и същи тежък процес на одобрение за всички задачи, изкуственият интелект не постигна никакви резултати. Те създадоха матрица за одит на риска: обобщенията на вътрешните меморандуми преминаха през лека проверка, договорите и петициите за подпис бяха подложени на задължително двойно-сляпо одобрение. По този начин, докато скоростта се поддържа при работни места с нисък риск, сигурността се повишава при работни места с висок риск; Екипът започна да използва AI както широко, така и уверено.
Случай 3 — Стойността на проследимостта. При одит „как направихте този преглед на договора, използвахте ли AI, проверихте ли?“ дойде въпросът. Екипът, който приложи етикета за използване, показа с документация с кой инструмент е произведен всеки изход, през какви стъпки за проверка е преминал и кой го е одобрил. Одиторът видя, че процесът е контролиран и не написа допълнителни констатации. Документацията превърна използването на AI от риск в управляван процес.
Често срещани грешки
- Прехвърляне на отговорността върху автомобила. „ИИ го е написал“ не е защита; Отговорността винаги е на човека.
- Прилагане на един и същ контрол към всяка задача. Или ефективността намалява, или високият риск остава неконтролиран; Оценка по ниво на риск.
- Заобикаляне на вратите за проверка. По-специално, изходът не трябва да излиза без приписване и потвърждение на източника.
- Без писмено представяне на управлението. Личната, нередовна употреба рано или късно ще доведе до грешка.
- Не се поддържа проследимост. Ако не се документира кой какво е произвел и как го е проверил, ще има пропуск в контрола и спорове.
- Оставянето на AI нерегулиран, защото е „достатъчно напреднал“. Увеличаването на способностите не означава, че отговорността изчезва от хората.
В обобщение
AI е мощен умножител на скоростта в правото, но не предоставя правни съвети и не замества професионалиста; Окончателният анализ, решението и отговорността винаги са на лицето с власт. Начинът да направите това устойчиво е с рамка за управление: оценете задачите по ниво на риск, наложете задължителен човешки одит и пропуски за проверка на високорискова работа, наложете правила за данни и поверителност и направете всеки изход проследим с етикет за използване. По този начин се възползвате от скоростта на AI и поддържате отчетност и доверие. AI генерира и ускорява; Компетентният професионалист решава и носи отговорност за това, което ще бъде представено и последствията от него.
Задача за приложение
Избройте задачите, които вашият екип изпълнява с AI. (1) С подканата за матрица за одит на риска оценете всяка задача според въздействието и обратимостта и задайте пропуски за одит. (2) Създаване на проект на политика за използване на AI; Събирайте знаци „изисква се законово одобрение“. (3) Създайте шаблон за маркер за използване и го приложете към окончателната си разпечатка. (4) Поставете в писмена форма правилото, че „Външна декларация не минава без оторизирано одобрение и потвърждение на източника“.
контролен списък
- [ ] Задачите оценени ли са по ниво на риск (въздействие + обратимост)?
- [ ] Определено ли е задължителното човешко съгласие за мисии с висок риск?
- [ ] В процеса включени ли са вратите за проверка на авторство/източник?
- [ ] Добавени ли са правила за данни и поверителност (Единици 9 и 11) към рамката?
- [ ] Може ли всеки важен резултат да бъде проследен чрез етикет за използване?
- [ ] Изяснено ли е писмено, че отговорността е на човека?
- [ ] Подготвена ли е политиката за използване на AI за законово одобрение?
Изпит по модул
1. Когато AI обобщава дълъг договор, кое приложение повишава най-много надеждността на изхода?
- A) Свързване на всяко определение в резюмето с източника със съответния номер на статия и кратък цитат ✔
- B) Поискайте резюмето възможно най-кратко, в един параграф
- В) Инструктиране на модела „да не прави грешки“ и доверие в резултата
- Г) Подписване на договора само въз основа на резюмето, без изобщо да се чете
Анотация: Свързването на всяка констатация в резюмето на AI с източника със съответния номер на елемент и кратък цитат прави резюмето проверимо и ви позволява бързо да уловите изфабрикувана информация (халюцинация). Това е най-критичната проверка на достоверността за правен преглед.
2. Какъв е най-ефективният принос към AI при оценка на рисковите клаузи в договор за доставка?
- А) Само „рисков ли е този договор?“ да питам
- B) Предоставяне на книга с игри, съдържаща стандартните позиции на институцията и класифициране на елементите според тези критерии ✔
- C) Искане на AI да пренапише договора в полза на другата страна.
- Г) Преброяване само на броя знаци на елементите
Описание: Предоставянето на списък със стандартните позиции на организацията позволява на AI да класифицира елементите като „приемливи/трябва да бъдат договорени/отхвърлени“ според вашите критерии. Това е много по-полезно от общия въпрос „рисковано ли е“.
3. Защо AI анализът на „липсваща клауза“ е ценен при прегледа на договора?
- А) Защото е полезно само за намиране на правописни грешки
- Б) Защото скъсява договора
- В) Защото въвежда защитни клаузи, които е трябвало да присъстват, но никога не са били включени в договора ✔
- Г) Защото определя коя е другата страна
Обяснение: Част от риска не е в писмената клауза, а в клаузи, които трябва да присъстват, но не са в договора (напр. прехвърляне на интелектуална собственост, обработка на данни, отговорност след прекратяване). Попитах AI „какви са клаузите, които се очакват в този вид договор, но липсват тук?“ Питането: разкрива тези пропуски.
4. Кой подход най-много подобрява качеството и последователността при изготвяне на договори с AI?
- A) Искане на AI да напише темата от нулата, без да дава никакъв контекст
- B) Копиране на всеки договор, намерен в интернет, и директното му използване
- В) Въвеждане на проекта в сила без разглеждането му
- Г) Осигурете шаблон и информация за сценария, одобрени от институцията, и накарайте ИИ да ги адаптира ✔
Описание: Вместо да създавате от празна страница, давате шаблон и информация за сценария, одобрени от институцията, и AI да ги адаптира; Той едновременно поддържа институционалния стандарт и намалява риска от халюцинации. Одобреният шаблон действа като „котва“ и предпазва модела от отдалечаване от текста.
5. Когато преглеждате споразумение за неразкриване (NDA) с AI, кое разграничение трябва да бъде ясно в самото начало?
- A) Дали NDA е еднопосочно или двупосочно и от коя страна е задължението ✔
- Б) Общ брой страници на документа
- В) С какъв шрифт е написан договорът?
- Г) Дали другата страна има лого или не
Разкриване: Дали NDA е еднопосочно (само една страна разкрива информация) или двупосочно (взаимно разкриване) определя целия баланс на задълженията. Да накарате изкуствения интелект първо да запита това е от ключово значение за правилното четене на клаузи като период на поверителност, изключения и задължение за връщане.
6. Какъв е най-сериозният риск при извършване на правни проучвания с AI и как се управлява?
- A) AI е твърде бавен; използва се по-мощен хардуер
- B) способността на AI да фабрикува несъществуващ прецедент/цитат; Всеки източник се проверява от първичния текст ✔
- C) AI пише текста на много формален език; стилът се коригира на ръка
- D) AI извежда само на английски език; преводът е направен
Описание: AI може да фабрикува несъществуващ прецедент, закон или цитат (халюцинация). Следователно всеки източник, решение и препратка, направени от AI, трябва да бъдат проверени от първичния/официален текст (официално законодателство, текст на решение). AI е за предварителни изследвания, а не за окончателен авторитет.
7. Когато изготвяте петиция с AI, коя стъпка укрепва съдържанието най-много?
- А) Написване на петицията на възможно най-дълъг и изискан език
- B) Просто напишете собствената си заявка и игнорирайте контрааргументите
- C) Разпитване на евентуални насрещни възражения предварително и отговор на тях въз основа на искане на факти-закон ✔
- Г) Подаване на молбата директно до съда, без да я проверявате
Обяснение: Добрата петиция предвижда не само своя аргумент, но и възможните възражения на другата страна. Попитайте AI „какви възражения могат да възникнат срещу това искане и как да отговорите на всяко от тях?“ Задаването на въпроси като този изгражда черновата върху рамката факт-закон-търсене и предварително затваря слабите места.
8. Коя е най-полезната форма на изход, която да поискате от AI, когато превеждате регламент в приложим контролен списък за съответствие?
- A) Отпечатване само на заглавието и датата на редакцията
- Б) Комбиниране на всички елементи в един дълъг параграф
- В) Задоволяване с подреждане на изискванията по азбучен ред
- D) Поставяне на изискванията в контролна диаграма с колони за отговорна роля, необходими доказателства и статус на удовлетвореност ✔
Описание: Всякакви изисквания; Поставянето му в таблица с отговорна роля, доказателства/документация и статус на удовлетвореност (да/не/частично) прави списъка подлежащ на проверка и действия. Абстрактният списък от елементи не може да бъде следван сам.
9. Кое е най-ценното допълнение, което да поискате от AI, за да направите проект на корпоративна политика подлежащ на одит?
- A) Съпоставяне на всяко задължение с отговорната роля/RACI ✔
- Б) Поддържане на политиката възможно най-абстрактна и обща
- В) Избройте само юридически цитати
- Г) Добавяне на много правен жаргон към политиката.
Обяснение: Съпоставянето на всяко задължение с RACI (Отговорен/Одобряващ/Консултиран/Информиран) или поне „отговорната роля“ изяснява политиката „кой какво ще прави“ и установява кой ще носи отговорност при одита. Политика без роля не може да бъде приложена.
10. Какво трябва да направи експерт, който иска да обобщи документ, съдържащ TR ID номер на клиента, име и подробности за делото с AI?
- A) Поставете документа такъв, какъвто е, и бързо получете резултати
- B) Маскиране и анонимизиране на лични данни и/или използване на одобрен инструмент с гарантиране на корпоративните данни ✔
- В) Просто добавете „поверително“ в края на документа
- Г) Достатъчно е да изпратите документа веднъж и след това да изтриете чата
Обяснение: Личните данни и клиентските тайни не трябва да се въвеждат директно. Правилният подход; маскиране и анонимизиране на информация за самоличност и/или използване на одобрен инструмент с институционално осигуряване на данни (без използване в образованието, политика за запазване на данни). Това е изискване както на KVKK, така и на задълженията за поверителност.
11. Кой е правилният подход при оценката на статуса на интелектуална собственост и авторски права на текст, създаден с AI?
- A) AI изходът винаги е автоматично собствен и напълно уникален
- B) AI изходът не може да се използва при никакви обстоятелства
- C) AI изходът не се приема като оригинален/безплатен; произходът, рискът от сходство и собствеността се оценяват ✔
- Г) Авторското право е валидно само за музика, така че е маловажно за текстовете.
Разкриване: Собствеността върху авторските права върху продукцията на AI може да е несигурна в зависимост от държавата и ситуацията; Освен това изходът може да прилича на защитено от трета страна съдържание. Следователно не трябва да се приема, че изходът на AI е оригинален/свободен без проверка, рискът от източника и сходството трябва да бъде оценен, а корпоративната собственост трябва да бъде изяснена чрез договор.
12. Какво е основното правило за използване на AI по отношение на привилегията адвокат-клиент (поверителен/привилегирован документ)?
- A) Привилегированите документи могат да се въвеждат свободно във всеки AI инструмент
- B) Използването на AI е без значение, тъй като привилегията се прилага само в съда
- В) Ако документът е криптиран, няма значение в кой инструмент е въведен.
- D) Поверителните/привилегированите документи трябва да се обработват само в одобрени превозни средства с подходящи предпазни мерки, в противен случай привилегиите и поверителността могат да бъдат компрометирани ✔
Обяснение: Привилегията може да бъде компрометирана и поверителността може да бъде нарушена, когато се осъществява достъп до привилегировани и поверителни документи чрез инструменти на трети страни, които нямат ангажименти за сигурност на данните и поверителност. Следователно такива документи трябва да се обработват само на одобрени превозни средства с подходящи договорни и технически гаранции.
13. Къде лежи професионалната отговорност по отношение на използването на AI в корпоративен правен екип/екип за съответствие?
- A) Окончателният анализ, решение и отговорност винаги са на компетентния професионалист; AI е само помощен инструмент ✔
- B) Тъй като изходът идва от AI, отговорността е на доставчика на инструмента
- В) Ако AI е достатъчно напреднал, човешка проверка няма да е необходима
- Г) Отговорността се носи от помощния персонал, който е написал подканата.
Описание: AI е умножител на скоростта и генератор на чертежи; Не предоставя правни съвети и не е заместител на професионалист. Крайният анализ, решението и отговорността винаги са на компетентния професионалист; Резултатите трябва да бъдат проверени от експерт.
14. Какъв контрол на управлението е най-подходящ за използване на AI в правна задача с високи залози (напр. окончателно одобрение на договор)?
- A) Изпратете AI изход директно за одобрение, за да спестите време
- B) Изисквайте врата за проверка от хора, която е прегледана и одобрена от квалифициран професионалист и използване на документи ✔
- В) Човекът, който е написал подканата, дава одобрението сам.
- Г) Просто попитайте AI „сигурен ли си?“ питайки и вярвайки на отговора
Обяснение: За силно въздействащи и трудни за обръщане решения изходът на AI не трябва да се прилага директно; Трябва да се изисква пренасяне от човек в цикъла, прегледано и одобрено от квалифициран специалист и тази употреба трябва да бъде документирана.