Правовые ограничения деятельности ИИ и профессиональная ответственность

Прибыль:

• Уметь уточнить, что ИИ не предоставляет юридических консультаций и профессиональная ответственность лежит на человеке.
• Способность определять шлюзы для проверки и проверки человеком в задачах высокого риска.
• Способность создать систему внутреннего управления и подотчетности, документирующую использование ИИ.

На протяжении всего этого модуля мы увидели, что искусственный интеллект (ИИ) является мощным фактором ускорения рассмотрения контрактов, составления проектов, юридических исследований и работы по соблюдению требований. В этом последнем разделе мы подводим самую важную черту: ИИ — помощник, а не юрист. Он не дает юридических консультаций, не заменяет профессионала, и ответственность всегда остается на человеке. Эта линия не является ограничением, а является предпосылкой для безопасного и устойчивого использования технологий. Тот же принцип применяется и в других профессиях, где важна безопасность: в инженерном деле ИИ может составить строительный расчет, но в работе, где важна безопасность, результаты ИИ не заменяют одобрение компетентного и компетентного инженера. В юриспруденции окончательный анализ, решение и ответственность лежит на компетентном профессионале. В этом блоке мы создадим систему внутреннего управления и подотчетности, которая документирует использование ИИ.

Давайте уточним термины. Профессиональная ответственность — это юридическая и этическая ответственность, возникающая при выполнении требований профессии; Некачественная работа может повлечь за собой компенсацию и дисциплинарные взыскания. «Человек в цикле» — это принцип, согласно которому важное решение рассматривается и утверждается уполномоченным лицом до того, как оно вступит в силу. Управление — это структура, которая определяет, кто будет использовать ИИ, по каким правилам и на каких условиях. Ворота проверки — это обязательная контрольная точка, которую должен пройти выход, прежде чем его можно будет использовать. Прослеживаемость (контрольный журнал) — это запись о том, какой результат был произведен, как и кем он был одобрен.

Итог: ИИ не дает рекомендаций

Текст, сгенерированный искусственным интеллектом, каким бы профессиональным он ни выглядел, не является юридической консультацией. Для этого есть три конкретные причины. Во-первых, ИИ не может полностью знать весь контекст вашего инцидента, истинные намерения сторон и действующее применимое право; Производит по общим шаблонам. Во-вторых, информация, которую он дает, может быть сфабрикована из-за риска возникновения галлюцинаций (см. Модуль 5). В-третьих, он не может нести юридическую ответственность; В случае ошибки ответственность, компенсацию или дисциплинарное наказание всегда несет профессионал.

Поэтому результаты ИИ следует рассматривать как «сырьевой материал» для эксперта: ценный, ускоряющий, но непригодный для использования без обработки и проверки.

Внимание: фраза «Выходные данные поступили от ИИ» не является защитой. Ответственность за каждый текст, представленный клиенту, суду или регулирующему органу, лежит на представляющем его профессионале. Переложить ответственность на транспортное средство или лицо, написавшее подсказку, юридически невозможно.

Аудит по уровню риска

Не каждая задача требует одинакового уровня контроля. Для выполнения легко выполнимой задачи с низким уровнем воздействия достаточно управления светом; Высокоэффективное и труднообратимое решение требует обязательного человеческого контроля и документации. Ранжирование риска на основе влияния задачи и обратимости сохраняет как безопасность, так и эффективность.

Уровень риска

пример задачи

Требуемый осмотр

низкий

Краткое изложение внутренних примечаний, объяснение терминов

Легкий обзор

средний

Краткое описание контракта, контрольный список

Экспертный контроль + проверка источника

высокий

Ходатайство, договор для подписания, юридическое заключение

Обязательное одобрение человека + документация

критический

Представление в суд, нормативное заявление

Многостороннее одобрение + полная отслеживаемость

Ваша роль: советник по управлению ИИ. Предложите матрицу контроля рисков для следующего списка задач:| Квест | Воздействие (низкое/среднее/высокое) | Возвратность | Рекомендуемые смотровые ворота | Кто одобряет | Необходимая документация | Рекомендовать обязательное одобрение человеком для выполнения важных и труднообратимых задач. Отметьте свои предложения как «должны быть одобрены организацией»; строгое введение правил.<tasks>[задачи, которые команда по юридическим вопросам/соответствию выполняет с помощью ИИ]</tasks>

Создание структуры управления

Использование распределенного и человекозависимого ИИ рано или поздно приведет к ошибке. Система корпоративного управления; Он определяет, для каких задач можно использовать ИИ, какие данные можно вводить (см. Блоки 9 и 11), какие шлюзы аутентификации являются обязательными и как будет регистрироваться использование.

Разработайте «Политику использования искусственного интеллекта» для нашей группы по юридическим вопросам/соответствию. Разделы: 1) Цель и объем2) Разрешенные и запрещенные виды использования (на основе задач) 3) Правила данных (какие данные на какой носитель; маскирование; привилегированный документ) 4) Ворота проверки (галлюцинации / проверка атрибуции, подтверждение источника) 5) Уровни человеческого надзора и одобрения (в зависимости от уровня риска) 6) Документация и отслеживаемость 7) Нарушение и ответственность [СЛЕДУЕТ ЗАПОЛНИТЬ] оставляют пробелы; Отметьте «Требуется юридическое одобрение» для юридического содержания. Не придумывайте правовое положение самостоятельно.

Также полезно иметь короткий «тег использования», прикрепленный к каждому важному результату; Это делает прослеживаемость практичной.

Создайте короткий шаблон «тега использования ИИ», который будет добавляться к каждому выводу на базе ИИ: какая задача, какой инструмент, введенный класс данных, выполненные шаги проверки, проверяющий, утверждающее лицо, дата. Создайте форму из 6–8 строк, которую легко заполнить.

Слабая подсказка/Сильная подсказка

Слабый подход: передавать результаты ИИ непосредственно клиенту/суду; Будьте быстры.

Результат: Непроверенный, неподотчетный, несостоятельный в случае ошибки. Единственная галлюцинация или контекстная ошибка могут нанести серьезный вред.

Сильный подход: [аудит в соответствии с уровнем риска + ворота обязательной проверки + подтверждение источника + одобрение уполномоченного человека + документация с идентификатором пользователя]

Результат: проверенный и отслеживаемый результат, который выигрывает от своей скорости, но имеет четкую подотчетность. ИИ повышает эффективность; Этот процесс дает уверенность.

Кто несет ответственность? Быстрый просмотр

• Точность вывода: зависит от профессионала, который его использует.
• Работа, представленная клиенту/суду: лицо, подписавшее/представившее ее.
• Защита данных и конфиденциальность: команда, обрабатывающая данные (а не поставщик инструмента).
• Управление и правило: в учреждении и в управлении.

Ни в коем случае ответственность не переносится на «ИИ» или «помощника, который пишет подсказку».

Три мини-кейса

Случай 1. Место ответственности. В одном агентстве помощник отправил подготовленный им с помощью AI отчет о соответствии требованиям непосредственно регулирующему органу; В отчете содержались непроверенные данные. Защита «это написал ИИ» не сработала, когда возникла проблема; Считалось, что ответственность лежит на учреждении, представляющем отчет, и на должностном лице, которое должно его утвердить. Затем учреждение постановило, что «ни одна внешняя декларация не должна отправляться без уполномоченного одобрения и подтверждения источника».

Случай 2 — Аудит уровня риска. Когда команда юристов применила один и тот же обременительный процесс утверждения ко всем задачам, ИИ не получил никаких результатов. Они установили матрицу аудита рисков: краткие описания внутренних меморандумов подвергались тщательной проверке, контракты и ходатайства о подписании подвергались обязательному двойному слепому утверждению. Таким образом, хотя скорость сохранялась на работах с низким уровнем риска, безопасность повышалась на работах с высоким риском; Команда начала широко и уверенно использовать ИИ.

Случай 3. Ценность прослеживаемости. При аудите: «Как вы проводили проверку контракта, использовали ли вы искусственный интеллект, проверяли ли вы?» пришел вопрос. Команда, применившая тег использования, показала в документации, с помощью какого инструмента был получен каждый результат, какие этапы проверки он прошел и кто его утвердил. Аудитор увидел, что процесс контролируемый и никаких дополнительных заключений не написал. Документация превратила использование ИИ из риска в управляемый процесс.

Распространенные ошибки

• Передача ответственности на автомобиль. «Это написал ИИ» не является защитой; Ответственность всегда лежит на человеке.
• Применение одного и того же контроля к каждой задаче. Либо эффективность снижается, либо высокий риск остается неконтролируемым; Ставка по уровню риска.
• Обход проверочных шлюзов. В частности, продукция не должна выходить без указания авторства и подтверждения источника.
• Не излагать управление в письменной форме. Личное, нерегулярное использование рано или поздно приведет к ошибке.
• Не поддерживать отслеживаемость. Если не задокументировать, кто, что и как проверял, возникнут пробелы в контроле и споры.
• Оставить ИИ нерегулируемым, потому что он «достаточно продвинут». Повышение способностей не означает, что с людей исчезает ответственность.

В заключение

ИИ является мощным усилителем скорости в юриспруденции, но он не предоставляет юридических консультаций и не заменяет профессионала; Окончательный анализ, решение и ответственность всегда лежат на ответственном лице. Сделать это устойчивым можно с помощью системы управления: классифицируйте задачи по уровню риска, вводите обязательный человеческий аудит и проверки для работ с высоким уровнем риска, соблюдайте правила данных и конфиденциальности, а также отслеживайте каждый результат с помощью тега использования. Таким образом, вы получаете выгоду от скорости искусственного интеллекта и сохраняете подотчетность и доверие. ИИ генерирует и ускоряет; Компетентный профессионал решает и несет ответственность за то, что будет представлено, и за его последствия.

Задача приложения

Перечислите задачи, которые ваша команда решает с помощью ИИ. (1) Используя подсказку матрицы аудита рисков, оцените каждую задачу в соответствии с воздействием и обратимостью и назначьте контрольные точки аудита. (2) Разработать проект политики использования ИИ; Соберите таблички с надписью «Требуется юридическое одобрение». (3) Создайте шаблон тега использования и примените его к окончательной распечатке. (4) Зафиксировать в письменной форме правило, согласно которому «Ни одна внешняя декларация не допускается без одобрения уполномоченного лица и подтверждения источника».

контрольный список

• [ ] Ранжируются ли задачи по уровню риска (воздействие + обратимость)?
• [ ] Определено ли обязательное согласие человека для миссий высокого риска?
• [ ] Включены ли в процесс механизмы проверки атрибуции/источника?
• [ ] Были ли добавлены в структуру правила использования данных и конфиденциальности (блоки 9 и 11)?
• [ ] Можно ли отслеживать каждый важный результат по тегу использования?
• [ ] Разъяснилось ли письменно, что ответственность лежит на человеке?
• [ ] Подготовлена ​​ли политика использования ИИ для юридического утверждения?

Модульный экзамен

1. Какое приложение больше всего повышает надежность результатов при использовании ИИ для суммирования длительного контракта?

• А) Связывание каждого определения в резюме с источником с соответствующим номером статьи и короткой цитатой ✔
• Б) Попросите резюме как можно короче, в один абзац.
• В) Указание модели «не совершать ошибок» и доверие к результату
• Г) Подписание договора только на основании аннотации, вообще не читая ее.

Аннотация: Связывание каждого вывода в сводке ИИ с источником с соответствующим номером позиции и короткой цитатой делает сводку проверяемой и позволяет быстро уловить сфабрикованную информацию (галлюцинацию). Это наиболее важная проверка достоверности для юридической проверки.

2. Что является наиболее эффективным вкладом в ИИ при оценке положений о рисках в контракте на поставку?

• А) Просто вопрос «рискован ли этот контракт?» спросить
• Б) Предоставление сборника правил, содержащего стандартные положения учреждения и классификацию пунктов по этим критериям ✔
• В) Попросить ИИ переписать договор в пользу другой стороны.
• Г) Подсчет только количества символов предметов

Описание: Предоставление списка стандартных позиций организации позволяет ИИ классифицировать элементы как «приемлемые/должны быть согласованы/отклонены» в соответствии с вашими критериями. Это гораздо полезнее, чем общий вопрос «рискованно ли это».

3. Почему анализ «отсутствующих пунктов» с помощью ИИ полезен при проверке контракта?

• А) Потому что это полезно только для поиска орфографических ошибок.
• Б) Потому что это сокращает контракт
• В) Потому что он вводит защитные положения, которые должны были присутствовать, но никогда не были включены в контракт ✔
• D) Потому что это определяет, кем является другая сторона

Объяснение: Часть риска заключена не в письменном пункте, а в положениях, которые должны присутствовать, но не включены в договор (например, передача интеллектуальной собственности, обработка данных, ответственность после расторжения). Я спросил AI: «Какие пункты предусмотрены в этом типе контракта, но отсутствуют здесь?» Спрашивание: выявляет эти пробелы.

4. Какой подход больше всего повышает качество и последовательность при составлении контрактов с использованием ИИ?

• А) Попросить ИИ написать тему с нуля, не раскрывая контекста.
• Б) Копирование любого контракта, найденного в Интернете, и его непосредственное использование.
• В) Введение проекта в силу без его рассмотрения
• D) Предоставьте шаблон и информацию о сценарии, одобренную учреждением, и ИИ адаптирует его ✔

Описание: Вместо создания с пустой страницы мы предоставляем шаблон и информацию о сценарии, одобренные учреждением, и ИИ адаптирует их; Это одновременно поддерживает институциональный стандарт и снижает риск галлюцинаций. Утвержденный шаблон действует как «якорь» и не дает модели отклоняться от текста.

5. Какое различие следует прояснить в самом начале при рассмотрении соглашения о неразглашении (NDA) с AI?

• А) Является ли соглашение о неразглашении односторонним или двусторонним и на какой стороне лежит обязательство ✔
• Б) Общее количество страниц документа
• В) Каким шрифтом написан договор?
• D) Есть ли у другой стороны логотип или нет

Раскрытие информации: то, является ли соглашение о неразглашении односторонним (только одна сторона раскрывает информацию) или двусторонним (взаимное раскрытие), определяет весь баланс обязательств. Заставить ИИ сначала запросить это является ключом к правильному прочтению таких пунктов, как период конфиденциальности, исключения и обязательство по возврату.

6. В чем заключается наиболее серьезный риск при проведении юридических исследований с использованием ИИ и как им управлять?

• А) ИИ слишком медленный; используется более мощное оборудование
• Б) способность ИИ создавать несуществующие прецеденты/цитаты; Каждый источник сверен с первичным текстом ✔
• В) ИИ пишет текст очень формальным языком; стиль корректируется вручную
• D) AI выводит данные только на английском языке; перевод готов

Описание: ИИ может сфабриковать несуществующий прецедент, закон или цитату (галлюцинацию). Поэтому каждый источник, решение и ссылка, сделанные ИИ, должны быть проверены на основе первичного/официального текста (официального законодательства, текста решения). ИИ предназначен для предварительного исследования, а не для окончательного решения.

7. Какой шаг при составлении петиции с помощью ИИ усиливает содержание больше всего?

• А) Напишите петицию как можно более длинным и красивым языком.
• Б) Просто напишите свой запрос и игнорируйте контраргументы.
• В) Предварительный опрос возможных встречных возражений и ответ на них исходя из факта-закона-требования ✔
• Г) Подача заявления непосредственно в суд без его проверки

Пояснение: Хорошая петиция предвосхищает не только собственные аргументы, но и возможные возражения другой стороны. Спросите ИИ, «какие возражения могут возникнуть на этот запрос и как ответить на каждое?» Задавая подобные вопросы, проект строится на основе фактов-законов-требований и заранее закрывает слабые места.

8. Какую форму результатов наиболее полезно запросить у ИИ при переводе нормативного акта в действенный контрольный список соответствия?

• А) Печать только названия и даты редактирования
• Б) Объединение всех пунктов в один длинный абзац
• В) Довольствоваться расположением требований в алфавитном порядке.
• D) Внесение требований в контрольную схему со столбцами для ответственной роли, необходимых доказательств и статуса удовлетворенности ✔

Описание: Любое требование; Помещение его в таблицу с ответственной ролью, доказательствами/документацией и статусом удовлетворенности (да/нет/частичное) делает список поддающимся проверке и действенным. Абстрактному списку пунктов нельзя следовать в одиночку.

9. Какое самое ценное дополнение следует попросить у ИИ, чтобы обеспечить возможность проверки проекта корпоративной политики?

• А) Сопоставление каждого обязательства с ответственной ролью/RACI ✔
• Б) Сохранение политики как можно более абстрактной и общей.
• В) Перечислите только юридические цитаты.
• D) Добавление в политику большого количества юридического жаргона.

Пояснение: Сопоставление каждого обязательства с RACI (Ответственный/Утверждающий/Консультируемый/Информированный) или, по крайней мере, с «ответственной ролью» проясняет политику «кто что будет делать» и устанавливает, кто будет нести ответственность в ходе аудита. Политика без роли не может быть реализована.

10. Что должен сделать эксперт, желающий обобщить с ИИ документ, содержащий номер TR ID, имя и подробности дела клиента?

• А) Вставьте документ как есть и быстро получите результаты
• Б) Маскирование и анонимизация персональных данных и/или использование утвержденного инструмента с корпоративной гарантией данных ✔
• В) Просто добавьте слово «конфиденциально» в конец документа.
• Г) Достаточно один раз отправить документ, а затем удалить чат.

Пояснение: Персональные данные и секреты клиента не следует вводить напрямую. Правильный подход; маскирование и анонимизация идентификационной информации и/или использование утвержденного инструмента с институциональной гарантией данных (не использовать в образовании, политика хранения данных). Это требование как КВКК, так и обязательств по конфиденциальности.

11. Каков правильный подход при оценке статуса интеллектуальной собственности и авторских прав на текст, созданный с помощью ИИ?

• А) Выходные данные ИИ всегда автоматически являются собственностью и полностью уникальны.
• Б) Выход AI нельзя использовать ни при каких обстоятельствах.
• C) Выход AI не считается оригинальным/бесплатным; оцениваются происхождение, риск сходства и право собственности ✔
• Г) Авторские права действительны только для музыки, поэтому для текстов они не важны.

Раскрытие информации: право собственности на результаты ИИ может быть неопределенным в зависимости от страны и ситуации; Кроме того, выходные данные могут напоминать сторонний защищенный контент. Таким образом, результаты ИИ не должны считаться оригинальными/бесплатными без проверки, необходимо оценить риск источника и сходства, а корпоративную собственность следует уточнить в контракте.

12. Каковы практические правила использования ИИ с точки зрения адвокатской тайны (конфиденциальный/привилегированный документ)?

• А) Привилегированные документы можно свободно вводить в любой инструмент ИИ.
• Б) Использование ИИ не имеет значения, поскольку эта привилегия распространяется только в суде.
• В) Если документ зашифрован, то не имеет значения, в каком инструменте он вводится.
• D) Конфиденциальные/привилегированные документы следует обрабатывать только в утвержденных транспортных средствах с соблюдением соответствующих мер безопасности, в противном случае привилегия и конфиденциальность могут быть поставлены под угрозу ✔

Объяснение: Привилегии могут быть поставлены под угрозу, а конфиденциальность может быть нарушена, если доступ к привилегированным и конфиденциальным документам осуществляется с помощью сторонних инструментов, которые не имеют обязательств по безопасности и конфиденциальности данных. Поэтому такие документы следует обрабатывать только на утвержденных транспортных средствах с соответствующими договорными и техническими гарантиями.

13. Какова профессиональная ответственность в отношении использования ИИ в корпоративной команде по юридическим вопросам/комплаенсу?

• А) Окончательный анализ, решение и ответственность всегда лежат на компетентном профессионале; ИИ — это только инструмент поддержки ✔
• Б) Поскольку выходные данные исходят от ИИ, ответственность лежит на поставщике инструмента.
• В) Если ИИ достаточно развит, проверка человеком не потребуется.
• Г) Ответственность лежит на помощнике персонала, написавшем подсказку.

Описание: ИИ — умножитель скорости и генератор чертежей; Он не предоставляет юридических консультаций и не заменяет профессионала. Окончательный анализ, решение и ответственность всегда лежат на компетентном профессионале; Результаты должны быть проверены экспертом.

14. Какой контроль управления наиболее подходит для использования ИИ в решении важной юридической задачи (например, окончательное утверждение контракта)?

• А) Отправьте результаты AI напрямую на утверждение, чтобы сэкономить время.
• Б) Требуйте, чтобы дверь для осмотра человеком была проверена и одобрена квалифицированным специалистом и документально оформлена на использование ✔
• В) Одобрение дает только тот, кто написал подсказку.
• D) Просто спросите ИИ: «Вы уверены?» спрашивать и доверять ответу

Пояснение: для принятия важных и труднообратимых решений результаты ИИ не должны применяться напрямую; Перенос данных вручную, проверенный и одобренный квалифицированным специалистом, должен быть обязательным, и такое использование должно быть задокументировано.