Прибыль:
- Возможность превратить юридический вопрос в структуру, поддающуюся исследованию, и провести предварительные исследования с помощью ИИ.
- Способность распознавать риск сфабрикованной судебной практики/цитирования (галлюцинации) и проверять каждый источник на основе первичного текста.
- Возможность организовать рабочий процесс, который использует ИИ в качестве генератора идей и оставляет окончательные полномочия официальным источникам.
Этот блок несет самое критическое предупреждение всего модуля. Искусственный интеллект (ИИ) может дать беглый, убедительный и весьма уверенный ответ на юридический вопрос; Проблема в том, что этот ответ может быть основан на несуществующем законе, сфабрикованном решении суда или ложной ссылке. Это называется галлюцинацией: когда модель выдает информацию, которая кажется реальной, но на самом деле является сфабрикованной. В мире известны случаи, когда юристы представляют в суд фальшивые решения, выдуманные ИИ, считая их реальными, и им грозят штрафы, потеря репутации и дисциплинарные взыскания. Вот почему в этом подразделении есть одно железное правило: ИИ проводит предварительные исследования; Высший авторитет всегда является первоисточником.
Давайте уточним термины. Прецедентное право – это решения, вынесенные судами по аналогичным делам, которые считаются определяющими. Первоисточником является фактический текст закона: текст действующего закона/постановления и текст официального решения (например, «Официальный вестник», решение, опубликованное самим судом). Вторичные источники — это статьи, комментарии и комментарии, написанные к ним. Цитата – формальная ссылка на решение или статью (номер решения, номер статьи). Верификация — это процесс проверки каждой атрибуции, предоставленной ИИ из самого первоисточника.
Почему это так опасно?
ИИ — это машина прогнозирования языка, а не «база данных фактов». Он научился, как выглядит номер решения, как написать обоснование; Поэтому он может «выдать» решение, которого на самом деле не существует, в правильном формате и с убедительным обоснованием. И делает он это тем же уверенным тоном, каким он говорит, когда сообщает о реальном решении. Таким образом, явных признаков галлюцинации нет; Тот факт, что он «выглядит безопасным», не означает, что ему можно доверять.
Вторая опасность — своевременность: данные обучения ИИ обрезаются к определенной дате. Модель может не знать об измененном законодательстве, отмененных статьях или новой судебной практике после этой даты; Однако модель может представлять старую/неправильную информацию как текущую.
Внимание: ИГНОРИРУЙТЕ номер решения AI, номер статьи или цитату, если они не были проверены на основе первоисточника. Не существует категории «вероятно верно»; По закону ссылка либо проверена, либо непригодна для использования.
Безопасный исследовательский рабочий процесс
Чтобы безопасно использовать ИИ в юридических исследованиях, нужно позиционировать его как «думающего партнера», а не как «автоответчик». Шаг за шагом:
- Сформулируйте вопрос. Уточните событие, юридический вопрос и какую область права (хозяйственное, коммерческое, долговое) вы задаете.
- Используйте ИИ в качестве генератора идей/структур. Возможные аргументы, концепции, на которые стоит обратить внимание, противоположные точки зрения.
- Не спрашивайте конкретные ссылки — спросите поисковый запрос. Вместо того, чтобы просить ИИ составить номер решения, запросите ключевые понятия и термины, которые вы будете искать в официальной базе данных.
- Проверьте каждый источник на основе первичного. Каждый принятый пункт/решение подтверждается официальным законодательством и текстом решения.
- Проверьте актуальность. Проверьте, действительна ли статья и не менялась ли она.
- Окончательный вид создается людьми. ИИ выдвигает черновые аргументы; Юридическое мнение и ответственность принадлежат адвокату.
Ваша роль: ассистент по юридическим исследованиям. ВЫ НЕ являетесь окончательной инстанцией. Тема: [краткое изложение дела и юридического вопроса]. Необходимо: 1) Перечислить правовые концепции и возможные аргументы, на которые следует обратить внимание при анализе этого вопроса. 2) Предложить КЛЮЧЕВЫЕ ТЕРМИНЫ и концепции, которые я буду искать в официальном законодательстве и базах данных решений (номер решения/цитата ПОДХОДИТ). 3) Также запишите возможные аргументы противоположной стороны. Если вы указали точный номер статьи закона или решения, напишите «ПОДТВЕРЖДЕНО — подтвердите из первоисточника». к этому. Если вы не уверены, скажите «Я не знаю»; Не угадывайте.
Если ИИ все же выдает конкретные атрибуции, необходимо поместить их в очередь проверки. Заставить ИИ сказать «проверьте это» — это не проверка; Проверка осуществляется людьми, согласно официальному источнику.
Ниже приведены ссылки, которые я собираюсь использовать в своем проекте аргументации. Составьте КОНТРОЛЬНЫЙ СПИСОК ПРОВЕРКИ для каждого: (а) какой официальный источник следует искать, (б) что необходимо подтвердить (эффективность статьи, существование решения и его предмета), (в) что делать, если это невозможно проверить. НЕ предполагайте, что атрибуции верны; просто скажите мне, как проверить.
Слабая подсказка/Сильная подсказка
Слабая подсказка: Приведите прецедентные решения Верховного суда и соответствующие статьи по этой теме с их номерами.
Результат: номера решений и статьи появляются в правильном формате, с убедительной аргументацией, но которые могут быть полностью или частично сфабрикованы. Использовать их без проверки — серьезная профессиональная ошибка.
Мощная подсказка: [роль помощника + «вы не являетесь последней инстанцией» + анализ концепции/аргументов + поисковый запрос вместо номера решения + тег «ОБЯЗАТЕЛЬНО ПРОВЕРИТЬ» + «если вы не уверены, скажите, что я не знаю» + отдельный контрольный список для проверки]
Результат: исследовательская поддержка, которая ускоряет ваше мышление, но не втягивает в сфабрикованные ссылки, а ставит каждую конкретную информацию в очередь на проверку.
Где использовать ИИ и где его не использовать
Квест
Подходит ли ИИ?
Почему
Генерация аргументов/противоаргументов
Да (черновик)
Обеспечивает разнообразие идей
Предложение концепций и условий поиска
Да
Ускоряет исследования
Упростить/обобщить текст
Да (с проверкой)
Судя по приведенному тексту
Конкретное решение/номер статьи
Нет (без проверки)
Высокий риск галлюцинаций.
Последняя редакция действующего законодательства
Нет (один)
Данные обучения могут быть устаревшими.
Окончательное юридическое заключение
нет
Ответственность и власть принадлежат людям
Три мини-кейса
Случай 1 — Мошеннические решения. Адвокат запросил у AI «прецедентные решения» в поддержку петиции и добавил в петицию 4 из 6 решений без проверки. Когда противная сторона доказала, что ни одно из решений не существует, адвокат не только потерял доверие к делу, но и подвергся дисциплинарному процессу. Впоследствии бюро ввело письменную политику, согласно которой «никакие указания ИИ не включаются в файл без проверки из первоисточника»; в следующем квартале количество непроверенных цитат упало до нуля.
Случай 2 — Статья отменена. Эксперт по соблюдению требований собирался организовать процесс на основе статьи регулирования, на которую ссылался AI. Во время проверки обновлений он понял, что статья была изменена год назад; Данные обучения ИИ устарели. Эксперт настроил процесс согласно действующему тексту. Урок: нормативная информация по ИИ представляет собой «моментальный снимок» и может быть устаревшей.
Случай 3 — Правильное использование. Команда юристов использовала ИИ исключительно для создания карты аргументов и поискового запроса по сложному вопросу законодательства о конкуренции. ИИ предложил 9 концепций для рассмотрения и 4 возможных контраргумента; Команда нашла и проверила актуальные решения по этим вопросам в официальной базе данных. Этап концептуальной подготовки исследования был сокращен вдвое; но никакая атрибуция не использовалась без проверки со стороны ИИ. Скорость прибавилась, надежность сохранилась.
Распространенные ошибки
- Запрос номера решения/пункта напрямую у ИИ и использование его без проверки. Это самая распространенная и самая серьезная ошибка.
- Доверяя: «Кажется, он уверен». Уверенный тон не является свидетельством правдивости.
- Обход проверки свежести. Нормативные знания об ИИ застыли в истории образования; могут пропустить изменения.
- Пусть ИИ проверит его авторство. Он не может самостоятельно обнаружить ошибку модели; Проверка производится на официальном источнике.
- Принимаем ИИ за высшую власть. ИИ — это инструмент предварительного исследования; Юридическое мнение и ответственность лежит на человеке.
- Не отслеживая источник. Отсутствие регистрации того, какая атрибуция была проверена и откуда, создает пробел в аудите и защите.
В заключение
В юридических исследованиях ИИ является мощным мыслительным партнером, но опасным «автоответчиком». Самый большой риск — это галлюцинации, то есть сфабрикованные суждения и приписывания; Второе — своевременность, то есть данные обучения устарели. Безопасный путь ясен: используйте ИИ для генерации аргументов и условий поиска, никогда не используйте конкретные ссылки без проверки, проверяйте каждый источник на основе первичного текста и позволяйте человеку сформировать окончательное мнение. ИИ ускоряет исследования; Первоисточник и квалифицированный специалист решают, что является реальным и действительным.
Задача приложения
Выберите юридический вопрос (фактический или примерный). (1) Получите концептуальную карту, условия поиска и контраргументы от ИИ с помощью безопасной исследовательской подсказки; Убедитесь, что он не содержит номера решения. (2) Если ИИ все же принял элемент/решение, поместите его в очередь проверки с подсказкой контрольного списка проверки. (3) Подтвердите подлинность источника, выполнив поиск в официальном источнике, используя как минимум три предложенных поисковых запроса. (4) Впишите в свой рабочий процесс правило «Никакая атрибуция ИИ не используется без проверки».
контрольный список
- [ ] Позиционируется ли ИИ как научный сотрудник, а не высший авторитет?
- [ ] Были ли запрошены концепция и поисковый запрос вместо конкретной ссылки?
- [ ] Каждый ли элемент/решение, принимаемое ИИ, имеет пометку «ДОЛЖНО БЫТЬ ПРОВЕРЕНО»?
- [ ] Была ли каждая цитата проверена на основе первичного (официального) источника?
- [ ] Были ли статьи проверены на актуальность/действительность?
- [ ] Было ли окончательное юридическое заключение составлено человеком?
- [ ] Записываются ли источники и трассировка проверки?