Lợi nhuận:
- Khả năng chuyển câu hỏi pháp lý thành khuôn khổ có thể nghiên cứu và thực hiện nghiên cứu sơ bộ với AI
- Khả năng nhận biết nguy cơ luật học/trích dẫn bịa đặt (ảo giác) và xác minh từng nguồn từ văn bản chính
- Khả năng thiết lập quy trình làm việc sử dụng AI làm công cụ tạo ý tưởng và trao quyền cuối cùng cho các nguồn chính thức
Đơn vị này mang cảnh báo quan trọng nhất của toàn bộ mô-đun. Trí tuệ nhân tạo (AI) có thể đưa ra câu trả lời trôi chảy, thuyết phục và có độ tin cậy cao cho một câu hỏi pháp lý; Vấn đề là phản hồi này có thể dựa trên một đạo luật không tồn tại, một quyết định bịa đặt của tòa án hoặc một tài liệu tham khảo sai. Điều này được gọi là ảo giác: khi mô hình tạo ra thông tin có vẻ như thật nhưng thực chất là bịa đặt. Trên thế giới có những trường hợp luật sư đưa ra các quyết định giả mạo do AI đưa ra trước tòa mà tưởng rằng chúng là thật và phải đối mặt với các khoản tiền phạt, mất uy tín cũng như các biện pháp trừng phạt kỷ luật. Đó là lý do tại sao đơn vị này có một nguyên tắc sắt đá: AI thực hiện nghiên cứu sơ bộ; Quyền lực tối cao luôn là nguồn chính.
Hãy làm rõ các điều khoản. Án lệ là những quyết định được tòa án đưa ra trong các vụ việc tương tự và được coi là có tính hướng dẫn. Nguồn chính là văn bản luật thực tế: văn bản luật/quy định có hiệu lực và văn bản của quyết định chính thức (ví dụ: Công báo, quyết định do chính tòa án công bố). Nguồn thứ cấp là các bài báo, bình luận và bình luận viết về chúng. Trích dẫn là tài liệu tham khảo chính thức cho một quyết định hoặc bài viết (số quyết định, số bài viết). Xác minh là quá trình xác minh từng thuộc tính do AI đưa ra từ chính nguồn chính.
Tại sao nó lại nguy hiểm như vậy?
AI là một cỗ máy dự đoán ngôn ngữ, không phải là “cơ sở dữ liệu sự kiện”. Bé đã học được một số quyết định trông như thế nào, cách viết một lý luận; Vì vậy, nó có thể "đưa ra" một quyết định không thực sự tồn tại, theo đúng hình thức và có lý do thuyết phục. Và anh ấy làm điều này với giọng điệu tự tin giống như khi truyền đạt một quyết định thực tế. Vì vậy không có dấu hiệu cảnh báo rõ ràng nào về ảo giác; Chỉ vì nó "có vẻ an toàn" không có nghĩa là nó đáng tin cậy.
Mối nguy hiểm thứ hai là tính kịp thời: dữ liệu huấn luyện của AI bị cắt vào một ngày nhất định. Người mẫu có thể không biết pháp luật đã thay đổi, các điều khoản bị bãi bỏ hoặc luật học mới sau ngày đó; Tuy nhiên, mô hình có thể hiển thị thông tin cũ/không chính xác như hiện tại.
Thận trọng: BỎ QUA số quyết định AI, số bài viết hoặc trích dẫn nếu nó chưa được xác minh từ nguồn chính. Không có phạm trù "có thể đúng"; Theo luật, tài liệu tham khảo đã được xác minh hoặc không thể sử dụng được.
Quy trình nghiên cứu an toàn
Cách sử dụng AI một cách an toàn trong nghiên cứu pháp lý là định vị nó như một “đối tác tư duy” chứ không phải là “máy trả lời”. Từng bước một:
- Đóng khung câu hỏi. Làm rõ sự kiện, câu hỏi pháp lý và lĩnh vực luật nào (kinh doanh, thương mại, nợ) bạn đang hỏi.
- Sử dụng AI làm công cụ tạo ý tưởng/khuôn khổ. Những lập luận, khái niệm có thể xem xét, quan điểm đối lập.
- Đừng yêu cầu tài liệu tham khảo cụ thể - hãy yêu cầu cụm từ tìm kiếm. Thay vì yêu cầu AI đưa ra con số quyết định, hãy yêu cầu các khái niệm và thuật ngữ chính mà bạn sẽ tìm kiếm trong cơ sở dữ liệu chính thức.
- Xác minh từng nguồn từ chính. Mọi mục/quyết định được đưa ra đều được xác nhận bằng văn bản pháp luật và quyết định chính thức.
- Kiểm tra tính cập nhật. Kiểm tra xem bài viết có hiệu lực hay không và nó có thay đổi hay không.
- Cái nhìn cuối cùng được tạo ra bởi con người. AI đưa ra những lập luận dự thảo; Ý kiến pháp lý và trách nhiệm thuộc về luật sư.
Vai trò của bạn: trợ lý nghiên cứu pháp lý. BẠN KHÔNG PHẢI là người có thẩm quyền cuối cùng. Chủ đề: [tóm tắt ngắn gọn về vụ việc và câu hỏi pháp lý]. Nên:1) Liệt kê các khái niệm pháp lý và các dòng lập luận có thể cần được xem xét để phân tích câu hỏi này.2) Đề xuất CÁC ĐIỀU KHOẢN và khái niệm CHÍNH mà tôi sẽ tìm kiếm trong cơ sở dữ liệu quyết định và luật chính thức (quyết định/số trích dẫn PHÙ HỢP).3) Đồng thời viết ra các lập luận có thể có của bên đối lập. Nếu bạn đưa ra một điều khoản luật hoặc số quyết định chính xác, hãy viết “ĐÃ XÁC MINH - xác nhận từ nguồn chính” bên cạnh nó. Nếu bạn không chắc chắn, hãy nói "Tôi không biết"; Đừng đoán.
Nếu AI vẫn tạo ra các phân bổ cụ thể thì cần phải xếp chúng vào hàng đợi xác minh. Làm cho AI tự nói “xác minh điều này” không phải là xác minh; Việc xác minh được thực hiện bởi con người, trên nguồn chính thức.
Dưới đây là những tài liệu tham khảo tôi định sử dụng trong dự thảo luận cứ của mình. Lập DANH SÁCH KIỂM TRA XÁC MINH cho từng mục: (a) cần tìm nguồn chính thức nào, (b) điều gì cần được xác nhận (tính hiệu quả của bài viết, sự tồn tại của quyết định và nội dung của nó), (c) phải làm gì nếu không thể xác minh được. KHÔNG cho rằng các phân bổ là chính xác; chỉ cho tôi cách xác minh.
Nhắc yếu / Nhắc mạnh
Lời nhắc yếu: Đưa ra các quyết định tiền lệ của Tòa án tối cao và các bài viết liên quan về chủ đề này cùng với số lượng của chúng.
Kết quả: các số quyết định và bài viết xuất hiện đúng định dạng, có lý lẽ thuyết phục nhưng có thể bịa đặt toàn bộ hoặc một phần. Sử dụng chúng mà không xác minh chúng là một sai lầm nghiêm trọng về mặt chuyên môn.
Lời nhắc mạnh mẽ: [vai trò trợ lý + "bạn không phải là người có thẩm quyền cuối cùng" + phân tích khái niệm/lập luận + cụm từ tìm kiếm thay vì số quyết định + thẻ "PHẢI XÁC MINH" + "nếu bạn không chắc chắn, hãy nói rằng tôi không biết" + danh sách kiểm tra xác minh riêng]
Kết quả: Hỗ trợ nghiên cứu giúp tăng tốc độ suy nghĩ của bạn nhưng không kéo bạn vào các tài liệu tham khảo bịa đặt và đưa mọi thông tin cụ thể vào hàng đợi để xác minh.
Nơi nào nên sử dụng AI và nơi nào không sử dụng nó
Nhiệm vụ
AI có phù hợp không?
tại sao
Tạo đối số/phản đối
Có (dự thảo)
Cung cấp sự đa dạng của ý tưởng
Đề xuất khái niệm và thuật ngữ tìm kiếm
Có
Tăng tốc nghiên cứu
Đơn giản hóa/tóm tắt văn bản
Có (có xác minh)
Dựa vào văn bản đã cho
Quyết định/số điều khoản cụ thể
Không (không cần xác minh)
Nguy cơ ảo giác cao
Phiên bản mới nhất của pháp luật hiện hành
Không (một mình)
Dữ liệu đào tạo có thể đã lỗi thời
Ý kiến pháp lý cuối cùng
không
Trách nhiệm và quyền hạn thuộc về con người
Ba hộp nhỏ
Trường hợp 1 - Quyết định gian lận. Một luật sư đã yêu cầu AI đưa ra "các quyết định tiền lệ" để hỗ trợ cho đơn khởi kiện và bổ sung 4 trong số 6 quyết định vào đơn khởi kiện mà không cần xác minh. Khi phía đối lập cho thấy không có quyết định nào tồn tại, luật sư vừa mất niềm tin vào vụ án, vừa phải đối mặt với quá trình xử lý kỷ luật. Sau đó, cơ quan này đã đưa ra chính sách bằng văn bản rằng "không được ghi công từ AI vào tệp mà không có xác minh từ nguồn chính"; quý tiếp theo, số lượng trích dẫn chưa được xác minh giảm xuống 0.
Trường hợp 2 - Bài viết bị bãi bỏ. Một chuyên gia tuân thủ chuẩn bị thiết lập một quy trình dựa trên một bài viết về quy định mà AI đã tham khảo. Trong quá trình kiểm tra cập nhật, anh nhận ra rằng bài viết đã được thay đổi cách đây một năm; Dữ liệu đào tạo của AI đã lỗi thời. Chuyên gia thiết lập quy trình theo văn bản hiện hành. Bài học: Thông tin quy định về AI chỉ là “ảnh chụp nhanh” và có thể đã lỗi thời.
Trường hợp 3 - Sử dụng đúng. Nhóm pháp lý chỉ sử dụng AI để tạo bản đồ lập luận và cụm từ tìm kiếm cho một câu hỏi phức tạp về luật cạnh tranh. AI đã đề xuất 9 khái niệm để xem xét và 4 lập luận phản biện có thể có; Nhóm đã tìm thấy và xác minh các quyết định thực tế về các điều khoản này trong cơ sở dữ liệu chính thức. Giai đoạn chuẩn bị khái niệm của nghiên cứu đã giảm đi một nửa; nhưng không có ghi công nào được sử dụng mà không có xác minh từ AI. Tốc độ đạt được, độ tin cậy được duy trì.
Những lỗi thường gặp
- Yêu cầu số quyết định/mục trực tiếp từ AI và sử dụng nó mà không cần xác minh. Đây là sai lầm phổ biến nhất và nghiêm trọng nhất.
- Tin tưởng, "Anh ấy có vẻ chắc chắn." Giọng điệu tự tin không phải là bằng chứng của sự trung thực.
- Bỏ qua việc kiểm tra độ tươi. Kiến thức pháp lý về AI đã bị đóng băng trong lịch sử giáo dục; có thể bỏ lỡ những thay đổi.
- Yêu cầu AI xác minh thuộc tính của nó. Nó không thể tự phát hiện lỗi mô hình một cách đáng tin cậy; Việc xác minh được thực hiện trên nguồn chính thức.
- Nhầm AI với quyền lực tối cao. AI là công cụ nghiên cứu sơ bộ; Ý kiến và trách nhiệm pháp lý thuộc về con người.
- Không lưu giữ nguồn gốc. Việc không ghi lại ghi công nào đã được xác minh từ đâu sẽ tạo ra lỗ hổng trong kiểm toán và bảo vệ.
Tóm lại
Trong nghiên cứu pháp lý, AI là một đối tác tư duy mạnh mẽ nhưng lại là một “cỗ máy trả lời” nguy hiểm. Rủi ro lớn nhất là ảo giác, tức là những phán đoán và quy kết bịa đặt; Thứ hai là tính kịp thời, tức là dữ liệu huấn luyện đã lỗi thời. Con đường an toàn rất rõ ràng: sử dụng AI để tạo đối số và cụm từ tìm kiếm, không bao giờ sử dụng tài liệu tham khảo cụ thể mà không xác minh, xác minh từng nguồn từ văn bản chính và để con người đưa ra ý kiến cuối cùng. AI tăng tốc nghiên cứu; Nguồn chính và chuyên gia có trình độ quyết định điều gì là thực và hợp lệ.
Nhiệm vụ ứng dụng
Chọn một câu hỏi pháp lý (thực tế hoặc ví dụ). (1) Nhận bản đồ khái niệm, cụm từ tìm kiếm và lập luận phản biện từ AI với lời nhắc nghiên cứu an toàn; Xác minh rằng nó không cung cấp số quyết định. (2) Nếu AI vẫn đưa ra một mục/quyết định, hãy đặt nó vào hàng đợi xác thực với lời nhắc danh sách kiểm tra xác thực. (3) Xác nhận nguồn xác thực bằng cách tìm kiếm nguồn chính thức với ít nhất ba cụm từ tìm kiếm được đề xuất. (4) Viết quy tắc "Không sử dụng phân bổ từ AI mà không xác minh" vào quy trình làm việc của riêng bạn.
danh sách kiểm tra
- [ ] AI có được định vị là trợ lý nghiên cứu hơn là cơ quan có thẩm quyền tối cao không?
- [ ] Một khái niệm và thuật ngữ tìm kiếm có được yêu cầu thay vì một tài liệu tham khảo cụ thể không?
- [ ] Có phải mọi mục/quyết định mà AI đưa ra đều được đánh dấu là "PHẢI ĐƯỢC XÁC MINH" không?
- [ ] Mỗi trích dẫn đã được xác minh từ nguồn chính (chính thức) chưa?
- [ ] Các bài viết đã được kiểm tra tính tiền tệ/hiệu lực chưa?
- [ ] Ý kiến pháp lý cuối cùng có phải do con người đưa ra không?
- [ ] Các nguồn xác minh và dấu vết có được ghi lại không?