سود:
- امکان تبدیل یک سوال حقوقی به یک چارچوب قابل تحقیق و انجام تحقیقات مقدماتی با هوش مصنوعی
- توانایی تشخیص خطر فقه/استناد ساختگی (توهم) و تایید هر منبع از متن اولیه
- امکان ایجاد یک گردش کاری که از هوش مصنوعی به عنوان ایده پرداز استفاده می کند و اختیار نهایی را به منابع رسمی واگذار می کند
این واحد دارای مهمترین هشدار کل ماژول است. هوش مصنوعی (AI) می تواند پاسخی روان، قانع کننده و بسیار مطمئن به یک سوال حقوقی ارائه دهد. مشکل این است که این پاسخ ممکن است بر اساس یک اساسنامه غیرموجود، تصمیم ساختگی دادگاه یا یک مرجع نادرست باشد. این توهم نامیده می شود: زمانی که مدل اطلاعاتی را تولید می کند که واقعی به نظر می رسد اما در واقع ساخته شده است. حوادثی در دنیا وجود دارد که وکلا تصمیمات جعلی اتخاذ شده توسط هوش مصنوعی را به دادگاه ارائه می دهند و فکر می کنند واقعی هستند و با جریمه، از دست دادن شهرت و مجازات های انضباطی روبرو می شوند. به همین دلیل است که این واحد یک قانون آهنین دارد: هوش مصنوعی تحقیقات اولیه را انجام می دهد. اقتدار نهایی همیشه منبع اولیه است.
بیایید شرایط را روشن کنیم. رویه قضایی تصمیماتی است که دادگاه در موارد مشابه صادر می کند و راهنما محسوب می شود. منبع اصلی متن واقعی قانون است: متن قانون/آیین نامه در حال اجرا و متن تصمیم رسمی (به عنوان مثال روزنامه رسمی، تصمیم منتشر شده توسط خود دادگاه). منابع ثانویه مقالات، تفسیرها و نظراتی هستند که روی آنها نوشته شده است. استناد یک ارجاع رسمی به یک تصمیم یا مقاله (شماره تصمیم، شماره مقاله) است. راستیآزمایی فرآیند تأیید هر انتساب دادهشده توسط هوش مصنوعی از خود منبع اصلی است.
چرا اینقدر خطرناک است؟
هوش مصنوعی یک ماشین پیشبینی زبان است، نه یک «بانک اطلاعاتی از حقایق». او یاد گرفته است که یک عدد تصمیم چگونه است، چگونه یک استدلال بنویسد. بنابراین، می تواند تصمیمی را «تولید» کند که در واقع وجود ندارد، در قالب درست و با توجیهی قانع کننده. و او این کار را با همان لحن مطمئنی که هنگام انتقال یک تصمیم واقعی استفاده می کند، انجام می دهد. بنابراین هیچ علامت هشدار دهنده آشکاری از توهم وجود ندارد. فقط به این دلیل که "ایمن به نظر می رسد" به این معنی نیست که قابل اعتماد است.
دومین خطر، به موقع بودن است: داده های آموزشی هوش مصنوعی در تاریخ مشخصی قطع می شود. مدل ممکن است از تغییر قوانین، مواد لغو شده یا رویه قضایی جدید پس از آن تاریخ مطلع نباشد. با این حال، مدل ممکن است اطلاعات قدیمی/نادرست را به عنوان فعلی ارائه دهد.
احتیاط: اگر از منبع اصلی تأیید نشده است، شماره تصمیم هوش مصنوعی، شماره مقاله یا نقل قول را نادیده بگیرید. هیچ دسته ای از "احتمالا درست" وجود ندارد. در قانون، مرجع یا تأیید شده یا غیرقابل استفاده است.
گردش کار تحقیق ایمن
راه برای استفاده ایمن از هوش مصنوعی در تحقیقات حقوقی این است که آن را به عنوان یک "همکار متفکر" به جای "ماشین پاسخگویی" قرار دهید. گام به گام:
- سوال را چارچوب بندی کنید. رویداد، سوال حقوقی و اینکه کدام حوزه حقوقی (تجارت، تجاری، بدهی) را می پرسید را روشن کنید.
- از هوش مصنوعی به عنوان تولید کننده ایده/چارچوب استفاده کنید. استدلال های احتمالی، مفاهیمی که باید به آنها نگاه کرد، دیدگاه های مخالف.
- مراجع مشخص نپرسید - یک عبارت جستجو بخواهید. به جای اینکه از هوش مصنوعی بخواهید یک شماره تصمیم گیری کند، مفاهیم و اصطلاحات کلیدی را بخواهید که در پایگاه داده رسمی جستجو خواهید کرد.
- هر منبع را از منبع اصلی تأیید کنید. هر مورد/تصمیم گرفته شده توسط قانون رسمی و متن تصمیم تایید می شود.
- به روز بودن را بررسی کنید. بررسی کنید که آیا مقاله در حال اجرا است و آیا تغییر کرده است.
- نمای نهایی توسط انسان ایجاد می شود. هوش مصنوعی آرگومان های پیش نویس را تولید می کند. نظر حقوقی و مسئولیت بر عهده وکیل است.
نقش شما: یک دستیار پژوهشی حقوقی. شما مرجع نهایی نیستید. موضوع: [خلاصه مختصر پرونده و سؤال حقوقی]. انجام دهید: 1) مفاهیم حقوقی و خطوط احتمالی استدلالی را که برای تجزیه و تحلیل این سؤال باید مورد بررسی قرار گیرند، فهرست کنید. 2) اصطلاحات و مفاهیم کلیدی را پیشنهاد کنید که در پایگاههای اطلاعاتی قوانین و تصمیمات رسمی جستجو خواهم کرد (تصمیم/شماره استناد. شماره تصمیم، "تأیید شده - تایید از منبع اصلی" را در کنار آن بنویسید. اگر مطمئن نیستید، بگویید "نمی دانم"؛ حدس نزن
اگر هوش مصنوعی همچنان اسناد مشخصی را تولید می کند، لازم است آنها را در یک صف تأیید قرار دهید. اینکه خود هوش مصنوعی بگوید «این را تأیید کنید» تأیید نیست. تأیید توسط انسان، در منبع رسمی انجام می شود.
در زیر منابعی وجود دارد که من قصد دارم در پیش نویس استدلال خود استفاده کنم. برای هرکدام فهرست تأیید صحت تهیه کنید: (الف) چه منبع رسمی باید جستجو شود، (ب) چه چیزی باید تأیید شود (اثربخشی مقاله، وجود تصمیم و موضوع آن)، (ج) اگر تأیید نشد چه باید کرد. انتساب ها را صحیح فرض نکنید. فقط به من بگویید چگونه تأیید کنم
اعلان ضعیف / اعلان قوی
اعلان ضعیف: تصمیمات پیشین دیوان عالی کشور و مقالات مرتبط در این زمینه را با شماره آنها ارائه دهید.
نتیجه: اعداد تصمیمگیری و مقالههایی که در قالب درست و با استدلال قانعکننده ظاهر میشوند، اما ممکن است به طور کامل یا جزئی ساختگی باشند. استفاده از آنها بدون تایید آنها یک اشتباه حرفه ای جدی است.
پیام قدرتمند: [نقش دستیار + "شما مرجع نهایی نیستید" + تجزیه و تحلیل مفهوم/استدلال + عبارت جستجو به جای شماره تصمیم + برچسب "MUST VERIFY" + "اگر مطمئن نیستید، بگویید من نمی دانم" + چک لیست تأیید جداگانه]
نتیجه: یک پشتیبانی تحقیقاتی که سرعت تفکر شما را افزایش میدهد اما شما را به منابع ساختگی نمیکشاند و هر اطلاعات مشخصی را در صف تأیید قرار میدهد.
کجا از هوش مصنوعی استفاده کنیم و کجا از آن استفاده نکنیم
تلاش
آیا هوش مصنوعی مناسب است؟
چرا
تولید استدلال/برهان متقابل
بله (پیش نویس)
تنوع ایده ها را فراهم می کند
پیشنهاد مفاهیم و عبارات جستجو
بله
سرعت تحقیق را افزایش می دهد
ساده/خلاصه کردن متن
بله (با تایید)
بر اساس متن داده شده
تصمیم مشخص/شماره مقاله
خیر (بدون تایید)
خطر بالای توهم
آخرین نسخه قانون فعلی
نه (به تنهایی)
ممکن است داده های آموزشی قدیمی باشد
نظر حقوقی نهایی
نه
مسئولیت و اختیار متعلق به مردم است
سه کیف کوچک
مورد 1 - تصمیمات متقلبانه. یک وکیل از هوش مصنوعی درخواست "تصمیمات سابقه ای" در حمایت از یک دادخواست کرد و 4 تصمیم از 6 تصمیم را بدون تأیید به دادخواست اضافه کرد. وقتی طرف مقابل نشان داد که هیچ یک از تصمیمات وجود ندارد، وکیل هم اعتماد خود را به پرونده از دست داد و هم با روند انضباطی روبرو شد. متعاقباً، دفتر سیاست مکتوبی را تعیین کرد که "هیچ انتسابی از هوش مصنوعی بدون تأیید منبع اصلی وارد پرونده نمی شود". در سه ماهه بعد، تعداد استنادهای تایید نشده به صفر رسید.
مورد 2 - ماده لغو شده. یک کارشناس انطباق در شرف ایجاد فرآیندی بر اساس یک ماده قانونی بود که هوش مصنوعی به آن اشاره کرده بود. در طول بررسی به روز رسانی، او متوجه شد که مقاله یک سال پیش تغییر کرده است. داده های آموزشی هوش مصنوعی قدیمی بود. کارشناس فرآیند را مطابق متن فعلی تنظیم کرد. درس: اطلاعات نظارتی هوش مصنوعی یک "عکس فوری" است و ممکن است قدیمی باشد.
مورد 3 - استفاده صحیح. یک تیم حقوقی از هوش مصنوعی صرفا برای ایجاد نقشه استدلال و عبارت جستجو در مورد یک سوال پیچیده قانون رقابت استفاده کردند. هوش مصنوعی 9 مفهوم را برای بررسی و 4 استدلال ممکن پیشنهاد کرد. این تیم تصمیمات واقعی را در این شرایط در پایگاه داده رسمی پیدا و تأیید کرد. مرحله آماده سازی مفهومی تحقیق به نصف کاهش یافت. اما هیچ انتسابی بدون تأیید از هوش مصنوعی استفاده نشد. سرعت به دست آمده، قابلیت اطمینان حفظ شده است.
اشتباهات رایج
- درخواست شماره تصمیم/مورد مستقیماً از هوش مصنوعی و استفاده از آن بدون تأیید. این رایج ترین و جدی ترین اشتباه است.
- با اعتماد، "او مطمئن به نظر می رسد." لحن مطمئن دلیلی بر صداقت نیست.
- دور زدن بررسی تازگی دانش نظارتی هوش مصنوعی در تاریخ آموزش منجمد شده است. ممکن است تغییرات را از دست بدهد.
- از هوش مصنوعی بخواهید انتساب خود را تأیید کند. نمی تواند به تنهایی خطای مدل را به طور قابل اعتماد تشخیص دهد. تایید در منبع رسمی انجام می شود.
- اشتباه گرفتن هوش مصنوعی با قدرت نهایی. هوش مصنوعی یک ابزار تحقیقاتی اولیه است. نظر حقوقی و مسئولیت بر عهده انسان است.
- عدم حفظ ردی از منبع عدم ثبت انتساب از کجا تأیید شده است، شکافی در حسابرسی و دفاع ایجاد می کند.
به طور خلاصه
در تحقیقات حقوقی، هوش مصنوعی یک شریک متفکر قدرتمند اما یک «ماشین پاسخگویی» خطرناک است. بزرگترین خطر توهمات است، یعنی قضاوت ها و اسناد ساختگی. دوم به موقع بودن، یعنی داده های آموزشی قدیمی است. مسیر امن روشن است: از هوش مصنوعی برای تولید استدلال و عبارات جستجو استفاده کنید، هرگز از ارجاعات مشخص بدون تأیید استفاده نکنید، هر منبع را از متن اصلی تأیید کنید، و اجازه دهید انسان نظر نهایی را شکل دهد. هوش مصنوعی تحقیق را تسریع می کند. منبع اصلی و متخصص واجد شرایط تصمیم می گیرند که چه چیزی واقعی و معتبر است.
وظیفه کاربردی
یک سوال حقوقی (واقعی یا مثال) را انتخاب کنید. (1) نقشه مفهومی، عبارات جستجو و استدلال های متقابل را از هوش مصنوعی با اعلان تحقیق ایمن دریافت کنید. بررسی کنید که شماره تصمیم را ارائه نمی کند. (2) اگر AI هنوز یک مورد/تصمیم گرفته است، آن را در یک صف تأیید اعتبار با درخواست چک لیست اعتبار سنجی قرار دهید. (3) با جستجوی یک منبع رسمی با حداقل سه مورد از عبارت های جستجوی پیشنهادی، یک منبع معتبر را تأیید کنید. (4) قانون "هیچ انتساب از هوش مصنوعی بدون تایید استفاده نمی شود" را در گردش کار خود بنویسید.
چک لیست
- [ ] آیا هوش مصنوعی بهعنوان دستیار پژوهشی به جای مرجع نهایی قرار میگیرد؟
- [ ] آیا یک مفهوم و عبارت جستجو به جای یک مرجع مشخص درخواست شد؟
- [ ] آیا هر مورد/تصمیمی که هوش مصنوعی می گیرد دارای علامت «باید تأیید شود» است؟
- [ ] آیا هر نقل قول از منبع اصلی (رسمی) تأیید شده است؟
- [ ] آیا مقالات برای ارز/اعتبار بررسی شده اند؟
- [ ] آیا نظر حقوقی نهایی توسط یک انسان ایجاد شده است؟
- [ ] آیا منابع تأیید و ردیابی ثبت شده است؟