Nyereség:
- Képes jogi kérdést kutatható keretté alakítani, és előzetes kutatást végezni mesterséges intelligencia segítségével
- Képes felismerni a koholt joggyakorlat/idézet (hallucináció) kockázatát, és minden forrást ellenőrizni az elsődleges szövegből
- Képesség olyan munkafolyamat létrehozására, amely az AI-t használja ötletgenerátorként, és a végső jogkört a hivatalos forrásokra bízza
Ez az egység hordozza a teljes modul legkritikusabb figyelmeztetését. A mesterséges intelligencia (AI) gördülékeny, meggyőző és rendkívül magabiztos választ adhat egy jogi kérdésre; A probléma az, hogy ez a válasz nem létező jogszabályon, koholt bírósági határozaton vagy hamis hivatkozáson alapulhat. Ezt nevezik hallucinációnak: amikor a modell valósnak tűnő, de valójában kitalált információt produkál. Vannak olyan incidensek a világon, amikor az ügyvédek a mesterséges intelligencia által hozott hamis döntéseket valóságosnak gondolva bemutatják a bíróságnak, és pénzbírsággal, hírnévvesztéssel és fegyelmi szankciókkal sújtják. Ezért van ennek az egységnek egy vasszabálya: az AI előzetes kutatást végez; Mindig a végső tekintély az elsődleges forrás.
Tisztázzuk a feltételeket. Az ítélkezési gyakorlat a bíróságok által hasonló ügyekben hozott határozatok, amelyek irányadónak minősülnek. Az elsődleges forrás a törvény tényleges szövege: a hatályos törvény/rendelet szövege és a hatósági határozat szövege (pl. Hivatalos Közlöny, maga a bíróság által közzétett határozat). A másodlagos források a hozzájuk írt cikkek, kommentárok és megjegyzések. Az idézet hivatalos hivatkozás egy határozatra vagy cikkre (határozatszám, cikkszám). Az ellenőrzés az a folyamat, amely során az AI által az elsődleges forrásból megadott minden egyes hozzárendelést ellenőriznek.
Miért olyan veszélyes?
Az AI egy nyelvi előrejelző gép, nem egy „tényadatbázis”. Megtanulta, hogyan néz ki egy döntési szám, hogyan kell indoklást írni; Ezért a megfelelő formátumban és meggyőző indoklással olyan döntést tud "produkálni", amely valójában nem létezik. És ezt ugyanolyan magabiztos hangnemben teszi, mint a tényleges döntés közvetítésekor. Tehát nincsenek látható figyelmeztető jelei a hallucinációnak; Csak azért, mert "biztonságosnak tűnik", még nem jelenti azt, hogy megbízható.
A második veszély az időszerűség: a mesterséges intelligencia képzési adatai egy bizonyos dátumig leállnak. Előfordulhat, hogy a modell ezen időpont után nem tud megváltozott jogszabályokról, eltörölt cikkekről vagy új joggyakorlatról; A modell azonban régi/helytelen információkat jeleníthet meg aktuálisként.
Figyelmeztetés: HAGYJA EL figyelmen kívül a mesterséges intelligencia határozatszámát, cikkszámát vagy idézetét, ha azt nem ellenőrizték az elsődleges forrásból. A "valószínűleg igaz" kategóriája nincs; Jogilag a hivatkozás vagy igazolt, vagy használhatatlan.
Biztonságos kutatási munkafolyamat
A mesterséges intelligencia biztonságos használatának módja a jogi kutatásban az, hogy „gondolkodó partnerként” helyezzük el, nem pedig „üzenetrögzítőként”. Lépésről lépésre:
- Fogalmazd meg a kérdést. Tisztázza az eseményt, a jogi kérdést és azt, hogy melyik jogterületet (üzleti, kereskedelmi, tartozások) kérdezi.
- Használja az AI-t ötlet/keretgenerátorként. Lehetséges érvek, megnézendő fogalmak, ellentétes nézetek.
- Ne kérjen konkrét referenciákat – kérjen keresett kifejezést. Ahelyett, hogy megkérné az AI-t, hogy döntsön számot, kérjen olyan kulcsfogalmakat és kifejezéseket, amelyekre keresni fog a hivatalos adatbázisban.
- Ellenőrizze az egyes forrásokat az elsődleges forrásból. Minden meghozott tételt/határozatot a hivatalos jogszabály és határozat szövege igazol.
- Ellenőrizze a naprakészséget. Ellenőrizze, hogy a cikk érvényben van-e, és hogy változott-e.
- A végső nézetet az emberek alkotják. A mesterséges intelligencia érvvázlatokat állít elő; A jogi vélemény és a felelősség az ügyvédet illeti.
Az Ön feladata: jogi kutatási asszisztens. NEM TE VAGY a végső hatóság. Téma: [az ügy és a jogi kérdés rövid összefoglalása]. Tedd meg: 1) Sorolja fel azokat a jogi fogalmakat és lehetséges érvrendszereket, amelyeket érdemes megvizsgálni a kérdés elemzéséhez.2) Javasoljon KULCSKIFEJEZÉSEKET és fogalmakat, amelyeket keresni fogok a hivatalos jogszabályokban és határozati adatbázisokban (a határozat/idézetszám TELJESÍTÉS).3) Írja le a cikket vagy a lehetséges jogi érveket is. határozatszámot, írja mellé az „ELLENŐRZETT — megerősítés az elsődleges forrásból” szöveget. Ha nem biztos benne, mondja azt, hogy „nem tudom”; Ne találgass.
Ha a mesterséges intelligencia továbbra is konkrét attribútumokat állít elő, akkor azokat egy ellenőrzési sorba kell helyezni. Ha a mesterséges intelligencia azt mondja, hogy „ellenőrizd ezt”, az nem ellenőrzés; Az ellenőrzést emberek végzik, a hivatalos forrásból.
Az alábbiakban felsoroljuk azokat a hivatkozásokat, amelyeket az érveléstervezetemben használni kívánok. Mindegyikhez készítsen ELLENŐRZÉSI ELLENŐRZŐ LISTÁT: (a) milyen hivatalos forrást kell keresni, (b) mit kell megerősíteni (a cikk érvényessége, a határozat megléte és tárgya), (c) mi a teendő, ha nem ellenőrizhető. NE feltételezze, hogy az attribúciók helyesek; csak mondja meg, hogyan kell ellenőrizni.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: Adja meg a Legfelsőbb Bíróság korábbi határozatait és a vonatkozó cikkeket ebben a témában a számokkal együtt.
Eredmény: megfelelő formátumban, meggyőző indoklással megjelenő, de részben vagy egészben kitalált határozatszámok és cikkek. Használatuk ellenőrzésük nélkül súlyos szakmai hiba.
Hatékony felszólítás: [asszisztens szerepkör + "nem te vagy a végső hatóság" + fogalom/érvelemzés + keresési kifejezés a határozat száma helyett + "ELLENŐRZÉS" címke + "ha nem biztos benne, mondd, hogy nem tudom" + külön ellenőrző lista]
Eredmény: Olyan kutatási támogatás, amely felgyorsítja a gondolkodást, de nem rángat bele koholt hivatkozásokba, és minden konkrét információt az ellenőrzési sorba állít.
Hol használjuk az AI-t és hol ne használjuk
Quest
Alkalmas az AI?
Miért
Érv/ellenérv generálása
Igen (tervezet)
Sokféle ötletet biztosít
Fogalmak és keresőkifejezések javaslata
Igen
Felgyorsítja a kutatást
Szöveg egyszerűsítése/összefoglalása
Igen (ellenőrzéssel)
A megadott szöveg alapján
Konkrét határozat/cikkszám
Nem (ellenőrzés nélkül)
A hallucinációk magas kockázata
A hatályos jogszabályok legújabb változata
Nem (egyedül)
Előfordulhat, hogy a képzési adatok elavultak
Végső jogi vélemény
nem
A felelősség és a hatalom az embereké
Három mini tok
1. eset – Csalárd határozatok. Egy ügyvéd "precedens döntéseket" kért az AI-tól egy petíció alátámasztására, és a 6 határozat közül 4-et ellenőrzés nélkül csatolt a petícióhoz. Amikor az ellenfél kimutatta, hogy egyik határozat sem létezik, az ügyvéd elvesztette az ügyben vetett bizalmát, és fegyelmi eljárással kellett szembenéznie. Ezt követően az iroda írásos szabályzatot fogalmazott meg, amely szerint "az MI-től származó forrás nem kerül be a fájlba az elsődleges forrás ellenőrzése nélkül"; a következő negyedévben az ellenőrizetlen hivatkozások száma nullára csökkent.
2. eset – Hatályon kívül helyezett cikk. Egy megfelelőségi szakértő egy folyamatot készült felállítani egy szabályozási cikk alapján, amelyre az AI hivatkozott. A frissítési ellenőrzés során rájött, hogy a cikket egy éve megváltoztatták; Az AI képzési adatai elavultak. A szakértő a folyamatot a jelenlegi szöveg szerint állította fel. Tanulság: Az AI szabályozási információk „pillanatfelvételek”, és elavultak lehetnek.
3. eset – Rendeltetésszerű használat. Egy jogi csapat kizárólag az MI-t használta arra, hogy érvtérképet és keresőkifejezést generáljon egy összetett versenyjogi kérdésben. A mesterséges intelligencia 9 koncepciót és 4 lehetséges ellenérvet javasolt; A csapat megtalálta és ellenőrizte a tényleges döntéseket ezekben a feltételekben a hivatalos adatbázisban. A kutatás koncepcionális előkészítési szakasza felére csökkent; de nem használtak hozzárendelést az AI ellenőrzése nélkül. Növelt sebesség, megőrzött megbízhatóság.
Gyakori hibák
- A döntés/tétel számának közvetlenül az MI-től való elkérése és ellenőrzés nélküli felhasználása. Ez a leggyakoribb és legsúlyosabb hiba.
- Bízva: "Biztosnak tűnik." A magabiztos hangnem nem az igazmondás bizonyítéka.
- A frissesség-ellenőrzés megkerülése. Az MI szabályozási ismeretei befagytak az oktatás történetébe; elmaradhatnak a változások.
- Kérje meg az AI-t, hogy ellenőrizze a hozzárendelését. A modellhibát önmagában nem tudja megbízhatóan észlelni; Az ellenőrzés a hivatalos forráson történik.
- Az AI összetévesztése a végső tekintéllyel. Az AI egy előzetes kutatási eszköz; A jogi vélemény és felelősség az embert terheli.
- Nem tartja nyomon a forrást. Ha nem rögzíti, hogy melyik hozzárendelést honnan ellenőrizték, az rést okoz az ellenőrzésben és a védekezésben.
Összefoglalva
A jogi kutatásban az AI egy erőteljes gondolkodó partner, de veszélyes „üzenetrögzítő”. A legnagyobb kockázatot a hallucinációk jelentik, vagyis a koholt ítéletek és tulajdonítások; A második az időszerűség, vagyis a képzési adatok elavultak. A biztonságos út egyértelmű: használja az AI-t érvek és keresőkifejezések generálására, soha ne használjon konkrét hivatkozásokat ellenőrzés nélkül, ellenőrizze az egyes forrásokat az elsődleges szövegből, és hagyja, hogy az ember alakítsa ki a végső véleményt. A mesterséges intelligencia felgyorsítja a kutatást; Az elsődleges forrás és a képzett szakember dönti el, hogy mi a valós és érvényes.
Pályázati feladat
Válasszon jogi kérdést (tény vagy példa). (1) Fogalomtérképet, keresési kifejezéseket és ellenérveket kaphat az AI-tól biztonságos kutatási utasítással; Ellenőrizze, hogy nem ad-e meg határozati számot. (2) Ha a mesterséges intelligencia még mindig hozott egy tételt/döntést, helyezze azt egy érvényesítési sorba az érvényesítési ellenőrzőlista prompt segítségével. (3) Erősítse meg a hiteles forrást egy hivatalos forrásban a javasolt keresési kifejezések közül legalább hárommal. (4) Írja be a saját munkafolyamatába a „Nem használunk AI-tól származó attribútumot ellenőrzés nélkül” szabályt.
ellenőrző lista
- [ ] A mesterséges intelligencia kutatási asszisztens, nem pedig a végső tekintély?
- [ ] Konkrét hivatkozás helyett fogalmat és keresőkifejezést kértek?
- [ ] Minden, a mesterséges intelligencia által hozott elem/döntés „ELLENŐRZNI KELL” megjelöléssel?
- [ ] Minden idézetet ellenőriztek az elsődleges (hivatalos) forrásból?
- [ ] Ellenőrizték a cikkek pénznemét/érvényességét?
- [ ] A végső jogi véleményt ember készítette?
- [ ] Rögzítik az ellenőrzési forrásokat és a nyomokat?