Pelnas:
- Supranta, kad modelis gali sukelti haliucinacijas ir kad kiekvienas rezultatas turi būti patikrintas
- Žino riziką ir saugias alternatyvas, susijusias su konfidencialių ir asmens duomenų pateikimu skubiai
- Taiko etikos, autorių teisių ir atsakomybės apribojimus naudojant dirbtinį intelektą
Neužtenka išmokti rašyti raginimus; Taip pat būtina išmokti atsakingai naudotis dirbtiniu intelektu. Šis įrenginys yra saugumo sluoksnis, kuris turi būti aukščiau techninių įgūdžių. AI pateikia greitus, įtikinamus ir dažnai tikslius atsakymus; Tačiau kartais ji pateikia visiškai klaidingą informaciją su tokiu pat pasitikėjimu, gali kelti pavojų jautriems duomenims ir peržengti etikos ribas. Šiame skyriuje aptarsime produkcijos patikrinimą, modelio apribojimus, konfidencialumą ir etinę atsakomybę. Be šių žinių visos kitos technikos lieka neišsamios.
Haliucinacijos: modelio pritaikymas
Haliucinacija yra tada, kai modelis pateikia nerealią informaciją pasitikinčia kalba. To pavyzdžiai yra neegzistuojantis šaltinis, neteisinga data, išgalvota statistika arba įstatymas, kuris niekada nebuvo parašytas. Kodėl taip atsitinka? Nes modelis sukurtas ne „žinoti tiesą“, o „sugeneruoti galimą tęsinį“ (prisiminkime logiką pirmame bloke). Vien todėl, kad sakinys yra gramatiškai įmanomas, dar nereiškia, kad jis yra tikras.
Praktinė to reikšmė yra aiški: kiekvienas AI sukurtas faktas yra teiginys, o ne faktas, kol nepatvirtinama nepriklausomai. Visų pirma visada patikrinkite:
- Skaičiai ir statistika
- Vardai, datos, vietovardžiai
- Citatos ir šaltinių nuorodos
- Teisinės sąlygos, techniniai standartai, medicininė/finansinė informacija
Patvirtinimo įprotis
Galite sumažinti, bet ne iš naujo nustatyti patvirtinimą, naudodami greitą metodą. Darbas dviem sluoksniais:
- Raginimo sluoksnis: nurodykite modelio apribojimus, pvz., „pasikliaukite tik mano pateiktu šaltiniu, nepridėkite informacijos, kurios nėra, parašykite „nežinau“, jei nesate tikri, parodykite kiekvieno teiginio šaltinį. Tai sumažina pritaikymą.
- Žmogiškasis sluoksnis: kiekvieną kritinį faktą patikrinkite patys iš šaltinio. Šis žingsnis yra nediskutuojamas; Tai ypač privaloma turiniui, kuris bus publikuojamas, bus sprendimų pagrindas arba turės įtakos kitiems.
Ribos: ko modelis neveikia gerai
plotas
Rizika
teisingas požiūris
dabartiniai įvykiai
Treniruočių duomenys gali būti pasenę
Patvirtinkite iš datos / dabartinio šaltinio
tikslius skaičius
Yra didelė montavimo tikimybė
Patikrinkite naudodami skaičiuotuvą / šaltinį
Teisinė/medicininė/finansinė
Rimtos žalos pavojus
Pasikonsultuokite su tikru ekspertu, nepasikliaukite vien juo
Šaltinis/citata
Gali gaminti neegzistuojančius išteklius
Pats patikrinkite šaltinio autentiškumą
Reta/nišinė tema
Paviršutiniškas arba netikslus
Palyginkite su ekspertų žiniomis
Modelis yra asistentas, o ne galutinis autoritetas. Atsakomybė visada tenka juo besinaudojančiam asmeniui.
Privatumas ir asmens duomenys
Tekstui, kurį įvedėte į viešąjį AI įrankį, taikoma to įrankio apdorojimo politika ir jūsų organizacija jo gali nekontroliuoti. Todėl negalvojant įvesti konfidencialius ir asmeninius duomenis yra rimta rizika. Asmens duomenų tvarkymą Turkijoje reglamentuoja KVKK (asmens duomenų apsaugos įstatymas); Įstaigos taip pat dažnai turi savo duomenų politiką.
Saugūs darbo būdai:
- Anonimizuoti / maskuoti: vietoj tikro vardo parašykite „klientas“, vietoj tikrojo numerio – „[sąskaitos numeris]“. Dažniausiai pasiteisins pasakymas „3 metų verslo klientas“.
- Naudokite institucijos patvirtintą įrankį: kai kurios institucijos siūlo sutartinius / institucijos įrankius, kurie nenuleidžia duomenų. Apdorokite neskelbtinus duomenis tik apie juos.
- Neatiduokite to, ko nereikia: neįtraukite jokios jautrios informacijos, kuri iš tikrųjų nėra svarbi užduočiai atlikti.
- Žinokite politiką: išmokite ir laikykitės savo organizacijos dirbtinio intelekto naudojimo taisyklių.
Etika ir autorių teisės
Atsakingas naudojimas nesibaigia privatumu. Trys principai:
- Skaidrumas: tinkamai kredituokite dirbtinio intelekto sukurtą turinį, jei to reikalauja kontekstas (pavyzdžiui, kai tikimasi žmogaus darbo). Venkite apgaulingo naudojimo.
- Autorių teisės ir originalumas: modelio produkcija gali būti panaši į kitus kūrinius. Prieš naudojimą komerciniais tikslais peržiūrėti originalumą ir teisių statusą; Nemėgdžiokite kažkieno prekės ženklo/darbo.
- Nepiktybinis: nenaudokite kurdami klaidinančio, diskriminuojančio, manipuliuojančio ar nukreipto turinio. Įrankio galia padidina atsakomybę.
Keturi kopijuojami šablonai
1) Apribojimų ribojimas:
Tiesiog pasikliaukite toliau pateiktu šaltiniu. Nepridėkite jokios informacijos, kurios nėra šaltinyje. Ten, kur nesate tikri, parašykite „ne šaltinyje“. Prie kiekvieno svarbaus teiginio nurodykite eilutę, kuria ji grindžiama. Šaltinis: [tekstas]
2) Ištraukite patvirtinimo sąrašą:
Žemiau esančiame tekste išvardykite visus faktus (numeris, data, vardas, pavardė, pretenzija), kuriuos reikia patikrinti. Trumpai pasiūlykite, kaip galiu patikrinti kiekvieną. Tekstas: [išvestis]
3) Anonimizavimas:
Užmaskuokite visus asmeninius / konfidencialius duomenis šiame tekste: pavardės [ASMENAS], įmonė [ĮMONĖ], numeriai [NUMERIS]. Pateikite anoniminę versiją, nepažeisdami reikšmės. Tekstas: [tekstas]
4) Etinė peržiūra:
Prieš paskelbdami šį turinį etiškai įvertinkite: ar jis klaidinantis, diskriminuojantis ar nesąžiningas? Jei taip, pažymėkite ir pasiūlykite pataisymus. Turinys: [tekstas]
Silpnas raginimas / stiprus raginimas
Silpnas (rizikingas):
Raskite problemas Ahmet Yılmaz (TC: ...) sutartyje ir palyginkite jas su pramonės vidurkiais.
Stiprus (saugus):
Žemiau esančiame sutarties tekste raskite rizikingas sąlygas. - Asmens duomenų naudojimas; Tegul šalys vadinamos [ĮMONĖ-A] ir [ASMENS].- Pasikliaukite tik tuo, kas parašyta tekste; Sudarytas pramonės vidurkis, parašykite "duomenys nepasiekiami".- Parodykite kiekvieną riziką su jos elementu.Tekstas (anonimiškas): [tekstas]
Galinga versija apsaugo asmeninius duomenis ir blokuoja netikrus pramonės duomenis; Išvestis paruošta peržiūrėti teisininkų komandai.
Trys mini dėklai
1 atvejis – pagamintas šaltinis. Tyrėjas į pristatymą įdėjo 3 modelio pateiktus „akademinius šaltinius“, jų nepatikrinęs; Du iš šaltinių apskritai nebuvo prieinami. Kolega tai pastebėjo prieš pristatymą. Vėliau komanda priėmė taisyklę „prieš paskelbdami kiekvieną šaltinį suraskite ir atidarykite asmeniškai“.
2 atvejis – Konfidencialumas. Darbuotojas įklijavo nepažeistą faktinę kliento sutartį į viešą įrankį ir paprašė jos santraukos. Įstaigos informacijos saugos komandai tai nustačius, procesas buvo peržiūrėtas; Jautrūs dokumentai dabar tvarkomi tik įstaigos patvirtintame įmonės įrankyje ir yra anonimiški.
3 atvejis. Atsakomybė už sprendimą. Smulkaus verslo savininkas ketino imtis veiksmų, remdamasis modelio pateiktu mokesčių aiškinimu; Komentaras neatitiko galiojančių teisės aktų. Klaida pastebėta pasikonsultavus su savo finansų patarėju. Pamoka aiški: AI ruošiasi, sprendžia ekspertas ir žmogus.
Patarimas: įpraskite faktą pažymėti kaip „nepatvirtintą“. Pažymėkite varnelę prie kiekvieno numerio ir šaltinio išvestyje, kol jį patvirtinsite; Ši paprasta disciplina neleidžia tyliai sklisti klaidingai informacijai.
Atsargiai: „AI taip pasakė“ nėra pasiteisinimas. Jūs esate atsakingi už bet kokį turinį, kurį skelbiate, siunčiate arba kuriate savo sprendimus. Transporto priemonės greitis neatleidžia jūsų nuo prievolės patikrinti.
Dažnos klaidos
- Klaidinga sklandi išvestis kaip teisinga. Įtikinamos kalbos klaidinimas siekiant įrodyti tiesą.
- Šaltinio naudojimas jo nepatikrinus. Neegzistuojančio šaltinio paskelbimas.
- Konfidencialių duomenų įvedimas negalvojant. Įklijuoti neskelbtinus dokumentus jų neanoniminant.
- Palikti patirtį vienam modeliui. Teisinių/medicininių/finansinių sprendimų nepatikrinimas.
- Atsakomybės perkėlimas ant transporto priemonės. Vengti kontrolės sakydamas „AI taip pasakė“.
Apibendrinant
- Haliucinacijos yra tada, kai modelis užtikrintai gamina tai, kas nėra tikra; Kiekvienas faktas yra pretenzija, kol nepatvirtinta.
- Tikrinimas yra dvejopas: greiti apribojimai sumažina gaminimą, o žmogaus tikrinimas jį sugauna.
- Modelis apsiriboja einamaisiais, tiksliais, teisiniais/medicininiais/finansiniais klausimais; nėra galutinis autoritetas.
- Konfidencialius ir asmens duomenis anonimizuoti arba tvarkyti tik institucijos patvirtintame įrankyje (KVKK ir įstaigos politika).
- Laikytis etikos, autorių teisių ir nepiktnaudžiavimo principų; Atsakomybė už turinį visada tenka žmogui.
Taikymo užduotis
Paimkite neseniai pagamintą spaudinį ir ištraukite visus jame esančius faktus (numerį, datą, pavadinimą, šaltinį, pretenziją) kaip patikrinimo sąrašą. Užrašykite kiekvieno patikrinimo metodą ir iš tikrųjų patikrinkite bent tris iš jų. Taip pat patikrinkite, ar tos pačios išvesties įvestyje nėra konfidencialių / asmeninių duomenų ir, jei reikia, anoniminkite.
kontrolinis sąrašas
- [ ] Galiu paaiškinti, kas yra haliucinacijos ir kodėl ji atsiranda.
- [ ] Tikrinu faktus iš nepriklausomo šaltinio.
- [ ] Konfidencialius / asmeninius duomenis anoniminu arba apdoroju saugiu įrankiu.
- [ ] Konsultuoju tikru ekspertu teisiniais/medicininiais/finansiniais klausimais.
- [ ] Sutinku, kad esu atsakingas už turinį.