Kasu:
- Mõistab, et mudel võib tekitada hallutsinatsioone ja et iga väljundit tuleb kontrollida
- Teab konfidentsiaalsete ja isikuandmete viipale panemisega kaasnevaid riske ja ohutuid alternatiive
- Rakendab tehisintellekti kasutamisel eetika-, autoriõiguse- ja vastutuspiiranguid
Viipade kirjutamise valdamisest ei piisa; Samuti on vaja õppida tehisintellekti vastutustundlikult kasutama. See üksus on turvakiht, mis tuleb asetada tehnilistele oskustele kõrgemale. AI annab vastuseid, mis on kiired, veenvad ja sageli täpsed; Kuid mõnikord toodab see sama kindlustundega täiesti valeteavet, võib seada tundlikud andmed ohtu ja nihutada eetilisi piire. Selles üksuses käsitleme väljundi kontrollimist, mudeli piiranguid, konfidentsiaalsust ja eetilist vastutust. Ilma nende teadmisteta jäävad kõik muud tehnikad poolikuks.
Hallutsinatsioonid: mudeli sobitamine
Hallutsinatsioon on see, kui modell toodab ebareaalset teavet enesekindlas keeles. Nende näideteks on olematu allikas, vale kuupäev, väljamõeldud statistika või seadus, mida pole kunagi kirjutatud. Miks see juhtub? Kuna mudel on loodud mitte "tõde teadmiseks", vaid "võimaliku jätku genereerimiseks" (pidage meeles loogikat esimeses ühikus). See, et lause on grammatiliselt võimalik, ei tähenda, et see on tõsi.
Selle praktiline tähendus on selge: iga AI toodetud fakt on väide, mitte fakt, kuni seda pole sõltumatult kinnitatud. Eelkõige kontrollige alati:
- Numbrid ja statistika
- Nimed, kuupäevad, kohanimed
- Tsitaadid ja allikaviited
- Õigusklauslid, tehnilised standardid, meditsiiniline/finantsteave
Valideerimisharjumus
Kinnitamist saate viipetehnikaga vähendada, kuid mitte lähtestada. Töötage kahes kihis:
- Viipakiht: määrake mudelile piirangud, näiteks "toetuge ainult minu esitatud allikale, ärge lisage teavet, mida pole olemas, kirjutage "Ma ei tea", kui te pole kindel, näidake iga väite allikat." See vähendab sobivust.
- Inimkiht: kontrollige iga kriitilist fakti ise allikast. See samm ei ole läbiräägitav; See on eriti kohustuslik sisu puhul, mis avaldatakse, on otsuste aluseks või mõjutab teisi.
Piirangud: mida mudel hästi ei tee
ala
Risk
õige lähenemine
jooksvad sündmused
Treeningu andmed võivad olla aegunud
Kinnitage dateeritud/praeguse allika järgi
täpsed numbrid
Sobivuse tõenäosus on suur
Kontrollige kalkulaatorist/allikast
Juriidiline/meditsiiniline/finants
Tõsise kahju oht
Konsulteerige tõelise asjatundjaga, ärge lootke ainult sellele
Allikas/tsitaat
Oskab toota olematuid ressursse
Kontrollige ise allika autentsust
Haruldane/nišiteema
Pealiskaudne või ebatäpne
Võrrelge ekspertteadmistega
Modell on assistent, mitte lõplik autoriteet. Vastutus lasub alati sellel, kes seda kasutab.
Privaatsus ja isikuandmed
Avalikusse tehisintellekti tööriista sisestatud tekstile kehtivad selle tööriista töötlemispoliitikad ja see ei pruugi olla teie organisatsiooni kontrolli all. Seetõttu on konfidentsiaalsete ja isikuandmete mõtlemata sisestamine tõsine risk. Isikuandmete töötlemist Türkiye linnas reguleerib KVKK (isikuandmete kaitse seadus); Samuti on asutustel sageli oma andmepoliitika.
Ohutuid tööviise:
- Anonüümseks muutmine/mask: kirjutage pärisnime asemel "klient", pärisnumbri asemel "[konto number]". Enamasti ajab asja ära ütlemine "3-aastane äriklient".
- Kasutage asutuse heakskiidetud tööriista: mõned asutused pakuvad lepingulisi/institutsionaalseid tööriistu, mis ei leki andmeid. Töötlege tundlikke andmeid ainult nende kohta.
- Ärge andke ära seda, mida pole vaja: ärge lisage tundlikke üksikasju, mis pole ülesande täitmiseks tegelikult olulised.
- Teadke eeskirju: õppige ja järgige oma organisatsiooni tehisintellekti kasutamise eeskirju.
Eetika ja autoriõigus
Vastutustundlik kasutamine ei lõpe privaatsusega. Kolm põhimõtet:
- Läbipaistvus: AI-ga loodud sisu asjakohaselt krediidiga, kui kontekst seda nõuab (näiteks kui eeldatakse inimtööjõudu). Vältige petlikku kasutamist.
- Autoriõigus ja originaalsus: mudeli väljund võib sarnaneda muude teostega. Enne ärilist kasutamist kontrollige originaalsust ja õiguste staatust; Ärge jäljendage kellegi teise kaubamärki/teoseid.
- Mitte pahatahtlik: ärge kasutage eksitava, diskrimineeriva, manipuleeriva või sihitud sisu loomiseks. Tööriista võimsus suurendab vastutust.
Neli kopeeritavat malli
1) Piirangut piirav sobivus:
Toetuge lihtsalt allolevale allikale. Ärge lisage teavet, mida allikas pole. Kui te pole kindel, kirjutage "ei ole allikas". Märgi iga olulise väite kõrvale rida, millel see põhineb. Allikas: [tekst]
2) Väljavõte kinnitusloendist:
Loetlege allolevas tekstis kõik kontrollimist vajavad faktid (number, kuupäev, nimi, väide). Soovitage lühidalt, kuidas saaksin iga puhul kontrollida. Tekst: [väljund]
3) Anonüümseks muutmine:
Maskeerige kõik isiklikud/konfidentsiaalsed andmed järgmises tekstis: nimed [ISIK], ettevõte [ETTEVÕTE], numbrid [NUMBER]. Esitage anonüümne versioon, mille tähendus on puutumatu. Tekst: [tekst]
4) Eetiline ülevaade:
Enne avaldamist hinnake seda sisu eetiliselt: kas see on eksitav, diskrimineeriv või ebaõiglane? Märgistage see ja tehke parandused. Sisu: [tekst]
Nõrk viip / Tugev viip
Nõrk (riskantne):
Otsige üles probleemid Ahmet Yılmazi (TC: ...) lepingust ja võrrelge seda valdkonna keskmiste näitajatega.
Tugev (ohutu):
Leia riskantsed klauslid allolevast lepingutekstist. - Isikuandmete kasutamine; Olgu osapooltele viidatud kui [ETTEVÕTE-A] ja [ISIK].- Toetuge ainult tekstis kirjutatule; valdkonna keskmine, kirjutage "andmed pole saadaval".- Näidake iga riski selle üksusega.Tekst (anonüümne): [tekst]
Võimas versioon kaitseb nii isikuandmeid kui ka blokeerib võltsitud tööstusandmeid; Väljund on juriidilise meeskonna poolt ülevaatamiseks valmis.
Kolm miniümbrist
Juhtum 1 – väljatöötatud allikas. Teadlane pani esitlusse 3 mudeli antud "akadeemilist allikat" neid kontrollimata; Kaks allikat ei olnud üldse kättesaadavad. Kolleeg märkas seda enne ettekannet. Seejärel võttis meeskond vastu reegli "leidke ja avage iga ressurss isiklikult enne avaldamist".
2. juhtum – konfidentsiaalsus. Töötaja kleepis tegeliku kliendilepingu puutumata avalikku tööriista ja küsis kokkuvõtet. Kui asutuse infoturbe meeskond selle tuvastas, vaadati protsess üle; Tundlikke dokumente töödeldakse nüüd ainult asutuse poolt heaks kiidetud ettevõtte tööriistas ja need muudetakse anonüümseks.
Juhtum 3 – otsustusvastutus. Väikeettevõtte omanik asus mudelis antud maksutõlgendusele tuginedes tegutsema; Kommentaar ei vastanud kehtivale seadusandlusele. Viga tabati, kui ta konsulteeris oma finantsnõustajaga. Õppetund on selge: tehisintellekt valmistub, ekspert ja inimene otsustavad.
Nõuanne: võtke harjumuseks märkida fakt "kinnitamata". Pange linnuke väljundis iga numbri ja allika kõrvale, kuni selle kinnitate; See lihtne distsipliin takistab valeinformatsiooni vaikselt levimast.
Ettevaatust: "AI ütles nii" ei ole vabandus. Vastutate mis tahes sisu eest, mille avaldate, saadate või mille alusel oma otsuseid teete. Sõiduki kiirus ei vabasta teid ülevaatuskohustusest.
Levinud vead
- Ladusa väljundi eksimine õigeks. Veenva keele eksitamine tõe tõestuseks.
- Allika kasutamine ilma seda kontrollimata. Olematu allika avaldamine.
- Konfidentsiaalsete andmete sisestamine mõtlemata. Tundlike dokumentide kleepimine neid anonüümseks muutmata.
- Jättes asjatundlikkuse modelli hooleks. Õiguslike/meditsiiniliste/rahaliste otsuste kontrollimine.
- Vastutuse panemine sõidukile. Kontrollimisest kõrvalehoidmine, öeldes: "AI ütles nii".
Kokkuvõttes
- Hallutsinatsioonid on siis, kui mudel toodab enesekindlalt seda, mis pole tõeline; Iga fakt on väide kuni kontrollimiseni.
- Kontrollimine on kahekordne: kiired piirangud vähendavad valmistamist, inimeste kontrollimine püüab selle kinni.
- Mudel on piiratud jooksvate, täpsete, juriidiliste/meditsiiniliste/finantsküsimustega; ei ole lõplik autoriteet.
- Anonüümseks muuta konfidentsiaalsed ja isikuandmed või töödelda ainult asutuse poolt heaks kiidetud tööriistas (KVKK ja asutuse poliitika).
- Järgima eetika-, autoriõiguse ja mittekuritegude põhimõtteid; Vastutus sisu eest lasub alati inimesel.
Rakenduse ülesanne
Võtke hiljuti koostatud väljatrükk ja eemaldage kõik sellel olevad faktid (number, kuupäev, nimi, allikas, väide) kinnitusloendina. Kirjutage iga kinnitusviis üles ja kontrollige vähemalt kolme neist. Samuti kontrollige, kas sama väljundi sisendis on konfidentsiaalseid/isikuandmeid ja vajadusel muutke need anonüümseks.
kontrollnimekiri
- [ ] Oskan selgitada, mis on hallutsinatsioon ja miks see juhtub.
- [ ] Kontrollin sõltumatust allikast pärit faktiväljundit.
- [ ] Muudan konfidentsiaalsed/isikuandmed anonüümseks või töötlen neid turvalises tööriistas.
- [ ] Konsulteerin tõelise asjatundjaga juriidilistes/meditsiinilistes/finantsküsimustes.
- [ ] Nõustun, et vastutan sisu eest.