Hagnaður:
- Skilur að líkanið getur framkallað ofskynjanir og að hver framleiðsla verður að vera sannreynd
- Þekki áhættuna og örugga kosti þess að setja trúnaðar- og persónuupplýsingar í skyndi
- Beitir siðferði, höfundarrétti og ábyrgðarmörkum við notkun gervigreindar
Það er ekki nóg að ná góðum tökum á því hvernig á að skrifa fyrirmæli; Það er líka nauðsynlegt að læra að nota gervigreind á ábyrgan hátt. Þessi eining er öryggislagið sem verður að setja ofan á tæknikunnáttu. Gervigreind framleiðir svör sem eru hröð, sannfærandi og oft nákvæm; En stundum framleiðir það algjörlega rangar upplýsingar með sama öryggi, getur sett viðkvæm gögn í hættu og ýtt siðferðilegum mörkum. Í þessari einingu munum við fjalla um sannprófun framleiðslu, takmarkanir líkansins, trúnað og siðferðilega ábyrgð. Án þessarar þekkingar eru allar aðrar aðferðir ófullkomnar.
Ofskynjanir: Að passa líkanið
Ofskynjanir er þegar líkanið framleiðir óraunverulegar upplýsingar á öruggu tungumáli. Heimild sem ekki er til, röng dagsetning, uppspuni tölfræði eða lög sem aldrei voru skrifuð eru dæmi um þetta. Hvers vegna gerist það? Vegna þess að líkanið er hannað til að "vita ekki sannleikann" heldur til að "skapa hugsanlegt framhald" (mundu rökfræðina í fyrstu einingu). Þó að setning sé málfræðilega möguleg þýðir ekki að hún sé raunverulega sönn.
Hagnýt vísbending þessa er skýr: sérhver staðreynd sem AI framleiðir er fullyrðing, ekki staðreynd, þar til hún hefur verið staðfest sjálfstætt. Sérstaklega skaltu alltaf athuga:
- Tölur og tölfræði
- Nöfn, dagsetningar, örnefni
- Tilvitnanir og heimildatilvísanir
- Lagaákvæði, tæknilegir staðlar, læknisfræðilegar/fjárhagslegar upplýsingar
Staðfestingarvenja
Þú getur dregið úr en ekki endurstillt staðfestingu með skjótri tækni. Unnið er í tveimur lögum:
- Hvetjandi lag: Gefðu líkaninu takmarkanir eins og "reiðu aðeins á heimildina sem ég gef upp, ekki bæta við upplýsingum sem eru ekki til, skrifaðu 'ég veit það ekki' ef þú ert ekki viss, sýndu uppruna hverrar fullyrðingar." Þetta dregur úr mátun.
- Mannlegt lag: Staðfestu hverja mikilvæga staðreynd sjálfur frá upprunanum. Þetta skref er ekki samningsatriði; Það er sérstaklega skylda fyrir efni sem verður birt, verður grundvöllur ákvarðana eða hefur áhrif á aðra.
Takmörk: Hvað líkanið gerir ekki vel
svæði
Áhætta
rétt nálgun
atburði líðandi stundar
Þjálfunargögn gætu verið úrelt
Staðfestu frá dagsettum/núverandi uppruna
nákvæmar tölur
Það eru miklar líkur á að passa
Athugaðu með reiknivél/heimild
Lögfræðilegt/læknisfræðilegt/fjárhagslegt
Hætta á alvarlegum skaða
Ráðfærðu þig við alvöru sérfræðing, ekki treysta á hann einn
Heimild/tilvitnun
Getur framleitt auðlindir sem ekki eru til
Athugaðu áreiðanleika heimildarinnar sjálfur
Sjaldgæft/sess efni
Yfirborðslegt eða ónákvæmt
Berðu saman við sérfræðiþekkingu
Fyrirmyndin er aðstoðarmaður, ekki endanlegt vald. Ábyrgðin er alltaf hjá þeim sem notar það.
Persónuvernd og persónuupplýsingar
Texti sem þú slærð inn í opinbert gervigreindarverkfæri er háð vinnslustefnu þess tóls og gæti verið utan stjórnunar fyrirtækisins. Þess vegna er alvarleg áhætta að slá inn trúnaðar- og persónuupplýsingar án umhugsunar. Vinnsla persónuupplýsinga í Türkiye er stjórnað af KVKK (lögum um persónuvernd); Stofnanir hafa líka oft sínar eigin gagnastefnur.
Örugg vinnubrögð:
- Nafnlaus/gríma: Skrifaðu „viðskiptavinur“ í stað raunverulegs nafns, „[reikningsnúmer]“ í stað raunnúmers. Oftast mun það gera bragðið að segja „3 ára fyrirtækjaviðskiptavinur“.
- Notaðu stofnunarsamþykkt verkfæri: Sumar stofnanir bjóða upp á samningsbundið/stofnanaverkfæri sem leka ekki gögnum. Vinnið aðeins viðkvæm gögn um þau.
- Ekki gefa upp það sem ekki er nauðsynlegt: Ekki láta neinar viðkvæmar upplýsingar fylgja sem eru í raun ekki nauðsynlegar til að framkvæma verkefnið.
- Kynntu þér stefnuna: Lærðu og fylgdu notkunarreglum fyrirtækisins um gervigreind.
Siðfræði og höfundarréttur
Ábyrg notkun endar ekki með friðhelgi einkalífsins. Þrjár meginreglur:
- Gagnsæi: Gefðu AI-myndað efni á viðeigandi hátt ef samhengið krefst þess (til dæmis þar sem búist er við vinnuafli). Forðist villandi notkun.
- Höfundarréttur og frumleiki: Framleiðsla líkansins kann að líkjast öðrum verkum. Farið yfir frumleika og réttindastöðu fyrir notkun í atvinnuskyni; Ekki herma eftir vörumerki/verki einhvers annars.
- Ekki illmenni: Ekki nota til að búa til efni sem er villandi, mismunandi, hagkvæmt eða markvisst. Kraftur tækisins eykur ábyrgð.
Fjögur afritanleg sniðmát
1) Þvingunartakmarkandi festing:
Treystu bara á heimildina hér að neðan. Ekki bæta við neinum upplýsingum sem eru ekki í heimildinni. Skrifaðu "ekki í heimildinni" þar sem þú ert ekki viss. Við hlið hverrar mikilvægrar kröfu skal tilgreina línuna sem hún byggir á. Heimild: [texti]
2) Dragðu út staðfestingarlista:
Skráðu allar staðreyndir (númer, dagsetning, nafn, fullyrðing) sem þarf að sannreyna í textanum hér að neðan. Stingdu í stuttu máli hvernig ég get staðfest fyrir hvern. Texti: [úttak]
3) Nafnleynd:
Fellið öll persónuleg/trúnaðargögn í eftirfarandi texta: nöfnum [PERSON], fyrirtæki [FYRIRTÆKI], númer [NUMBER]. Gefðu nafnlausa útgáfu með merkingunni ósnortinn. Texti: [texti]
4) Siðferðileg endurskoðun:
Metið siðferðilega þetta efni áður en það er birt: er það villandi, mismunun eða ósanngjarnt? Merktu það ef svo er og leggðu til leiðréttingar. Efni: [texti]
Veik kvaðning / sterk kvaðning
Veikt (áhættusamt):
Finndu vandamálin í samningi Ahmet Yılmaz (TC: ...) og berðu hann saman við meðaltal iðnaðarins.
Sterkt (öruggt):
Finndu áhættusömu ákvæðin í samningstextanum hér að neðan. - Notkun persónuupplýsinga; Látum aðila vera nefndir [FYRIRTÆKI-A] og [PERSON].- Styðjið aðeins við það sem stendur í textanum; iðnaðarmeðaltal gert upp, skrifaðu "gögn ekki tiltæk".- Sýndu hverja áhættu með hlutnum.Texti (nafnlaus): [texti]
Öfluga útgáfan verndar bæði persónuleg gögn og hindrar fölsuð iðnaðargögn; Úttakið er tilbúið til skoðunar hjá lögfræðiteymi.
Þrjú Mini Cass
Mál 1 - Tilbúin heimild. Rannsakandi setti 3 „fræðilegar heimildir“ sem líkanið gefur inn í kynninguna án þess að sannreyna þær; Tvær heimildanna lágu alls ekki fyrir. Samstarfsmaður tók eftir því fyrir kynninguna. Síðan tók teymið upp regluna um að „finna og opna hverja auðlind persónulega áður en hún er birt“.
Mál 2 - Trúnaður. Starfsmaður límdi raunverulegan viðskiptasamning ósnortinn í opinbert tól og bað um samantekt. Þegar upplýsingaöryggisteymi stofnunarinnar uppgötvaði þetta var farið yfir ferlið; Viðkvæm skjöl eru nú aðeins unnin í fyrirtækjatólinu sem stofnunin samþykkir og eru nafnlaus.
3. mál — Ákvörðunarábyrgð. Eigandi smáfyrirtækis ætlaði að grípa til aðgerða á grundvelli skattatúlkunar sem líkanið gefur; Athugasemdin var ekki í samræmi við gildandi lög. Mistökin voru gripin þegar hann leitaði til fjármálaráðgjafa síns. Lærdómurinn er skýr: gervigreindin undirbýr sig, sérfræðingurinn og maðurinn ákveða.
Ábending: Leggðu þig í vana þinn að merkja staðreynd sem „óstaðfest“. Settu hak við hverja tölu og uppruna í úttakinu þar til þú staðfestir það; Þessi einfalda aga kemur í veg fyrir að rangar upplýsingar berist í hljóði.
Varúð: „AI sagði það“ er ekki afsökun. Þú berð ábyrgð á öllu efni sem þú birtir, sendir eða byggir ákvarðanir þínar á. Hraði ökutækisins leysir þig ekki undan skoðunarskyldu þinni.
Algeng mistök
- Misskilið að reiprennandi úttak sé rétt. Að misskilja sannfærandi orðalag sem sönnunargögn um sannleika.
- Að nota upprunann án þess að athuga það. Birta heimild sem ekki er til.
- Að slá inn trúnaðargögn án umhugsunar. Líma viðkvæm skjöl án þess að gera þau nafnlaus.
- Að láta sérfræðiþekkinguna eftir fyrirmyndinni einni saman. Misbrestur á að sannreyna lagalegar/læknisfræðilegar/fjárhagslegar ákvarðanir.
- Að setja ábyrgðina á ökutækið. Komast undan stjórn með því að segja "AI sagði það".
Í stuttu máli
- Ofskynjanir er þegar líkanið framleiðir af öryggi það sem er ekki raunverulegt; Sérhver staðreynd er fullyrðing þar til hún hefur verið staðfest.
- Sannprófun er tvíþætt: skjótar takmarkanir draga úr tilbúningi, mannleg athugun grípur það.
- Líkanið er takmarkað við núverandi, nákvæm, lagaleg/læknisfræðileg/fjárhagsleg atriði; er ekki endanlegt vald.
- Nafnlausu trúnaðar- og persónuupplýsingar eða vinnslu aðeins í tækinu sem stofnunin hefur samþykkt (KVKK og stofnunarstefna).
- Fylgdu siðferðilegum, höfundarréttar- og meginreglum um bann við meinsemd; Ábyrgðin á innihaldinu er alltaf hjá viðkomandi.
Umsóknarverkefni
Taktu útprentun sem þú framleiddir nýlega og dragðu út allar staðreyndir í henni (númer, dagsetning, nafn, heimild, fullyrðing) sem sannprófunarlista. Skrifaðu niður staðfestingaraðferðina fyrir hvern og athugaðu í raun að minnsta kosti þrjár þeirra. Athugaðu einnig hvort það séu trúnaðar-/persónuupplýsingar í inntakinu á sama úttakinu og nafnleyndu þau ef þörf krefur.
gátlisti
- [ ] Ég get útskýrt hvað ofskynjanir eru og hvers vegna hún gerist.
- [ ] Ég sannreyna staðreyndir frá óháðum heimildum.
- [ ] Ég nafnleysa trúnaðar-/persónuupplýsingar eða vinn þær í öruggu tæki.
- [ ] Ég ráðfæra mig við alvöru sérfræðing um lagaleg/læknisfræðileg/fjárhagsleg málefni.
- [ ] Ég samþykki að ég ber ábyrgð á efninu.