Gnóthachain:
- In ann a mhíniú cad is siabhrán ann agus cén fáth a dtarlaíonn sé
- Is féidir a chinneadh nuair is gá aschur AI a bhailíochtú
- Is féidir leis teicníochtaí praiticiúla a chur i bhfeidhm a mhéadaíonn iontaofacht
B’fhéidir gurb é an topaic is tábhachtaí maidir le litearthacht AI san aonad seo: Comhdhéanamh samhlacha, is é sin, siabhránacht. Is é an téarma seo a thuiscint an réamhchúram sábháilteachta is bunúsaí do dhuine ar bith a úsáideann AI. Toisc gur féidir le húsáideoir nach n-aithníonn an bréagléiriú botún a dhéanamh ar fhaisnéis bhréagach mar fhíor agus í a aistriú chuig cinneadh gnó, cumarsáid custaiméara nó doiciméad oifigiúil. San aonad seo, foghlaimeoidh tú cad is siabhrán ann, cad chuige a bhfuil sé dosheachanta, agus conas cosaint a thabhairt ina choinne.
Cad is siabhránacht ann?
Is éard is siamsaíocht ann nuair a chuireann samhail teanga faisnéis ar fáil nach bhfuil ann i ndáiríre i dteanga líofa agus mhuiníneach, díreach mar a bheadh sé fíor. Níl sé i gceist ag an múnla bréag; Tríd an "leanúint is dóichí" amháin a tháirgeadh, cruthaíonn sé téacs atá dealraitheach ach atá bréagach i ndáiríre.
Sampla: Má insíonn tú samhail “Mol foinse acadúil ar thopaic Tá gach rud le feiceáil san fhormáid cheart agus go diongbháilte; Ach tá an fhoinse go hiomlán samhailteach. Seo sampla clasaiceach den siabhránacht.
Cén Fáth a dtarlaíonn sé? (Cuimhnigh Aonad a Dó)
Is é prionsabal oibre an mhúnla foinse an bréagchéille. Ní "ciclipéid fíricí" é an tsamhail; Is "meaisín dóchúlachta" é. Is é an post atá aige ná an leanúint chomh réidh agus is féidir de do cheist a tháirgeadh; Ní bhaineann sé leis an eolas is cruinne a thabhairt. Múnla:
- Níl a fhios aige cad nach bhfuil a fhios aige; Nuair a bhíonn sé bán, bíonn de ghnáth air freagra féideartha a líonadh seachas "níl a fhios agam."
- Níl aon mheicníocht aige chun an réaltacht a rialú; Ní seiceálann sé an bhfuil an téacs a tháirgeann sé ag teacht leis an domhan.
- Dhá rud éagsúil dó is ea líofacht agus cruinneas; Ní chiallaíonn sé go bhfuil sé ceart toisc go bhfuil sé líofa.
Rabhadh: Ní "mífheidhm" é siabhránacht; Is gné dhílis den teicneolaíocht é. Laghdaíonn samhlacha nua é seo ach ní féidir leo é a dhíchur go hiomlán. Dá bhrí sin, in ionad fanacht le "múnla neamh-hallucination", is gá a fhoghlaim chun maireachtáil le hallucination.
Cá bhfuil an Riosca Siamsaíochta Ard?
Níl gach toradh chomh riosca céanna. Méadaíonn an riosca nuair:
Riosca Ard
Riosca Íseal
Figiúirí beachta, dátaí, staitisticí
Smaointe ginearálta a ghiniúint, ransú smaointe
Foinsí a iarraidh, Sleachta, tagairtí
Athraigh ton téacs
nideoige, ábhair speisialaithe
Ábhair choitianta, ghinearálta
Imeachtaí reatha agus daoine
Déan achoimre ar do théacs
Eolas ón taobh istigh a bhaineann go sonrach le do chuideachta
Ceartú gramadaí
Trí Chás Mini
Cás 1 - Tháinig figiúr bréige isteach sa chur i láthair. D'iarr fostaí ar AI "ráta fáis agus foinse ríomhthráchtála 2023 i Türkiye" don tuarascáil tionscail. Thug an tsamhail céatadán diongbháilte (48%) agus ainm institiúide ar ais. Chuir an fostaí isteach sa chur i láthair é gan é a fhíorú; Nuair a tugadh le fios ag an gcruinniú go raibh an figiúr déanta, rinneadh dochar don chur i láthair agus do cháil na cuideachta. Dá mbeadh an figiúr faighte ag an bhfostaí céanna ón bhfoinse oifigiúil, ní bheadh fadhb ar bith ann.
Cás 2 — Píosa reachtaíochta nach bhfuil ann. D'iarr cúntóir ar an AI an "alt ábhartha dlí" le haghaidh achainí. Tháirg an tsamhail uimhir mhíre réalaíoch agus téacs; ach ní raibh an mhír sin ann. Ar ámharaí an tsaoil, thug an roinn dlí faoi deara é sula seachadadh. Ceacht: fíoraítear luanna dlí ón mbunfhoinse i gcónaí.
Cás 3 - An modh ceart, toradh sábháilte. Rinne fostaí eile ar an bhfoireann chéanna go simplí an AI a dhréachtú den tuarascáil, ag dul isteach na huimhreacha go léir é féin ó shonraí oifigiúla agus ag treoir dó "gan aon fhigiúirí nach bhfuil sa téacs seo a chur leis." Bhí an toradh tapa agus cruinn. Difríocht: Scríobh AI dréacht-fíricí cothaithe daonna.
Lag Pras / Pras Láidir
Leid lag: Tabhair na 3 fhoinse acadúla is tábhachtaí ar an ábhar seo leis an údar agus leis an mbliain.
Toradh: Is féidir leis an tsamhail teacht go sábháilte ar fhoinsí nach bhfuil ann.
Leid chumhachtach: Scríobh achoimre bunaithe ar an téacs a ghreamaigh mé thíos. Ná húsáid ach an t-eolas sa téacs seo. Ná cuir aon ainmneacha, uimhreacha nó foinsí nach bhfuil sa téacs. Mura bhfuil tú cinnte, scríobh "nach bhfuil sonraithe sa téacs".<text>[greamaigh anseo]</text>
Toradh: Ós rud é go bhfaigheann an tsamhail an fhoinse uait, éiríonn an spás feistithe níos cúinge.
Teicnící Praiticiúla a Mhéadaíonn Iontaofacht
Marcáil gach éileamh infhíoraithe i do fhreagra (uimhir, dáta, ainm, foinse) agus cuir ar liosta “ní mór seiceáil” ar leith iad.
Freagair an cheist seo. Mura bhfuil tú cinnte, ná buille faoi thuairim; Abair "Níl mé cinnte" agus mínigh nach bhfuil a fhios agat cad é. Ábhar: [subject]
Freagair an cheist chéanna ar dhá bhealach éagsúla agus marcáil na contrárthachtaí idir an dá fhreagra. Mar sin lig dom a fheiceáil cé na pointí atá amhrasach.Question: [ceist]
Fíoróidh mé an téacs thíos. Déan liosta de na héilimh chontúirteacha ba chóir dom a sheiceáil in ord tábhachta agus mol cá háit is féidir liom gach ceann a fhíorú.Text: [greamaigh anseo]
Ina theannta sin, glac leis na nósanna seo:
- Soláthraíonn tú an fhoinse. Greamaigh an doiciméad ábhartha isteach sa téacs agus abair "freagra bunaithe air seo amháin."
- Seiceáil fíricí infhíoraithe i gcónaí. Fíoraigh uimhreacha, dátaí, ainmneacha, Sleachta agus foinsí ó fhoinse neamhspleách iontaofa.
- Iarr air a chur in iúl nach bhfuil sé cinnte faoin tsamhail. Laghdaíonn sé seo an riosca ach ní chuireann sé deireadh leis go hiomlán.
- Maidir le poist ardriosca, iarr saineolaí iniúchadh a dhéanamh ar an aschur. Caithfidh aschuir dhlíthiúla, airgeadais agus a bhaineann le sláinte dul tríd an scagaire saineolaithe daonna.
- Bain úsáid as AI mar “ phointe tosaigh,” ní mar “fhocal deiridh.” Tá an dréacht uaidh; Is leatsa an fíorú agus an cinneadh.
Rabhadh: "Dúirt an tsamhail é faoi dhó, ansin tá sé fíor" Tá an loighic mícheart. Is féidir an botún céanna a dhéanamh arís go muiníneach. Ní fianaise ar chruinneas é an t-athrá.
Botúin Choitianta
Botúin choitianta
- Foinsí a úsáid gan iad a fhíorú. Is féidir leis leabhair mhúnla, ailt, ailt dlí agus naisc a chruthú; Ní mór gach tagairt a dhearbhú.
- Botún muiníneach maidir le cruinneas. Is é an rud is contúirtí faoi hallucination go beacht gur cosúil go muiníneach.
- Is leor an múnla a rá "deimhnigh tú". Ní bailíochtú neamhspleách é féinbhailíochtú an mhúnla.
- Ag baint úsáide as aschur ard-riosca gan é a thaispeáint do shaineolaí. Tá rialú daonna riachtanach ó thaobh airgid, dlí agus sláinte.
Go hachomair
- Is éard is siamsaíocht ann nuair a tháirgeann an tsamhail faisnéis nach bhfuil ann ar bhealach líofa muiníneach amhail is dá mbeadh sé fíor.
- Ní mífheidhm é an chúis, ach nádúr dóchúlacht-thuar an mhúnla; ní féidir é a dhíchur go hiomlán.
- Tá an riosca an-ard nuair a bhaineann sé le figiúirí beachta, foinsí, faisnéis cothrom le dáta agus saincheisteanna nideoige.
- Chun tú féin a chosaint: tabhair an fhoinse, fíoraigh na fíricí, abair "mura bhfuil tú cinnte, inis dom", bíodh aschur ard-riosca seiceáilte ag saineolaí.
- Bain úsáid as AI mar phointe tosaigh; Fanann an fíorú deiridh agus an fhreagracht leat i gcónaí.
Tasc Feidhmchláir
Abair le d’uirlis AI “3 fhoinse acadúla a mholadh” ar ábhar a dteastaíonn saineolas uaidh agus déan iarracht na foinsí a mholann sé a dhearbhú ar an idirlíon; Tabhair faoi deara cé mhéad atá fíor. Ansin déan an tasc céanna arís leis an modh "tugann tú an fhoinse" agus breathnaigh ar an difríocht.
Seicliosta
- [ ] Thig liom a mhíniú cad is siabhrán ann agus cén fáth a dtarlaíonn sé.
- [ ] Is féidir liom idirdhealú a dhéanamh idir tascanna ardriosca agus riosca siabhránachta íseal.
- [ ] Is féidir liom an riosca monaraithe a laghdú tríd an bhfoinse a thabhairt don mhionsamhail.
- [ ] Deimhním go neamhspleách na huimhreacha, dátaí, ainmneacha agus foinsí.
- [ ] Ní mheasaim an ton muiníneach mar fhianaise ar chruinneas.