Gnóthachain:
- A thuiscint cad é atá i gceist le hamhras gairmiúil agus na rioscaí a bhaineann le claonadh deimhnithe agus laofacht uathoibrithe agus intleacht shaorga á húsáid
- Cumas aschur hintleachta saorga a thástáil le teicníc cheistiúcháin a dhéanann iarracht a mhalairt a bhréagnú (lorg a mhalairt)
- Bheith in ann a thuiscint nach gciallaíonn líofacht na hintleachta saorga cruinneas, gurb é an aigne amhrasach croílár an rialaithe agus nach féidir í a aistriú.
Tá dearcadh meabhrach amháin ann a dhéanann idirdhealú idir iniúchóireacht neamhspleách agus go leor gairmeacha eile: amhras gairmiúil. Sainmhíníonn na ISAnna é seo mar an t-iniúchóir ag obair “le meon fiosrach, ag tabhairt faoi deara an léiríonn an fhianaise míráiteas féideartha, agus ag déanamh meastóireacht chriticiúil ar an bhfianaise.” Is é sin le rá, ní ghlacann an t-iniúchóir go huathoibríoch le haon fhaisnéis a chuirtear faoina bhráid—ní ráiteas bainistíochta, ní doiciméad, ná fiú cuntas a bhfuil an chuma air go bhfuil “réasúnta” – fíor. N'fheadar i gcónaí "An bhfuil sé i ndáiríre mar sin?" iarrann sé. Is é an dearcadh seo croílár an rialaithe agus tá sé doshannta.
In aois na hintleachta saorga, tá tástáil úrnua os comhair an chroíláir seo. Toisc go bhfuil AI inniúil ar dhá laigí dhomhain-suí a spreagadh in aigne an duine - laofacht uathoibrithe agus laofacht deimhnithe. San aonad seo, clúdóimid conas is féidir le hiniúchóir a úsáideann AI a amhras a choinneáil nó fiú a neartú. Is é an príomh-thráchtas nach bhfuil líofacht AI cruinneas; Éiríonn an aigne skeptical níos tábhachtaí fós i bhfianaise AI.
Dhá chlaonadh contúirteacha
Is éard atá i laofacht uathoibrithe ná an claonadh atá ag daoine muinín a bheith acu as aschur meaisín/bogearraí níos mó ná a mbreithiúnas féin. "Ríomh an ríomhaire é, tá sé ceart." Méadaítear an chontúirt seo nuair a thagann sé chuig AI, toisc nach ríomhann AI amháin; Labhraíonn abairtí réasúnaithe atá líofa, muiníneach, cosúil le duine. Bíonn fonn muiníneach áititheach fiú mura bhfuil an fhaisnéis cruinn.
Is éard is claonadh dearbhaithe ann ná an claonadh a bhíonn ag daoine faisnéis a lorg a thacaíonn leis an gconclúid a chreid siad nó a raibh súil acu léi roimhe seo agus neamhaird a dhéanamh ar fhaisnéis chontrártha. Tá sé seo marfach san iniúchadh: Beidh iniúchóir a cheapann "Caithfidh an cliant seo a bheith glan" a mhaolú nuair a iarrann sé ar an AI agus go bhfaighidh sé deimhniú, agus stopfaidh sé ag lorg fianaise dá mhalairt. Toisc go mbíonn claonadh ag AI leanacht isteach sa cheist a chuirtear (má chuireann tú “tá sé ceart go leor, ceart?” is mó an seans go dtabharfaidh sé freagra a aontaíonn leat), féadann sé laofacht deimhnithe a chothú.
Tá an tríú cuid ann freisin: siabhránacht. Is iomaí uair a chonaiceamar é sa mhodúl — is féidir le AI a bheith go líofa mar uimhir, mír, acmhainn nach bhfuil ann. Déantar an chontúirt níos measa nuair a chuirtear trí laigí le chéile: déanann AI rudaí suas (hallucination), creideann tú é toisc go bhfuil sé sreabhán (claonadh uathoibrithe), ní cheistíonn tú é mar insíonn sé duit cad a bhfuil tú ag súil leis (claonadh dearbhaithe).
Trí uirlis an aigne skeptical i gcoinne AI
Cuirimis amhras i dteicnící nithiúla i gcoinne AI:
- Déan iarracht a bhréagnú, ní a dhearbhú. D’fhéadfadh AI fiafraí dá aschur “an bhfuil sé fíor?” ní "conas a fhios agam má tá sé seo mícheart?" ceist. Fiafraigh díot féin: “Dá mbeadh an ráiteas seo bréagach, cén fhianaise a thaispeánfadh é?” agus an fhianaise sin a lorg. Is furasta sampla dearbhaithe amháin a fháil; Nuair a dhéantar iarracht a bhréagnú agus a mhainneachtain, tugtar fíordhearbhú.
- Iarr ar neodrach agus ar ais. Iarr ar an AI "aon fhadhb anseo, ceart?" Ná fiafraigh; iarrann sé seo freagra ceadaithe. Ina áit sin, “cad iad na rioscaí a d’fhéadfadh a bheith caillte agam sna sonraí seo?” agus “cad iad na trí chás is dóichí ina bhféadfadh an toradh seo a bheith mícheart?” fiafraigh. Cuir an cheist chéanna ó dhá thaobh urchomhaireacha agus déan comparáid idir na freagraí.
- Íosluchtaigh foinse agus a atáirgeadh. Maidir le gach saincheist, sannadh, agus conclúid, “cá bhfíoraím é seo go neamhspleách?” Cuir an cheist agus fíoraigh i ndáiríre. Féach ar aschur an AI mar dhearbhú; Tá an fhianaise taobh amuigh den éileamh.
Leid: Déan nós: In aice le gach aschur suntasach a thugann an AI, scríobh dhá rud de láimh — “(1) cad a d’fhíoraigh mé é seo, (2) cén fhianaise a thaispeánfadh é seo dá mbeadh sé bréagach.” Briseann an dá nóta seo an claonadh uathoibrithe agus deimhnithe araon.
Breithiúnais nach féidir leis an iniúchóir a tharmligean
Teastaíonn amhras agus breithiúnas ó dhúchas do roinnt post; ní féidir iad seo a tharmligean chuig AI, ní thacaítear leo ach:
dlínse doshannta
Cén fáth
Cibé an leor an fhianaise agus an cuí
Breithiúnas gairmiúil; ag brath ar chomhthéacs
Inchreidteacht an mhínithe
Teastaíonn machnamh ar fhiontar agus ar rún
Measúnú riosca calaoise
Amhras agus intuition; thar an patrún sonraí
Ábharthacht agus cinneadh tuairime
Na breithiúna atá freagrach don phobal
Tuairim faoi macántacht na bainistíochta
Iompar daonna a léamh; Ní féidir le AI é seo a dhéanamh
An difríocht idir amhras agus pedantry: dearcadh tomhaiste
Ní chiallaíonn amhras gairmiúla gach rud a dhíchreidiúint nó an milleán a chur ar an mbainistíocht roimh ré; For-rochtain a bheadh anseo agus d’fhágfadh sé an rialú neamhéifeachtúil. Ní iontaobhas íon é amhras (glacadh le gach rud a deirtear leat) ná séanadh dall (diúltú gach rud); Idir an dá linn, is dearcadh fiosrúcháin é atá i gcomhréir leis an bhfianaise. Féadfaidh an t-iniúchóir glacadh leis an mbainistíocht a bheith macánta, ach déanann sé an glacadh sin a thástáil le fianaise; d’fhéadfadh míniú a bheith sochreidte, ach dearbhaíonn sé sochreidteacht. Is féidir le AI cur isteach ar an gcothromaíocht seo: i dtreo amháin, cuireann sé ró-mhuinín ionat lena aschur sreabhach; Ar an láimh eile, má insíonn tú dó "locht a fháil i ngach rud" déanfaidh sé tú a bhogadh le dearfacha bréagacha gan deireadh. Is é an dearcadh ceart ná an toradh a mheá i gcónaí i gcoinne mheáchan na fianaise, agus an AI á rith chun fianaise a tháirgeadh agus an fhianaise a bhréagnú. Ní tréith pearsantachta é amhras, ach modh oibre smachtaithe; Agus is é an t-iniúchóir a bhunaíonn, a chothaíonn agus a thugann fianaise ar an smacht seo, ní AI.
trí chás mion
Cás 1 — Oibríonn an teicníc fhrisnéise. Phiontáil iniúchóir an AI ag rá “tá cuma réasúnta ar an luacháil stoic seo.” In ionad a dheimhniú, d’fhiafraigh sé siar-láimh: “Má dhéantar áibhéil ar an luacháil seo, cén fhianaise a thaispeánfadh é?” "míreanna a dtagann praghsanna iar-díolacháin faoi bhun an chostais ina leith," a dúirt YZ. Chuardaigh an t-iniúchóir na míreanna seo agus fuair sé grúpa nach raibh mórán luach orthu i ndáiríre. Nocht an cheist fhrisnéise an baol go raibh an dearbhú ceilte.
Cás 2 — Laofacht dearbhaithe a bheith ann. D’fhiafraigh ball foirne den AI le linn géarchor, “níl aon rud mór cearr leis an gcuntas seo, ceart?” d'iarr sé. Lean YZ ar an gceist agus dúirt sé, "De réir na faisnéise a chuir tú ar fáil, ní cosúil go bhfuil fadhb shuntasach ann." Chuir ball na foirne ar a suaimhneas agus chuir sé caipín ar an bpeann. Ní raibh aon fhianaise curtha i láthair aige, áfach; Níor léirigh an AI ach a phianbhreith. Léirigh an duine atá freagrach nár cuireadh an cheist go neamhchlaonta. Ceacht: is é an chaoi a gcuireann tú an cheist an freagra a gheobhaidh tú; Cruthaíonn ceist atá ag lorg daingnithe.
Cás 3 - Ag titim i leith líofachta. Shíl iniúchóir go raibh an léirmhíniú ar an reachtaíocht a mhínigh YZ i mír an-líofa agus réasúnaithe ceart agus chuir sé san áireamh sa pháipéar oibre é. Bhí an téacs chomh néata sin nár tharla dó é a cheistiú. Léirigh an duine atá freagrach nach raibh a chomhionann sa téacs oifigiúil ag an teistiméireacht. Ceacht: ní cruthúnas cruinnis iad líofacht agus muinín; Seans gurb é an toradh is diongbháilte é an ceann is contúirtí.
Leid lag / Pras láidir
Leid lag:
Tá an anailís seo ceart, ceart? An gceadaíonn tú?
An fhadhb: ceist claonta a lorgaíonn dearbhú. Cuireann sé brú ar an AI a bheith páirteach leat; Cothaíonn sé laofacht deimhnithe agus folaíonn sé fíorriosca.
Leid chumhachtach:
Do ról: is comhpháirtí neamhspleách fiosrúcháin iniúchóra thú. Ní hé do thasc ná COMHAONTÚ liom, ach iarracht a dhéanamh m'aschur a DHÚSÚ. Comhthéacs: Anseo thíos tá mo chonclúid ar nós imeachta anailíse agus mo chonclúid trialach. [téacs toraidh] Tasc:1) Liostaigh na 3 chás is dóichí ina bhféadfadh an chonclúid seo a bheith BRÉAGACH.2) I gcás gach cás: "dá mbeadh sé seo fíor, cén fhianaise a thaispeánfadh é?" Mol fianaise nithiúil inchuardaithe. 3) Marcáil aon sonraí nó boinn tuisceana a d’fhéadfadh a bheith caillte agam. 4) Ná déan abairtí a aontaíonn liom; Tá sé de chúram ort pointí laga a aimsiú. Marcáil "anaithnid" áit nach bhfuil tú cinnte.
Tá an leid seo cumhachtach toisc go n-aisiompaíonn sé ról an AI (fhrisnéis), éilíonn cásanna frithbheartaíochta agus fianaise inchuardaithe, agus cosc ar theanga atá ag lorg deimhnithe. Cuireann sé seo AI i seirbhís amhrais seachas mar ionstraim dearbhaithe.
Botúin choitianta
- Ag cur ceisteanna ag lorg formheasa. "Tá sé ceart go leor, ceart?" tríd an bhfreagra comhaontaithe a iarraidh agus a chinntiú.
- Líofacht dhearmadta maidir le cruinneas. Glacadh le haschur dea-scríofa, muiníneach gan cheist.
- Bí sásta le sampla deimhnitheach amháin. Ag críochnú leis an gcéad chinneadh tacaíochta, gan iarracht a dhéanamh é a bhréagnú.
- Dlínse doshannta a tharmligean. An cinneadh maidir le leordhóthanacht fianaise, réasúntacht, tuairim a fhágáil chuig AI.
- An t-amhras a ligean ar lár faoi bhrú ama. Dídean i bhfreagra compordach AI nuair a bhíonn tú i bhfostú.
Rabhadh: Is é brú ama an namhaid is mó amhras, agus éiríonn AI is contúirtí faoin mbrú seo; toisc go dtugann sé freagra tapa, líofa agus compordach duit. Bíodh sé riachtanach an cheist fhrisnéise a chur nuair a bhíonn deifir ort.
Go hachomair
Tá amhras gairmiúil ag croílár na hiniúchóireachta agus éiríonn sé níos tábhachtaí fós in aois AI. Spreagann AI trí laige: siabhránacht (déanann sé suas é), laofacht uathoibrithe (creidimid é toisc go bhfuil sé sreabhán), claonadh deimhnithe (ní cheistímid é toisc go ndeir sé a bhfuil súil againn dó). Tá an antidote le ruaigeadh chun AI a bhréagnú, gan é a dhearbhú: “má tá sé seo bréagach, cén fhianaise a thaispeánfadh é?” ' agus fianaise contrártha á lorg, ag fiafraí go hoibiachtúil agus ar gcúl, ag atáirgeadh gach aschur ón bhfoinse. Teastaíonn amhras faoi bhreithiúnais amhail leordhóthanacht fianaise, réasúntacht, riosca calaoise, agus breithiúnas tuairime agus níl siad inaistrithe. Ní cruinneas é líofacht; Is leatsa an aigne skeptical.
Tasc feidhmchláir
Faigh do thoradh iniúchta (nó toradh hipitéiseach). Iarr ar an AI ar dtús le ceist lag "lorg dearbhú", ansin leis an bpatrún pras láidir "fhrisnéise" thuas. Cuir an dá thoradh taobh le taobh agus scríobh síos an difríocht: cé na rioscaí a léirigh an cheist fhrisnéise amháin? Ansin cuir dhá nóta in aice le gach príomhéileamh i d’aschur: “cad a fhíoraigh mé leis” agus “cén fhianaise a thaispeánfadh dá mbeadh sé bréagach”.
seicliosta
- [ ] Chuir mé ceisteanna fhrisnéise/neodracha an AI, ní ceisteanna a bhí ag lorg deimhnithe.
- [ ] I gcás gach toradh suntasach, “má tá sé seo bréagach, cén fhianaise a thaispeánfadh é?” Chuir mé an cheist agus d'fhéach mé le haghaidh fianaise.
- [ ] Thástáil mé an t-aschur, a raibh cuma réidh agus muiníneach air, le amhras breise.
- [ ] Níor stop mé le sampla deimhnitheach amháin; Rinne mé iarracht é a bhréagnú ach theip air.
- [ ] Rinne mé mo bhreithiúnais féin ar nós leordhóthanacht fianaise, réasúntacht agus tuairim.
- [ ] Fiú amháin faoi bhrú ama, níor léig mé an cheist fhrisnéise.
- [ ] In aice leis na héilimh thábhachtacha, rinne mé nótaí ar "cad a d'fhíoraigh mé leis / cad a thaispeánfadh dá mbeadh sé mícheart".