Girdeji:
- Professional skeptizmiň nämedigini we emeli intellekt ulanylanda tassyklama ikitaraplaýynlyga we awtomatlaşdyryş tarapyna düşmegiň töwekgelçiligine düşüniň
- Emeli intellektiň çykarylyşyny ret etmäge synanyşýan sorag usuly bilen barlamak ukyby (tersine gözläň)
- Emeli intellektiň arkaýynlygynyň takyklygy aňlatmaýandygyna, şübheli aňyň dolandyryşyň özenidigine we geçirip bolmajakdygyna düşünip bilmek.
Garaşsyz auditi beýleki hünärlerden tapawutlandyrýan bir akyl garaýşy bar: hünär skeptizmi. ISA-lar muny, "subutnamaly potensial ýoýulmany görkezýändigini ýa-da subutnamalara tankydy baha berýändigini" anyklaýan akyl bilen işleýän auditor hökmünde kesgitleýärler. Audagny, auditor özüne hödürlenen maglumatlary awtomatiki usulda kabul etmeýär - dolandyryş beýany, resminama ýa-da hatda “ýerlikli görünýän” hasap hem dogry däl. "Hakykatdanam şeýlemi?" diýip soraýar. Bu garaýyş gözegçilikiň özenidir we aýrylmazdyr.
Emeli intellekt döwründe bu ýadro täze synag bilen ýüzbe-ýüz bolýar. AI adam aňynyň iki çuňňur gowşak taraplaryny - awtomatlaşdyryş we tassyklama taraplaryny ýüze çykarmaga ökde. Bu bölümde, AI ulanýan auditoryň öz şübhelerini nädip saklap biljekdigini ýa-da güýçlendirip biljekdigini öwreneris. Esasy tezis, AI-iň erkin gürlemegi; Şübheli akyl AI-iň öňünde hasam möhüm bolýar.
Iki howply tarap
Awtomatlaşdyryş ikitaraplaýynlygy, adamlaryň öz pikirlerinden has köp maşyn / programma üpjünçiliginiň çykyşyna ynanmak meýli. "Kompýuter hasaplady, dogry." AI barada aýdylanda bu howp ulalýar, sebäbi AI diňe hasaplamaýar; Arkaýyn, ynamly, adama meňzeş, pikirli sözlemleri gürleýär. Ygtybarly äheň, maglumat takyk bolmasa-da ynandyryjydyr.
Tassyklama ikitaraplaýynlygy, adamlaryň ozal ynanan ýa-da umyt eden netijesini goldaýan we gapma-garşy maglumatlary äsgermezlik edýän maglumatlary gözlemek meýli. Auditde bu ölüm howply: "Bu müşderi arassa bolmaly" diýip pikir edýän auditor, AI-den sorasa we tassyklamany alanda rahatlanar we tersine subutnama gözlemegi bes eder. AI berilýän soraga ýykgyn edýändigi sebäpli (“gowy, şeýlemi?” Diýip sorasaňyz, siziň bilen ylalaşýan jogap bermegi has ähtimal), bu tassyklama ikitaraplaýyn pikiri döredip biler.
Üçünjisi hem bar: galýusinasiýa. Modulda köp gezek gördük - AI ýok san, element, çeşme arkaýyn düzüp biler. Üç gowşaklyk birleşdirilende howp hasam güýçlenýär: AI zatlary düzýär (galýusinasiýa), suwukdygyna ynanýarsyňyz (awtomatlaşdyryş ikitaraplaýyn), garaşýan zadyňyzy aýdýandygy üçin sorag bermeýärsiňiz (tassyklama ikitaraplaýyn).
Şübheli aňyň AI-e garşy üç guraly
AI-e garşy anyk usullara şübheli garalyň:
- Tassyklamaga däl-de, ret etmäge synanyşyň. AI çykyşyny sorap biler “bu hakykatmy?” däl "munuň nädogrydygyny nädip bilerin?" sorag. Özüňize soraň: "Bu söz ýalan bolsa, haýsy subutnama görkezer?" subutnamany gözläň. Tassyklaýan ýekeje mysal tapmak aňsat; Muny ret etmek we şowsuzlyga synanyşmak hakyky kepillik berýär.
- Bitarap we yza soraň. AI-den "bu ýerde mesele ýok, şeýlemi?" Sorama; makullanan jogaby çagyrýar. Munuň ýerine, "bu maglumatlarda ýitiren töwekgelçiliklerim näme?" we "bu netijäniň nädogry bolup biläýjek üç senari haýsy?" sora. Birmeňzeş soragy iki garşy tarapdan beriň we jogaplary deňeşdiriň.
- Çeşmäni göçürip almak we köpeltmek. Her bir mesele, atributiýa we netije üçin “muny nirede garaşsyz tassyklamaly?” Soragy beriň we hakykatdanam barlaň. AI-iň çykyşyna tassyklama hökmünde serediň; Subutnamalar daşarky zat.
Maslahat: Bir endik edin: AI berýän her möhüm önümiň gapdalynda iki zady el bilen ýazyň - "(1) muny nämäni tassykladym, (2) ýalan bolsa muny haýsy subutnama görkezer." Bu iki bellik hem awtomatlaşdyrmagy, hem-de tassyklama tarapyny bozýar.
Auditoryň tabşyryp bilmejek hökümleri
Käbir işler özbaşdak şübhe we düşünjäni talap edýär; bulary AI-e tabşyryp bolmaz, diňe goldaýar:
aýrylmaz ýurisdiksiýa
Näme üçin
Subutnamalaryň ýeterlik we ýerliklidigi
Hünär derejesi; kontekste baglydyr
Düşündirişiň esaslylygy
Kärhananyň we niýetiň göz öňünde tutulmagyny talap edýär
Galplyk töwekgelçiligini bahalandyrmak
Şübhesizlik we duýgurlyk; maglumat nusgasynyň daşynda
Maddy we pikir karary
Jemgyýet üçin jogapkär kazyýet
Dolandyryşyň dogruçyllygy barada pikir
Adamyň özüni alyp barşyny okamak; AI muny edip bilmeýär
Şübhesizlik bilen pyýada goşunyň arasyndaky tapawut: ölçenen garaýyş
Professional şübhe hemme zada ynanmazlygy ýa-da dolandyryşy öňünden günäkärlemegi aňlatmaýar; Bu artykmaçlyk bolar we gözegçiligi netijesiz eder. Skeptizm ne arassa ynam (size aýdylanlaryň hemmesini kabul etmek) ýa-da kör inkär etmek (hemme zady ret etmek) däl; Arasynda, subutnamalara laýyk gelýän gözleg. Auditor dolandyryşy dogruçyl kabul edip biler, ýöne bu kabul edilmegi subutnamalar bilen synag edýär; esasly düşündiriş tapyp biler, ýöne esaslydygyny tassyklaýar. AI bu deňagramlylygy bozup biler: bir ugurda, suwuklygy bilen özüni aşa ynamly eder; Başga bir tarapdan, "hemme zatdan kemçilik tap" diýseňiz, size tükeniksiz ýalan pozitiwler dörär. Dogry garaýyş, subutnamalary çykarmak we subutnamalary inkär etmek üçin AI-ni işledip, netijäni elmydama subutnamalaryň agramyna deňeşdirmekdir. Skeptizm şahsyýet aýratynlygy däl-de, tertipli iş usulydyr; AI däl-de, bu tertip-düzgüni döredýän, goldaýan we subut edýän auditor.
üç sany kiçi halat
1-nji waka - ret etmek usuly işleýär. Gözegçi AI-ni “bu paýnamanyň bahasy ýerlikli görünýär” diýip çap etdi. Muny tassyklamagyň deregine, arkaýyn sorady: "Bu baha kesilen bolsa, haýsy subutnama görkezer?" "Satuwdan soňky bahalar arzan düşýän zatlar" -diýdi. Gözegçi bu zatlary gözledi we hakykatdanam baha berilmedik bir topar tapdy. Ret edilen sorag tassyklamanyň gizlenýän töwekgelçiligini paş etdi.
2-nji hadysa - tassyklamagyň tarapdary. Bir toparyň agzasy AI-den kynçylyk wagtynda sorady: "Bu hasapda düýpli ýalňyşlyk ýok, şeýlemi?" diýip sorady. YZ soraga daýanyp: "Berlen maglumatlaryňyza görä, möhüm mesele ýok ýaly" -diýdi. Toparyň agzasy rahatlandy we ruçkany ýapdy. Emma muňa garamazdan, ol hiç hili subutnama bermedi. AI diňe sözlemini görkezdi. Jogapkär adam, soragyň bitarap berilmeýändigini görkezdi. Sapak: soragy nädip berýändigiňiz, jogabyňyzy kesgitleýär; Tassyklamak isleýän sorag tassyklamany döredýär.
3-nji hadysa - erkin gürlemek. Gözegçi, YZ-yň gaty arassa we esaslandyrylan abzasda düşündiren kanunçylygynyň düşündirişiniň dogrydygyny we iş kagyzyna goşandygyny aýtdy. Textazgy şeýle bir nepisdi welin, ony sorag etmek başartmady. Jogapkär adam, salgylanmanyň resmi tekstde ekwiwalentiniň ýokdugyny görkezdi. Sapak: arkaýynlyk we ynam takyklygyň subutnamasy däl; Iň ynandyryjy görünýän netije iň howply bolup biler.
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Bu derňew dogry, şeýlemi? Siz tassyklaýarsyňyzmy?
Mesele: tassyklamagy gözleýän ikitaraplaýyn sorag. AI-ni size goşulmaga iterýär; Tassyklama ikitaraplaýynlygy döredýär we hakyky töwekgelçiligi gizleýär.
Güýçli haýyş:
Siziň roluňyz: garaşsyz auditoryň möhüm derňew hyzmatdaşy. Siziň wezipäňiz meniň bilen ylalaşmak däl-de, çykyşymy ret etmek üçin synanyşmak. Kontekst: Aşakda analitiki proseduranyň netijesi we ilkinji netijäm. Beton, gözlenýän subutnamalary teklip ediň. 3) Geçiren maglumatlarymy ýa-da çaklamalary belläň. 4) Meniň bilen ylalaşýan sözlemleri düzmäň; Size gowşak taraplary tapmak tabşyryldy. Ynanmaýan ýeriňize "näbelli" belläň.
Bu isleg güýçli, sebäbi AI (ret etmek) roluny tersleşdirýär, ret edilýän ssenariýalary we gözlenýän subutnamalary talap edýär we tassyklaýyş dilini gadagan edýär. Bu, AI-ni tassyklamagyň tarapdary däl-de, şübheli hyzmat edýär.
Adaty ýalňyşlyklar
- Makullamak isleýän soraglar bermek. "Gowy, şeýlemi?" ylalaşylan jogaby soramak we üpjün etmek arkaly.
- Takyklygy üçin ýalňyş gürlemek. Gowy ýazylan, ynamly çykyşy soragsyz kabul etmek.
- Bir tassyklaýjy mysal bilen razy boluň. Ony inkär etmän, ilkinji goldaýan tapyndy bilen ýapmak.
- Aýrylmaz ýurisdiksiýany tabşyrmak. Subutnamalaryň ýeterlikliligini, paýhaslylygyny, pikirini AI-e goýmak.
- Wagt basyşy astynda şübhe bildirmek. Dykylan wagtyňyz AI-iň teselli beriji jogabyna pena bermek.
Üns beriň: Wagt basyşy şübheleriň iň uly duşmanydyr we AI bu basyş astynda iň howply bolýar; sebäbi size çalt, erkin we teselli beriji jogap hödürleýär. Gyssagly bolsaňyz, ret edilýän soragy bermegi hökmany ediň.
Gysgaça
Professional skeptizm auditiň özenidir we AI döwründe has möhüm bolýar. AI üç gowşaklygy ýüze çykarýar: galýusinasiýa (ony düzýär), awtomatlaşdyryş ikitaraplaýynlygy (suwukdygyna ynanýarys), tassyklama ikitaraplaýyn (umyt edýän zadymyzy aýdýandygy üçin sorag etmeýäris). Antidote AI-ni inkär etmek üçin howlukmaly, ony tassyklamaly däl: "bu ýalan bolsa, haýsy subutnama görkezer?" 'we ters subutnamalary gözlemek, obýektiw we yza soramak, çeşmeden her çykyşy köpeltmek. Subutnamalaryň ýeterlikligi, paýhaslylyk, galplyk töwekgelçiligi we pikir hökümi ýaly hökümler şübhe talap edýär we geçirip bolmaýar. Erkinlik takyklyk däl; Şübheli akyl seniňki.
Programma meselesi
Gözegçilik netijäňizi alyň (ýa-da gipotetiki netije). AI-den ilki "tassyklama gözleýän" gowşak sorag bilen, soň bolsa ýokardaky "ret etmek" güýçli çaltlyk bilen soraň. Iki netijäni gapdala goýuň we tapawudyny ýazyň: haýsy töwekgelçilikler diňe ret etmek soragy bilen ýüze çykaryldy? Soňra çykyşyňyzdaky her esasy talapyň gapdalynda iki bellik goşuň: "näme bilen tassykladym" we "ýalan bolsa haýsy subutnama görkezer".
gözegçilik sanawy
- [] Men tassyklaýan sorag däl-de, AI ret etmek / bitarap soraglar berdim.
- [] Her bir möhüm netije üçin, "bu ýalan bolsa, haýsy subutnama görkezer?" Soragy berdim we subutnama gözledim.
- [] Smoothumşak we ynamly görünýän çykyşy goşmaça şübhe bilen synadym.
- [] Singleeke-täk tassyklaýjy mysal bilen durmadym; Men muny ret etjek boldum, ýöne şowsuz boldum.
- [] Subutnamalaryň ýeterlikligi, paýhaslylyk we pikir ýaly öz pikirlerimi etdim.
- [] Wagtyň basyşynda-da ret etmek soragyndan geçmedim.
- [] Möhüm talaplaryň gapdalynda "nämäni tassykladym / nädogry bolsa nämäni görkezerin" diýip bellikler etdim.