Ayẹwo-Critical Ayẹwo, Ifọwọsi Amoye ati Lilo Lodidi

Awọn anfani:

• Imọye iru aabo-pataki ti blockchain ati awọn idi ti oye itetisi atọwọda ko le rii aṣiṣe atilẹba, pese idaniloju eke, jẹ ti ọjọ ati kuna lati gba ojuse.
• Agbara lati ṣe idiwọ aṣiṣe kan lati jijo sinu eto laaye pẹlu ijẹrisi siwa ti o fi ẹnu-ọna ijerisi eniyan ni gbogbo ipele
• Ifọwọsi ipari aabo-pataki jẹ ti alamọja ti o peye ati agbara lati gba awọn ipilẹ ti ojuse eniyan, idi aabo, aṣiri, akoyawo ati otitọ.

Eleyi jẹ julọ pataki kuro ti yi module. Nitorinaa a ti rii bii AI ṣe n yara ohun gbogbo lati kikọ iwe adehun ọlọgbọn si itupalẹ lori pq, lati awọn tokenomics si wiwa ẹtan. Ninu ẹyọ yii, a pada sẹhin ki a wo ọkan ti ọrọ naa: kilode ti iṣelọpọ AI ko le rọpo ifọwọsi iwé ti o pe ni iṣẹ pataki-aabo. Ati bi amoye, kini ilana fun lilo AI ni ifojusọna? Imọ-ẹrọ Blockchain jẹ aaye aabo-pataki nibiti awọn aṣiṣe taara ati laiṣe iyipada sinu owo; Ẹka yii ṣe pẹlu awọn ibeere ti otitọ yẹn.

Kini "aabo-pataki" tumọ si ati kilode ti o yatọ?

Agbegbe kan jẹ pataki-ailewu ti abajade aṣiṣe kan jẹ eyiti ko le yipada ati pataki: isonu ti igbesi aye ni imọ-ẹrọ afara, aiṣedeede ninu oogun, lẹsẹkẹsẹ ati pipadanu ayeraye ti awọn miliọnu dọla ni blockchain. Ọwọn itẹwọgba ni awọn agbegbe wọnyi yatọ patapata si sọfitiwia lasan:

• "O jasi ṣiṣẹ" ko to; gbọdọ jẹ ẹri.
• "A yoo ṣe atunṣe nigbamii" ko wulo; Iyipada ko ni idariji.
• Ifọwọsi ikẹhin wa pẹlu alamọja ti o ni oye ti o dawọle alamọdaju ati ojuse labẹ ofin.

AI jẹ oluranlọwọ; ko le gba ojuse, ko le ṣe jiyin, ati pe ko le duro lẹhin awọn abajade. Ti ijabọ iṣayẹwo ba padanu ailagbara kan, ojuṣe naa wa pẹlu alamọja ti o fowo si, kii ṣe AI. “AI sọ bẹ” kii ṣe aabo ti imọ-ẹrọ.

Kini idi ti AI ko le rọpo amoye: awọn idi pataki mẹrin

1. AI ko le rii atilẹba ati aṣiṣe ọrọ-ọrọ. AI ṣe idanimọ awọn ilana ni data ikẹkọ. Ailagbara tuntun kan, aṣiṣe oye iṣowo kan pato ti ilana, tabi ibaraenisepo alailẹgbẹ ti awọn paati jẹ aaye afọju AI. Awọn ikọlu Web3 ti o gbowolori julọ wa lati ni deede awọn ailagbara alailẹgbẹ wọnyi.

2. AI funni ni idaniloju eke. AI le ni irọrun ati igboya sọ pe “koodu dabi ailewu” - lakoko ti o jẹ aṣiṣe. Yi "hallucination ti ailewu" ni awọn lewu julo àbájade ni a ailewu-lominu ni agbegbe; nitori ti o ṣẹda a eke ori ti aabo.

3. AI jẹ ti ọjọ. Imọ AI duro ni ọjọ gige ti eto-ẹkọ. Awọn ikọlu tuntun, awọn ẹya ile-ikawe tuntun, awọn iṣe tuntun ti o dara julọ kọja oju-aye rẹ. Aabo jẹ ẹya lailai-iyipada ije; Alaye ana le ko to loni.

4. AI ko le gba ojuse. Eyi jẹ boya idi ipilẹ julọ. Ifọwọsi imọ-ẹrọ kii ṣe imọ-ẹrọ nikan ṣugbọn tun jẹ adehun ofin ati ilana. A ẹrọ ko le ṣe yi ifaramo.

Išọra: Ninu iṣelọpọ pataki-aabo, ibeere naa ni “Kini AI sọ?” ṣugbọn "Ta ni oye eniyan ti o verifies, validates ati ki o duro sile yi o wu?" yẹ ki o jẹ. Ko si ifọwọsi ti kii ṣe alamọja - boya nipasẹ AI tabi nipasẹ ohun elo — ni a le gbero idaniloju.

Ijeri siwa: idilọwọ awọn idun ẹyọkan lati jijo laaye

Ṣiṣan iṣẹ ṣiṣe lodidi fi ẹnu-ọna ijerisi eniyan ni gbogbo ipele. O ko le kọja nipasẹ ẹnu-ọna kan lai kọja nipasẹ miiran:

Ipele

AI ilowosi

eda eniyan ijerisi ẹnu-bode

akọtọ

osere koodu

Kọ + igbeyewo + awotẹlẹ

ọlọjẹ

Ailagbara oludije

Ayẹwo aimi + ìmúdájú oluyẹwo

Ayẹwo

Italologo, iwe iroyin

Ibuwọlu ẹniti nṣe ayẹwo iwe-owo ti o peye

idanwo

iwe afọwọkọ

Testnet + fuzzing + kikopa

Pinpin

akojọ ayẹwo

Ijẹrisi Ibuwọlu pupọ + ijade mimu

Abojuto

anomaly ami

eda eniyan esi ètò

Ilana siwa yii ṣe idilọwọ kokoro AI kan lati jijo sinu mainnet. Ilẹkun kọọkan ni ipo igbasilẹ ti o han gbangba: ṣe idanwo naa kọja, ṣe ami oluyẹwo, ṣe simulation naa duro?

Ọna ti ko lagbara / Ona ti o lagbara

Ọna ti ko lagbara:

AI ṣe ipilẹṣẹ koodu, o dabi mimọ, jẹ ki a fi sii lori mainnet.

Eyi jẹ ohunelo fun ajalu ni agbegbe ti ko le yipada.

Ọna ti o lagbara:

1. AI ṣe agbejade naa → a ṣajọ rẹ, danwo rẹ.2. Itupalẹ aimi + AI ọlọjẹ → oluyẹwo timo.3. Aabo olominira → Iroyin ti o fowo si.4. Testnet + fuzzing + kikopa → awọn oju iṣẹlẹ ti farada.5. Ibuwọlu pupọ, ijade mainnet cascading + ibojuwo. Ni ibudo kọọkan: ko si ilọsiwaju titi ipo iyipada yoo pade.

Mẹrin daakọ awọn awoṣe

1) Iṣakoso ẹnu-ọna ijẹrisi:

Ṣe agbekalẹ iwe ayẹwo afọwọsi fun iṣẹjade aabo-pataki yii: nipasẹ awọn igbesẹ ominira wo (akopọ, itupalẹ aimi, iṣatunṣe, idanwo, kikopa) Ṣe o yẹ ki o fọwọsi? Kọ ipo iyipada fun igbesẹ kọọkan. Sọ iru ewu ti yoo waye ti igbesẹ kan ba fo.

2) Aami ipele igbẹkẹle iṣejade AI:

Ṣe atunyẹwo iṣẹjade ti AI ti ipilẹṣẹ ni isalẹ ki o samisi iṣeduro kọọkan: “fidi / yẹ ki o rii daju / agbegbe ailera AI”. Ṣe afihan awọn aaye ti o nilo oye eniyan, pataki awọn ti o kan ọgbọn iṣowo ati eewu alailẹgbẹ.

3) Akọsilẹ gbigbe amoye:

Lati fi abajade yii ranṣẹ si amoye ti o ni oye, pese akopọ kan: kini AI ṣe, pẹlu awọn ero wo, nibo ni ko daju, nibo ni pataki ni amoye nilo lati jẹrisi? Jẹ ki o ye wa pe ojuse wa pẹlu amoye.

4) Igbaradi esi iṣẹlẹ:

Ṣe agbejade laini idahun pajawiri/iṣẹlẹ fun ilana yii: awọn igbesẹ wo (aṣẹ ikọlu, ibaraẹnisọrọ, aabo inawo) yoo kan ti o ba jẹ pe ailagbara kan ni ilokulo ninu ẹda kan? Eyi jẹ apẹrẹ; Ẹgbẹ ati alamọja gbọdọ ṣatunṣe.

Awọn ọran kekere mẹta (ni awọn nọmba)

Ọran 1 - Fo ẹnu-ọna mu ajalu. Nitori titẹ akoko, ẹgbẹ kan fo ayewo ominira ati gbarale AI + awọn idanwo tirẹ ati lọ si mainnet. Awọn ọjọ 11 nigbamii ~ $4M yọkuro kuro ninu ailagbara ọgbọn-ọrọ iṣowo kan. Ẹnu-ọna ayewo yoo jasi eyi. Ẹkọ: maṣe fori ilẹkun ni agbegbe aabo-pataki.

Ọran 2 - Ijeri Layered ti o fipamọ. Ẹgbẹ miiran ṣiṣẹ ni ẹnu-ọna kọọkan: Apẹrẹ AI → itupalẹ aimi → iṣayẹwo → testnet → kikopa. Lakoko ipele iṣayẹwo, isọdọtun, eewu oracle ni a mu ninu kikopa naa. Mejeji ti wọn ni pipade ṣaaju ki o to mainnet. Ẹkọ: awọn ipele ṣe idiwọ awọn aṣiṣe ẹyọkan lati jijo sinu.

Ọran 3 - "Ailewu hallucination." Olùgbéejáde kan beere AI nipa koodu naa; “Ko han pe awọn ọran aabo pataki eyikeyi,” AI sọ. Ẹgbẹ naa firanṣẹ fun ayewo lonakona, ati pe awọn awari ipele giga meji ti farahan. Ti a ba ti gbẹkẹle AI, awọn mejeeji yoo ti wa laaye. Ẹkọ: Ifihan AI ti igbẹkẹle kii ṣe ijẹrisi.

Awọn ilana ti lodidi lilo

A le dinku pataki ti module yii si awọn ipilẹ mẹfa:

1. Ojuse eniyan: Aabo-lominu ni ase ase isimi pẹlu awọn amoye; AI ko le ṣe jiyin.
2. Ijeri Layered: Ẹnu-ọna eniyan ati ipo kọja ni ipele kọọkan.
3. Lilo igbeja: Lati daabobo ati iṣakoso alaye; Ko lati lo nilokulo / pakute.
4. Asiri: koodu alabara ati data ko fun ni lati ṣii awọn irinṣẹ laisi igbanilaaye.
5. Itọkasi: Lilo AI ni a sọ ni otitọ ninu ijabọ naa; Ko si abumọ tabi idaniloju eke ni a fun.
6. Otitọ: Awọn oludokoowo ati awọn olumulo ko ni ṣina; Ewu ko farasin, imọran ko boju-boju.

Imọran: Beere ararẹ ni ibeere kan fun gbogbo ipinnu pataki-aabo: "Ti eyi ba jẹ aṣiṣe ati pe owo naa ti sọnu, ṣe iṣeduro eniyan ti o ni ẹtọ lati duro lẹhin rẹ ati ki o gba ojuse?" Ti idahun ba jẹ “Bẹẹkọ, AI sọ bẹ,” ilana naa ko pe.

Awọn aṣiṣe ti o wọpọ

• Bypassing ominira se ayewo ẹnu-bode. O jẹ aforiji ni agbegbe ti a ko le yipada.
• Asise awọn AI ká ikosile ti igbekele bi ìmúdájú. "Ailewu hallucination" jẹ ewu julọ.
• Gbiyanju lati fi ojuse si AI. Ojuse wa pẹlu amoye ti o fowo si.
• Ti ro pe akoko ti akoko. AI ko mọ kọja ọjọ gige ikẹkọ.
• Awọn ilẹkun kikuru nitori titẹ akoko. Orisun aṣiṣe ti o gbowolori julọ.
• Nlọ laisi ero idahun iṣẹlẹ kan. Nigba ti a jo ba waye, ọkan ti wa ni osi lai mura.

Ni akojọpọ

• Blockchain jẹ pataki-aabo; Awọn aṣiṣe ko ni iyipada ati ki o yipada taara sinu owo.
• AI ko le rii aṣiṣe atilẹba, funni ni idaniloju eke, ko ti pẹ ati pe ko le gba ojuse.
• Ti o ni idi ti o kẹhin ailewu-lominu ni alakosile nigbagbogbo da pẹlu awọn ti oye iwé.
• Ijerisi Layered ṣe idiwọ aṣiṣe kan lati jijo sinu agbegbe laaye nipa gbigbe ẹnu-ọna eniyan ni ipele kọọkan.
• Lodidi lilo: ojuse eniyan, idi igbeja, asiri, akoyawo ati otitọ.

Ohun elo iṣẹ-ṣiṣe

Fojuinu iṣẹ akanṣe adehun ọlọgbọn kan (tabi mu apẹẹrẹ gidi kan). Kọ eto ijẹrisi ti o fẹlẹfẹlẹ fun gbogbo irin-ajo lati imọran si akọkọ: kini AI ṣe ni ipele kọọkan, kini ẹnu-ọna eniyan wa nibẹ, kini ipo iyipada? Lẹhinna ṣafikun oju iṣẹlẹ “titẹ akoko” kan: ilẹkun wo ni yoo lewu julọ lati fori ati kilode? Bakanna pẹlu ilana idasi iṣẹlẹ kan.

akojọ ayẹwo

• [] Mo ti gba pe awọn ik aabo-lominu ni alakosile wa pẹlu awọn iwé.
• [] Mo fi ẹnu-ọna ijerisi eniyan si ipele kọọkan.
• [] Emi ko ka ikosile ti igbẹkẹle AI bi ijẹrisi.
• [] Emi ko fori ẹnu-ọna iṣayẹwo ominira.
• [] Emi ko ro topicality; Mo jẹrisi alaye tuntun pẹlu eniyan naa.
• [] Emi ko fi ojuse lori AI.
• [] Mo ti pese sile isẹlẹ esi ètò.