Riba:
- Fahimtar yanayin tsaro-mahimmanci na blockchain da dalilan da yasa hankali na wucin gadi ba zai iya gano kuskuren asali ba, ba da tabbacin ƙarya, ya ƙare kuma ya kasa ɗaukar alhakin.
- Ƙarfin hana kuskure guda ɗaya daga shiga cikin tsarin rayuwa tare da tabbatarwa mai laushi wanda ke sanya ƙofar tabbatarwa ta mutum a kowane mataki.
- Amincewa mai mahimmanci na tsaro na ƙwararren ƙwararren ne da ikon ɗaukar ƙa'idodin alhakin ɗan adam, manufar tsaro, sirri, bayyana gaskiya da gaskiya.
Wannan shine mafi mahimmancin naúrar wannan module. Ya zuwa yanzu mun ga yadda AI ke haɓaka komai daga rubutun kwangila mai wayo zuwa bincike kan sarkar, daga tokenomics zuwa gano zamba. A cikin wannan rukunin, mun koma baya mu kalli zuciyar lamarin: me yasa fitar AI ba zai iya maye gurbin ƙwararrun ƙwararrun ƙwararrun ƙwararrun aiki ba. Kuma a matsayin kwararre, menene tsarin amfani da AI cikin amana? Aikin injiniya na Blockchain filin tsaro ne mai mahimmanci inda kurakurai kai tsaye kuma ba za a iya jujjuya su zuwa kudi ba; Wannan rukunin yana ma'amala da buƙatun wannan gaskiyar.
Menene ma'anar "tsaro-mahimmanci" kuma me yasa ya bambanta?
Wani yanki yana da mahimmancin aminci idan sakamakon kuskure ba zai iya jurewa ba kuma mai tsanani: asarar rai a aikin injiniyan gada, rashin aikin likita, asarar miliyoyin daloli a cikin blockchain nan take. Matsayin da aka yarda da shi a waɗannan wuraren ya sha bamban da software na yau da kullun:
- "Wataƙila yana aiki" bai isa ba; dole ne a tabbatar.
- "Za mu gyara daga baya" ba daidai ba ne; Rashin komawa baya gafartawa.
- Amincewa ta ƙarshe ta ta'allaka ne da ƙwararren ƙwararren wanda ya ɗauki alhakin ƙwararru da na doka.
AI mataimaki ne; ba za a iya ɗaukar nauyi ba, ba za a iya ɗaukar nauyi ba, kuma ba za a iya tsayawa a bayan sakamakon ba. Idan rahoton duba ya rasa lahani, alhakin yana kan ƙwararren wanda ya sa hannu, ba AI ba. "AI ta ce haka" ba kare aikin injiniya ba ne.
Me yasa AI ba zai iya maye gurbin gwani ba: dalilai hudu masu mahimmanci
1. AI ba zai iya ganin kuskuren asali da mahallin mahallin ba. AI ta gane alamu a bayanan horo. Wani sabon rauni, kuskuren dabaru na kasuwanci na ƙayyadaddun ƙa'ida, ko ma'amala ta musamman na abubuwan haɗin gwiwa shine wurin makaho na AI. Hare-haren Web3 mafi tsada sun fito ne daga daidai waɗancan raunin na musamman.
2. AI yana ba da tabbacin ƙarya. AI na iya a hankali da amincewa ta ce "wannan lambar tana da aminci" - yayin da ba daidai ba. Wannan "hallucination of aminci" shine mafi haɗari fitarwa a cikin wani yanki mai mahimmanci na aminci; saboda yana haifar da rashin tsaro.
3. AI ya ƙare. Ilimin AI yana tsayawa a ranar yankewar ilimi. Hare-hare na baya-bayan nan, sabbin nau'ikan laburare, sabbin ayyuka mafi kyau sun wuce gaban sa. Tsaro tsere ne da ke canzawa koyaushe; Bayanan jiya na iya zama rashin isa a yau.
4. AI ba zai iya ɗaukar alhakin ba. Wannan watakila shine dalili mafi mahimmanci. Amincewar injiniya ba fasaha ce kawai ba amma har da alƙawarin doka da ɗa'a. Na'ura ba za ta iya yin wannan alƙawarin ba.
Tsanaki: A cikin fitarwa mai mahimmancin tsaro, tambayar ita ce "Menene AI ta ce?" amma "Wane ne wanda ya cancanta wanda ya tabbatar, ya inganta kuma ya tsaya bayan wannan fitarwa?" ya kamata. Babu amincewar ƙwararru - ko ta AI ko ta kayan aiki - ba za a iya la'akari da tabbacin ba.
Tabbatacce mai Layered: hana kwaro ɗaya daga yawo kai tsaye
Gudun aiki mai alhakin yana sanya ƙofar tabbatar da ɗan adam a kowane mataki. Ba za ku iya wucewa ta wata kofa ba tare da wucewa ta wata ba:
Mataki
AI gudunmawa
qofar tabbatarwa
rubutawa
daftarin code
Gina + gwaji + bita
duba
Rashin raunin ɗan takara
Nazari a tsaye + Tabbatar da mai duba
Audit
Tukwici, daftarin rahoto
Ingantacciyar sa hannun mai dubawa
gwadawa
daftarin rubutun
Testnet + fuzzing + kwaikwayo
Rarrabawa
jerin abubuwan dubawa
Tabbatar da sa hannu da yawa + fita a hankali
Saka idanu
alamar anomaly
shirin mayar da martani na mutum
Wannan tsarin da aka shimfida yana hana bug AI guda ɗaya daga yawo cikin babban gidan yanar gizo. Kowace kofa tana da yanayin izinin wucewa: shin gwajin ya wuce, mai duba ya sa hannu, simulation ya riƙe?
Hanya mai rauni / Ƙarfi mai ƙarfi
Hanya mara ƙarfi:
AI ya haifar da lambar, yana kama da tsabta, bari mu sanya shi akan mainnet.
Wannan girke-girke ne na bala'i a cikin wani yanki da ba za a iya sokewa ba.
Hanya mai ƙarfi:
1. AI ta samar da daftarin → mun hada shi, mun gwada shi.2. A tsaye bincike + AI scan → auditor ya tabbatar.3. Binciken tsaro mai zaman kansa → rahoton sa hannu.4. Testnet + fuzzing + simulation → yanayi ya jure.5. Multi-sa hannu, cascading mainnet fita + saka idanu. A kowace tashar jiragen ruwa: babu ci gaba har sai an cika yanayin canji.
Samfura huɗu masu kwafi
1) Ikon Ƙofar Tabbatarwa:
Ƙirƙirar jerin abubuwan tabbatarwa don wannan fitowar mai mahimmanci na tsaro: ta waɗanne matakai masu zaman kansu (nasa, tantancewa, dubawa, gwaji, kwaikwaya) ya kamata a inganta shi? Rubuta yanayin canji na kowane mataki. Bayyana haɗarin da zai taso idan an tsallake mataki ɗaya.
2) Matsayin matakin amincewa da fitarwa na AI:
Yi nazarin fitowar AI da aka samar da ke ƙasa kuma yi alama ga kowane ikirari: “tabbatacciyar / ya kamata a tabbatar / yankin raunin AI”. Haskaka abubuwan da ke buƙatar ƙwarewar ɗan adam, musamman waɗanda suka shafi dabarun kasuwanci da haɗari na musamman.
3) Bayanin canja wurin ƙwararru:
To hand over this output to a competent expert, prepare a summary: what did the AI do, with what assumptions, where is it unsure, where specifically does the expert need to confirm? Ka bayyana a fili cewa alhakin yana kan gwani.
4) Shirye-shiryen mayar da martani:
Samar da jita-jita na martanin gaggawa/hatsari don wannan ƙa'idar: wadanne matakai (hukumar shiga tsakani, sadarwa, kariyar asusu) za a haɗa idan an yi amfani da rauni a cikin halitta? Wannan daftarin ne; Dole ne ƙungiyar da ƙwararren su daidaita.
Karama guda uku (a cikin lambobi)
Shari'a ta 1 - Tsalle kofa ya kawo bala'i. Sakamakon matsin lamba na lokaci, ƙungiyar ta tsallake binciken bincike mai zaman kansa kuma ta dogara da gwajin AI + na kansa kuma ya tafi babban gidan yanar gizo. Kwanaki 11 bayan haka ~$4M an cire su daga raunin dabarun kasuwanci. Ƙofar dubawa za ta iya kama wannan. Darasi: kar a ketare kofa a wuri mai mahimmancin tsaro.
Case na 2 - An adana ingantaccen tabbaci. Wata ƙungiya ce ta sarrafa kowace kofa: AI blueprint → tsayayyen bincike → dubawa → testnet → kwaikwayo. Yayin lokacin tantancewa, sake dawowa, an sami haɗarin baka a cikin simintin. Dukansu sun rufe kafin mainnet. Darasi: Yadudduka suna hana kurakurai guda daga zubewa.
Case 3 - "Safe Hallucination." Wani mai haɓakawa ya tambayi AI game da lambar; "Babu wani muhimmin al'amurran tsaro," in ji AI. Tawagar ta aika da shi don dubawa ta wata hanya, kuma binciken manyan matakai biyu ya bayyana. Idan da mun amince da AI, da su biyun sun rayu. Darasi: Bayanin amincewar AI ba tabbaci ba ne.
Ka'idodin amfani da alhakin
Za mu iya rage ainihin wannan tsarin zuwa ka'idoji shida:
- Alhakin ɗan adam: Amincewa-mahimmancin aminci na ƙarshe ya rataya ne da ƙwararren ƙwararren; Ba za a iya ɗaukar AI da alhakin ba.
- Tantancewar sikelin: Ƙofar mutum da yanayin wucewa a kowane mataki.
- Amfanin tsaro: Don karewa da sarrafa bayanai; Ba don amfani / tarko ba.
- Sirri: Ba a ba da lambar abokin ciniki da bayanai don buɗe kayan aikin ba tare da izini ba.
- Gaskiya: Amfani da AI an faɗi gaskiya a cikin rahoton; Ba a bayar da karin gishiri ko tabbacin karya.
- Gaskiya: Ba a yaudari masu saka hannun jari da masu amfani; Hadarin ba a ɓoye yake, ba a rufe shawara.
Tukwici: Yi wa kanka tambaya ɗaya don kowane yanke shawara mai mahimmanci na tsaro: "Idan wannan ba daidai ba ne kuma aka yi asarar kuɗin, shin an sami ingantaccen tabbaci na ɗan adam don tsayawa a baya da ɗaukar nauyi?" Idan amsar ita ce "a'a, AI ya ce haka," tsarin bai cika ba.
Kuskuren gama gari
- Ketare kofa mai zaman kanta. Ba shi da gafara a cikin yankin da ba za a iya sokewa ba.
- Kuskure bayanin amana na AI azaman tabbaci. "Safe Hallucination" shine mafi haɗari.
- Ƙoƙarin sanya alhakin akan AI. Alhakin ya rataya akan kwararre ne wanda ya sanya hannu.
- Tsammanin lokaci. AI bai san bayan ranar yanke horo ba.
- Rage ƙofofin saboda matsin lokaci. Tushen kuskure mafi tsada.
- Fita ba tare da shirin amsa aukuwa ba. Lokacin da yabo ya faru, ana barin ɗaya ba tare da shiri ba.
A takaice
- Blockchain yana da mahimmancin tsaro; Kuskure ba za a iya jurewa ba kuma suna juya kai tsaye zuwa kuɗi.
- AI ba zai iya ganin kuskuren asali ba, yana ba da tabbacin ƙarya, ya ƙare kuma ba zai iya ɗaukar alhakin ba.
- Wannan shine dalilin da ya sa amincewar aminci-mai mahimmanci koyaushe yana ta'allaka ne ga ƙwararren ƙwararren.
- Tabbatarwa mai shimfiɗa yana hana kuskure guda ɗaya daga shiga cikin yanayin rayuwa ta hanyar sanya ƙofar mutum a kowane mataki.
- Amfani mai alhakin: alhakin ɗan adam, manufar tsaro, sirri, bayyana gaskiya da mutunci.
Aikin aikace-aikace
Ka yi tunanin aikin kwangila mai wayo (ko ɗaukar misali na gaske). Rubuta tsarin tabbatarwa mai faɗi don duk tafiya daga ra'ayi zuwa babban layi: menene AI ke yi a kowane mataki, menene ƙofar ɗan adam, menene yanayin canji? Sa'an nan kuma ƙara yanayin "matsi na lokaci": wace kofa ce za ta fi hatsari ga wucewa kuma me yasa? Har ila yau, haɗa da jita-jita na amsa abin da ya faru.
jerin abubuwan dubawa
- [ ] Na yarda cewa amincewar tsaro ta ƙarshe ta ta'allaka ne ga gwani.
- [ ] Na sanya ƙofar tabbatar da mutum a kowane mataki.
- [ ] Ban ƙidaya maganganun amincewar AI a matsayin tabbaci ba.
- [ ] Ban ƙetare ƙofar duba mai zaman kanta ba.
- [ ] Ban ɗauka topicality; Na tabbatar da sabon bayani tare da ɗan adam.
- [ ] Ban sanya alhakin AI ba.
- [ ] Na shirya shirin mayar da martani.