Girdeji:
- Bir kiçijik bir köpelip bilýän meselä bir kemçiligi azaltmak we doly subutnama bilen AI-e geçirmek ukyby
- Iň arzan gözegçilik bilen subutnamalara esaslanýan gipotezalary barlamak we düýp sebäbini tapmak ukyby
- Munuň düýp sebäbini çözmek we simptomy ýapmak däl-de, regressiýa synagy bilen üpjün etmek ukyby
Düzediş, programma üpjünçiliginiň näme üçin garaşylmadyk hereket edýändigini anyklamak we ony düzetmek. Bir işläp düzüjiniň iň köp wagt sarp edip, iň ýadawlygy; Sebäbi köplenç ýalňyşlyk peýda bolan ýerinde däl-de, birnäçe ädim yzda gizlenýär. AI bu gözlegleri çaltlaşdyrýan güýçli pikirdeş hyzmatdaş, ýöne diňe dogry subutnama berseňiz. Subutnamasyz çözmek, AI-iň iň galýusinasiýany öndürýän ýeri.
Bu bölümde ýalňyşlygy ýüze çykarmakdan düýp sebäbine çenli tertipli akym döredýäris: alamaty anyklamak, subutnamalary ýygnamak (ýalňyş habary, ýazgy yzy, ýazgy, giriş), gipotezany döretmek, gipotezany barlamak we düzedişi barlamak. AI her ädimde kömek edýär; emma "kesgitlenen" karar ýalňyşlygyň hakykatdanam ýok bolandygyny görmek bilen kabul edilýär.
Näme üçin subutnama hemme zat?
LLM ýalňyşlygy görşüňiz ýaly görmeýär; Ol diňe seniň aýdýanlaryňy bilýär. “Programma ýykylýar” ýaly sözlem modele hiç hili maglumat bermeýär we model boşlugy çaklama bilen doldurýar, ýagny galýusinasiýa. Öz gezeginde doly säwlik habary, yzygiderli yz - haýsy funksiýanyň ýalňyşlyk diýip atlandyrmagy, ýalňyşlyga sebäp bolan giriş we garaşylýan zatlar we ş.m. syn edilen özüni alyp barşyny göz öňünde tutup, model hakyky ähtimallyklary kesgitläp biler.
Düzedişde AI-ni detektiviň kömekçisi hökmünde pikir ediň: näçe köp subutnama berseňiz, döredýän gipoteza şonça-da dogry bolar. Subutnama ýok bolsa, kömekçi diňe çaklaýar we sizi nädogry ýolda alyp biler.
Maslahat: Bir näsazlygy AI-e geçirmezden ozal, iň kiçijik köpelýän mysala çenli azaldyň. Erroralňyşlygy döredýän iň kiçi kod we giriş, size we model üçin zatlary düýpgöter aňsatlaşdyrýar; köplenç bu azalma wagtynda sebäbini özüňiz tapýarsyňyz.
Stepdimme-ädim: Kök sebäbiniň derňew akymy
- Alamatyny aýdyňlaşdyryň. "Näme bolýar, näme bolmagyna garaşdyňyz?" Ikisini bir sözlemde ýazyň.
- Subutnamalary ýygna. Doly säwlik habary, yz yzy, degişli gündelik setirler, giriş ýazgysy, wersiýa maglumatlary.
- Gipotezany dörediň. AI-den “Bu alamaty düşündirýän 3 sebäp bolup biler we her birini nädip barlamaly?” sora.
- Ilki bilen iň arzan gipotezany barlaň. Logurnal goşuň, baha çap ediň, synag geçiriň. Subutnamalar gipotezany tassyklaýarmy?
- Alamat däl-de, düýp sebäbini düzediň. Alamatlary ýama bilen dymdyrmagyň ýerine düýp sebäbini çözüň.
- Regressiýa synagyny barlaň we goşuň. Erroralňyşlygyň ýok bolmagyna serediň; Soňra şol ýalňyşlygy yzyna almaz ýaly synag ýazyň.
Üç kiçi waka
1-nji hadysa - ackazgy yzy dogry faýla alyp bardy. Bir programma, käbir haýyşlar boýunça 500 ýalňyş gaýtarýardy. Öndüriji AI-e doly yz yzy we itergi haýyşyny berdi; Model, ýalňyşlygyň senäni derňeýän gatlakda “None” bahasy sebäpli ýüze çykandygyny çaklady. Öndüriji şol setire gündelik goşdy, ony barlady we 15 minutda çözdi; Bir gün öň subut edilmedik synaglar bilen 2 sagat biderek boldy.
2-nji hadysa - Galýusinasiýa nädogry ýollara sebäp boldy. Başga bir dörediji diňe "maglumat bazasynyň birikmesi azalýar" diýip ýazdy. AI hiç hili subutnamasyz baglanyşyk basseýnini gurnady; Öndüriji bu sazlama bilen 40 minut wagt sarp etdi. Asyl sebäbi toruň gutarmagydy we diňe surnallara seredip aýan edildi. Sapak: subutnamasyz alnan gipoteza diňe ähtimal, ygtybarly däl.
3-nji hadysa - ýalňyş ýalňyşlyk tutuldy. Wagtal-wagtal şowsuz bolan synag boldy. AI-e synag kody, şowsuzlyk habary we "käwagt geçýär, käwagt şowsuz" maglumatlary berildi; model synaglaryň umumy wagtyna / sargyt baglylygyny görkezdi. Syn, synagyň ulgamyň ýerli wagtyna esaslanandygyny tassyklady. Sagat kesgitlenenden (masgaralanylandan) synag durnuklaşdy.
Göçürip boljak dört şablon
Subutnamalara esaslanýan gipotezany döretmek:
Bir näsazlygy düzedýärin Aşakdaky subutnamalar. Her biri üçin: nädip barlamaly (iň arzan barlag) we dogry bolsa nädip düzedip boljakdygyny. Subutnamalar ýeterlik däl bolsa, maňa goşmaça maglumatyň gerekdigini aýdyň.
Ackoluň yzyny düşündirmek:
Bu yz yzyny okaň. Mümkin bolan ýalňyşyň haýsy setirden (kökden) başlanýandygyny we haýsy setirleriň zynjyryň dowamydygyny tapawutlandyryň. Ilki seretmek üçin 1-2 ýeri maslahat beriň. Baglanyşyk kody: {{kody} ace Yz: {{yz}}
Repro minimal aýyrmak:
Aşakdaky kod ýalňyşlyk döredýär. Erroralňyşlygy döredýän, ýöne gereksiz zady taşlaýan Kiçijik mysalda azaldyň. Aýyrýan her bir eseriňiz ýalňyşlyga täsir etmeýär diýip pikir etmäň, ýöne "muny aýyranyňyzda säwlik ýok bolsa, şonuň üçin" diýen bellik goşuň. {{Kod}}
Düzedişden soňky tassyklama we regress synagy:
Munuň düýp sebäbini {{sebäp}} diýip çaklaň we men aşakdaky düzedişleri girizýärin: {{düzeltmek} 1.
Gowşak haýyş / Güýçli haýyş
Gowşak: "Kod işlemeýär, näme üçin?"
Güýçli: "20-nji düwün / Ekspress. POST / sargytlar bedende boş setir bolanda 500-e gaýtarylýar; 400-i yzyna gaýtarmalydy. Ackazgy yzy: TypeError: Kesgitlenmedik häsiýetleri okap bolmaýar ('0' okaň) - goşulan doly yz we baglanyşykly işleýji. Bu alamaty düşündirýän we her birini nädip barlamalydygyny görkeziň.
Güýçli wersiýa; Daşky gurşawa, ahyrky nokada, giriş girişine, takyk ýalňyş görnüşine we garaşylýan özüni alyp barşyna mümkinçilik berýär. Model indi çaklamalary edip bilmeýär, analiz edýär.
ädim
AI-iň goşandy
gözegçiligiňiz
subutnamalary ýygnamak
Haýsy subutnamanyň gerekdigini ýatladýar
Hakykatdanam subutnamalary ýygnaýar
gipotezany döretmek
Mümkin sebäpleri sanaň
Kontekst bilen ileri tutýar
gipotezany barlamak
Synag usulyny maslahat berýär
Şahsy işleýär we synlaýar
düzediş
patch maslahat berýär
Munuň düýp sebäbini çözýärmi? Bu hakykat.
regressiýa
synag ýazýar
Synagyň bozulandygyny tassyklaýar
Alamat däl-de, kök sebäbini çözmek
AI köplenç simptomy çalt dymdyrýan ýamany teklip eder: synap görüň / tutuň, ýalňyş barlaň, ýalňyşlygy ýuwduň. Bu käwagt dogry, köplenç howply; sebäbi asyl sebäp ýerinde galýar we başga bir ýerden çykýar. Her düzediş bilen özüňize soraň: "Bu ýalňyşlygyň sebäbini düzedýärmi ýa-da görünmeýärmi?" Munuň düýp sebäbini tapanyňyzdan soň düzediş adatça kiçi, has ygtybarly we hemişelik bolýar.
Üns beriň: kadadan çykmany ýuwaşlyk bilen ýuwutmak (boş tutmak) ýalňyşlygy çözmeýär; diňe gizleýär we geljekdäki diagnozy mümkin däl edýär. AI şeýle "çözgüdi" teklip edýän bolsa, düýp sebäbini sorag etmezden kabul etmäň.
Adaty ýalňyşlyklar
- Subutnamasyz sorag bermek. Düşnüksiz sözlemler modeli galýusinasiýa iterýär; Doly ýalňyşlyk, yz we giriş beriň.
- Ilkinji gipotezany gulplamak. AI-iň ilkinji teklibi iň ähtimal bolup bilmez; Iň arzan dolandyrylýan gipotezadan başlaň.
- Alamatyň tapylmagy we düýp sebäbini ýitirmek. Ümsüm säwlik gaýdyp gelýär.
- Düzedişi barlamazdan ýapmak. Productionalňyşlygyň hakykatdanam ýitip gitmegine önümçilik ýaly serediň.
- Regressiýa synaglaryny ýazmaýar. Synaglar goşulmasa, şol bir ýalňyşlyk soňraky wersiýalarynda ýuwaşlyk bilen gaýdyp geler.
Gysgaça
Düzedişde, AI-iň güýji beren subutnamalaryňyza gönüden-göni proporsionaldyr: doly ýalňyşlyk habary bolmazdan, yz yzy, giriş itergi we garaşylýan özüni alyp barmazdan, model diňe çaklaýar. Düzgünli akym - simptomy aýdyňlaşdyrmak, subutnamalary ýygnamak, gipotezany döretmek, iň arzan gözegçilik bilen synag etmek, düýp sebäbini düzetmek, regressiýa synagyny goşmak - näsazlygy çalt we hemişelik ýapýar. AI gipoteza generatory; Bugalňyşlygyň hakykatdanam çözülendigini sen çözýärsiň.
Programma meselesi
Recentlyaňy-ýakynda ýüze çykan hakyky näsazlygy saýlaň (ýa-da synag ýalňyşlygyny köpeldiň). Ilki bilen "iň az köpeltmek" ädimini ýerine ýetiriň; Erroralňyşlygy döredýän iň kiçi kody we girişi aýyryň. Soňra “subutnama esaslanýan gipotezany döretmek” şablony bilen AI-den mümkin 3 sebäbini we synag usulyny alyň. Iň arzan gipotezany özüňiz barlaň, düýp sebäbini tapyň, düzediň we ahyrynda bu ýalňyşlygy geljekde ele aljak we synagyň hakykatdanam bozulandygyny barlaýan regressiýa synagyny ýazyň.
gözegçilik sanawy
- [] Erroralňyşlygy AI-e geçirmezden ozal iň köp öndürilýän nusga çenli azaldýaryn.
- [] Soragda doly ýalňyş habaryny, yz yzyny, girişini we garaşylýan özüni alyp barşyny goşýaryn.
- [] Bir gipotezanyň içine girmän, iň arzan dolandyrylýanlardan başlaýaryn.
- [] Alamat alamatlaryny däl-de, düýp sebäbini çözendigimi tassyklaýaryn.
- [] Düzedişiň hakykatdanam näsazlygy düzedýändigini görýärin.
- [] Her çözülen näsazlyk üçin regressiýa synagyny goşýaryn.