Girdeji:
- Galýusinasiýanyň dil modeline degişlidigine düşünmek we çykyşyň her görnüşi üçin degişli barlamak usulyny saýlamak.
- Kritiki bahalary üçburçluk bilen iki garaşsyz usulda barlaň we arassalygy takyklyk bilen garyşdyrmaň
- Ylmy bitewiligiň esasy hökmünde aç-açanlygy, yzarlamagy, maglumatlaryň bitewiligini we adam jogapkärçiligini ulanyp bilmek
Bu modulyň dowamynda ýekeje söz gaýtalandy: “AI öndürýär, adamlar barlaýar.” Bu bölümde bu sözlemi ulgama öwürýäris. Maksat AI-iň iň howply häsiýeti bolan galýusinasiýany tanamak (önümiň her görnüşi üçin anyk barlag usulyny döretmek we bularyň hemmesini ylmy bitewiligiň (dogruçyllyk, aç-açanlyk, yzarlamak) çäginde ýerleşdirmekdir. Himiýada tassyklanmadyk AI çykyşy diňe bir ýalňyşlyk däl; Partlama, zäherlenýän adam ýa-da yzyna alynýan kagyz bolup biler.
Näme üçin galýusinasiýa gutulgysyz?
Uly dil modeli “indiki ähtimal söz” çykarýar; Hakyky däl-de, mümkin bolan zady maksat edinýär. Şeýlelik bilen, molekulýar agramy, DOI ýa-da gaýnadýan nokady “ýerlikli ýaly” bahasy bilen dolduryp biler - hakykylygyny barlamazdan. Galýusinasiýa näsazlyk däl, bu tehnologiýanyň tebigatynyň netijesidir. Çözüw modeli "düzetmäge synanyşmak" däl-de, her çykyşyň töwereginde tassyklama gabygyny gurmak.
Galýusinasiýanyň iň mekir tarapy, özüne ynamly dildir. Nädogry molekulýar agram, edil dogry ýaly ynam bilen görkezilýär. Şonuň üçin "ynamly görünýär" hiç haçan "dogry" diýmegi aňlatmaýar.
Üns beriň: AI-iň bir mowzukda näderejede arkaýyn we ynamly gürlemegi şol maglumatlaryň takyklygy bilen baglanyşykly däl. Arkaýynlyk ynandyrýar; Takyklygy diňe garaşsyz çeşme kesgitleýär.
Himiýada çykyş görnüşi boýunça barlamak
Her çykyş görnüşiniň öz barlamak usuly bar. Bir düzgüni ýatda saklamagyň ýerine, çykyş üçin degişli guraly ulanyň:
Çykyş görnüşi
Barlamak usuly
ulag
Molekulýar agram, formula
Formuladan hasaplaň
RDKit / el bilen
SMILES / gurluş
Parse + kanonikleşdirmek
RDKit
Sitata / DOI
Maglumat bazasynda çözüň
doi.org, Crossref
Fiziki hemişelik (kn, pKa)
Maglumat bazasy
PubChem, gollanma
san hasaplamasy
Kod ýazyň
Python
reaksiýa / ýagdaý
Edebiýaty tassyklamak
Reaksys, makala
howpsuzlyk talaplary
SDS / GHS
Resmi SDS
Spektr belligi
Köp tehniki + adam
Synag spektri
Bu tablisa aslynda bu modulyň gysgaça mazmuny: her bölüm bir hatar.
Üçburçluk: üç sany garaşsyz ýol
Iň güýçli barlamak usuly "üçburçluk": üç garaşsyz usul bilen şol bir netijä gelmek. Mysal üçin, molekulýar agram üçin: (1) YZ-nyň aýdýanlary, (2) RDKit-iň hasaplamasy, (3) formuladan el bilen hasaplamak. Üçüsi bir-birine gabat gelse, ynam ýokarydyr; Kimdir biri azaşýan bolsa, saklaň we derňäň. Hiç haçan himiýada ýekeje çeşmä bil baglamaň; Iň azyndan iki sany garaşsyz ýol gözläň.
Stepdimme-ädim: barlamak iş tertibi
- Çykyşlary toparlara bölüň: Bu san, gurluş, atributiýa, howpsuzlyk tassyklamasy?
- Degişli gural saýlaň: outputokardaky tablisadan çykyş görnüşi üçin degişli barlag ýoluny alyň.
- Özbaşdak hasaplaň / gözläň: Ulagy AI-den garaşsyz işlediň; netijäni deňeşdiriň.
- Eger gyşarmak bar bolsa, saklaň: Gymmatlyklar gabat gelmeýän bolsa, haýsynyň dogrudygyny barlamazdan dowam etmäň.
- Belligiňizi goýuň: Barlan zatlaryňyzy we nädip (ylmy bitewilik) ýazga alyň.
- Näbelliligi kesgitläň: "tassyklanmadyk" diýip tassyklap bolmajak bir zady belläň, gizlemäň.
Göçürip boljak dört şablon
1) Öz-özüňi barlamak:
Diňe aşakdaky çykyşy berdiňiz: [OUTPUT]. Wezipe: Bu çykyşyň san / faktiki tassyklamalaryny aýratyn setirde sanaň. Her tassyklama üçin: "nädip özbaşdak barlamaly?" ýazmak usuly (haýsy gural / maglumat bazasy). Talabyň dogrudygyny talap etme; barlamak üçin diňe bir ýol beriň.
2) Üçburçluga gözegçilik:
Aşakdaky molekulanyň agramyny üç ýol bilen barlamak isleýärin: [SMILES] .Task: 1) Molekulanyň formulasyny alyň.2) Molekulýar agram hasaplaýyş atomyny atom (her elementiň goşandy) görkeziň. Bellik: Men ony RDKit-de hasaplaryn we üçünjisi bereniňiz bilen deňeşdirerin. Üçüsi biri-birine gabat gelmese, duýduryş beriň.
3) Düşnüksizlik belligi:
Aşakdaky tekstde birnäçe faktiki talaplar bar: [TEXT] Wezipe: Her talapyň gapdalynda ynam derejesi belligini goýuň:
4) yzygiderli yzygiderlilik soragy:
Bir soragy iki dürli görnüşde bererin; Jogaplaryňyzyň yzygiderlidigine göz aýlaň. Sorag: Birleşmäniň molekulýar formulasy näme
Gowşak haýyş / Güýçli haýyş
Gowşak:
Bu goşundy hakda bilýänleriňiziň hemmesini ýazyň.
AI barlanylýan we toslanan maglumatlary birsyhly garyşdyrýar; Haýsynyň hakykydygy belli däl.
Güýçli:
Bu goşundy hakda maglumat beriň, ýöne her talapy şeýle belläň: [DETERMINISTIC - gural bilen tassyklanan] molekulýar formula, [TERJIME - sitata gerek] meselem. ereýän nokat, [UNCERTAIN - anyk däl]. Bellenmedik talaplary ýazmaň.
Tapawut: AI-ni öz näbelliligini bellemäge mejbur etdik; Barlag işini meýilleşdirdik.
Ylmy bütewilik: dogruçyllyk we yzarlamak
Barlamak diňe bir tehniki ädim däl, ahlak meselesidir. Ylmy bütewilik talap edýär:
- Aç-açanlyk: AI ulanýandygyňyzy gizlemäň; Neşir / hasabat syýasatyňyza görä kesgitläň.
- Gözleg mümkinçiligi: AI-den haýsy çykyşyň gelendigini we nädip barlanandygyny ýazga alyň.
- Maglumatlaryň bitewiligi: AI bilen “Gözellik” netijeleri, çykaryjylary delilsiz taşlamak galplykdyr.
- Jogapkärçilik: Iň soňky netijä jogapkärsiňiz; “AI şeýle diýdi” bahana däl.
Maslahat: Hasabatda ýa-da goranmakda "AI şeýle diýdi" sözüni hiç haçan ulanyp bilmejekdigiňizi kabul ediň. Bu kabul etmek, her çykyşy barlamak endigini awtomatiki usulda getirýär.
kiçi halatlar
1-nji hadysa - Üçburçluk ýalňyşlyk tapdy. Bir okuwçy molekulýar agramy üç ýol bilen barlady: YZ 178.2, el bilen hasaplamak 180.16, RDKit 180.16 berdi diýdi. Iki sany garaşsyz ýol AI-ni örtdi we ýok etdi. Sapak: iki sany garaşsyz tassyklama bir ýalňyş çykyşy ýuwaşlyk bilen ýeňýär.
2-nji waka - Howpsuz dil, nädogry maglumatlar. AI bir reaksiýanyň "otag temperaturasynda öz-özünden işleýändigini" gaty ynamly ýazdy. Edebiýat munuň ýyladyş we katalizator talap edýändigini görkezdi. Talyp ygtybarly dile däl-de, çeşmä ynanýardy. Sapak: erkin gürlemek takyklyk däl.
3-nji waka - Aç-açanlyk gazanyldy. Kagyzynyň usul bölüminde, bir gözlegçi AI-ni haýsy ädimlerde ulanandygyny anyk görkezdi (teksti redaktirlemek, kod düzmek) we ähli san netijelerini özbaşdak barlaýandygyny ýazdy. Eminleriň işi gowy geçdi. Sapak: aç-açanlyk ynam döredýär, gizlemek töwekgelçilik döredýär.
Adaty ýalňyşlyklar
- Ygtybarly dile ynanmak. AI-iň ynamly äheňi takyklygy görkezmeýär.
- Bir çeşmä bil baglamak. Üçburçluksyz bir çykyşy kabul etmek.
- Çykyş görnüşini bölmeýär. Birmeňzeş usul bilen san, atributiýa we howpsuzlyk tassyklamasyny "barladym" diýip pikir edýärin.
- Näbelliligi gizlemek. Belli ýaly barlap bolmajak bir zady habar bermek.
- AI ulanylyşyny gizlemek. Aç-açanlygyň bolmazlygy ylmy bitewiligi pese gaçyrýar.
- Jogapkärçiligi tabşyrmak. "AI şeýle diýdi" bahana nädogry; Jogapkärçilik adamyň üstüne düşýär.
Gysgaça
- Galýusinasiýa dil modeline mahsusdyr; Çözüw, her çykyşyň töwereginde tassyklama gabygyny gurmakdyr.
- Her çykyş görnüşiniň öz barlamak usuly bar; çykyşy klassifikasiýa ediň we degişli guraly ulanyň.
- Üçburçluk (iki garaşsyz ýol) iň güýçli gözegçilikdir; Bir çeşmä ynanmaň.
- Erkin we ynamly dil takyklyk bilen baglanyşykly däl.
- Ylmy bütewilik aç-açanlygy, yzarlamagy, maglumatlaryň bitewiligini we adam jogapkärçiligini talap edýär.
Programma meselesi
AI sessiýasynda bilkastlaýyn dürli netijeleri çykarýar: molekulýar agram, salgylanma, fiziki hemişelik, howpsuzlyk talaplary, san hasaplamasy. Her birini dogry usul bilen özbaşdak barlaň (tablisa serediň). Iň bolmanda bir galýusinasiýa tutmaga synanyşyň. Soňra "tassyklama matrisasy" taýýarlaň: hatar netijeler, sütünler (AI bahasy / garaşsyz baha / bir-birine gabat geldi / nädip barladym). Ylmy bitewilik nukdaýnazaryndan bu sessiýany nädip habar bererdiňiz?
gözegçilik sanawy
- [] Galýusinasiýanyň näme üçin gutulgysyzdygyna düşünýärin.
- [] Her çykyşy görnüşine görä toparlara bölýärin we degişli usul bilen barlaýaryn.
- [] Möhüm gymmatlyklarda üçburçluk (iki garaşsyz ýol) edýärin.
- [] Howpsuz dil däl-de, çeşmä ynanýaryn.
- [] Tassyklap bolmajak zady "näbellilik" diýip belleýärin.
- [] AI ulanyşymda aç-açan we netijä özümi jogapkär hasaplaýaryn.