Človek v eksperimentiranju: etika, zasebnost, odgovornost in potek dela od konca do konca

Dobički:

• Integracija človeškega principa v potek dela od konca do konca v eksperimentu in možnost ločevanja vlog umetne inteligence/človeka na vsaki stopnji
• Sposobnost dela z generičnimi primeri posrednikov, ne da bi posredovali zaupno strukturo in podatke splošni umetni inteligenci
• Sposobnost postavitve človeških odobritvenih vrat na kritične točke in prevzem končne odgovornosti s preglednostjo in sledljivostjo

V tej zadnji enoti združimo celoten modul v en sam okvir: človek v zanki. To načelo pravi, da mora človek ne glede na to, kako sposoben je AI, razumeti, nadzorovati in odobriti vsako kritično točko kemične odločitve. V tej enoti bomo najprej razjasnili etične vidike in vidike zaupnosti, nato pa vzpostavili potek dela od konca do konca, ki vodi molekulo od ideje do poročila, ter videli, kako si AI in ljudje delijo delo na vsaki stopnji. Cilj je vse, kar ste se naučili, spremeniti v sistem, ki ustreza vsakodnevnemu delu.

Zasebnost: česa ne dati AI?

Kemija pogosto dela z zaupnimi informacijami: nepatentiranimi molekulami, skrivnimi sinteznimi potmi podjetja, neobjavljenimi podatki, vzorci bolnikov. Besedilo, ki ga vnesete v javno storitev AI, se lahko shrani ali obdela v skladu s pravilnikom storitve. Zato:

• Preverite svojo institucionalno politiko, preden objavite neobjavljene izvirne strukture (molekule pred patentiranjem) javni umetni inteligenci.
• Nikoli ne vnašajte osebnih/pacientovih podatkov (kliničnih vzorcev) v prepoznavni obliki.
• Preglejte sporazume o zaupnosti, preden delite poti sinteze poslovnih skrivnosti.
• Po potrebi se odločite za lastna orodja/orodja za uvajanje po meri.

Pozor: Vprašanje splošnega AI o molekuli lahko pomeni razkritje strukture te molekule. Za edinstveno strukturo, ki ni bila patentirana, lahko to ogrozi vašo prednost (patentna pravica). Zahtevajte skrite strukture z generičnimi/nadomestnimi primeri.

Etika: štiri načela

1. Preglednost: Ne skrivajte, kje uporabljate AI; Upoštevajte politike objave in institucionalne politike.
2. Odgovornost: Človek je odgovoren za končno odločitev; »Predlagana umetna inteligenca« ne opravičuje kršitve varnosti ali integritete.
3. Neškodljivost: Ne uporabljajte umetne inteligence za aplikacije za nevarno/nezakonito sintezo in dvojno uporabo (potencial orožja).
4. Pravičnost in poštenost: Ne izkrivljajte podatkov, ne olepšujte rezultatov, ne izmišljujte si pripisov.

Potek dela od konca do konca: molekula → poročilo

Sedaj pa združimo celoten modul v en sam tok. Na vsaki stopnji bodite pozorni na razliko med tem, kar počne AI in tem, kar počne človek.

Oder

Vloga AI

(Kritična) vloga človeka

1. Ideja/literatura

Povzetek koncepta, iskalni izraz

Iskanje pravega vira, potrditev pripisa

2. Opis strukture

ustvarjanje NASMEHOV

Avtentikacija z RDKit, InChIKey

3. Načrt sinteze

Retrosinteza, alternative

Potrditev literature, izbor poti

4. Varnost

Povzetek SDS, predhodno neujemanje

Branje varnostnega lista, odobritev, odločitev o PPE

5. Uporaba

(brez)

Vsa laboratorijska dela

6. Analiza

Podpora za komentarje spektra

Končna določitev strukture

7. Obdelava podatkov

pisanje kode

Zaženite kodo, preverite rezultat

8. Dokumentacija

Oblikovanje, nadzor

Opazovanje, odstopanje, podpis

9. Poročanje

osnutek besedila

Preverjanje številke/citiranosti, odgovornost

Ta tabela prikazuje, kako je 11 enot modula razporejenih v eno opravilo. AI pospešuje; ljudje preverjajo in posedujejo.

Korak za korakom: nastavitev poteka dela

1. Pojasnite vloge: Za vsako nalogo, "Ali odloča AI ali človek?" določiti od začetka.
2. Nastavite filter zasebnosti: ne da bi dali nekaj AI ​​lahko vprašate "je to zasebno/zasebno?" vprašaj.
3. Postavite vrata za preverjanje: korak preverjanja na koncu vsake stopnje (tabela v enoti 10).
4. Ohranite sledljivost: kateri rezultat je prišel iz umetne inteligence, kako je bil preverjen, kdo ga je odobril.
5. Nastavite točke odobritve: človeška odobritev je obvezna na kritičnih točkah, kot sta varnost in končni rezultat.
6. Povratne informacije: zabeležite vsako ugotovljeno napako in izboljšajte potek dela.

Štiri predloge za kopiranje

1) Predfilter zasebnosti:

Preden postavite vprašanje, razmislite o tem: Vsebina: [KAJ Sprašujem] Naloga: Ali ta vsebina vsebuje neobjavljene izvirne artefakte, osebne podatke ali poslovne skrivnosti? Če se, predlagajte, kako lahko prepišem vprašanje z generičnim/nadomestnim primerom, ki bo skril strukturo.

2) Vrata za preverjanje konca faze:

Zaključil sem naslednjo fazo: [FAZA, npr. načrt sinteze]. Naloga: Navedite vse elemente, ki jih je treba preveriti, ki izhajajo iz te stopnje (število, citat, struktura, varnostna trditev). Pri vsakem napišite način preverjanja in kdo naj ga potrdi. Označite vse odprte elemente, ki jih je treba zapreti, preden nadaljujete na naslednji korak.

3) Načrt porazdelitve vlog človek-AI:

Moj projekt: [KRATEK OPIS]. Naloga: Razdeli ta projekt na faze. Za vsako stopnjo ločite med: - Kaj lahko naredi AI (osnutek, koda, povzetek) - Kaj mora človek odločiti (varnost, posledice, odobritev). Označite kritične točke, kjer je končna odgovornost na človeku.

4) Preverjanje celovitosti poročila:

Spodaj je osnutek mojega poročila: [OSNUTEK] Naloga: Preverite in označite naslednje: 1) Ali obstajajo nepreverjene številke/navedbe? 2) Ali je uporaba umetne inteligence pregledno navedena? 3) Ali so podatki videti "polepšani" (skrivanje izstopa)? 4) Ali obstajajo kakšne varnostne/etične napake? [PREVERITE], kjer niste prepričani.

Šibek poziv/močan poziv

Šibko:

Kateri je najboljši način za sintetiziranje nove skrivne molekule našega podjetja? [dejanska izvirna struktura]

S tem je prvotna struktura pred patentom izpostavljena splošni storitvi; Ogroža prednost in zaupnost.

Močno:

Rad bi izvedel splošno strategijo retrosinteze za podobno strukturo razreda aromatskih ketonov. Razložite z generičnim primerom (derivat acetofenona), ne da bi podali konkretno, izvirno strukturo. Strategijo bom uporabil za lastno molekulo v podjetju.

Razlika: brez razkritja latentne strukture je bilo doseženo enako učenje kot pri generičnem nadomestnem primeru.

mini etuiji

Primer 1 – razkrita izvirna struktura. Ekipa je vprašala splošno umetno inteligenco o edinstveni molekuli, preden je zaprosila za patent. Pravna enota je izjavila, da bi to lahko postavilo pod vprašaj prednost; Postopek se je zavlekel. Lekcija: zahtevajte edinstvene strukture z generičnim posrednikom, spoštujte politiko zasebnosti.

Primer 2 – Človekova privolitev je preprečila nesrečo. V avtomatiziranem delovnem toku je AI izdelal osnutek postopka in ga je bilo treba neposredno implementirati; Toda izkušeni kemik je ujel nezdružljiv par reagentov pri pretočnih "varnostnih" vratih. Nauk: na kritičnih točkah vrata za človeško odobritev rešujejo življenja.

Primer 3 – disciplina od začetka do konca. Magister je v enem projektu implementiral celoten modul: povzetek literature + preverjanje dejanskih citatov z AI, preverjanje strukture z RDKit, analiza podatkov s kodo, varnost z SDS, poštena dokumentacija, transparentno poročanje. Rezultat je bil hitrejši in robustnejši; pri zagovoru diplomske naloge "Kako ste verificirali AI?" Na vprašanje je jasno odgovoril. Lekcija: AI in disciplina preverjanja najbolje delujeta skupaj.

Pogoste napake

• Dajanje latentne strukture splošnemu AI. Ogroža patentno prednost in poslovno skrivnost.
• Vnos določljivih osebnih/pacientovih podatkov. Kršitev zasebnosti in pravno tveganje.
• Obhod prehodov za odobritev. Varnost in navsezadnje napredovanje brez človeške odobritve.
• Prenos odgovornosti na AI. "AI predlagal" ne opravičuje nobenih napak.
• Izogibanje preglednosti. Prikrivanje uporabe umetne inteligence spodkopava integriteto.
• Zanemarjanje tveganja dvojne uporabe. Neetično je uporabljati AI za škodljive aplikacije.

Namig: načrtujte svoj potek dela tako, da »vsako kritično odločitev človek ustavi in ​​odobri«. Naj bo AI povezava, ki pospeši verigo, in vozlišče, ki drži verigo, je vedno človeško.

Če povzamem

• Človeški princip v eksperimentiranju: pri vsaki kritični kemijski odločitvi človek razume, nadzoruje in odobrava.
• Zasebnost: ne posredujte edinstvenih artefaktov, osebnih podatkov in poslovnih skrivnosti javnemu AI; Uporabite generični proxy.
• Etika: transparentnost, odgovornost, neškodljivost, poštenost so štiri osnovna načela.
• V poteku dela od konca do konca AI pospeši na vsaki stopnji; ljudje preverjajo in posedujejo.
• Na kritičnih točkah (varnost, končni rezultat) postavite vrata za človeško odobritev in ohranite sledljivost.

Aplikacijska naloga

Izberite svoj projekt (resničnega ali hipotetičnega) in oblikujte potek dela AI-človeka od začetka do konca. Prilagodite zgornjo tabelo z 9 stopnjami svojemu projektu: kaj bo AI naredil na vsaki stopnji, kaj bo odobril človek? Uporabite predfilter zasebnosti: katerih informacij ne posredujete AI, kako jih generizirate? Določite vsaj dva prehoda za odobritev s strani ljudi in eno metodo sledljivosti. Napišite enostranski »potek dela in načrt preverjanja«.

kontrolni seznam

• [ ] V poskusu sem dojel človeški princip in zakaj je bil potreben.
• [ ] Generiziram skrito strukturo/podatke, ne da bi jih posredoval splošnemu AI.
• [ ] Upoštevam načela transparentnosti, odgovornosti, neprimernosti in poštenosti.
• [ ] Ločil sem vloge AI/človeka v celotnem delovnem toku.
• [ ] Na kritične točke sem postavil vrata za odobritev ljudi.
• [ ] Spremljam, kateri rezultat prihaja iz umetne inteligence in kako je preverjen.

Modulni izpit

1. Kaj od naslednjega je najbolj natančno pozicioniranje umetne inteligence v kemiji?

• A) Umetna inteligenca je pomočnik za kodo, osnutek in urejanje; Odgovornost za strukturo, število, vire, varnost in etične odločitve je v rokah ljudi ✔
• B) Umetna inteligenca je kemijski motor in molekulske mase, ki jih daje, so vedno natančne.
• C) Umetna inteligenca deluje le pri pregledu literature, nima nič opraviti z analizo in varnostjo
• D) Ker je umetna inteligenca bolj nepristranska od ljudi, je treba odločitve o varnosti prepustiti njej

Opis: Umetna inteligenca; Je asistent, ki piše kodo, izdeluje osnutke, gradi skelet retrosinteze, pomaga in organizira interpretacijo spektra. Deterministični izračun molekulske mase in stehiometrije, preverjanje strukture z RDKit, potrditev citatov v podatkovni bazi, odločitev o varnosti z SDS/GHS in končna odgovornost pripada pristojnemu kemiku. Velik jezikovni model ni kalkulator ali kemijski motor; To je generator besedila, ki ustvari 'naslednjo najverjetnejšo besedo' in njegov nepreverjen rezultat lahko privede do napačne strukture, števila ali nevarnosti.

2. Kateri je najzanesljivejši način za opis molekule umetni inteligenci?

• A) Pisanje samo običajnega turškega imena
• B) Predstavitev strukture, kot je SMILES, in potrditev identitete z InChIKey ✔
• C) Samo povem molekulsko maso
• D) Dovolj je, da napišete blagovno znamko

Pojasnilo: Imena (zlasti trgovska in sinonimna imena) so dvoumna in lahko vodijo do napačne molekule. Če molekuli dodelimo strukturni zapis, kot je SMILES, se zagotovi natančnost; Njegova identiteta je potrjena v bazi podatkov z InChIKey. Poleg tega je treba SMILES, ki jih poda umetna inteligenca, razčleniti z RDKit in preveriti s kanonikalizacijo.

3. Kako bi morali uporabiti molekulsko maso, ki jo poda umetna inteligenca?

• A) Z neposredno uporabo, ker je AI zanesljiv v številkah
• B) Izračunajte in preverite neodvisno od formule ročno ali z RDKit ✔
• C) Dovolj je samo vprašati drugo umetno inteligenco in primerjati
• D) Molekulska masa ni pomembna, preverjanje ni potrebno

Pojasnilo: Molekulska masa je količina, izračunana deterministično iz molekulske formule. Torej je spraševanje po jezikovnem modelu najšibkejši način; Treba ga je neodvisno preveriti z orodjem, kot je RDKit, ali z ročnim izračunom iz formule. Jezikovni model se lahko takšnim številkam prilega z vrednostjo 'verjetnega videza'.

4. Kaj je treba storiti, preden uporabimo navedbo literature (članek/DOI), ki jo vrne umetna inteligenca?

• A) Nič; Če umetna inteligenca poda referenco, je resnična
• B) Dovolj je, da pogledate naslov, da bo videti prepričljiv.
• C) Potrditev vsakega citata in DOI z dekodiranjem v zbirki podatkov (doi.org, Crossref) ✔
• D) Dolga številka DOI dokazuje, da je resničen.

Opis: Jezikovni model lahko ustvari članke, avtorje in DOI, ki so videti realistični, vendar ne obstajajo (lažno navajanje). Samo zato, ker daje DOI, še ne pomeni, da je veljaven. Vsak citat mora biti preverjen z resolucijo v zbirki podatkov, kot je doi.org, Crossref ali na spletnem mestu založnika; Najvarnejši tok je, da človek najde pravi članek in mu besedilo povzame umetna inteligenca.

5. Na katerem področju je umetna inteligenca najšibkejša in zahteva potrditev pri načrtovanju reakcij?

• A) Pri prepoznavanju, v kateri splošni razred spada reakcija
• B) Točne številke pogojev, vrednosti izkoristka in imena reagenta/katalizatorja ✔
• C) Razlaga mehanizma v preprostem jeziku
• D) Razmišljanje o alternativnih poteh

Pojasnilo: umetna inteligenca na splošno dobro napove vrsto reakcije in glavni produkt dobro dokumentiranih reakcij. Vendar pa so natančne številke pogojev (temperatura, čas, ekvivalent), vrednosti izkoristka, redke reakcije in imena reagenta/katalizatorja najšibkejši in najbolj nagnjeni k izdelavi; te je treba potrditi z literaturo in katalogi.

6. Kateri je najbolj zanesljiv način uporabe umetne inteligence pri interpretaciji spektra?

• A) Samo navedite nekaj vrhov in vprašajte, "kateri spekter je to?" vprašati
• B) Navedba pričakovane strukture in popolnih neobdelanih podatkov ter preverjanje doslednosti (testiranje hipotez) ✔
• C) Pisanje samo vrednosti premika brez izvedbe integracije in deljenja
• D) Dokončna dodelitev strukture z eno samo tehniko (samo IR)

Opis: vprašajte AI 'katera spojina je ta spekter?' Spraševanje iz nič poveča stopnjo napak. Najbolj zanesljiv način je podati pričakovano strukturo (SMILES) in neobdelane podatke (integracija, delitev, reševalec, seznam vrhov) skupaj in vprašati, ali so ti podatki skladni s to strukturo? je vprašati; to je uporaba umetne inteligence kot preizkuševalca hipotez. Končna naloga je za kemika, ki preučuje eksperimentalni spekter.

7. Kateri je najbolj zanesljiv način za pridobitev rezultata kemijskega izračuna (npr. odstotek izkoristka)?

• A) Neposredno verbalno zahtevanje rezultata od umetne inteligence
• B) Natisnite in zaženite kodo Python računa ter jo preizkusite z znanim primerom ✔
• C) Večkrat postavite isto vprašanje in dobite številko, ki se najpogosteje pojavi
• D) Hitro ocenjevanje brez navedbe enote

Pojasnilo: Jezikovni model izvaja aritmetiko tako, da 'napove verjeten izid' in je lahko napačen celo pri zelo preprostih množenjih. Najbolj zanesljiv način je, da AI napiše svojo KODO (npr. Python), ne računa samega, in zažene to kodo; koda je deterministična in revizijska. Kodo je treba preizkusiti tudi z majhnim vzorcem, katerega odgovor je znan.

8. Kaj pomeni koncept 'domena uporabnosti' pri napovedovanju lastnosti molekul?

• A) Procesorska moč računalnika, na katerem teče model
• B) Molekularna regija, podobna podatkom o usposabljanju, kjer model daje zanesljive napovedi ✔
• C) Območje zagotovila, kjer je številka, podana z modelom, vedno točna
• D) Temperaturno območje, v katerem se lahko molekula sintetizira v laboratoriju

Pojasnilo: QSAR/model napovedovanja dobro deluje na molekulah, ki so podobne molekulam, na katerih je bil učen. Glede na molekulo, ki se zelo razlikuje od podatkov o usposabljanju, model še vedno proizvede število, vendar je to nezanesljivo; to se imenuje "biti zunaj obsega uporabnosti". Model vedno daje odgovor; Na človeku je, da oceni, ali je odgovor zanesljiv ali ne.

9. Kakšen je pravilen pristop k obravnavi opazovanj v eksperimentalni dokumentaciji?

• A) Pisanje opažanj umetni inteligenci, da prihranite čas
• B) Oseba, ki izvaja poskus, zapiše opažanja; AI samo formatira in preverja ✔
• C) Zadostuje, da opazovanj ne beležimo, ampak samo napišemo končni donos
• D) Skrivanje odstopanj od načrta, da bo poročilo lepo videti

Pojasnilo: Umetna inteligenca ne ve, kaj je; Ujemanje opazovanj (sprememba barve, sproščanje plina itd.) v to ustvari zapise, ki se zdijo verjetni, vendar se niso zgodili, in to je znanstvena goljufija. AI formatira posnetek, prikliče manjkajoča polja in preveri ponovljivost; vendar mora človeški eksperimentator zagotoviti opažanja in dejstva. Zabeležiti je treba tudi odstopanja od načrta.

10. Kakšna je vloga umetne inteligence pri varnosti laboratorija in vir resnice?

• A) Če umetna inteligenca trdi, da je varna, ni potrebe po drugem viru
• B) Vir resnice sta SDS in GHS; Umetna inteligenca je v pomoč, vendar ne more imeti zadnje besede ✔
• C) Varnostne odločitve je mogoče v celoti prenesti na umetno inteligenco
• D) Varnostni list je nepotreben; Internetni forumi nudijo dovolj informacij.

Opis: Varnost je v kemiji najpomembnejša in umetna inteligenca tu nikoli ne more imeti zadnje besede. Vir dejanskih varnostnih informacij je SDS (varnostni list) in klasifikacija GHS, ki ju je zagotovil proizvajalec. AI lahko povzame besedilo varnostnega lista, ustvari osnutke obrazcev in izvede predhodni pregled neskladnosti; Vse trditve pa mora potrditi varnostni list, postopek pa mora odobriti izkušena oseba/varnostnik.

11. Katera od naslednjih kombinacij reagentov je znano nevarno (nezdružljivo) ujemanje?

• A) Mešanje vode in kuhinjske soli
• B) Mešanje kisle raztopine z raztopino, ki vsebuje hipoklorit (nevarnost klorovega plina) ✔
• C) Mešanje etanola in vode
• D) Raztapljanje sladkorja in vode

Pojasnilo: Medtem ko so nekatere kemikalije same relativno varne, so nevarne skupaj. Mešanje kisline in hipoklorita sprošča plin klor; Oksidator + organski povzroči nevarnost požara/eksplozije, voda + reaktivna kovina toplota/vodik. Čeprav AI pozna večino teh kombinacij, ne jamči za vse in lahko včasih predstavi nevaren predlog v nedolžnem jeziku; vsak postopek je treba pregledati glede neskladnosti z varnostnim listom.

12. Kateri je najnatančnejši izraz za 'halucinacije' (umetna inteligenca, ki proizvaja izmišljene informacije)?

• A) Gre za redko programsko napako, ki se popolnoma odpravi s posodobitvijo.
• B) Je vedenje, ki je neločljivo povezano z jezikovnim modelom; Rešitev je neodvisno preverjanje vsakega izhoda ✔
• C) Pojavi se samo v nepravilno napisanih pozivih, nikoli v pravilnih pozivih.
• D) Če umetna inteligenca govori v varnem jeziku, to ni halucinacija

Pojasnilo: Halucinacija ni okvara, temveč posledica narave jezikovnega modela, ki proizvede 'naslednjo najverjetnejšo besedo'; Model cilja na možno, ne na resnično. Najbolj zahrbten del je, da lažne informacije predstavlja v istem samozavestnem jeziku kot resnico. Rešitev ni v tem, da poskušamo popraviti model, ampak v tem, da okoli vsakega izhoda zgradimo tipsko ustrezno lupino za preverjanje veljavnosti; tekočnost ni nikoli dokaz točnosti.

13. Kaj pomeni "triangulacija" za preverjanje kritične vrednosti (npr. molekulske mase)?

• A) Trikrat zastaviti isto vprašanje isti umetni inteligenci
• B) Primerjava in doseganje istega zaključka na več kot en neodvisen način ✔
• C) Izračunavanje mase treh različnih molekul hkrati
• D) Rezultat zaokrožite na tri decimalna mesta

Pojasnilo: Triangulacija je doseganje istega zaključka po več neodvisnih poteh; Na primer primerjava molekulske mase glede na umetno inteligenco, izračun RDKit in ročni izračun. Če se prekrivata dve neodvisni poti, je zaupanje veliko; Če kdo odstopi, ga ustavijo in raziščejo. Namesto zanašanja na en sam vir je treba poiskati vsaj dve neodvisni metodi.

14. Kakšen je pravilen način, da povprašate splošno storitev AI o edinstveni molekuli, ki ni bila patentirana?

• A) Neposredno podajanje izvirne strukture, ker je hitrost pomembna
• B) Učenje strategije prek generičnega/nadomestnega primera brez razkritja izvirne strukture ✔
• C) Podajanje strukture ni problem, AI nikoli ne skriva informacij
• D) Zadostna zaščita je, da ne navedete imena molekule, ampak samo delite njene celotne SMILE.

Opis: Vsebina, vnesena v splošno storitev umetne inteligence, se lahko shrani ali obdela v skladu s politiko storitve; Dajanje izvirne strukture tvega zaupnost in patentno prednost. Pravilen pristop je, da se strategije naučimo iz generičnega/nadomestnega primera (podoben razred struktur) in jo uporabimo za lastno molekulo v podjetju, ne da bi razkrili prvotno strukturo. Osebni/pacientovi podatki prav tako ne bi smeli biti vneseni v določljivi obliki.