Čovjek u eksperimentu: etika, privatnost, odgovornost i tijek rada od početka do kraja

Dobici:

• Integracija ljudskog principa u tijek rada od početka do kraja u eksperimentu i mogućnost razdvajanja uloga umjetne inteligencije/ljudi u svakoj fazi
• Sposobnost rada s generičkim proxy primjerima bez davanja povjerljive strukture i podataka općoj umjetnoj inteligenciji
• Sposobnost postavljanja ljudskih vrata za odobrenje na kritičnim točkama i preuzimanje konačne odgovornosti uz transparentnost i sljedivost

U ovoj završnoj jedinici kombiniramo cijeli modul u jedan okvir: human-in-the-loop. Ovo načelo kaže da bez obzira na to koliko je umjetna inteligencija sposobna, čovjek mora razumjeti, kontrolirati i odobriti svaku kritičnu točku kemijske odluke. U ovoj jedinici prvo ćemo razjasniti etičke aspekte i aspekte povjerljivosti, zatim uspostaviti tijek rada od kraja do kraja koji vodi molekulu od ideje do izvješća i vidjeti kako umjetna inteligencija i ljudi dijele rad u svakoj fazi. Cilj je sve što ste naučili pretvoriti u sustav koji se uklapa u svakodnevni rad.

Privatnost: što ne dati AI?

Kemija često radi s povjerljivim informacijama: nepatentiranim molekulama, tajnim putovima sinteze tvrtke, neobjavljenim podacima, uzorcima pacijenata. Tekst koji unesete u javnu AI uslugu može se pohraniti ili obraditi u skladu s politikom usluge. Stoga:

• Provjerite svoju institucionalnu politiku prije objavljivanja neobjavljenih izvornih struktura (molekula prije patentiranja) javnoj umjetnoj inteligenciji.
• Nikada nemojte unositi osobne podatke/podatke o pacijentu (kliničke uzorke) u obliku koji se može identificirati.
• Pregledajte ugovore o povjerljivosti prije dijeljenja putova sinteze poslovne tajne.
• Odlučite se za interne/prilagođene AI alate za implementaciju kada je to potrebno.

Oprez: postavljanje pitanja općenitoj umjetnoj inteligenciji o molekuli može značiti otkrivanje strukture te molekule. Za jedinstvenu strukturu koja nije patentirana, to može ugroziti vaš prioritet (pravo na patent). Zatražite skrivene strukture s generičkim/zamjenskim primjerima.

Etika: četiri načela

1. Transparentnost: ne skrivajte gdje koristite AI; Poštujte publikaciju i institucionalnu politiku.
2. Odgovornost: Čovjek je odgovoran za konačnu odluku; "AI predložio" ne opravdava povredu sigurnosti ili integriteta.
3. Nezlobnost: Nemojte koristiti AI za opasnu/ilegalnu sintezu, dvostruku namjenu (potencijal za oružje).
4. Pravednost i poštenje: Nemojte iskrivljavati podatke, nemojte uljepšavati rezultate, nemojte izmišljati pripisivanja.

Tijek rada od kraja do kraja: molekula → izvješće

Kombinirajmo sada cijeli modul u jedan tijek. U svakoj fazi obratite pozornost na razliku između onoga što radi AI i onoga što radi čovjek.

Pozornica

Uloga umjetne inteligencije

(Kritična) uloga ljudi

1. Ideja/književnost

Sažetak pojma, traženi pojam

Pronalaženje pravog izvora, potvrda atribucije

2. Opis strukture

generiranje OSMJEHA

Autentifikacija s RDKit, InChIKey

3. Plan sinteze

Retrosinteza, alternative

Potvrda literature, izbor puta

4. Sigurnost

SDS sažetak, preliminarno nepodudaranje

Očitavanje sigurnosnog lista, odobrenje, odluka o osobnoj zaštitnoj opremi

5. Primjena

(ništa)

Svi laboratorijski radovi

6. Analiza

Spectrum podrška za komentare

Završni zadatak strukture

7. Obrada podataka

pisanje koda

Pokrenite kod, provjerite rezultat

8. Dokumentacija

Formatiranje, kontrola

Zapažanje, odstupanje, potpis

9. Izvještavanje

nacrt teksta

Provjera broja/navoda, odgovornost

Ova tablica pokazuje kako je 11 jedinica modula raspoređeno u jedan posao. AI ubrzava; ljudi provjeravaju i posjeduju.

Korak po korak: postavljanje tijeka rada

1. Pojasnite uloge: Za svaki zadatak, "Odlučuje li umjetna inteligencija ili čovjek?" odrediti od početka.
2. Postavite filtar privatnosti: Bez davanja nešto AI-u možete pitati "je li ovo privatno/privatno?" pitati.
3. Stavite vrata za provjeru: korak provjere na kraju svake faze (tablica u jedinici 10).
4. Održavajte sljedivost: koji je rezultat došao od umjetne inteligencije, kako je provjeren, tko ga je odobrio.
5. Postavite točke odobrenja: ljudsko odobrenje je obavezno na kritičnim točkama kao što su sigurnost i konačni rezultat.
6. Povratne informacije: Zabilježite svaku uočenu pogrešku i poboljšajte tijek rada.

Četiri predloška za kopiranje

1) Predfilter privatnosti:

Prije nego što postavite pitanje, razmislite o sljedećem: Sadržaj: [ŠTO PITAM] Zadatak: Sadrži li ovaj sadržaj neobjavljene izvorne artefakte, osobne podatke ili poslovne tajne? Ako jest, predložite kako mogu prepisati pitanje s generičkim/zamjenskim primjerom koji će sakriti strukturu.

2) Vrata za provjeru kraja faze:

Završio sam sljedeću fazu: [FAZA, npr. plan sinteze].Zadatak: Navesti sve elemente koje je potrebno verificirati izlazeći iz ove faze (broj, citat, struktura, sigurnosna tvrdnja). Za svaki napišite način provjere i tko to treba potvrditi. Označite sve otvorene stavke koje je potrebno zatvoriti prije prelaska na sljedeći korak.

3) Plan raspodjele uloga čovjek-AI:

Moj projekt: [KRATAK OPIS]. Zadatak: Podijelite ovaj projekt u faze. Za svaku fazu napravite razliku između: - Što umjetna inteligencija može učiniti (nacrt, kôd, sažetak) - Što čovjek mora odlučiti (sigurnost, posljedica, odobrenje). Označite kritične točke gdje krajnja odgovornost leži na čovjeku.

4) Provjera integriteta izvješća:

Ispod je nacrt mog izvješća: [NACRT] Zadatak: Provjerite i označite sljedeće: 1) Ima li neprovjerenih brojeva/navoda? 2) Je li upotreba umjetne inteligencije transparentno navedena? 3) Izgledaju li podaci "uljepšani" (skrivanje izvanrednih dijelova)? 4) Postoje li sigurnosni/etički nedostaci? [PROVJERITE] gdje niste sigurni.

Slab upit / Jak upit

Slabo:

Koji je najbolji način za sintetiziranje nove tajne molekule naše tvrtke? [stvarna originalna struktura]

Ovo izlaže izvornu strukturu prije patenta općoj usluzi; To dovodi u opasnost prioritet i povjerljivost.

Jako:

Želio bih naučiti opću strategiju retrosinteze za sličnu strukturu klase aromatskih ketona. Objasnite kroz generički primjer (derivat acetofenona) bez navođenja konkretne, izvorne strukture. Primijenit ću strategiju na vlastitu molekulu unutar tvrtke.

Razlika: bez otkrivanja latentne strukture, postignuto je isto učenje kao s generičkim surogatnim primjerom.

mini kućišta

Slučaj 1 — otkrivena izvorna struktura. Tim je pitao opću umjetnu inteligenciju o jedinstvenoj molekuli prije prijave za patent. Pravna jedinica je izjavila da bi to moglo dovesti u pitanje prioritet; Proces je bio odgođen. Lekcija: tražite jedinstvene strukture s generičkim proxyjem, poštujte politiku privatnosti.

Slučaj 2 — Ljudski pristanak spriječio je nesreću. U automatiziranom tijeku rada, AI je izradio nacrt procedure i trebao se izravno implementirati; Ali iskusni kemičar uhvatio je nekompatibilan par reagensa na protočnim "sigurnosnim razmacima". Lekcija: na kritičnim točkama, vrata ljudskog odobrenja spašavaju živote.

Slučaj 3 — Disciplina od kraja do kraja. Magistar je implementirao cijeli modul u jednom projektu: sažetak literature + provjera stvarnog citata s AI, provjera strukture s RDKit-om, analiza podataka s kodom, sigurnost s SDS-om, poštena dokumentacija, transparentno izvješćivanje. Rezultat je bio i brži i robusniji; u obrani diplomskog rada "Kako ste verificirali AI?" Jasno je odgovorio na pitanje. Lekcija: umjetna inteligencija i disciplina provjere najbolje funkcioniraju zajedno.

Uobičajene greške

• Davanje latentne strukture općoj umjetnoj inteligenciji. Ugrožava patentni prioritet i poslovnu tajnu.
• Unos osobnih/pacijentskih podataka koji se mogu identificirati. Povreda privatnosti i pravni rizik.
• Zaobilaženje prolaza za odobrenje. Sigurnost i konačno kretanje naprijed bez ljudskog odobrenja.
• Prijenos odgovornosti na AI. "AI predložio" ne opravdava pogreške.
• Izbjegavanje transparentnosti. Prikrivanje upotrebe umjetne inteligencije podriva integritet.
• Zanemarujući rizik dvostruke uporabe. Neetično je koristiti AI za štetne aplikacije.

Savjet: Osmislite svoj tijek rada s "svakom kritičnom odlukom koju čovjek zaustavlja i odobrava". Učinite AI karikom koja ubrzava lanac, a čvor koji drži lanac uvijek je čovjek.

Ukratko

• Ljudski princip u eksperimentiranju: u svakoj kritičnoj kemijskoj odluci čovjek razumije, nadzire i odobrava.
• Privatnost: ne dajte jedinstvene artefakte, osobne podatke i poslovne tajne javnoj umjetnoj inteligenciji; Koristite generički proxy.
• Etika: transparentnost, odgovornost, bezazlenost, poštenje četiri su osnovna načela.
• U tijeku rada od kraja do kraja, AI ubrzava u svakoj fazi; ljudi provjeravaju i posjeduju.
• Postavite ljudska odobrenja na kritične točke (sigurnost, krajnji rezultat) i održavajte sljedivost.

Zadatak aplikacije

Odaberite vlastiti projekt (stvarni ili hipotetski) i dizajnirajte tijek rada AI-ljudi od početka do kraja. Prilagodite gornju tablicu od 9 stupnjeva vlastitom projektu: što će AI učiniti u svakoj fazi, što će ljudi odobriti? Primijenite predfilter privatnosti: koje informacije ne dajete umjetnoj inteligenciji, kako ih genericirate? Definirajte najmanje dva prolaza za odobrenje od strane ljudi i jednu metodu sljedivosti. Napišite "plan rada i verifikacije" na jednoj stranici.

popis za provjeru

• [ ] U eksperimentu sam shvatio ljudski princip i zašto je to bilo potrebno.
• [ ] Generiziram skrivenu strukturu/podatke bez davanja općoj umjetnoj inteligenciji.
• [ ] Pridržavam se načela transparentnosti, odgovornosti, nezlonamjernosti i poštenja.
• [ ] Odvojio sam uloge AI/ljudi u tijeku rada od kraja do kraja.
• [ ] Postavio sam ljudska vrata odobrenja na kritične točke.
• [ ] Pratim koji izlaz dolazi od AI ​​i kako se provjerava.

Modul ispit

1. Što je od sljedećeg najtočnije pozicioniranje umjetne inteligencije u kemiji?

• A) Umjetna inteligencija je pomoćnik koda, nacrta i uređivanja; Odgovornost za strukturu, broj, resurse, sigurnost i etičke odluke leži na ljudima ✔
• B) Umjetna inteligencija je kemijski motor i molekularne težine koje daje uvijek su točne.
• C) Umjetna inteligencija radi samo u pregledu literature, nema nikakve veze s analizom i sigurnošću
• D) Budući da je umjetna inteligencija nepristranija od ljudi, sigurnosne odluke treba prepustiti njoj

Opis: Umjetna inteligencija; To je pomoćnik koji piše kod, proizvodi nacrte, gradi kostur retrosinteze, pomaže i organizira interpretaciju spektra. Međutim, deterministički izračun molekularne težine i stehiometrije, provjera strukture s RDKit-om, potvrda citata u bazi podataka, odluka o sigurnosti s SDS/GHS i konačna odgovornost pripadaju nadležnom kemičaru. Veliki jezični model nije kalkulator ili kemijski stroj; To je generator teksta koji proizvodi 'sljedeću najvjerojatnije riječ' i njegov neprovjereni izlaz može dovesti do netočne strukture, broja ili opasnosti.

2. Koji je najpouzdaniji način da se umjetnoj inteligenciji opiše neka molekula?

• A) Pisanje samo uobičajenog turskog imena
• B) Predstavljanje strukture kao što je SMILES i potvrđivanje identiteta s InChIKey ✔
• C) Samo govorim molekularnu težinu
• D) Dovoljno je napisati zaštitni znak

Objašnjenje: Imena (osobito trgovačka i sinonimna imena) su dvosmislena i mogu dovesti do pogrešne molekule. Davanje molekuli oznake strukture kao što je SMILES osigurava preciznost; Njegov identitet je potvrđen u bazi podataka s InChIKey. Osim toga, SMILES koje daje umjetna inteligencija moraju se analizirati pomoću RDKit-a i verificirati kanonikalizacijom.

3. Kako biste trebali koristiti molekularnu težinu koju daje umjetna inteligencija?

• A) Izravno korištenje, jer je AI pouzdan u brojevima
• B) Izračunajte i provjerite neovisno o formuli ručno ili pomoću RDKita ✔
• C) Dovoljno je samo pitati drugu umjetnu inteligenciju i usporediti
• D) Molekularna težina nije važna, nema potrebe za provjerom

Objašnjenje: Molekulska težina je veličina izračunata deterministički iz molekulske formule. Dakle, traženje jezičnog modela je najslabiji način; Trebalo bi ga neovisno provjeriti pomoću alata kao što je RDKit ili ga ručno izračunati iz formule. Jezični model može uklopiti takve brojeve s vrijednošću 'vjerojatno izgleda'.

4. Što treba učiniti prije korištenja literarnog citata (članak/DOI) koji je vratila umjetna inteligencija?

• A) Ništa; Ako umjetna inteligencija daje referencu, ona je stvarna
• B) Dovoljno je samo pogledati naslov da bi izgledao uvjerljivo.
• C) Potvrđivanje svakog citata i DOI njihovim dekodiranjem u bazi podataka (doi.org, Crossref) ✔
• D) Dugi DOI broj dokazuje da je stvaran.

Opis: Jezični model može generirati članke, autore i DOI koji izgledaju realno, ali ne postoje (lažni citati). Samo zato što daje DOI ne znači da je valjan. Svaki citat mora biti verificiran rezolucijom u bazi podataka kao što je doi.org, Crossref ili stranica izdavača; Najsigurniji tijek je da čovjek pronađe pravi članak i da umjetna inteligencija sažme tekst.

5. U kojem je području umjetna inteligencija najslabija i zahtijeva potvrdu u planiranju reakcija?

• A) U prepoznavanju kojoj općoj klasi reakcija pripada
• B) Točni brojevi uvjeta, vrijednosti prinosa i imena reagensa/katalizatora ✔
• C) Objašnjavanje mehanizma jednostavnim jezikom
• D) Razmišljanje o alternativnim rutama

Objašnjenje: AI općenito dobro predviđa vrstu reakcije i glavni proizvod dobro dokumentiranih reakcija. Međutim, točni brojevi uvjeta (temperatura, vrijeme, ekvivalent), vrijednosti prinosa, rijetke reakcije i nazivi reagensa/katalizatora su najslabiji i najskloniji izradi; te treba potvrditi literaturom i katalozima.

6. Koji je najpouzdaniji način korištenja umjetne inteligencije u interpretaciji spektra?

• A) Samo navedite nekoliko vrhova i pitajte 'koji je ovo spektar?' pitati
• B) Davanje očekivane strukture i potpunih neobrađenih podataka i provjera dosljednosti (testiranje hipoteza) ✔
• C) Zapisivanje samo vrijednosti pomaka bez izvođenja integracije i dijeljenja
• D) Konačna dodjela strukture izvršena jednom tehnikom (samo IR)

Opis: Pitajte AI 'koji je spoj ovaj spektar?' Postavljanje pitanja od nule povećava stopu pogreške. Najpouzdaniji način je dati očekivanu strukturu (SMILES) i neobrađene podatke (integracija, razdvajanje, rješavač, lista vrhova) zajedno i pitati 'jesu li ovi podaci u skladu s ovom strukturom?' je pitati; odnosno korištenje umjetne inteligencije kao ispitivača hipoteza. Posljednji zadatak je za kemičara koji ispituje eksperimentalni spektar.

7. Koji je najpouzdaniji način za dobivanje rezultata kemijskog izračuna (npr. postotak prinosa)?

• A) Usmeno traženje rezultata izravno od umjetne inteligencije
• B) Ispišite i pokrenite Python kod računa i testirajte ga na poznatom primjeru ✔
• C) Postavite isto pitanje nekoliko puta i dobijte broj koji se najčešće pojavljuje
• D) Brza procjena bez navođenja jedinice

Objašnjenje: Jezični model izvodi aritmetiku 'predviđanjem vjerojatnog ishoda' i može biti pogrešan čak i kod vrlo jednostavnih množenja. Najpouzdaniji način je da AI napiše svoj KOD (npr. Python), a ne sam račun, i pokrene taj kod; kod je deterministički i podložan reviziji. Kod također treba testirati s malim uzorkom čiji je odgovor poznat.

8. Što znači koncept 'domena primjenjivosti' u predviđanju svojstava molekule?

• A) Procesna snaga računala na kojem se model pokreće
• B) Molekularno područje slično podacima za obuku, gdje model daje pouzdana predviđanja ✔
• C) Područje osiguranja gdje je broj koji daje model uvijek točan
• D) Raspon temperature u kojem se molekula može sintetizirati u laboratoriju

Objašnjenje: QSAR/model predviđanja dobro radi na molekulama koje su slične molekulama na kojima je treniran. S obzirom na molekulu koja je vrlo različita od podataka o treniranju, model i dalje proizvodi broj, ali to je nepouzdano; to se zove 'biti izvan opsega primjenjivosti'. Model uvijek daje odgovor; Na čovjeku je da procijeni je li odgovor pouzdan ili ne.

9. Koji je ispravan pristup postupanju s opažanjima u dokumentaciji eksperimenta?

• A) Pisanje zapažanja umjetnoj inteligenciji radi uštede vremena
• B) Osoba koja provodi eksperiment zapisuje zapažanja; Samo umjetna inteligencija formatira i provjerava ✔
• C) Dovoljno je ne bilježiti zapažanja, samo napisati konačni prinos
• D) Skrivanje odstupanja od plana kako bi izvještaj izgledao lijepo

Objašnjenje: Umjetna inteligencija ne zna što je; Uklapanje zapažanja (promjena boje, oslobađanje plina, itd.) u njega proizvodi zapise koji se čine uvjerljivima, ali se nisu dogodili, a to je znanstvena prijevara. AI formatira snimku, poziva nedostajuća polja i provjerava ponovljivost; ali ljudski eksperimentator mora pružiti zapažanja i činjenice. Odstupanja od plana također se moraju evidentirati.

10. Koja je uloga umjetne inteligencije u sigurnosti laboratorija i izvor istine?

• A) Ako umjetna inteligencija kaže 'sigurno', nema potrebe za drugim izvorom
• B) Izvor istine je SDS i GHS; AI je od pomoći, ali ne može imati zadnju riječ ✔
• C) Sigurnosne odluke mogu se u potpunosti delegirati umjetnoj inteligenciji
• D) SDS je nepotreban; Internetski forumi pružaju dovoljno informacija.

Opis: Sigurnost je najveći prioritet u kemiji, a umjetna inteligencija ovdje nikada ne može imati posljednju riječ. Izvor stvarnih sigurnosnih informacija je SDS (Safety Data Sheet) i GHS klasifikacija koju daje proizvođač. AI može sažeti tekst SDS-a, generirati nacrte obrazaca i izvršiti preliminarni pregled neusklađenosti; Međutim, sve tvrdnje moraju biti potvrđene SDS-om, a postupak mora odobriti iskusna osoba/službenik za sigurnost.

11. Koja je od sljedećih kombinacija reagensa poznato opasno (nekompatibilno) podudaranje?

• A) Miješanje vode i kuhinjske soli
• B) Miješanje kisele otopine s otopinom koja sadrži hipoklorit (rizik od plinovitog klora) ✔
• C) Miješanje etanola i vode
• D) Otapanje šećera i vode

Objašnjenje: Dok su neke kemikalije same po sebi relativno sigurne, opasne su zajedno. Miješanje kiseline i hipoklorita oslobađa plinoviti klor; Oksidator + organski predstavlja opasnost od požara/eksplozije, voda + reaktivna metalna toplina/vodik. Iako AI poznaje većinu ovih kombinacija, ne jamči sve i ponekad može dati opasan prijedlog nevinim jezikom; svaki postupak treba pregledati na nesukladnost sa STL-om.

12. Koji je najtočniji izraz za 'halucinacije' (umjetna inteligencija koja proizvodi izmišljene informacije)?

• A) To je rijetka softverska pogreška i potpuno se uklanja ažuriranjem.
• B) To je ponašanje svojstveno jezičnom modelu; Rješenje je neovisna provjera svakog izlaza ✔
• C) Pojavljuje se samo u netočno napisanim upitima, nikad u točnim upitima.
• D) Ako umjetna inteligencija govori sigurnim jezikom, to nije halucinacija

Objašnjenje: Halucinacija nije kvar nego rezultat prirode jezičnog modela koji proizvodi 'sljedeću najvjerojatniju riječ'; Model cilja na moguće, a ne na istinito. Najpodmukliji dio je taj što predstavlja lažne informacije na istom samouvjerenom jeziku kao i istinu. Rješenje nije pokušati popraviti model, već izgraditi validacijsku ljusku prikladnu tipu oko svakog izlaza; tečnost nikada nije dokaz točnosti.

13. Što znači 'triangulacija' za provjeru kritične vrijednosti (npr. molekularne težine)?

• A) Postavljanje istog pitanja istoj umjetnoj inteligenciji tri puta
• B) Uspoređivanje i dolazak do istog zaključka na više od jednog neovisnog načina ✔
• C) Izračunavanje težine tri različite molekule u isto vrijeme
• D) Zaokruživanje rezultata na tri decimale

Objašnjenje: Triangulacijom se dolazi do istog zaključka kroz višestruke neovisne staze; Na primjer, usporedba molekularne težine prema umjetnoj inteligenciji, RDKit izračun i ručni izračun. Ako se dva neovisna puta preklapaju, povjerenje je visoko; Ako netko skrene, to se zaustavlja i istražuje. Umjesto oslanjanja na jedan izvor, treba tražiti najmanje dvije neovisne metode.

14. Koji je ispravan način pitati opću AI službu o jedinstvenoj molekuli koja nije patentirana?

• A) Izravno davanje izvorne strukture, jer je brzina važna
• B) Učenje strategije kroz generički/zamjenski primjer bez otkrivanja izvorne strukture ✔
• C) Davanje strukture nije problem, AI nikada ne skriva informacije
• D) Dovoljna je zaštita nenavođenje imena molekule, već samo dijeljenje njezinih cijelih SMILES-a.

Opis: sadržaj unesen u opću uslugu umjetne inteligencije može se pohraniti ili obrađivati ​​u skladu s politikom usluge; Davanje izvorne strukture riskira povjerljivost i patentni prioritet. Ispravan pristup je naučiti strategiju iz generičkog/zamjenskog primjera (slična klasa struktura) i primijeniti je na vlastitu molekulu unutar tvrtke, bez otkrivanja izvorne strukture. Osobni podaci/podaci o pacijentu također se ne smiju unositi u obliku koji omogućuje identifikaciju.