Čovjek u eksperimentiranju: etika, privatnost, odgovornost i sveobuhvatni radni tok

Dobici:

• Integracija ljudskog principa u tok rada od kraja do kraja u eksperimentu i mogućnost odvajanja umjetne inteligencije/ljudskih uloga u svakoj fazi
• Sposobnost rada sa generičkim proxy primjerima bez davanja povjerljive strukture i podataka općoj umjetnoj inteligenciji
• Sposobnost postavljanja kapija ljudskih odobrenja na kritične tačke i preuzimanja krajnje odgovornosti uz transparentnost i sljedivost

U ovoj završnoj jedinici kombiniramo cijeli modul u jedan okvir: čovjek u petlji. Ovaj princip kaže da bez obzira koliko je AI sposoban, čovjek mora razumjeti, kontrolirati i odobriti svaku kritičnu tačku hemijske odluke. U ovoj jedinici prvo ćemo razjasniti etičke aspekte i aspekte povjerljivosti, zatim uspostaviti tok rada od kraja do kraja koji uzima molekul od ideje do izvještaja i vidjeti kako AI i ljudi dijele rad u svakoj fazi. Cilj je da sve što ste naučili pretvorite u sistem koji se uklapa u svakodnevni rad.

Privatnost: šta ne dati AI?

Hemija često radi s povjerljivim informacijama: nepatentiranim molekulima, tajnim putevima sinteze kompanije, neobjavljenim podacima, uzorcima pacijenata. Tekst koji unesete u javnu AI uslugu može se pohraniti ili obraditi u skladu s politikom usluge. dakle:

• Provjerite svoju institucionalnu politiku prije nego što objavite neobjavljene originalne strukture (pre-patentne molekule) javnoj AI.
• Nikada nemojte unositi lične podatke/podatke o pacijentu (kliničke uzorke) u prepoznatljivom obliku.
• Pregledajte ugovore o povjerljivosti prije nego što podijelite puteve sinteze poslovne tajne.
• Odlučite se za AI alate za internu/prilagođenu implementaciju kada je to potrebno.

Oprez: Pitati generalnu umjetnu inteligenciju o molekulu može značiti otkrivanje strukture tog molekula. Za jedinstvenu strukturu koja nije patentirana, to može ugroziti vaš prioritet (pravo na patent). Zatražite skrivene strukture s generičkim/surogatnim primjerima.

Etika: četiri principa

1. Transparentnost: Ne skrivajte gdje koristite AI; Poštujte politiku objavljivanja i institucionalne politike.
2. Odgovornost: Čovjek je odgovoran za konačnu odluku; “AI je predložio” ne opravdava narušavanje sigurnosti ili integriteta.
3. Ne-zlonamjernost: Nemojte koristiti AI za opasne/ilegalne sinteze, dvostruke namjene (potencijalno oružje) primjene.
4. Pravednost i poštenje: Nemojte iskrivljavati podatke, ne uljepšavati rezultate, ne izmišljajte atribucije.

Tok posla od kraja do kraja: molekul → izvještaj

Sada kombinirajmo cijeli modul u jedan tok. U svakoj fazi obratite pažnju na razliku između onoga što AI radi i onoga što radi čovjek.

Stage

Uloga AI

(Kritička) uloga ljudi

1. Ideja/literatura

Sažetak koncepta, pojam za pretraživanje

Pronalaženje pravog izvora, potvrda atribucije

2. Opis strukture

generiranje OSMEHA

Autentifikacija pomoću RDKit, InChIKey

3. Plan sinteze

Retrosinteza, alternative

Potvrda literature, izbor staze

4. Sigurnost

SDS sažetak, preliminarna neusklađenost

SDS čitanje, odobrenje, odluka o LZO

5. Aplikacija

(nijedno)

Svi laboratorijski radovi

6. Analiza

Podrška za komentare spektra

Završni zadatak strukture

7. Obrada podataka

pisanje koda

Pokrenite kod, provjerite rezultat

8. Dokumentacija

Formatiranje, kontrola

Zapažanje, odstupanje, potpis

9. Izvještavanje

nacrt teksta

Provjera broja/citata, odgovornost

Ova tabela pokazuje kako je 11 jedinica modula raspoređeno u jedan posao. AI ubrzava; ljudi provjeravaju i posjeduju.

Korak po korak: postavljanje toka posla

1. Pojasnite uloge: Za svaki zadatak, "Da li AI ili čovjek odlučuje?" odrediti od početka.
2. Postavite filter privatnosti: Bez davanja nečega AI-u možete pitati "je li ovo privatno/privatno?" pitaj.
3. Stavite verifikacione kapije: Korak verifikacije na kraju svake faze (tabela u jedinici 10).
4. Sačuvajte sljedivost: koji izlaz je došao od AI, kako je potvrđen, ko ga je odobrio.
5. Postavite tačke odobrenja: Ljudsko odobrenje je obavezno u kritičnim tačkama kao što su sigurnost i konačni rezultat.
6. Povratne informacije: Zabilježite svaku uočenu grešku i poboljšajte radni tok.

Četiri šablona za kopiranje

1) Predfilter privatnosti:

Prije nego što postavite pitanje, razmislite o sljedećem: Sadržaj: [ŠTA PITAM]Zadatak: Sadrži li ovaj sadržaj neobjavljeni originalni artefakti, lične podatke ili poslovne tajne? Ako jeste, predložite kako da prepišem pitanje pomoću generičkog/surogatnog primjera koji će sakriti strukturu.

2) Vrata za kraj faze verifikacije:

Završio sam sljedeću fazu: [FAZA, npr. plan sinteze]. Zadatak: Navedite sve elemente koje je potrebno provjeriti koji izlaze iz ove faze (broj, citat, struktura, sigurnosni zahtjev). Za svaki napišite način provjere i ko treba da ga potvrdi. Označite sve otvorene stavke koje treba zatvoriti prije nego što pređete na sljedeći korak.

3) Plan raspodjele uloga čovjeka i AI:

Moj projekat: [KRATAK OPIS]. Zadatak: Podijelite ovaj projekat u faze. Za svaku fazu napravite razliku između: - Šta AI može učiniti (nacrt, kod, sažetak) - Šta čovjek mora odlučiti (sigurnost, posljedica, odobrenje). Označite kritične tačke u kojima je najveća odgovornost na čovjeku.

4) Prijavite provjeru integriteta:

Ispod je nacrt mog izvještaja:[NACRT]Zadatak: Označite i označite sljedeće:1) Ima li neprovjerenih brojeva/citata?2) Da li je korištenje AI transparentno navedeno?3) Da li podaci izgledaju „uljepšano“ (skrivaju se izvan granica)?4) Ima li sigurnosnih/etičkih nedostataka? [PROVERI] gde niste sigurni.

Slaba prompt / Jaka prompt

slaba:

Koji je najbolji način da se sintetizuje novi tajni molekul naše kompanije? [stvarna originalna struktura]

Ovo izlaže originalnu pretpatentnu strukturu opštoj usluzi; To dovodi u opasnost prioritet i povjerljivost.

Jaka:

Želio bih naučiti opću strategiju retrosinteze za sličnu strukturu klase aromatičnih ketona. Objasnite kroz generički primjer (derivat acetofenona) bez davanja konkretne, originalne strukture. Primijenit ću strategiju na svoj vlastiti molekul u kući.

Razlika: bez otkrivanja latentne strukture, postignuto je isto učenje kao kod generičkog surogat primjera.

mini koferi

Slučaj 1 — Otkrivena originalna struktura. Tim je pitao generalnu umjetnu inteligenciju o jedinstvenom molekulu prije nego što je podnio zahtjev za patent. Pravna jedinica je navela da bi to moglo dovesti u pitanje prioritet; Proces je kasnio. Lekcija: tražite jedinstvene strukture sa generičkim proxyjem, poštujte politiku privatnosti.

Slučaj 2 — Ljudski pristanak je spriječio nesreću. U automatiziranom toku rada, AI je izradio nacrt procedure i trebao je biti direktno implementiran; Ali iskusni hemičar je uhvatio nekompatibilni par reagensa na prolazu "sigurnosne dozvole". Pouka: u kritičnim tačkama, kapije ljudskog odobrenja spašavaju živote.

Slučaj 3 — Disciplina od kraja do kraja. Student master studija je implementirao cijeli modul u jednom projektu: sažetak literature + stvarna provjera citata pomoću AI, verifikacija strukture pomoću RDKit-a, analiza podataka kodom, sigurnost sa SDS-om, poštena dokumentacija, transparentno izvještavanje. Rezultat je bio i brži i robusniji; na odbrani rada "Kako ste verifikovali AI?" On je jasno odgovorio na pitanje. Lekcija: AI + disciplina verifikacije najbolje rade zajedno.

Uobičajene greške

• Davanje latentne strukture opštem AI. To ugrožava patentni prioritet i poslovnu tajnu.
• Unošenje ličnih podataka/podataka o pacijentu koji se mogu identifikovati. Kršenje privatnosti i pravni rizik.
• Zaobilazeći vrata odobrenja. Sigurnost i konačno kretanje naprijed bez ljudskog odobrenja.
• Prenošenje odgovornosti na AI. “AI je predložio” ne opravdava greške.
• Izbjegavanje transparentnosti. Prikrivanje upotrebe AI podriva integritet.
• Zanemarivanje rizika dvostruke upotrebe. Neetično je koristiti AI za štetne aplikacije.

Savjet: Dizajnirajte svoj radni tok sa „svakom kritičnom odlukom koju čovjek zaustavi i odobri“. Učinite AI karikom koja ubrzava lanac, a čvor koji drži lanac uvijek je čovjek.

Ukratko

• Ljudski princip u eksperimentiranju: u svakoj kritičnoj hemijskoj odluci čovjek razumije, nadzire i odobrava.
• Privatnost: ne dajte jedinstvene artefakte, lične podatke i poslovne tajne javnoj veštačkoj inteligenciji; Koristite generički proxy.
• Etika: transparentnost, odgovornost, nezlonamjernost, poštenje su četiri osnovna principa.
• U toku rada od kraja do kraja, AI ubrzava u svakoj fazi; ljudi provjeravaju i posjeduju.
• Stavite kapije za odobrenje ljudi na kritične tačke (sigurnost, krajnji rezultat) i održavajte sljedivost.

Zadatak aplikacije

Odaberite svoj vlastiti projekt (stvarni ili hipotetički) i dizajnirajte tok rada od strane AI-a od početka do kraja. Prilagodite gornju tabelu od 9 faza svom projektu: šta će AI raditi u svakoj fazi, šta će ljudi odobriti? Primijenite pred-filter privatnosti: koje informacije ne dajete AI-u, kako ih generisati? Definirajte najmanje dvije kapije za odobrenje od strane ljudi i jednu metodu sljedivosti. Napišite "plan toka rada i verifikacije" na jednoj stranici.

kontrolna lista

• [ ] U eksperimentu sam shvatio ljudski princip i zašto je to bilo potrebno.
• [ ] Generizujem skrivenu strukturu/podatke bez davanja opštem AI.
• [ ] Pridržavam se principa transparentnosti, odgovornosti, nezlonamjernosti i poštenja.
• [ ] Odvojio sam AI/ljudske uloge u end-to-end toku rada.
• [ ] Stavio sam kapije ljudskog odobrenja na kritične tačke.
• [ ] Pratim koji izlaz dolazi od AI i kako se provjerava.

Modul Exam

1. Koje od sljedećeg je najpreciznije pozicioniranje umjetne inteligencije u hemiji?

• A) Vještačka inteligencija je pomoćnik za kodiranje, nacrt i uređivanje; Odgovornost za strukturu, broj, resurse, sigurnost i etičke odluke je na ljudima ✔
• B) Vještačka inteligencija je hemijska mašina i molekularne težine koje ona daje su uvek tačne.
• C) Vještačka inteligencija radi samo u pregledu literature, nema nikakve veze sa analizom i sigurnošću
• D) Budući da je umjetna inteligencija nepristrasnija od ljudi, sigurnosne odluke treba joj prepustiti

Opis: Umjetna inteligencija; To je asistent koji piše kod, proizvodi nacrte, gradi skelet retrosinteze, pomaže i organizira interpretaciju spektra. Međutim, deterministički proračun molekulske težine i stehiometrije, verifikacija strukture sa RDKit-om, potvrda citata u bazi, odluka o sigurnosti sa SDS/GHS i konačna odgovornost pripada nadležnom hemičaru. Veliki jezički model nije kalkulator ili hemijska mašina; To je generator teksta koji proizvodi 'sljedeću najvjerovatniju riječ' i njegov neprovjereni izlaz može dovesti do netačne strukture, broja ili opasnosti.

2. Koji je najpouzdaniji način da se opiše molekul umjetnoj inteligenciji?

• A) Pisanje samo uobičajenog turskog imena
• B) Davanje strukture kao što je SMILES i potvrđivanje identiteta sa InChIKey ✔
• C) Samo govorim molekularnu težinu
• D) Dovoljno je napisati zaštitni znak

Objašnjenje: Imena (posebno trgovačka i sinonimna imena) su dvosmislena i mogu dovesti do pogrešnog molekula. Davanje molekuli strukturne notacije kao što je SMILES daje preciznost; Njegov identitet je potvrđen u bazi podataka sa InChIKey. Pored toga, OSMESI koje daje veštačka inteligencija moraju biti raščlanjeni pomoću RDKit-a i verifikovani kanonikalizacijom.

3. Kako koristiti molekularnu težinu koju daje umjetna inteligencija?

• A) Koristeći ga direktno, jer je AI pouzdan u brojevima
• B) Izračunajte i provjerite nezavisno od formule ručno ili pomoću RDKit ✔
• C) Dovoljno je samo pitati drugu umjetnu inteligenciju i uporediti
• D) Molekularna težina je nevažna, nema potrebe za provjerom

Objašnjenje: Molekularna težina je količina izračunata deterministički iz molekularne formule. Dakle, postavljanje jezičkog modela je najslabiji način; Trebalo bi ga nezavisno verificirati pomoću alata kao što je RDKit ili ručno izračunati iz formule. Jezički model može uklopiti takve brojeve sa vrijednošću 'vjerovatnog izgleda'.

4. Šta treba učiniti prije korištenja citiranja literature (članka/DOI) koje je vratila umjetna inteligencija?

• A) Ništa; Ako umjetna inteligencija daje referencu, ona je stvarna
• B) Dovoljan je samo pogled na naslov kako bi izgledao uvjerljivo.
• C) Potvrđivanje svakog citata i DOI dekodiranjem u bazi podataka (doi.org, Crossref) ✔
• D) Dugačak DOI broj dokazuje da je stvaran.

Opis: Jezički model može generirati članke, autore i DOI koji izgledaju realno, ali ne postoje (lažni citat). Samo zato što daje DOI ne znači da je validan. Svaki citat mora biti verificiran rezolucijom u bazi podataka kao što je doi.org, Crossref ili stranica izdavača; Najsigurniji tok je da čovjek pronađe pravi članak i da tekst sažeti pomoću umjetne inteligencije.

5. U kojoj oblasti je umjetna inteligencija najslabija i zahtijeva potvrdu u planiranju reakcija?

• A) U prepoznavanju kojoj opštoj klasi reakcija pripada
• B) Tačni brojevi uslova, vrijednosti prinosa i nazivi reagensa/katalizatora ✔
• C) Objašnjenje mehanizma jednostavnim jezikom
• D) Brainstorming za alternativne rute

Objašnjenje: AI općenito dobro predviđa tip reakcije i glavni proizvod dobro dokumentiranih reakcija. Međutim, tačni brojevi stanja (temperatura, vrijeme, ekvivalent), vrijednosti prinosa, rijetke reakcije i nazivi reagensa/katalizatora su najslabiji i najskloniji izradi; ovo treba potvrditi literaturom i katalozima.

6. Koji je najpouzdaniji način korištenja umjetne inteligencije u interpretaciji spektra?

• A) Samo dajte nekoliko vrhova i pitajte 'koji je ovo spektar?' pitati
• B) Davanje očekivane strukture i potpunih sirovih podataka i provjeru konzistentnosti (testiranje hipoteze) ✔
• C) Pisanje samo vrijednosti pomaka bez izvođenja integracije i dijeljenja
• D) Definitivno dodjeljivanje strukture urađeno jednom tehnikom (samo IR)

Opis: Pitajte AI 'koje je jedinjenje ovaj spektar?' Pitanja od nule povećava stopu greške. Najpouzdaniji način je da zajedno date očekivanu strukturu (SMILES) i sirove podatke (integracija, razdvajanje, rješavač, lista vrhova) i pitate 'da li su ovi podaci konzistentni sa ovom strukturom?' je pitati; odnosno korištenje umjetne inteligencije kao testera hipoteza. Konačni zadatak je za hemičara koji ispituje eksperimentalni spektar.

7. Koji je najpouzdaniji način da se dobije rezultat hemijskog proračuna (npr. procenat prinosa)?

• A) Traženje rezultata direktno od umjetne inteligencije usmeno
• B) Odštampajte i pokrenite Python kod naloga i testirajte ga sa poznatim primerom ✔
• C) Postavite isto pitanje nekoliko puta i dobijete broj koji se najčešće pojavljuje
• D) Brza procjena bez specificiranja jedinice

Objašnjenje: Jezički model radi aritmetiku 'predviđanjem vjerovatnog ishoda' i može biti pogrešan čak i sa vrlo jednostavnim množenjem. Najpouzdaniji način je da AI napiše svoj KOD (npr. Python), a ne sam nalog, i pokrene taj kod; kod je deterministički i podložan reviziji. Kod također treba testirati s malim uzorkom čiji je odgovor poznat.

8. Šta znači koncept 'domena primjenjivosti' u predviđanju molekularnih svojstava?

• A) Procesna snaga računara na kojem model radi
• B) Molekularna regija slična podacima o treningu, gdje model daje pouzdana predviđanja ✔
• C) Područje sigurnosti gdje je broj dat modelom uvijek tačan
• D) Temperaturni raspon u kojem se molekul može sintetizirati u laboratoriju

Objašnjenje: QSAR/predviđeni model dobro radi na molekulima koji su slični molekulima na kojima je obučen. S obzirom na molekul koji se veoma razlikuje od podataka za obuku, model i dalje proizvodi broj, ali to je nepouzdano; ovo se zove 'biti izvan opsega primjenjivosti'. Model uvijek daje odgovor; Na čovjeku je da procijeni da li je odgovor pouzdan ili ne.

9. Koji je ispravan pristup postupanja sa zapažanjima u eksperimentalnoj dokumentaciji?

• A) Pisanje zapažanja vještačkoj inteligenciji radi uštede vremena
• B) Osoba koja izvodi eksperiment zapisuje zapažanja; Samo AI formatira i provjerava ✔
• C) Dovoljno je ne zapisivati zapažanja, samo napisati konačni prinos
• D) Sakrivanje odstupanja od plana kako bi izvještaj izgledao lijepo

Objašnjenje: Vještačka inteligencija ne zna šta je; Ako se zapažanja (promena boje, oslobađanje gasa, itd.) uklapaju u to, proizvodi zapise koji izgledaju uverljivo, ali se nisu desili, a ovo je naučna prevara. AI formatira snimak, prisjeća polja koja nedostaju i provjerava ponovljivost; ali ljudski eksperimentator mora pružiti zapažanja i činjenice. Odstupanja od plana također se moraju evidentirati.

10. Koja je uloga umjetne inteligencije u sigurnosti laboratorija i izvor istine?

• A) Ako umjetna inteligencija kaže 'sigurno', nema potrebe za drugim izvorom
• B) Izvor istine su SDS i GHS; AI je od pomoći, ali ne može imati posljednju riječ ✔
• C) Odluke o sigurnosti mogu se u potpunosti prenijeti na vještačku inteligenciju
• D) SDS je nepotreban; Internet forumi pružaju dovoljno informacija.

Opis: Sigurnost je najveći prioritet u hemiji, a umjetna inteligencija ovdje nikada ne može imati posljednju riječ. Izvor stvarnih sigurnosnih informacija je SDS (Sigurnosni list) i GHS klasifikacija koju daje proizvođač. AI može sažeti tekst SDS-a, generirati nacrte obrazaca i izvršiti preliminarnu provjeru neusklađenosti; Međutim, sve tvrdnje moraju biti provjerene kod SDS-a, a postupak mora odobriti iskusna osoba/službenik obezbjeđenja.

11. Koja od sljedećih kombinacija reagensa je poznata opasna (nekompatibilna) podudarnost?

• A) Mešanje vode i kuhinjske soli
• B) Miješanje kiselog rastvora sa rastvorom koji sadrži hipohlorit (rizik od gasovitog hlora) ✔
• C) Mešanje etanola i vode
• D) Otapanje šećera i vode

Objašnjenje: Dok su neke hemikalije relativno sigurne same, opasne su zajedno. Miješanjem kiseline i hipohlorita oslobađa se plin hlor; Oksidator + organski predstavlja opasnost od požara/eksplozije, voda + reaktivna metalna toplota/vodonik. Iako AI poznaje većinu ovih kombinacija, ne garantuje sve i ponekad može predstavljati opasan predlog na nevinom jeziku; svaki postupak treba pregledati na neusklađenost sa SDS.

12. Koji je najtačniji izraz za 'halucinaciju' (vještačka inteligencija koja proizvodi izmišljene informacije)?

• A) To je rijetka softverska greška i potpuno se eliminira ažuriranjem.
• B) To je ponašanje inherentno jezičkom modelu; Rješenje je neovisna provjera svakog izlaza ✔
• C) Pojavljuje se samo u pogrešno napisanim upitima, nikada u ispravnim upitima.
• D) Ako umjetna inteligencija govori sigurnim jezikom, to nije halucinacija

Objašnjenje: Halucinacija nije kvar, već rezultat prirode jezičkog modela koji proizvodi 'sljedeću najvjerovatniju riječ'; Model ima za cilj moguće, a ne istinito. Najpodmukliji dio je da predstavlja lažne informacije na istom pouzdanom jeziku kao i istina. Rješenje nije pokušati popraviti model, već izgraditi odgovarajuću ljusku za validaciju oko svakog izlaza; tečnost nikada nije dokaz tačnosti.

13. Šta znači 'triangulacija' za provjeru kritične vrijednosti (npr. molekulske težine)?

• A) Postavljanje istog pitanja istoj vještačkoj inteligenciji tri puta
• B) Poređenje i donošenje istog zaključka na više od jednog nezavisnog načina ✔
• C) Izračunavanje težine tri različita molekula u isto vrijeme
• D) Zaokruživanje rezultata na tri decimale

Objašnjenje: Triangulacija je postizanje istog zaključka kroz više nezavisnih puteva; Na primjer, poređenje molekularne težine prema umjetnoj inteligenciji, proračun RDKit i ručni proračun. Ako se dva nezavisna puta preklapaju, poverenje je visoko; Ako neko odstupi, to se zaustavlja i istražuje. Umjesto oslanjanja na jedan izvor, treba tražiti najmanje dvije nezavisne metode.

14. Koji je ispravan način da pitate generalnu AI službu o jedinstvenom molekulu koji nije patentiran?

• A) Davanje originalne strukture direktno, jer je brzina važna
• B) Učenje strategije kroz generički/surogat primjer bez otkrivanja originalne strukture ✔
• C) Davanje strukture nije problem, AI nikada ne krije informacije
• D) Ne davanje imena molekula, već samo dijeljenje njegovih cijelih OSMEHA je dovoljna zaštita.

Opis: Sadržaj unesen u opštu uslugu veštačke inteligencije može se skladištiti ili obraditi u skladu sa politikom usluge; Davanje originalne strukture rizikuje povjerljivost i prioritet patenta. Ispravan pristup je naučiti strategiju iz generičkog/surogatnog primjera (slična klasa struktura) i primijeniti je na vlastiti molekul u kući, bez otkrivanja originalne strukture. Lične podatke/podatke o pacijentu također ne treba unositi u obrazac koji se može identificirati.