Добици:
- Интегрисање људског принципа у ток рада од краја до краја у експерименту и могућност одвајања вештачке интелигенције/људских улога у свакој фази
- Способност рада са генеричким примерима проксија без давања поверљиве структуре и података општој вештачкој интелигенцији
- Способност постављања капија људских одобрења на критичне тачке и преузимања крајње одговорности уз транспарентност и следљивост
У овој завршној јединици комбинујемо цео модул у један оквир: човек-у-петљи. Овај принцип каже да без обзира колико је АИ способан, човек мора да разуме, контролише и одобри у свакој критичној тачки хемијске одлуке. У овој јединици прво ћемо разјаснити етичке аспекте и аспекте поверљивости, затим успоставити ток рада од краја до краја који узима молекул од идеје до извештаја и видети како АИ и људи деле посао у свакој фази. Циљ је да све што сте научили претворите у систем који се уклапа у свакодневни рад.
Приватност: шта не дати АИ?
Хемија често ради са поверљивим информацијама: непатентираним молекулима, тајним путевима синтезе компаније, необјављеним подацима, узорцима пацијената. Текст који унесете у јавну услугу вештачке интелигенције може да се чува или обрађује у складу са политиком услуге. дакле:
- Проверите своју институционалну политику пре него што објавите необјављене оригиналне структуре (пре-патентне молекуле) јавној вештачкој интелигенцији.
- Никада немојте уносити личне податке/податке о пацијенту (клиничке узорке) у препознатљивом облику.
- Прегледајте уговоре о поверљивости пре него што поделите путеве синтезе пословне тајне.
- Одлучите се за интерне/прилагођене алате АИ за примену када је то потребно.
Опрез: Питати општу вештачку интелигенцију о молекулу може значити откривање структуре тог молекула. За јединствену структуру која није патентирана, ово може угрозити ваш приоритет (право на патент). Затражите скривене структуре са генеричким/сурогатним примерима.
Етика: четири принципа
- Транспарентност: Не скривајте где користите АИ; Поштујте политику објављивања и институционалне политике.
- Одговорност: Човек је одговоран за коначну одлуку; „АИ је предложио“ не оправдава нарушавање безбедности или интегритета.
- Не-злонамерност: Не користите вештачку интелигенцију за опасне/нелегалне синтезе, двоструке намене (потенцијално оружје) апликације.
- Праведност и поштење: Немојте искривљавати податке, не улепшавати резултате, не измишљајте атрибуције.
Ток посла од краја до краја: молекул → извештај
Хајде сада да комбинујемо цео модул у један ток. У свакој фази обратите пажњу на разлику између онога што АИ ради и онога што ради човек.
Стаге
Улога АИ
(Критичка) улога људи
1. Идеја/књижевност
Резиме концепта, термин за претрагу
Проналажење правог извора, потврда атрибуције
2. Опис структуре
генерисање осмеха
Аутентификација помоћу РДКит, ИнЦхИКеи
3. План синтезе
Ретросинтеза, алтернативе
Потврда литературе, избор стазе
4. Сигурност
Сажетак СДС-а, прелиминарна неусклађеност
СДС читање, одобрење, одлука о ЛЗО
5. Примена
(ниједно)
Сви лабораторијски радови
6. Анализа
Подршка за коментаре спектра
Завршни задатак структуре
7. Обрада података
писање кода
Покрените код, проверите резултат
8. Документација
Форматирање, контрола
Запажање, одступање, потпис
9. Извјештавање
нацрт текста
Верификација броја/цитата, одговорност
Ова табела показује како је 11 јединица модула распоређено у један посао. АИ убрзава; људи проверавају и поседују.
Корак по корак: подешавање тока посла
- Појасните улоге: За сваки задатак, „Да ли АИ или човек одлучује?“ одредити од почетка.
- Подесите филтер приватности: Без давања нечега АИ, можете да питате „да ли је ово приватно/приватно?“ питати.
- Ставите капије за верификацију: Корак верификације на крају сваке фазе (табела у јединици 10).
- Сачувајте следљивост: који излаз је дошао од АИ, како је верификован, ко га је одобрио.
- Поставите тачке одобрења: Људско одобрење је обавезно у критичним тачкама као што су безбедност и коначни резултат.
- Повратне информације: Забележите сваку уочену грешку и побољшајте ток посла.
Четири шаблона за копирање
1) Предфилтер приватности:
Пре него што поставите питање, размислите о следећем: Садржај: [ШТА ПИТАМ]Задатак: Да ли овај садржај садржи необјављене оригиналне артефакте, личне податке или пословне тајне? Ако јесте, предложите како могу да препишем питање са генеричким/сурогатним примером који ће сакрити структуру.
2) Капија за крај фазе верификације:
Завршио сам следећу фазу: [ФАЗА, нпр. план синтезе].Задатак: Навести све елементе које треба верификовати који излазе из ове фазе (број, цитат, структура, безбедносни захтев). За сваки напишите начин верификације и ко треба да га потврди. Означите све отворене ставке које треба затворити пре него што пређете на следећи корак.
3) План расподеле улога човека и вештачке интелигенције:
Мој пројекат: [КРАТАК ОПИС].Задатак: Поделити овај пројекат на фазе. За сваку фазу направите разлику између: - Шта АИ може да уради (нацрт, код, резиме) - Шта човек мора да одлучи (безбедност, последица, одобрење). Означите критичне тачке у којима је највећа одговорност на човеку.
4) Пријавите проверу интегритета:
Испод је нацрт мог извештаја: [НАЦРТ] Задатак: Означите и означите следеће: 1) Да ли постоје непроверени бројеви/цитати? 2) Да ли је употреба вештачке интелигенције транспарентно наведена? 3) Да ли подаци изгледају „улепшано“ (скривају се ван граница)? 4) Да ли постоје безбедносни/етички недостаци? [ПРОВЕРИ] где нисте сигурни.
Слаби промпт / Јаки промпт
слаба:
Који је најбољи начин да се синтетише нови тајни молекул наше компаније? [стварна оригинална структура]
Ово излаже оригиналну пре-патентну структуру општој служби; То доводи у опасност приоритет и поверљивост.
Јака:
Желео бих да научим општу стратегију ретросинтезе за сличну структуру класе ароматичних кетона. Објасните кроз генерички пример (дериват ацетофенона) без давања конкретне, оригиналне структуре. Стратегију ћу применити на сопствени молекул у кући.
Разлика: без откривања латентне структуре, постигнуто је исто учење као код генеричког сурогат примера.
мини случајеви
Случај 1 — Откривена оригинална структура. Тим је питао општу вештачку интелигенцију о јединственом молекулу пре него што је поднео захтев за патент. Правна јединица је навела да би то могло довести у питање приоритет; Процес је био одложен. Лекција: тражите јединствене структуре са генеричким проксијем, поштујте политику приватности.
Случај 2 — Људски пристанак је спречио несрећу. У аутоматизованом току рада, АИ је израдио нацрт процедуре и требало је да се примени директно; Али искусни хемичар је ухватио некомпатибилан пар реагенса на пролазу „безбедносног простора“. Поука: у критичним тачкама, капије људског одобрења спасавају животе.
Случај 3 — Дисциплина од краја до краја. Студент мастер студија је реализовао цео модул у једном пројекту: сажетак литературе + стварна верификација цитата помоћу АИ, верификација структуре помоћу РДКит-а, анализа података кодом, безбедност са СДС-ом, поштена документација, транспарентно извештавање. Резултат је био и бржи и робуснији; на одбрани тезе "Како сте верификовали АИ?" Он је јасно одговорио на питање. Лекција: АИ + дисциплина верификације најбоље функционише заједно.
Уобичајене грешке
- Давање латентне структуре општем АИ. Компромитује приоритет патента и пословну тајну.
- Уношење података о личности/пацијенту који могу да се идентификују. Кршење приватности и правни ризик.
- Заобилазећи капије за одобрење. Безбедност и коначно кретање напред без људског одобрења.
- Преношење одговорности на АИ. „АИ је предложио“ не оправдава грешке.
- Избегавање транспарентности. Прикривање употребе АИ подрива интегритет.
- Игноришући ризик од двоструке употребе. Неетично је користити АИ за штетне апликације.
Савет: Дизајнирајте свој ток рада са „сваком критичном одлуком коју човек заустави и одобри“. Учините АИ кариком која убрзава ланац, а чвор који држи ланац је увек човек.
Укратко
- Људски принцип у експериментисању: у свакој критичној хемијској одлуци човек разуме, надгледа и одобрава.
- Приватност: не дајте јединствене артефакте, личне податке и пословне тајне јавној вештачкој интелигенцији; Користите генерички прокси.
- Етика: транспарентност, одговорност, незлонамерност, поштење су четири основна принципа.
- У току рада од краја до краја, АИ убрзава у свакој фази; људи проверавају и поседују.
- Поставите капије за одобрење људи на критичне тачке (безбедност, крајњи резултат) и одржавајте следљивост.
Задатак апликације
Изаберите сопствени пројекат (стварни или хипотетички) и дизајнирајте ток рада од стране вештачке интелигенције од почетка до краја. Прилагодите горњу табелу од 9 фаза свом пројекту: шта ће вештачка интелигенција урадити у свакој фази, шта ће човек одобрити? Примените пред-филтер приватности: које информације не дајете АИ, како их генеришете? Дефинишите најмање две капије за одобрење од стране људи и једну методу следљивости. Напишите „план тока рада и верификације“ на једној страници.
контролна листа
- [ ] У експерименту сам схватио људски принцип и зашто је то било потребно.
- [ ] Ја генеришем скривену структуру/податке без давања општем АИ.
- [ ] Поштујем принципе транспарентности, одговорности, незлонамерности и поштења.
- [ ] Одвојио сам улоге вештачке интелигенције/људи у свеобухватном току рада.
- [ ] Ставио сам капије људског одобрења на критичне тачке.
- [ ] Пратим који излаз долази од АИ и како се то проверава.
Модул Екам
1. Шта је од следећег најтачније позиционирање вештачке интелигенције у хемији?
- А) Вештачка интелигенција је помоћник за кодирање, нацрт и уређивање; Одговорност за структуру, број, ресурсе, безбедност и етичке одлуке је на људима ✔
- Б) Вештачка интелигенција је хемијска машина и молекуларне тежине које она даје су увек тачне.
- В) Вештачка интелигенција ради само у прегледу литературе, нема никакве везе са анализом и безбедношћу
- Д) Пошто је вештачка интелигенција непристраснија од људи, безбедносне одлуке треба да буду препуштене њој
Опис: Вештачка интелигенција; То је асистент који пише код, производи нацрте, гради скелет ретросинтезе, помаже и организује интерпретацију спектра. Међутим, детерминистички прорачун молекулске тежине и стехиометрије, верификација структуре са РДКит-ом, потврда цитата у бази, одлука о безбедности са СДС/ГХС и коначна одговорност припадају надлежном хемичару. Велики језички модел није калкулатор или хемијска машина; То је генератор текста који производи 'следећу највероватнију реч' и његов непроверени излаз може довести до нетачне структуре, броја или опасности.
2. Који је најпоузданији начин да се опише молекул вештачкој интелигенцији?
- А) Писање само уобичајеног турског имена
- Б) Давање структуре као што је СМИЛЕС и потврђивање идентитета помоћу ИнЦхИКеи-а ✔
- Ц) Само кажем молекуларну тежину
- Д) Довољно је написати заштитни знак
Објашњење: Имена (нарочито трговачка и синонимна имена) су двосмислена и могу довести до погрешног молекула. Давање молекулу ознаке структуре као што је СМИЛЕС обезбеђује прецизност; Његов идентитет је потврђен у бази података са ИнЦхИКеи-ом. Поред тога, ОСМЕСИ које даје вештачка интелигенција морају бити рашчлањени помоћу РДКит-а и верификовани канокализацијом.
3. Како треба да користите молекуларну тежину коју даје вештачка интелигенција?
- А) Коришћење директно, јер је АИ поуздан у бројевима
- Б) Израчунајте и проверите независно од формуле ручно или помоћу РДКит ✔
- В) Довољно је само питати другу вештачку интелигенцију и упоредити
- Д) Молекуларна тежина је неважна, нема потребе за верификацијом
Објашњење: Молекуларна тежина је количина израчуната детерминистички из молекулске формуле. Дакле, постављање језичког модела је најслабији начин; Требало би да се независно верификује помоћу алата као што је РДКит или да се израчуна ручно из формуле. Језички модел може да уклопи такве бројеве са вредношћу „вероватног изгледа“.
4. Шта треба урадити пре употребе цитата из литературе (чланка/ДОИ) који је вратила вештачка интелигенција?
- А) Ништа; Ако вештачка интелигенција даје референцу, она је стварна
- Б) Довољан је само поглед на наслов да би изгледао убедљиво.
- Ц) Потврђивање сваког цитата и ДОИ декодирањем у бази података (дои.орг, Цроссреф) ✔
- Д) Дугачак ДОИ број доказује да је стваран.
Опис: Језички модел може да генерише чланке, ауторе и ДОИ који изгледају реално, али не постоје (лажни цитат). Само зато што даје ДОИ не значи да је валидан. Сваки цитат мора бити верификован резолуцијом у бази података као што је дои.орг, Цроссреф или сајт издавача; Најсигурнији ток је да човек пронађе прави чланак и да текст сажети помоћу вештачке интелигенције.
5. У којој области је вештачка интелигенција најслабија и захтева потврду у планирању реаговања?
- А) У препознавању којој општој класи реакција припада
- Б) Тачни бројеви услова, вредности приноса и имена реагенса/катализатора ✔
- Ц) Објашњавање механизма једноставним језиком
- Д) Браинсторминг за алтернативне путеве
Објашњење: АИ генерално добро предвиђа тип реакције и главни производ добро документованих реакција. Међутим, тачни бројеви услова (температура, време, еквивалент), вредности приноса, ретке реакције и називи реагенса/катализатора су најслабији и најсклонији фабрикацији; ово треба потврдити литературом и каталозима.
6. Који је најпоузданији начин коришћења вештачке интелигенције у интерпретацији спектра?
- А) Само дајте неколико врхова и питајте 'који је ово спектар?' питати
- Б) Давање очекиване структуре и потпуних необрађених података и провера конзистентности (тестирање хипотезе) ✔
- Ц) Писање само вредности померања без извођења интеграције и дељења
- Д) Дефинитивно додељивање структуре урађено једном техником (само ИР)
Опис: Питајте АИ 'које је једињење овог спектра?' Питања од нуле повећава стопу грешке. Најпоузданији начин је да заједно дате очекивану структуру (СМИЛЕС) и необрађене податке (интеграција, раздвајање, решавач, листа врхова) и питате 'да ли су ови подаци у складу са овом структуром?' је питати; односно коришћење вештачке интелигенције као тестера хипотеза. Коначни задатак је за хемичара који испитује експериментални спектар.
7. Који је најпоузданији начин да се добије резултат хемијског прорачуна (нпр. проценат приноса)?
- А) Усмено тражење резултата директно од вештачке интелигенције
- Б) Одштампајте и покрените Питхон код налога и тестирајте га са познатим примером ✔
- Ц) Поставите исто питање неколико пута и добијте број који се најчешће појављује
- Д) Брза процена без навођења јединице
Објашњење: Модел језика ради аритметику 'предвиђањем вероватног исхода' и може бити погрешан чак и са врло једноставним множењем. Најпоузданији начин је да АИ напише свој КОД (нпр. Питхон), а не сам налог, и да покрене тај код; код је детерминистички и подложан ревизији. Код такође треба тестирати са малим узорком чији је одговор познат.
8. Шта значи концепт 'домена применљивости' у предвиђању молекуларних својстава?
- А) Процесна снага рачунара на којем модел ради
- Б) Молекуларни регион сличан подацима о обуци, где модел даје поуздана предвиђања ✔
- Ц) Област сигурности у којој је број дат моделом увек тачан
- Д) Температурни опсег у коме се молекул може синтетизовати у лабораторији
Објашњење: КСАР/модел предвиђања добро функционише на молекулима који су слични молекулима на којима је обучен. С обзиром на молекул који се веома разликује од података за обуку, модел и даље производи број, али то је непоуздано; ово се зове 'бити изван опсега применљивости'. Модел увек даје одговор; На човеку је да процени да ли је одговор поуздан или не.
9. Који је исправан приступ поступања са запажањима у документацији експеримента?
- А) Писање запажања вештачкој интелигенцији ради уштеде времена
- Б) Особа која ради експеримент записује запажања; Само АИ форматира и проверава ✔
- Ц) Довољно је не записивати запажања, само написати коначан принос
- Г) Сакривање одступања од плана како би извештај изгледао лепо
Објашњење: Вештачка интелигенција не зна шта је; Ако се запажања (промена боје, ослобађање гаса, итд.) уклапају у то, производи записе који изгледају уверљиво, али се нису десили, а ово је научна превара. АИ форматира снимак, опозива поља која недостају и проверава поновљивост; али човек који експериментише мора да пружи запажања и чињенице. Одступања од плана се такође морају евидентирати.
10. Која је улога вештачке интелигенције у безбедности лабораторија и извор истине?
- А) Ако вештачка интелигенција каже „безбедно“, нема потребе за другим извором
- Б) Извор истине су СДС и ГХС; АИ је од помоћи, али не може имати последњу реч ✔
- Ц) Одлуке о безбедности могу се у потпуности пренети на вештачку интелигенцију
- Д) СДС је непотребан; Интернет форуми пружају довољно информација.
Опис: Безбедност је највећи приоритет у хемији, а вештачка интелигенција овде никада не може имати последњу реч. Извор стварних безбедносних информација је СДС (Сигурносни лист) и ГХС класификација коју обезбеђује произвођач. АИ може сумирати текст СДС-а, генерисати нацрте образаца и извршити прелиминарну проверу неусаглашености; Међутим, све тврдње морају бити потврђене код СДС-а, а поступак мора одобрити искусна особа/службеник обезбјеђења.
11. Која од следећих комбинација реагенаса је позната опасна (некомпатибилна) подударност?
- А) Мешање воде и кухињске соли
- Б) Мешање киселог раствора са раствором који садржи хипохлорит (ризик од гасовитог хлора) ✔
- Ц) Мешање етанола и воде
- Д) Растварање шећера и воде
Објашњење: Док су неке хемикалије релативно безбедне саме, опасне су заједно. Мешањем киселине и хипохлорита ослобађа се гасни хлор; Оксидатор + органски представљају опасност од пожара/експлозије, вода + реактивна метална топлота/водоник. Иако АИ познаје већину ових комбинација, не гарантује све и понекад може да представља опасан предлог на невином језику; сваку процедуру треба прегледати на неусклађеност са СДС.
12. Који је најтачнији израз за 'халуцинације' (вештачка интелигенција која производи измишљене информације)?
- А) То је ретка софтверска грешка и потпуно се елиминише ажурирањем.
- Б) То је понашање инхерентно језичком моделу; Решење је да независно проверите сваки излаз ✔
- Ц) Појављује се само у погрешно написаним упитима, никада у исправним упитима.
- Д) Ако вештачка интелигенција говори безбедним језиком, то није халуцинација
Објашњење: Халуцинација није квар, већ резултат природе језичког модела који производи 'следећу највероватнију реч'; Модел има за циљ могуће, а не истинито. Најподмуклији део је то што лажне информације износи истим поузданим језиком као и истина. Решење није да покушате да поправите модел, већ да око сваког излаза направите одговарајућу љуску за валидацију; течност никада није доказ тачности.
13. Шта значи 'триангулација' за верификацију критичне вредности (нпр. молекулске тежине)?
- А) Постављање истог питања истој вештачкој интелигенцији три пута
- Б) Упоређивање и доношење истог закључка на више независних начина ✔
- В) Израчунавање тежине три различита молекула у исто време
- Г) Заокруживање резултата на три децимале
Објашњење: Триангулација је постизање истог закључка кроз више независних путева; На пример, упоређивање молекулске тежине према вештачкој интелигенцији, прорачун РДКит и ручно израчунавање. Ако се два независна пута преклапају, поверење је велико; Ако неко одступи, то се зауставља и истражује. Уместо ослањања на један извор, треба тражити најмање две независне методе.
14. Који је исправан начин да питате општу АИ службу о јединственом молекулу који није патентиран?
- А) Давање оригиналне структуре директно, јер је брзина важна
- Б) Учење стратегије кроз генерички/сурогат пример без откривања оригиналне структуре ✔
- Ц) Давање структуре није проблем, АИ никада не крије информације
- Д) Не давање имена молекула, већ само дељење његових целих Осмеха је довољна заштита.
Опис: Садржај унет у општу услугу вештачке интелигенције може да се чува или обрађује у складу са политиком услуге; Давање оригиналне структуре ризикује поверљивост и приоритет патента. Исправан приступ је научити стратегију из генеричког/сурогатног примера (слична класа структура) и применити је на сопствени молекул у кући, без откривања оригиналне структуре. Личне податке/податке о пацијенту такође не треба уносити у образац који се може идентификовати.