Добивки:
- Интегрирање на човечкиот принцип во работниот тек од крај до крај во експериментот и можност за одделување на вештачката интелигенција/човечките улоги во секоја фаза
- Способност за работа со генерички прокси примери без давање доверлива структура и податоци на општата вештачка интелигенција
- Способност да се постават порти за човечко одобрување на критични точки и да се преземе крајна одговорност со транспарентност и следливост
Во оваа последна единица го комбинираме целиот модул во една рамка: човек-во-јамка. Овој принцип вели дека без разлика колку е способна вештачката интелигенција, човекот мора да разбере, контролира и одобри во секоја критична точка на хемиска одлука. Во оваа единица, прво ќе ги разјасниме етичките и доверливите аспекти, потоа ќе воспоставиме работен тек од крај до крај што зема молекула од идеја до извештај и ќе видиме како вештачката интелигенција и луѓето ја делат работата во секоја фаза. Целта е сето она што сте го научиле да го претворите во систем кој се вклопува во секојдневната работа.
Приватност: што да не се даде на вештачката интелигенција?
Хемијата често работи со доверливи информации: непатентирани молекули, правци за синтеза на тајните на компанијата, необјавени податоци, примероци од пациенти. Текстот што го внесувате во јавна услуга за вештачка интелигенција може да се складира или обработи според политиката на услугата. Затоа:
- Проверете ја вашата институционална политика пред да ги објавите необјавените оригинални структури (молекули пред патент) на јавна вештачка интелигенција.
- Никогаш не внесувајте лични/пациентски податоци (клинички примероци) во форма која може да се идентификува.
- Прегледајте ги договорите за доверливост пред да ги споделите патеките за синтеза на трговски тајни.
- Одлучете се за внатрешни/прилагодени алатки за ВИ за распоредување кога е потребно.
Внимание: Прашањето општа вештачка интелигенција за молекула може да значи откривање на структурата на таа молекула. За единствена структура која не е патентирана, ова може да го загрози вашиот приоритет (право на патент). Побарајте скриени структури со генерички/сурогат примери.
Етика: четири принципи
- Транспарентност: Не кријте каде користите вештачка интелигенција; Усогласете се со објавувањето и институционалните политики.
- Одговорност: Човекот е одговорен за конечната одлука; „Ви предложи“ не оправдува нарушување на безбедноста или интегритетот.
- Незлобност: Не користете вештачка интелигенција за опасна/нелегална синтеза, апликации за двојна употреба (потенцијал за оружје).
- Правечност и искреност: Не ги искривувајте податоците, не ги украсувајте резултатите, не измислувајте атрибуции.
Работен тек од крај до крај: молекула → извештај
Сега ајде да го комбинираме целиот модул во еден тек. Во секоја фаза, обрнете внимание на разликата помеѓу она што го прави вештачката интелигенција и она што го прави човекот.
Фаза
Улогата на вештачката интелигенција
(Критична) улога на луѓето
1. Идеја/литература
Резиме на концепт, термин за пребарување
Наоѓање на вистинскиот извор, потврда за атрибуција
2. Опис на структурата
генерирање НАСМЕВКИ
Автентикација со RDKit, InChIKey
3. План за синтеза
Ретросинтеза, алтернативи
Потврда за литература, избор на патека
4. Безбедност
Резиме на СДС, прелиминарна неусогласеност
Читање на СДС, одобрение, одлука за ППЕ
5. Апликација
(Никој)
Сите лабораториски работи
6. Анализа
Поддршка за коментари на спектарот
Завршна структура за задача
7. Обработка на податоци
пишување код
Извршете го кодот, потврдете го резултатот
8. Документација
Форматирање, контрола
Набљудување, отстапување, потпис
9. Известување
нацрт-текст
Проверка на број/цитат, одговорност
Оваа табела покажува како 11-те единици на модулот се распоредени во една работа. ВИ забрзува; луѓето проверуваат и поседуваат.
Чекор по чекор: поставување на работниот тек
- Разјаснете ги улогите: За секоја задача, „Дали вештачката интелигенција или човекот одлучува?“ одреди од почеток.
- Поставете филтер за приватност: без да дадете нешто на вештачката интелигенција, можете да прашате "дали е ова приватно/приватно?" прашај.
- Ставете ги портите за верификација: Чекор за верификација на крајот од секоја фаза (табела во единица 10).
- Задржете ја следливоста: каков излез дојде од вештачката интелигенција, како беше потврдена, кој го одобри.
- Поставете точки за одобрување: Човечкото одобрување е задолжително на критичните точки како што се безбедноста и конечниот резултат.
- Повратни информации: запишете ја секоја фатена грешка и подобрете го работниот тек.
Четири шаблони за копирање
1) Предфилтер за приватност:
Пред да поставите прашање, размислете за ова:Содржина: [ШТО ПРАШАМ]Задача: Дали оваа содржина содржи необјавени оригинални артефакти, лични податоци или трговски тајни? Ако е така, предложете како можам да го препишам прашањето со генерички/сурогат пример кој ќе ја скрие структурата.
2) Порта за верификација на крајот на фазата:
Ја завршив следната фаза: [ФАЗА, на пр. план за синтеза].Задача: Наведете ги сите елементи што треба да се потврдат кои излегуваат од оваа фаза (број, цитат, структура, безбедносно барање). За секој, напишете го методот на верификација и кој треба да го потврди. Обележете ги сите отворени ставки што треба да се затворат пред да преминете на следниот чекор.
3) План за дистрибуција на улоги од човек-ВИ:
Мој проект: [КРАТОК ОПИС]. Задача: Поделете го овој проект во фази. За секоја фаза, прави разлика помеѓу: - Што може да направи вештачката интелигенција (нацрт, код, резиме) - Што треба да одлучи човекот (безбедност, последица, одобрување). Означете ги критичните точки каде што крајната одговорност лежи кај човекот.
4) Пријавете проверка на интегритетот:
Подолу е нацрт на мојот извештај:[DRAFT]Задача: Проверете и означете го следново:1) Дали има непроверени бројки/цитати?2) Дали употребата на вештачка интелигенција е транспарентно наведена?3) Дали податоците изгледаат „разубавени“ (надворешно се кријат)?4) Дали има безбедносни/етички недостатоци? [ПРОВЕРИ] каде не сте сигурни.
Слаб промпт / Силен промпт
Слаб:
Кој е најдобриот начин да се синтетизира новата тајна молекула на нашата компанија?[вистинската оригинална структура]
Ова ја изложува оригиналната структура пред патент на општа услуга; Тоа ги става на ризик приоритетот и доверливоста.
Силно:
Би сакал да ја научам општата стратегија за ретросинтеза за слична структура на класа на ароматични кетони. Објаснете преку генерички пример (дериват на ацетофенон) без да ја дадете конкретната, оригинална структура. Ќе ја применам стратегијата на мојата сопствена молекула во куќата.
Разлика: без откривање на латентната структура, истото учење беше постигнато како со генеричкиот сурогат пример.
мини случаи
Случај 1 - Откриена оригинална структура. Еден тим прашал општа вештачка интелигенција за единствена молекула пред да аплицира за патент. Правната единица изјави дека тоа би можело да го доведе во прашање приоритетот; Процесот беше одложен. Лекција: побарајте уникатни структури со генерички прокси, почитувајте ја политиката за приватност.
Случај 2 - Човечка согласност ја спречи несреќата. Во автоматизиран работен тек, вештачката интелигенција произведе нацрт-процедура и требаше да се спроведе директно; Но, искусен хемичар фатил некомпатибилен пар реагенси на портата за „безбедносен клиренс“ за протекување. Поука: во критичните точки, портите за одобрување од човекот спасуваат животи.
Случај 3 - Дисциплина од крај до крај. Еден магистер го имплементирал целиот модул во еден проект: резиме на литература + проверка на вистински цитат со вештачка интелигенција, проверка на структурата со RDKit, анализа на податоци со код, безбедност со SDS, искрена документација, транспарентно известување. Резултатот беше и побрз и поцврст; во одбраната на тезата „Како ја потврдивте вештачката интелигенција? Тој јасно одговори на прашањето. Лекција: AI + дисциплината за верификација најдобро функционира заедно.
Вообичаени грешки
- Давање на латентната структура на општата ВИ. Тоа го загрозува приоритетот на патентот и деловната тајна.
- Внесување препознатливи лични/пациент податоци. Прекршување на приватноста и правен ризик.
- Заобиколувајќи ги портите за одобрување. Безбедност и на крајот одење напред без човечко одобрение.
- Пренесување на одговорноста на вештачката интелигенција. „Ви предложи“ не оправдува никакви грешки.
- Избегнување на транспарентност. Прикривањето на употребата на вештачка интелигенција го поткопува интегритетот.
- Игнорирање на ризикот од двојна употреба. Неетички е да се користи вештачка интелигенција за штетни апликации.
Совет: Дизајнирајте го вашиот работен тек со „секоја критична одлука што човекот ја запира и одобрува“. Направете вештачка интелигенција врска што го забрзува ланецот, а јазолот што го држи ланецот е секогаш човек.
Сумирано
- Човечки принцип во експериментирањето: во секоја критична хемиска одлука, човекот разбира, надгледува и одобрува.
- Приватност: не давајте уникатни артефакти, лични податоци и трговски тајни на јавната вештачка интелигенција; Користете генерички прокси.
- Етика: транспарентност, одговорност, незлобност, чесност се четирите основни принципи.
- Во работниот тек од крај до крај, вештачката интелигенција се забрзува во секоја фаза; луѓето проверуваат и поседуваат.
- Ставете ги портите за човечко одобрување на критичните точки (безбедност, краен резултат) и одржувајте ја следливоста.
Задача за апликација
Изберете ваш проект (реален или хипотетички) и дизајнирајте работен тек на вештачка интелигенција-човечка од почеток до крај. Прилагодете ја горната табела од 9 фази на вашиот сопствен проект: што ќе прави вештачката интелигенција во секоја фаза, што ќе одобри човекот? Применете го предфилтерот за приватност: кои информации не ги давате на вештачката интелигенција, како ги генерирате? Дефинирајте најмалку две порти за одобрување од луѓе и еден метод на следливост. Напишете „план за работен тек и потврда“ на една страница.
листа за проверка
- [ ] Во експериментот, го сфатив човечкиот принцип и зошто тоа беше неопходно.
- [ ] Ја генеризам скриената структура/податоци без да ги дадам на општата вештачка интелигенција.
- [ ] Се придржувам до принципите на транспарентност, одговорност, нелојалност и чесност.
- [ ] Ги одвоив улогите на вештачката интелигенција/човекот во работниот тек од крај до крај.
- [ ] Ги ставив портите за човечко одобрување на критичните точки.
- [ ] Следам каков излез доаѓа од вештачката интелигенција и како се потврдува.
Модул испит
1. Кое од наведеното е најточно позиционирање на вештачката интелигенција во хемијата?
- А) Вештачката интелигенција е код, нацрт и помошник за уредување; Одговорноста за структурата, бројот, ресурсите, безбедноста и етичките одлуки е на луѓето ✔
- Б) Вештачката интелигенција е хемиски мотор и молекуларните тежини што ги дава се секогаш точни.
- В) Вештачката интелигенција работи само во преглед на литература, нема врска со анализа и безбедност
- Г) Бидејќи вештачката интелигенција е понепристрасна од луѓето, безбедносните одлуки треба да се препуштат на неа
Опис: Вештачка интелигенција; Тоа е асистент кој пишува код, произведува нацрти, гради скелет за ретросинтеза, помага и организира интерпретација на спектарот. Сепак, детерминистичката пресметка на молекуларната тежина и стехиометрија, верификацијата на структурата со RDKit, потврдата на цитатите во базата, одлуката за безбедност со SDS/GHS и конечната одговорност припаѓаат на надлежниот хемичар. Големиот јазичен модел не е калкулатор или хемиски мотор; Тоа е генератор на текст кој го произведува „следниот најверојатен збор“ и неговиот непроверен излез може да доведе до неточна структура, број или опасност.
2. Кој е најсигурниот начин да се опише молекула на вештачката интелигенција?
- А) Пишување само на заедничкото турско име
- Б) Давање претстава за структура како НАСМЕВКИ и потврдување на идентитетот со InChIKey ✔
- В) Само кажување на молекуларната тежина
- Г) Доволно е да се напише трговската марка
Објаснување: Имињата (особено трговските и синонимните имиња) се двосмислени и може да доведат до погрешна молекула. Давањето на молекулата структура нотација како НАСМЕВКИ обезбедува прецизност; Неговиот идентитет е потврден во базата на податоци со InChIKey. Дополнително, НАСМЕВКИТЕ дадени од вештачката интелигенција мора да бидат анализирани со RDKit и потврдени со канонализација.
3. Како треба да користите молекуларна тежина дадена од вештачката интелигенција?
- А) Користејќи го директно, бидејќи вештачката интелигенција е сигурна во бројки
- Б) Пресметајте и проверете независно од формулата рачно или со RDKit ✔
- В) Доволно е само да прашате друга вештачка интелигенција и да споредите
- Г) Молекуларната тежина е неважна, нема потреба од верификација
Објаснување: Молекуларната тежина е величина пресметана детерминистички од молекуларната формула. Така, поставувањето на јазичниот модел е најслабиот начин; Треба да се потврди независно со алатка како RDKit или со рачно пресметување од формула. Јазичниот модел може да ги вклопи таквите броеви со вредност „веројатен изглед“.
4. Што треба да се направи пред да се користи литературен цитат (напис/DOI) вратен со вештачка интелигенција?
- А) Ништо; Ако вештачката интелигенција дава референца, тоа е реално
- Б) Доволно е само да го погледнете насловот за да изгледа убедливо.
- В) Потврдување на секој цитат и DOI со нивно декодирање во база на податоци (doi.org, Crossref) ✔
- Г) Долгиот DOI број докажува дека е реален.
Опис: Јазичниот модел може да генерира статии, автори и DOI кои изгледаат реално, но не постојат (лажен цитат). Само затоа што дава DOI не значи дека е валиден. Секој цитат мора да биде потврден со резолуција во базата на податоци како што се doi.org, Crossref или страницата на издавачот; Најбезбедниот тек е човекот да ја пронајде вистинската статија и да го сумира текстот со вештачка интелигенција.
5. Во која област вештачката интелигенција е најслаба и бара потврда при планирањето на реакцијата?
- А) При препознавање на која општа класа припаѓа реакцијата
- Б) Точни броеви на состојби, вредности на принос и имиња на реагенси/катализатори ✔
- В) Објаснување механизам на обичен јазик
- Г) Бура на идеи за алтернативни правци
Објаснување: ВИ генерално добро го предвидува типот на реакција и главниот производ на добро документирани реакции. Сепак, точните бројки на условите (температура, време, еквивалент), вредностите на приносот, ретките реакции и имињата на реагенси/катализатори се најслабите и најподложни на изработка; тие треба да се потврдат со литература и каталози.
6. Кој е најсигурниот начин да се користи вештачката интелигенција во интерпретацијата на спектарот?
- А) Само наведете неколку врвови и прашајте „кој спектар е ова? да прашам
- Б) Давање на очекуваната структура и целосни необработени податоци и проверка на конзистентноста (тестирање хипотеза) ✔
- В) Запишување само на вредностите на поместување без да се изврши интеграција и делење
- Г) Дефинитивната поставеност на структурата направена со една техника (само IR)
Опис: Прашајте ја вештачката интелигенција „кое соединение е овој спектар?“ Барањето од нула ја зголемува стапката на грешка. Најсигурен начин е да се спојат очекуваната структура (SMILES) и необработените податоци (интеграција, разделување, решавач, врвна листа) и да се праша „дали овие податоци се конзистентни со оваа структура?“ е да прашаш; односно користење на вештачка интелигенција како тестер на хипотези. Конечната задача е за хемичарот кој го испитува експерименталниот спектар.
7. Кој е најсигурниот начин да се добие резултат од хемиска пресметка (на пр. процентен принос)?
- А) вербално барање на резултат директно од вештачката интелигенција
- Б) Испечатете го и стартувајте го Python-кодот на сметката и тестирајте го со познат пример ✔
- В) Поставете го истото прашање неколку пати и добијте го бројот што се појавува најчесто
- Г) Брзо проценување без специфицирање на единицата
Објаснување: Јазичниот модел прави аритметика со „предвидување на веројатниот исход“ и може да биде погрешен дури и со многу едноставни множење. Најсигурен начин е вештачката интелигенција да го напише својот КОД (на пр. Пајтон), а не самата сметка и да го изврши тој код; кодот е детерминистички и може да се ревидира. Кодот треба да се тестира и со мал примерок чиј одговор е познат.
8. Што значи концептот на „домен на применливост“ во предвидувањето на молекуларните својства?
- А) Процесорска моќ на компјутерот на кој работи моделот
- Б) Молекуларен регион сличен на податоците за обука, каде што моделот дава сигурни предвидувања ✔
- В) Област на гаранција каде што бројот даден со моделот е секогаш точен
- Г) Температурен опсег во кој молекулата може да се синтетизира во лабораторија
Објаснување: QSAR/моделот за предвидување добро функционира на молекули кои се слични на молекулите на кои бил обучен. Со оглед на молекула која е многу различна од податоците за обука, моделот сè уште произведува број, но тоа е несигурно; ова се нарекува „да се биде надвор од опсегот на применливост“. Моделот секогаш дава одговор; Останува на човекот да процени дали одговорот е сигурен или не.
9. Кој е правилниот пристап за справување со набљудувањата во документацијата за експериментот?
- А) Пишување набљудувања за вештачката интелигенција за да заштедите време
- Б) Лицето што го прави експериментот ги запишува набљудувањата; Само вештачката интелигенција форматира и проверува ✔
- В) Доволно е да не се снимаат набљудувањата, само да се напише конечниот принос
- Г) Криење на отстапувања од планот за извештајот да изгледа убаво
Објаснување: Вештачката интелигенција не знае што е тоа; Правејќи набљудувања (промена на бојата, ослободување гас, итн.) се вклопуваат во него, се создаваат записи кои изгледаат веродостојни, но не се случиле, а тоа е научна измама. Вештачката интелигенција го форматира снимањето, ги потсетува полињата што недостасуваат и проверува дали има повторливост; но човечкиот експериментатор мора да ги обезбеди набљудувањата и фактите. Мора да се евидентираат и отстапувања од планот.
10. Која е улогата на вештачката интелигенција во безбедноста на лабораториите и изворот на вистината?
- А) Ако вештачката интелигенција вели „безбедно“, нема потреба од друг извор
- Б) Изворот на вистината е СДС и ГХС; ВИ е корисна, но не може да го каже последниот збор ✔
- В) Безбедносните одлуки може целосно да се делегираат на вештачката интелигенција
- Г) СДС е непотребен; Интернет форумите обезбедуваат доволно информации.
Опис: Безбедноста е највисок приоритет во хемијата, а вештачката интелигенција никогаш не може да го има последниот збор овде. Изворот на вистинските безбедносни информации е SDS (Безбедносен лист со податоци) и GHS класификацијата обезбедена од производителот. Вештачката интелигенција може да го сумира текстот на СДС, да генерира нацрти на формулари и да изврши прелиминарен скрининг за неусогласеност; Сепак, сите тврдења мора да бидат проверени со СДС и постапката мора да биде одобрена од искусно лице/службеник за обезбедување.
11. Која од следните комбинации на реагенси е позната опасна (некомпатибилна) совпаѓање?
- А) Мешање на вода и кујнска сол
- Б) Мешање на кисел раствор со раствор кој содржи хипохлорит (ризик од гас хлор) ✔
- В) Мешање на етанол и вода
- Г) Распуштање на шеќер и вода
Објаснување: Иако некои хемикалии се релативно безбедни сами по себе, тие се опасни заедно. Со мешање киселина и хипохлорит се ослободува гасот хлор; Оксидизатор + органски претставува ризик од пожар/експлозија, вода + реактивна метална топлина/водород. Иако вештачката интелигенција ги знае повеќето од овие комбинации, таа не ги гарантира сите и понекогаш може да претстави опасен предлог на невин јазик; секоја постапка треба да се провери за неусогласеност со СДС.
12. Кој е најточниот израз за „халуцинација“ (вештачка интелигенција која произведува фабрикувани информации)?
- А) Тоа е ретка софтверска грешка и целосно се елиминира со ажурирање.
- Б) Тоа е однесување својствено за јазичниот модел; Решението е независно да се потврди секој излез ✔
- В) Се појавува само во погрешно напишани потсетници, никогаш во точни потсетници.
- Г) Ако вештачката интелигенција зборува на безбеден јазик, тоа не е халуцинација
Објаснување: Халуцинацијата не е дефект, туку резултат на природата на јазичниот модел што го произведува „следниот најверојатен збор“; Моделот цели кон можното, а не кон вистинското. Најподмолниот дел е тоа што прикажува лажни информации на истиот сигурен јазик како и вистината. Решението не е во обидот да се поправи моделот, туку да се изгради соодветна обвивка за валидација околу секој излез; флуентноста никогаш не е доказ за точноста.
13. Што значи „триангулација“ за да се потврди критична вредност (на пр. молекуларна тежина)?
- А) Поставување исто прашање на иста вештачка интелигенција три пати
- Б) Споредување и донесување ист заклучок на повеќе од еден независен начин ✔
- В) Пресметување на тежината на три различни молекули во исто време
- Г) Заокружување на резултатот на три децимални места
Објаснување: Триангулацијата е постигнување ист заклучок преку повеќе независни патеки; На пример, споредување на молекуларната тежина според вештачката интелигенција, RDKit пресметка и рачна пресметка. Ако две независни патишта се преклопуваат, довербата е висока; Ако некој отстапува, се запира и се истражува. Наместо да се потпираат на еден извор, треба да се бараат најмалку два независни методи.
14. Кој е правилниот начин да се праша општа услуга за вештачка интелигенција за единствена молекула што не е патентирана?
- А) Давање на оригиналната структура директно, бидејќи брзината е важна
- Б) Учење стратегија преку генерички/сурогат пример без откривање на оригиналната структура ✔
- В) Давањето структура не е проблем, вештачката интелигенција никогаш не крие информации
- Г) Да не го дадете името на молекулата, туку само да ја споделите целата нејзина НАСМЕВКА е доволна заштита.
Опис: Содржините внесени во општа услуга за вештачка интелигенција може да се складираат или обработуваат според политиката на услугата; Давањето оригинална структура ја ризикува доверливоста и приоритетот на патентот. Точниот пристап е да се научи стратегијата од генерички/сурогат пример (слична класа на структури) и да се примени на сопствената молекула во куќата, без да се открие оригиналната структура. Личните податоци/податоците на пациентот исто така не треба да се внесуваат во форма што може да се идентификува.