Эксперименттегі адам: этика, құпиялылық, жауапкершілік және түпкілікті жұмыс процесі

Табыстар:

• Экспериментте адамдық принципті үздіксіз жұмыс процесіне біріктіру және әр кезеңде жасанды интеллект/адам рөлдерін ажырата алу
• Жалпы жасанды интеллектке құпия құрылым мен деректерді бермей, жалпы прокси мысалдарымен жұмыс істеу мүмкіндігі
• Адамның рұқсат беру қақпаларын сыни нүктелерге қою және мөлдірлік пен қадағалану арқылы түпкілікті жауапкершілікті өз мойнына алу мүмкіндігі

Бұл соңғы блокта біз бүкіл модульді бір құрылымға біріктіреміз: циклдегі адам. Бұл принцип AI қаншалықты қабілетті болса да, адам химиялық шешімнің әрбір маңызды нүктесінде түсінуі, бақылауы және мақұлдау керек екенін айтады. Бұл бөлімде біз алдымен этикалық және құпиялылық аспектілерін түсіндіреміз, содан кейін молекуланы идеядан есепке дейін қабылдайтын соңына дейін жұмыс процесін орнатамыз және AI мен адамдардың әр кезеңде еңбекті қалай бөлетінін көреміз. Мақсат - сіз үйренген барлық нәрсені күнделікті жұмысқа сәйкес келетін жүйеге айналдыру.

Құпиялылық: AI-ға не беруге болмайды?

Химия көбінесе құпия ақпаратпен жұмыс істейді: патенттелмеген молекулалар, компанияның құпия синтез жолдары, жарияланбаған деректер, пациент үлгілері. Қоғамдық AI қызметіне енгізген мәтініңіз қызмет саясатына сәйкес сақталуы немесе өңделуі мүмкін. Сондықтан:

• Жарияланбаған түпнұсқа құрылымдарды (патентке дейінгі молекулалар) жалпыға ортақ AI-ға шығармас бұрын, институционалдық саясатыңызды тексеріңіз.
• Ешқашан жеке/пациент деректерін (клиникалық үлгілер) анықталатын пішінде енгізбеңіз.
• Коммерциялық құпияны синтездеу жолдарын бөлісер алдында құпиялылық келісімдерін қарап шығыңыз.
• Қажет болған жағдайда ішкі/арнайы орналастыру AI құралдарын таңдаңыз.

Абайлаңыз: Жалпы AI-дан молекула туралы сұрау сол молекуланың құрылымын ашуды білдіруі мүмкін. Патенттелмеген бірегей құрылым үшін бұл сіздің басымдығыңызға қауіп төндіруі мүмкін (патент құқығы). Жалпы/суррогат мысалдары бар жасырын құрылымдарды сұраңыз.

Этика: төрт қағида

1. Мөлдірлік: AI қолданатын жерде жасырмаңыз; Жарияланымдар мен институционалдық саясаттарды сақтаңыз.
2. Жауапкершілік: Адам соңғы шешімге жауапты; «Ұсынылған AI» қауіпсіздікті немесе тұтастықты бұзуды ақтамайды.
3. Зиянды емес: AI қауіпті/заңсыз синтез, қосарланған (қару потенциалы) қолданбалары үшін пайдаланбаңыз.
4. Әділдік және адалдық: деректерді бұрмаламаңыз, нәтижелерді безендірмеңіз, атрибуттарды жасамаңыз.

Жұмыс процесі: молекула → есеп

Енді барлық модульді бір ағынға біріктірейік. Әр кезеңде AI не істейтіні мен адамның не істейтіні арасындағы айырмашылыққа назар аударыңыз.

Сахна

АИ рөлі

Адамның (сыни) рөлі

1. Идея/әдебиет

Ұғымды қорытындылау, іздеу термині

Нақты дереккөзді табу, атрибуцияны растау

2. Құрылымды сипаттау

СМАЙЛДАР құру

RDKit, InChIKey көмегімен аутентификация

3. Синтез жоспары

Ретросинтез, баламалары

Әдебиеттерді бекіту, жол таңдау

4. Қауіпсіздік

SDS қорытындысы, алдын ала сәйкессіздік

SDS оқу, бекіту, ЖҚҚ шешімі

5. Қолданба

(Жоқ)

Барлық зертханалық жұмыстар

6. Талдау

Spectrum түсініктемелерін қолдау

Қорытынды құрылымдық тапсырма

7. Мәліметтерді өңдеу

код жазу

Кодты іске қосыңыз, нәтижені тексеріңіз

8. Құжаттама

Пішімдеу, бақылау

Бақылау, ауытқу, қол қою

9. Есеп беру

мәтін жобасы

Нөмірді/дәйексөзді тексеру, есеп беру

Бұл кесте модульдің 11 бірлігі бір тапсырмаға қалай орналастырылғанын көрсетеді. AI жеделдетеді; адамдар тексереді және иеленеді.

Қадамдық: жұмыс процесін орнату

1. Рөлдерді нақтылаңыз: Әрбір тапсырма үшін «АИ немесе адам шешеді ме?» басынан анықтау.
2. Құпиялық сүзгісін орнатыңыз: AI-ға бірдеңе бермей-ақ, сіз «бұл жеке/жеке ме?» Деп сұрай аласыз. сұраңыз.
3. Тексеру қақпаларын қойыңыз: Әрбір кезеңнің соңында тексеру қадамы (10-бөлімдегі кесте).
4. Бақылау мүмкіндігін сақтаңыз: АИ-ден қандай нәтиже шықты, ол қалай тексерілді, оны кім бекітті.
5. Бекіту нүктелерін орнату: қауіпсіздік және түпкілікті нәтиже сияқты маңызды нүктелерде адамның мақұлдауы міндетті болып табылады.
6. Кері байланыс: Әрбір анықталған қатені жазып алыңыз және жұмыс процесін жақсартыңыз.

Көшірілетін төрт үлгі

1) Құпиялылықтың алдын ала сүзгісі:

Сұрақ қоймас бұрын мынаны қарастырыңыз: Мазмұн: [МЕН СҰРАҒАН НЕ]Тапсырма: Бұл мазмұнда жарияланбаған түпнұсқа артефактілер, жеке деректер немесе коммерциялық құпиялар бар ма? Егер солай болса, құрылымды жасыратын жалпы/суррогат мысалмен сұрақты қалай қайта жазуға болатынын ұсыныңыз.

2) Фазалық тексеру қақпасының соңы:

Мен келесі кезеңді аяқтадым: [PHASE, мысалы. синтез жоспары].Тапсырма: Осы кезеңнен шығатын тексеру қажет барлық элементтерді тізімдеңіз (сан, дәйексөз, құрылым, қауіпсіздік шағымы). Әрқайсысы үшін тексеру әдісін жазыңыз және оны кім растауы керек. Келесі қадамға өту алдында жабылуы қажет кез келген ашық элементтерді белгілеңіз.

3) Адам-AI рөлін бөлу жоспары:

Менің жобам: [ҚЫСҚА СИПАТТАМАСЫ]. Тапсырма: Бұл жобаны кезеңдерге бөліңіз. Әр кезең үшін мыналарды ажыратыңыз: - AI не істей алады (жоба, код, түйіндеме) - Адам нені шешуі керек (қауіпсіздік, салдар, мақұлдау). Ең үлкен жауапкершілік адамда болатын маңызды сәттерді белгілеңіз.

4) Тұтастығын тексеру туралы есеп:

Төменде менің есеп жобасы берілген:[ЖОБА]Тапсырма: Төмендегілерді тексеріп, белгілеңіз: 1) Тексерілмеген сандар/дәйексөздер бар ма?2) Жасанды интеллектіні пайдалану ашық түрде көрсетілген бе?3) Деректер «әдемі» болып көрінеді ме (өте мәнді жасыру)?4) Қауіпсіздік/этикалық кемшіліктер бар ма? [ТЕКСЕРІҢІЗ] сенімді емес жерде.

Әлсіз шақыру / Күшті шақыру

Әлсіз:

Біздің компанияның жаңа құпия молекуласын синтездеудің ең жақсы жолы қандай? [нақты түпнұсқа құрылым]

Бұл патентке дейінгі бастапқы құрылымды жалпы қызметке көрсетеді; Ол басымдылық пен құпиялылыққа қауіп төндіреді.

Күшті:

Мен хош иісті кетондар класының ұқсас құрылымы үшін жалпы ретросинтез стратегиясын білгім келеді. Нақты, түпнұсқа құрылымын бермей, жалпы мысал (ацетофенон туындысы) арқылы түсіндіріңіз. Мен стратегияны өз үйімде өз молекулама қолданамын.

Айырмашылық: жасырын құрылымды ашпай, жалпы суррогат үлгісімен бірдей оқытуға қол жеткізілді.

шағын істер

1-жағдай – Түпнұсқа құрылым ашылды. Команда патент алуға өтініш бермес бұрын жалпы AI-дан бірегей молекула туралы сұрады. Құқықтық бөлімше бұл басымдыққа күмән тудыруы мүмкін деп мәлімдеді; Процесс кейінге қалдырылды. Сабақ: жалпы прокси бар бірегей құрылымдарды сұраңыз, құпиялылық саясатын құрметтеңіз.

2-жағдай — Адамның келісімі апаттың алдын алды. Автоматтандырылған жұмыс процесінде AI рәсім жобасын жасады және оны тікелей жүзеге асыру керек болды; Бірақ тәжірибелі химик ағынды «қауіпсіздік клиренсі» қақпасында үйлесімсіз жұп реагенттерді ұстады. Сабақ: сыни нүктелерде адамның рұқсат беру қақпалары өмірді сақтайды.

3-жағдай — Ақырғы тәртіп. Магистрант бір жобада барлық модульді жүзеге асырды: әдебиетті қорытындылау + AI көмегімен нақты дәйексөзді тексеру, RDKit арқылы құрылымды тексеру, кодпен деректерді талдау, SDS көмегімен қауіпсіздік, шынайы құжаттама, ашық есеп беру. Нәтиже жылдамырақ және сенімдірек болды; диссертация қорғауында «Сіз АИ-ді қалай тексердіңіз?» Ол сұраққа нақты жауап берді. Сабақ: AI + тексеру пәні бірге жақсы жұмыс істейді.

Жалпы қателер

• Жалпы АИ-ге жасырын құрылымды беру. Ол патенттік басымдылық пен коммерциялық құпияны бұзады.
• Анықталатын жеке/пациент деректерін енгізу. Құпиялықты бұзу және заңды тәуекел.
• Рұқсат беру қақпаларын айналып өту. Қауіпсіздік және сайып келгенде адамның рұқсатынсыз алға жылжу.
• Жауапкершілікті AI-ға беру. «Ұсынылған AI» қателерді кешірмейді.
• Ашықтықты болдырмау. AI пайдалануды жасыру тұтастықты бұзады.
• Қосарлы пайдалану қаупін елемеу. Зиянды қолданбалар үшін AI пайдалану этикалық емес.

Кеңес: «Адам тоқтататын және мақұлдайтын әрбір маңызды шешім» арқылы жұмыс процесін жасаңыз. AI-ді тізбекті жеделдететін сілтеме жасаңыз, ал тізбекті ұстайтын түйін әрқашан адам болып табылады.

Қысқаша айтқанда

• Тәжірибедегі адамдық принцип: әрбір маңызды химиялық шешімде адам түсінеді, бақылайды және бекітеді.
• Құпиялылық: бірегей артефактілерді, жеке деректерді және коммерциялық құпияларды ашық AI-ға бермеңіз; Жалпы проксиді пайдаланыңыз.
• Этика: ашықтық, жауапкершілік, зиян келтірмеу, адалдық – төрт негізгі қағида.
• Үздік жұмыс процесінде AI әр кезеңде жылдамдайды; адамдар тексереді және иеленеді.
• Адамның рұқсат беру қақпаларын маңызды нүктелерге қойыңыз (қауіпсіздік, түпкілікті нәтиже) және бақылау мүмкіндігін сақтаңыз.

Қолданбалы тапсырма

Өзіңіздің жобаңызды (нақты немесе гипотетикалық) таңдаңыз және басынан аяғына дейін AI-адам жұмыс процесін жасаңыз. Жоғарыдағы 9 кезеңдік кестені өзіңіздің жобаңызға бейімдеңіз: AI әр кезеңде не істейді, адам нені мақұлдайды? Құпиялықтың алдын ала сүзгісін қолданыңыз: AI-ға қандай ақпаратты бермейсіз, оны қалай жалпылайсыз? Кем дегенде екі адам бекітетін қақпаны және бір бақылау әдісін анықтаңыз. Бір беттік «жұмыс процесі және тексеру жоспарын» жазыңыз.

бақылау парағы

• [ ] Тәжірибеде мен адамдық принципті және оның не үшін қажет екенін түсіндім.
• [ ] Мен жасырын құрылымды/деректерді жалпы AI-ға бермей-ақ жалпылаймын.
• [ ] Мен ашықтық, жауапкершілік, зиян келтірмеу және адалдық принциптерін ұстанамын.
• [ ] Мен жұмыс процесінде AI/адам рөлдерін бөлдім.
• [ ] Мен маңызды нүктелерге адамның рұқсат беру қақпаларын қойдым.
• [ ] Мен AI-дан қандай нәтиже шығатынын және оның қалай тексерілетінін қадағалаймын.

Модуль емтиханы

1. Төмендегілердің қайсысы химияда жасанды интеллект үшін ең дәл позиция болып табылады?

• A) Жасанды интеллект - бұл код, жоба және редакциялау көмекшісі; Құрылымға, санға, ресурстарға, қауіпсіздікке және этикалық шешімдерге жауапкершілік адамдарға жүктеледі ✔
• B) Жасанды интеллект - бұл химия қозғалтқышы және оның беретін молекулалық салмақтары әрқашан дәл.
• C) Жасанды интеллект тек әдебиеттерді шолуда ғана жұмыс істейді, оның талдау мен қауіпсіздікке еш қатысы жоқ
• D) Жасанды интеллект адамдарға қарағанда бейтарап болғандықтан, қауіпсіздік шешімдерін оған қалдыру керек.

Сипаттама: Жасанды интеллект; Бұл кодты жазатын, жобалар жасайтын, ретросинтез қаңқасын құрайтын, спектрді интерпретациялауға көмектесетін және ұйымдастыратын ассистент. Дегенмен, молекулалық салмақ пен стехиометрияның детерминирленген есебі, RDKit көмегімен құрылымды тексеру, мәліметтер базасындағы дәйексөздерді растау, SDS/GHS-пен қауіпсіздік шешімі және соңғы жауапкершілік құзыретті химикке тиесілі. Үлкен тіл моделі калькулятор немесе химия қозғалтқышы емес; Бұл «келесі ең ықтимал сөзді» шығаратын мәтіндік генератор және оның расталмаған шығысы қате құрылымға, санға немесе қауіпке әкелуі мүмкін.

2. Жасанды интеллектке молекуланы сипаттаудың ең сенімді жолы қандай?

• A) Жалпы түрік атауын ғана жазу
• B) SMILES сияқты құрылымды ұсыну және InChIKey көмегімен сәйкестікті растау ✔
• C) Молекулярлық салмақты ғана айту
• D) Тауар белгісін жазу жеткілікті

Түсініктеме: Атаулар (әсіресе сауда және синонимдік атаулар) анық емес және қате молекулаға әкелуі мүмкін. Молекулаға SMILES сияқты құрылымдық белгіні беру дәлдікті қамтамасыз етеді; Оның жеке басы InChIKey деректер базасында расталған. Сонымен қатар, жасанды интеллект арқылы берілген SMILES RDKit арқылы талдануы және канонизация арқылы тексерілуі керек.

3. Жасанды интеллект берген молекулалық салмақты қалай пайдалану керек?

• A) Оны тікелей пайдалану, өйткені AI сандарда сенімді
• B) Формуладан тәуелсіз қолмен немесе RDKit арқылы есептеңіз және тексеріңіз ✔
• C) Басқа жасанды интеллект сұрап, салыстыру жеткілікті
• D) Молекулярлық салмақ маңызды емес, тексеру қажет емес

Түсініктеме: Молекулалық салмақ – молекулалық формула бойынша детерминирленген түрде есептелетін шама. Сондықтан тілдік үлгіні сұрау - ең әлсіз әдіс; Оны RDKit сияқты құралмен немесе формуладан қолмен есептеу арқылы тәуелсіз тексеру керек. Тіл үлгісі «ықтимал көрінетін» мәні бар мұндай сандарға сәйкес келеді.

4. Жасанды интеллект қайтарылған әдебиеттер сілтемесін (мақала/DOI) қолданбас бұрын не істеу керек?

• A) Ештеңе; Егер жасанды интеллект анықтама берсе, ол нақты
• B) Сенімді көріну үшін тақырыпқа қарау жеткілікті.
• C) Әрбір дәйексөз мен DOI деректер базасында декодтау арқылы растау (doi.org, Crossref) ✔
• D) Ұзын DOI саны оның нақты екенін дәлелдейді.

Сипаттама: Тіл үлгісі шынайы көрінетін, бірақ жоқ (жалған дәйексөз) мақалаларды, авторларды және DOI жасай алады. Ол DOI беретіндіктен, оның жарамды екенін білдірмейді. Әрбір дәйексөз doi.org, Crossref немесе баспагер сайты сияқты дерекқордағы рұқсатпен тексерілуі керек; Ең қауіпсіз ағын - адамның нақты мақаланы табуы және мәтінді жасанды интеллект арқылы қорытындылауы.

5. Қандай салада жасанды интеллект ең әлсіз және реакцияны жоспарлауда растауды қажет етеді?

• A) Реакция қай жалпы класқа жататынын тану үшін
• B) Нақты шарт сандары, кіріс мәндері және реагент/катализатор атаулары ✔
• C) Механизмді қарапайым тілмен түсіндіру
• D) Баламалы жолдар бойынша миға шабуыл

Түсініктеме: AI әдетте реакция түрін және жақсы құжатталған реакциялардың негізгі өнімін жақсы болжайды. Дегенмен, нақты жағдай сандары (температура, уақыт, эквивалент), кірістілік мәндері, сирек реакциялар және реагент/катализатор атаулары ең әлсіз және жасауға бейім; бұл әдебиеттермен және каталогтармен расталуы керек.

6. Спектрді интерпретациялауда жасанды интеллектті қолданудың ең сенімді әдісі қандай?

• A) Бірнеше шыңды көрсетіңіз және «бұл қандай спектр?» деп сұраңыз. сұрау
• B) Күтілетін құрылымды және толық бастапқы деректерді беру және сәйкестікті тексеру (гипотеза тестілеу) ✔
• C) Интегралдау мен бөлуді орындамай тек жылжу мәндерін жазу
• D) Бір әдіспен орындалған нақты құрылымды тағайындау (тек IR)

Сипаттама: AI-дан «бұл спектр қандай қосылыс?» деп сұраңыз. Нөлден сұрау қателік деңгейін арттырады. Ең сенімді әдіс – күтілетін құрылымды (SMILES) және бастапқы деректерді (интеграция, бөлу, шешуші, шыңдар тізімі) бірге беру және «бұл деректер осы құрылымға сәйкес келеді ме?» деп сұрау. сұрау болып табылады; яғни гипотезаны тексеруші ретінде жасанды интеллект қолдану. Соңғы тапсырма тәжірибелік спектрді зерттейтін химикке арналған.

7. Химиялық есептің нәтижесін алудың ең сенімді жолы қандай (мысалы, пайыздық өнімділік)?

• A) Нәтижені тікелей жасанды интеллекттен ауызша сұрау
• B) Тіркелгінің Python кодын басып шығарыңыз және іске қосыңыз және оны белгілі мысалмен тексеріңіз ✔
• C) Бір сұрақты бірнеше рет қойып, ең жиі келетін санды алыңыз
• D) Бірлікті көрсетпей жылдам бағалау

Түсініктеме: Тілдік модель «ықтимал нәтижені болжау» арқылы арифметика жасайды және өте қарапайым көбейтулердің өзінде қате болуы мүмкін. Ең сенімді әдіс - AI тіркелгінің өзі емес, оның КОДЫН (мысалы, Python) жазуы және сол кодты іске қосу; код детерминирленген және тексерілетін. Кодты жауабы белгілі шағын үлгімен де тексеру керек.

8. Молекулярлық қасиеттерді болжауда «қолдану облысы» ұғымы нені білдіреді?

• A) Модель жұмыс істейтін компьютердің өңдеу қуаты
• B) Модель сенімді болжамдар беретін оқу деректеріне ұқсас молекулалық аймақ ✔
• C) Үлгі бойынша берілген сан әрқашан дәл болатын кепілдік аймағы
• D) Молекуланы зертханада синтездеуге болатын температура диапазоны

Түсініктеме: QSAR/болжау моделі оқытылған молекулаларға ұқсас молекулаларда жақсы жұмыс істейді. Оқу деректерінен өте ерекшеленетін молекуланы ескере отырып, модель әлі де санды шығарады, бірақ бұл сенімсіз; бұл «қолдану аясынан тыс болу» деп аталады. Модель әрқашан жауап береді; Жауаптың сенімді немесе сенімді еместігін адамның өзі бағалайды.

9. Эксперименттік құжаттамадағы бақылаулармен жұмыс істеудің дұрыс тәсілі қандай?

• A) Уақытты үнемдеу үшін жасанды интеллектке бақылау жазу
• B) Эксперимент жүргізетін адам бақылауларды жазып алады; AI тек пішімдейді және тексереді ✔
• C) Бақылауларды жазбау жеткілікті, тек соңғы нәтижені жазу жеткілікті
• D) Есептің әдемі болуы үшін жоспардан ауытқуларды жасыру

Түсіндіру: Жасанды интеллект оның не екенін білмейді; Бақылауларды (түстің өзгеруі, газдың бөлінуі және т.б.) оған сәйкестендірілуі мүмкін болып көрінетін, бірақ орын алмаған жазбаларды жасайды және бұл ғылыми алаяқтық. AI жазбаны пішімдейді, жетіспейтін өрістерді еске түсіреді және қайталану мүмкіндігін тексереді; бірақ экспериментатор адам бақылаулар мен фактілерді қамтамасыз етуі керек. Жоспардан ауытқулар да жазылуы керек.

10. Зертханалық қауіпсіздікте жасанды интеллекттің рөлі қандай және ақиқаттың қайнар көзі?

• A) Егер жасанды интеллект «қауіпсіз» десе, басқа дереккөздің қажеті жоқ
• B) Ақиқаттың көзі - SDS және GHS; AI пайдалы, бірақ соңғы сөзді айта алмайды ✔
• C) Қауіпсіздік шешімдерін толығымен жасанды интеллектке беруге болады
• D) SDS қажет емес; Интернет-форумдар жеткілікті ақпарат береді.

Сипаттама: Қауіпсіздік химиядағы ең жоғары басымдық болып табылады және жасанды интеллект бұл жерде ешқашан соңғы сөзді айта алмайды. Нақты қауіпсіздік ақпаратының көзі өндіруші ұсынған SDS (Қауіпсіздік деректер парағы) және GHS классификациясы болып табылады. AI SDS мәтінін қорытындылай алады, пішін жобаларын жасай алады және сәйкессіздіктерді алдын ала тексеруді жүзеге асыра алады; Дегенмен, барлық шағымдар SDS арқылы тексерілуі және процедураны тәжірибелі адам/қауіпсіздік қызметкері бекітуі керек.

11. Төмендегі реагенттер комбинацияларының қайсысы белгілі қауіпті (үйлесімсіз) сәйкестік болып табылады?

• A) Су мен ас тұзын араластыру
• B) Қышқыл ерітіндіні құрамында гипохлориті бар ерітіндімен араластыру (хлор газының пайда болу қаупі) ✔
• C) Этанол мен суды араластыру
• D) Қант пен суды еріту

Түсініктеме: Кейбір химиялық заттар салыстырмалы түрде қауіпсіз болғанымен, олар бірге қауіпті. Қышқыл мен гипохлоридті араластырғанда хлор газы бөлінеді; Тотықтырғыш + органикалық өрт/жарылыс, су + реактивті металл жылу/сутегі қаупін тудырады. AI бұл комбинациялардың көпшілігін білсе де, олардың барлығына кепілдік бермейді және кейде бейкүнә тілде қауіпті ұсынысты ұсына алады; әрбір процедураны SDS сәйкес келмеуі үшін тексеру керек.

12. «Галлюцинация» (жасанды интеллект жасанды ақпаратты шығаратын) үшін ең дәл өрнек қандай?

• A) Бұл сирек кездесетін бағдарламалық құрал қатесі және жаңарту арқылы толығымен жойылады.
• B) Бұл тілдік үлгіге тән мінез-құлық; Шешім - әрбір шығысты өз бетінше тексеру ✔
• C) Ол тек қате жазылған сұрауларда ғана пайда болады, ешқашан дұрыс нұсқауда болмайды.
• D) Егер жасанды интеллект қауіпсіз тілде сөйлейтін болса, бұл галлюцинация емес

Түсініктеме: Галлюцинация ақаулық емес, «келесі ең ықтимал сөзді» тудыратын тіл үлгісінің табиғатының нәтижесі; Модель шындыққа емес, мүмкінге бағытталған. Ең сұмдық тұсы – ол жалған ақпаратты ақиқат сияқты сенімді тілде береді. Шешім үлгіні түзетуге тырысу емес, әр шығыстың айналасында типке сәйкес келетін валидация қабықшасын құру; еркіндік ешқашан дәлдіктің дәлелі емес.

13. Критикалық мәнді (мысалы, молекулалық салмақ) тексеру үшін «триангуляция» нені білдіреді?

• A) Бір жасанды интеллектке бір сұрақты үш рет қою
• B) Бірден көп дербес жолмен салыстыру және бір тұжырымға келу✔
• C) Бір уақытта үш түрлі молекуланың салмағын есептеу
• D) Нәтижені үш ондық таңбаға дейін дөңгелектеу

Түсіндіру: Триангуляция бірнеше тәуелсіз жолдар арқылы бір қорытындыға жету; Мысалы, жасанды интеллект, RDKit есептеу және қолмен есептеу бойынша молекулалық салмақты салыстыру. Екі тәуелсіз жол тоғысса, сенім жоғары; Біреу ауытқыса, ол тоқтатылып, тексеріледі. Бір көзге сүйенудің орнына, кем дегенде екі тәуелсіз әдісті іздеу керек.

14. Жалпы AI қызметінен патенттелмеген бірегей молекула туралы сұраудың дұрыс жолы қандай?

• A) Бастапқы құрылымды тікелей беру, өйткені жылдамдық маңызды
• B) Бастапқы құрылымды ашпай, жалпы/суррогат мысал арқылы стратегияны меңгеру ✔
• C) Құрылымды беру проблема емес, AI ешқашан ақпаратты жасырмайды
• D) Молекуланың атын бермей, тек оның бүкіл SMILES-ін бөлісу жеткілікті қорғаныс болып табылады.

Сипаттама: Жалпы жасанды интеллект қызметіне енгізілген мазмұн қызмет көрсету саясатына сәйкес сақталуы немесе өңделуі мүмкін; Түпнұсқа құрылымды беру құпиялылық пен патенттік басымдылыққа қауіп төндіреді. Дұрыс тәсіл – стратегияны жалпы/суррогат мысалдан (ұқсас құрылымдар класы) үйрену және оны бастапқы құрылымды ашпай-ақ, өз молекуласына қолдану. Жеке/пациент деректері де сәйкестендірілетін пішінде енгізілмеуі керек.