Растау, галлюцинация және ғылыми тұтастық

Табыстар:

• Галлюцинацияның тілдік модельге тән екенін түсіну және әрбір шығарылым түрі үшін сәйкес тексеру әдісін таңдау мүмкіндігі.
• Триангуляция арқылы сыни мәндерді екі тәуелсіз жолмен тексеріңіз және еркін сөйлеуді дәлдікпен шатастырмаңыз
• Ғылыми тұтастықтың негізі ретінде ашықтықты, бақылауды, деректер тұтастығын және адам жауапкершілігін қолдану мүмкіндігі

Бұл модульде бір сөйлем қайта-қайта оралды: «AI жасайды, адамдар тексереді». Бұл бірлікте біз сол сөйлемді жүйеге айналдырамыз. Мақсат - АИ-нің ең қауіпті мінез-құлқы болып табылатын галлюцинацияны (сенімді тілмен жалған/ойдан шығарылған ақпаратты шығару) тану, әрбір өнім түрі үшін нақты тексеру әдісін белгілеу және бұлардың барлығын ғылыми тұтастық (адалдық, ашықтық, қадағалану) шеңберінде орналастыру. Химиядағы тексерілмеген AI нәтижесі жай ғана қате емес; Бұл эксперименттің жарылуы, адамның улануы немесе қағаздың тартылуы болуы мүмкін.

Неліктен галлюцинация сөзсіз?

Үлкен тіл үлгісі «келесі ең ықтимал сөзді» шығарады; Ол шындыққа емес, мүмкін болатын нәрсеге бағытталған. Сондықтан ол молекулалық салмақты, DOI немесе қайнау температурасын «ақылға қонымды болып көрінетін» мәнмен толтыра алады — оның нақты екенін тексерместен. Галлюцинация ақаулық емес, бұл технологияның табиғатының салдары. Шешім үлгіні «түзетуге тырысу» емес, әрбір шығыстың айналасында валидация қабықшасын құру болып табылады.

Галлюцинацияның ең жасырын аспектісі - оның сенімді тілі. Дұрыс емес молекулалық салмақ дәл сол сенімділікпен беріледі. Сондықтан «сенімді көрінеді» ешқашан «дұрыс» дегенді білдірмейді.

Назар аударыңыз: AI бір тақырыпта қаншалықты еркін және сенімді сөйлейтіні бұл ақпараттың дәлдігіне байланысты емес. Еркіндік сендіреді; Дәлдігін тәуелсіз дереккөз ғана анықтайды.

Химиядан шығу түрі бойынша валидация

Әрбір шығыс түрінің өз тексеру әдісі бар. Бір ережені есте сақтаудың орнына нәтижеге сәйкес құралды пайдаланыңыз:

Шығару түрі

Тексеру әдісі

көлік

Молекулалық массасы, формуласы

Формула бойынша қайта есептеңіз

RDKit / қолмен

SMILE/құрылым

Талдау + канонизациялау

RDKit

Дәйексөз/DOI

Мәліметтер базасында шешу

doi.org, Crossref

Физикалық тұрақты (kn, pKa)

Анықтамалық мәліметтер базасы

PubChem, анықтамалық

сандық есептеу

Кодты жазу+іске қосу

Python

реакция/жағдай

Әдебиетті бекіту

Реаксис, мақала

қауіпсіздік талабы

SDS/GHS

Ресми SDS

Спектрді тағайындау

Көп техникалық + адам

Эксперименттік спектр

Бұл кесте шын мәнінде осы модульдің қысқаша мазмұны болып табылады: әрбір бірлік бір жолдан тұрады.

Триангуляция: үш тәуелсіз жол

Ең күшті тексеру әдісі - «үшбұрыштау»: бір қорытындыға үш тәуелсіз жолмен келу. Мысалы, молекулалық салмақ үшін: (1) YZ айтқандай, (2) RDKit есебі, (3) формуладан қолмен есептеу. Үшеуі бір-біріне сәйкес келсе, сенім жоғары; Егер біреу адасып жатса, тоқтап, зерттеңіз. Химиядағы бір дереккөзге ешқашан сенбеңіз; Кем дегенде екі тәуелсіз жолды іздеңіз.

Қадамдық: тексеру жұмыс процесі

1. Шығаруды жіктеңіз: Бұл сан, құрылым, атрибуция, қауіпсіздік бекітуі ме?
2. Сәйкес құралды таңдаңыз: Жоғарыдағы кестеден шығыс түріне сәйкес тексеру жолын алыңыз.
3. Тәуелсіз есептеу/іздеу: көлік құралын АИ-ге тәуелсіз басқару; нәтижені салыстыру.
4. Егер ауытқу болса, тоқтатыңыз: мәндер сәйкес келмесе, қайсысы дұрыс екенін зерттемей жалғастырмаңыз.
5. Белгіңізді қалдырыңыз: нені және қалай тексергеніңізді жазыңыз (ғылыми тұтастық).
6. Белгісіздікті көрсетіңіз: Тексерілмейтін нәрсені «расталмаған» деп белгілеңіз, оны жасырмаңыз.

Көшірілетін төрт үлгі

1) өзін-өзі тексеру:

Сіз жай ғана келесі нәтижені бердіңіз: [OUTPUT]. Тапсырма: Осы шығыстың әрбір сандық/факті бекітуін бөлек жолда көрсетіңіз. Әрбір бекіту үшін: «оны қалай тәуелсіз тексеруге болады?» жазу әдісі (қай құрал/деректер қоры). Талаптың шындыққа сәйкес келетінін ДАРЫП АЛМАҢЫЗ; Тек оны тексеруге жол беріңіз.

2) Триангуляцияны бақылау:

Мен мына молекуланың салмағын үш әдіспен тексергім келеді: [КҮЛКІМ].Тапсырма: 1) Молекулярлық формуланы шығар.2) Молекулярлық салмақты атом бойынша атомды көрсет (әр элементтің үлесі). Үшеуі бір-біріне сәйкес келмесе, ескертіңіз.

3) анық еместік белгісі:

Келесі мәтінде бірнеше нақты шағымдар бар:[TEXT]Тапсырма: Әр шағымның жанына сенімділік деңгейі белгісін қойыңыз:[ТЕКСЕРІЛДІ] / [ТЕКСЕРІЛДІ] / [БЕЛГІЛІСІЗ].Егер сенімді болмасаңыз, ештеңені [ТЕКСЕРІЛДІ] деп белгілемеңіз.

4) Сәйкестікті айқас сұрау:

Мен бір сұрақты екі түрлі жолмен қоямын; Жауаптарыңыз сәйкес келетінін тексеріңіз. Сұрақ А: Қосылыстың молекулалық формуласы қандай?

Әлсіз шақыру / Күшті шақыру

Әлсіз:

Осы қосылыс туралы білетіндердің барлығын жазыңыз.

AI тексерілетін және ойдан шығарылған ақпаратты таңдаусыз араластырады; Қайсысы нақты екені белгісіз.

Күшті:

Осы қосылыс туралы ақпаратты қамтамасыз етіңіз, бірақ әрбір шағымды келесідей белгілеңіз:[АНЫҚТАУ - құрал арқылы тексерілген] мысалы. молекулалық формула,[ЭКСПЕРИМЕНТТЫҚ - сілтеме қажет] мысалы. балқу температурасы,[БЕЛГІСІЗ - сенімді емес]. Белгіленбеген шағымдарды жазбаңыз.

Айырмашылық: біз AI-ді өзінің белгісіздігін белгілеуге мәжбүр еттік; Біз тексеру жұмысын жоспарлы етіп жасадық.

Ғылыми тұтастық: адалдық және бақылау

Тексеру тек техникалық қадам емес, бұл этикалық мәселе. Ғылыми тұтастық мыналарды талап етеді:

• Мөлдірлік: AI қолданып жатқаныңызды жасырмаңыз; Жарияланым/есеп беру саясатыңызға сәйкес көрсетіңіз.
• Бақылау: AI-дан қандай нәтиже шыққанын және оның қалай тексерілгенін жазыңыз.
• Деректер тұтастығы: AI көмегімен нәтижелерді «әдемілеу», негізсіз шектен шыққан мәндерді алып тастау - алаяқтық.
• Жауапкершілік: Сіз түпкілікті нәтижеге жауаптысыз; «AI осылай деді» - бұл ақтау емес.

Кеңес: Баяндамада немесе қорғауда ешқашан «AI солай айтты» деген сөйлемді пайдалана алмайтыныңызды басынан бастап қабылдаңыз. Бұл қабылдау автоматты түрде әрбір нәтижені тексеру әдетін тудырады.

шағын істер

1-жағдай — триангуляция қатені анықтады. Студент молекулалық салмақты үш жолмен тексерді: YZ 178,2, қолмен есептеу 180,16, RDKit 180,16 берді. Екі тәуелсіз жол қабаттасып, AI жойылды. Сабақ: екі тәуелсіз тексеру бір жалған нәтижені үнсіз жеңеді.

2-жағдай — Қауіпсіз тіл, қате ақпарат. AI реакцияның «бөлме температурасында өздігінен жүретінін» өте сенімді түрде жазды. Әдебиеттер бұл қыздыру мен катализаторды қажет ететінін көрсетті. Студент қауіпсіз тілге емес, дереккөзге сенді. Сабақ: еркін сөйлеу – дәлдік емес.

3-жағдай — мөлдірлікке қол жеткізілді. Жұмысының әдіс бөлімінде бір зерттеуші AI (мәтінді өңдеу, код жасау) қандай қадамдарда қолданғанын нақты айтып, барлық сандық нәтижелерді өз бетінше тексергенін жазды. Төрешілік процесі еш қиындықсыз өтті. Сабақ: ашықтық сенімді арттырады, жасыру тәуекелді тудырады.

Жалпы қателер

• Қауіпсіз тілге сену. AI сенімді үні дәлдіктің көрсеткіші емес.
• Бір көзге сүйену. Триангуляциясыз бір шығысты қабылдау.
• Шығару түрін бөлмеу. Нөмірді, атрибуцияны және қауіпсіздік бекітуін дәл сол әдіспен «тексердім» деп ойлаймын.
• Белгісіздікті жасыру. Тексеру мүмкін емес нәрсені сенімді сияқты хабарлау.
• AI пайдалануды жасыру. Ашықтықтың болмауы ғылыми тұтастыққа нұқсан келтіреді.
• Жауапкершілікті тапсыру. «АИ айтты» деген сылтау жарамсыз; Жауапкершілік адамда.

Қысқаша айтқанда

• Галлюцинация тілдік модельге тән; Шешім әрбір шығыстың айналасында валидация қабықшасын құру болып табылады.
• Әрбір шығыс түрінің өз тексеру әдісі бар; шығаруды жіктеп, сәйкес құралды қолданыңыз.
• Триангуляция (екі тәуелсіз жол) - ең күшті бақылау; Бір көзге сенбеңіз.
• Еркін сөйлеу және сенімді тіл дәлдікпен байланысты емес.
• Ғылыми тұтастық ашықтықты, қадағалануды, деректер тұтастығын және адам жауапкершілігін талап етеді.

Қолданбалы тапсырма

AI сессиясында әртүрлі нәтижелерді әдейі жасаңыз: молекулалық салмақ, анықтама, физикалық тұрақты, қауіпсіздік шағымы, сандық есептеу. Әрқайсысын дұрыс әдіспен тәуелсіз түрде тексеріңіз (кестені қараңыз). Кем дегенде бір галлюцинацияны ұстауға тырысыңыз. Содан кейін «тексеру матрицасын» дайындаңыз: жолдар шығыстары, бағандар (AI мәні / тәуелсіз мән / ол қабаттаса ма / оны қалай тексердім). Сіз бұл сессияны ғылыми тұтастық тұрғысынан қалай баяндайсыз?

бақылау парағы

• [ ] Мен галлюцинацияның неліктен сөзсіз екенін түсінемін.
• [ ] Әрбір шығысты түріне қарай жіктеп, оны сәйкес әдіспен тексеремін.
• [ ] Мен сыни мәндер бойынша триангуляция (екі тәуелсіз жол) жасаймын.
• [ ] Мен қауіпсіз тілге емес, дереккөзге сенемін.
• [ ] Мен растауға болмайтын нәрсені "белгісіз" деп белгілеймін.
• [ ] Мен AI пайдалануда ашықпын және нәтиже үшін өзімді жауаптымын.