पुष्टिकरण, भ्रम, र वैज्ञानिक अखण्डता

लाभ:

• भाषा मोडेलमा भ्रम निहित छ भनेर बुझ्ने क्षमता र प्रत्येक प्रकारको आउटपुटको लागि उपयुक्त प्रमाणीकरण विधि छनौट गर्नुहोस्।
• त्रिभुजको साथ दुई स्वतन्त्र तरिकामा महत्वपूर्ण मानहरू प्रमाणित गर्नुहोस् र प्रवाहलाई शुद्धतासँग भ्रमित नगर्नुहोस्
• वैज्ञानिक अखण्डताको आधारको रूपमा पारदर्शिता, ट्रेसबिलिटी, डाटा अखण्डता र मानव दायित्व लागू गर्ने क्षमता

यस मोड्युलमा एउटै वाक्यांश बारम्बार फिर्ता आयो: "एआई उत्पादन गर्दछ, मानिसले प्रमाणित गर्दछ।" यस एकाइमा, हामी त्यो वाक्यलाई प्रणालीमा बदल्छौं। उद्देश्य भनेको भ्रम (आश्वस्त भाषाको साथ झूटो/बनाईएको जानकारी उत्पादन गर्ने) पहिचान गर्नु हो, जुन AI को सबैभन्दा खतरनाक व्यवहार हो, प्रत्येक प्रकारको आउटपुटको लागि ठोस प्रमाणीकरण विधि स्थापना गर्न, र यी सबैलाई वैज्ञानिक अखण्डता (इमानदारी, पारदर्शिता, ट्रेसबिलिटी) को ढाँचा भित्र राख्नु हो। रसायन विज्ञान मा एक अप्रमाणित AI आउटपुट मात्र एक गल्ती होइन; यो एक प्रयोग विस्फोट हुन सक्छ, एक व्यक्तिलाई विषाक्त गरिएको छ, वा कागज फिर्ता लिइएको छ।

भ्रम किन अपरिहार्य छ?

ठूलो भाषा मोडेलले "अर्को सबैभन्दा सम्भावित शब्द" उत्पादन गर्दछ; यसले के सम्भव छ भन्नेमा लक्ष्य राख्छ, सत्य होइन। त्यसोभए उसले आणविक तौल, DOI, वा उबलने बिन्दु भर्न सक्छ जुन "व्यावसायिक देखिन्छ" - यो वास्तविक हो कि छैन जाँच नगरी। भ्रम कुनै खराबी होइन, तर यो प्रविधिको प्रकृतिको परिणाम हो। समाधान मोडेललाई "फिक्स गर्ने प्रयास" गर्नु होइन, तर प्रत्येक आउटपुटको वरिपरि प्रमाणीकरण खोल निर्माण गर्नु हो।

भ्रमको सबैभन्दा कपटी पक्ष यसको विश्वस्त भाषा हो। एक गलत आणविक वजन सही एक जस्तै उस्तै विश्वास संग प्रस्तुत गरिएको छ। त्यसैले "विश्वस्त देखिन्छ" को अर्थ "सही" होइन।

ध्यान दिनुहोस्: AI ले कुनै विषयमा कत्तिको धाराप्रवाह र विश्वस्त रूपमा बोल्छ त्यो जानकारीको शुद्धतासँग सम्बन्धित छैन। प्रवाह विश्वास; केवल स्वतन्त्र स्रोतले शुद्धता निर्धारण गर्दछ।

रसायन विज्ञान मा आउटपुट प्रकार द्वारा प्रमाणीकरण

प्रत्येक आउटपुट प्रकारको आफ्नै प्रमाणिकरण विधि हुन्छ। एकल नियम याद गर्नुको सट्टा, आउटपुटको लागि उपयुक्त उपकरण प्रयोग गर्नुहोस्:

आउटपुट प्रकार

प्रमाणीकरण विधि

सवारी साधन

आणविक वजन, सूत्र

सूत्रबाट पुन: गणना गर्नुहोस्

RDKit / म्यानुअल रूपमा

मुस्कान/संरचना

पार्स + क्यानोनिकलाइज

RDKit

उद्धरण/DOI

डेटाबेसमा समाधान गर्नुहोस्

doi.org, Crossref

भौतिक स्थिरता (kn, pKa)

सन्दर्भ डाटाबेस

पबकेम, ह्यान्डबुक

संख्यात्मक गणना

लेख्नुहोस्+रन कोड

पाइथन

प्रतिक्रिया / अवस्था

साहित्य पुष्टि

Reaxys, लेख

सुरक्षा दावी

SDS/GHS

आधिकारिक SDS

स्पेक्ट्रम असाइनमेन्ट

बहु-प्राविधिक + मानव

प्रयोगात्मक स्पेक्ट्रम

यो तालिका वास्तवमा यस मोड्युलको सारांश हो: प्रत्येक एकाइ एक पङ्क्ति हो।

त्रिभुज: तीन स्वतन्त्र मार्ग

सबैभन्दा शक्तिशाली प्रमाणिकरण प्रविधि "त्रिभुज" हो: तीनवटा स्वतन्त्र तरिकामा एउटै निष्कर्षमा पुग्नु। उदाहरण को लागी, एक आणविक वजन को लागी: (1) YZ के भन्छ, (2) RDKit को गणना, (3) सूत्र बाट हात द्वारा गणना। यदि तीन ओभरल्याप, विश्वास उच्च छ; यदि कोही भटकिरहेको छ भने, रोक्नुहोस् र अनुसन्धान गर्नुहोस्। रसायन विज्ञान मा एक एकल स्रोत मा भरोसा कहिल्यै; कम्तिमा दुई स्वतन्त्र मार्गहरू खोज्नुहोस्।

चरणबद्ध रूपमा: प्रमाणीकरण कार्यप्रवाह

1. आउटपुट वर्गीकृत गर्नुहोस्: के यो संख्या, संरचना, विशेषता, सुरक्षा दावी छ?
2. उपयुक्त उपकरण चयन गर्नुहोस्: माथिको तालिकाबाट आउटपुट प्रकारको लागि उपयुक्त प्रमाणीकरण मार्ग प्राप्त गर्नुहोस्।
3. स्वतन्त्र रूपमा गणना / खोजी गर्नुहोस्: एआई बाट स्वतन्त्र रूपमा गाडी चलाउनुहोस्; परिणाम तुलना गर्नुहोस्।
4. यदि त्यहाँ विचलन छ भने, रोक्नुहोस्: यदि मानहरू मेल खाँदैन भने, कुन सही छ भनेर छानबिन नगरी अगाडि नबढ्नुहोस्।
5. आफ्नो छाप छोड्नुहोस्: तपाईंले के प्रमाणित गर्नुभयो र कसरी (वैज्ञानिक अखण्डता) रेकर्ड गर्नुहोस्।
6. अनिश्चितता निर्दिष्ट गर्नुहोस्: "अपुष्टिकृत" भनी प्रमाणित गर्न नसकिने चीजलाई चिन्ह लगाउनुहोस्, यसलाई लुकाउनुहोस्।

चार प्रतिलिपि गर्न मिल्ने टेम्प्लेटहरू

1) आत्म-प्रमाणीकरण:

तपाईंले भर्खर निम्न आउटपुट दिनुभयो: [आउटपुट]। कार्य: यस आउटपुटको प्रत्येक संख्यात्मक/तथ्यात्मक दावीलाई छुट्टै लाइनमा सूचीबद्ध गर्नुहोस्। प्रत्येक दाबीको लागि: "स्वतन्त्र रूपमा यसलाई कसरी प्रमाणित गर्ने?" लेखन विधि (कुन उपकरण/डाटाबेस)। दावी सत्य हो भनेर दाबी नगर्नुहोस्; केवल यसलाई प्रमाणित गर्ने तरिका दिनुहोस्।

२) त्रिभुज नियन्त्रण:

म निम्न अणुको तौल तीन तरिकामा जाँच गर्न चाहन्छु: [मुस्कान]।कार्य: १) आणविक सूत्र निकाल्नुहोस्। २) आणविक तौल गणना एटमद्वारा परमाणु (प्रत्येक तत्वको योगदान) देखाउनुहोस्। नोट: म यसलाई RDKit मा पनि गणना गर्नेछु र तेस्रो तपाइले दिनुभएकोसँग तुलना गर्नेछु। यदि तीन ओभरल्याप गर्दैनन् भने, चेतावनी दिनुहोस्।

3) अस्पष्टता चिन्ह:

निम्न पाठमा धेरै तथ्यात्मक दावीहरू छन्:[TEXT]कार्य: प्रत्येक दावीको छेउमा विश्वास स्तरको लेबल राख्नुहोस्: [प्रमाणित] / [प्रमाणित] / [अनिश्चित]। यदि तपाईं निश्चित हुनुहुन्न भने केहि पनि [प्रमाणित] चिन्ह नगर्नुहोस्।

4) एकरूपता क्रस क्वेरी:

म एउटै प्रश्न दुई फरक तरिकामा सोध्नेछु; हेर्नुहोस् यदि तपाईंका जवाफहरू एकरूप छन्। प्रश्न A: यौगिकको आणविक सूत्र के हो?

कमजोर प्रम्प्ट / बलियो प्रम्प्ट

कमजोर:

यस कम्पाउन्डको बारेमा तपाईलाई थाहा छ सबै कुरा लेख्नुहोस्।

AI अन्धाधुन्ध प्रमाणित र बनावटी जानकारी मिलाउँछ; कुन वास्तविक हो यो स्पष्ट छैन।

बलियो:

यस कम्पाउन्डको बारेमा जानकारी प्रदान गर्नुहोस्, तर प्रत्येक दावीलाई निम्न रूपमा लेबल गर्नुहोस्: [DETERMINISTIC - उपकरणद्वारा प्रमाणित] उदाहरण। आणविक सूत्र, [प्रयोगात्मक - उद्धरण आवश्यक] उदा. पिघलने बिन्दु, [अनिश्चित - निश्चित छैन]। कुनै पनि लेबल नगरिएको दाबीहरू नलेख्नुहोस्।

भिन्नता: हामीले AI लाई यसको आफ्नै अनिश्चितता चिन्ह लगाउन बाध्य पार्यौं; हामीले प्रमाणीकरण कार्यलाई योजनाबद्ध बनायौं।

वैज्ञानिक अखण्डता: ईमानदारी र ट्रेसबिलिटी

प्रमाणीकरण प्राविधिक चरण मात्र होइन, यो नैतिक मुद्दा हो। वैज्ञानिक अखण्डता आवश्यक छ:

• पारदर्शिता: तपाईंले एआई प्रयोग गरिरहनु भएको छ भनेर लुकाउनुहोस्; तपाईंको प्रकाशन/रिपोर्ट नीति अनुसार निर्दिष्ट गर्नुहोस्।
• ट्रेसिबिलिटी: एआईबाट कुन आउटपुट आयो र यो कसरी प्रमाणित भयो रेकर्ड गर्नुहोस्।
• डाटा अखण्डता: AI को साथ "सुन्दरीकरण" परिणामहरू, औचित्य बिना बाहिरीहरूलाई त्याग्नु धोखाधडी हो।
• जिम्मेवारी: अन्तिम नतिजाको लागि तपाईं जिम्मेवार हुनुहुन्छ; "एआईले त्यसो भन्यो" बहाना होइन।

सुझाव: तपाईंले रिपोर्ट वा प्रतिरक्षामा "एआईले यसो भन्नुभयो" भन्ने वाक्यांश प्रयोग गर्न सक्नुहुन्न भन्ने कुरा सुरुबाट स्वीकार गर्नुहोस्। यो स्वीकृतिले स्वचालित रूपमा प्रत्येक आउटपुट प्रमाणित गर्ने बानी ल्याउँछ।

मिनी केसहरू

केस 1 - त्रिभुजले त्रुटि समात्यो। एक विद्यार्थीले आणविक तौल तीन तरिकाले जाँच गरे: YZ ले 178.2, म्यानुअल गणनाले 180.16, RDKit ले 180.16 दियो। दुई स्वतन्त्र मार्गहरू ओभरल्याप गरियो र AI लाई हटाइयो। पाठ: दुई स्वतन्त्र प्रमाणिकरणले चुपचाप एउटा गलत आउटपुटलाई हराउँछ।

केस २ - सुरक्षित भाषा, गलत जानकारी। एआईले धेरै आत्मविश्वासका साथ लेख्यो कि प्रतिक्रिया "कोठाको तापक्रममा सहज रूपमा चल्छ।" साहित्यले यो ताप र उत्प्रेरक आवश्यक देखाएको छ। विद्यार्थीले स्रोतलाई विश्वास गर्यो, सुरक्षित भाषामा होइन। पाठ: प्रवाह सटीकता होइन।

केस ३ - पारदर्शिता प्राप्त भयो। आफ्नो पेपरको विधि खण्डमा, एक शोधकर्ताले स्पष्ट रूपमा बताए कि कुन चरणहरूमा उनले एआई (टेक्स्ट सम्पादन, कोड ड्राफ्टिङ) प्रयोग गरे र लेखे कि उनले स्वतन्त्र रूपमा सबै संख्यात्मक परिणामहरू प्रमाणित गरे। रेफ्री प्रक्रिया सहज रूपमा चल्यो। पाठ: पारदर्शिताले विश्वास निर्माण गर्छ, लुकाइले जोखिम पैदा गर्छ।

सामान्य गल्तीहरू

• सुरक्षित भाषामा भरोसा गर्दै। AI को विश्वस्त टोन सटीकताको संकेत होइन।
• एउटै स्रोतमा भर पर्दै। त्रिभुज बिना एकल आउटपुट स्वीकार गर्दै।
• आउटपुट प्रकार अलग गर्दैन। मैले संख्या, एट्रिब्युसन, र सुरक्षा दावी उही विधिको साथ "जाँच" गरेको सोच्दै।
• अनिश्चितता लुकाउने। प्रमाणित गर्न नसकिने कुनै कुराको रिपोर्टिङ गर्ने हो भने यो निश्चित थियो।
• AI को प्रयोग लुकाउँदै। पारदर्शिताको अभावले वैज्ञानिक अखण्डतालाई कमजोर बनाउँछ।
• जिम्मेवारी सुम्पने । "एआईले त्यसो भन्यो" बहाना अवैध छ; जिम्मेवारी व्यक्तिको हो।

संक्षेपमा

• भाषा मोडेलमा भ्रम निहित हुन्छ; समाधान प्रत्येक आउटपुट वरिपरि एक प्रमाणीकरण खोल निर्माण गर्न हो।
• प्रत्येक आउटपुट प्रकारको आफ्नै प्रमाणिकरण विधि हुन्छ; आउटपुट वर्गीकरण गर्नुहोस् र उपयुक्त उपकरण प्रयोग गर्नुहोस्।
• त्रिभुज (दुई स्वतन्त्र मार्ग) सबैभन्दा बलियो नियन्त्रण हो; एउटै स्रोतमा विश्वास नगर्नुहोस्।
• प्रवाह र विश्वस्त भाषा शुद्धतासँग सम्बन्धित छैन।
• वैज्ञानिक अखण्डताका लागि पारदर्शिता, ट्रेसिबिलिटी, डाटा अखण्डता र मानवीय जिम्मेवारी चाहिन्छ।

आवेदन कार्य

जानाजानी एआई सत्रमा विभिन्न प्रकारका आउटपुटहरू उत्पादन गर्नुहोस्: एक आणविक वजन, एक सन्दर्भ, एक भौतिक स्थिर, एक सुरक्षा दावी, एक संख्यात्मक गणना। सही विधिको साथ प्रत्येक स्वतन्त्र रूपमा प्रमाणित गर्नुहोस् (तालिका हेर्नुहोस्)। कम्तिमा एक भ्रम समात्ने प्रयास गर्नुहोस्। त्यसपछि "मान्यता म्याट्रिक्स" तयार गर्नुहोस्: पङ्क्तिहरू आउटपुटहरू, स्तम्भहरू (एआई मान / स्वतन्त्र मान / यसले ओभरल्याप गरे / मैले यसलाई कसरी प्रमाणित गरें)। तपाईं यस सत्रलाई वैज्ञानिक अखण्डताको सन्दर्भमा कसरी रिपोर्ट गर्नुहुन्छ?

चेकलिस्ट

• [ ] म बुझ्छु किन भ्रम अपरिहार्य छ।
• [] म प्रत्येक आउटपुटलाई यसको प्रकार अनुसार वर्गीकृत गर्छु र उपयुक्त विधिद्वारा प्रमाणित गर्छु।
• [] म महत्वपूर्ण मानहरूमा त्रिभुज (दुई स्वतन्त्र मार्ग) गर्छु।
• [ ] म स्रोतमा विश्वास गर्छु, सुरक्षित भाषा होइन।
• [ ] मैले "अनिश्चित" भनी पुष्टि गर्न नसकिने कुरा चिन्ह लगाउँछु।
• [ ] म मेरो एआई प्रयोगमा पारदर्शी छु र नतिजाको लागि आफैलाई जवाफदेही बनाउँछु।