પુષ્ટિકરણ, આભાસ અને વૈજ્ઞાનિક અખંડિતતા

નફો:

• ભાષા મોડેલમાં આભાસ સહજ છે તે સમજવાની ક્ષમતા અને દરેક પ્રકારના આઉટપુટ માટે યોગ્ય ચકાસણી પદ્ધતિ પસંદ કરો.
• નિર્ણાયક મૂલ્યોને ત્રિકોણ સાથે બે સ્વતંત્ર રીતે ચકાસો અને ચોકસાઈ સાથે પ્રવાહિતાને ગૂંચવશો નહીં
• વૈજ્ઞાનિક અખંડિતતાના આધાર તરીકે પારદર્શિતા, ટ્રેસેબિલિટી, ડેટા અખંડિતતા અને માનવ જવાબદારી લાગુ કરવાની ક્ષમતા

આ મોડ્યુલ દરમિયાન એક જ વાક્ય વારંવાર પાછો ફર્યો: "એઆઈ ઉત્પન્ન કરે છે, માણસો ચકાસે છે." આ એકમમાં, આપણે તે વાક્યને સિસ્ટમમાં ફેરવીએ છીએ. ઉદ્દેશ્ય આભાસને ઓળખવાનો છે (આત્મવિશ્વાસની ભાષા સાથે ખોટી/બનાવટી માહિતી ઉત્પન્ન કરવી), જે AI નું સૌથી ખતરનાક વર્તન છે, દરેક પ્રકારના આઉટપુટ માટે એક નક્કર ચકાસણી પદ્ધતિ સ્થાપિત કરવી, અને આ બધાને વૈજ્ઞાનિક અખંડિતતા (પ્રામાણિકતા, પારદર્શિતા, ટ્રેસેબિલિટી) ના માળખામાં મૂકવાનો છે. રસાયણશાસ્ત્રમાં વણચકાસાયેલ AI આઉટપુટ માત્ર એક ભૂલ નથી; તે એક પ્રયોગ વિસ્ફોટ થઈ શકે છે, કોઈ વ્યક્તિને ઝેર આપવામાં આવે છે અથવા કાગળ પાછો ખેંચવામાં આવે છે.

આભાસ શા માટે અનિવાર્ય છે?

વિશાળ ભાષા મોડેલ "આગામી સંભવિત શબ્દ" ઉત્પન્ન કરે છે; તે શું શક્ય છે તેના પર લક્ષ્ય રાખે છે, શું સાચું નથી. તેથી તે પરમાણુ વજન, DOI અથવા ઉત્કલન બિંદુને એવા મૂલ્ય સાથે ભરી શકે છે જે "વાજબી લાગે છે" — તે વાસ્તવિક છે કે કેમ તે તપાસ્યા વિના. આભાસ એ કોઈ ખામી નથી, પરંતુ આ ટેકનોલોજીની પ્રકૃતિનું પરિણામ છે. ઉકેલ એ મોડેલને "ફિક્સ કરવાનો પ્રયાસ" કરવાનો નથી, પરંતુ દરેક આઉટપુટની આસપાસ માન્યતા શેલ બનાવવાનો છે.

આભાસનું સૌથી કપટી પાસું તેની આત્મવિશ્વાસપૂર્ણ ભાષા છે. એક અયોગ્ય પરમાણુ વજન બરાબર તે જ આત્મવિશ્વાસ સાથે રજૂ કરવામાં આવે છે. તેથી "આત્મવિશ્વાસ લાગે છે" નો અર્થ ક્યારેય "સાચો" થતો નથી.

ધ્યાન આપો: એઆઈ કોઈ વિષય પર કેટલી અસ્ખલિત અને આત્મવિશ્વાસથી બોલે છે તે માહિતીની સચોટતા સાથે સંબંધિત નથી. અસ્ખલિત પ્રતીતિ; માત્ર સ્વતંત્ર સ્ત્રોત જ ચોકસાઈ નક્કી કરે છે.

રસાયણશાસ્ત્રમાં આઉટપુટ પ્રકાર દ્વારા માન્યતા

દરેક આઉટપુટ પ્રકાર તેની પોતાની ચકાસણી પદ્ધતિ ધરાવે છે. એક નિયમ યાદ રાખવાને બદલે, આઉટપુટ માટે યોગ્ય સાધનનો ઉપયોગ કરો:

આઉટપુટ પ્રકાર

ચકાસણી પદ્ધતિ

વાહન

પરમાણુ વજન, સૂત્ર

સૂત્રમાંથી પુનઃગણતરી કરો

આરડીકિટ / મેન્યુઅલી

સ્મિત/માળખું

પાર્સ + કેનોનિકલાઈઝ

આરડીકિટ

અવતરણ/DOI

ડેટાબેઝમાં ઉકેલો

doi.org, ક્રોસરેફ

ભૌતિક સ્થિરાંક (kn, pKa)

સંદર્ભ ડેટાબેઝ

પબકેમ, હેન્ડબુક

સંખ્યાત્મક ગણતરી

લખો+રન કોડ

અજગર

પ્રતિક્રિયા/સ્થિતિ

સાહિત્ય પુષ્ટિ

Reaxys, લેખ

સુરક્ષા દાવો

SDS/GHS

સત્તાવાર SDS

સ્પેક્ટ્રમ સોંપણી

બહુ-તકનીકી + માનવ

પ્રાયોગિક સ્પેક્ટ્રમ

આ કોષ્ટક ખરેખર આ મોડ્યુલનો સારાંશ છે: દરેક એકમ એક પંક્તિ છે.

ત્રિકોણ: ત્રણ સ્વતંત્ર માર્ગો

સૌથી શક્તિશાળી ચકાસણી તકનીક "ત્રિકોણ" છે: ત્રણ સ્વતંત્ર રીતે સમાન નિષ્કર્ષ પર પહોંચવું. ઉદાહરણ તરીકે, પરમાણુ વજન માટે: (1) YZ શું કહે છે, (2) RDKitની ગણતરી, (3) સૂત્રમાંથી હાથથી ગણતરી. જો ત્રણ ઓવરલેપ થાય, તો વિશ્વાસ વધારે છે; જો કોઈ ભટકી રહ્યું હોય, તો રોકો અને તપાસ કરો. રસાયણશાસ્ત્રમાં ક્યારેય એક સ્ત્રોત પર આધાર રાખશો નહીં; ઓછામાં ઓછા બે સ્વતંત્ર રસ્તાઓ માટે જુઓ.

સ્ટેપ બાય સ્ટેપ: વેરિફિકેશન વર્કફ્લો

1. આઉટપુટનું વર્ગીકરણ કરો: શું તે સંખ્યા, માળખું, એટ્રિબ્યુશન, સુરક્ષા દાવો છે?
2. યોગ્ય સાધન પસંદ કરો: ઉપરના કોષ્ટકમાંથી આઉટપુટ પ્રકાર માટે યોગ્ય ચકાસણી પાથ મેળવો.
3. સ્વતંત્ર રીતે ગણતરી/શોધ કરો: AI થી સ્વતંત્ર રીતે વાહન ચલાવો; પરિણામની સરખામણી કરો.
4. જો કોઈ વિચલન હોય, તો રોકો: જો મૂલ્યો મેળ ખાતા નથી, તો તપાસ કર્યા વિના આગળ વધશો નહીં કે કયું સાચું છે.
5. તમારી છાપ છોડો: તમે શું ચકાસ્યું અને કેવી રીતે (વૈજ્ઞાનિક અખંડિતતા) રેકોર્ડ કરો.
6. અનિશ્ચિતતા સ્પષ્ટ કરો: "અપ્રમાણિત" તરીકે ચકાસી શકાતી નથી તેવી કોઈ વસ્તુને ચિહ્નિત કરો, તેને છુપાવશો નહીં.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) સ્વ-ચકાસણી:

તમે હમણાં જ નીચેનું આઉટપુટ આપ્યું છે: [આઉટપુટ]. કાર્ય: આ આઉટપુટના દરેક આંકડાકીય/વાસ્તવિક નિવેદનને અલગ લાઇન પર સૂચિબદ્ધ કરો. દરેક નિવેદન માટે: "સ્વતંત્ર રીતે તેને કેવી રીતે ચકાસવું?" લખવાની પદ્ધતિ (કયું સાધન/ડેટાબેઝ). એવો દાવો કરશો નહીં કે દાવો સાચો છે; તેને ચકાસવા માટે માત્ર એક માર્ગ આપો.

2) ત્રિકોણ નિયંત્રણ:

હું નીચેના પરમાણુનું વજન ત્રણ રીતે તપાસવા માંગુ છું: [સ્માઇલ્સ]. કાર્ય: 1) પરમાણુ સૂત્ર મેળવો. 2) પરમાણુ દ્વારા પરમાણુ વજનની ગણતરી બતાવો (દરેક તત્વનું યોગદાન). નોંધ: હું તેને RDKit માં પણ ગણીશ અને ત્રીજું તમે આપેલ સાથે તેની તુલના કરીશ. જો ત્રણ ઓવરલેપ ન થાય, તો ચેતવણી આપો.

3) અસ્પષ્ટતા માર્કિંગ:

નીચેના ટેક્સ્ટમાં બહુવિધ તથ્યપૂર્ણ દાવાઓ છે:[TEXT]કાર્ય: દરેક દાવાની બાજુમાં વિશ્વાસ સ્તરનું લેબલ મૂકો:[ચકાસાયેલ] / [ચકાસાયેલ] / [અનિશ્ચિત].જો તમને ખાતરી ન હોય તો કંઈપણ [ચકાસાયેલ] ચિહ્નિત કરશો નહીં.

4) સુસંગતતા ક્રોસ ક્વેરી:

હું એક જ પ્રશ્ન બે અલગ અલગ રીતે પૂછીશ; તમારા જવાબો સુસંગત છે કે કેમ તે જુઓ. પ્રશ્ન A: સંયોજનનું પરમાણુ સૂત્ર શું છે

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા:

આ સંયોજન વિશે તમે જે જાણો છો તે બધું લખો.

AI આડેધડ રીતે ચકાસી શકાય તેવી અને બનાવટી માહિતીને મિશ્રિત કરે છે; તે અસ્પષ્ટ છે કે જે વાસ્તવિક છે.

મજબૂત:

આ સંયોજન વિશે માહિતી પ્રદાન કરો, પરંતુ દરેક દાવાને આ રીતે લેબલ કરો:[નિર્ધારિત - સાધન દ્વારા ચકાસાયેલ] દા.ત. મોલેક્યુલર ફોર્મ્યુલા,[પ્રયોગાત્મક - સંદર્ભ જરૂરી] દા.ત. ગલનબિંદુ,[અનિશ્ચિત - ખાતરી નથી].કોઈપણ લેબલ વગરના દાવાઓ લખશો નહીં.

તફાવત: અમે AI ને તેની પોતાની અનિશ્ચિતતાને ચિહ્નિત કરવા દબાણ કર્યું; અમે ચકાસણી કાર્યને આયોજિત બનાવ્યું છે.

વૈજ્ઞાનિક અખંડિતતા: પ્રામાણિકતા અને શોધક્ષમતા

ચકાસણી માત્ર એક તકનીકી પગલું નથી, તે એક નૈતિક મુદ્દો છે. વૈજ્ઞાનિક અખંડિતતા જરૂરી છે:

• પારદર્શિતા: છુપાવશો નહીં કે તમે AI નો ઉપયોગ કરી રહ્યાં છો; તમારી પ્રકાશન/અહેવાલ નીતિ અનુસાર સ્પષ્ટ કરો.
• ટ્રેસેબિલિટી: એઆઈમાંથી કયું આઉટપુટ આવ્યું અને તે કેવી રીતે ચકાસવામાં આવ્યું તે રેકોર્ડ કરો.
• ડેટા અખંડિતતા: AI સાથે પરિણામોને "સુશોભિત કરવું", વાજબીતા વિના આઉટલાયર્સને કાઢી નાખવું એ છેતરપિંડી છે.
• જવાબદારી: અંતિમ પરિણામ માટે તમે જવાબદાર છો; "એઆઈએ આમ કહ્યું" એ બહાનું નથી.

ટીપ: શરૂઆતથી જ સ્વીકારો કે તમે અહેવાલ અથવા બચાવમાં "ધ એઆઈએ એવું કહ્યું" વાક્યનો ક્યારેય ઉપયોગ કરી શકતા નથી. આ સ્વીકૃતિ આપમેળે દરેક આઉટપુટને ચકાસવાની ટેવ લાવે છે.

નાના કેસો

કેસ 1 — ત્રિકોણમાં ભૂલ આવી. એક વિદ્યાર્થીએ પરમાણુ વજન ત્રણ રીતે તપાસ્યું: YZ કહ્યું 178.2, મેન્યુઅલ ગણતરીએ 180.16 આપ્યું, RDKitએ 180.16 આપ્યું. બે સ્વતંત્ર પાથ ઓવરલેપ થયા અને AI નાબૂદ થયા. પાઠ: બે સ્વતંત્ર ચકાસણી શાંતિપૂર્વક એક ખોટા આઉટપુટને હરાવી દે છે.

કેસ 2 - સલામત ભાષા, ખોટી માહિતી. AI એ ખૂબ જ વિશ્વાસપૂર્વક લખ્યું કે પ્રતિક્રિયા "ઓરડાના તાપમાને સ્વયંભૂ ચાલે છે." સાહિત્ય દર્શાવે છે કે આને હીટિંગ અને ઉત્પ્રેરકની જરૂર છે. વિદ્યાર્થીએ સ્ત્રોત પર વિશ્વાસ કર્યો, સલામત ભાષા પર નહીં. પાઠ: પ્રવાહ એ ચોકસાઈ નથી.

કેસ 3 - પારદર્શિતા મેળવી. તેમના પેપરના મેથડ સેક્શનમાં, એક સંશોધકે સ્પષ્ટપણે જણાવ્યું કે તેણે કયા સ્ટેપમાં AI (ટેક્સ્ટ એડિટિંગ, કોડ ડ્રાફ્ટિંગ) નો ઉપયોગ કર્યો અને લખ્યું કે તેણે સ્વતંત્ર રીતે તમામ આંકડાકીય પરિણામોની ચકાસણી કરી. રેફરી પ્રક્રિયા સરળતાથી ચાલી હતી. પાઠ: પારદર્શિતા વિશ્વાસ બનાવે છે, છુપાવવાથી જોખમ ઊભું થાય છે.

સામાન્ય ભૂલો

• સલામત ભાષા પર વિશ્વાસ. AI નો આત્મવિશ્વાસપૂર્ણ સ્વર ચોકસાઈનો સંકેત નથી.
• એક જ સ્ત્રોત પર આધાર રાખવો. ત્રિકોણ વિના એકલ આઉટપુટ સ્વીકારવું.
• આઉટપુટ પ્રકાર અલગ નથી. એવું વિચારીને કે મેં એ જ પદ્ધતિથી નંબર, એટ્રિબ્યુશન અને સુરક્ષા નિવેદનને "ચેક" કર્યું છે.
• અનિશ્ચિતતા છુપાવી. એવી કોઈ બાબતની જાણ કરવી કે જે નિશ્ચિત હોય તેમ ચકાસી શકાતી નથી.
• AI નો ઉપયોગ છુપાવો. પારદર્શિતાનો અભાવ વૈજ્ઞાનિક અખંડિતતાને નબળી પાડે છે.
• જવાબદારી સોંપવી. "એઆઈએ આમ કહ્યું" બહાનું અમાન્ય છે; જવાબદારી વ્યક્તિની છે.

સારાંશમાં

• આભાસ એ ભાષાના નમૂનામાં સહજ છે; ઉકેલ દરેક આઉટપુટની આસપાસ માન્યતા શેલ બનાવવાનો છે.
• દરેક આઉટપુટ પ્રકાર તેની પોતાની ચકાસણી પદ્ધતિ ધરાવે છે; આઉટપુટનું વર્ગીકરણ કરો અને યોગ્ય સાધનનો ઉપયોગ કરો.
• ત્રિકોણ (બે સ્વતંત્ર માર્ગો) એ સૌથી મજબૂત નિયંત્રણ છે; એક સ્ત્રોત પર વિશ્વાસ કરશો નહીં.
• પ્રવાહિતા અને આત્મવિશ્વાસુ ભાષા ચોકસાઈ સાથે સંબંધિત નથી.
• વૈજ્ઞાનિક અખંડિતતા માટે પારદર્શિતા, ટ્રેસેબિલિટી, ડેટા અખંડિતતા અને માનવ જવાબદારી જરૂરી છે.

એપ્લિકેશન કાર્ય

AI સત્રમાં ઇરાદાપૂર્વક વિવિધ આઉટપુટ ઉત્પન્ન કરો: એક પરમાણુ વજન, એક સંદર્ભ, ભૌતિક સ્થિરાંક, સુરક્ષા દાવો, સંખ્યાત્મક ગણતરી. યોગ્ય પદ્ધતિથી દરેકને સ્વતંત્ર રીતે ચકાસો (કોષ્ટક જુઓ). ઓછામાં ઓછું એક આભાસ પકડવાનો પ્રયાસ કરો. પછી "માન્યતા મેટ્રિક્સ" તૈયાર કરો: પંક્તિઓ આઉટપુટ, કૉલમ (એઆઈ મૂલ્ય / સ્વતંત્ર મૂલ્ય / તે ઓવરલેપ થયું / મેં તેને કેવી રીતે ચકાસ્યું). વૈજ્ઞાનિક અખંડિતતાના સંદર્ભમાં તમે આ સત્રની જાણ કેવી રીતે કરશો?

ચેકલિસ્ટ

• [ ] હું સમજું છું કે આભાસ શા માટે અનિવાર્ય છે.
• [ ] હું દરેક આઉટપુટને તેના પ્રકાર અનુસાર વર્ગીકૃત કરું છું અને તેને યોગ્ય પદ્ધતિથી ચકાસો.
• [ ] હું નિર્ણાયક મૂલ્યો પર ત્રિકોણ (બે સ્વતંત્ર પાથ) કરું છું.
• [ ] મને સ્ત્રોત પર વિશ્વાસ છે, સલામત ભાષા પર નહીં.
• [ ] હું જેને "અનિશ્ચિત" તરીકે પુષ્ટિ આપી શકાતો નથી તેને ચિહ્નિત કરું છું.
• [ ] હું AI ના મારા ઉપયોગમાં પારદર્શક છું અને પરિણામ માટે મારી જાતને જવાબદાર ગણું છું.