भ्रम आणि विश्वासार्हतेच्या मर्यादा

नफा:

भ्रम म्हणजे काय आणि तो का होतो हे स्पष्ट करू शकतो
एआय आउटपुट कधी प्रमाणित करणे आवश्यक आहे हे निर्धारित करू शकते
विश्वासार्हता वाढविणारी व्यावहारिक तंत्रे लागू करू शकतात

कदाचित एआय साक्षरतेचा सर्वात गंभीर विषय या युनिटमध्ये आहे: मॉडेल मेक अप, म्हणजेच भ्रम. AI वापरणाऱ्या प्रत्येकासाठी ही संज्ञा समजून घेणे ही सर्वात मूलभूत सुरक्षा खबरदारी आहे. कारण जो वापरकर्ता भ्रम ओळखत नाही तो चुकीची माहिती सत्य मानू शकतो आणि ती व्यवसाय निर्णय, ग्राहक संप्रेषण किंवा अधिकृत दस्तऐवजावर हस्तांतरित करू शकतो. या युनिटमध्ये, आपण भ्रम म्हणजे काय, ते का अपरिहार्य आहे आणि त्यापासून संरक्षण कसे करावे हे शिकाल.

भ्रम म्हणजे काय?

भास म्हणजे जेव्हा एखादी भाषा मॉडेल अशी माहिती तयार करते जी अस्खलित आणि आत्मविश्वासपूर्ण भाषेत अस्तित्त्वात नसते, जसे की ती सत्य असते. मॉडेल खोटे बोलण्याचा हेतू नाही; केवळ "सर्वात संभाव्य निरंतरता" तयार करताना, तो एक मजकूर तयार करतो जो संभाव्य वाटतो परंतु प्रत्यक्षात खोटा आहे.

उदाहरण: जर तुम्ही मॉडेलला सांगितले की “विषयावर शैक्षणिक स्त्रोताची शिफारस करा सर्व काही योग्य स्वरूपात आणि खात्रीने दिसते; परंतु स्त्रोत पूर्णपणे काल्पनिक आहे. हे भ्रमाचे उत्कृष्ट उदाहरण आहे.

असे का होते? (एकक दोन लक्षात ठेवा)

भ्रमाचा स्त्रोत मॉडेलच्या कार्य तत्त्वामध्ये आहे. मॉडेल "तथ्यांचा ज्ञानकोश" नाही; हे एक "संभाव्यता मशीन" आहे. त्याचे कार्य आपल्या प्रश्नाचे शक्य तितके सहजतेने चालू ठेवणे हे आहे; हे सर्वात अचूक माहिती आणण्याबद्दल नाही. मॉडेल:

त्याला काय माहित नाही ते त्याला माहित नाही; जेव्हा रिकाम्या स्थितीचा सामना करावा लागतो तेव्हा तो "मला माहित नाही" असे म्हणण्याऐवजी संभाव्य उत्तर भरतो.
त्यात वास्तवावर नियंत्रण ठेवण्याची कोणतीही यंत्रणा नाही; तो तयार केलेला मजकूर जगाशी जुळतो की नाही हे तपासत नाही.
ओघ आणि अचूकता त्याच्यासाठी दोन वेगळ्या गोष्टी आहेत; फक्त ते अस्खलित आहे याचा अर्थ ते बरोबर आहे असे नाही.

खबरदारी: मतिभ्रम हा "खराब" नाही; हे तंत्रज्ञानाचे अंगभूत वैशिष्ट्य आहे. नवीन मॉडेल्स हे कमी करतात परंतु ते पूर्णपणे काढून टाकू शकत नाहीत. त्यामुळे ‘नॉन-हॅल्युसिनेशन मॉडेल’ची वाट पाहण्यापेक्षा, भ्रमनिरास जगायला शिकणे आवश्यक आहे.

भ्रमाचा धोका कोठे जास्त आहे?

प्रत्येक परिणाम तितकाच धोकादायक नसतो. धोका वाढतो जेव्हा:

उच्च धोका

कमी धोका

अचूक आकडे, तारखा, आकडेवारी

सामान्य कल्पना निर्माण करणे, विचारमंथन करणे

स्रोत, अवतरण, संदर्भ विनंती

मजकूराचा टोन बदला

कोनाडा, विशेष विषय

सामान्य, सामान्य विषय

वर्तमान घटना आणि लोक

तुमचा मजकूर सारांशित करा

तुमच्या कंपनीसाठी विशिष्ट अंतर्गत माहिती

व्याकरण सुधारणा

तीन मिनी केसेस

केस 1 - एक बनावट आकृती सादरीकरणात आली. एका कर्मचाऱ्याने AI ला उद्योग अहवालासाठी "2023 ई-कॉमर्स वाढीचा दर आणि टर्कीयेतील स्रोत" विचारले. मॉडेलने खात्रीशीर टक्केवारी (48%) आणि संस्थेचे नाव परत केले. त्याची पडताळणी न करता कर्मचाऱ्याने सादरीकरणात टाकले; हा आकडा बनावट असल्याचे बैठकीत उघड झाल्याने सादरीकरण आणि कंपनीची प्रतिष्ठा या दोन्हींना धक्का पोहोचला. त्याच कर्मचाऱ्याला अधिकृत स्त्रोताकडून आकृती मिळाली असती तर कोणतीही अडचण आली नसती.

प्रकरण 2 - कायद्याचा अस्तित्वात नसलेला भाग. एका सहाय्यकाने AI ला एका याचिकेसाठी "कायद्याचा संबंधित लेख" विचारला. मॉडेलने वास्तववादी दिसणारा आयटम नंबर आणि मजकूर तयार केला; पण ती वस्तू तिथे नव्हती. सुदैवाने, प्रसूतीपूर्वी कायदेशीर विभागाच्या लक्षात आले. धडा: कायदेशीर उद्धरण नेहमी प्राथमिक स्त्रोताकडून सत्यापित केले जातात.

केस 3 - योग्य पद्धत, सुरक्षित परिणाम. त्याच टीममधील आणखी एका कर्मचाऱ्याने फक्त एआयने अहवालाचा मसुदा तयार केला होता, त्याने स्वत: अधिकृत डेटामधून सर्व क्रमांक प्रविष्ट केले आणि त्याला "या मजकुरात नसलेले कोणतेही आकडे जोडू नका" असे निर्देश दिले. परिणाम जलद आणि अचूक दोन्ही होता. फरक: एआयने मसुदा लिहिला, मानवाने दिलेले तथ्य.

कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट

कमकुवत प्रॉम्प्ट: लेखक आणि वर्षासह या विषयावरील 3 सर्वात महत्त्वाचे शैक्षणिक स्रोत द्या.

परिणाम: मॉडेल सुरक्षितपणे अस्तित्वात नसलेल्या स्त्रोतांमध्ये बसू शकते.

शक्तिशाली प्रॉम्प्ट: मी खाली पेस्ट केलेल्या मजकुरावर आधारित सारांश लिहा. फक्त या मजकुरातील माहिती वापरा. मजकुरात नसलेली कोणतीही नावे, संख्या किंवा स्त्रोत जोडू नका. तुम्हाला खात्री नसल्यास, "मजकूरात निर्दिष्ट नाही" असे लिहा.<text>[येथे पेस्ट करा]</text>

परिणाम: मॉडेलला तुमच्याकडून स्त्रोत मिळत असल्याने, फिटिंगची जागा अरुंद होते.

विश्वासार्हता वाढवणारी व्यावहारिक तंत्रे

तुमच्या उत्तरामध्ये (क्रमांक, तारीख, नाव, स्त्रोत) प्रत्येक पडताळणीयोग्य दावा चिन्हांकित करा आणि त्यांना वेगळ्या "तपासणे आवश्यक आहे" सूचीमध्ये ठेवा.

या प्रश्नाचे उत्तर द्या. तुम्हाला खात्री नसल्यास, अंदाज लावू नका; "मला खात्री नाही" म्हणा आणि तुम्हाला काय माहित नाही हे स्पष्ट करा. विषय: [विषय]

एकाच प्रश्नाचे दोन वेगवेगळ्या प्रकारे उत्तर द्या आणि दोन उत्तरांमधील विरोधाभास चिन्हांकित करा. तर कोणते मुद्दे शंकास्पद आहेत ते पाहू. प्रश्न: [प्रश्न]

मी खालील मजकूर सत्यापित करेन. मी महत्त्वाच्या क्रमाने तपासले पाहिजे असे धोकादायक दावे सूचीबद्ध करा आणि मी प्रत्येकाची पडताळणी कुठे करू शकतो ते सुचवा. मजकूर: [येथे पेस्ट करा]

याव्यतिरिक्त, या सवयींचा अवलंब करा:

तुम्ही स्रोत द्या. मजकूरात संबंधित दस्तऐवज पेस्ट करा आणि "यावर आधारित उत्तर" म्हणा.
नेहमी पडताळणीयोग्य तथ्ये तपासा. स्वतंत्र, विश्वासार्ह स्त्रोताकडून क्रमांक, तारखा, नावे, अवतरण आणि स्त्रोत सत्यापित करा.
त्याला मॉडेलबद्दल खात्री नसल्याचे सूचित करण्यास सांगा. हे जोखीम कमी करते परंतु ते पूर्णपणे काढून टाकत नाही.
उच्च-जोखीम असलेल्या नोकऱ्यांसाठी, एखाद्या तज्ञाकडून आउटपुटची तपासणी करा. कायदेशीर, आर्थिक आणि आरोग्य-संबंधित आउटपुट मानवी तज्ञांच्या फिल्टरमधून जाणे आवश्यक आहे.
AI चा “प्रारंभ बिंदू” म्हणून वापर करा, “अंतिम शब्द” म्हणून नाही. मसुदा त्याच्याकडून आहे; पडताळणी आणि निर्णय तुमचा आहे.

खबरदारी: "मॉडेलने ते दोनदा सांगितले, मग ते खरे आहे" तर्क चुकीचा आहे. तीच चूक आत्मविश्वासाने पुन्हा करू शकतो. पुनरावृत्ती हा अचूकतेचा पुरावा नाही.

सामान्य चुका

त्यांची पडताळणी न करता स्त्रोत वापरणे. ते मॉडेल पुस्तके, लेख, कायद्याचे लेख आणि दुवे तयार करू शकतात; प्रत्येक संदर्भाची पुष्टी करणे आवश्यक आहे.
अचूकतेसाठी आत्मविश्वासपूर्ण टोन चुकणे. मतिभ्रम बद्दल सर्वात धोकादायक गोष्ट म्हणजे ती आत्मविश्वासाने दिसते.
फक्त "आपण सत्यापित करा" असे मॉडेल असणे पुरेसे आहे. मॉडेलचे स्व-प्रमाणीकरण स्वतंत्र प्रमाणीकरण नाही.
तज्ञांना न दाखवता उच्च-जोखीम आउटपुट वापरणे. पैसा, कायदा आणि आरोग्य यावर मानवी नियंत्रण आवश्यक आहे.

सारांशात

जेव्हा मॉडेल अस्तित्त्वात नसलेली माहिती अस्खलित आणि आत्मविश्वासाने तयार करते, जसे की ती सत्य आहे.
कारण एक खराबी नाही, परंतु मॉडेलचे संभाव्यता-अंदाज स्वरूप आहे; पूर्णपणे काढून टाकता येत नाही.
तंतोतंत आकडे, स्रोत, अद्ययावत माहिती आणि विशिष्ट समस्यांच्या बाबतीत धोका विशेषतः जास्त असतो.
स्वतःचे संरक्षण करण्यासाठी: स्त्रोत द्या, तथ्ये सत्यापित करा, म्हणा "तुम्हाला खात्री नसल्यास, मला सांगा", तज्ञाद्वारे उच्च-जोखीम आउटपुट तपासा.
प्रारंभ बिंदू म्हणून एआय वापरा; अंतिम पडताळणी आणि जबाबदारी नेहमीच तुमच्याकडे असते.

अर्ज कार्य

तुमच्या AI टूलला तज्ञांची आवश्यकता असलेल्या विषयावर "3 शैक्षणिक स्रोत सुचवायला" सांगा आणि इंटरनेटवर सुचवलेल्या स्रोतांची पुष्टी करण्याचा प्रयत्न करा; किती खरे आहेत ते लक्षात घ्या. नंतर तेच कार्य "तुम्ही स्त्रोत देता" या पद्धतीने पुन्हा करा आणि फरक पहा.

चेकलिस्ट

भ्रम म्हणजे काय आणि तो का होतो हे मी समजावून सांगू शकतो.
[ ] मी उच्च आणि कमी मतिभ्रम जोखीम कार्यांमध्ये फरक करू शकतो.
[ ] मी मॉडेलला स्त्रोत देऊन फॅब्रिकेशनचा धोका कमी करू शकतो.
मी स्वतंत्रपणे संख्या, तारखा, नावे आणि स्त्रोत सत्यापित करतो.
[ ] मी आत्मविश्वासपूर्ण टोनला अचूकतेचा पुरावा मानत नाही.