ग्रंथपाल आणि माहिती व्यवस्थापनातील कृत्रिम बुद्धिमत्तेचा परिचय: भूमिका, सीमा, प्रमाणीकरण, गोपनीयता आणि नैतिकता

नफा:

• कृत्रिम बुद्धिमत्ता लायब्ररीयनशिप वर्कफ्लोमध्ये कोठे वेळ वाचवते (मेटाडेटा, सारांश, शोध, सूचना) आणि कोठे अचूकता, स्त्रोत विश्वसनीयता आणि गोपनीयता निर्णय जोखमीच्या पातळीनुसार मानवांवर सोडले जातात हे वेगळे करण्यास सक्षम असणे.
• एक शिस्त लागू करण्याची क्षमता जी प्रत्येक आउटपुटला स्त्रोताशी लिंक करून, स्वतंत्र स्त्रोतामध्ये पुष्टी करून आणि बायस फिल्टरद्वारे पास करून सत्यापित करते.
• भ्रम, बनावट स्रोत आणि वापरकर्त्याची गोपनीयता हे धोके का आहेत हे समजून घेणे या व्यवसायात अगदी सुरुवातीपासूनच विचारात घेतले पाहिजे.

जेव्हा एखादा कॅटलॉगिंग तज्ञ सकाळी त्याच्या डेस्कवर बसतो तेव्हा त्याच्याकडे डझनभर नवीन पुस्तके, देणगी संग्रहातील शेकडो कागदपत्रे आणि डिजीटल होण्याची वाट पाहत असलेला संग्रहण बॉक्स असू शकतो. संदर्भ ग्रंथपाल (वापरकर्त्यांना माहिती शोधण्यात मदत करणारा तज्ञ) दिवसभर प्रश्नांची उत्तरे देतो जसे की “या विषयावरील विश्वसनीय स्रोत कोठे आहे?” संस्थेचे हजारो दस्तऐवज शोधण्यायोग्य आणि विश्वासार्ह ठेवण्यासाठी माहिती व्यवस्थापक जबाबदार असतो. या युनिटमध्ये, आम्ही कृत्रिम बुद्धिमत्ता (थोडक्यात AI; मोठ्या भाषेतील मॉडेल्स आणि तत्सम साधने) या कामांमध्ये नेमका कुठे वेळ वाचवतो आणि निर्णय, निवड आणि जबाबदारी माणसाकडे कोठे राहते हे स्पष्ट करू.

चला एका व्याख्येसह प्रारंभ करूया: कृत्रिम बुद्धिमत्ता, ज्याद्वारे आपल्याला मोठ्या प्रमाणात मजकूरावर प्रशिक्षित भाषा-निर्मिती आणि नमुना-ओळखणारी सॉफ्टवेअर साधने म्हणतात. ही साधने सारांशित करतात, भाषांतर करतात, वर्गीकरण सुचवतात, मसुदा मजकूर तयार करतात आणि डेटाच्या मोठ्या भागांमध्ये ध्वजांकित नमुने तयार करतात. परंतु स्त्रोत खरोखर अस्तित्वात आहे की नाही, माहिती योग्य आहे की नाही किंवा वापरकर्त्याची गोपनीयता संरक्षित आहे की नाही हे माहित नाही. म्हणूनच ग्रंथपाल आणि माहिती व्यवस्थापनात, AI एक सहाय्यक आहे, निर्णय घेणारा नाही.

कृत्रिम बुद्धिमत्ता कुठे काम करते आणि कुठे काम करत नाही?

लायब्ररीयनशिप वर्कफ्लोला तीन स्तरांमध्ये विभागू. पहिला स्तर म्हणजे यांत्रिक आणि पुनरावृत्तीची कार्ये: पुस्तकाच्या बायलाइनमधून मसुदा मेटाडेटा काढणे, दीर्घ अहवालाचा सारांश, मजकूर एका भाषेतून दुसऱ्या भाषेत अनुवादित करणे, डेटा टेबल साफ करणे. एआय येथे शक्तिशाली आहे आणि मोठ्या वेळेची बचत करते.

दुसरा स्तर अर्ध-न्यायिक कार्य आहे: दस्तऐवज देण्यासाठी कोणत्या विषयाचे शीर्षक आहे, संग्रहामध्ये संसाधन समाविष्ट करावे की नाही, वापरकर्त्याला कोणत्या संसाधनाची शिफारस करावी. AI येथे सूचना तयार करते, परंतु संस्थेचे धोरण आणि वापरकर्त्याच्या वास्तविक गरजा जाणून घेणारा तज्ञ शेवटचा शब्द आहे.

तिसरा स्तर म्हणजे शुद्ध निर्णय आणि उत्तरदायित्व: माहिती अचूक असल्याची पुष्टी करणे, कॉपीराइटवर निर्णय घेणे, संवेदनशील वैयक्तिक डेटा उघड करायचा की नाही, स्त्रोताच्या विश्वासार्हतेची पुष्टी करणे. या स्तरावर, AI चे आउटपुट फक्त एक प्रारंभिक बिंदू आहे; जबाबदारी सर्वस्वी मानवावर आहे.

टीप: AI ला एखादे कार्य देण्यापूर्वी, स्वतःला विचारा: "हे आउटपुट चुकीचे असल्यास काय होईल?" जर उत्तर "मी थोडा वेळ वाया घालवीन" असेल, तर मोकळ्या मनाने AI वापरा. जर उत्तर "खोटा स्त्रोत पसरला आहे, वापरकर्त्याची दिशाभूल झाली आहे, किंवा वैयक्तिक डेटा लीक झाला आहे", तर आउटपुट सत्यापित करण्याचे सुनिश्चित करा.

भ्रम: ग्रंथपालाचा सर्वात मोठा धोका

हेलुसिनेशन म्हणजे जेव्हा AI अस्तित्वात नसलेली माहिती, स्रोत किंवा अवतरण तयार करते जसे की ती वास्तविक आहे आणि अत्यंत खात्रीशीर भाषेत. ग्रंथपाल आणि माहिती व्यवस्थापनासाठी हे विशेषतः धोकादायक आहे; कारण आपल्या व्यवसायाचे सार हे स्त्रोताची सत्यता आणि विश्वासार्हता आहे.

जेव्हा तुम्ही AI ला “या विषयावर पाच शैक्षणिक पेपर्स सुचवा” असे सांगता तेव्हा ते शीर्षक, लेखक आणि जर्नलची नावे तयार करू शकतात जी वास्तविक वाटतात परंतु अस्तित्वात नाहीत. हे बनवलेले स्रोत इतके खात्रीशीर आहेत की संरक्षक किंवा ग्रंथपालही त्यांची पडताळणी न करता त्यांना संदर्भग्रंथात समाविष्ट करू शकतात. मानविकी आणि सामाजिक विज्ञानांमध्ये, धोका आणखी मोठा आहे: जेव्हा "1897 चा तो दस्तऐवज" एखाद्या इतिहासकारासाठी बनवला जातो किंवा न्यायशास्त्रज्ञासाठी "तो न्यायालयाचा निर्णय" तयार केला जातो, तेव्हा परिणाम गंभीर चुकीची माहिती आहे.

लक्ष द्या: AI द्वारे उत्पादित केलेले कोणतेही स्त्रोत उद्धरण, कोट किंवा संदर्भ वास्तविक कॅटलॉग, डेटाबेस किंवा स्त्रोतामध्ये पडताळणी केल्याशिवाय कोठेही हस्तांतरित केले जाऊ नये. फक्त ते "पक्की दिसते" याचा अर्थ ते खरे आहे असे नाही.

सत्यापन शिस्त: तीन चरण

AI सह काम करताना ग्रंथपालाने लागू केलेली मूलभूत शिस्त ही आहे:

1. स्त्रोताशी कनेक्ट करा. प्रत्येक तथ्य, आकृती, तारीख आणि ठसा मूळ स्त्रोतावर आधारित असणे आवश्यक आहे. AI ला विचारा "मला सांगा की तुम्हाला ही माहिती कोणत्या स्त्रोताकडून मिळाली" आणि तो स्रोत स्वतंत्रपणे तपासा.

2. स्वतंत्रपणे पुष्टी करा. AI च्या बाहेर किमान एका विश्वसनीय स्त्रोतामध्ये गंभीर माहिती सत्यापित करा (अस्सल कॅटलॉग, अधिकृत डेटाबेस, प्राथमिक दस्तऐवज).

3. बायस फिल्टरमधून पास करा. AI ते प्रशिक्षित केलेल्या डेटाचे पूर्वाग्रह बाळगते. सुचवलेला विषय, सूचनांची सूची किंवा सारांश काही विशिष्ट दृष्टिकोन हायलाइट करू शकतो आणि इतरांना अस्पष्ट करू शकतो. कोण सोडले आहे ते विचारा, कोणता दृष्टीकोन गहाळ आहे.

गोपनीयता आणि वापरकर्ता गोपनीयता

ग्रंथपालन व्यवसायातील सर्वात मूलभूत नैतिक तत्त्वांपैकी एक म्हणजे वापरकर्त्याची गोपनीयता: एखादी व्यक्ती काय वाचते, तो काय शोधतो आणि त्याला कोणत्या विषयात रस आहे हे गोपनीय असतात. AI साधनांमध्ये डेटा प्रविष्ट करणे, विशेषत: इंटरनेटवर चालणारी सार्वजनिक साधने, ज्यामध्ये वापरकर्त्यांची ओळख, शोध इतिहास किंवा उधार घेतलेल्या संसाधनांचा समावेश आहे या तत्त्वाचे उल्लंघन होऊ शकते; कारण हा डेटा तृतीय पक्ष प्रणालीकडे जाऊ शकतो.

त्याचप्रमाणे, एखाद्या संस्थेमध्ये, अवर्गीकृत परंतु संवेदनशील दस्तऐवज (कर्मचारी माहिती, करार, अंतर्गत पत्रव्यवहार) सामान्य एआय टूलवर अपलोड करू नयेत. या प्रकारच्या डेटासाठी संस्थेच्या स्वत:च्या सुरक्षित, बंद प्रणालीवर चालणाऱ्या साधनांना प्राधान्य दिले जाते.

टीप: AI मध्ये कोणताही डेटा प्रविष्ट करण्यापूर्वी, "ही माहिती सार्वजनिक आहे का?" विचारा. विचारा उत्तर नाही असल्यास, किंवा तुम्हाला खात्री नसल्यास, तो डेटा वैयक्तिकृत, निनावी स्वरूपात ठेवा किंवा संस्थेने मंजूर केलेली फक्त सुरक्षित साधने वापरा.

तीन लहान प्रकरणे

केस 1 - 400 दस्तऐवजांसाठी मसुदा मेटाडेटा. एका विद्यापीठाच्या ग्रंथालयाला एका प्राध्यापकाने दान केलेल्या ४०० दस्तऐवजांचे संग्रहण कॅटलॉग करावे लागले. तज्ञाने AI सह प्रत्येक दस्तऐवजाच्या पहिल्या पानावरून मसुदा शीर्षक, तारीख आणि विषय सूचना काढल्या: प्रति दस्तऐवज सरासरी वेळ 12 मिनिटांवरून 4 मिनिटांपर्यंत कमी झाला. परंतु प्रत्येक मसुदा छाप मूळ दस्तऐवजाशी तुलना केली गेली आणि तज्ञांनी मंजूर केली; AI द्वारे केलेल्या 17 चुकीच्या तारखा या चरणात पकडल्या गेल्या.

प्रकरण 2 - बनावट स्रोत पकडला गेला. एका अंडरग्रेजुएट विद्यार्थ्यासाठी "हवामान स्थलांतर" वर संसाधने शोधत असताना एका सल्लागार ग्रंथपालाला YZ कडून 6 लेख सूचना मिळाल्या. ग्रंथपालाने त्या सर्वांचा संस्थेच्या डेटाबेसमध्ये शोध घेतला: 6 पैकी 2 लेख अस्तित्वातच नव्हते. पडताळणीच्या पायरीमुळे विद्यार्थ्याला बनावट स्रोत देण्यापासून रोखले.

प्रकरण 3 - गोपनीयतेचे उल्लंघन रोखले. चेकआउट रेकॉर्डमधून "कोणत्या वापरकर्त्याला कोणत्या विषयात रस आहे" याचे विश्लेषण करण्यासाठी सामान्य AI साधन वापरून विचारात घेतलेली लायब्ररी. माहिती व्यवस्थापकाच्या लक्षात आले की हा डेटा वापरकर्ता आयडीसह बाहेर जाणे गोपनीयतेचे उल्लंघन होईल; डेटा प्रथम अनामित केला गेला आणि केवळ एकत्रित, डी-ओळखलेली आकडेवारी म्हणून प्रक्रिया केली गेली.

चार कॉपी करण्यायोग्य टेम्पलेट्स

1) भूमिका आणि सीमा परिभाषित करणे सुरू करा:

तुमची भूमिका: अनुभवी सहाय्यक कॅटलॉगिंग आणि माहिती व्यवस्थापन विशेषज्ञ. तुमचे कार्य: मी तुम्हाला दिलेल्या स्त्रोतातील माहितीचा मसुदा तयार करणे. नियम: (१) फक्त मी तुम्हाला दिलेल्या मजकुरातील माहिती वापरा, तुमची स्वतःची माहिती जोडू नका. (2) जिथे तुम्हाला खात्री नसेल तिथे "[सत्यापित करणे आवश्यक आहे]" चिन्हांकित करा. (३) कोणत्याही तारखा, नावे किंवा ठसे बनवू नका. समजलं तर सुरुवात करा. स्रोत: [येथे]

२) प्रमाणीकरण तपासणी प्रश्न:

खालील मजकुरात प्रत्येक तथ्यात्मक दाव्याची (तारीख, नाव, संख्या, स्त्रोत उद्धरण) यादी करा. प्रत्येकासाठी: तुम्हाला ही माहिती मजकूरात कुठे मिळाली? जर ते मजकूरात स्पष्टपणे नसेल तर "मजकूरात नाही" असे लिहा. मजकूर: [येथे]

3) पूर्वाग्रह आणि गहाळ दृष्टीकोन तपासणी:

खालील सारांश/शिफारशी कोणते दृष्टीकोन हायलाइट करते आणि ते कोणते सोडते? कोणते गट, प्रदेश किंवा दृश्ये गहाळ असू शकतात? फक्त मजकुरावर विसंबून राहा, अनुमान लावू नका. मजकूर: [येथे]

4) गोपनीयता पूर्व-तपासणी:

खालील मजकुरात वैयक्तिक डेटा (नाव, आयडी क्रमांक, संपर्क, वाचन/शोध इतिहास) किंवा संवेदनशील कॉर्पोरेट माहिती आहे का? तसे असल्यास, त्याची यादी करा आणि ते निनावी कसे करता येईल ते सुचवा. मजकूर: [येथे]

कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट

कमकुवत प्रॉम्प्ट:

मला या विषयावर काही संसाधने शोधा.

हे प्रॉम्प्ट AI ला बनावट संसाधने तयार करण्यासाठी आमंत्रित करते. कोणतीही भूमिका, सीमा, प्रमाणीकरण नियम आणि संसाधने नाहीत. AI विश्वासार्ह परंतु अस्तित्वात नसलेले टॅग तयार करू शकते.

शक्तिशाली सूचना:

तुमची भूमिका: संदर्भ ग्रंथपाल सहाय्यक. मी तुम्हाला खाली दिलेल्या कॅटलॉग प्रविष्ट्यांमधून "हवामान स्थलांतर" या विषयाशी संबंधित विषय निवडा आणि ते का संबंधित आहेत ते स्पष्ट करा. यादीत नसलेले कोणतेही स्रोत जोडू नका, स्रोत बनवू नका. जेव्हा तुम्हाला खात्री नसेल, तेव्हा "कोणतेही योग्य स्त्रोत सूचीबद्ध नाहीत" असे म्हणा. कॅटलॉग नोंदी: [येथे]

फरक स्पष्ट आहे: मजबूत प्रॉम्प्ट एआयला दिलेल्या वास्तविक स्त्रोतापासून कार्य करण्यास भाग पाडते, त्याच्या स्वत: च्या मेमरीमधून नाही आणि बनावट बनविण्यास प्रतिबंध करते.

स्तर आणि जबाबदारी सारणी

व्यवसाय स्तर

नमुना कार्य

AI ची भूमिका

माणसाचा निर्णय

यांत्रिक

मसुदा मेटाडेटा, सारांश, अनुवाद

पटकन मसुदे तयार करते

सत्यापन, मान्यता

अर्ध-न्यायिक

विषयाचे शीर्षक, स्रोत सूचना

सूचना देते

धोरणानुसार निवड

शुद्ध निर्णय

प्रमाणीकरण, कॉपीराइट निर्णय

फक्त प्राथमिक माहिती

संपूर्ण जबाबदारी व्यक्तीवर असते

सामान्य चुका

• स्त्रोतासाठी AI आउटपुट बदलणे. AI एक सहाय्यक आहे, संसाधन नाही; प्रत्येक आउटपुट प्रमाणित आहे.
• बनवलेला स्रोत पटला म्हणून स्वीकारणे. फक्त ते चांगले दिसते याचा अर्थ ते योग्य आहे असे नाही.
• सार्वजनिक साधनामध्ये वैयक्तिक/संवेदनशील डेटा प्रविष्ट करणे. वापरकर्त्याची गोपनीयता आणि कॉर्पोरेट गोपनीयतेचा अगदी सुरुवातीपासूनच आदर केला जातो.
• पूर्वग्रहाकडे दुर्लक्ष करणे. एआय डेटाचे दृष्टीकोन बाळगते ज्यावर ते प्रशिक्षित केले जाते; काय गहाळ आहे ते विचारा.
• निर्णय AI वर सोडत आहे. अचूकता, कॉपीराइट आणि गोपनीयतेचे निर्णय मानवांचे आहेत.

सारांशात

कृत्रिम बुद्धिमत्ता; ग्रंथपाल आणि माहिती व्यवस्थापनामध्ये सारांश, मसुदा, भाषांतर आणि नमुना चिन्हांकित करण्यासाठी हे एक शक्तिशाली सहाय्यक आहे. त्यामुळे यांत्रिक कामात बराच वेळ वाचतो; अर्ध-न्यायिक प्रकरणांवर सल्ला देते; परंतु अचूकतेची पडताळणी, स्त्रोताची विश्वासार्हता, वापरकर्त्याची गोपनीयता आणि नैतिक निर्णय हे मानवाचे आहेत. भ्रम हा या व्यवसायासाठी सर्वात मोठा धोका आहे: सत्यापनाशिवाय कोणतेही स्रोत क्रेडिट्स किंवा कोट वापरले जात नाहीत. स्पष्ट भूमिका, सीमा आणि प्रमाणीकरण नियमांसह AI चालवा; स्वतंत्र स्त्रोतासह प्रत्येक गंभीर आउटपुटची पुष्टी करा.

अर्ज कार्य

तुमच्या फील्डमधून खरा विषय निवडा. AI ला त्या विषयावरील 5 संसाधन शिफारशींसाठी विचारा, त्यानंतर प्रत्येकाला प्रत्यक्ष कॅटलॉग किंवा डेटाबेसमध्ये शोधा आणि प्रत्यक्षात किती अस्तित्वात आहेत ते लक्षात घ्या. त्यानंतर, “स्टार्टअप परिभाषित भूमिका आणि सीमा” टेम्प्लेटसह, AI ला तुम्ही दिलेल्या मजकुरावरूनच काम करण्यास सांगा आणि दोन पद्धतींच्या आउटपुटची तुलना करा. कोणता दृष्टिकोन फिटिंगला प्रतिबंधित करतो ते लिहा.

चेकलिस्ट

• काम कोणत्या स्तरावर आहे (यांत्रिक, अर्ध-न्यायिक, शुद्ध निर्णय) मी ठरवले.
• [ ] "हे आउटपुट चुकीचे असल्यास काय होईल?" मी प्रश्न विचारला.
• [ ] मी स्वतंत्र स्त्रोताविरूद्ध प्रत्येक क्रेडिट आणि उद्धरण सत्यापित केले आहे.
• [ ] मी तपासले आहे की AI मध्ये प्रवेश करणाऱ्या डेटामध्ये कोणतीही वैयक्तिक/संवेदनशील माहिती नाही.
• [ ] मी माझ्या विवेकबुद्धीनुसार अंतिम निर्णय आणि जबाबदारी ठेवली.