ગ્રંથપાલ અને માહિતી વ્યવસ્થાપનમાં કૃત્રિમ બુદ્ધિનો પરિચય: ભૂમિકાઓ, સીમાઓ, પ્રમાણીકરણ, ગોપનીયતા અને નીતિશાસ્ત્ર

નફો:

• કૃત્રિમ બુદ્ધિ ગ્રંથપાલ કાર્યપ્રવાહ (મેટાડેટા, સારાંશ, શોધ, સૂચન)માં ક્યાં સમય બચાવે છે અને જ્યાં સચોટતા, સ્ત્રોતની વિશ્વસનીયતા અને ગોપનીયતાના નિર્ણયો જોખમના સ્તરના આધારે મનુષ્યો પર છોડી દેવામાં આવે છે તે પારખવામાં સક્ષમ હોવું.
• એક શિસ્ત લાગુ કરવાની ક્ષમતા જે દરેક આઉટપુટને સ્ત્રોત સાથે લિંક કરીને, સ્વતંત્ર સ્ત્રોતમાં તેની પુષ્ટિ કરીને અને તેને બાયસ ફિલ્ટર દ્વારા પસાર કરીને ચકાસે છે.
• સમજવું કે શા માટે આભાસ, બનાવટી સ્ત્રોતો અને વપરાશકર્તાની ગોપનીયતા એ જોખમો છે જે આ વ્યવસાયમાં શરૂઆતથી જ ધ્યાનમાં લેવા જોઈએ.

જ્યારે સૂચિબદ્ધ નિષ્ણાત સવારે તેના ડેસ્ક પર બેસે છે, ત્યારે તેની પાસે ડઝનેક નવા પુસ્તકો, દાન સંગ્રહમાંથી સેંકડો દસ્તાવેજો અને ડિજિટાઈઝેશનની રાહ જોઈ રહેલું આર્કાઈવ બોક્સ હોઈ શકે છે. સંદર્ભ ગ્રંથપાલ (નિષ્ણાત જે વપરાશકર્તાઓને માહિતી શોધવામાં મદદ કરે છે) દિવસભર પ્રશ્નોના જવાબ આપે છે જેમ કે "આ વિષય પર વિશ્વસનીય સ્ત્રોત ક્યાં છે?" સંસ્થાના હજારો દસ્તાવેજો શોધી શકાય તેવા અને વિશ્વસનીય રાખવા માટે માહિતી મેનેજર જવાબદાર છે. આ એકમમાં, અમે સ્પષ્ટ કરીશું કે આર્ટિફિશિયલ ઇન્ટેલિજન્સ (ટૂંકમાં AI; મોટા ભાષાના મોડલ અને સમાન સાધનો) આ કાર્યોમાં ક્યાં સમય બચાવે છે, અને જ્યાં નિર્ણય, પસંદગી અને જવાબદારી માનવ પાસે રહે છે.

ચાલો એક વ્યાખ્યા સાથે શરૂઆત કરીએ: આર્ટિફિશિયલ ઈન્ટેલિજન્સ, જેના દ્વારા અમારો અર્થ ભાષા-જનરેટીંગ અને પેટર્ન-ઓળખતા સોફ્ટવેર ટૂલ્સ છે જે મોટા પ્રમાણમાં ટેક્સ્ટ પર પ્રશિક્ષિત છે. આ સાધનો સારાંશ આપે છે, અનુવાદ કરે છે, વર્ગીકરણ સૂચવે છે, ડ્રાફ્ટ ટેક્સ્ટ જનરેટ કરે છે અને ડેટાના મોટા હિસ્સામાં ફ્લેગ પેટર્ન બનાવે છે. પરંતુ તે જાણતું નથી કે સ્રોત ખરેખર અસ્તિત્વમાં છે કે કેમ, માહિતી સાચી છે કે નહીં, અથવા વપરાશકર્તાની ગોપનીયતા સુરક્ષિત છે કે કેમ. તેથી જ ગ્રંથપાલ અને માહિતી વ્યવસ્થાપનમાં, AI સહાયક છે, નિર્ણય લેનાર નથી.

આર્ટિફિશિયલ ઇન્ટેલિજન્સ ક્યાં કામ કરે છે અને ક્યાં કામ કરતું નથી?

ચાલો ગ્રંથપાલ કાર્યપ્રવાહને ત્રણ સ્તરોમાં વિભાજીત કરીએ. પ્રથમ સ્તર યાંત્રિક અને પુનરાવર્તિત કાર્યો છે: પુસ્તકની બાયલાઇનમાંથી ડ્રાફ્ટ મેટાડેટા કાઢવા, લાંબા અહેવાલનો સારાંશ આપવો, એક ભાષામાંથી બીજી ભાષામાં ટેક્સ્ટનો અનુવાદ કરવો, ડેટાના ટેબલને સાફ કરવું. AI અહીં શક્તિશાળી છે અને મોટો સમય બચાવે છે.

બીજો સ્તર અર્ધ-ન્યાયિક કાર્ય છે: દસ્તાવેજ આપવા માટે કયા વિષયનું મથાળું, સંગ્રહમાં સંસાધનનો સમાવેશ કરવો કે કેમ, વપરાશકર્તાને કયા સંસાધનની ભલામણ કરવી. AI અહીં સૂચનો ઉત્પન્ન કરે છે, પરંતુ નિષ્ણાત જે સંસ્થાની નીતિ અને વપરાશકર્તાની વાસ્તવિક જરૂરિયાતો જાણે છે તેનો છેલ્લો શબ્દ છે.

ત્રીજું સ્તર શુદ્ધ નિર્ણય અને જવાબદારી છે: માહિતી સચોટ છે તેની પુષ્ટિ કરવી, કૉપિરાઇટ પર નિર્ણય કરવો, સંવેદનશીલ વ્યક્તિગત ડેટા જાહેર કરવો કે નહીં, સ્ત્રોતની વિશ્વસનીયતાની પુષ્ટિ કરવી. આ સ્તર પર, AI નું આઉટપુટ માત્ર એક પ્રારંભિક બિંદુ છે; જવાબદારી સંપૂર્ણપણે મનુષ્યની છે.

ટીપ: AI ને કોઈ કાર્ય આપતા પહેલા, તમારી જાતને પૂછો: "જો આ આઉટપુટ ખોટું હોય તો શું થશે?" જો જવાબ છે "હું થોડો સમય બગાડીશ", તો નિઃસંકોચ AI નો ઉપયોગ કરો. જો જવાબ "ખોટો સ્ત્રોત ફેલાયો છે, વપરાશકર્તાને ગેરમાર્ગે દોરવામાં આવ્યો છે, અથવા વ્યક્તિગત ડેટા લીક થયો છે", તો આઉટપુટ ચકાસવાની ખાતરી કરો.

આભાસ: ગ્રંથપાલનો સૌથી મોટો ભય

આભાસ ત્યારે થાય છે જ્યારે AI અવિદ્યમાન માહિતી, સ્ત્રોત અથવા અવતરણનું ઉત્પાદન કરે છે જાણે કે તે વાસ્તવિક હોય, અને અત્યંત વિશ્વાસપાત્ર ભાષામાં. ગ્રંથપાલ અને માહિતી વ્યવસ્થાપન માટે આ ખાસ કરીને જોખમી છે; કારણ કે અમારા વ્યવસાયનો સાર એ સ્ત્રોતની અધિકૃતતા અને વિશ્વસનીયતા છે.

જ્યારે તમે AI ને "આ વિષય પર પાંચ શૈક્ષણિક પેપર સૂચવવા" કહો છો, ત્યારે તે શીર્ષકો, લેખકો અને જર્નલના નામો જનરેટ કરી શકે છે જે વાસ્તવિક લાગે છે પરંતુ અસ્તિત્વમાં નથી. આ બનાવટી સ્ત્રોતો એટલા વિશ્વાસપાત્ર છે કે આશ્રયદાતા અથવા તો ગ્રંથપાલ પણ તેમની ચકાસણી કર્યા વિના તેમને ગ્રંથસૂચિમાં ઉમેરી શકે છે. માનવતા અને સામાજિક વિજ્ઞાનમાં, ખતરો હજી વધારે છે: જ્યારે "1897નો તે દસ્તાવેજ" કોઈ ઈતિહાસકાર માટે અથવા ન્યાયશાસ્ત્રી માટે "તે કોર્ટનો નિર્ણય" બનાવવામાં આવે છે, ત્યારે પરિણામ ગંભીર ખોટી માહિતી છે.

ધ્યાન આપો: AI દ્વારા ઉત્પાદિત કોઈપણ સ્ત્રોત ટાંકણ, અવતરણ અથવા સંદર્ભ વાસ્તવિક કેટલોગ, ડેટાબેઝ અથવા સ્ત્રોતમાં જ ચકાસણી કર્યા વિના ગમે ત્યાં ટ્રાન્સફર થવો જોઈએ નહીં. માત્ર એટલા માટે કે તે "સમર્થક લાગે છે" તેનો અર્થ એ નથી કે તે સાચું છે.

ચકાસણી શિસ્ત: ત્રણ પગલાં

AI સાથે કામ કરતી વખતે ગ્રંથપાલે જે મૂળભૂત શિસ્ત લાગુ કરવી જોઈએ તે આ છે:

1. સ્ત્રોત સાથે કનેક્ટ કરો. દરેક હકીકત, આકૃતિ, તારીખ અને છાપ મૂળ સ્ત્રોત પર આધારિત હોવી જોઈએ. AI ને પૂછો "મને કહો કે તમને આ માહિતી કયા સ્ત્રોતમાંથી મળી છે" અને તે સ્ત્રોતને સ્વતંત્ર રીતે તપાસો.

2. સ્વતંત્ર રીતે પુષ્ટિ કરો. AI (અધિકૃત સૂચિ, સત્તાવાર ડેટાબેઝ, પ્રાથમિક દસ્તાવેજ) ની બહારના ઓછામાં ઓછા એક વિશ્વસનીય સ્રોતમાં મહત્વપૂર્ણ માહિતીની ચકાસણી કરો.

3. તેને બાયસ ફિલ્ટરમાંથી પસાર કરો. AI તે ડેટાના પૂર્વગ્રહોને વહન કરે છે જેના પર તે પ્રશિક્ષિત છે. સૂચિત વિષય, સૂચનોની સૂચિ અથવા સારાંશ ચોક્કસ દૃષ્ટિકોણને પ્રકાશિત કરી શકે છે અને અન્યને અસ્પષ્ટ કરી શકે છે. પૂછો કે કોણ બાકાત છે, કયો પરિપ્રેક્ષ્ય ખૂટે છે.

ગોપનીયતા અને વપરાશકર્તા ગોપનીયતા

ગ્રંથપાલના વ્યવસાયના સૌથી મૂળભૂત નૈતિક સિદ્ધાંતોમાંનો એક વપરાશકર્તાની ગોપનીયતા છે: વ્યક્તિ શું વાંચે છે, તે શું શોધે છે અને તેને કયા વિષયમાં રસ છે તે ગોપનીય છે. AI ટૂલ્સમાં ડેટા દાખલ કરવો, ખાસ કરીને જાહેર સાધનો કે જે ઇન્ટરનેટ પર કામ કરે છે, જેમાં વપરાશકર્તાઓની ઓળખ, શોધ ઇતિહાસ અથવા ઉછીના લીધેલા સંસાધનોનો સમાવેશ થાય છે તે આ સિદ્ધાંતનું ઉલ્લંઘન કરી શકે છે; કારણ કે આ ડેટા થર્ડ પાર્ટી સિસ્ટમમાં જઈ શકે છે.

તેવી જ રીતે, સંસ્થામાં, અવર્ગીકૃત પરંતુ સંવેદનશીલ દસ્તાવેજો (કર્મચારીઓની માહિતી, કરારો, આંતરિક પત્રવ્યવહાર) સામાન્ય AI ટૂલ પર અપલોડ કરવા જોઈએ નહીં. આ પ્રકારના ડેટા માટે સંસ્થાની પોતાની સુરક્ષિત, બંધ સિસ્ટમ પર ચાલતા સાધનોને પ્રાધાન્ય આપવામાં આવે છે.

ટીપ: AI માં કોઈપણ ડેટા દાખલ કરતા પહેલા, પૂછો "શું આ માહિતી સાર્વજનિક છે?" પૂછો જો જવાબ ના હોય અથવા તમને ખાતરી ન હોય, તો તે ડેટાને ડી-વ્યક્તિગત, અનામી ફોર્મેટમાં મૂકો અથવા ફક્ત સંસ્થા દ્વારા માન્ય સુરક્ષિત સાધનોનો ઉપયોગ કરો.

ત્રણ નાના કેસો

કેસ 1 — 400 દસ્તાવેજો માટેનો ડ્રાફ્ટ મેટાડેટા. યુનિવર્સિટીની લાઇબ્રેરીએ પ્રોફેસર દ્વારા દાનમાં આપેલા 400 દસ્તાવેજોના આર્કાઇવને સૂચિબદ્ધ કરવાની હતી. નિષ્ણાતે AI સાથે દરેક દસ્તાવેજના પ્રથમ પૃષ્ઠમાંથી ડ્રાફ્ટ શીર્ષક, તારીખ અને વિષય સૂચન કાઢ્યું: દસ્તાવેજ દીઠ સરેરાશ સમય 12 મિનિટથી ઘટીને 4 મિનિટ થયો. પરંતુ દરેક ડ્રાફ્ટ છાપની સરખામણી મૂળ દસ્તાવેજ સાથે કરવામાં આવી હતી અને નિષ્ણાત દ્વારા મંજૂર કરવામાં આવી હતી; આ પગલામાં AI દ્વારા બનાવવામાં આવેલી 17 ખોટી તારીખો પકડાઈ હતી.

કેસ 2 - નકલી સ્ત્રોત પકડાયો. અંડરગ્રેજ્યુએટ વિદ્યાર્થી માટે "ક્લાઇમેટ માઇગ્રેશન" પર સંસાધનો શોધતી વખતે સલાહકાર ગ્રંથપાલને YZ તરફથી 6 લેખ સૂચનો મળ્યા. ગ્રંથપાલે સંસ્થાના ડેટાબેઝમાં તે બધાની શોધ કરી: 6 માંથી 2 લેખ જ અસ્તિત્વમાં ન હતા. ચકાસણીના પગલાએ વિદ્યાર્થીને બનાવટી સ્ત્રોત આપવામાં આવતા અટકાવ્યા.

કેસ 3 - ગોપનીયતા ભંગ અટકાવવામાં આવ્યો. ચેકઆઉટ રેકોર્ડમાંથી "કયા વપરાશકર્તાને કયા વિષયમાં રસ છે" તેનું પૃથ્થકરણ કરવા માટે સામાન્ય AI ટૂલનો ઉપયોગ કરીને ધ્યાનમાં લેવામાં આવતી લાઇબ્રેરી. માહિતી મેનેજરને સમજાયું કે આ ડેટા માટે વપરાશકર્તા ID સાથે બહાર જવું તે ગોપનીયતાનું ઉલ્લંઘન હશે; ડેટા સૌપ્રથમ અનામી કરવામાં આવ્યો હતો અને માત્ર એકીકૃત, બિન-ઓળખાયેલ આંકડા તરીકે પ્રક્રિયા કરવામાં આવ્યો હતો.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) ભૂમિકાઓ અને સીમાઓને વ્યાખ્યાયિત કરવાનું શરૂ કરો:

તમારી ભૂમિકા: અનુભવી સહાયક સૂચિ અને માહિતી વ્યવસ્થાપન નિષ્ણાત. તમારું કાર્ય: મેં તમને આપેલા સ્રોતમાંની માહિતીમાંથી ડ્રાફ્ટ બનાવવાનું. નિયમો: (1) મેં તમને આપેલ ટેક્સ્ટમાંની માહિતીનો જ ઉપયોગ કરો, તમારી પોતાની માહિતી ઉમેરશો નહીં. (2) જ્યાં તમને ખાતરી ન હોય ત્યાં "[ચકાસાયેલ હોવું જ જોઈએ]" ચિહ્નિત કરો. (3) કોઈપણ તારીખો, નામ અથવા છાપ બનાવશો નહીં. જો તમે સમજો છો, તો શરૂ કરો. સ્ત્રોત: [અહીં]

2) માન્યતા તપાસ પ્રશ્ન:

નીચે આપેલા ટેક્સ્ટમાં દરેક હકીકતલક્ષી દાવાની (તારીખ, નામ, નંબર, સ્ત્રોત ટાંકણ) સૂચિ બનાવો. દરેક માટે: તમને આ માહિતી ટેક્સ્ટમાં ક્યાં મળી? જો તે ટેક્સ્ટમાં સ્પષ્ટ રીતે ન હોય, તો "ટેક્સ્ટમાં નથી" લખો. ટેક્સ્ટ: [અહીં]

3) પૂર્વગ્રહ અને ગુમ થયેલ પરિપ્રેક્ષ્ય તપાસ:

નીચેના સારાંશ/સુઝાવ કયા પરિપ્રેક્ષ્યોને પ્રકાશિત કરે છે અને તે કયાને છોડી દે છે? કયા જૂથો, પ્રદેશો અથવા દૃશ્યો ખૂટે છે? ફક્ત ટેક્સ્ટ પર આધાર રાખો, અનુમાન ન કરો. ટેક્સ્ટ: [અહીં]

4) ગોપનીયતા પૂર્વ-તપાસ:

શું નીચેના ટેક્સ્ટમાં વ્યક્તિગત ડેટા (નામ, ID નંબર, સંપર્ક, વાંચન/શોધ ઇતિહાસ) અથવા સંવેદનશીલ કોર્પોરેટ માહિતી શામેલ છે? જો એમ હોય, તો તેને સૂચિબદ્ધ કરો અને તેને કેવી રીતે અનામી કરી શકાય તે સૂચવો. ટેક્સ્ટ: [અહીં]

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

મને આ વિષય પર કેટલાક સંસાધનો શોધો.

આ પ્રોમ્પ્ટ એઆઈને નકલી સંસાધનો બનાવવા માટે આમંત્રણ આપે છે. ત્યાં કોઈ ભૂમિકાઓ, સીમાઓ, માન્યતા નિયમો અને સંસાધનો નથી. AI વિશ્વાસપાત્ર પરંતુ અસ્તિત્વમાં ન હોય તેવા ટૅગ્સ ઉત્પન્ન કરી શકે છે.

શક્તિશાળી પ્રોમ્પ્ટ:

તમારી ભૂમિકા: સંદર્ભ ગ્રંથપાલ સહાયક. મેં તમને નીચે આપેલી સૂચિ એન્ટ્રીઓમાંથી "ક્લાઈમેટ માઈગ્રેશન" વિષય સાથે સંબંધિત પસંદ કરો અને તે શા માટે સંબંધિત છે તે સમજાવો. સૂચિમાં ન હોય તેવા કોઈપણ સ્ત્રોતો ઉમેરશો નહીં, સ્ત્રોતો બનાવશો નહીં. જ્યારે તમને ખાતરી ન હોય, ત્યારે કહો કે "ત્યાં કોઈ યોગ્ય સ્ત્રોત સૂચિબદ્ધ નથી." કેટલોગ પ્રવેશો: [અહીં]

તફાવત સ્પષ્ટ છે: મજબૂત પ્રોમ્પ્ટ એઆઈને આપેલા વાસ્તવિક સ્ત્રોતમાંથી કામ કરવા દબાણ કરે છે, તેની પોતાની મેમરીમાંથી નહીં, અને બનાવટને અટકાવે છે.

સ્તર અને જવાબદારી ટેબલ

વ્યવસાય સ્તર

નમૂના કાર્ય

AI ની ભૂમિકા

માણસનો નિર્ણય

યાંત્રિક

ડ્રાફ્ટ મેટાડેટા, સારાંશ, અનુવાદ

ઝડપથી ડ્રાફ્ટ્સ ઉત્પન્ન કરે છે

ચકાસણી, મંજૂરી

અર્ધ-ન્યાયિક

વિષયનું શીર્ષક, સ્ત્રોત સૂચન

સૂચનો આપે છે

નીતિ દ્વારા પસંદગી

શુદ્ધ ચુકાદો

પ્રમાણીકરણ, કૉપિરાઇટ નિર્ણય

માત્ર પ્રાથમિક માહિતી

સંપૂર્ણ જવાબદારી વ્યક્તિની છે

સામાન્ય ભૂલો

• સ્ત્રોત માટે AI આઉટપુટને બદલીને. AI એ સહાયક છે, સંસાધન નથી; દરેક આઉટપુટ માન્ય છે.
• બનાવટી સ્ત્રોતને પ્રતીતિકારક તરીકે સ્વીકારવું. માત્ર કારણ કે તે સારું લાગે છે તેનો અર્થ એ નથી કે તે સાચું છે.
• જાહેર સાધનમાં વ્યક્તિગત/સંવેદનશીલ ડેટા દાખલ કરવો. શરૂઆતથી જ વપરાશકર્તાની ગોપનીયતા અને કોર્પોરેટ ગોપનીયતાનો આદર કરવામાં આવે છે.
• પૂર્વગ્રહની અવગણના કરવી. AI એ ડેટાના પરિપ્રેક્ષ્યને વહન કરે છે જેના પર તેને તાલીમ આપવામાં આવે છે; શું ખૂટે છે તે પૂછો.
• ચુકાદો AI પર છોડીને. સચોટતા, કૉપિરાઇટ અને ગોપનીયતાના નિર્ણયો મનુષ્યના છે.

સારાંશમાં

કૃત્રિમ બુદ્ધિ; ગ્રંથપાલ અને માહિતી વ્યવસ્થાપનમાં સારાંશ, મુસદ્દો, અનુવાદ અને પેટર્ન માર્કિંગ માટે તે એક શક્તિશાળી સહાયક છે. તે યાંત્રિક કાર્યમાં ઘણો સમય બચાવે છે; અર્ધ-ન્યાયિક બાબતો પર સલાહ આપે છે; પરંતુ સચોટતાની ચકાસણી, સ્ત્રોતની વિશ્વસનીયતા, વપરાશકર્તાની ગોપનીયતા અને નૈતિક નિર્ણયો મનુષ્યના છે. આ વ્યવસાય માટે આભાસ એ સૌથી મોટો ખતરો છે: ચકાસણી વિના કોઈ સ્ત્રોત ક્રેડિટ અથવા અવતરણનો ઉપયોગ કરવામાં આવતો નથી. સ્પષ્ટ ભૂમિકા, સીમા અને માન્યતા નિયમો સાથે AI ચલાવો; સ્વતંત્ર સ્ત્રોત સાથે દરેક નિર્ણાયક આઉટપુટની પુષ્ટિ કરો.

એપ્લિકેશન કાર્ય

તમારા ક્ષેત્રમાંથી વાસ્તવિક વિષય પસંદ કરો. એઆઈને તે વિષય પર 5 સંસાધન ભલામણો માટે પૂછો, પછી દરેકને વાસ્તવિક કેટલોગ અથવા ડેટાબેઝમાં શોધો અને નોંધ કરો કે કેટલા ખરેખર અસ્તિત્વમાં છે. પછી, "સ્ટાર્ટઅપ વ્યાખ્યાયિત ભૂમિકાઓ અને સીમાઓ" ટેમ્પલેટ સાથે, AI ને કહો કે તમે પ્રદાન કરો છો તે ટેક્સ્ટમાંથી જ કાર્ય કરો અને બે અભિગમોના આઉટપુટની તુલના કરો. લખો કે કયો અભિગમ ફિટિંગને અટકાવે છે.

ચેકલિસ્ટ

• [ ] મેં નક્કી કર્યું કે કાર્ય કયા સ્તર પર છે (યાંત્રિક, અર્ધ-ન્યાયિક, શુદ્ધ નિર્ણય)
• [ ] "જો આ આઉટપુટ ખોટું હોય તો શું થાય?" મેં પ્રશ્ન પૂછ્યો.
• [ ] મેં સ્વતંત્ર સ્ત્રોત સામે દરેક ધિરાણ અને અવતરણની ચકાસણી કરી છે.
• [ ] મેં તપાસ કરી છે કે AI માં દાખલ થતા ડેટામાં કોઈ વ્યક્તિગત/સંવેદનશીલ માહિતી નથી.
• [ ] મેં અંતિમ નિર્ણય અને જવાબદારી મારી પોતાની વિવેકબુદ્ધિ પર રાખી છે.