Табыстар:
- Жасанды интеллект кітапханалық жұмыс процесінде қай жерде уақытты үнемдейтінін (метадеректер, түйіндеме, іздеу, ұсыныс) және тәуекел деңгейіне байланысты дәлдік, дереккөз сенімділігі және құпиялылық туралы шешімдер адамдарға қалдырылатынын ажырата білу.
- Әрбір нәтижені көзге байланыстыру, тәуелсіз көзде растау және қиғаш сүзгіден өткізу арқылы тексеретін пәнді қолдану мүмкіндігі.
- Неліктен галлюцинация, жасанды көздер және пайдаланушының құпиялылығы осы кәсіпте ең басынан бастап ескерілуі керек тәуекелдер екенін түсіну.
Таңертең каталог маманы жұмыс үстеліне отырғанда, оның қолында жаңадан келген ондаған кітаптар, қайырымдылық қорындағы жүздеген құжаттар және цифрландыруды күтіп тұрған мұрағат жәшігі болуы мүмкін. Анықтамалық кітапханашы (пайдаланушыларға ақпаратты табуға көмектесетін сарапшы) күні бойы «осы тақырып бойынша сенімді дереккөз қайда?» сияқты сұрақтарға жауап береді. Ақпарат менеджері ұйымның мыңдаған құжаттарының анық және сенімді сақталуына жауап береді. Бұл бөлімде біз жасанды интеллект (қысқаша айтқанда, AI; үлкен тілдік модельдер және ұқсас құралдар) бұл тапсырмаларда уақытты қай жерде үнемдейтінін және пайымдау, таңдау және жауапкершілік адамның бойында болатынын түсіндіреміз.
Анықтамадан бастайық: жасанды интеллект, ол арқылы біз мәтіннің үлкен көлеміне үйретілген тіл тудыратын және үлгіні танитын бағдарламалық құралдарды түсінеміз. Бұл құралдар жинақтайды, аударады, жіктеуді ұсынады, жоба мәтінін жасайды және деректердің үлкен бөліктеріндегі үлгілерді белгілейді. Бірақ ол дереккөздің шынымен бар-жоғын, ақпараттың дұрыстығын немесе пайдаланушының құпиялылығының қорғалғанын білмейді. Сондықтан кітапхана ісі мен ақпаратты басқаруда AI шешім қабылдаушы емес, көмекші болып табылады.
Жасанды интеллект қай жерде жұмыс істейді және қай жерде жұмыс істемейді?
Кітапхана ісін үш қабатқа бөлейік. Бірінші қабат механикалық және қайталанатын тапсырмалар: кітаптың сызығынан жоба метадеректерін шығару, ұзақ есепті қорытындылау, мәтінді бір тілден екінші тілге аудару, деректер кестесін тазалау. Бұл жерде AI күшті және көп уақытты үнемдейді.
Екінші деңгей – квазисот жұмысы: құжатты қандай тақырыпта беру керек, қорды жинаққа қосу керек пе, пайдаланушыға қандай ресурсты ұсыну керек. Бұл жерде AI ұсыныстар жасайды, бірақ соңғы сөзді мекеменің саясатын және пайдаланушының нақты қажеттіліктерін білетін сарапшы айтады.
Үшінші деңгей - таза пайымдау және есеп беру: ақпараттың дұрыстығын растау, авторлық құқық туралы шешім қабылдау, құпия жеке деректерді жариялау туралы шешім қабылдау, дереккөздің сенімділігін растау. Бұл деңгейде AI шығысы тек бастапқы нүкте болып табылады; Жауапкершілік толығымен адамдарға жүктеледі.
Кеңес: AI-ға тапсырма бермес бұрын, өзіңізден сұраңыз: «Бұл нәтиже дұрыс емес болса не болады?» Жауап «Мен біраз уақытты босқа өткіземін» болса, AI-ны қолдануға болады. Егер жауап «жалған дереккөз таратылды, пайдаланушы жаңылды немесе жеке деректер ағып кетті» болса, нәтижені тексеріңіз.
Галлюцинация: кітапханашының ең үлкен қаупі
Галлюцинация - бұл AI жоқ ақпаратты, дереккөзді немесе дәйексөзді шынайы сияқты және өте сенімді тілде шығаруы. Бұл әсіресе кітапхана ісі мен ақпаратты басқару үшін қауіпті; өйткені біздің кәсібіміздің мәні – дереккөздің шынайылығы мен сенімділігі.
Сіз AI-ға «осы тақырып бойынша бес академиялық мақаланы ұсыныңыз» деп айтқан кезде, ол нақты болып көрінетін, бірақ мүлде жоқ тақырыптарды, авторларды және журнал атауларын жасай алады. Бұл ойдан шығарылған дереккөздердің сенімділігі сонша, меценат немесе тіпті кітапханашы оларды тексермей-ақ библиографияға қоса алады. Гуманитарлық және әлеуметтік ғылымдарда қауіп одан да жоғары: тарихшы үшін «сол 1897 жылғы құжат» немесе заңгер үшін «сол сот шешімі» ойдан шығарылғанда, нәтиже елеулі жалған ақпарат болып табылады.
Назар аударыңыз: AI жасаған ешбір дереккөзге сілтеме, дәйексөз немесе сілтеме нақты каталогта, дерекқорда немесе дереккөздің өзінде тексерілмей ешқайда тасымалданбауы керек. Оның «сенімді көрінуі» бұл шындықты білдірмейді.
Тексеру пәні: үш қадам
Кітапханашы АИ-мен жұмыс істегенде қолдануы керек негізгі тәртіп мыналар:
1. Көзге қосылыңыз. Әрбір факт, цифр, күн және із түпнұсқа дереккөзге негізделуі керек. AI-дан «бұл ақпаратты қай көзден алғаныңызды айтыңыз» деп сұраңыз және бұл дереккөзді өз бетіңізше тексеріңіз.
2. Өз бетінше растау. AI-дан тыс кем дегенде бір сенімді көзде маңызды ақпаратты тексеріңіз (түпнұсқалық каталог, ресми дерекқор, бастапқы құжат).
3. Оны бұрмалау сүзгісі арқылы өткізіңіз. Жасанды интеллект өзі оқытылатын деректердің қисындылығын сақтайды. Ұсынылған тақырып, ұсыныстар тізімі немесе түйіндеме белгілі бір көзқарастарды бөліп көрсетуі және басқаларды жасыруы мүмкін. Кім қалды, қандай перспектива жетіспейді деп сұраңыз.
Құпиялық және пайдаланушы құпиялылығы
Кітапханашы мамандығының ең негізгі этикалық принциптерінің бірі – пайдаланушының жеке өмірі: адам не оқиды, нені іздейді, нені қызықтырады, құпия болып табылады. Деректерді AI құралдарына, әсіресе Интернет арқылы жұмыс істейтін, пайдаланушылардың жеке басын, іздеу тарихын немесе қарызға алынған ресурстарды қамтитын жалпыға ортақ құралдарға енгізу бұл принципті бұзуы мүмкін; себебі бұл деректер үшінші тарап жүйелеріне өтуі мүмкін.
Сол сияқты, ұйымда құпия емес, бірақ құпия құжаттар (персонал туралы ақпарат, келісімшарттар, ішкі хат алмасу) жалпы AI құралына жүктелмеуі керек. Бұл деректер түрі үшін мекеменің қауіпсіз, жабық жүйесінде жұмыс істейтін құралдарға артықшылық беріледі.
Кеңес: AI-ға кез келген деректерді енгізбес бұрын, «Бұл ақпарат жалпыға қолжетімді ме?» Деп сұраңыз. сұраңыз. Жауап жоқ болса немесе сенімді болмасаңыз, бұл деректерді дербестендірілген, анонимді пішімге қойыңыз немесе тек мекеме бекіткен қауіпсіз құралдарды пайдаланыңыз.
үш шағын іс
1-жағдай — 400 құжатқа арналған метадеректер жобасы. Университет кітапханасы профессор сыйлаған 400 құжаттан тұратын мұрағатты каталогтауы керек еді. Сарапшы AI көмегімен әрбір құжаттың бірінші бетінен жоба тақырыбын, күні мен тақырып ұсынысын шығарды: бір құжаттың орташа уақыты 12 минуттан 4 минутқа дейін қысқарды. Бірақ әрбір іздің жобасы түпнұсқа құжатпен салыстырылып, сарапшы бекітті; Бұл қадамда AI жасаған 17 қате күн ұсталды.
2-жағдай — жалған дереккөз ұсталды. Консультативті кітапханашы бакалавр студенті үшін «климаттық көші-қон» бойынша ресурстарды іздеу кезінде YZ-ден 6 мақала ұсынысын алды. Кітапханашы олардың барлығын мекеменің дерекқорынан ақтарып шықты: 6 мақаланың 2-і мүлдем жоқ. Тексеру қадамы студентке ойдан шығарылған дереккөзді беруге жол бермеді.
3-жағдай — Құпиялықты бұзудың алдын алды. Кітапхана төлем жазбаларынан «қай пайдаланушыны қай тақырып қызықтыратынын» талдау үшін жалпы AI құралын пайдалануды қарастырады. Ақпарат менеджері бұл деректердің пайдаланушы идентификаторымен шығуы құпиялылықты бұзу болатынын түсінді; деректер алдымен анонимделген және жинақталған, идентификацияланбаған статистика ретінде ғана өңделген.
Көшірілетін төрт үлгі
1) Рөлдер мен шекараларды анықтауды бастаңыз:
Сіздің рөліңіз: каталогтау және ақпаратты басқару жөніндегі маманның тәжірибелі көмекшісі. Сіздің тапсырмаңыз: мен берген дереккөздегі ақпараттың жобасын жасау. Ережелер: (1) Мен берген мәтіндегі ақпаратты ғана пайдаланыңыз, өз ақпаратыңызды қоспаңыз. (2) Сіз сенімді емес жерде "[тексеру керек]" деп белгілеңіз. (3) Ешбір күндерді, атауларды немесе іздерді жасамаңыз. Түсінсеңіз, бастаңыз. Дереккөз: [мұнда]
2) Валидацияны тексеру сұрағы:
Төмендегі мәтінде әрбір нақты шағымды (күні, аты, нөмірі, дереккөзге сілтеме) көрсетіңіз. Әрқайсысы үшін: бұл ақпаратты мәтіннің қай жерінен алдыңыз? Мәтінде анық болмаса, «мәтінде жоқ» деп жаз. Мәтін: [мұнда]
3) ығысу және жетіспейтін перспективаны тексеру:
Төмендегі қорытынды/ұсыныс қандай перспективаларды ерекшелейді және қайсысын қалдырады? Қандай топтар, аймақтар немесе көріністер жоқ болуы мүмкін? Тек мәтінге сеніңіз, болжам жасамаңыз. Мәтін: [мұнда]
4) Құпиялықты алдын ала тексеру:
Төмендегі мәтінде жеке деректер (аты-жөні, жеке куәлік нөмірі, контакт, оқу/іздеу тарихы) немесе құпия корпоративтік ақпарат бар ма? Олай болса, оны тізіп, оны қалай анонимизациялауға болатынын ұсыныңыз. Мәтін: [мұнда]
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Маған осы тақырып бойынша кейбір ресурстарды табыңыз.
Бұл шақыру AI-ны жалған ресурстарды жасауға шақырады. Рөлдер, шекаралар, тексеру ережелері және ресурстары жоқ. AI сенімді, бірақ жоқ тегтерді жасай алады.
Күшті шақыру:
Сіздің рөліңіз: анықтамалық кітапханашының көмекшісі. Төменде мен берген каталог жазбаларынан «климаттық көші-қон» тақырыбына қатыстыларын таңдап, олардың неліктен өзекті екенін түсіндіріңіз. Тізімде жоқ ешбір дереккөзді қоспаңыз, дереккөздерді ойлап шығармаңыз. Сенімсіз болсаңыз, «тізімде лайықты дереккөздер жоқ» деңіз. Каталог жазбалары: [мұнда]
Айырмашылық анық: күшті жеделдік AI-ны өз жадынан емес, берілген нақты көзден жұмыс істеуге мәжбүр етеді және жасандылыққа жол бермейді.
Қабат және жауапкершілік кестесі
іскерлік деңгей
тапсырма үлгісі
АИ рөлі
адамның шешімі
механикалық
Метадеректер жобасы, түйіндеме, аударма
Нобайларды жылдам жасайды
тексеру, бекіту
квазисоттық
Тақырып атауы, дереккөзді ұсыну
ұсыныстарын ұсынады
Саясат бойынша таңдау
таза үкім
Аутентификация, авторлық құқық туралы шешім
Тек алдын ала ақпарат
Толық жауапкершілік адамда
Жалпы қателер
- Көзге AI шығысын ауыстыру. AI - ресурс емес, көмекші; Әрбір шығыс расталады.
- Ойдан шығарылған дереккөзді сенімді деп қабылдау. Оның жақсы көрінуі оның дұрыс екенін білдірмейді.
- Жеке/сезімтал деректерді жалпыға ортақ құралға енгізу. Пайдаланушының жеке өмірі мен корпоративтік құпиялылығы ең басынан бастап сақталады.
- Алдын ала пікірді елемеу. AI өзі оқытылатын деректердің перспективаларын жеткізеді; Не жетіспейтінін сұраңыз.
- Үкім шығаруды АИ-ге қалдыру. Дәлдік, авторлық құқық және құпиялылық туралы шешімдер адамдарға тиесілі.
Қысқаша айтқанда
жасанды интеллект; Бұл кітапхана ісі мен ақпаратты басқаруда қорытындылау, құрастыру, аудару және үлгіні белгілеудің қуатты көмекшісі. Бұл механикалық жұмыста көп уақытты үнемдейді; квазисот мәселелері бойынша кеңестер береді; Бірақ дәлдікті, дереккөздің сенімділігін, пайдаланушының құпиялылығын және этикалық шешімдерді тексеру адамдарға тиесілі. Галлюцинация - бұл кәсіп үшін ең үлкен қауіп: тексерусіз ешқандай бастапқы кредиттер немесе дәйексөздер пайдаланылмайды. Нақты рөл, шекара және тексеру ережелері бар AI іске қосыңыз; Әрбір маңызды шығысты тәуелсіз көзбен растаңыз.
Қолданбалы тапсырма
Өз салаңыздан нақты тақырыпты таңдаңыз. AI-дан осы тақырып бойынша 5 ресурс ұсынысын сұраңыз, содан кейін әрқайсысын нақты каталогтан немесе дерекқордан іздеңіз және олардың қаншасы бар екенін ескеріңіз. Содан кейін, «Іске қосу рөлдері мен шекараларын анықтау» үлгісімен AI-ға тек сіз берген мәтінмен жұмыс істеуді айтыңыз және екі тәсілдің нәтижесін салыстырыңыз. Қай тәсіл орнатуға кедергі келтіретінін жазыңыз.
бақылау парағы
- [ ] Тапсырма қай қабатта (механикалық, жартылай сот, таза сот) екенін анықтадым.
- [ ] "Бұл шығыс дұрыс емес болса не болады?" Мен сұрақ қойдым.
- [ ] Мен әрбір несие мен дәйексөзді тәуелсіз көзге қарсы тексердім.
- [ ] AI енгізетін деректерде жеке/құпия ақпарат жоқ екенін тексердім.
- [ ] Соңғы шешім мен жауапкершілікті өз қалауыма қалдырдым.