Добивки:
- Да може да разликува каде вештачката интелигенција заштедува време во работниот тек на библиотекарството (метаподатоци, резиме, пребарување, предлози) и каде точноста, сигурноста на изворот и одлуките за приватност се препуштени на луѓето, во зависност од нивото на ризик.
- Способност да се примени дисциплина која го потврдува секој излез со поврзување со изворот, потврдување во независен извор и поминување низ филтер за пристрасност.
- Разбирањето зошто халуцинацијата, измислените извори и приватноста на корисниците се ризици кои мора да се земат предвид во оваа професија уште од самиот почеток.
Кога специјалист за каталогизација ќе седне на своето биро наутро, тој може да има десетици новопристигнати книги, стотици документи од збирка донации и архивска кутија што чека да се дигитализира. Референтен библиотекар (експерт кој им помага на корисниците да најдат информации) одговара на прашања во текот на денот како „каде е доверливиот извор на оваа тема?“ Менаџерот за информации е одговорен да ги чува илјадниците документи на организацијата кои се откриени и веродостојни. Во оваа единица, ќе разјасниме каде точно вештачката интелигенција (накратко ВИ; големи јазични модели и слични алатки) заштедува време во овие задачи, а каде расудувањето, изборот и одговорноста остануваат кај човекот.
Да почнеме со дефиниција: вештачка интелигенција, под која подразбираме софтверски алатки за генерирање јазик и препознавање шаблони обучени на големи количини текст. Овие алатки резимираат, преведуваат, сугерираат класификација, генерираат нацрт-текст и означуваат обрасци во големи делови од податоци. Но, не знае дали изворот навистина постои, дали информацијата е точна или дали приватноста на корисникот е заштитена. Затоа во библиотекарството и управувањето со информации, вештачката интелигенција е асистент, а не носител на одлуки.
Каде работи вештачката интелигенција, а каде не?
Ајде да го поделиме работниот тек на библиотекарството на три слоја. Првиот слој е механички и повторувачки задачи: извлекување нацрт метаподатоци од линијата на книгата, сумирање на долг извештај, преведување текст од еден јазик на друг, чистење табела со податоци. ВИ е моќна овде и заштедува големо време.
Вториот слој е квази-судска работа: кој предмет на наслов да се даде на документот, дали да се вклучи ресурс во збирка, кој ресурс да се препорача на корисникот. Вештачката интелигенција дава предлози овде, но експертот кој ја знае политиката на институцијата и реалните потреби на корисникот го има последниот збор.
Третиот слој е чисто расудување и одговорност: потврдување дека информацијата е точна, одлучување за авторското право, дали да се откријат чувствителни лични податоци, потврдување на веродостојноста на изворот. Во овој слој, излезот на вештачката интелигенција е само почетна точка; Одговорноста е целосно кај луѓето.
Совет: Пред да му дадете задача на вештачката интелигенција, запрашајте се: „Што ќе се случи ако овој излез е погрешен? Ако одговорот е „Ќе изгубам малку време“, слободно користете вештачка интелигенција. Ако одговорот е „се шири лажен извор, корисникот е доведен во заблуда или протечени лични податоци“, не заборавајте да го потврдите излезот.
Халуцинација: најголемата опасност за библиотекарот
Халуцинација е кога вештачката интелигенција произведува непостоечки информации, извор или цитат како да е реална и на крајно убедлив јазик. Ова е особено опасно за библиотекарството и управувањето со информациите; бидејќи суштината на нашата професија е автентичноста и веродостојноста на изворот.
Кога ќе и кажете на вештачката интелигенција да „предложи пет академски трудови на оваа тема“, таа може да генерира наслови, автори и имиња на списанија кои изгледаат вистински, но воопшто не постојат. Овие измислени извори се толку убедливи што патронот, па дури и библиотекар може да ги додаде во библиографијата без да ги потврди. Во хуманистичките и општествените науки, опасноста е уште поголема: кога „тој документ од 1897 година“ е фабрикуван за историчар или „таа судска одлука“ за правник, резултатот е сериозна дезинформација.
Внимание: Ниту еден извор, цитат или референца произведени од ВИ не треба да се пренесуваат никаде без потврда во вистински каталог, база на податоци или самиот извор. Само затоа што „изгледа убедливо“ не значи дека е вистина.
Дисциплина за верификација: три чекори
Основната дисциплина што библиотекарот мора да ја применува кога работи со вештачка интелигенција е оваа:
1. Поврзете се со изворот. Секој факт, бројка, датум и отпечаток мора да се засноваат на оригинален извор. Прашајте ја вештачката интелигенција „кажи ми од кој извор ги добивте овие информации“ и проверете го тој извор независно.
2. Независно потврдете. Потврдете ги критичните информации во барем еден сигурен извор надвор од вештачката интелигенција (автентичен каталог, официјална база на податоци, примарен документ).
3. Поминете го низ филтерот за пристрасност. Вештачката интелигенција ги носи пристрасноста на податоците за кои е обучен. Предложена тема, листа на предлози или резиме може да нагласи одредени гледишта и да ги замати другите. Прашајте кој е изоставен, каква перспектива недостасува.
Приватност и приватност на корисникот
Еден од најфундаменталните етички принципи на библиотекарската професија е приватноста на корисниците: она што едно лице чита, што бара и која тема го интересира е доверливо. Внесувањето податоци во алатките за вештачка интелигенција, особено јавните алатки кои работат преку Интернет, кои ги вклучуваат идентитетите на корисниците, историјата на пребарување или позајмените ресурси може да го прекршат овој принцип; бидејќи овие податоци може да одат до системи на трети страни.
Исто така, во организацијата, некласифицираните, но чувствителни документи (информации за персоналот, договори, внатрешна кореспонденција) не треба да се поставуваат на општа алатка за вештачка интелигенција. За овој тип на податоци се претпочитаат алатки кои работат на сопствениот безбеден, затворен систем на институцијата.
Совет: Пред да внесете какви било податоци во вештачката интелигенција, прашајте „Дали оваа информација е јавна?“ прашај. Ако одговорот е не, или не сте сигурни, ставете ги тие податоци во деперсонализиран, анонимен формат или користете само безбедни алатки одобрени од институцијата.
три мини футроли
Случај 1 - Нацрт метаподатоци за 400 документи. Универзитетска библиотека мораше да каталогизира архива од 400 документи донирани од професор. Експертот извлече нацрт наслов, датум и предлог тема од првата страница на секој документ со вештачка интелигенција: просечното време по документ се намали од 12 минути на 4 минути. Но, секој нацрт-отпечаток беше спореден со оригиналниот документ и одобрен од експертот; Во овој чекор беа фатени 17 погрешни датуми направени од вештачката интелигенција.
Случај 2 - Фатен лажен извор. Советодавниот библиотекар доби 6 предлози за статии од YZ додека бараше ресурси за „климатска миграција“ за студент на додипломски студии. Библиотекарката ги пребара сите во базата на податоци на институцијата: 2 од 6 статии воопшто не постоеја. Чекорот за верификација спречи ученикот да добие измислен извор.
Случај 3 - Спречено нарушување на доверливоста. Библиотека размислуваше да користи општа алатка за вештачка интелигенција за да анализира „кој корисник за која тема е заинтересиран“ од записите за наплата. Менаџерот со информации сфатил дека би било прекршување на приватноста овие податоци да излезат со корисничкиот ID; податоците прво беа анонимизирани и обработени исклучиво како збирна, деидентификувана статистика.
Четири шаблони за копирање
1) Започнете да ги дефинирате улогите и границите:
Вашата улога: искусен асистент специјалист за каталогизација и управување со информации. Ваша задача: да направите нацрт од информациите во изворот што ви го дадов. Правила: (1) Користете ги само информациите во текстот што ви го дадов, не додавајте свои информации. (2) Означете „[мора да се потврди]“ каде што не сте сигурни. (3) Не измислувајте датуми, имиња или отпечатоци. Ако разбираш, почни. Извор: [тука]
2) Прашање за проверка на валидација:
Наведете го секое фактичко тврдење (датум, име, број, извор) во текстот подолу. За секој: од каде во текстот ја добивте оваа информација? Ако не е јасно во текстот, напишете „не е во текстот“. Текст: [тука]
3) Проверка на пристрасност и недостиг на перспектива:
Кои перспективи ги истакнува и кои ги изоставува следново резиме/препорака? Кои групи, региони или погледи може да недостасуваат? Само потпирајте се на текстот, не шпекулирајте. Текст: [тука]
4) Претходна проверка на приватноста:
Дали текстот подолу содржи лични податоци (име, матичен број, контакт, историја на читање/пребарување) или чувствителни корпоративни информации? Ако е така, наведете го и предложете како може да се анонимизира. Текст: [тука]
Слаб промпт / Силен промпт
Слаба навестување:
Најдете ми некои ресурси на оваа тема.
Ова барање ја поканува вештачката интелигенција да генерира лажни ресурси. Нема улоги, граници, правила за валидација и ресурси. ВИ може да произведе веродостојни, но непостоечки ознаки.
Моќен потсетник:
Вашата улога: референтен библиотекар асистент. Изберете ги оние поврзани со темата „климатска миграција“ од записите во каталогот што ви ги дадов подолу и објаснете зошто се релевантни. Не додавајте никакви извори што не се на списокот, не фабрикувајте извори. Кога не сте сигурни, кажете „нема наведени соодветни извори“. Записи во каталогот: [тука]
Разликата е јасна: силната брзина ја принудува вештачката интелигенција да работи од дадениот реален извор, а не од сопствената меморија и го спречува создавањето.
Табела за слоеви и одговорност
деловен слој
примерок задача
Улогата на вештачката интелигенција
машка одлука
механички
Нацрт метаподатоци, резиме, превод
Брзо произведува нацрти
верификација, одобрување
квази-судски
Наслов на темата, предлог извор
нуди предлози
Избор по полиса
чист суд
Автентикација, одлука за авторски права
Само прелиминарни информации
Целосната одговорност е на личноста
Вообичаени грешки
- Замена на излезот со вештачка интелигенција за изворот. ВИ е асистент, а не ресурс; Секој излез е потврден.
- Прифаќање на фабрикуваниот извор како убедлив. Само затоа што изгледа добро не значи дека е правилно.
- Внесување лични/чувствителни податоци во јавната алатка. Корисничката приватност и корпоративната доверливост се почитуваат од самиот почеток.
- Игнорирање на предрасудите. ВИ ги носи перспективите на податоците за кои е обучен; Прашајте што недостасува.
- Препуштање на пресудата на АИ. Одлуките за точност, авторски права и приватност припаѓаат на луѓето.
Сумирано
вештачка интелигенција; Тоа е моќен асистент за сумирање, изготвување, преведување и обележување на модели во библиотекарството и управувањето со информации. Тоа заштедува многу време во механичката работа; дава совети за квази-судски работи; Но, проверката на точноста, веродостојноста на изворот, приватноста на корисникот и етичките одлуки им припаѓаат на луѓето. Халуцинацијата е најголемата опасност за оваа професија: не се користат изворни кредити или цитати без верификација. Стартувај вештачка интелигенција со јасни правила за улога, граници и валидација; Потврдете го секој критичен излез со независен извор.
Задача за апликација
Изберете вистинска тема од вашата област. Прашајте ја вештачката интелигенција за 5 препораки за ресурси на таа тема, а потоа пребарајте ја секоја во вистински каталог или база на податоци и забележете колку всушност постојат. Потоа, со шаблонот „Улоги и граници што ги дефинира стартувањето“, кажете му на вештачката интелигенција да работи само од текст што ќе го дадете и споредете го излезот од двата пристапа. Напишете кој пристап го спречува вклопувањето.
листа за проверка
- [ ] Одредив на кој слој (механички, полусуден, чист суд) е задачата.
- [ ] "Што се случува ако овој излез е неточен?" Го поставив прашањето.
- [ ] Ги потврдив сите заслуги и цитати со независен извор.
- [ ] Проверив дека нема лични/чувствителни информации во податоците што влегуваат во вештачката интелигенција.
- [ ] Конечната одлука и одговорност ја задржав на моја дискреција.