Печалби:
- Да можеш да разграничиш къде изкуственият интелект спестява време в работния процес на библиотеката (метаданни, резюме, търсене, предложения) и къде точността, надеждността на източника и решенията за поверителност са оставени на хората, в зависимост от нивото на риск.
- Възможност за прилагане на дисциплина, която проверява всеки изход чрез свързването му с източника, потвърждаването му в независим източник и преминаването му през филтър за отклонение.
- Разбирането защо халюцинациите, измислените източници и неприкосновеността на личния живот на потребителите са рискове, които трябва да бъдат взети предвид в тази професия от самото начало.
Когато специалист по каталогизиране седне на бюрото си сутрин, той може да има десетки новопристигнали книги, стотици документи от колекция от дарения и архивна кутия, чакащи да бъдат дигитализирани. Референтен библиотекар (експертът, който помага на потребителите да намерят информация) отговаря на въпроси през целия ден като „къде е надеждният източник по тази тема?“ Информационният мениджър е отговорен за поддържането на хилядите документи на организацията откриваеми и надеждни. В тази част ще изясним къде точно изкуственият интелект (AI накратко; големи езикови модели и подобни инструменти) спестява време при тези задачи и къде преценката, изборът и отговорността остават за човека.
Нека започнем с определение: изкуствен интелект, под което имаме предвид софтуерни инструменти за генериране на език и разпознаване на шаблони, обучени върху големи количества текст. Тези инструменти обобщават, превеждат, предлагат класификация, генерират чернова на текст и маркират модели в големи части от данни. Но не знае дали наистина съществува източник, дали информацията е вярна или дали поверителността на потребителя е защитена. Ето защо в библиотечното дело и управлението на информация AI е помощник, а не вземащ решения.
Къде работи изкуственият интелект и къде не?
Нека разделим библиотечния работен процес на три слоя. Първият слой са механични и повтарящи се задачи: извличане на чернови на метаданни от авторския ред на книга, обобщаване на дълъг доклад, превод на текст от един език на друг, почистване на таблица с данни. AI е мощен тук и спестява много време.
Вторият слой е квази-съдебна работа: каква предметна рубрика да се даде на документ, дали да се включи ресурс в колекция, какъв ресурс да се препоръча на потребителя. AI произвежда предложения тук, но експертът, който познава политиката на институцията и реалните нужди на потребителя, има последната дума.
Третият слой е чиста преценка и отчетност: потвърждаване, че информацията е точна, вземане на решение за авторско право, дали да се разкрият чувствителни лични данни, потвърждаване на надеждността на източника. На този слой изходът на AI е само начална точка; Отговорността е изцяло на хората.
Съвет: Преди да зададете задача на AI, запитайте се: „Какво се случва, ако този резултат е грешен?“ Ако отговорът е „Ще загубя малко време“, не се колебайте да използвате AI. Ако отговорът е „разпространен е фалшив източник, потребител е подведен или са изтекли лични данни“, не забравяйте да проверите резултата.
Халюцинации: най-голямата опасност за библиотекаря
Халюцинация е, когато AI произвежда несъществуваща информация, източник или цитат, сякаш е реална, и то на изключително убедителен език. Това е особено опасно за библиотечното дело и управлението на информацията; защото същността на нашата професия е автентичността и надеждността на източника.
Когато кажете на AI да „предложи пет академични статии по тази тема“, той може да генерира заглавия, автори и имена на списания, които изглеждат реални, но изобщо не съществуват. Тези изфабрикувани източници са толкова убедителни, че покровител или дори библиотекар може да ги добави към библиография, без да ги проверява. В хуманитарните и социалните науки опасността е още по-голяма: когато „онзи документ от 1897 г.“ е изфабрикуван за историк или „онова съдебно решение“ за юрист, резултатът е сериозна дезинформация.
Внимание: Никое цитиране на източник, цитат или препратка, произведени от AI, не трябва да се прехвърлят никъде без проверка в истински каталог, база данни или самия източник. Само защото "изглежда убедително" не означава, че е истина.
Дисциплина за проверка: три стъпки
Основната дисциплина, която библиотекарят трябва да прилага, когато работи с AI, е следната:
1. Свържете се с източник. Всеки факт, цифра, дата и отпечатък трябва да се основават на оригинален източник. Попитайте AI "кажи ми от какъв източник сте получили тази информация" и проверете този източник независимо.
2. Независимо потвърждаване. Проверете критичната информация в поне един надежден източник извън AI (автентичен каталог, официална база данни, първичен документ).
3. Прекарайте го през филтъра за отклонение. AI носи пристрастията на данните, върху които се обучава. Предложена тема, списък с предложения или резюме може да подчертае определени гледни точки и да скрие други. Попитайте кой е пропуснат, каква перспектива липсва.
Поверителност и поверителност на потребителите
Един от най-фундаменталните етични принципи на библиотекарската професия е поверителността на потребителя: това, което човек чете, какво търси и каква тема го интересува е поверително. Въвеждането на данни в инструменти за изкуствен интелект, особено публични инструменти, които работят в интернет, които включват самоличност на потребители, история на търсене или заети ресурси, може да наруши този принцип; тъй като тези данни може да отидат до системи на трети страни.
По същия начин в една организация некласифицирани, но чувствителни документи (информация за персонала, договори, вътрешна кореспонденция) не трябва да се качват в общ инструмент за изкуствен интелект. За този тип данни се предпочитат инструменти, работещи в собствената защитена, затворена система на институцията.
Съвет: Преди да въведете данни в AI, попитайте „Тази информация публична ли е?“ попитайте. Ако отговорът е не или не сте сигурни, поставете тези данни в деперсонализиран, анонимен формат или използвайте само сигурни инструменти, одобрени от институцията.
три мини калъфа
Случай 1 — Чернова на метаданни за 400 документа. Една университетска библиотека трябваше да каталогизира архив от 400 документа, дарени от професор. Експертът извлече чернова на заглавие, дата и предложение за тема от първата страница на всеки документ с AI: средното време на документ намаля от 12 минути на 4 минути. Но всеки проект на отпечатък беше сравнен с оригиналния документ и одобрен от експерта; 17 неправилни дати, създадени от AI, бяха уловени в тази стъпка.
Случай 2 — Хванат фалшив източник. Библиотекар-консултант получи 6 предложения за статии от YZ, докато търсеше ресурси за „климатична миграция“ за студент. Библиотекарят ги претърси в базата данни на институцията: 2 от 6 статии изобщо не съществуват. Стъпката на проверката попречи на студента да получи изфабрикуван източник.
Случай 3 — Предотвратено нарушение на поверителността. Библиотека, обмисляща използването на общ инструмент за изкуствен интелект, за да анализира „кой потребител от коя тема се интересува“ от записите за плащане. Информационният мениджър разбра, че би било нарушение на поверителността тези данни да излязат с потребителския идентификатор; данните първо бяха анонимизирани и обработени единствено като обобщени, деидентифицирани статистики.
Четири копируеми шаблона
1) Започнете да определяте роли и граници:
Вашата роля: опитен помощник специалист по каталогизиране и управление на информация. Вашата задача: да създадете чернова от информацията в източника, който ви дадох. Правила: (1) Използвайте само информацията в текста, който ви дадох, не добавяйте своя собствена информация. (2) Маркирайте „[трябва да се провери]“, където не сте сигурни. (3) Не измисляйте никакви дати, имена или отпечатъци. Ако разбирате, започнете. Източник: [тук]
2) Въпрос за проверка на валидността:
Избройте всяко фактическо твърдение (дата, име, номер, цитат на източник) в текста по-долу. За всеки: откъде в текста получихте тази информация? Ако не е ясно в текста, напишете „не е в текста“. Текст: [тук]
3) Пристрастност и проверка на липсваща перспектива:
Кои перспективи подчертава следното резюме/препоръка и кои пропуска? Какви групи, региони или изгледи може да липсват? Просто разчитайте на текста, не спекулирайте. Текст: [тук]
4) Предварителна проверка за поверителност:
Текстът по-долу съдържа ли лични данни (име, личен номер, контакт, история на четене/търсене) или чувствителна корпоративна информация? Ако е така, посочете го и предложете как може да бъде анонимно. Текст: [тук]
Слаба подкана / Силна подкана
Слаба подкана:
Намерете ми някои ресурси по тази тема.
Тази подкана приканва AI да генерира фалшиви ресурси. Няма роли, граници, правила за валидиране и ресурси. AI може да създаде правдоподобни, но несъществуващи тагове.
Мощна подкана:
Вашата роля: помощник библиотекар справка. Изберете свързаните с темата „климатична миграция“ от записите в каталога, които съм ви дал по-долу, и обяснете защо са уместни. Не добавяйте източници, които не са в списъка, не измисляйте източници. Когато не сте сигурни, кажете „няма изброени подходящи източници“. Записи в каталога: [тук]
Разликата е ясна: силната подкана принуждава AI да работи от дадения реален източник, а не от собствената си памет, и предотвратява измислянето.
Таблица на нивата и отговорностите
бизнес слой
примерна задача
Роля на AI
мъжко решение
механичен
Проект на метаданни, резюме, превод
Произвежда бързо чернови
проверка, одобрение
квазисъдебен
Заглавие на темата, предложение за източник
предлага предложения
Избор по политика
чиста преценка
Удостоверяване, решение за авторски права
Само предварителна информация
Пълната отговорност е на лицето
Често срещани грешки
- Замяна на AI изхода за източника. AI е помощник, а не ресурс; Всеки изход се валидира.
- Приемане на изфабрикувания източник за убедителен. Това, че изглежда добре, не означава, че е правилно.
- Въвеждане на лични/чувствителни данни в публичния инструмент. Поверителността на потребителите и корпоративната поверителност се спазват от самото начало.
- Игнориране на предразсъдъците. AI пренася перспективите на данните, върху които се обучава; Попитайте какво липсва.
- Оставяйки преценката на AI. Решенията относно точността, авторските права и поверителността принадлежат на хората.
В обобщение
изкуствен интелект; Той е мощен помощник за обобщаване, изготвяне, превод и маркиране на шаблони в библиотечното дело и управлението на информацията. Спестява много време при механична работа; дава съвети по квази-съдебни въпроси; Но проверката на точността, надеждността на източника, поверителността на потребителите и етичните решения принадлежат на хората. Халюцинациите са най-голямата опасност за тази професия: не се използват източници или цитати без проверка. Изпълнявайте AI с ясни правила за роля, граници и валидиране; Потвърдете всеки критичен резултат с независим източник.
Задача за приложение
Изберете реална тема от вашата област. Помолете AI за 5 препоръки за ресурс по тази тема, след това потърсете всеки от тях в действителен каталог или база данни и отбележете колко всъщност съществуват. След това, с шаблона „Стартиране, определящ роли и граници“, кажете на AI да работи само от текст, който предоставяте, и сравнете резултата от двата подхода. Напишете кой подход предотвратява напасването.
контролен списък
- [ ] Определих на кой слой (механичен, полу-съдебен, чиста преценка) е задачата.
- [ ] "Какво се случва, ако този резултат е неправилен?" Зададох въпроса.
- [ ] Проверих всеки кредит и цитат спрямо независим източник.
- [ ] Проверих дали няма лична/чувствителна информация в данните, въведени в AI.
- [ ] Запазих окончателното решение и отговорността по свое усмотрение.