Авторско право, поверителност, етика и управление — Изкуствен интелект в библиотечното дело и управлението на информацията

Печалби:

Възможност за намаляване на правните рискове чрез оценка на статуса на авторските права на входа и условията на данните на инструмента и поставяне под въпрос на правата на изхода
Възможност за защита на личните данни чрез анонимизиране и минимизиране и осигуряване на поверителност чрез прозрачност за потребителя
Възможност за установяване на управленска рамка за институцията, която включва одобрени инструменти, забранени данни и правила за проверка, и тестване на използването им с библиотечни ценности.

Библиотекарят и мениджърът на информация е човек, който не само организира и представя информацията, но и я защитава: защитавайки правата на създателя, неприкосновеността на личния живот на потребителя и отговорността на институцията. Изкуственият интелект предизвиква и трите области с нови и сложни въпроси. Качването на документ в AI нарушава ли авторските права? Предоставянето на потребителски данни на AI инструмент нарушава ли поверителността? Как организацията трябва да управлява използването на AI? В тази заключителна част ще създадем рамка, която обединява етичните и правни нишки, които засегнахме в целия модул.

Нека дефинираме понятията. Авторското право е законното право, предоставено на създателя на произведение върху използването на неговото произведение; Неразрешеното копиране или използване може да се счита за нарушение. Лични данни са всяка информация, която пряко или непряко идентифицира дадено лице и е обект на правна защита. Управлението е рамката от правила, политики и отчетност, която управлява използването на AI от организацията. Тези три концепции формират правната и етична основа за отговорно използване на ИИ.

Стъпка по стъпка: отговорно и законно използване на AI

1. Оценете статуса на авторските права на записа. Преди да заредите текст, книга или статия в инструмент с изкуствен интелект, помислете за статуса на авторските права на това произведение и условията за използване на инструмента. Предоставянето на защитено с авторски права произведение на инструмент, който използва качените от вас данни за собствени цели, може да представлява нарушение на правата.

2. Поставете под въпрос правата на изхода. Състоянието на авторските права на текста, създаден от AI, може да е несигурно и AI може несъзнателно да възпроизведе защитено с авторски права съдържание в данните за обучение. Преди да публикувате резултат от AI, оценете неговата оригиналност и потенциални нарушения.

3. Защита на личните данни. Самоличността на потребителите, хронологията на четене/търсенето и личната информация не трябва да влизат в който и да е AI инструмент без изрично съгласие и силна защита. Анонимизирането и минимизирането на данните (само толкова данни, колкото е необходимо) са от съществено значение.

4. Осигурете прозрачност и съгласие. Потребителите трябва да знаят как се обработват техните данни и взаимодействия; Когато е включен AI, това трябва да бъде ясно посочено. Използването на скрит AI подкопава доверието.

5. Създайте рамка за управление. Организацията трябва да установи в писмена политика кои инструменти са одобрени, какви данни могат да бъдат въведени, кой е отговорен и как ще бъдат проверени резултатите.

Съвет: Създайте един прост „правила за използване на AI“ за вашата организация: кои инструменти са одобрени, какви данни никога не се въвеждат (лични/собствени/поверителни), как се проверява всеки изход и кой е отговорен. Ясно ръководство от една страница е по-изпълнимо от дълга политика.

Етични принципи и ценности на библиотечното дело

Дълбоко вкоренените ценности на библиотекарската професия служат като компас в ерата на ИИ: равен достъп до информация, свобода на мисълта, поверителност на потребителя, интелектуална честност и безпристрастност. AI може или да поддържа, или да заплашва тези ценности. Може да разшири достъпа, но да засили предразсъдъците; може да ускори услугата, но може да компрометира поверителността; Може да улесни откриването, но може да разпространи дезинформация.

Отговорният библиотекар тества всяко използване на AI спрямо тези стойности: „Това използване изравнява ли достъпа или изключва група? Защитава ли поверителността? Предоставя ли точна и честна информация?“ AI е инструмент; Ценностите, с които ще го използвате, са същността на професията. Технологиите се променят, но тези ценности са постоянният компас на библиотечното дело.

Внимание: „Всеки го използва“ или „бързо е“ не оправдава използването на AI. Дори ако употребата е законна, тя може да е неетична; Не приемайте практика, която е вредна по отношение на авторското право, неприкосновеността на личния живот и правосъдието, само защото е лесна. Крайната отговорност не е на инструмента, а на професионалиста, който го използва.

три мини калъфа

Случай 1 — Защитено от авторски права изтегляне е спряно. Един екип планира да зареди цяла защитена с авторски права справочна книга в общ AI инструмент за генериране на резюмета. Информационният мениджър намери това за рисковано, както по отношение на авторските права, така и на условията за използване на данните на инструмента; вместо това се изучава само в кратки, разрешени откъси и в затворената система на институцията.

Случай 2 — Анонимни лични данни. Една библиотека искаше да анализира отзивите на потребителите с AI; но обратната връзка съдържа потребителски имена и информация за контакт. Екипът анонимизира данните преди анализа; обработвани са само анонимни, колективни тенденции. Поверителността е запазена, прозрението е възстановено.

Случай 3 — Премахване на пропуските в управлението. В една организация служителите използваха различни AI инструменти без надзор, като понякога въвеждаха поверителни документи. Информационният администратор публикува политика от една страница, определяща одобрени инструменти, забранени типове данни и правила за проверка; Несигурността и рискът са намалели значително.

Компетентност на персонала и корпоративна култура

Политиката на управление е толкова силна, колкото са силни хората, които я прилагат. Дори и най-добре написано правило остава на хартия, ако служителите не разбират рисковете от ИИ. Следователно трайната основа за отговорно използване на AI е компетентността на персонала: разбирането на всеки служител за това какво е халюцинация, какви данни никога не трябва да се въвеждат и защо резултатът трябва да бъде проверен. Библиотеките и информационните институции имат двойна роля в това отношение; Тя трябва както да обучи собствения си персонал, така и да разпространи тази грамотност сред потребителите. Добрата корпоративна култура е тази, която съобщава за грешка в AI, вместо да я крие, и намира за нормално да каже „Не съм сигурен за този резултат, нека проверим“. В среда, в която грешките са скрити от страх от наказание, изфабрикуван източник или нарушение на поверителността се разпространява незабелязано. Освен това, тъй като технологиите и инструментите се променят бързо, политиката и обучението трябва да се актуализират редовно, а не еднократно. управление; Това е жива система, в която правилата, инструментите, образованието и културата работят заедно. В центъра на тази система стои компетентното лице, което поема отговорността и взема крайното решение, а не превозното средство.

Съвет: Преди да приемете нов AI инструмент, направете малък пилотен проект: опитайте го с ограничен екип, върху реални, но нискорискови задачи, като записвате грешки и рискове. Това едновременно изгражда компетентност и разкрива уязвимостите на политиката, преди да разпространи инструмента в цялата организация.

Четири копируеми шаблона

1) Предварителна оценка на авторското право:

Помогнете ми да оценя следното съдържание за авторски права, преди да го заредя в инструмент с изкуствен интелект: може ли съдържанието да бъде защитено с авторски права, кой начин на използване е рискован, коя алтернатива (откъс, разрешение, обществено достояние) е по-безопасна? Тип съдържание: [тук]

2) Сканиране на лични данни:

Следният текст съдържа ли лични данни (име, контакт, самоличност, история на четене/търсене, информация, предполагаща здравословно състояние/вяра)? Маркирайте всеки един, класифицирайте го и предложете как да го анонимизирате. Текст: [тук]

3) Проект на политика за използване на AI:

Проект на указания за използване на AI от една страница за нашата организация: (1) одобрени правила за инструменти, (2) типове данни, които никога не са въвеждани, (3) правило за проверка на изхода, (4) отчетност и прозрачност, (5) политики за авторско право и поверителност. Бъдете кратки и действащи. Контекст: [тук]

4) Запитване за етичен контрол:

Тествайте следното планирано използване на AI спрямо ценностите на библиотечното дело: равнопоставеност на достъпа, поверителност, точност/интегритет, риск от пристрастия и маркирайте опасения, ако има такива. Използване: [тук]

Слаба подкана / Силна подкана

Слаба подкана:

Трябва ли да го сложа на AI, за да обобщя тази книга?

Въпросът не взема предвид авторските права, условията за данни на инструмента и алтернативите; Отговорът с „да“ може да доведе до нарушаване на правата.

Мощна подкана:

Вашата роля: асистент, съветник по авторско право и поверителност. Обмислям да дам следното съдържание на AI инструмент. Избройте възможните проблеми по отношение на статуса на авторското право, използването на данни за превозното средство и риск от лични данни; предлагайте по-безопасни алтернативи (кратък цитат, разрешение, обществено достояние, затворена система). Изискайте правна сигурност, покажете рискове. Съдържание и контекст: [тук]

Мощна подсказка; Той разглежда решението от гледна точка на авторското право, състоянието на данните и аспектите на поверителността и поставя на масата сигурни алтернативи.

Таблица с измерения на управлението

Размер

основен въпрос

предпазна мярка

авторско право

Има ли нарушение на вход/изход?

Разрешение, обществено достояние, кратък откъс

поверителност

Защитени ли са личните данни?

Анонимизиране, минимизиране

прозрачност

Потребителят знае ли?

Ясна информация, съгласие

Отговорност

Кой е отговорен?

Писмена политика, човешко одобрение

Ценности

Защитени ли са достъпът и целостта?

Етична проверка, проверка на пристрастия

Често срещани грешки

Качване на защитено с авторски права съдържание без мислене. Съществува риск от нарушаване на авторски права и състояние на данните.
Въвеждане на лични данни в публичния инструмент. Нарушаване на поверителността и правен риск.
Скриване на използването на AI. Без прозрачност доверието е накърнено.
Объркване на „законно“ с „етично“. Законната употреба може да е неетична.
Без установяване на управленска рамка. Неконтролираната употреба създава непредвидими рискове.

В обобщение

Авторското право, поверителността и етиката са в основата на отговорността на библиотечното дело в ерата на ИИ. Оценете статуса на авторските права на записа и условията на данните на инструмента; поставя под въпрос правата на изхода; защита на личните данни с анонимизиране и минимизиране; да бъде прозрачен за потребителя и да получи съгласие; Създайте ясна рамка за управление в организацията. Дълбоко вкоренените ценности на библиотечното дело (равен достъп, поверителност, почтеност, безпристрастност) са компасът, който тества всяка употреба на AI. Технологични промени; Отговорността и ценностите не се променят и крайната отговорност винаги е на човешкото същество.

Задача за приложение

Подгответе документ с правила за използване от една страница за вашата организация (или фиктивна организация) с шаблона „проект на политика за използване на AI“: одобрени инструменти, данни никога да не се въвеждат, правило за валидиране, отговорност. След това тествайте реална употреба на AI, която планирате за достъп, поверителност, точност и пристрастия с шаблона „Заявка за етичен контрол“ и напишете как ще се справите с всички възникнали притеснения.

контролен списък

[ ] Оцених статуса на авторските права на записа и условията за данните на инструмента.
[ ] Анонимизирах личните данни и използвах само необходимото.
[ ] Бях прозрачен за потребителя относно използването на AI и уважих съгласието.
[ ] Създадох писмена политика за използване на AI за организацията.
[ ] Тествах употребата с библиотечните ценности и запазих отговорността върху човека.

Изпит по модул

1. Кое от следните е най-точното позициониране на изкуствения интелект в библиотечното дело и управлението на информация?

A) AI е резюме, метаданни, помощник за търсене и препоръки; Отговорността за точността, надеждността на източника и етичните решения се носи от хората ✔
Б) Изкуственият интелект може надеждно да провери автентичността и точността на източника
В) Изкуственият интелект работи само в каталогизирането на книги, няма нищо общо с друга библиотечна работа
Г) Тъй като изкуственият интелект е по-безпристрастен от хората, решенията за темата и класификацията трябва да бъдат оставени на него.

Описание: Изкуствен интелект; Това е асистент, който изготвя метаданни, обобщава ги, превежда ги, маркира шаблона и го насочва към източника. Компетентният експерт е отговорен за задачи с голямо значение като проверка на точността, решения за тема и класификация, достоверност на източника и решения за авторско право и поверителност; Непроверен резултат може да доведе до разпространение на изфабрикуван източник или нарушаване на поверителността.

2. Защо "халюцинацията" е особено опасна за библиотекаря?

A) Резултатът от изкуствения интелект се произвежда много бавно и губи време
Б) Изкуственият интелект може убедително да произвежда несъществуващи източници и цитати, а същността на професията е автентичността на източника ✔
В) Халюцинациите възникват само при обработката на изображения, нямат нищо общо с текста
Г) Халюцинации се наблюдават само в много стари инструменти за изкуствен интелект, но не и в настоящите инструменти.

Обяснение: Халюцинация е, когато изкуственият интелект произведе несъществуващ източник, цитат или информация по изключително убедителен начин. Тъй като същността на професията е автентичността и надеждността на източника, ако изфабрикуван отпечатък или цитат бъде прехвърлен на библиография или потребител без проверка, ще възникне сериозна дезинформация.

3. Кое от изброеното е областта с най-висок риск от фалшифициране при създаване на метаданни с изкуствен интелект и как трябва да се работи?

A) Езиковата област е най-рисковата област и не е необходимо да се проверява
B) Полето за заглавие носи най-голям риск и трябва да бъде попълнено с прогноза
C) ISBN и годината на публикуване крият най-висок риск от фалшификация и трябва да бъдат проверени дословно с оригиналния източник ✔
Г) Нито едно поле не е рисковано, защото изкуственият интелект винаги създава метаданни правилно

Обяснение: Точните цифрови полета като ISBN и година на публикуване се подправят много лесно от AI; AI може да генерира разумно изглеждащ номер вместо ISBN, който не знае. Тези полета трябва да бъдат проверени дословно с оригиналния източник (баркод, отпечатък/колофон).

4. Каква е основната цел на използването на „контролиран речник“, когато се задава термин на тема?

A) Гарантиране на последователност на терминологията и достъпност в записите; Предотвратяване на изкуствения интелект да измисля безплатни условия ✔
B) Автоматично добавяне на всеки нов термин, поискан от изкуствения интелект към каталога
В) Елиминирайте напълно предметните термини и търсете само по заглавие
Г) Забавяне на каталогизирането и писане на всеки запис с различни термини

Описание: Контролираният речник е списък с одобрени и стандартни термини. Ако една и съща тема е написана с различни термини в различни записи, потребителят ще намери единия и ще пропусне другия. Като предоставите на AI този списък и му кажете „просто да изберете от списъка“, се поддържа последователност и възможност за намиране; Нов термин, който не е посочен от изкуствения интелект, не трябва да се добавя към каталога.

5. Какъв е правилният подход при получаване на класификационния номер на документ от изкуствен интелект?

A) Точното число, дадено от изкуствения интелект, трябва да се приема директно, без да се гледа официалната таблица
B) Класификационните номера не трябва да се използват изобщо, източниците трябва да се оставят на случаен принцип
C) Предложението за майсторски клас трябва да се счита за предварително, точните стъпки трябва да бъдат проверени с официалната класификационна таблица ✔
Г) Тъй като изкуственият интелект не може да класифицира, тази задача трябва да се пропусне напълно

Обяснение: AI често може да намери правилния основен клас, но може да пропусне поднива (напр. медицинска история вместо медицина) или да произведе неправилни числа, които изглеждат разумни. Следователно предложението за майсторски клас трябва да се счита за начало и точните стъпки трябва да бъдат проверени с официалната класификационна таблица.

6. Кое твърдение е вярно при сравняване на семантично търсене и търсене по ключови думи?

A) Семантичното търсене трябва да замени търсенето по ключови думи във всички случаи
B) Семантичното търсене намира семантично свързани ресурси; Търсенето по ключови думи за точно заглавие или ISBN е по-надеждно ✔
В) Търсенето по ключови думи намира източници с различни термини, които са семантично свързани по-добре от семантичното търсене
Г) Семантичното търсене работи само върху числови данни, не и върху текст

Описание: Семантичното търсене намира различни думи, но свързани ресурси, като например „проблем със съня“ и „разстройство на съня“, защото съвпада със значението на думите (чрез вградени вектори). За разлика от това, когато търсите точен ISBN номер, пълно заглавие или номер на закон, търсенето по ключова дума/домейн е по-надеждно. Най-добрата практика е да използвате и двете заедно.

7. Какво е задължението на библиотекаря срещу риска от „филтър балон“ в препоръките за персонализирани ресурси?

A) Укрепете балона, като препоръчвате само най-сходните ресурси на потребителя
Б) Напълно да се откажат от внушения
C) Публично споделяне на историята на четене на потребителя
Г) Съзнателно добавяне на източници с различни гледни точки и хоризонти и заявяване на това прозрачно ✔

Обяснение: Балонът на филтъра е, когато системата за препоръки постоянно заключва потребителя в подобно съдържание и го държи далеч от нови и различни перспективи. Стойността на библиотеката е равен и разнообразен достъп; Следователно библиотекарят съзнателно разчупва балона, като добавя различно изглеждащи, отварящи очите ресурси и заявявайки това прозрачно.

8. Коя практика е правилна по отношение на „автентичност и цялост“ при обработка на архивен документ с изкуствен интелект?

A) „разкрасете“ документа с изкуствен интелект, завършете го, като компенсирате липсващите части и заменете оригинала
B) Изтриване на необработения оригинал и запазване само на версията, подобрена с изкуствен интелект
C) OCR трябва да коригира само грешки при разпознаване, съдържанието не трябва да се променя, необработеният оригинал трябва да се запази, а производните трябва да бъдат ясно етикетирани ✔
D) Приемете OCR изхода като „чист текст“ без корекции и го отворете за търсене.

Описание: Същността на архивната работа е увереността, че документът идва от заявения източник и че съдържанието му не е променено. OCR корекцията трябва само да премахва грешки при разпознаване, а не да променя съдържанието; AI „възстановяването“ не е заместител на действителните доказателства, тъй като може да компенсира липсващи части. Необработеното (оригинално) сканиране трябва винаги да се запазва, производните трябва да бъдат ясно етикетирани.

9. Кое от следните е необходимо за отговорно изграждане на библиотечно-информационен бот?

A) Ботът дава отговори на всеки въпрос бързо от общите си познания и не цитира източници
B) Ботът разчита само на проверена корпоративна информация, цитира факти и насочва чувствителни въпроси към експерт/човек ✔
В) Ботът директно дава точни съвети по медицински и правни въпроси
Г) Скриване от потребителя, независимо дали говори с бот или човек

Обяснение: Ботът за съвети трябва да разчита само на проверената текуща информация и списък с източници на институцията, а не на общата си памет, трябва да дава фактите, като цитира източника, не трябва да дава съвети по медицински/правни/чувствителни въпроси, трябва да ги насочва към експерта и трябва да ги прехвърля на човека, когато е необходимо. Така ботът не замества човека, а по-скоро се превръща в слой, който облекчава тежестта.

10. В библиометрията кой е правилният метод за намиране на броя на цитиранията на автора или h-индекса?

A) Директно питане на AI, защото числата, които дава, винаги са правилни
B) Получаване на числата от действителната база данни с цитати; Използване на изкуствен интелект само за организиране и интерпретиране на тези данни ✔
C) Оценете числата и ги използвайте при решения за излъчване
Г) Разглеждане на броя на цитиранията като пряка мярка за качеството на работата на даден автор.

Обяснение: Изкуственият интелект може да състави стойности като брой цитати и h-индекс без достъп до реални данни (например може да даде стойност 42, когато всъщност е 19). Следователно числата и цитатите трябва да бъдат взети от истинска база данни с цитати; AI трябва да се използва само за групиране, сортиране и интерпретиране на тези реални данни.

11. Кое е вярно за ограничението на библиометричните мерки (брой цитати, h-индекс, импакт фактор)?

A) Метриките директно измерват качеството и са сравними между домейни
Б) Критериите могат да се използват безопасно самостоятелно при решения за наемане и повишение.
C) Метриките показват употреба, а не качество; не може да се сравнява между домейни и трябва да се балансира с качествена оценка ✔
Г) Резултатите от хуманитарните науки са напълно и напълно представени в базите данни с цитати

Разкриване: Тези показатели показват използване и видимост, те не са директни мерки за качество. Тъй като културата на цитиране на областите е различна (като медицина и философия), те не могат да бъдат директно сравнявани; Натоварените с книги резултати в областта на хуманитарните науки са недостатъчно представени в базите данни. Следователно критериите не трябва да се използват самостоятелно за оценка на индивидите, а трябва да бъдат балансирани с качествена оценка.

12. Какво е основното предимство на подхода RAG (производство с увеличен достъп) пред общия AI?

A) Значително намаляване на халюцинациите чрез свързване на отговора с истинските документи на институцията и цитиране на източника ✔
Б) Винаги отговаряйте перфектно, независимо от качеството на документалната база
В) Направете халюцинациите напълно и трайно невъзможни
Г) Отваряне на всички документи за всички без необходимост от контрол на достъпа

Обяснение: Когато отговаря на въпрос, RAG първо намира съответните части от собствените документи на институцията и извежда отговора въз основа само на тези части, като цитира източника. По този начин отговорът е свързан с реална и проследима документация и халюцинациите са значително намалени. Въпреки това, RAG не елиминира напълно халюцинацията, тъй като отговорът все още може да е грешен, ако се изведе грешното парче.

13. В хуманитарните и социалните науки кой е най-надеждният метод за проверка на цитат от AI към потребител?

А) Уверете се, че цитатът изглежда правдоподобен и гладък
B) Просто искане от AI да възпроизведе същия цитат
C) Проверете цитата, като го намерите в действителната работа на автора ✔
Г) Приемане, че е достатъчно цитатът да се приписва на известно име

Описание: Изкуственият интелект може да генерира напълно измислени цитати, приписвани на истински автор; Фактът, че цитатът изглежда дума по дума точен и убедителен, не е доказателство за неговата точност. Най-надеждният метод е да проверите цитата, като го намерите в действителното произведение на автора; Логиката „този автор може да е казал нещо подобно“ не е достатъчна.

14. Кой принцип е правилен при използването на изкуствения интелект по отношение на авторското право, поверителността и етиката?

A) Защитени с авторски права и лични данни могат да бъдат въведени в публични инструменти без да се замислят, защото е бързо
Б) Ако дадена употреба е законна, тя определено е етична и не е необходима допълнителна оценка.
В) Когато изкуственият интелект произвежда резултат, отговорността изцяло преминава към инструмента, а не към човека.
Г) Авторското право и поверителността трябва да се спазват от самото начало; анонимизирането, прозрачността и съгласието са от съществено значение и крайната отговорност е на човека ✔

Обяснение: Импулсивното въвеждане на защитено с авторски права съдържание и лични данни (потребителска идентификация, хронология на четене/търсене) в общи инструменти за изкуствен интелект може да доведе до нарушаване на правата и поверителността; Анонимизирането, минимизирането на данните, прозрачността и съгласието са от съществено значение. Освен това, дори ако употребата е законна, тя може да бъде неетична; „всеки го използва“ или „това се случва бързо“ не оправдава дадена практика и крайната отговорност е на експерта, а не на инструмента.