Добици:
- Способност да се смање правни ризици проценом статуса ауторских права улаза и услова података алата и довођењем у питање права на излаз
- Способност заштите личних података кроз анонимизацију и минимизирање и осигурање приватности тако што ће бити транспарентно за корисника
- Способност успостављања управљачког оквира за институцију који укључује одобрене алате, забрањене податке и правила верификације, и тестирање његове употребе са библиотекарским вредностима.
Библиотекар и информациони менаџер је неко ко не само да организује и презентује информације, већ их и штити: штитећи права ствараоца, приватност корисника и одговорност институције. Вештачка интелигенција изазива нова и сложена питања у сва три поља. Да ли је отпремање документа у АИ кршење ауторских права? Да ли давање корисничких података АИ алату крши приватност? Како организација треба да управља употребом АИ? У овој завршној јединици успоставићемо оквир који обједињује етичке и правне нити које смо дотакли током модула.
Хајде да дефинишемо појмове. Ауторско право је законско право дато ствараоцу дела над коришћењем његовог дела; Неовлашћено умножавање или коришћење може се сматрати кршењем. Лични податак је свака информација која директно или индиректно идентификује лице и подлеже законској заштити. Управљање је оквир правила, политика и одговорности који регулишу употребу вештачке интелигенције у организацији. Ова три концепта чине правну и етичку основу за одговорну употребу вештачке интелигенције.
Корак по корак: одговорно и легално коришћење АИ
1. Процените статус ауторских права на унос. Пре него што учитате текст, књигу или чланак у алатку за вештачку интелигенцију, размотрите статус ауторских права тог дела и услове коришћења алатке. Давање дела заштићеног ауторским правима алатки која користи податке које отпремите у сопствене сврхе може представљати кршење права.
2. Доведите у питање права на излаз. Статус ауторских права на текст који производи АИ може бити неизвестан, а вештачка интелигенција може несвесно да репродукује садржај заштићен ауторским правима у подацима о обуци. Пре објављивања АИ излаза, процените његову оригиналност и потенцијална кршења.
3. Заштитите личне податке. Идентитет корисника, историја читања/претраживања и лични подаци не би требало да уносе било који АИ алат без експлицитне сагласности и јаке заштите. Анонимизација и минимизација података (само онолико података колико је потребно) су од суштинског значаја.
4. Обезбедити транспарентност и сагласност. Корисници треба да знају како се обрађују њихови подаци и интеракције; Када је вештачка интелигенција укључена, то треба јасно навести. Употреба прикривене вештачке интелигенције подрива поверење.
5. Успоставите оквир управљања. Организација треба да утврди у писаној политици који алати су одобрени, који подаци се могу унети, ко је одговоран и како ће резултати бити верификовани.
Савет: Направите једноставну листу „правила коришћења АИ“ за своју организацију: који алати су одобрени, који подаци се никада не уносе (лични/власнички/поверљиви), како се сваки излаз верификује и ко је одговоран. Јасан водич на једној страници је применљивији од дугачке политике.
Етички принципи и вредности библиотекарства
Дубоко укорењене вредности библиотекарске професије служе као компас у доба вештачке интелигенције: једнак приступ информацијама, слобода мишљења, приватност корисника, интелектуално поштење и непристрасност. АИ може да подржи или угрози ове вредности. Може проширити приступ, али ојачати предрасуде; може убрзати услугу, али може угрозити приватност; То може олакшати откривање, али може ширити дезинформације.
Одговорни библиотекар тестира сваку употребу вештачке интелигенције у односу на ове вредности: „Да ли ова употреба изједначава приступ или искључује групу? Да ли штити приватност? Да ли пружа тачне и искрене информације?“ АИ је алат; Вредности са којима ћете га користити су суштина професије. Технологија се мења, али ове вредности су стални компас библиотекарства.
Опрез: „Сви га користе“ или „брзо је“ не оправдавају употребу АИ. Чак и ако је употреба легална, може бити неетичка; Немојте усвајати праксу која је штетна по питању ауторских права, приватности и правде, само зато што је то лако. Коначна одговорност није на алату, већ на професионалцима који га користе.
три мини кофера
Случај 1 — Преузимање заштићено ауторским правима је заустављено. Један тим је планирао да учита читаву референтну књигу заштићену ауторским правима у општи АИ алат за генерисање сажетака. Менаџер информација је сматрао да је ово ризично, како у погледу ауторских права, тако и у погледу услова коришћења података алата; уместо тога, проучаван је само у кратким, ауторизованим изводима иу затвореном систему институције.
Случај 2 — Лични подаци анонимни. Библиотека је желела да анализира повратне информације корисника помоћу вештачке интелигенције; али повратне информације су садржале корисничка имена и контакт информације. Тим је анонимизирао податке пре анализе; обрађене су само анонимне, колективне тенденције. Приватност очувана, увид поново стечен.
Случај 3 — јаз у управљању је затворен. У једној организацији, запослени су користили различите АИ алате без надзора, понекад уносећи поверљиве документе. Администратор информација је објавио политику на једној страници која дефинише одобрене алате, забрањене типове података и правила верификације; Неизвесност и ризик су се значајно смањили.
Компетентност особља и корпоративна култура
Политика управљања је јака онолико колико су јаки људи који је спроводе. Чак и најбоље написано правило остаје на папиру ако запослени не разумеју ризике вештачке интелигенције. Трајна основа за одговорну употребу вештачке интелигенције је стога компетентност особља: разумевање сваког запосленог о томе шта је халуцинација, које податке никада не треба уносити и зашто излаз треба да се провери. Библиотеке и информационе институције у овом погледу имају двоструку улогу; Мора и да обучи своје особље и да шири ову писменост међу корисницима. Добра корпоративна култура је она која пријављује грешку вештачке интелигенције уместо да је крије, и сматра нормалним рећи „Нисам сигуран за овај излаз, хајде да проверимо“. У окружењу у којем се грешке крију из страха од казне, измишљени извор или повреда приватности шири се непримећено. Поред тога, пошто се технологија и алати брзо мењају, политика и обука треба да се ажурирају редовно, а не једнократно. управљање; То је живи систем у којем правила, алати, образовање и култура раде заједно. У средишту овог система стоји компетентна особа, која преузима одговорност и доноси коначну одлуку, а не возило.
Савет: Пре него што усвојите нови АИ алат, урадите мали пилот: испробајте га са ограниченим тимом, на стварним, али нискоризичним задацима, бележећи грешке и ризике. Ово истовремено изграђује компетенције и открива рањивости политике пре него што се алатка примени у целој организацији.
Четири шаблона за копирање
1) Прелиминарна процена ауторских права:
Помозите ми да проценим следећи садржај за ауторска права пре него што га учитам у алатку за вештачку интелигенцију: да ли садржај може бити заштићен ауторским правима, који начин коришћења је ризичан, која алтернатива (извод, дозвола, јавно власништво) је безбеднија? Тип садржаја: [овде]
2) Скенирање личних података:
Да ли следећи текст садржи личне податке (име, контакт, идентитет, историју читања/тражења, информације које указују на здравље/веровање)? Означите сваки, класификујте га и предложите како да га анонимизујете. Текст: [овде]
3) Нацрт политике коришћења АИ:
Направите нацрт смерница за коришћење вештачке интелигенције на једној страници за нашу организацију: (1) одобрене смернице алата, (2) типови података који никада нису унети, (3) правило за валидацију излаза, (4) одговорност и транспарентност, (5) смернице за ауторска права и приватност. Нека буде кратко и делотворно. Контекст: [овде]
4) Упит о етичкој контроли:
Тестирајте следећу планирану употребу вештачке интелигенције у односу на вредности библиотекарства: правичност приступа, приватност, тачност/интегритет, ризик од пристрасности и заставице ако их има. Употреба: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Да ли да га ставим на АИ да резимирам ову књигу?
Питање не узима у обзир ауторска права, услове података алата и алтернативе; Одговор са "да" може довести до кршења права.
Снажан упит:
Ваша улога: помоћник саветника за ауторска права и приватност. Размишљам да дам следећи садржај АИ алату. Наведите могуће проблеме у погледу статуса ауторских права, коришћења података о возилу и ризика личних података; предлажу сигурније алтернативе (кратак цитат, дозвола, јавни домен, затворени систем). Захтевајте правну сигурност, покажите ризике. Садржај и контекст: [овде]
Снажан промпт; Он разматра одлуку у смислу ауторских права, услова података и аспеката приватности и ставља сигурне алтернативе на сто.
Табела димензија управљања
Величина
основно питање
предострожности
ауторско право
Да ли постоји кршење улазно/излазних права?
Дозвола, јавно власништво, кратак извод
приватност
Да ли су лични подаци заштићени?
Анонимизација, минимизација
транспарентност
Да ли корисник зна?
Јасна информација, сагласност
Одговорност
Ко је одговоран?
Писана политика, људско одобрење
Вредности
Да ли су приступ и интегритет заштићени?
Етичка провера, провера пристрасности
Уобичајене грешке
- Отпремање садржаја заштићеног ауторским правима без размишљања. Постоји ризик од кршења ауторских права и стања података.
- Уношење личних података у јавни алат. Задирање у приватност и правни ризик.
- Скривање употребе АИ. Без транспарентности, поверење је нарушено.
- Бркање „правног“ са „етичким“. Легална употреба може бити неетичка.
- Не успостављање оквира управљања. Неконтролисана употреба ствара непредвидиве ризике.
Укратко
Ауторско право, поверљивост и етика су основа одговорности библиотекарства у доба вештачке интелигенције. Процените статус ауторских права на унос и услове података алатке; доводи у питање права на излаз; заштитите личне податке анонимизацијом и минимизирањем; бити транспарентан према кориснику и добити сагласност; Успоставити јасан оквир управљања у организацији. Дубоко укорењене вредности библиотекарства (једнак приступ, приватност, интегритет, непристрасност) су компас који тестира сваку употребу вештачке интелигенције. Технолошке промене; Одговорност и вредности се не мењају, а крајња одговорност увек лежи на људском бићу.
Задатак апликације
Припремите документ о правилима коришћења на једној страници за своју организацију (или фиктивну организацију) са шаблоном „Нацрт политике коришћења АИ”: одобрени алати, подаци који се никада не уносе, правило валидације, одговорност. Затим тестирајте праву употребу вештачке интелигенције коју планирате за приступ, приватност, тачност и пристрасност помоћу шаблона „Упит о етичкој контроли“ и напишите како ћете решити све проблеме који се појаве.
контролна листа
- [ ] Проценио сам статус ауторских права за унос и услове података алатке.
- [ ] Анонимизовао сам личне податке и користио само оно што је било неопходно.
- [ ] Био сам транспарентан према кориснику у вези са употребом вештачке интелигенције и поштовао сам сагласност.
- [ ] Направио сам писану политику коришћења вештачке интелигенције за организацију.
- [ ] Тестирао сам употребу са библиотекарским вредностима и задржао одговорност на човеку.
Модул Екам
1. Шта је од следећег најтачније позиционирање вештачке интелигенције у библиотекарству и управљању информацијама?
- А) АИ је помоћник за резиме, метаподатке, претрагу и препоруке; Одговорност за тачност, поузданост извора и етичке одлуке лежи на људима ✔
- Б) Вештачка интелигенција може поуздано да потврди аутентичност и тачност извора
- Ц) Вештачка интелигенција ради само у каталогизацији књига, нема никакве везе са другим библиотекарским пословима
- Д) Пошто је вештачка интелигенција непристраснија од људи, одлуке о предмету и класификацији треба да буду препуштене њој.
Опис: Вештачка интелигенција; То је помоћник који саставља метаподатке, сумира их, преводи их, обележава образац и указује на извор. Надлежни стручњак је одговоран за задатке са високим последицама као што су провера тачности, одлуке о теми и класификацији, кредибилитет извора и одлуке о ауторским правима и приватности; Непроверени излаз може довести до ширења измишљеног извора или кршења приватности.
2. Зашто је 'халуцинација' посебно опасна за библиотекара?
- А) Излаз вештачке интелигенције се производи веома споро и губи време
- Б) Вештачка интелигенција може убедљиво да произведе непостојеће изворе и цитате, а суштина професије је аутентичност извора ✔
- В) Халуцинација се јавља само у обради слике, нема везе са текстом
- Д) Халуцинације се могу видети само у веома старим алатима вештачке интелигенције, а не у садашњим алатима.
Објашњење: Халуцинација је када вештачка интелигенција произведе непостојећи извор, цитат или информацију на изузетно убедљив начин. Пошто је суштина струке аутентичност и поузданост извора, ако се фабрички отисак или цитат без провере пренесе у библиографију или корисника, доћи ће до озбиљних дезинформација.
3. Која од следећег је област са највећим ризиком од фабриковања при изради метаподатака помоћу вештачке интелигенције и како то треба решити?
- А) Област језика је најугроженија област и не треба да буде верификована
- Б) Поље наслова носи највећи ризик и треба га попунити предвиђањем
- Ц) ИСБН и година издавања носе највећи ризик од измишљотине и треба да буду вербатимно верификовани са оригиналним извором ✔
- Д) Ниједно поље није ризично јер вештачка интелигенција увек исправно производи метаподатке
Објашњење: Тачна, нумеричка поља као што су ИСБН и година издања су веома лако фалсификована од стране вештачке интелигенције; АИ може да генерише разуман број уместо ИСБН-а који не познаје. Ова поља морају бити дословно верификована са оригиналним извором (бар код, отисак/колофон).
4. Која је главна сврха употребе 'контролисаног речника' приликом додељивања термина теме?
- А) Обезбеђивање доследности терминологије и доступности свих записа; Спречавање вештачке интелигенције да измишља слободне услове ✔
- Б) Аутоматски додајте сваки нови термин који захтева вештачка интелигенција у каталог
- Ц) Потпуно елиминишите појмове предмета и претражујте само по наслову
- Д) Успоравање каталогизације и писање сваког записа са различитим терминима
Опис: Контролисани речник је листа одобрених и стандардних термина. Ако је исти предмет написан са различитим терминима у различитим записима, корисник ће пронаћи један, а пропустити други. Дајући АИ ову листу и говорећи му да „само изабере са листе“, одржава се доследност и могућност проналажења; Нови термин који није на листи вештачке интелигенције не треба додавати у каталог.
5. Који је исправан приступ када се добије класификациони број документа од вештачке интелигенције?
- А) Тачан број који је дала вештачка интелигенција треба прихватити директно без гледања у званичну табелу
- Б) Уопште не треба користити класификацијске бројеве, изворе треба насумично одлагати
- Ц) Предлог мајсторске класе треба сматрати прелиминарним, тачне кораке треба проверити у званичној класификационој табели ✔
- Д) Пошто вештачка интелигенција не може да класификује, овај задатак треба у потпуности прескочити
Објашњење: АИ често може да пронађе праву главну класу, али може пропустити поднивое (нпр. историја болести уместо медицине) или произвести нетачне бројеве који изгледају разумно. Према томе, предлог мајсторске класе треба сматрати почетком и тачне кораке треба проверити у званичној класификационој табели.
6. Која је тврдња тачна када се пореди семантичка претрага и претрага по кључним речима?
- А) Семантичка претрага треба да замени претрагу по кључним речима у свим случајевима
- Б) Семантичка претрага проналази семантички повезане ресурсе; Претрага по кључној речи за тачан наслов или ИСБН је поузданија ✔
- Ц) Претрага по кључним речима проналази изворе са различитим терминима који су семантички повезани боље од семантичке претраге
- Д) Семантичка претрага ради само на нумеричким подацима, не и на тексту
Опис: Семантичка претрага проналази различите речи, али сродне ресурсе, као што су 'проблем спавања' и 'поремећај спавања', јер се поклапа са значењем речи (преко уграђивања вектора). Насупрот томе, када тражите тачан ИСБН, пун наслов или број статута, претрага кључне речи/домена је поузданија. Најбоља пракса је да користите оба заједно.
7. Која је дужност библиотекара против ризика од 'филтерског мехура' у персонализованим препорукама ресурса?
- А) Ојачајте мехур тако што ћете кориснику препоручити само најсличније ресурсе
- Б) Потпуно одустати од давања предлога
- Ц) Јавно дељење историје читања корисника
- Д) Свесно додавање извора са различитим перспективама и хоризонтима и то транспарентно ✔
Објашњење: Филтер балон је када систем препорука константно закључава корисника у сличан садржај и држи га подаље од нових и другачијих перспектива. Вредност библиотеке је једнак и разнолик приступ; Стога, библиотекар свесно разбија мехур додавањем извора другачијег изгледа, који отварају очи и то транспарентно изјављујући.
8. Која пракса је исправна у смислу 'аутентичности и интегритета' када се обрађује архивски документ са вештачком интелигенцијом?
- А) 'улепшајте' документ вештачком интелигенцијом, допуните га тако што ћете надокнадити делове који недостају и замените оригинал
- Б) Брисање сировог оригинала и задржавање само верзије побољшане вештачком интелигенцијом
- Ц) ОЦР би требало да исправља само грешке у препознавању, садржај не би требало да се мења, сирови оригинал треба да буде сачуван и деривати треба да буду јасно означени ✔
- Д) Прихватите ОЦР излаз као 'чист текст' без икаквих исправки и отворите га за претрагу.
Опис: Суштина архивског рада је уверење да документ потиче из траженог извора и да његов садржај није мењан. ОЦР корекција треба само да уклони грешке у препознавању, а не да промени садржај; 'Рестаурација' вештачке интелигенције није замена за стварне доказе јер може да надокнади делове који недостају. Необрађено (оригинално) скенирање увек треба сачувати, деривате треба јасно означити.
9. Шта је од следећег неопходно за одговорну изградњу библиотечког информационог бота?
- А) Бот даје одговоре на свако питање брзо на основу свог општег знања и не цитира изворе
- Б) Бот се ослања само на проверене корпоративне информације, цитира чињенице и упућује осетљива питања стручњаку/човеку ✔
- Ц) Бот директно даје прецизне савете о медицинским и правним питањима
- Д) Скривање од корисника да ли разговара са ботом или са човеком
Објашњење: Саветодавни бот треба да се ослања само на проверене актуелне информације и изворну листу институције, а не на своју општу меморију, треба да даје чињенице цитирајући извор, не треба да даје савете о медицинским/правним/осетљивим питањима, треба да их упућује стручњаку, и треба да их пренесе на човека када је то потребно. Дакле, бот не замењује човека, већ постаје слој који олакшава терет.
10. У библиометрији, који је исправан метод да се сазна број цитата аутора или х-индекс?
- А) Питајте АИ директно, јер су бројеви које даје увек тачни
- Б) Добијање бројева из стварне базе података цитата; Коришћење вештачке интелигенције само за организовање и тумачење ових података ✔
- Ц) Процијените бројеве и користите их у одлукама о емитовању
- Г) Сагледавање броја цитата као директне мере квалитета ауторског дела.
Објашњење: Вештачка интелигенција може да прави вредности као што су број цитата и х-индекс без приступа стварним подацима (на пример, може дати вредност од 42 када је заправо 19). Дакле, бројеви и цитати морају бити узети из праве базе података цитата; АИ треба да се користи само за груписање, сортирање и тумачење ових стварних података.
11. Шта је тачно у погледу границе библиометријских мера (број цитата, х-индекс, импакт фактор)?
- А) метрике директно мере квалитет и упоредиве су у различитим доменима
- Б) Критеријуми се могу безбедно користити сами у одлукама о запошљавању и унапређењу.
- Ц) метрике указују на употребу, а не на квалитет; не може се поредити у различитим доменима и мора бити у равнотежи са квалитативном проценом ✔
- Д) Резултати хуманистичких наука су у потпуности и потпуно представљени у цитатним базама података
Откривање: Ови показатељи указују на употребу и видљивост, они нису директне мере квалитета. Пошто је култура цитирања у областима различита (као што су медицина и филозофија), оне се не могу директно поредити; Резултати хуманистичких наука који обилују књиге су недовољно заступљени у базама података. Према томе, критеријуми не би требало да се користе сами за оцењивање појединаца, већ би требало да буду у равнотежи са квалитативном евалуацијом.
12. Која је кључна предност РАГ (аццесс-аугментед продуцтион) приступа у односу на општу АИ?
- А) Значајно смањење халуцинације повезивањем одговора са стварним документима институције и навођењем извора ✔
- Б) Увек реагујте савршено, без обзира на квалитет базе докумената
- Ц) Потпуно и трајно онемогућавање халуцинације
- Д) Отварање свих докумената свима без потребе контроле приступа
Објашњење: Када одговара на питање, РАГ прво проналази релевантне делове из сопствених докумената институције и даје одговор само на основу ових делова, наводећи извор. На овај начин се одговор повезује са стварном и следљивом документацијом и халуцинације су у великој мери смањене. Међутим, РАГ не елиминише у потпуности халуцинацију, јер одговор и даље може бити погрешан ако се изнесе погрешан комад.
13. У хуманистичким и друштвеним наукама, који је најпоузданији метод за проверу цитата од АИ кориснику?
- А) Уверите се да цитат изгледа уверљиво и течно
- Б) Само тражим од АИ да репродукује исти цитат
- Ц) Проверите цитат тако што ћете га пронаћи у ауторовом стварном делу ✔
- Д) Прихватање да је довољно да је цитат приписан славном имену
Опис: Вештачка интелигенција може да генерише потпуно измишљене цитате који се приписују правом аутору; Чињеница да се цитат од речи до речи чини тачним и убедљивим није доказ његове тачности. Најпоузданији метод је проверити цитат тако што ћете га пронаћи у ауторовом стварном делу; Логика 'овај аутор је можда рекао овако нешто' није довољна.
14. Који принцип је исправан у коришћењу вештачке интелигенције у смислу ауторских права, приватности и етике?
- А) Лични подаци заштићени ауторским правима могу се унети у јавне алате без размишљања јер је то брзо
- Б) Ако је употреба легална, дефинитивно је етичка и није потребна даља процена.
- Ц) Када вештачка интелигенција произведе резултат, одговорност у потпуности прелази на оруђе, а не на човека.
- Д) Ауторско право и приватност морају се поштовати од самог почетка; анонимизација, транспарентност и сагласност су од суштинског значаја и крајња одговорност лежи на људима ✔
Објашњење: Импулсиван унос садржаја заштићеног ауторским правима и личних података (кориснички ИД, историја читања/претраживања) у опште алате вештачке интелигенције може довести до кршења права и приватности; Анонимизација, минимизација података, транспарентност и сагласност су од суштинског значаја. Поред тога, чак и ако је употреба легална, може бити неетичка; „сви то користе“ или „дешава се брзо“ не оправдавају праксу и крајња одговорност лежи на стручњаку, а не на алату.