Добици:
- Бити у стању да разликује где вештачка интелигенција штеди време у току рада библиотекарства (метаподаци, резиме, претрага, предлози) и где су тачност, поузданост извора и одлуке о приватности препуштени људима, у зависности од нивоа ризика.
- Способност примене дисциплине која верификује сваки излаз повезивањем са извором, потврђивањем у независном извору и пропуштањем кроз филтер за пристрасност.
- Разумевање зашто су халуцинације, измишљени извори и приватност корисника ризици који се морају узети у обзир у овој професији од самог почетка.
Када ујутру стручњак за каталогизацију седне за свој сто, можда има десетине новопристиглих књига, стотине докумената из збирке донација и архивску кутију која чека на дигитализацију. Референтни библиотекар (стручњак који помаже корисницима да пронађу информације) током дана одговара на питања попут „где је поуздан извор о овој теми?“ Менаџер информација је одговоран за одржавање хиљада докумената организације доступним и поузданим. У овој целини разјаснићемо где тачно вештачка интелигенција (укратко АИ; велики језички модели и слични алати) штеди време у овим задацима, а где расуђивање, избор и одговорност остају на човеку.
Почнимо са дефиницијом: вештачка интелигенција, под којом подразумевамо софтверске алате за генерисање језика и препознавање образаца обучених за велике количине текста. Ови алати сумирају, преводе, предлажу класификацију, генеришу нацрт текста и означавају обрасце у великим комадима података. Али не зна да ли извор заиста постоји, да ли је информација тачна или да ли је приватност корисника заштићена. Зато је у библиотекарству и управљању информацијама АИ помоћник, а не доносилац одлука.
Где вештачка интелигенција ради, а где не?
Хајде да поделимо ток рада библиотекарства у три слоја. Први слој су механички и понављајући задаци: издвајање нацрта метаподатака из реда књиге, сумирање дугачког извештаја, превођење текста са једног језика на други, чишћење табеле података. АИ је моћан овде и штеди много времена.
Други слој је квази-судски рад: који предметни наслов дати документу, да ли укључити ресурс у колекцију, који ресурс препоручити кориснику. АИ овде даје предлоге, али последњу реч има стручњак који познаје политику институције и стварне потребе корисника.
Трећи слој је чисто расуђивање и одговорност: потврда да су информације тачне, одлучивање о ауторским правима, да ли ће се открити осетљиви лични подаци, потврда поузданости извора. На овом слоју, излаз АИ је само почетна тачка; Одговорност је у потпуности на људима.
Савет: Пре него што дате задатак АИ, запитајте се: „Шта се дешава ако је овај излаз погрешан?“ Ако је одговор "изгубићу мало времена", слободно користите АИ. Ако је одговор „лажни извор се шири, корисник је заведен или су лични подаци процурели“, обавезно проверите излаз.
Халуцинације: највећа опасност за библиотекара
Халуцинација је када АИ производи непостојеће информације, извор или цитат као да су стварни, и то на изузетно убедљивом језику. Ово је посебно опасно за библиотекарство и управљање информацијама; јер је суштина наше професије аутентичност и поузданост извора.
Када кажете АИ да „предложи пет академских радова на ову тему“, он може да генерише наслове, ауторе и називе часописа који изгледају стварни, али уопште не постоје. Ови измишљени извори су толико убедљиви да их покровитељ или чак библиотекар могу додати у библиографију без провере. У хуманистичким и друштвеним наукама опасност је још већа: када се „тај документ из 1897. године” измисли за историчара или „та судска одлука” за правника, резултат је озбиљна дезинформација.
Пажња: ниједан изворни цитат, цитат или референца које је произвела АИ не би требало нигде пренети без провере у стварном каталогу, бази података или самом извору. Само зато што "изгледа убедљиво" не значи да је истина.
Дисциплина верификације: три корака
Основна дисциплина коју библиотекар мора да примени када ради са АИ је следећа:
1. Повежите се са извором. Свака чињеница, бројка, датум и отисак морају бити засновани на изворном извору. Питајте АИ „кажите ми из ког извора сте добили ове информације“ и проверите тај извор независно.
2. Независно потврдити. Проверите критичне информације у најмање једном поузданом извору изван АИ (аутентичан каталог, званична база података, примарни документ).
3. Провуците га кроз филтер за пристрасност. АИ носи пристрасност података на којима се обучава. Предложена тема, листа предлога или резиме могу истаћи одређене тачке гледишта и замаглити друге. Питајте ко је изостављен, која перспектива недостаје.
Приватност и приватност корисника
Један од најосновнијих етичких принципа библиотекарске професије је приватност корисника: поверљиво је оно што особа чита, шта тражи и која тема га занима. Уношење података у АИ алате, посебно јавне алате који раде преко Интернета, који укључују идентитете корисника, историју претраге или позајмљене ресурсе може нарушити овај принцип; јер ови подаци могу отићи у системе трећих страна.
Исто тако, у организацији, некласификовани, али осетљиви документи (информације о особљу, уговори, интерна преписка) не би требало да се учитавају у општи алат за вештачку интелигенцију. Алати који раде на сопственом безбедном, затвореном систему институције су пожељнији за ову врсту података.
Савет: Пре него што унесете било какве податке у АИ, питајте „Да ли су ове информације јавне?“ питати. Ако је одговор не, или нисте сигурни, ставите те податке у деперсонализовани, анонимни формат или користите само безбедне алате које је одобрила институција.
три мини кофера
Случај 1 — Нацрт метаподатака за 400 докумената. Универзитетска библиотека морала је да каталогизира архиву од 400 докумената које је поклонио професор. Експерт је издвојио нацрт наслова, датума и предлога теме са прве странице сваког документа са АИ: просечно време по документу је смањено са 12 минута на 4 минута. Али сваки нацрт отиска је упоређен са оригиналним документом и одобрен од стране стручњака; 17 нетачних датума које је саставила АИ ухваћено је у овом кораку.
Случај 2 — Лажни извор ухваћен. Саветодавни библиотекар је добио 6 предлога чланака од ИЗ док је тражио ресурсе о „климатској миграцији“ за студента основних студија. Библиотекарка их је све претражила у бази података установе: 2 од 6 чланака уопште нису постојала. Корак верификације спречио је студенту да добије измишљени извор.
Случај 3 — Спријечено је кршење повјерљивости. Библиотека која је разматрала коришћење општег АИ алата за анализу „који корисник је заинтересован за коју тему“ из записа о плаћању. Менаџер информација је схватио да би било кршење приватности да ови подаци изађу са корисничким ИД-ом; подаци су прво анонимизовани и обрађени искључиво као агрегирани, де-идентификовани статистички подаци.
Четири шаблона за копирање
1) Почните да дефинишете улоге и границе:
Ваша улога: искусан асистент специјалиста за каталогизацију и управљање информацијама. Ваш задатак: да направите нацрт од информација из извора који сам вам дао. Правила: (1) Користите само информације у тексту који сам вам дао, немојте додавати своје податке. (2) Означите „[мора бити верификовано]“ ако нисте сигурни. (3) Не измишљајте никакве датуме, имена или отиске. Ако разумете, почните. Извор: [овде]
2) Питање за проверу ваљаности:
Наведите сваку чињеничну тврдњу (датум, име, број, навод извора) у тексту испод. За сваку: где сте у тексту добили ове информације? Ако није јасно у тексту, напишите „не у тексту“. Текст: [овде]
3) Провера пристрасности и недостајуће перспективе:
Које перспективе истиче следећи сажетак/препорука, а које изоставља? Које групе, региони или погледи можда недостају? Само се ослони на текст, не нагађај. Текст: [овде]
4) Претходна провера приватности:
Да ли текст испод садржи личне податке (име, матични број, контакт, историју читања/претраживања) или осетљиве корпоративне информације? Ако јесте, наведите га и предложите како се може анонимизирати. Текст: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Пронађите ми неке ресурсе на ову тему.
Овај упит позива АИ да генерише лажне ресурсе. Не постоје улоге, границе, правила валидације и ресурси. АИ може произвести веродостојне, али непостојеће ознаке.
Снажан упит:
Ваша улога: помоћник референтног библиотекара. Изаберите оне које се односе на тему „климатске миграције“ из каталошких ставки које сам вам дао у наставку и објасните зашто су релевантни. Немојте додавати ниједан извор који није на листи, немојте измишљати изворе. Када нисте сигурни, реците „нема наведених одговарајућих извора“. Уноси у каталог: [овде]
Разлика је јасна: јака напомена приморава АИ да ради из датог стварног извора, а не из сопствене меморије, и спречава фабриковање.
Табела слојева и одговорности
пословни слој
огледни задатак
Улога АИ
човекова одлука
механички
Нацрт метаподатака, резиме, превод
Брзо производи нацрте
верификација, одобрење
квазисудски
Наслов теме, предлог извора
нуди предлоге
Избор према политици
чист суд
Аутентификација, одлука о ауторским правима
Само прелиминарне информације
Потпуна одговорност лежи на особи
Уобичајене грешке
- Замена АИ излаза за извор. АИ је помоћник, а не ресурс; Сваки излаз је валидиран.
- Прихватајући измишљени извор као убедљив. Само зато што изгледа добро не значи да је исправно.
- Уношење личних/осетљивих података у јавни алат. Приватност корисника и корпоративна поверљивост се поштују од самог почетка.
- Игнорисање предрасуда. АИ носи перспективе података на којима је обучена; Питајте шта недостаје.
- Препуштање пресуде АИ. Одлуке о тачности, ауторским правима и приватности припадају људима.
Укратко
вештачка интелигенција; То је моћан помоћник за сумирање, израду, превођење и обележавање образаца у библиотекарству и управљању информацијама. Штеди много времена у механичком раду; даје савете о квази-судским питањима; Али верификација тачности, поузданости извора, приватности корисника и етичких одлука припадају људима. Халуцинације су највећа опасност за ову професију: ниједан изворни кредит или цитат се не користе без провере. Покрените АИ са јасним правилима о улози, границама и валидацији; Потврдите сваки критични излаз са независним извором.
Задатак апликације
Изаберите праву тему из своје области. Затражите од АИ 5 препорука ресурса на ту тему, а затим претражите сваку од њих у стварном каталогу или бази података и забележите колико их заиста постоји. Затим, помоћу шаблона „Почетни програм који дефинише улоге и границе“, реците АИ да ради само на основу текста који доставите и упоредите резултате два приступа. Напишите који приступ спречава уклапање.
контролна листа
- [ ] Одредио сам на ком слоју (механичком, полусудском, чистом суду) је задатак.
- [ ] "Шта се дешава ако је овај излаз нетачан?" поставио сам питање.
- [ ] Проверио сам сваки кредит и цитат у независном извору.
- [ ] Проверио сам да нема личних/осетљивих информација у подацима за унос АИ.
- [ ] Коначну одлуку и одговорност задржао сам по сопственом нахођењу.