Добици:
- Способност да се ухвати халуцинација провером постојања сваког извора, одласком до примарног извора и независним корацима унакрсне потврде
- Способност да се одржи оригиналност и академски интегритет против измишљених цитата и докумената у хуманистичким и друштвеним наукама
- Способност подучавања корисника верификацији извора и вештинама информационе писмености у доба вештачке интелигенције
У средишту друштвене мисије библиотекарства је једно обећање: поуздане информације. Библиотекар доводи корисника не само до информација, већ и до проверених информација, и учи га како да сам процени те информације. У доба вештачке интелигенције, ова мисија је постала и тежа и важнија; јер АИ може произвести дезинформације на веома убедљив начин. У овој јединици ћемо покрити препознавање халуцинација, дисциплину верификације извора и подучавање информатичке писмености у доба вештачке интелигенције.
Хајде да дефинишемо појмове. Халуцинација је када АИ производи информације, изворе, цитате или догађаје који заправо не постоје као да су стварни. Провера извора је потврда да су информације засноване на стварном, поузданом и примарном извору. Информациона писменост је способност особе да пронађе информације, процени их, доведе у питање њихову поузданост и етички их користи. Ова јединица има за циљ да библиотекар ојача ове вештине како у сопственој пракси тако и у подучавању корисника.
Корак по корак: дисциплина верификације извора
1. Затражите извор и проверите његово постојање. Када АИ да тврдњу или цитат, „из ког извора је ово?“ и проверите да ли извор заиста постоји у независном каталогу, бази података или примарном документу.
2. Идите на примарни извор. Најпоузданији облик информација је извор из прве руке. Немојте се задовољити резимеом АИ или секундарним текстом; Ако је могуће, приступите оригиналном документу, подацима или публикацији.
3. Унакрсна потврда. Проверите критичну тврдњу са најмање два поуздана извора, независно један од другог. Један ресурс, посебно АИ ресурс, није довољан.
4. Оцените веродостојност извора. Ко је то написао, када, у коју сврху, на основу којих доказа? Да ли је ажурно? Постојање информација не чини их истинитим; Такође доводите у питање природу извора.
5. Искрено изразите несигурност. Ако се информација не може проверити, реците то јасно. Увек је боље рећи „непотврђено“ него понудити измишљену сигурност.
Савет: Када добијете цитат или извор од АИ, прво претражите наслов и аутора у стварном каталогу. Непостојећи ресурси се одмах појављују овде. Ова провера од 30 секунди спречава измишљени извор да унесе библиографију, задатак или публикацију.
Аутентичност и верификација у хуманистичким и друштвеним наукама
Хуманистичке и друштвене науке су посебно подложне ризику од халуцинација. У овим областима, докази се често заснивају на одређеном документу, датуму, цитату или извору коментара. АИ може произвести врло специфичне, али потпуно измишљене тврдње, као што су „тај историчар је рекао“ или „тај документ из 1923. каже“. У књижевном, историјском или законском делу то значи лажни ланац доказа.
Штавише, оригиналност је основна вредност ових поља: битно је коме текст, тумачење или превод заиста припада. Представљање текста произведеног од стране вештачке интелигенције као оригиналног дела или ослањање на „извор“ који је направила вештачка интелигенција нарушава академски интегритет. Библиотекар је водич који учи кориснике и верификацији и границама оригиналности и плагијата.
Опрез: Чак иу случајевима када се цитат генерисан од вештачке интелигенције чини тачним од речи до речи и приписује се правом аутору, тај цитат може бити измишљен. Проверите цитат тако што ћете га пронаћи само у ауторовом стварном делу; Логика „овај аутор би можда овако нешто рекао“ није довољна.
три мини кофера
Случај 1 — Ученик је учио верификацију. Библиотекар је видео 5 извора вештачке интелигенције у задатку ученика. Заједно су то проверили у каталогу: 2 извора су измишљена. Ученик је из прве руке искусио лекцију да „није у реду да изгледа стварно“ и поново стекао навику да проверава сваки извор.
Случај 2 — Израђен историјски документ. Истраживач је добио „новински извештај из 1919.“ од АИ; Датум, назив и садржај новина били су изузетно убедљиви. Библиотекарка је скенирала новинску архиву: такве вести у то време није било. Измишљени примарни извор је ухваћен пре него што је уопште доспео у чланак.
Случај 3 — Погрешно приписан цитат. АИ је приписао цитат познатом мислиоцу. Библиотекар је тражио ову реч у мислиочевим делима и није могао да је нађе; Та реч нигде није поменута. Унакрсна провера спречила је ширење погрешно приписаног цитата.
Ланац ширења дезинформација и улога библиотекара
Дезинформације често почињу са једним фабрикованим излазом, али се ту не заустављају. Корисник ставља лажни ресурс генерисан вештачком интелигенцијом у задатак; задатак постаје публикација; публикацију цитирају други, тако да измишљени извор вишекратним цитирањем стиче изглед „истине“. Ову атрибуцију можемо назвати контаминацијом: лажне информације добијају легитимитет тако што се понављају изнова и изнова. Библиотекар стоји на најкритичнијој карици у овом ланцу; јер је то последња контролна тачка на којој се проверава информација пре уласка у систем. Само зато што се извор „појављује на многим местима“ не чини га истинитим; Исте лажне информације могу се појавити на многим местима тако што се копирају једна од друге. Дакле, унакрсна потврда треба да се заснива на питању „колико поузданих извора то потврђује независно један од другог“, а не „на колико места се појављује?“ Десет секундарних извора који понављају исту тврдњу не вреде колико један независни примарни извор. Библиотекар би требало да ову разлику (не мешајући независност са понављањем) стави у средиште и своје сопствене верификације и свог подучавања кориснику.
Пажња: Појава информација у претраживачу или на многим веб страницама није доказ њихове тачности. Иста грешка је можда постала широко распрострањена тако што се копирала од извора до извора. Преваленција и тачност су различите ствари; Потврда захтева независан и поуздан извор.
Четири шаблона за копирање
1) Упит ентитета ресурса:
Наведите сваки извор и цитат у тексту испод. За сваки: аутор, наслов, година и подаци о публикацији (ако их има). Издвоји ставку по ставку информације које треба да проверим; не додај.Текст: [овде]
2) Процена потврдљивости:
За сваку од следећих тврдњи, изолујте чињеничне елементе (датум, име, број, цитат) које треба проверити. Предложите на основу које врсте извора (каталог, примарни документ, база података) може да се провери. Не судите о тачности, само покажите путању за верификацију. Тврдње: [овде]
3) Контролна листа поузданости заваривања:
Процените кредибилитет следећег извора: ко је то написао, када, за коју сврху, постоје докази, да ли је актуелан, да ли постоји могућа пристрасност? Само се ослони на информације које сам дао, напиши "непознато" где недостаје. Извор информација: [овде]
4) План наставе информационе писмености:
Направите кратак 20-минутни водич о верификацији извора и халуцинацијама у доба вештачке интелигенције за следећу групу корисника (нпр. студенте): циљеви, 3 примера, 1 апликација. Група: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Напишите резиме на ову тему са поузданим изворима.
Рећи „са поузданим изворима“ подстиче вештачку интелигенцију да производи лажне изворе који изгледају као стварни; Не постоји кука за валидацију.
Снажан упит:
Ваша улога: асистент за информатичку писменост. ПИСАЊЕ резимеа на следећу тему; Уместо тога, наведите чињенична питања која корисник треба да провери и врсту поузданог извора помоћу којих може да их провери. Немојте измишљати никакве изворе; Означите област у коју нисте сигурни као „мора бити верификована“. Тема: [овде]
Снажан промпт; Користи вештачку интелигенцију као водич који показује пут до верификације, уместо да даје одговоре, и структурално спречава фабриковање.
Табела слојева за аутентификацију
слој
Питање
Метод
ентитета
Да ли је овај извор стваран?
Претрага каталога/базе података
примат
Да ли је ово најближи извор?
Приступ оригиналном документу
Потврда
Да ли други извор потврђује ово?
Независна унакрсна провера
поузданост
Колико је чврст извор?
Аутор, датум, сврха, доказ
поштење
Јесам ли сигуран?
Јасно наведите несигурност
Уобичајене грешке
- Мислећи да је истина оно што је убедљиво. Добро изгледати није доказ праведности.
- Бити задовољан једним извором. Критичне информације захтевају независну унакрсну потврду.
- Не тражећи цитат на његовом извору. Тако се шире погрешно приписане речи.
- Скривање неизвесности. „Непроверљиво“ је боље од лажне сигурности.
- Не подучава корисника да се аутентификује. Информациона писменост је мисија библиотекара.
Укратко
Провера извора и информатичка писменост су најкритичнији задаци библиотекарства у доба вештачке интелигенције. Халуцинација производи убедљиве, али измишљене информације и посебно је опасна у хуманистичким/друштвеним наукама. Дисциплина је јасна: проверите постојање сваког извора, идите до примарног извора, спроведите независну унакрсну проверу, доведите у питање кредибилитет извора и искрено изразите несигурност. Библиотекар шири ову културу верификације не само у својој пракси већ и подучавањем корисника; Оригиналност и академски интегритет су саставни део ове мисије.
Задатак апликације
Затражите 6 извора и 2 цитата од АИ у својој области. Проверите сваки извор тако што ћете га потражити у стварном каталогу и сваки цитат у ауторовом стварном делу; Обратите пажњу колико је измишљотина. Затим, користећи шаблон „План подучавања информационе писмености“, направите 20-минутни водич да бисте групи корисника објаснили верификацију извора и укључили стварне примере које сте сами пронашли.
контролна листа
- [ ] Независно сам потврдио да сваки извор заиста постоји.
- [ ] Користио сам примарне изворе где год је то било могуће.
- [ ] Унакрсно сам проверио критичне тврдње са најмање два независна извора.
- [ ] Проверио сам цитате тражећи их у ауторовом стварном делу.
- [ ] Јасно сам означио непроверљиве информације као „непроверљиве“.