Добици:
- Знати зашто је халуцинација скривена у људском домену и моћи да прође сваки извор кроз ланац верификације у пет корака (постојање, отисак, цитат, контекст, атрибуција)
- Способност да се потврди аутентичност извора са конкретним идентитетима као што су ДОИ, ИСБН и каталог.
- Схватите дисциплину забране вештачкој интелигенцији да прави измишљотине и да јој никада не делегирате проверу цитирања и искрености приписивања.
Вредност текста у људским и друштвеним областима зависи од аутентичности и тачног преноса извора на којима се заснива. Књижевни есеј, теза, белешка са предавања — сви се ослањају на поуздане изворе и поштено приписивање (показујући од кога/где сте добили информацију или цитат). АИ нуди велику погодност у овој области, али носи и највећу опасност: халуцинацију, односно стварање непостојећег извора, цитата или чињенице као стварне. Ова јединица је посвећена успостављању "верификационог оклопа" против ове опасности.
Правило једне реченице: ниједан извор, цитат, датум или број који је генерисао вештачка интелигенција не може да унесе текст без потврде из првог лица из примарног или поузданог извора. Ово правило је најчешће понављано и најмање флексибилно правило овог модула.
Зашто су халуцинације тако опасне на овом пољу?
Ако АИ греши у техничком питању, то ће се често приметити; али у људској сфери халуцинација је вешто прикривена:
- Реалистичан текст: АИ комбинује име правог аутора са насловом који одговара тој области и разумном годином. Резултат је извор који не постоји, али изгледа потпуно стварно.
- Цитат примерен стилу: АИ може да имитира стил аутора и да реченицу која му не припада представи као „своју реч“.
- Близан, али погрешан датум: Година рада може бити померена за једну или две године; Ово измиче немарном читаоцу.
- Збуњена атрибуција: Може приписати идеју погрешној особи.
Све ово може нечујно да се увуче у текст аутора са поштеним намерама, а ако није ухваћено, наруши и углед аутора и поверење читаоца.
Опрез: Само зато што се извор чини „реалистичан“ за АИ не значи да је стваран. Реализам и стварност су две различите ствари; АИ је мајстор у првом, не може гарантовати друго.
Верификација оклопа: корак по корак
За сваки извор и цитат пратите овај ланац:
- Има ли? Потражите извор у библиотечком каталогу, поузданој бази података или на сајту издавача. Ако се не може пронаћи, не постоји — немојте га користити.
- Да ли је отисак тачан? Аутор, наслов, издавач/часопис, година, страница — сви се морају тачно подударати.
- Да ли је цитат стваран? Пронађите цитат у самом извору, на наведеној страници, и упоредите га дословно.
- Да ли је контекст тачан? Да ли се цитат користи дословно или је искривљен?
- Да ли је приписивање искрено? Да ли се идеја приписује правој особи, да ли је нешто преузето из секундарног извора приказано као примарно?
Ако је чак и једна карика овог ланца прекинута, не може ући у изворни текст.
Савет: Упутите АИ од почетка: „Немојте да дате ниједан извор за који нисте сигурни да постоји; ако нисте сигурни, реците 'Нисам могао да пронађем извор'. Ово не завршава халуцинацију у потпуности, али подстиче АИ да каже „не знам“ уместо да се помири.
Цитирање и цитатна дисциплина
Поред верификације, поштено приписивање је такође дисциплина:
- Дајте директан цитат са цитатима и страницом; Нека буде буквално.
- Такође повежите индиректни цитат (сажимајући својим речима) са извором; Ако идеја није ваша, потребно јој је приписивање.
- Транспарентно наведите допринос АИ према правилу ваше организације; АИ није „ресурс“, али ако се користи, мора бити декларисан.
- Не представљајте секундарни извор као примарни; Ако сте узели цитат неког аутора из друге књиге, наведите ово.
три мини кофера
Случај 1 — Испоставило се да су два од пет извора фиктивна. Истраживач је прошао кроз процес верификације 5 извора које је дала АИ. 2 уопште нису била у каталогу, 1 је имала погрешну годину, 2 су била стварна и тачна. Коришћене су само 2 проверене; чланак заштићен од фиктивног приписивања.
Случај 2 — Ухваћено је изобличење цитата. Један ученик је пронашао цитат из АИ у стварној књизи, али цитат је значио управо супротно у оригиналном контексту. АИ је извукао реченицу из контекста. Ученик је исправио цитат са његовим тачним контекстом.
Случај 3 — Исправљена нетачна атрибуција. У једној белешци са предавања, АИ је приписао мишљење погрешном аутору. Када га је учитељ унакрсно проверио са два поуздана извора, пронашао је правог власника и поправио га. Белешка је преживела, а да није погрешила ученику.
Четири шаблона за копирање
1) Упутство за забрану израде:
Од сада: НЕМОЈТЕ давати ниједан извор, цитат, датум или број за који нисте сигурни да постоји. Ако нисте сигурни, реците „потребна је верификација“ или „Нисам га могао пронаћи“. Никада немојте давати ознаку која је реална, али не можете гарантовати њену аутентичност. Пратите ово правило са сваким одговором.
2) Мапа пута за верификацију извора:
Ја ћу лично проверити извор испод. Реците ми где да потражим овај ресурс (каталог, база података, издавач) и са којим кључним информацијама. ВИ потврђујете да ресурс постоји; само дајте кораке за верификацију. Извор: [налепите кредит]
3) Провера контекста цитата:
Испод је цитат и стварни пасус у којем се појављује. Да ли се цитат користи у оригиналном контексту или је искривљен? Само се ослоните на текст који сам вам дао; додајући коментар.Цитат: [...] Оригинални пасус: [...]
4) Ревизија интегритета атрибуције:
У мом тексту испод: које реченице захтевају извор, али остају неприписане, која идеја може припадати неком другом, да ли постоји место где приказујем секундарни извор као примарни? Предлагање фабрикованих извора; само укажите на цитате који недостају.Тект: [пасте тект]
Слаби промпт / Јаки промпт
Слабо: „Наведите 5 академских извора и цитата на ову тему“.
Гуцлу: „Реците ми које изворе и кључне речи треба да тражим док истражујем о овој теми. Немојте давати никакве референце или цитате за које нисте сигурни да постоје; ако нисте сигурни, реците 'Нисам могао да пронађем'. Даћу вам изворе које пронађем касније; Потврдићу цитате из књига."
Моћни подсетник затвара врата халуцинацијама и препушта верификацију човеку. Слаб промпт директно позива на имагинарну производњу ресурса.
Табела ланца валидације
корак
Питање
локација за верификацију
ентитета
Да ли извор заиста постоји?
Каталог / база података
отисак
Да ли су аутор, година, страница тачни?
Издавач/импресум
цитат
Да ли је у тексту дословно?
сам извор
Контекст
Да ли је значење искривљено?
главни параграф
Цитирање
Правој особи?
унакрсна провера
Верификација са трајном везом и отиском
Постоје конкретни начини да се брзо и поуздано потврди да ли ресурс заиста постоји. Већина модерних академских публикација има ДОИ (Дигитал Објецт Идентифиер—непроменљиви јединствени ИД који је трајно додељен публикацији; делује као веза и води директно до публикације). Ако приступите стварној публикацији када унесете ДОИ чланка у претраживач, тај извор постоји; Ако не можете да га пронађете или ДОИ уопште не постоји, будите сумњичави. „ДОИ“ генерисане вештачком интелигенцијом су често измишљене и никуда не иду; Ово је један од најпрактичнијих тестова за хватање имагинарног извора.
ИСБН (Међународни стандардни број књиге) пружа сличну идентификацију за књиге; Аутентичност књиге можете да проверите тако што ћете је потражити по ИСБН-у у библиотечком каталогу или у поузданој бази података књига. За периодичне публикације, проверите назив часописа и информације о броју/издању на званичном сајту издавача. Ови конкретни идентитети су одговор на питање "Да ли је извор стваран?" Јасно одговара на ваше питање у року од неколико минута.
Ове методе претварају верификацију у „трансакцију” уместо у „залихе”: када отворите и погледате сваки извор лично, у каталогу, од стране ДОИ-а или на сајту издавача, ризик од фантомске атрибуције је у великој мери елиминисан.
Савет: Када завршите са библиографијом, направите „обилазак кликом“: заправо отворите ДОИ или каталошки запис сваког извора. Чак и један ресурс који се не отвори је упозорење; или исправите исправним отиском или га уклоните са листе.
Уобичајене грешке
- Погрешити реализам за стварност. Вероватан идентитет АИ не доказује његово постојање.
- Не проверавамо цитат из извора. Измишљени или искривљени цитати могу процурити.
- Добијање историје из једног извора. Унакрсна провера са најмање два поуздана извора.
- Учинити да секундар изгледа као примарни. Искрено наведите ланац преноса.
- Наводећи АИ као извор. АИ није ресурс; декларисана је његова употреба, упућује се на примарни извор.
Укратко
Искреност у хуманистичким наукама ослања се на тачност извора и цитата. Највећа опасност од вештачке интелигенције је то што производи изворе и цитате који изгледају реално, али не постоје. Прођите сваки извор и цитат кроз ланац верификације у пет корака (ентитет, кредит, цитат, контекст, атрибуција). Забраните вештачкој интелигенцији да измишља од самог почетка и никада јој не делегирајте верификацију. Ова дисциплина је гаранција ваше поузданости у овој професији.
Задатак апликације
Покушајте да АИ предложи неколико извора и цитат о некој теми. Проведите сваки извор кроз ланац верификације: колико их заиста постоји, колико има тачну атрибуцију, да ли је цитат заправо у извору? Резултате запишите у табелу. Ово искуство ће конкретно показати границе АИ у овој области.
контролна листа
- [ ] Потврдио сам постојање сваког извора у каталогу.
- [ ] Проверио сам сваки цитат дословно из оригиналног извора.
- [ ] Проверио сам да контекст цитата није искривљен.
- [ ] Унакрсно сам проверио датуме са најмање два извора.
- [ ] Забранио сам АИ да измишља и нисам делегирао верификацију на њега.