Печалби:
- Да знаеш защо халюцинацията е скрита в човешкия домейн и да можеш да преминеш всеки източник през веригата от пет стъпки за проверка (съществуване, отпечатък, цитат, контекст, приписване)
- Възможност за потвърждаване на автентичността на източника с конкретни идентичности като DOI, ISBN и каталог.
- Разберете дисциплината да забранявате на изкуствения интелект да прави измислици и никога да не му делегирате проверка на цитата и честността на приписването.
Стойността на един текст в човешката и социалната област зависи от автентичността и точното предаване на източниците, на които се основава. Литературно есе, дипломна работа, записка от лекция - всички разчитат на надеждни източници и честно приписване (показващо от кого/къде сте получили информация или цитат). AI предлага голямо удобство в тази област, но крие и най-голямата опасност: халюцинация, тоест представяне на несъществуващ източник, цитат или факт като истински. Това звено е посветено на създаването на "броня за проверка" срещу тази опасност.
Правило за едно изречение: нито един генериран от AI източник, цитат, дата или номер не може да влезе в текста без потвърждение от първо лице от първичен или надежден източник. Това правило е най-повтаряното и най-малко гъвкавото правило на този модул.
Защо халюцинациите са толкова опасни в тази област?
Ако AI греши по технически въпрос, това често ще бъде забелязано; но в човешката сфера халюцинацията е умело прикрита:
- Реалистичен автор: AI съчетава името на истински автор със заглавие, подходящо за областта и разумна година. Резултатът е източник, който не съществува, но изглежда съвсем истински.
- Цитат, подходящ за стила: AI може да имитира стила на автор и да представи изречение, което не му принадлежи, като „негова дума“.
- Близка, но грешна дата: Годината на произведението може да бъде изместена с една или две години; Това убягва на невнимателния читател.
- Объркано приписване: Може да припише идея на грешния човек.
Всички те могат тихомълком да проникнат в текста на автор с честни намерения и ако не бъдат заловени, да навредят както на репутацията на автора, така и на доверието на читателя.
Внимание: Само защото даден ресурс изглежда "реалистичен" за AI не означава, че е реален. Реализмът и реалността са две различни неща; AI е майстор в първото, не може да гарантира второто.
Броня за проверка: стъпка по стъпка
За всеки източник и цитат следвайте тази верига:
- има ли Потърсете източника в библиотечния каталог, надеждна база данни или сайта на издателя. Ако не може да бъде намерено, значи не съществува – не го използвайте.
- Отпечатъкът правилен ли е? Автор, заглавие, издател/списание, година, страница — всичко трябва да съвпада точно.
- Цитатът истински ли е? Намерете цитата в самия източник, на посочената страница, и го сравнете дословно.
- Правилен ли е контекстът? Цитатът използван ли е буквално или е изкривен?
- Честно ли е приписването? Дали идеята се приписва на правилния човек, дали нещо взето от вторичен източник е представено като първично?
Ако дори една връзка от тази верига е прекъсната, тя не може да влезе в изходния текст.
Съвет: Инструктирайте изкуствения интелект от самото начало: „Не давайте източник, за който не сте сигурни, че съществува; ако не сте сигурни, кажете „Не можах да намеря източника“.“ Това не слага край на халюцинациите напълно, но подтиква AI да каже „не знам“, вместо да се примирява.
Цитиране и дисциплина на цитиране
Заедно с проверката, честното приписване също е дисциплина:
- Дайте директния цитат с кавички и страница; Нека бъде буквално.
- Също така свържете непряк цитат (обобщавайки със собствените си думи) към източника; Ако идеята не е ваша, тя се нуждае от приписване.
- Посочете прозрачно приноса на AI според правилото на вашата организация; AI не е „ресурс“, но ако се използва, трябва да бъде деклариран.
- Не изобразявайте вторичния източник като първичен; Ако сте взели цитат от автор от друга книга, посочете това.
три мини калъфа
Случай 1 — Два от петте източника се оказаха фиктивни. Изследовател премина през процеса на проверка на 5 източника, дадени от AI. 2 изобщо ги нямаше в каталога, 1 беше с грешна година, 2 бяха истински и верни. Използвани са само 2 проверени; статията е защитена от фиктивно приписване.
Случай 2 — Уловено изкривяване на цитата. Един ученик намери цитат от AI в истинска книга, но цитатът означаваше точно обратното в оригиналния контекст. AI беше извадил изречението от контекста. Студентът коригира цитата с правилния контекст.
Случай 3 — Коригирано неправилно приписване. В една бележка от лекция AI приписва мнение на грешния автор. Когато учителят го провери с два надеждни източника, той намери законния собственик и го поправи. Бележката оцеля, без да се обърка на ученика.
Четири копируеми шаблона
1) Инструкция за забрана на производството:
От сега нататък: НЕ предоставяйте източник, цитат, дата или номер, за които не сте сигурни, че съществуват. Ако не сте сигурни, кажете „има нужда от проверка“ или „Не можах да го намеря“. Никога не давайте етикет, който е реалистичен, но не можете да гарантирате неговата автентичност. Следвайте това правило при всеки отговор.
2) Пътна карта за проверка на източника:
Сам ще проверя източника по-долу. Кажете ми къде да търся този ресурс (каталог, база данни, издател) и с каква ключова информация. ВИЕ потвърждавате, че ресурсът съществува; просто дайте стъпките за проверка. Източник: [поставете кредит]
3) Проверка на контекста на цитата:
По-долу има цитат и действителният параграф, в който се среща. Използван ли е цитатът в оригиналния си контекст или е бил изкривен? Просто разчитайте на текста, който ви дадох; добавяне на коментар. Цитат: [...] Оригинален параграф: [...]
4) Одит на целостта на приписването:
В моя текст по-долу: кои изречения изискват източник, но остават без приписване, коя идея може да принадлежи на някой друг, има ли място, където показвам вторичния източник като основен? Внушение за изфабрикувани източници; просто посочете липсващите цитати. Текст: [поставете текст]
Слаба подкана / Силна подкана
Слаб: „Дайте 5 академични източника и цитати по тази тема.“
Гючлю: „Кажете ми какви източници и ключови думи трябва да търся, докато проучвам по тази тема. Не давайте препратки или цитати, за които не сте сигурни, че съществуват; ако не сте сигурни, кажете „Не можах да го намеря“. Ще ви дам източниците, които намеря по-късно; ще потвърдя цитатите от книгите.“
Мощната подкана затваря вратата за халюцинации и оставя проверката на човека. Слабата подкана директно приканва въображаемо производство на ресурси.
Таблица на веригата за валидиране
стъпка
Въпрос
място за проверка
образувание
Съществува ли наистина източникът?
Каталог / база данни
отпечатък
Верни ли са авторът, годината, страницата?
Издател/отпечатък
цитат
Дословно ли е в текста?
самият източник
Контекст
Изкривен ли е смисълът?
основен параграф
Цитиране
На правилния човек?
кръстосана проверка
Проверка с постоянна връзка и отпечатък
Има конкретни начини за бързо и надеждно потвърждаване дали даден ресурс действително съществува. Повечето съвременни академични публикации имат DOI (Digital Object Identifier — непроменен уникален идентификатор, постоянно присвоен на публикация; той действа като връзка и води директно към публикацията). Ако получите достъп до действителната публикация, когато въвеждате DOI на статия в браузър, този източник съществува; Ако не можете да го намерите или DOI изобщо не съществува, бъдете подозрителни. Генерираните от AI „DOI“ често са измислени и не отиват никъде; Това е един от най-практичните тестове за улавяне на въображаемия източник.
ISBN (международен стандартен номер на книга) осигурява подобна идентификация за книги; Можете да проверите автентичността на книгата, като я потърсите по ISBN в библиотечен каталог или надеждна база данни с книги. За периодични издания проверете името на списанието и информацията за тома/броя на официалния уебсайт на издателя. Тези конкретни самоличности са отговорът на въпроса "Истински ли е източникът?" Той отговаря ясно на въпроса ви в рамките на минути.
Тези методи превръщат проверката в „транзакция“, а не в „запас“: когато отваряте и разглеждате всеки източник лично, в каталога, от DOI или на сайта на издателя, рискът от фантомно приписване е до голяма степен елиминиран.
Съвет: Когато приключите с библиографията си, направете „обиколка с щракване“: всъщност отворете DOI или каталожния запис на всеки източник. Дори един ресурс, който не се отваря, е предупреждение; или го коригирайте с правилния отпечатък, или го премахнете от списъка.
Често срещани грешки
- Грешка за реализъм с реалност. Правдоподобната самоличност на ИИ не доказва съществуването му.
- Не се проверява цитатът от източника. Изфабрикувани или изкривени цитати могат да изтекат.
- Получаване на история от един източник. Проверете с поне два надеждни източника.
- Направете второстепенното да изглежда като основното. Посочете честно предавателната верига.
- Позовавайки се на AI като източник. AI не е ресурс; неговото използване е декларирано, препратката е направена към първоизточника.
В обобщение
Честността в хуманитарните науки разчита на източника и точността на цитирането. Най-голямата опасност от AI е, че създава източници и цитати, които изглеждат реалистични, но не съществуват. Прекарайте всеки източник и цитат през веригата за проверка в пет стъпки (субект, кредит, цитат, контекст, приписване). Забранете на AI да произвежда от самото начало и никога не му делегирайте проверка. Тази дисциплина е гаранция за вашата надеждност в тази професия.
Задача за приложение
Опитайте да накарате AI да предложи няколко източника и цитат по дадена тема. Прекарайте всеки източник през веригата за проверка: колко действително съществуват, колко имат правилно приписване, цитатът действително ли е в източника? Запишете резултатите в таблица. Този опит конкретно ще покаже границите на AI в тази област.
контролен списък
- [ ] Потвърдих съществуването на всеки ресурс в каталога.
- [ ] Проверих всеки цитат дословно от оригиналния източник.
- [ ] Проверих дали контекстът на цитата не е изкривен.
- [ ] Проверих датите с поне два източника.
- [ ] Забраних на изкуствения интелект да фабрикува и не му делегирах проверка.