Прибуток:
- Знати, чому галюцинація прихована в людському домені, і мати можливість пройти кожне джерело через п’ятиступеневу верифікацію (наявність, відбиток, цитата, контекст, авторство)
- Можливість підтвердити автентичність джерела за допомогою конкретних ідентифікаторів, таких як DOI, ISBN і каталог.
- Зрозумійте дисципліну заборони штучному інтелекту створювати вигадки та ніколи не делегуйте йому перевірку цитат і чесності приписів.
Цінність тексту в людській та соціальній сферах залежить від автентичності та точної передачі джерел, на яких він заснований. Літературний нарис, дипломна робота, конспект лекції — усі вони спираються на надійні джерела та чесне посилання (вказуючи, хто/звідки ви отримали інформацію чи цитату). ШІ пропонує велику зручність у цій сфері, але він також несе в собі найбільшу небезпеку: галюцинації, тобто створення неіснуючого джерела, цитати чи факту за справжні. Цей підрозділ призначений для створення «перевірочної броні» проти цієї небезпеки.
Правило одного речення: жодне джерело, цитата, дата чи номер, створені штучним інтелектом, не можуть ввести текст без підтвердження від першої особи з основного чи надійного джерела. Це правило є найбільш повторюваним і найменш гнучким правилом цього модуля.
Чому галюцинації так небезпечні в цій сфері?
Якщо ШІ помиляється в технічному питанні, це часто буде помічено; але в людській сфері галюцинація вміло прихована:
- Реалістичний авторський рядок: ШІ поєднує ім’я справжнього автора з назвою, що відповідає галузі, і прийнятним роком. У результаті виходить джерело, якого не існує, але виглядає цілком реальним.
- Цитата, що відповідає стилю: штучний інтелект може імітувати стиль автора і подавати речення, яке йому не належить, як «його слово».
- Близька, але неправильна дата: рік роботи може бути зміщений на один або два роки; Це вислизає від неуважного читача.
- Плутане приписування: може приписати ідею не тій людині.
Усі вони можуть непомітно проникнути в текст автора з чесними намірами, а якщо їх не спіймати, завдати шкоди як репутації автора, так і довірі читача.
Застереження: те, що ресурс виглядає «реалістичним» для ШІ, не означає, що він справжній. Реалізм і реальність — дві різні речі; ШІ є майстром у першому, але не може гарантувати другого.
Перевірка броні: крок за кроком
Для кожного джерела та цитати дотримуйтеся цього ланцюжка:
- Є? Шукайте джерело в каталозі бібліотеки, надійній базі даних або на сайті видавництва. Якщо його не можна знайти, значить його не існує — не використовуйте його.
- Відбиток правильний? Автор, назва, видавець/журнал, рік, сторінка — все має точно збігатися.
- Чи справжня цитата? Знайдіть цитату в самому джерелі, на вказаній сторінці, і порівняйте її дослівно.
- Чи правильний контекст? Цитата використана буквально чи спотворена?
- Чи атрибуція чесна? Чи приписується ідея правильній людині, чи щось, взяте з вторинного джерела, зображується як первинне?
Якщо хоч одна ланка цього ланцюга обірвана, вона не може увійти до вихідного тексту.
Порада: з самого початку дайте вказівку штучному інтелекту: «Не повідомляйте жодного джерела, в наявності якого ви не впевнені; якщо ви не впевнені, скажіть «Я не зміг знайти джерело».» Це не припиняє галюцинацію повністю, але спонукає штучний інтелект сказати «Я не знаю» замість того, щоб помиритися.
Цитування та дисципліна цитування
Поряд з перевіркою, чесне зазначення також є дисципліною:
- Наведіть пряму цитату з цитатами та сторінкою; Нехай це буде буквально.
- Також пов’яжіть непряму цитату (узагальнення своїми словами) з джерелом; Якщо ідея не ваша, її потрібно вказати.
- Прозоро вкажіть внесок ШІ відповідно до правил вашої організації; ШІ не є «ресурсом», але якщо він використовується, його потрібно декларувати.
- Не зображуйте вторинне джерело як первинне; Якщо ви взяли цитату автора з іншої книги, вкажіть це.
три міні-чохла
Випадок 1 — Два з п’яти джерел виявилися фіктивними. Дослідник пройшов процес перевірки 5 джерел, наданих ШІ. 2 не було в каталозі взагалі, 1 був неправильний рік, 2 були справжніми і правильними. Було використано лише 2 перевірених; стаття захищена від фіктивного посилання.
Випадок 2 — Виявлено спотворення цитат. Один студент знайшов цитату з ШІ в реальній книзі, але цитата означала прямо протилежне в оригінальному контексті. ШІ вирвав речення з контексту. Учень виправив цитату з правильним контекстом.
Випадок 3 — виправлено неправильне приписування. В одному конспекті лекції ШІ приписав думку не тому автору. Коли вчитель перехресно перевірив його з двома надійними джерелами, він знайшов законного власника та виправив це. Записка збереглася, не помилившись студентом.
Чотири шаблони, які можна копіювати
1) Інструкція щодо заборони виробництва:
Відтепер: НЕ надавайте будь-які джерела, цитати, дати чи номери, у наявності яких ви не впевнені. Якщо ви не впевнені, скажіть «потрібна перевірка» або «Я не знайшов». Ніколи не давайте тег, який є реалістичним, але ви не можете гарантувати його автентичність. Дотримуйтесь цього правила з кожною відповіддю.
2) Дорожня карта перевірки джерела:
Я сам перевірю джерело нижче. Підкажіть, де шукати цей ресурс (каталог, база даних, видавництво) і з якою ключовою інформацією. ВИ підтверджуєте, що ресурс існує; просто вкажіть кроки перевірки. Джерело: [вставити кредит]
3) Перевірка контексту цитати:
Нижче наведено цитату та фактичний абзац, у якому вона зустрічається. Чи використано цитату в оригінальному контексті чи її спотворено? Просто покладіться на текст, який я вам дав; додавання коментаря. Цитата: [...] Оригінальний абзац: [...]
4) Аудит цілісності атрибуції:
У моєму тексті нижче: які речення вимагають джерела, але залишаються без атрибуції, яка ідея може належати комусь іншому, чи є місце, де я показую вторинне джерело як основне? Пропозиція сфабрикованих джерел; просто вкажіть відсутні цитати. Текст: [вставити текст]
Слабка підказка / Сильна підказка
Слабкий: «Наведіть 5 наукових джерел і цитат на цю тему».
Гючлю: «Скажіть мені, які джерела та ключові слова мені слід шукати, досліджуючи цю тему. Не створюйте жодних посилань чи цитат, у наявності яких ви не впевнені; якщо ви не впевнені, скажіть «Я не зміг цього знайти». Я дам вам джерела, які знайду пізніше; я підтверджу цитати з книг».
Потужне спонукання закриває двері для галюцинацій і залишає перевірку людині. Слабка підказка безпосередньо спонукає до виробництва уявних ресурсів.
Таблиця ланцюжка перевірки
крок
Питання
місце перевірки
сутність
Джерело справді існує?
Каталог / база даних
відбиток
Чи правильний автор, рік, сторінка?
Видавець/вихідні дані
цитата
Це дослівно в тексті?
саме джерело
Контекст
Сенс спотворено?
основний абзац
Цитування
До потрібної людини?
перехресна перевірка
Перевірка з постійним посиланням і вихідними даними
Існують конкретні способи швидко та надійно підтвердити, чи дійсно ресурс існує. Більшість сучасних академічних публікацій мають DOI (цифровий ідентифікатор об’єкта — незмінний унікальний ідентифікатор, постійно присвоєний публікації; він діє як посилання та веде безпосередньо до публікації). Якщо ви отримуєте доступ до фактичної публікації, коли вводите DOI статті в браузері, це джерело існує; Якщо ви не можете його знайти або DOI взагалі не існує, будьте підозрілі. Створені штучним інтелектом «DOI» часто вигадані і нікуди не йдуть; Це один із найбільш практичних тестів захоплення уявного джерела.
ISBN (міжнародний стандартний номер книги) забезпечує подібну ідентифікацію книг; Ви можете перевірити автентичність книги, здійснивши пошук за номером ISBN у бібліотечному каталозі або надійній базі даних книг. Для періодичних видань перевірте назву журналу та інформацію про том/випуск на офіційному веб-сайті видавця. Ці конкретні ідентичності є відповіддю на питання "Чи справжнє джерело?" Він дає чітку відповідь на ваше запитання за лічені хвилини.
Ці методи перетворюють перевірку на «транзакцію», а не на «акцію»: коли ви відкриваєте та переглядаєте кожне джерело особисто, у каталозі, за DOI або на сайті видавця, ризик фантомної атрибуції значною мірою зникає.
Порада: коли ви завершите бібліографію, зробіть «огляд за клацанням»: фактично відкрийте DOI або запис каталогу кожного джерела. Навіть один ресурс, який не відкривається, є попередженням; виправте його правильним відбитком або видаліть зі списку.
Поширені помилки
- Приймаючи реалізм за реальність. Правдоподібна ідентичність штучного інтелекту не доводить його існування.
- Неперевірка цитати з джерела. Можливий витік сфабрикованих або спотворених цитат.
- Отримання історії з одного джерела. Перехресна перевірка принаймні з двох надійних джерел.
- Зробити вторинне схожим на первинне. Чесно сформулюйте ланцюг передачі.
- Посилання на AI як джерело. AI не є ресурсом; декларується її використання, робиться посилання на першоджерело.
Підсумовуючи
Чесність у гуманітарних науках залежить від точності джерела та цитування. Найбільша небезпека штучного інтелекту полягає в тому, що він створює джерела та цитати, які виглядають реалістично, але не існують. Пропустіть кожне джерело та цитату через п’ятиетапний ланцюжок перевірки (сутність, авторство, цитата, контекст, посилання на джерело). Забороніть штучному інтелекту виготовляти з самого початку і ніколи не делегуйте йому перевірку. Ця дисциплінованість є запорукою вашої надійності в цій професії.
Аплікаційне завдання
Спробуйте попросити штучний інтелект запропонувати кілька джерел і цитату на тему. Перевірте кожне джерело через ланцюжок перевірки: скільки з них насправді існує, скільки з них мають правильну атрибуцію, чи справді цитата міститься в джерелі? Результати запишіть у таблицю. Цей досвід конкретно покаже межі ШІ в цій галузі.
контрольний список
- [ ] Я підтвердив існування кожного ресурсу в каталозі.
- [ ] Я перевірив кожну цитату дослівно з першоджерела.
- [ ] Я перевірив, чи не було спотворено контекст цитати.
- [ ] Я перехресно перевірив дати принаймні з двох джерел.
- [] Я заборонив штучному інтелекту фабрикувати і не делегував йому перевірку.