Прибуток:
- Можливість вловити галюцинацію шляхом перевірки існування кожного джерела, переходу до первинного джерела та незалежних кроків перехресного підтвердження
- Здатність зберігати оригінальність і академічну доброчесність проти сфабрикованих цитат і документів у гуманітарних і соціальних науках
- Здатність навчати користувачів перевірці джерела та навичкам інформаційної грамотності в епоху ШІ
В основі соціальної місії бібліотечної справи лежить єдина обіцянка: надійна інформація. Бібліотекар підводить користувача не просто до інформації, а до перевіреної інформації, вчить його самому оцінювати цю інформацію. В епоху штучного інтелекту ця місія стала складнішою та важливішою; тому що ШІ може створювати дезінформацію дуже переконливим способом. У цьому розділі ми розглянемо розпізнавання галюцинацій, дисципліну перевірки джерела та навчання інформаційній грамотності в епоху ШІ.
Давайте визначимося з поняттями. Галюцинація — це коли штучний інтелект видає інформацію, джерела, цитати чи події, які насправді не існують, ніби вони реальні. Перевірка джерела – це підтвердження того, що інформація базується на реальному, надійному та первинному джерелі. Інформаційна грамотність – це здатність людини знаходити інформацію, оцінювати її, ставити під сумнів її достовірність і етично її використовувати. Цей розділ спрямований на те, щоб бібліотекар зміцнив ці навички як у власній практиці, так і під час навчання користувача.
Крок за кроком: дисципліна перевірки джерела
1. Запитуйте джерело та перевірте його існування. Коли штучний інтелект дає заяву або цитату, «з якого джерела це?» і перевірте, чи дійсно джерело існує в незалежному каталозі, базі даних або первинному документі.
2. Перейти до першоджерела. Найнадійніша форма інформації – це її джерело з перших рук. Не задовольняйтеся коротким викладом ШІ чи другорядним текстом; Якщо можливо, отримайте доступ до оригінального документа, даних або публікації.
3. Перехресне підтвердження. Перевірте критичну заяву принаймні з двох надійних джерел, незалежних одне від одного. Одного ресурсу, особливо AI, недостатньо.
4. Оцініть достовірність джерела. Хто це написав, коли, з якою метою, на основі яких доказів? Це актуально? Існування інформації не робить її правдивою; Також поставити під сумнів природу джерела.
5. Чесно висловлюйте невпевненість. Якщо інформацію неможливо перевірити, скажіть це чітко. Завжди краще сказати «непідтверджено», ніж пропонувати сфабриковану впевненість.
Порада: коли ви отримуєте цитату або джерело від AI, спочатку знайдіть назву та автора в справжньому каталозі. Тут відразу з'являються неіснуючі ресурси. Ця 30-секундна перевірка запобігає входженню сфабрикованого джерела до бібліографії, завдання чи публікації.
Достовірність і верифікація в гуманітарних і соціальних науках
Гуманітарні та соціальні науки особливо вразливі до ризику галюцинацій. У цих сферах докази часто базуються на конкретному документі, даті, цитаті або джерелі коментаря. ШІ може створювати дуже конкретні, але повністю сфабриковані твердження, наприклад, «той історик сказав» або «той документ 1923 року говорить». У творі літератури, історії чи права це означає неправдивий ланцюжок доказів.
Крім того, оригінальність є основною цінністю цих сфер: важливо, кому дійсно належить текст, інтерпретація чи переклад. Представлення тексту, створеного штучним інтелектом, як оригінального твору або покладання на «джерело», створене штучним інтелектом, порушує академічну доброчесність. Бібліотекар – це гід, який навчає користувачів як перевірці, так і межам оригінальності та плагіату.
Застереження: навіть у випадках, коли цитата, згенерована ШІ, виглядає дослівно точною та приписується справжньому автору, ця цитата може бути сфабрикованою. Перевірте цитату, знайшовши її лише у справжньому творі автора; Логіки «цей автор міг сказати щось подібне» недостатньо.
три міні-чохла
Випадок 1 — Студента навчили перевірки. Бібліотекар побачив у завданні студента 5 ресурсів від ШІ. Разом перевірили в каталозі: 2 джерела сфабриковані. Студент на власному досвіді відчув урок, що «недобре, щоб це виглядало справжнім», і знову набув звички перевіряти кожне джерело.
Кейс 2 — Сфабрикований історичний документ. Дослідник отримав від AI «газетний звіт 1919 року»; Дата, назва газети та зміст були надзвичайно переконливими. Бібліотекар переглянула архів газети: на той час таких новин не було. Сфабриковане першоджерело було спіймано ще до того, як воно потрапило в статтю.
Випадок 3 — Неправильна цитата. AI приписав цитату відомому мислителю. Бібліотекарка шукала це слово в творах мислителя і не знайшла; Це слово ніде не згадувалося. Перехресна перевірка запобігла поширенню неправильної цитати.
Ланцюжок поширення дезінформації та роль бібліотекаря
Дезінформація часто починається з одного сфабрикованого результату, але на цьому вона не закінчується. Користувач додає підроблений ресурс, створений ШІ, у завдання; завдання стає публікацією; публікація цитується іншими, так що фіктивне джерело набуває вигляду «правди» через повторне цитування. Ми можемо назвати це атрибуційним забрудненням: неправдива інформація набуває легітимності, повторюючись знову і знову. Бібліотекар стоїть на найважливішій ланці цього ланцюга; тому що це остання контрольна точка, де інформація перевіряється перед надходженням в систему. Лише тому, що джерело «зустрічається в багатьох місцях», це не означає, що це правда; Одна й та сама фейкова інформація може з’являтися в багатьох місцях, копіюючи їх одне в одного. Тому перехресне підтвердження має базуватися на питанні «скільки надійних джерел підтверджують це незалежно одне від одного», а не «скільки місць це з’являється?» Десять вторинних джерел, які повторюють те саме твердження, не варті стільки ж, скільки одне незалежне первинне джерело. Бібліотекар має поставити цю відмінність (не плутаючи незалежність із повторенням) у центр як своєї власної перевірки, так і навчання користувача.
Увага: Поява інформації в пошуковій системі або на багатьох веб-сторінках не є доказом її достовірності. Ця помилка могла стати широко поширеною через копіювання з джерела в джерело. Поширеність і точність – різні речі; Для підтвердження потрібне незалежне та надійне джерело.
Чотири шаблони, які можна копіювати
1) Запит сутності ресурсу:
Перелічіть кожну цитату з джерела та цитату в тексті нижче. Для кожного: автор, назва, рік і відомості про публікацію (за наявності). Витягувати по елементах інформацію, яку мені потрібно перевірити; не додавати. Текст: [тут]
2) Оцінка підтвердження:
Для кожної з наступних заяв виділіть фактичні елементи (дата, ім’я, номер, цитата), які потрібно перевірити. Запропонуйте, за яким типом джерела (каталог, первинний документ, база даних) можна перевірити. Не судіть про точність, просто покажіть шлях перевірки. Твердження: [тут]
3) Контрольний список надійності зварювання:
Оцініть достовірність наступного джерела: хто його написав, коли, з якою метою, чи є докази, чи актуальне воно, чи можлива упередженість? Просто покладайтеся на інформацію, яку я надав, напишіть "невідомо", де її немає. Джерело інформації: [тут]
4) План навчання інформаційній грамотності:
Створіть короткий 20-хвилинний посібник із перевірки джерела та галюцинацій в епоху ШІ для такої групи користувачів (наприклад, студентів): цілі, 3 приклади, 1 застосування. Група: [тут]
Слабка підказка / Сильна підказка
Слабка підказка:
Напишіть короткий виклад на цю тему з надійними джерелами.
Висловлювання «з надійними джерелами» спонукає штучний інтелект створювати підроблені джерела, які виглядають справжніми; Гачок перевірки відсутній.
Потужна підказка:
Ваша роль: помічник з інформаційної грамотності. НАПИСАННЯ конспекту на наступну тему; Натомість перелічіть фактичні питання, які користувач повинен перевірити, і тип надійного джерела, за допомогою якого він може їх перевірити. Не вигадуйте жодних джерельних цитат; Позначте область, у якій ви не впевнені, як «треба перевірити». Тема: [тут]
Потужна підказка; Він використовує штучний інтелект як посібник, який показує шлях до перевірки, а не дає відповіді, і структурно запобігає фальсифікації.
Таблиця рівнів автентифікації
шар
Питання
метод
сутність
Чи справжнє це джерело?
Пошук по каталогу/базі даних
першість
Це найближче джерело?
Доступ до оригінального документа
Підтвердження
Інше джерело підтверджує це?
Самостійна взаємоперевірка
надійність
Наскільки надійним є джерело?
Автор, дата, мета, докази
чесність
Я впевнений?
Чітко констатуйте невизначеність
Поширені помилки
- Думаючи, що те, що переконливо, є правдою. Добре виглядати не є доказом праведності.
- Задовольнятися єдиним джерелом. Важлива інформація вимагає незалежного перехресного підтвердження.
- Не шукаючи цитати в її джерелі. Так поширюються неправильно приписані слова.
- Приховування невизначеності. «Непідтверджене» краще, ніж помилкова впевненість.
- Не навчає користувача автентифікації. Інформаційна грамотність – місія бібліотекаря.
Підсумовуючи
Перевірка джерела та інформаційна грамотність є найважливішими завданнями бібліотечної справи в епоху ШІ. Галюцинація дає переконливу, але сфабриковану інформацію і особливо небезпечна в гуманітарних/соціальних науках. Дисципліна чітка: перевірте існування кожного джерела, перейдіть до першоджерела, проведіть незалежну перехресну перевірку, поставте під сумнів довіру до джерела та чесно висловіть свою невпевненість. Бібліотекар поширює цю культуру перевірки не лише у своїй практиці, а й навчаючи користувачів; Оригінальність і академічна доброчесність є невід’ємною частиною цієї місії.
Аплікаційне завдання
Запитуйте 6 джерел і 2 цитати від AI у вашій галузі. Перевіряйте кожне джерело, шукаючи його в справжньому каталозі та кожну цитату в фактичній роботі автора; Зверніть увагу, скільки вигадок. Потім, використовуючи шаблон «План навчання інформаційній грамотності», складіть 20-хвилинний посібник, щоб пояснити перевірку джерела для групи користувачів і включити реальні приклади, які ви знайшли самі.
контрольний список
- [ ] Я незалежно перевірив, що кожне джерело насправді існує.
- [ ] Я використовував першоджерела всюди, де це було можливо.
- [ ] Я перевірив критичні твердження принаймні з двох незалежних джерел.
- [ ] Я перевірив цитати, відшукавши їх у справжньому творі автора.
- [ ] Я чітко позначив інформацію, що не підлягає перевірці, як "неперевірену".