Прибуток:
- Здатність пояснити, чому галюцинація (сфабриковане джерело, цитата, подія) і анахронізм є найнебезпечнішими помилками в історії
- Здатність застосовувати дисципліну перевірки кожного посилання в каталозі, порівняння вмісту з документом і перехресного підтвердження критичних фактів.
- Можливість ставити під сумнів упередженість і відсутність голосів у джерелах, запитуючи штучний інтелект, де шукати замість справжнього джерела
Існує застереження, повторюване в кожному блоці цього модуля: вихід ШІ є твердженням, а не фактом, поки не буде перевірено. Цей підрозділ перетворює це попередження на дисципліну. Історія та архівування за своєю суттю є галузями, заснованими на фактах; Найосновнішим навиком історика є критика джерел (допитування, ким, коли, з якою метою було створено джерело та наскільки воно надійне). В епоху штучного інтелекту ця навичка стала ще більш важливою, оскільки саме джерело тепер може бути сфабрикованим.
Тут ми детально розглянемо три небезпеки: галюцинації (штучний інтелект створює сфабриковану інформацію, джерела чи цитати), анахронізм (періодичні елементи видання переносяться на неправильний період) і дисципліну перевірки джерела загалом. Ми також побачимо, що штучний інтелект навчатиметься з джерел, які в минулому були неточними або упередженими, тому він зможе відтворювати упередженість.
Галюцинація: найнебезпечніша помилка
Галюцинація - це коли штучний інтелект впевнено представляє те, чого насправді не існує. Історично це найчастіше зустрічається в таких формах:
- Сфабриковане джерело/посилання: неіснуючий архівний фонд, номер справи, книги чи статті.
- Вигадана цитата: слово, яке насправді не було сказано, речення, якого немає в документі.
- Вигадана подія/дата/особа: подія, яка не відбулася, фальшива дата, особа, якої не існує.
- Вигаданий зв’язок: неіснуючий причинно-наслідковий зв’язок між двома реальними подіями.
Галюцинації небезпечні тим, що вони здаються правдоподібними. Вигадана довідка має такий же формат, як і справжня довідка: назва фонду, номер, дата. Тому «формат виглядає правильно» ніколи не означає «правильно».
Увага: жоден ресурс, створений YZ, не може бути використаний без перевірки та пошуку в каталозі чи в надійному місці. Єдиний спосіб довести, що посилання існує, це побачити його там, де знаходиться першоджерело (архівний каталог, бібліотека, публікація). «ШІ дав це» не є доказом.
Анахронізм: окуляри періоду
Анахронізм – це погляд на минуле крізь окуляри сьогодення. Оскільки ШІ навчається сучасній мові, він має сильну тенденцію:
- Анахронізм терміну: використання слова, установи чи поняття, які не належать до періоду.
- Анахронізм концепції: проектування ідеї сьогодення (наприклад, сучасної ідеології чи ідентичності) у минуле.
- Анахронізм цінностей: судити про минулу поведінку лише за сьогоднішніми стандартами.
Завдання історика — зрозуміти минуле в його контексті. AI не має цієї контекстної чутливості; Ви повинні забезпечити це самостійно.
Розуміння того, чому галюцинації виникають так часто, полегшує захист від них. AI — це система, яка працює, щоб створити «наступне найбільш імовірне слово»; Це не має такої мети, як «пізнання правди». Коли йому задають запитання, незалежно від того, знає він відповідь чи ні, він створює текст, який виглядає статистично переконливим. Формат архівної довідки (назва фонду, номер, дата) – засвоєний зразок; ШІ може заповнити цей шаблон без справжнього посилання. Тож «чому штучний інтелект це вигадує?» Відповідь на питання проста: йому легше помиритися, ніж «не знати». На вас лежить відповідальність за заповнення цих форм реальними ресурсами.
Дисципліна перевірки джерела: крок за кроком
1. Перевірте існування ресурсу. Знайдіть кожне посилання, надане ШІ, у каталозі/публікації. Якщо ви не можете його знайти, не використовуйте його.
2. Порівняйте зміст із джерелом. Чи інформація, яку ШІ приписує документу, насправді існує в документі? Цитата точно така ж?
3. Перехресне підтвердження. Для критичного факту подивіться принаймні на два незалежні надійні джерела.
4. Застосуйте критику джерел. Чи надійне саме джерело? Хто, коли і з якою метою його створив? Це упереджено?
5. Пропустіть його через фільтр анахронізмів. Чи є якісь терміни, концепції чи оціночні судження, які не відповідають періоду в результатах?
6. Поставте під сумнів упередження. Чи міг ШІ відтворити упередження в історичних джерелах (ігнорування однієї групи, перевага однієї точки зору)?
Рівень автентифікації
Питання
хто робить
сутність
Цей ресурс справді існує?
Ви в каталозі.
Зміст
Чи справді це написано в документі?
Ви в документі
Підтвердження
Чи підтримує це будь-яке інше джерело?
ти, хрест
надійність
Чи надійне джерело?
експертне судження
Крапка
Чи є якісь анахронізми?
експертне судження
упередження
Чий голос відсутній/спотворений?
експертне судження
три міні-чохла
Випадок 1 — Шість сфабрикованих посилань. Дослідник попросив ШІ надати список джерел на тему. YZ надав 6 архівних посилань з ідеальним форматуванням. Під час пошуку в каталозі 4 з 6 були відсутні, 2 з них мали неправильний номер. Якби дослідник не перевірив, з’явилося б дослідження, яке цитувало б неіснуючі джерела. Урок: кожне посилання перевіряється в каталозі.
Випадок 2 — Вигадана цитата. Письменник використав би вражаючу цитату, яку ШІ приписує історичній особі. Коли він перевірив джерело, він побачив, що немає жодного документа, який би підтверджував, що ця особа сказала таке, і що заява була «придумана» ШІ. Урок: цитати не можна використовувати без перевірки з первинного або надійного джерела.
Випадок 3 — Відтворення упередженого ставлення. Студент мав ШІ пояснити історію регіону. Результати повністю ігнорували конкретну спільноту в цій області, оскільки джерела, з яких дізнався ШІ, також ігнорували їх. Учень помітив і виправив цю прогалину перехресними посиланнями. Урок: AI відтворює замовчування та упередження в джерелах; Треба запитати, чий голос відсутній.
Чотири шаблони, які можна копіювати
1) Перелік референсів:
УСІ джерела, посилання, цитати, дати та імена осіб у тексті нижче відображаються в окремому списку. Додайте примітку для кожного: «заявлене в цьому тексті має бути незалежно перевірено». Якщо ви не вибрали жодного, «підтвердити»; Просто створіть список для перевірки, щоб я міг перевірити його з каталогу/джерела. Текст: [тут]
2) Сканування анахронізму:
Перегляньте текст про [період] нижче. Виділіть терміни, інститути, концепції та цінності, які МОЖУТЬ НЕ належати до цього періоду. Для кожного коротко напишіть, чому ви викликаєте підозру. Винесення остаточного рішення; Складіть список підозр, які перевірить експерт. Текст: [тут]
3) Основи критики джерела:
Критичний аналіз джерела складається щодо наступного джерела: (1) Хто міг його створити, (2) Коли, (3) З якою метою, (4) Які його можливі упередження, (5) Яким питанням слід довіряти, а з якими слід бути обережними. Винесення остаточного рішення; Надайте запитання та можливі варіанти відповідей. Джерело: [тут]
4) Відсутній регулятор гучності/зміщення:
ЧИЙ голос і досвід якої групи може бути відсутнім або одностороннім у наступному історичному підсумку? Яка перспектива домінує, яка непомітна? Оформіть це як список питань; Я заповню його перехресними посиланнями. Резюме: [тут]
Слабка підказка / Сильна підказка
Слабкий:
Наведіть мені достовірні історичні джерела та цитати на цю тему.
ШІ дуже схильний створювати посилання, які правильні за формою, але сфабриковані за змістом, коли запитують «джерело» та «цитата». Ця підказка є прямим запрошенням до галюцинації.
Сильний:
Запропонуйте, які ВИДИ джерел (тип архівного фонду, тип видання, установа) мені слід шукати в моїх дослідженнях на цю тему. ПІДСТАВКА конкретного посилання, номера файлу або цитати; Просто скажіть, де шукати. Тоді я знайду справжні джерела з каталогів.
Відмінність: ШІ запитують «де шукати», а не «фактичну довідку»; Ризик галюцинацій радикально знижується, а перевірка залишається за людиною.
Поширені помилки
- Спираючись на правильне посилання. Вигадане посилання також виглядає бездоганним; повинні бути перевірені в каталозі.
- Пряма цитата з AI. Цитати не можна використовувати без підтвердження від первинного/надійного джерела.
- Не помічаючи анахронізму. Сьогоднішні терміни та поняття мовчки просочуються в минуле.
- Відтворюючи упередження. AI копіює мовчання з джерел; Треба запитати про відсутній звук.
- Покладаючись на єдине джерело. Критичні факти мають бути підтверджені як мінімум двома незалежними джерелами.
Підсумовуючи
Перевірка джерела є основою історії та архівування, а в епоху штучного інтелекту ще важливіша. Галюцинація породжує джерела, цитати та події, форма яких ідеальна, але зміст вигаданий; анахронізм спотворює минуле через призму сьогодення; і ШІ відтворює упередження в джерелах. Захист — це дисципліна: перевіряйте кожне посилання в каталозі, порівнюйте вміст із документом, перехресно перевіряйте критичні факти, фільтруйте періоди та упередженість. Запитайте ШІ «де шукати», а не «справжнє джерело». Охоронець істини завжди експерт.
Аплікаційне завдання
Попросіть штучний інтелект створити список ресурсів на тему, над якою ви працюєте (з навмисним «слабким підказком»). Потім витягніть усі посилання з цього результату за допомогою шаблону «списку перевірки посилань» і знайдіть кожне з них у каталозі. Підрахуйте, скільки насправді існує, а скільки вигаданих або неточних. Повторіть ту саму тему з «сильною підказкою» («куди мені шукати») і відчуйте різницю.
контрольний список
- [ ] Я перевірив кожне посилання в каталозі/надійному джерелі.
- [ ] Я перевірив кожну цитату з первинним/надійним джерелом.
- [ ] Я перевірив важливі факти принаймні з двох незалежних джерел.
- [ ] Я відфільтрував вивід на анахронізми.
- [ ] Я поставив під сумнів відсутні/спотворені голоси та упередженість.