Прибыль:
- Умение объяснить, почему галлюцинация (вымышленный источник, цитата, событие) и анахронизм являются самыми опасными ошибками в истории.
- Способность применять дисциплину проверки каждой ссылки в каталоге, сравнения содержания с документом и перекрестного подтверждения важных фактов.
- Возможность подвергать сомнению предвзятость и отсутствие голосов в источниках, спрашивая искусственный интеллект, где искать, вместо реального источника.
В каждом модуле этого модуля повторяется предостережение: выходные данные ИИ являются утверждением, а не фактом, пока не проверены. Этот модуль превращает это предупреждение в дисциплину. История и архивирование по своей сути являются областями, основанными на фактических данных; Самым основным навыком историка является источниковедение (выяснение того, кем, когда, с какой целью был создан источник и насколько он надежен). В эпоху искусственного интеллекта этот навык стал еще более важным, поскольку теперь сам источник может быть сфабрикован.
Здесь мы подробно рассмотрим три опасности: галлюцинации (ИИ производит сфабрикованную информацию, источники или цитаты), анахронизм (периодические элементы переносятся в неправильный период) и дисциплину проверки источников в целом. Мы также увидим, как ИИ будет учиться на источниках, которые в прошлом были неточными или предвзятыми, поэтому он сможет воспроизводить предвзятость.
Галлюцинация: самая опасная ошибка
Галлюцинация — это когда ИИ уверенно представляет то, чего на самом деле не существует. Исторически оно чаще всего встречается в следующих формах:
- Сфабрикованный источник/ссылка: несуществующий архивный фонд, номер дела, книга или статья.
- Выдуманная цитата: Слово, которое на самом деле не было сказано, предложение, которого нет в документе.
- Выдуманное событие/дата/человек: Событие, которого не было, ложная дата, человек, которого не существует.
- Фиктивная связь: несуществующая причинно-следственная связь между двумя реальными событиями.
Что делает галлюцинацию опасной, так это то, что она кажется правдоподобной. Выдуманная справка имеет тот же формат, что и реальная справка: название фонда, номер, дата. Таким образом, «формат выглядит правильно» никогда не означает «правильный».
Внимание: ни один ресурс, созданный YZ, не может быть использован без проверки и поиска в каталоге или в надежном месте. Единственный способ доказать существование ссылки – это увидеть ее там, где находится первоисточник (каталог архива, библиотека, издание). «ИИ дал это» не является доказательством.
Анахронизм: очки того периода
Анахронизм – это смотреть на прошлое сквозь очки сегодняшнего дня. Поскольку ИИ обучается на современном языке, он имеет сильную тенденцию:
- Терминовый анахронизм: использование слова, учреждения или концепции, не принадлежащих к данному периоду.
- Концептуальный анахронизм: проецирование идеи настоящего (например, современной идеологии или идентичности) в прошлое.
- Ценностный анахронизм: оценка прошлого поведения только по сегодняшним стандартам.
Задача историка – понять прошлое в его контексте. ИИ лишен такой контекстной чувствительности; Вы должны предоставить его сами.
Понимание того, почему галлюцинации случаются так часто, позволяет легче защититься от них. ИИ — это система, которая производит «следующее наиболее вероятное слово»; У него нет такой цели, как «познание истины». Когда ему задают вопрос, знает ли он ответ или нет, он выдает текст, который выглядит статистически убедительным. Формат архивной справки (наименование фонда, номер, дата) – заученный образец; ИИ может заполнить этот шаблон без реальной ссылки. Итак, «почему ИИ это выдумывает?» Ответ на вопрос прост: ему легче помириться, чем «не знать». На вас ложится ответственность заполнить эти формы реальными ресурсами.
Дисциплина проверки источников: шаг за шагом
1. Проверьте существование ресурса. Найдите каждую ссылку, предоставленную AI, в каталоге/публикации. Если вы не можете его найти, не используйте его.
2. Сравните контент с первоисточником. Существует ли в документе информация, которую ИИ приписывает документу? Цитата точно такая же?
3. Перекрестное подтверждение. Для получения критического факта обратите внимание как минимум на два независимых надежных источника.
4. Применяйте критику источников. Является ли сам источник надежным? Кто его создал, когда и с какой целью? Это предвзято?
5. Пропустить через фильтр анахронизма. Есть ли какие-либо термины, концепции или оценочные суждения, которые не соответствуют периоду в результатах?
6. Ставьте под сомнение предрассудки. Мог ли ИИ воспроизвести предвзятость исторических источников (игнорируя одну группу, отдавая предпочтение одной точке зрения)?
Уровень аутентификации
Вопрос
кто делает
сущность
Существует ли этот ресурс на самом деле?
Вы в каталоге.
Содержание
Действительно ли об этом говорится в документе?
Вы в документе
Подтверждение
Поддерживает ли это какой-либо другой источник?
ты, крест
надежность
Является ли источник надежным?
экспертное заключение
Период
Есть ли анахронизмы?
экспертное заключение
предубеждение
Чей голос отсутствует/искажается?
экспертное заключение
три мини-кейса
Случай 1. Шесть сфабрикованных ссылок. Исследователь запросил у ИИ список источников по теме. YZ предоставил 6 архивных ссылок в идеальном форматировании. При поиске по каталогу 4 из 6 отсутствовали, у 2 из них был неправильный номер. Если бы исследователь не проверил, появилось бы исследование, в котором цитировались несуществующие источники. Урок: каждая ссылка проверяется в каталоге.
Случай 2 — Выдуманная цитата. Писатель использовал бы яркую цитату, которую ИИ приписывает исторической личности. Когда он исследовал источник, он увидел, что не было никакого документа, подтверждающего, что этот человек сказал такие вещи, и что заявление было «придумано» ИИ. Урок: цитаты нельзя использовать без проверки из первоисточника или надежного источника.
Случай 3 — Воспроизведение предрассудков. Студент попросил ИИ объяснить историю региона. Вывод полностью игнорировал определенное сообщество в этой области, потому что источники, из которых учился ИИ, также игнорировали их. Студент заметил и исправил этот пробел перекрестными ссылками. Урок: ИИ воспроизводит молчание и предвзятость в источниках; Надо спросить, чей голос отсутствует.
Четыре копируемых шаблона
1) Список проверки ссылок:
ВСЕ источники, ссылки, цитаты, даты и имена людей в тексте ниже отображаются в отдельном списке. Для каждого добавьте пометку: «Утвержденное в данном тексте должно быть независимо проверено». Если вы не выберете «Нет», «подтвердить»; Просто создайте список для проверки, чтобы я мог проверить его по каталогу/источнику. Текст: [здесь]
2) Сканирование анахронизмов:
Изучите текст о [точке] ниже. Выделите термины, институты, понятия и ценности, которые НЕ МОГУТ относиться к этому периоду. Для каждого кратко напишите, почему вы вызываете подозрения. Вынесение окончательного решения; Составьте список подозрений, которые проверит эксперт. Текст: [здесь]
3) Система критики источников:
Критика источника составляется в отношении следующего источника: (1) Кто мог его создать, (2) Когда, (3) Для какой цели, (4) Каковы его возможные предвзятости, (5) Каким вопросам следует доверять, а с какими следует быть осторожными. Вынесение окончательного решения; Приведите вопросы и возможные варианты ответов. Источник: [здесь]
4) Отсутствует регулировка громкости/смещения:
Чей голос и опыт какой группы могут быть отсутствующими или односторонними в следующем историческом обзоре? Какая точка зрения является доминирующей, какая невидима? Оформите это в виде списка вопросов; Я наполню его перекрестными ссылками. Резюме: [здесь]
Слабая подсказка / Сильная подсказка
Слабый:
Дайте мне достоверные исторические источники и цитаты на эту тему.
ИИ очень склонен создавать ссылки, которые верны по форме, но сфабрикованы по содержанию, когда его просят указать «источник» и «цитата». Эта подсказка является прямым приглашением к галлюцинации.
Сильный:
Предложите, какой ВИД источников (тип архивного фонда, тип издания, учреждение) мне следует искать в своих исследованиях по этой теме. СООТВЕТСТВИЕ конкретной ссылке, номеру файла или цитате; Просто скажи мне, где искать. Потом найду реальные исходники из каталогов.
Разница: ИИ запрашивает «где искать», а не «фактическую ссылку»; Риск галлюцинаций радикально снижается, и проверка остается на усмотрение человека.
Распространенные ошибки
- Опираясь на правильную ссылку. Выдуманная ссылка также выглядит безупречно; необходимо уточнять по каталогу.
- Цитирую напрямую AI. Цитаты не могут быть использованы без подтверждения из первичного/надежного источника.
- Не обращая внимания на анахронизм. Сегодняшние термины и понятия незаметно просачиваются в прошлое.
- Воспроизводство предрассудков. ИИ копирует молчание из источников; Надо спросить про пропавший звук.
- Опираясь на один источник. Критические факты должны быть подтверждены как минимум двумя независимыми источниками.
В заключение
Проверка источников лежит в основе истории и архивирования, а в эпоху искусственного интеллекта она становится еще более важной. Галлюцинация порождает источники, цитаты и события, форма которых идеальна, но содержание вымышлено; анахронизм искажает прошлое сквозь призму сегодняшнего дня; а ИИ воспроизводит предвзятость в источниках. Защита — это дисциплина: проверяйте каждую ссылку в каталоге, сравнивайте содержание с документом, перепроверяйте важные факты, фильтруйте по периодам и предвзятости. Спросите у ИИ «где искать», а не «фактический источник». Хранитель истины всегда является экспертом.
Задача приложения
Попросите ИИ составить список ресурсов по теме, над которой вы работаете (с намеренно «слабой подсказкой»). Затем извлеките все ссылки из этих результатов с помощью шаблона «список проверки ссылок» и найдите каждую из них в каталоге. Посчитайте, сколько из них существует на самом деле, а сколько выдуманных или неточных. Повторите ту же тему с «сильной подсказкой» («где мне посмотреть») и почувствуйте разницу.
контрольный список
- [ ] Я проверил каждую ссылку в каталоге/надежном источнике.
- [ ] Я сверил каждую цитату с основным/надежным источником.
- [ ] Я сверил важные факты как минимум с двумя независимыми источниками.
- [ ] Я отфильтровал вывод на предмет анахронизмов.
- [ ] Я поставил под сомнение отсутствие/искажение голосов и предвзятость.