Прибыль:
- Возможность уловить галлюцинацию путем проверки существования каждого источника, перехода к первичному источнику и независимых шагов перекрестного подтверждения.
- Способность сохранять оригинальность и академическую честность в отношении сфабрикованных цитат и документов по гуманитарным и социальным наукам.
- Способность обучать пользователей навыкам проверки источников и информационной грамотности в эпоху искусственного интеллекта.
В основе социальной миссии библиотечного дела лежит единственное обещание: надежная информация. Библиотекарь подводит пользователя не просто к информации, а к проверенной информации, учит его самому оценивать эту информацию. В эпоху искусственного интеллекта эта миссия стала одновременно сложнее и важнее; потому что ИИ может создавать дезинформацию весьма убедительным образом. В этом модуле мы рассмотрим распознавание галлюцинаций, дисциплину проверки источников и обучение информационной грамотности в эпоху искусственного интеллекта.
Давайте определимся с понятиями. Галлюцинация — это когда ИИ создает информацию, источники, цитаты или события, которые на самом деле не существуют, как если бы они были реальными. Проверка источника — это подтверждение того, что информация основана на реальном, надежном и первоисточнике. Информационная грамотность – это способность человека находить информацию, оценивать ее, подвергать сомнению ее достоверность и использовать ее этично. Цель этого модуля – помочь библиотекарю укрепить эти навыки как в своей собственной практике, так и в обучении пользователей.
Шаг за шагом: дисциплина проверки источников
1. Запросите источник и проверьте его существование. Когда ИИ высказывает утверждение или цитату, «из какого это источника?» и убедитесь, что источник действительно существует в независимом каталоге, базе данных или первичном документе.
2. Перейти к первоисточнику. Самая надежная форма информации – это ее источник из первых рук. Не соглашайтесь на краткое изложение ИИ или второстепенный текст; Если возможно, получите доступ к исходному документу, данным или публикации.
3. Перекрестное подтверждение. Подтвердите критическое утверждение как минимум с помощью двух надежных источников, независимых друг от друга. Одного ресурса, особенно ресурса ИИ, недостаточно.
4. Оцените достоверность источника. Кто это написал, когда, с какой целью, на каких основаниях? Это актуально? Существование информации не делает ее правдой; Также задайте вопрос о природе источника.
5. Честно выражайте неуверенность. Если информацию невозможно проверить, скажите об этом четко. Всегда лучше сказать «неподтверждено», чем предлагать сфабрикованную уверенность.
Совет: получив цитату или источник от AI, сначала найдите название и автора в актуальном каталоге. Здесь сразу появляются несуществующие ресурсы. Эта 30-секундная проверка предотвращает попадание сфабрикованного источника в библиографию, задание или публикацию.
Подлинность и верификация в гуманитарных и социальных науках
Гуманитарные и социальные науки особенно уязвимы к риску галлюцинаций. В этих областях доказательства часто основаны на конкретном документе, дате, цитате или источнике комментария. ИИ может выдвигать весьма конкретные, но полностью сфабрикованные утверждения, такие как «это сказал историк» или «говорит этот документ 1923 года». В произведении литературы, истории или права это означает ложную цепочку доказательств.
Более того, оригинальность является фундаментальной ценностью этих полей: важно, кому на самом деле принадлежит текст, интерпретация или перевод. Представление текста, созданного ИИ, как оригинальной работы или использование «источника», созданного ИИ, нарушает академическую честность. Библиотекарь — это гид, который учит пользователей как проверке, так и пределам оригинальности и плагиата.
Внимание: даже в тех случаях, когда цитата, сгенерированная ИИ, выглядит дословно точной и принадлежит реальному автору, эта цитата может быть сфабрикована. Проверьте цитату, найдя ее только в реальной работе автора; Логики «этот автор мог бы сказать что-то подобное» недостаточно.
три мини-кейса
Случай 1. Студента обучали проверке. Библиотекарь увидела в задании ученика 5 ресурсов от ИИ. Вместе проверили по каталогу: сфабриковано 2 источника. Студент на собственном опыте узнал, что «нехорошо выглядеть настоящим», и вновь приобрел привычку проверять каждый источник.
Случай 2 — Сфабрикованный исторический документ. Исследователь получил от AI «газетный отчет за 1919 год»; Дата, название газеты и содержание были чрезвычайно убедительны. Библиотекарь просмотрел архив газеты: таких новостей на тот момент не было. Сфабрикованный первоисточник был пойман еще до того, как он превратился в статью.
Случай 3 — Неправильно указана цитата. AI приписал цитату известному мыслителю. Библиотекарь искал это слово в произведениях мыслителя и не мог его найти; Это слово нигде не упоминалось. Перекрестная проверка предотвратила распространение ошибочно приписываемой цитаты.
Цепочка распространения дезинформации и роль библиотекаря
Дезинформация часто начинается с одного сфабрикованного сообщения, но на этом не заканчивается. Пользователь помещает в задание поддельный ресурс, созданный ИИ; задание становится публикацией; публикацию цитируют другие, так что вымышленный источник приобретает видимость «правды» при неоднократном цитировании. Мы можем назвать это загрязнением атрибуции: ложная информация приобретает легитимность, повторяясь снова и снова. Библиотекарь занимает самое важное звено в этой цепочке; потому что это последняя контрольная точка, где информация проверяется перед входом в систему. Тот факт, что источник «встречается во многих местах», еще не делает его правдивым; Одна и та же фейковая информация может появляться во многих местах, будучи скопированной друг у друга. Поэтому перекрестное подтверждение должно основываться на вопросе «сколько надежных источников подтверждают это независимо друг от друга», а не «сколько мест это появляется?» Десять вторичных источников, повторяющих одно и то же утверждение, не имеют такой же ценности, как один независимый первоисточник. Библиотекарю следует поставить это различие (не путая независимость с повторением) в центр как своей собственной проверки, так и обучения пользователя.
Внимание: появление информации в поисковой системе или на многих веб-страницах не является доказательством ее достоверности. Та же ошибка могла получить широкое распространение из-за копирования из источника в источник. Распространенность и точность — разные вещи; Для подтверждения требуется независимый и надежный источник.
Четыре копируемых шаблона
1) Запрос объекта ресурса:
Перечислите все ссылки на источники и цитаты в тексте ниже. По каждому: автор, название, год и информация о публикации (если есть). Извлекайте поэлементно информацию, которую мне необходимо проверить; не добавляйте.Текст: [здесь]
2) Оценка подтверждаемости:
Для каждого из следующих утверждений выделите фактические элементы (дата, имя, номер, цитата), которые необходимо проверить. Предложите, по какому типу источника (каталог, первичный документ, база данных) можно сверить. Не судите о точности, просто покажите путь проверки. Утверждения: [здесь]
3) Контрольный список надежности сварки:
Оцените достоверность следующего источника: кто его написал, когда и с какой целью, есть ли доказательства, актуальны ли они, возможна ли предвзятость? Просто положитесь на ту информацию, которую я дал, там, где ее нет, напишите «неизвестно». Источник информации: [здесь]
4) План обучения информационной грамотности:
Подготовьте краткое 20-минутное руководство по проверке источников и галлюцинациям в эпоху искусственного интеллекта для следующей группы пользователей (например, студентов): цели, 3 примера, 1 приложение. Группа: [здесь]
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Напишите краткое изложение по этой теме с использованием надежных источников.
Утверждение «с надежными источниками» побуждает ИИ создавать фальшивые источники, которые кажутся реальными; Крюка проверки нет.
Мощная подсказка:
Ваша роль: помощник по информационной грамотности. НАПИСАНИЕ конспекта по следующей теме; Вместо этого перечислите фактические вопросы, которые пользователь должен проверить, и тип надежного источника, с помощью которого он может их проверить. Не фабрикуйте ссылки на источники; Отметьте область, в которой вы не уверены, как «необходимо проверить». Тема: [здесь]
Мощная подсказка; Он использует ИИ в качестве руководства, которое показывает путь к проверке, а не дает ответы, и структурно предотвращает фальсификацию.
Таблица уровней аутентификации
слой
Вопрос
Метод
сущность
Этот источник настоящий?
Поиск по каталогу/базе данных
первенство
Это ближайший источник?
Доступ к исходному документу
Подтверждение
Другой источник это подтверждает?
Независимая перекрестная проверка
надежность
Насколько надежен источник?
Автор, дата, цель, доказательства
честность
Я уверен?
Четко констатируйте неопределенность
Распространенные ошибки
- Думать, что то, что убедительно, является правдой. Хороший внешний вид не является доказательством праведности.
- Удовольствие от одного источника. Критическая информация требует независимого перекрестного подтверждения.
- Не ищу цитату в ее источнике. Вот как распространяются неверно приписываемые слова.
- Скрытие неуверенности. «Непроверяемость» лучше, чем ложная уверенность.
- Не обучать пользователя аутентификации. Информационная грамотность – миссия библиотекаря.
В заключение
Проверка источников и информационная грамотность являются наиболее важными задачами библиотечного дела в эпоху искусственного интеллекта. Галлюцинация производит убедительную, но сфабрикованную информацию и особенно опасна в гуманитарных/социальных науках. Дисциплина ясна: проверить существование каждого источника, обратиться к первоисточнику, провести независимую перекрестную проверку, поставить под сомнение достоверность источника и честно выразить неуверенность. Библиотекарь распространяет эту культуру проверки не только в своей практике, но и путем обучения пользователей; Оригинальность и академическая честность являются неотъемлемой частью этой миссии.
Задача приложения
Запросите 6 источников и 2 цитаты от AI в вашей области. Проверьте каждый источник, найдя его в реальном каталоге и каждую цитату в реальной работе автора; Обратите внимание, сколько выдумок. Затем, используя шаблон «План обучения информационной грамотности», напишите 20-минутное руководство, объясняющее проверку источника группе пользователей, и включите реальные примеры, которые вы нашли сами.
контрольный список
- [ ] Я независимо проверил, что каждый источник действительно существует.
- [ ] Я использовал первоисточники везде, где это возможно.
- [ ] Я сверил критические утверждения как минимум с двумя независимыми источниками.
- [ ] Я проверил цитаты, найдя их в реальных работах автора.
- [ ] Я четко обозначил непроверяемую информацию как «непроверяемую».