Прибыль:
- Знание того, почему галлюцинация скрыта в человеческой сфере, и возможность пройти каждый источник через пятиступенчатую цепочку проверки (существование, отпечаток, цитата, контекст, атрибуция)
- Возможность подтвердить подлинность источника с помощью конкретных идентификаторов, таких как DOI, ISBN и каталог.
- Поймите правила запрета искусственному интеллекту создавать фальсификации и никогда не делегируйте ему проверку честности цитат и атрибуций.
Ценность текста в человеческой и социальной сферах зависит от достоверности и точной передачи источников, на которых он основан. Литературное эссе, диссертация, конспект лекции — все это опирается на надежные источники и честное указание авторства (показывающее, от кого/где вы получили информацию или цитату). ИИ предлагает большое удобство в этой области, но он также несет в себе и самую большую опасность: галлюцинацию, то есть выдачу несуществующего источника, цитаты или факта за реальный. Это подразделение призвано создать «броню проверки» против этой опасности.
Правило одного предложения: ни один источник, цитата, дата или число, сгенерированные ИИ, не могут вводиться в текст без подтверждения от первого лица из основного или надежного источника. Это правило является наиболее повторяющимся и наименее гибким правилом этого модуля.
Почему галлюцинации так опасны в этой области?
Если ИИ ошибается в техническом вопросе, это часто будет замечено; но в человеческой сфере галлюцинация умело скрывается:
- Реалистичная подпись: ИИ объединяет имя реального автора с заголовком, соответствующим области и разумному году. В результате получается источник, которого не существует, но который выглядит совершенно реальным.
- Цитата, соответствующая стилю: ИИ может имитировать стиль автора и представить не принадлежащее ему предложение как «его слово».
- Близкая, но неправильная дата: Год произведения может быть сдвинут на один или два года; Это ускользает от невнимательного читателя.
- Запутанная атрибуция: может приписать идею не тому человеку.
Все это может незаметно проникнуть в текст автора с честными намерениями и, если его не поймать, нанести ущерб как репутации автора, так и доверию читателя.
Внимание: то, что ресурс кажется ИИ «реалистичным», не означает, что он реален. Реализм и реальность — две разные вещи; ИИ — мастер в первом, но не может гарантировать второе.
Проверка брони: шаг за шагом
Для каждого источника и цитаты следуйте такой цепочке:
- Есть? Ищите источник в каталоге библиотеки, надежной базе данных или на сайте издательства. Если его невозможно найти, значит, он не существует — не используйте его.
- Отпечаток правильный? Автор, название, издательство/журнал, год, страница — все должно точно совпадать.
- Цитата реальна? Найдите цитату в самом источнике, на указанной странице, и сравните ее дословно.
- Верен ли контекст? Цитата использована буквально или она искажена?
- Честна ли атрибуция? Приписана ли идея тому человеку, не изображено ли что-то, взятое из вторичного источника, как первичное?
Если хотя бы одно звено этой цепи разорвано, оно не может войти в исходный текст.
Совет: с самого начала проинструктируйте ИИ: «Не сообщайте ни одного источника, в существовании которого вы не уверены; если вы не уверены, скажите: «Я не смог найти источник». Это не прекращает галлюцинацию полностью, но побуждает ИИ сказать «Я не знаю» вместо того, чтобы помириться.
Цитирование и дисциплина цитирования
Наряду с проверкой, честная атрибуция также является дисциплиной:
- Дайте прямую цитату с кавычками и страницей; Пусть это будет буквально.
- Также привяжите к источнику косвенную цитату (изложение своими словами); Если идея не ваша, она требует указания авторства.
- Прозрачно укажите вклад ИИ в соответствии с правилами вашей организации; ИИ не является «ресурсом», но если он используется, он должен быть объявлен.
- Не изображайте вторичный источник как первичный; Если вы взяли цитату автора из другой книги, укажите это.
три мини-кейса
Случай 1 — Два из пяти источников оказались фиктивными. Исследователь прошел процедуру проверки 5 источников, предоставленных ИИ. 2 вообще не было в каталоге, 1 год был не тот, 2 настоящие и правильные. Использовались только 2 проверенных; статья защищена от фиктивного указания авторства.
Случай 2 — Обнаружено искажение котировок. Один студент нашел цитату ИИ в реальной книге, но в исходном контексте эта цитата означала прямо противоположное. ИИ вырвал предложение из контекста. Студент исправил цитату, указав правильный контекст.
Случай 3. Исправлена неправильная атрибуция. В одной из лекций AI приписал мнение не тому автору. Когда учитель сверил его с двумя надежными источниками, он нашел законного владельца и исправил проблему. Записка сохранилась, не причинив вреда студенту.
Четыре копируемых шаблона
1) Инструкция по запрету изготовления:
С этого момента: НЕ указывайте источник, цитату, дату или номер, в существовании которых вы не уверены. Если вы не уверены, скажите «Требуется проверка» или «Я не смог его найти». Никогда не давайте бирку, которая является реалистичной, но вы не можете гарантировать ее подлинность. Следуйте этому правилу в каждом ответе.
2) План проверки источника:
Я сам проверю источник ниже. Подскажите, где искать этот ресурс (каталог, базу данных, издательство) и с какой ключевой информацией. ВЫ подтверждаете, что ресурс существует; просто укажите этапы проверки. Источник: [вставьте ссылку]
3) Проверка контекста цитаты:
Ниже приведена цитата и сам абзац, в котором она встречается. Цитата использована в исходном контексте или она искажена? Просто положитесь на текст, который я вам дал; добавление комментария.Цитата: [...] Исходный абзац: [...]
4) Аудит целостности атрибуции:
В моем тексте ниже: какие предложения требуют источника, но остаются без указания авторства, какая идея может принадлежать кому-то другому, есть ли место, где я показываю вторичный источник как первичный? Предложение сфабрикованных источников; просто укажите недостающие цитаты. Текст: [вставить текст]
Слабая подсказка / Сильная подсказка
Слабое: «Приведите 5 научных источников и цитат по этой теме».
Гючлю: «Скажите мне, какие источники и ключевые слова мне следует искать при исследовании этой темы. Не приводите никаких ссылок или цитат, в существовании которых вы не уверены; если вы не уверены, скажите: «Я не смог это найти». Я дам вам источники, которые найду позже; я подтвержу цитаты из книг».
Мощная подсказка закрывает дверь галлюцинациям и оставляет проверку человеку. Слабая подсказка напрямую побуждает к производству воображаемых ресурсов.
Таблица цепочки проверки
шаг
Вопрос
место проверки
сущность
Источник действительно существует?
Каталог/база данных
отпечаток
Автор, год, страница верны?
Издательство/выходные данные
цитата
Это дословно в тексте?
сам источник
Контекст
Смысл искажен?
главный абзац
Цитирование
Подходящему человеку?
перекрестная проверка
Проверка с постоянной ссылкой и выходными данными
Существуют конкретные способы быстро и надежно подтвердить, существует ли ресурс на самом деле. Большинство современных научных публикаций имеют DOI (цифровой идентификатор объекта — неизменный уникальный идентификатор, постоянно присвоенный публикации; он действует как ссылка и ведет непосредственно к публикации). Если вы получаете доступ к фактической публикации, когда вводите DOI статьи в браузер, этот источник существует; Если вы не можете его найти или DOI вообще не существует, будьте подозрительны. «DOI», сгенерированные ИИ, часто являются вымышленными и никуда не годятся; Это один из наиболее практичных тестов по улавливанию воображаемого источника.
ISBN (международный стандартный номер книги) обеспечивает аналогичную идентификацию книг; Проверить подлинность книги можно, выполнив поиск по ISBN в библиотечном каталоге или надежной книжной базе данных. Для периодических изданий проверьте название журнала и информацию о томе/выпуске на официальном сайте издателя. Эти конкретные личности являются ответом на вопрос: «Реален ли источник?» Он четко ответит на ваш вопрос в течение нескольких минут.
Эти методы превращают проверку в «транзакцию», а не в «акцию»: когда вы открываете и просматриваете каждый источник лично, в каталоге, по DOI или на сайте издателя, риск фантомной атрибуции во многом исключается.
Совет: Когда вы закончите свою библиографию, проведите «экскурсию по клику»: фактически откройте DOI или запись каталога каждого источника. Даже одиночный не открывающийся ресурс – это предупреждение; либо исправьте его правильным отпечатком, либо удалите из списка.
Распространенные ошибки
- Принятие реализма за реальность. Правдоподобная личность ИИ не доказывает его существование.
- Не проверяю цитату из источника. Возможна утечка сфабрикованных или искаженных цитат.
- Получение истории из одного источника. Перекрестная проверка по крайней мере с двумя надежными источниками.
- Сделать второстепенное похоже на первичное. Честно изложите цепочку передачи.
- Ссылаясь на ИИ в качестве источника. ИИ — это не ресурс; заявлено его использование, дана ссылка на первоисточник.
В итоге
Честность в гуманитарных науках зависит от точности источника и цитирования. Самая большая опасность ИИ заключается в том, что он создает источники и цитаты, которые выглядят реалистично, но не существуют. Пропустите каждый источник и цитату через пятиэтапную цепочку проверки (сущность, авторство, цитата, контекст, атрибуция). Запретите ИИ фабриковать с самого начала и никогда не делегируйте ему проверку. Эта дисциплина – залог вашей надежности в этой профессии.
Задача приложения
Попробуйте попросить ИИ предложить несколько источников и цитату по теме. Проведите каждый источник через цепочку проверки: сколько их существует на самом деле, сколько имеет правильную атрибуцию, действительно ли цитата находится в источнике? Запишите результаты в таблицу. Этот опыт конкретно покажет пределы возможностей ИИ в этой области.
контрольный список
- [ ] Я подтвердил наличие каждого ресурса в каталоге.
- [ ] Я дословно проверил каждую цитату из первоисточника.
- [ ] Я проверил, контекст цитаты не искажен.
- [ ] Я сверил даты как минимум с двумя источниками.
- [ ] Я запретил ИИ фабриковать и не делегировал ему проверку.