Прибыль:
- Способность использовать искусственный интеллект в качестве отправной точки в процессе исследования и связывать каждый факт и цитату с первоисточником.
- Способность распознавать риск сфабрикованных источников, фальшивых цитат и ложных дат (галлюцинаций) и применять систематическую проверку.
- Возможность редактировать исследовательские заметки, библиографию и контрольный список фактов с поддержкой искусственного интеллекта и поддерживать надежность статьи.
Невидимая основа хорошего письма — это исследования. Дата, статистика, цитата, научное открытие — все это обеспечивает достоверность текста. Один-единственный ложный факт может разрушить доверие ко всему произведению. Искусственный интеллект (ИИ) кажется соблазнительно полезным в исследовательском процессе: он дает немедленный, гибкий и уверенный ответ на каждый вопрос. Но здесь кроется самая опасная ловушка авторства: ИИ может создавать источники, цитаты, даты и выводы, которых на самом деле не существует, как если бы они были правдой. Мы можем резюмировать этот раздел одним предложением: ИИ может быть отправной точкой для исследований, но никогда не может быть конечным ресурсом.
Галлюцинации: самый коварный риск
Галлюцинация — это когда ИИ представляет несуществующую информацию безопасным и свободным языком. По данным исследований, наиболее опасными формами этого являются:
Сфабрикованный источник: ИИ может сфабриковать книгу, статью или отчет, которых на самом деле не существует; Более того, с реалистичным именем автора, годом и информацией о журнале. «Йылмаз, А. (2019). Цифровая грамотность. Журнал коммуникаций, 14 (2)». — звучит реально, но может быть и не так.
Поддельная цитата: ИИ может приписать цитату реального человека, которую он никогда не произносил. Называет имя известного писателя и фразу, которую этот писатель никогда не произносил.
Неверная дата/номер: Может указываться неверная дата события, статистика, процент; все одним и тем же точным тоном.
Запутанный факт: может спутать два истинных факта и создать ложную комбинацию (например, приписать утверждение одного человека другому).
Что общего у этих рисков: все они выглядят динамично и убедительно. Беглость — это не точность. Единственная защита — это систематическая проверка ссылки на первоисточник.
Внимание: спросите ИИ «реален ли этот источник?» Спрос НЕ является методом проверки. ИИ также может подтвердить источник, который он составил, как «да, это реально». Проверка производится вне ИИ, на первоисточнике: открытие журнала, книги, самой базы данных и ее нахождение.
Законная исследовательская роль ИИ
Несмотря на все эти предостережения, ИИ не бесполезен в исследованиях; только его роль ограничена. Законное использование:
Стартовая карта: определение того, с чего начать тему, какие есть подзаголовки и какие концепции необходимо изучить. Это списки того, что нужно искать, а не ответы.
Уточнение концепции: понимание незнакомого термина из первых рук (чтобы затем проверить его на основе источника).
Генерация вопросов: «Какие вопросы мне следует задать по этому поводу, что я мог пропустить?» ИИ хорошо указывает на слабые места.
Редактирование: суммирование, категоризация и форматирование библиографии собранных (проверенных) заметок.
В таблице ниже суммировано, что такое ИИ, а что нет в исследованиях:
Квест
Подходит ли ИИ?
Примечание
Вводная карта к теме
Да
Просто направление, а не ответ
Генерация вопросов для поиска
Да
Показывает точки слепоты
Укажите источник/цитата
нет
Это можно придумать; проверить с первичного
Экспорт истории/статистики
нет
Это может быть неправильно; купить у источника
Редактировать подтвержденные заметки
Да
Вы собираете, ИИ организует
Систематический процесс проверки
На каждый факт одно правило: обращаться к первоисточнику. Первоисточником является место, где информация впервые публикуется: оригинальная исследовательская статья, официальное статистическое агентство, собственная книга/интервью, оригинальный документ. То, что говорит ИИ (и даже вторичные сводки), является «утверждением», пока не проверено, а не «фактом».
Порядок проверки:
- Отметить: Во время написания отмечайте каждый факт, дату, цитату и число тегом [VERIFY].
- Найдите первоисточник: самостоятельно откройте источник для каждого помеченного элемента; Есть ли такой, соответствует ли его содержание сказанному?
- Перекрестная проверка: проверьте важные факты как минимум из двух независимых надежных источников.
- Ведите записи: отмечайте источник каждого проверенного факта; При публикации библиография взята из этой заметки.
Вы можете использовать ИИ в части редактирования этого процесса:
Контекст: Ниже приведены заметки, которые я собрал и ПРОВЕРИЛ на основе ПЕРВИЧНОГО источника, причем источник указан рядом с каждой заметкой. Задание: Сгруппируйте эти заметки по темам и предложите название каждой группе. НЕ ДОБАВЛЯЙТЕ никаких претензий без источника; Факты, даты или цитаты, которые я не привел, являются ФАЛЬШИВЫМИ. Отметьте недостающие части как «здесь отсутствует источник».
Вы также можете использовать ИИ в качестве «скептика»:
Задание: Перечислите ВСЕ фактические утверждения, даты, цифры и цитаты, которые необходимо проверить в тексте ниже. Для каждого напишите «Какой тип первоисточника следует проверить?» НЕ отвечайте на него самостоятельно; Появляется только список проверки.
Первичный, вторичный и третичный источник
Знание иерархии источников при проверке делает вашу работу понятной. Первоисточником является информация, полученная из первых рук: оригинальная научная статья, официальная статистическая таблица, собственная книга, решение суда, оригинальный документ. Вторичный источник – это текст, который интерпретирует или передает первичный: новостной репортаж, обзор, статья в энциклопедии. Третичные источники — это сводки, в которых собраны вторичные источники. Вывод ИИ в лучшем случае похож на третичный дайджест; В большинстве случаев он еще слабее, потому что не может показать свой источник и может его выдумать. Правило: чем важнее факт, тем более первичным ему следует уделять внимание. Вторичного источника может быть достаточно для создания атмосферы романа; Для заявления о здоровье, даты или заявления, приписываемого человеку, требуется первоисточник. Используйте ИИ на слое «где мне смотреть» внизу этой пирамиды, а не на слое «это правда» наверху.
Совет: размещая в тексте непроверенный факт, оставьте рядом с ним видимый тег [VERIFY] и не отправляйте текст с предложениями, содержащими этот тег. Ярлыки — это простая, но спасающая жизнь привычка, которая делает забытые факты видимыми, говоря: «Я посмотрю на них позже».
три мини-кейса
Случай 1 — Фейковая статья. Автор написал, что YZ дал «2020, Журнал медиаисследований, Демир и др.». поместите источник непосредственно в библиографию. Читатель обнаружил, что такой статьи не существует. Автору пришлось перепроверять всю библиографию по первичной, в результате чего появились еще два апокрифических источника. Урок: ни один источник не включается в статью без его личного обнаружения.
Случай 2 — Правильное использование. Журналист начал с ИИ сложную тему: извлечение подзаголовков и вопросов, которые нужно задать. Затем он собрал все факты из официального статистического агентства и из личных интервью; Он использовал ИИ только для редактирования заметок, которые он проверял. Письмо получилось быстрым и четким; Ни один сфабрикованный факт не был передан.
Случай 3 — Фальшивая цитата. Один из докладчиков включил в свою презентацию «вдохновляющую» цитату, приписываемую известному ученому в области искусственного интеллекта. Обещание было составлено; кто-то из аудитории заметил это, и доверие к докладчику было подорвано. Правильный способ: проверить цитату из собственной книги/выступления.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Дайте мне 5 академических источников и одну цитату на эту тему.
Эта подсказка предлагает ИИ производить ресурсы; Результат выглядит реалистично, но, вероятно, не поддается проверке.
Мощная подсказка:
Ваша должность: ассистент научно-исследовательского направления. Тема: [тема].Задание: Есть 6 ПОДЗАГОЛОВКОВ, которые мне нужно изучить по этой теме, и 2 вопроса, которые мне нужно задать по каждому. Кроме того, направьте меня к тому, «какие первоисточники (официальная статистика, рецензируемые журналы, личные интервью) я могу искать?» Просто покажи мне, где искать.
Разница: у ИИ спрашивают указания, а не ответы; Дверь выдумки закрыта, проверка у автора.
Распространенные ошибки
- Использование ресурса, предоставленного ИИ, без его проверки. Сфабрикованный источник становится ложью, опубликованной за вашей подписью.
- Спросить ИИ «правда ли это» и довериться его ответу. ИИ также может подтвердить собственное изобретение.
- Не проверка цитат из собственного источника. Ложные цитаты разрушают доверие.
- Удовольствие от одного источника. Критические факты требуют перекрестной проверки как минимум из двух независимых источников.
- Думая об ИИ как о «последнем ресурсе», а не как о «стартовой карте». ИИ показывает направление; Первоисточник приводит факт.
В заключение
В исследованиях ИИ — мощная стартовая карта и органайзер: он извлекает подзаголовки, генерирует вопросы, собирает проверенные заметки. Но работе по предоставлению источников, цитат, дат и статистики никогда нельзя доверять; потому что он может все это убедительно выдумать (галлюцинация). Золотое правило: соединяйте каждый факт с первоисточником, перепроверяйте критическое, не используйте какой-либо источник, предоставленный ИИ, не найдя его самостоятельно. ИИ подсказывает, где искать; Вы сами решаете, что найти.
Задача приложения
Выберите тему. Сначала получите подзаголовки и вопросы от ИИ по шаблону «направление» (НЕ источник). Затем сознательно запросите у ИИ источник/цитату и попытайтесь проверить этот источник как основной: существует ли он на самом деле, соответствует ли его содержание сказанному? Отметьте свои выводы (сколько источников проверено, сколько не найдено). Наконец, составьте проверочный список собственного текста, используя шаблон «скептик».
контрольный список
- [ ] Использовал ли я ИИ для генерации указаний и вопросов, а не для получения ресурсов?
- [ ] Отметил ли я каждый факт, дату, цитату и число значком [ПРОВЕРИТЬ]?
- [ ] Нашел ли я лично и проверил каждый источник в первоисточнике?
- [ ] Сверил ли я важные факты хотя бы с двумя независимыми источниками?
- [ ] Сверил ли я цитаты с собственным источником человека?
- [ ] Дал ли я ИИ правило «фабрикации источника/цитирования» явным образом?