Прибыль:
- Способность использовать искусственный интеллект для обзоров литературы и черновиков научных работ, а также распознавать риск мошеннических цитат (поддельные статьи, неправильный DOI)
- Возможность применять привычку проверять каждую цитату в первоисточнике через DOI/PubMed и предотвращать риск плагиата/сфабрикованных цитат.
- Возможность использовать искусственный интеллект в качестве чертежного и языкового инструмента, ускоряющего написание, и принять принцип возложения научной ответственности на автора.
Молекулярная биология и генетика опираются на огромную литературу, к которой ежегодно добавляются сотни тысяч статей. Клиническая значимость варианта, функция гена или валидность метода зависят от опубликованных данных. Искусственный интеллект (ИИ) является мощным помощником в проверке, обобщении и составлении научных текстов для этой литературы, но он также является самым опасным источником галлюцинаций в этой области: ИИ может подделывать статьи, которых никогда не существовало, в реальных журналах, с реальными авторами и с правильно оформленными подписями. В этом модуле вы узнаете, как безопасно использовать ИИ в литературе и писательстве, а также как проверять каждую цитату.
Критическое правило: не используйте никакие ссылки, предоставленные YZ, без личного открытия и проверки источника. Не доверяйте авторству без DOI (постоянного цифрового идентификатора публикации), идентификатора PubMed (PMID) или страницы прямого издателя. Тег, доставляемый искусственным интеллектом, может показаться «слишком реалистичным»; реализм — это не реальность.
Два лица ИИ в литературе
Полезная сторона: быстро резюмирует тему, упрощает сложную статью, предлагает условия поиска, исправляет язык рукописи, сравнивает противоречивые результаты.
Опасный аспект: Фальсифицирует несуществующую статью (фейковое цитирование), искажает выводы реальной статьи, представляет устаревшую информацию как действительную, «применяет» источник к претензии.
Поэтому используйте ИИ в качестве отправной точки в своем обзоре литературы, а не как последнее слово. Фактический поиск осуществляется в авторитетных каталогах, таких как PubMed, Google Scholar, Europe PMC; Резюме AI не заменяет этот поиск.
Шаг за шагом: безопасный рабочий процесс с литературой
1. Уточните вопрос и извлеките условия поиска с помощью ИИ. Спросите AI: «Какие ключевые слова и термины MeSH (теги тем PubMed) мне следует искать по этой теме?» просить.
2. Выполните фактический поиск в авторитетном каталоге. Найдите это самостоятельно в PubMed/Scholar; Не полагайтесь на список AI «есть такие статьи».
3. Попросите ИИ обобщить найденные вами статьи. Можно безопасно передать текст (или резюме) ИИ и обобщить его; Потому что у вас есть ресурс. Просить ИИ рассказать статью «по памяти» опасно.
4. Проверьте каждую цитату с помощью DOI/PMID. Убедитесь, что каждый источник, включенный в ваш текст, действительно существует и подтверждает утверждение.
5. Используйте ИИ в письменной форме для языка и структуры, а не для генерации фактов. ИИ хорош для беглости предложений, организации абзацев, составления резюме; но результаты, цифры и цитаты исходят от вас.
Совет: Самый быстрый способ проверить цитату: откройте указанный DOI на doi.org или выполните поиск в PubMed, указав заголовок в кавычках. Если он не открывается или название/автор не совпадают, скорее всего, эта цитата вымышленная.
три мини-кейса
Случай 1 — Три из пяти упоминаний являются фейковыми. Аспирант попросил вводный абзац и 5 цитат у AI. Когда он проверил DOI один за другим, то увидел, что 3 из них нигде не открывались, 1 принадлежал другой статье и только 1 был правильным. Этот абзац был беглым, но большинство источников были сфабрикованы.
Случай 2 — Искаженные результаты. Исследователь попросил ИИ резюмировать реальную статью; YZ написал, что в статье говорится: «Ген X вызывает болезнь Y». Когда исследователь открыл статью, он увидел, что на самом деле там говорилось: «Обнаружено, что ген X связан с Y, причинно-следственная связь не показана». Разница между ассоциацией и причинно-следственной связью имела решающее значение с научной точки зрения.
Случай 3 — Получено подтверждение. Когда аспирант выполнил поиск в PubMed, используя предложенные YZ термины MeSH, он нашел недавний обзор, который был центральным по теме, но никогда не упоминался в реферате YZ. ИИ сгенерировал условия поиска (полезные), но настоящее открытие произошло в авторитетном индексе.
Четыре копируемых шаблона
1) Стратегия поиска:
Ваша роль: помощник по обзору литературы. Предложите условия поиска, термины MeSH и логические комбинации (И/ИЛИ) для использования в PubMed для следующего исследовательского вопроса: [вопрос]. ЛИСТИНГ статей; Просто настройте хороший поисковый запрос. Я поищу в PubMed.
2) Резюмируем данный текст (исходник есть):
Кратко изложите текст/аннотацию статьи, которую я вставил ниже: [текст]. Различайте ключевые понятия, метод, размер выборки, ограничения. НЕ СМЕШИВАЙТЕ утверждения о «корреляции» и «причинно-следственной связи»; Цитируйте именно то, что написано в статье. Не добавляйте ничего, чего нет в тексте.
3) Контрольный список проверки цитирования:
Я дам вам этот список литературы. Поля, которые мне нужно проверить для каждого (DOI, PMID, журнал, год, соответствие названия и автора), отображаются в виде контрольного списка. ВЫ не можете проверить, что ссылки реальны; Я подтвержу с помощью DOI/PMID, дайте мне инструкции по проверке.
4) Коррекция научной речи:
Исправьте формулировку и последовательность следующего абзаца, но используйте факты, цифры и ссылки. ИЗМЕНИТЬ, ДОБАВИТЬ, УДАЛИТЬ: [абзац]. Совершенствуйтесь только с точки зрения грамматики, беглости речи и научного стиля. Отметьте каждое предложение, которое вы изменили.
Слабая подсказка / Сильная подсказка
Слабое: «Напишите введение из 5 источников о роли CRISPR в терапии рака».
Проблема: ИИ пишет по памяти и, скорее всего, выдает ложные цитаты; Вы не видите источник.
Стронг: «Предложите условия поиска, которые мне следует использовать в PubMed по CRISPR и терапии рака. Затем я приведу аннотацию 5 статей, которые я найду и вставлю; нарисуйте введение, основанное только на них, связывая каждое предложение с соответствующей статьей. Не добавляйте никаких утверждений, которых нет в тексте».
Почему это мощно: атрибуции реальны и находятся под вашим контролем; ИИ работает только с текстом, который видит.
Квест
Безопасен ли ИИ?
состояние
Предложите поисковый запрос
Да
Вы делаете звонок
Обобщить заданный текст
Да
Пусть источник будет вашим.
Перечислять статьи по памяти
нет
Существует высокий риск ложных цитат.
Коррекция языка/стиля
Да
Не меняйте факт/ссылку
результаты переноса
осторожный
Различие между отношениями и причинно-следственными связями
Распространенные ошибки
- Использование цитат без проверки. Самая распространенная и самая разрушительная ошибка; Ложное цитирование является нарушением академической честности.
- Запрос статей по памяти. Список ИИ «есть такие исследования» может быть сфабрикован.
- Ошибочное отношение к причинно-следственной связи. ИИ может стереть это различие при подведении итогов; вернуться к источнику.
- При условии своевременности. Знания ИИ прекращаются в определенный день; Получите последние результаты из индекса.
- Оставляя генерацию фактов ИИ. Число, результат и претензия должны исходить от вас, а не от ИИ.
Внимание: если вы использовали ИИ при написании статьи, проверьте политику использования ИИ вашего журнала и учреждения. Многие журналы оговаривают, что ИИ не может быть автором и что его использование должно быть прозрачно указано. Ложное цитирование является поводом для отзыва и академических санкций.
Глубина: поймать фейковую цитату за 30 секунд
Большинство фальшивых атрибуций быстро разрушаются после нескольких механических проверок. Развивайте рефлекс проверки шаг за шагом. Сначала откройте DOI через doi.org. Настоящий DOI приведет вас прямо на страницу издателя; Если вы получаете сообщение об ошибке «DOI не найден», ссылка почти наверняка поддельная. Во-вторых, найдите в PubMed заголовок с кавычками. Если название не отображается вообще или не соответствует автору/журналу/году, который дает вам ИИ, будьте подозрительны — ИИ часто приписывает настоящее название не тому автору или не тому журналу. В-третьих, согласованность года журнала: ИИ иногда фабрикует статью в год, когда журнала не существует («опубликовано в 2019 году», но журнал был основан в 2021 году).
Конкретный пример: студент попросил у ИИ цитату, подтверждающую патогенность варианта. Выходные данные выглядели идеально: известный журнал, название настоящей исследовательской группы, формально правильный DOI. Когда открылся DOI, обнаружилась статья совсем на другую тему — ИИ сопоставил реальный DOI с выдуманным заголовком. Урок: просто «открыть» DOI недостаточно; Также следите, чтобы заголовок и автор открывшейся страницы точно соответствовали цитате.
Одна особенно опасная ситуация: утверждение о том, что вариант «ранее считался патогенным». Это утверждение может привести к клиническому решению (например, PS1/PM5 при ACMG); Если ссылка, на которой оно основано, ложна, цепочка доказательств радикально рушится. Каждый эталон клинического веса должен быть проверен самым строгим образом и по двум независимым индексам.
5) Шаблон перекрестной проверки цитирования:
Перечислите по порядку проверки, которые я бы сделал для подтверждения следующей атрибуции:[выходные данные]. Отображается ли DOI? Отображается ли название/автор/год открытой страницы? Появляется ли оно при поиске по названию в PubMed? Оставьте поле «пройдено/не пройдено» на каждом этапе. Вы не можете проверить авторство; дай мне контрольный список.
В заключение
- ИИ — мощный помощник в обзоре литературы и написании научных статей, но он является крупнейшим источником мошеннических цитирований.
- Фактический поиск осуществляется в авторитетных каталогах (PubMed, Scholar); Список AI не является последним словом.
- Каждая цитата должна быть лично проверена с помощью DOI/PMID; Различие между связью и причинностью должно быть сохранено.
- Используйте ИИ для языка и структуры; Факты, цифры и авторство должны исходить от вас.
Задача приложения
Выберите исследовательский вопрос. Получите условия поиска от ИИ с помощью шаблона 1, выполните поиск самостоятельно в PubMed и найдите 3 реальных статьи. Сообщите об этом ИИ (шаблон 2). Также запросите у ИИ «3 статьи по памяти» и проверьте их DOI — обратите внимание, сколько из них окажется реальным. Напишите одним предложением разницу в надежности между двумя методами.
контрольный список
- [ ] Я извлек условия поиска с помощью ИИ и выполнил поиск самостоятельно.
- [ ] Я нашел статьи в авторитетном индексе, но не доверял списку YZ.
- [ ] Я проверил каждую цитату с помощью DOI/PMID.
- [ ] Я подтвердил различие между связью и причинностью в источнике.
- [ ] Я использовал ИИ только для языка/структуры, а не для генерации фактов.
- [ ] Я соблюдал политику использования ИИ в журнале/учреждении.