Прибыль:
- Способность оценивать заявления о пищевой ценности, рассматривая иерархию доказательств и различая корреляцию и причинно-следственную связь.
- Способность распознавать источник галлюцинаций искусственного интеллекта и проверять каждую ссылку на первоисточник.
- Возможность использовать искусственный интеллект не для поиска источников, а для того, чтобы подвергнуть сомнению и критически оценить источник.
Наука о питании быстро развивается, и постоянно публикуются новые исследования. Профессиональная ценность диетолога зависит от его способности распознать истину в этом потоке фактов, оставаться в курсе событий и основывать свои утверждения на прочном фундаменте. В то же время питание является одной из областей, где псевдонаука процветает больше всего: каждую неделю циркулируют новые утверждения о «чудо-еде», «токсине», «суперпродукте». ИИ может помочь на обоих фронтах: он обобщает научные тексты, упрощает сложные исследования, помогает подвергнуть сомнению уровень доказательности утверждения. Но именно здесь кроется самая опасная ловушка ИИ: он может фабриковать несуществующие исследования, выдумывать источники и выдавать слабые доказательства за сильные. Принцип этого модуля: используйте ИИ для оценки и допроса доказательств, а не для их поиска; проверяйте каждый источник и каждое утверждение из первоисточника.
Иерархия доказательств: не все исследования одинаковы
В науке сила доказательств образует пирамиду. Мощность увеличивается снизу вверх:
Уровень доказательности
Что ты имеешь в виду?
власть
Мнение эксперта/анекдот
Личный опыт: «У моего друга сработало»
самый слабый
Серия корпусов
Наблюдение за небольшим количеством пациентов
слабый
наблюдательное исследование
Мониторинг населения (корреляция)
средний
Рандомизированное контролируемое исследование (РКИ)
Экспериментируйте со случайными группами (причина и следствие)
сильный
Систематический обзор/метаанализ
Консолидированный итог тяжелой работы
сильнейший
Знание этой иерархии имеет решающее значение; Потому что большинство заявлений «эта еда делает то» в новостях на самом деле основаны на слабых наблюдательных исследованиях. «Корреляция» (две вещи происходят вместе) не является «причинно-следственной связью» (одна вызывает другую): наблюдение о том, что любители кофе живут дольше, не доказывает, что кофе продлевает жизнь. ИИ иногда стирает это различие; Вам необходимо уточнить.
Исходная галлюцинация ИИ
Самая коварная ошибка языковых моделей заключается в том, что они фабрикуют научные исследования, имена авторов, названия журналов и номера DOI, которых на самом деле не существует. ИИ может сказать вам убедительным предложением: «Согласно исследованию, опубликованному в журнале Nutrition в 2021 году…»; эта работа может никогда не существовать. Итак, золотое правило: не используйте какой-либо источник, предоставленный YZ, без подтверждения его первоисточником (PubMed, Cochrane, оригинальный журнал). Использование ИИ в качестве поисковой системы по литературе является профессиональной ошибкой.
Внимание: если вы скажете AI «перечислить исследования, подтверждающие это», вы можете получить убедительные, но фальшивые ссылки. Правильное использование: дайте ИИ текст реального исследования и спросите «подведите итог/какие ограничения у этого исследования?» это спросить. Вы приносите источник, ИИ его интерпретирует.
Надежные рекомендации и научный консенсус
Диетологу не нужно просматривать литературу с нуля по каждому вопросу; Для большинства клинических ситуаций существуют национальные и международные рекомендации. Руководства представляют собой регулярно обновляемые согласованные документы, на основе которых экспертные группы оценивают и делают выводы о многочисленных исследованиях; например, Турецкое руководство по питанию (TÜBER), рекомендации Всемирной организации здравоохранения (ВОЗ), рекомендации по питанию ассоциаций диабетиков и кардиологов. Оценивая претензию, сначала спросите: «Что говорит об этом действующее руководство?» ' более надежно, чем теряться в отдельных исследованиях; потому что гид уже взвесил все улики. Здесь вы можете использовать ИИ двумя способами: обобщить фактический текст руководства или задать вопрос, соответствует ли утверждение общему мнению в руководствах. Но будьте осторожны: информация о каталоге в памяти ИИ может быть старой или запутанной; Всегда уточняйте у официального источника, какая версия руководства является актуальной, и дайте точные рекомендации. Прежде чем сказать: «Наука говорит это», проверьте текущий консенсус этой науки на основе реального документа. Руководства обновляются по мере изменения науки; Рекомендация трехлетней давности, возможно, сегодня была пересмотрена.
Правильное использование ИИ при оценке доказательств
- Вы приводите источник. Найдите актуальную статью, краткое изложение или руководство; Отдайте это ИИ.
- Обобщить и упростить. Переведите сложный текст на понятный язык — но сопоставьте претензии с текстом.
- Ставьте под сомнение ограничения. «Каковы методологические недостатки этого исследования?» ИИ хорош в генерации критических вопросов.
- Доведите иск до уровня доказательности. Попросите их классифицировать уровень доказательств, на которых основано утверждение.
- Проверьте из первоисточника. Сверяйте каждый выпуск, каждый результат и каждый источник с оригиналом.
три мини-кейса
Случай 1 — Искусственный источник. В качестве презентации диетолог просит ИИ: «Приведите 3 исследования, доказывающие пользу периодического голодания». AI дает три исследования, автора и год. Диетолог ищет в PubMed: двух из трёх вообще не существует, одна на другую тему. Если бы он включил это в презентацию, его профессиональный авторитет был бы подорван. Правильный способ — найти сами компиляции и попросить ИИ обобщить их. Урок: ИИ изобретает ресурсы; Проверьте каждую ссылку.
Случай 2 — Корреляционно-причинная ловушка. Новостная статья с заголовком «Завтрак помогает вам похудеть» основана на обсервационном исследовании, в котором «те, кто завтракает, худеют». Об этом спрашивает клиент. Диетолог просит ИИ подвести итоги исследования и подвергнуть сомнению его ограничения; Оказывается, люди, которые завтракают, в целом живут более активно и регулярно, а это означает, что связь не является причинно-следственной. Диетолог предоставляет клиенту взвешенную информацию. Урок: наблюдение не является причинно-следственной связью.
Случай 3 — Правильное использование. Диетолог находит недавний метаанализ потребностей в белке (настоящий, из PubMed), но текст длинный и технический. Отдайте это ИИ и спросите: «Каков основной вывод, образец, ограничения и практическое значение?» — спрашивает он. ИИ точно резюмирует текст. Врач-диетолог проверяет краткое изложение, сравнивая его с оригиналом и адаптируя его к своей практике. ИИ снизил нагрузку на чтение; источник и проверка остались за диетологом.
Копируемые шаблоны подсказок
ШАБЛОН АННОТАЦИИ ИССЛЕДОВАНИЯ (ВЫ предоставляете источник) Ниже приводится текст/резюме настоящей научной статьи. Подведите итоги, используя следующие заголовки: вопрос исследования, метод/план, образец, основной результат, ОГРАНИЧЕНИЯ, практическое значение. Не добавляйте ничего, чего НЕТ в тексте; примерка. Текст: [...]
ШАБЛОН КЛАССИФИКАЦИИ УРОВНЯ ДОКАЗАТЕЛЬСТВ Для следующего утверждения: «[претензия]». Учитывайте уровень доказательств, на которых обычно основывается это утверждение (неофициальные данные/наблюдения/РКИ/метаанализ). Укажите, есть ли корреляция или причинно-следственная связь. Источник ФЕЙК; просто проанализируйте доказательную силу иска.
ШАБЛОН КРИТИЧЕСКОГО ИССЛЕДОВАНИЯ Перечислите методологические СЛАБОСТИ и возможные систематические ошибки (небольшой размер выборки, короткая продолжительность, конфликт интересов, мешающий фактор) следующего краткого описания исследования. Не преувеличивайте результаты; взвешенная критика.Резюме: [...]
ШАБЛОН ПРОВЕРКИ РЕАЛЬНОСТИ ПРЕТЕНЗИИ Клиент услышал следующее утверждение: «[например, детокс-чай выводит токсины]». Честно оцените научную основу этого утверждения: что известно, что неизвестно, какие части ложны/преувеличены. Составьте взвешенное, не пугающее объяснение, которое нужно сообщить клиенту. Изготовление источника.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Перечислите исследования, доказывающие, что имбирь укрепляет иммунитет.
Это желание подталкивает ИИ к фабрикации источников и порождает предвзятость, задавая один из способов («доказательство»). Приходят фейковые отзывы.
Мощная подсказка:
Ваша роль: помощник по оценке доказательств; источник ФЕЙК Оцените утверждение о том, что имбирь повышает иммунитет, взвешенно: на каком уровне доказательств обычно основано это утверждение, являются ли доказательства сильными или слабыми, корреляцией или причинно-следственной связью? Проводите различие между тем, что известно, и тем, что неизвестно. НЕ ссылайтесь на реальные исследования (я проверю их в PubMed); просто проанализируйте доказательную силу иска.
Вторая подсказка запрещает фабрикацию источников, требует взвешенной (а не односторонней) оценки и оставляет проверку людям; выходные данные — это инструмент безопасного мышления.
Распространенные ошибки
- Принятие искусственного интеллекта за поисковую систему по литературе: запрос ресурсов; ИИ составляет ссылки.
- Неподтверждение источника: использование работы, предоставленной ИИ, без проверки ее первоисточника.
- Принятие корреляции за причинно-следственную связь: представление результатов наблюдений в виде «это делает то».
- Игнорирование уровня доказательности: приравнивание анекдота к метаанализу.
- Односторонний вопрос: создание предвзятости, говоря «доказательные исследования»; сбалансированная проблема.
- Пренебрежение актуальностью: предположение, что старая/устаревшая информация актуальна; Смотрите текущую версию руководств.
В заключение
Чтение фактических данных и внимание к заявлениям о вреде для здоровья являются основой профессионального авторитета диетолога. ИИ — мощный помощник в чтении и проведении исследований в этой области: он обобщает реальные исследования, извлекает ограничения, анализирует уровень доказательности утверждений. Но ИИ фабрикует источники — это его самая опасная ошибка. Всегда приносите с собой источник и проверяйте его по первоисточнику; отделить корреляцию от причинно-следственной связи; соблюдать иерархию доказательств; Взвешенно подвергайте сомнению обвинения. ИИ ускоряет ваше мышление; но ответственность за науку, точность источника и честность утверждения лежит на вас.
Задача приложения
Выберите популярное утверждение о питании (например, «щелочная диета балансирует организм» или «еда поздно вечером приводит к набору веса»). Получите сбалансированную оценку от ИИ с помощью «шаблона проверки реальности утверждений». Затем используйте «шаблон классификации уровня доказательств», чтобы определить уровень доказательств, на которых основано утверждение. Кроме того, сознательно попросите у AI «список источников» и найдите одну из ссылок, которые он дает, в PubMed; Посмотрите, реально ли это. Этот эксперимент будет воплощать в себе источник галлюцинации.
контрольный список
- [ ] Я привел исходник; Я не придумал ссылку на ИИ.
- [ ] Я подтвердил каждый источник, предоставленный YZ, из первоисточника.
- [ ] Я различал корреляцию и причинно-следственную связь.
- [ ] Я классифицировал заявление в соответствии с иерархией доказательств.
- [ ] Я поставил под сомнение эти утверждения взвешенно (не односторонне).
- [ ] Я проверил совместимость информации с текущими руководствами/сборниками.