Единица 7 / 12

Поддержка дизайна исследований и анализа данных

Прибыль:

  • Способность использовать искусственный интеллект в качестве интеллектуального партнера при разработке исследовательских вопросов, гипотез, выборе шкалы и планов анализа.
  • Возможность проверки поддержки количественного анализа (интерпретация кода/выходных данных) и качественного анализа (проект тематического кодирования) со статистической и методологической точностью.
  • Способность развивать защитный рефлекс при использовании искусственного интеллекта от охоты за p-значениями, сфабрикованной статистики и неэтичной обработки данных.

Психология – наука, систематически изучающая поведение человека, и основой этой науки являются исследования. Пишите ли вы диссертацию, измеряете эффективность программы в учреждении или готовите статью; Хорошее исследование требует тщательного планирования, точного анализа и честной интерпретации. Искусственный интеллект (ИИ) может быть мыслительным партнером на каждом этапе исследования: уточнение вопроса исследования, определение возможных масштабов, составление кода анализа, объяснение статистических результатов простым языком, рисование первоначальных предложений по темам в ваших качественных данных. Но ИИ также галлюцинирует в статистике, предполагает методологическую ошибку и, что самое опасное, может невольно открыть дверь для неэтичных практик (таких как охота за p-значением). В этом модуле вы научитесь использовать ИИ в качестве мощного, но контролируемого помощника в исследованиях.

Где ИИ помогает в исследованиях?

Фаза проектирования: уточнение вопроса исследования, уточнение формулировки гипотезы, рассмотрение возможных переменных и искажающих факторов (третьих факторов, которые влияют на результат, но не исследуются), напоминание о соответствующих планах. ИИ здесь является партнером в мозговом штурме; Вы решаете.

Количественный анализ: объяснение целесообразности использования метода анализа (например, t-критерий, ANOVA, регрессия), составление кода анализа (например, R или Python), интерпретация статистических результатов. ИИ пишет код, но вы несете ответственность за точность результата, получаемого кодом, и пригодность метода.

Качественный анализ: первоначальные предложения кода в стенограммах интервью, возможные названия тем, черновик кодовой книги. ИИ дает отправную точку; Исследователь добавляет интерпретативной глубины.

Внимание: ИИ не является статистиком. Это может предложить неверный тест, опустить предположения, выдать неверный коэффициент или значение p. Каждое методическое решение и каждую цифру проверяйте самостоятельно (своими знаниями, статистическим источником или экспертом).

Этические красные линии: хакерство и обработка данных

Одной из самых опасных ловушек исследовательской этики является p-хакинг: неоднократное изменение анализа, добавление/удаление переменных или обрезка данных до тех пор, пока не появится значимый результат. Спросите ИИ: «Что я могу сделать, чтобы мой результат стал значимым?» Спрашивать «значит попасть в эту ловушку, не осознавая этого. На этот тип вопросов ИИ может давать такие предложения, как «извлеките эту переменную, посмотрите на эту подгруппу»; эти предложения «работают» статистически, но являются мошенничеством с научной точки зрения.

Аналогично, ИИ может предложить «дополнить» несуществующие данные или удалить выбросы без обоснования. Данные анализируются как есть; Изменения могут быть внесены только с помощью заранее определенных, прозрачных и обоснованных правил.

Совет: запишите план анализа (какой тест вы будете проводить, с какими переменными, для какой гипотезы), прежде чем увидеть данные. Используйте ИИ, чтобы прояснить этот план, а не «украсить» результат. Заранее написанный план — самая надежная защита от взлома.

Шаг за шагом: безопасный исследовательский процесс на базе ИИ

  1. Уточните вопрос и гипотезу. Пусть ИИ исследует проблему, чтобы обострить ее, а решать вам.
  2. Заранее напишите план анализа. Какой тест, какое предположение, какая гипотеза. Позвольте ИИ контролировать план.
  3. Черновик кода, проверьте вывод. Пусть ИИ пишет код; Вы запускаете его, проверяете результат самостоятельно.
  4. Проверьте предположения. Проверьте сами предположения, которые пропускает ИИ, такие как нормальность и однородность дисперсии.
  5. Рассматривайте качественные кодексы как проекты. Рассмотрим темы ИИ начальные; Прочтите и проверьте данные самостоятельно.
  6. Сообщите честно. Запишите также бессмысленный результат; Избегайте взлома и выборочных репортажей.

три мини-кейса

Случай 1 — ловушка для р-хакинга. Когда основная гипотеза исследователя не оказывается значимой (p=0,21), он спрашивает ИИ «как сделать результат значимым». ИИ предлагает различные анализы подгрупп и извлечение переменных; Когда исследователь пробует это сделать, он получает p = 0,04. Но этот результат ложный: если вы попробуете 10 разных анализов, один из них случайно окажется значимым. Правильный путь: сообщить о заранее заданном анализе, честно записать бессмысленный результат.

Случай 2 — Код и вывод комментария. Аспирант хочет проверить различия между двумя группами на данных 120 участников, но не знаком со статистическим программным обеспечением. Он распечатывает черновик кода анализа для ИИ, запускает его и заставляет ИИ интерпретировать выходные данные. Затем он проверяет предположения t-критерия на основе статистического источника и самостоятельно проверяет результат. ИИ сокращает кривую обучения, но окончательное решение остается за студентом.

Случай 3. Качественное кодирование. Исследователь передает ИИ 18 анонимных стенограмм интервью и запрашивает первоначальные предложения по коду. ИИ предлагает около 30 кодов и 5 предложений тем. Исследователь рассматривает их как начало и сам читает все расшифровки; Он добавляет тему, которую ИИ пропустил, разделив две, которые он неправильно совместил. Он также проверяет надежность с помощью второго энкодера. ИИ активизировался, но интерпретация исходила от человека.

Копируемые подсказки и шаблоны

Помогите мне уточнить исследовательский вопрос. Мой черновик вопроса: [вопрос]. Спросите/предложите следующее: зависимые-независимые переменные, возможные мешающие факторы, подходящий дизайн исследования. Решение за мной; Просто объясните варианты и риски, не форсируйте результат.

Ознакомьтесь с моим планом анализа: [план]. Оцените: соответствует ли выбранный мною тест гипотезе, какие предположения мне следует проверить, достаточен ли размер выборки, есть ли какие-либо методологические риски, которые я упустил из виду? Дайте предложения, которые помогут укрепить план, а не изменить результат.

Интерпретируйте следующие статистические данные простым языком: какой результат что означает, какие предположения необходимо проверить, где существует риск чрезмерной интерпретации? Честно излагайте любые несущественные результаты. Выход: [выход]

Ниже приведены стенограммы анонимного интервью. На первом этапе генерируются ВОЗМОЖНЫЕ коды и ПРЕДЛОЖЕНИЯ по теме для тематического кодирования. Помните, что это первоначальный проект, и я буду читать и проверять данные; Не представляйте это как окончательный результат. Стенограммы: [анонимные стенограммы]

Слабая подсказка / Сильная подсказка

Слабая подсказка: «Результат не был значимым для данных. Как мне сделать значение p значимым?»

Эта подсказка вызывает ИИ, чтобы предложить р-взлом; Даже если результат «работает» статистически, это научное мошенничество.

Сильная подсказка: «План анализа, который я определил ранее, — это [план]. Результат не был значимым (p=0,21). Как мне честно сообщить об этом, каковы могут быть возможные последствия незначительного результата и что я бы порекомендовал для будущего исследования?»

Эта подсказка направляет ИИ к честной науке; Он не искажает результат, он учится на нем.

Распространенные ошибки

  • Приглашение на п-хакерство. Просить «Сделать результат значимым»; Это научное мошенничество.
  • Применение метода без его проверки. Использование предложенного ИИ теста без проверки его предположений.
  • Принятие вымышленной статистики. Не подтверждение коэффициента/р-значения, данного ИИ, собственным анализом.
  • Принятие качественных кодов за окончательный анализ. Отчетность по темам ИИ без чтения данных.
  • Сокрытие бессмысленного результата. Выборочная отчетность, сообщающая только то, что имеет смысл.

В итоге

ИИ является мощным интеллектуальным партнером в исследованиях, связанных с уточнением вопросов, аудитом плана анализа, составлением кода, интерпретацией результатов и началом качественного кодирования. Но он допускает ошибки в статистике и галлюцинации; Самое опасное то, что это может неосознанно открыть дверь для неэтичных методов, таких как п-хакерство. Заранее напишите план анализа, проверяйте каждый метод и число независимо, проверяйте предположения, воспринимайте качественные коды как черновики и читайте данные самостоятельно, честно сообщайте о бессмысленных результатах. ИИ ускоряется; Научная честность исходит от вас.

Задача приложения

Разработайте небольшой сценарий исследования (например, сравнение двух групп по шкале). Сначала напишите план анализа в одном абзаце. Затем попросите ИИ проверить этот план и спросить, есть ли какие-либо предположения или риски, которые вы упустили. Кроме того, попросите ИИ интерпретировать небольшой воображаемый результат и сами проверьте, не является ли его интерпретация чрезмерно напористой. Напишите честное отчетное предложение, не занимаясь П-хакерством.

контрольный список

  • [ ] Я написал план анализа до того, как увидел данные.
  • [ ] Я самостоятельно проверил предположения метода, предложенного AI.
  • [ ] Я проверил каждую статистику, предоставленную ИИ, с помощью собственного анализа.
  • [ ] Качественные коды я рассматривал как первоначальные наброски и сам читал данные.
  • [ ] Я также честно сообщил о незначительных результатах.
  • [ ] Я избегал хакинга и выборочных репортажей.