Прибыль:
- Способность понять, почему оригинальность суждений неотчуждаема, а искусственный интеллект может быть лишь помощником в обострении
- Способность распознавать формы галлюцинаций и отдельно проверять 10-процентную выдумку в пределах 90-процентной правды.
- Способность сохранять интеллектуальную честность посредством принципов не скрывать двусмысленности, представлять вклад как точный и проверять собственный разум.
Мы подошли к самому глубокому разделу этого модуля. Единственное, что ценно в философии, — это само рассуждение — оригинальное различие, смелое положение, тонкое обоснование. В этом модуле мы рассмотрим три взаимосвязанные темы: оригинальность рассуждений (когда мысль действительно является продуктом собственных рассуждений, а не копией чужого или готового результата машины), галлюцинации (когда ИИ выдает несуществующую информацию, источник или цитату как факт) и интеллектуальную честность (честность с самим собой и другими при производстве знаний и идей; четкое указание того, чего человек не знает, что он от кого получил и что неясно). Эти три являются этическим ядром использования ИИ в гуманитарных науках.
В предыдущих подразделениях преподавали отдельные навыки; Этот модуль устанавливает умственную дисциплину, которая лежит в основе всего этого. Потому что инструменты меняются, а интеллектуальная честность — нет.
Почему оригинальность суждения неотчуждаема?
В философии недостаточно, чтобы текст «давал правильный ответ»; То, как вы пришли к этому ответу, какие различия вы сделали и какие возражения вы предвидели и встретили, имеет реальную ценность. ИИ производит в среднем миллионы текстов; это среднее значение кажется гибким, разумным и часто точным, но оно не оригинально. Оригинальное мышление начинается именно там, где вы отходите от среднего: различие, которое никто больше не проводит, смелый вызов общепринятым взглядам, новая связь между двумя концепциями.
Вы можете использовать ИИ в качестве мыслящего партнера — пусть он генерирует возражения, показывает вам ваше «слепое пятно», помогает вам прояснить концепцию. Но если вы делегируете само мышление — тезис, обоснование, вывод — у вас останется средний текст и ваш вклад будет нулевым. Более того, это нарушение интеллектуальной честности: выдавать чужой (в данном случае машинный) продукт за свой.
Совет: на каждом занятии спрашивайте себя, в чем разница между «Пусть ИИ подумает об этом за меня» и «Позвольте ИИ обострить мое мышление». Первое убивает оригинальность; Второе усиливает. Конкретный критерий: тезис и обоснование, возникшие в конце занятия, пришли вам в голову или были скопированы с экрана?
Распознавание и предотвращение галлюцинаций
Галлюцинация — это не ошибка ИИ, а следствие того, как он работает: модель не «знает» правду, она выдаёт статистически вероятный текст. Поэтому даже когда у него нет ответа на вопрос, он заполняет пробел правдоподобной выдумкой. Типичные формы галлюцинаций в человеческих сферах:
- Сфабрикованный источник: несуществующая книга, статья, поддельный DOI.
- Ложная цитата: предложение в кавычках, не принадлежащее реальному автору.
- Неправильная атрибуция: приписывание истинного взгляда не тому философу.
- Выдуманная дата/факт: дата, событие или статистика, которых не существует.
- Уверенная двусмысленность: представление действительно спорного вопроса так, как если бы он был абсолютно верным.
Противоядием является дисциплина проверки, которую вы изучили в этом модуле: ссылка на источник, независимая проверка, проверка дословно. Но дополнительный рефлекс: не принимайте уверенный тон ИИ за признак точности. ИИ выглядит наиболее уверенно, даже когда он больше всего выдумывает.
Внимание: самый коварный тип галлюцинации — это на 10% выдумка, вложенная в правдивый текст на 90%. Поскольку большая часть текста — правда, читатель расслабляется и думает, что выдуманная часть тоже правда. Вот почему теста «в целом кажется правильным» недостаточно; Проверьте каждый конкретный источник, цитату и факт индивидуально.
Три правила интеллектуальной честности
1. Сокрытие неопределённости. Не представляйте как нечто достоверное то, чего вы не знаете или не можете проверить. Сказать «этот вопрос спорный» или «я не смог это проверить» — это честность, а не слабость.
2. Правильно покажите вклад. Если вы использовали ИИ и ваша организация требует раскрытия информации, заявите об этом открыто. Не принимайте чужой вклад или вклад машины как свой собственный.
3. Проверьте это собственным умом. Каким бы плавным ни был результат, не принимайте его, не приняв собственного суждения. Высшей инстанцией является ваш критический разум, а не машина.
три мини-кейса
Случай 1 — Замечено среднее. Аспирант написал часть проекта путем «мозгового штурма» с помощью ИИ, но в основном использовал результаты как есть. Его советник сказал, что текст не содержит каких-либо уникальных различий, а представляет собой средний показатель, "который может определить любой". Студент снова использовал ИИ в качестве партнера по дискуссии: он получил возражения, но установил тезис и обоснование. Второй проект содержал оригинальный вклад.
Случай 2 — фальсификация 10%. Исследователь будет использовать упрощенный и в значительной степени точный обзор литературы из 10 источников, который производит ИИ. В целом текст был цельным, поэтому почти прошел проверку. Тем не менее, он проверил каждый источник: 1 из 10 был сфабрикован, а одна цитата была вырвана из контекста. Тот факт, что большая часть текста была правдой, не делал эти 10% невиновными. Систематическая проверка выявила единственную ошибку.
Случай 3 — Искренняя неопределенность. Студент не смог обосновать точку в тексте семинара. Вместо того, чтобы отвергнуть это утверждение, сказав: «ИИ так сказал», он ясно написал: «Это утверждение неясно в источниках, его необходимо проверить». Консультант посчитал это признаком зрелости, а не слабости. Интеллектуальная честность была более ценной, чем ложная уверенность.
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Напишите оригинальный и глубокий философский анализ по этой теме.
Это требование противоречиво: требование оригинальности от ИИ убивает оригинальность. В результате получается текст, который выглядит «оригинальным», но является средним и, возможно, апокрифическим.
Мощная подсказка:
Ваша роль: партнер с сократическим мышлением. НЕ ПИШИТЕ МНЕ на эту тему и НЕ ДАЙТЕ МНЕ ТЕЗИС. Вместо этого отточите свое мышление: 1) Попросите указать 3 слабых места в моей позиции. 2) Укажите на два различия, которые я, возможно, упустил. 3) Приведите контрпример, чтобы я мог проверить свой тезис. Если вы заявляете об источнике или факте, отметьте его как «необходимо проверить»; не придумывайте, если не уверены. Напишу дипломную работу и текст. Моя позиция: [вставьте свою позицию]
Эта подсказка сохраняет в вас мышление, превращает ИИ в партнера по заточке и подсказывает антигаллюцинационную маркировку.
Четыре копируемых шаблона
1) Сократический партнер (заставляет задуматься):
Не отвечай мне; задавать вопросы Проверьте мою позицию ниже с помощью 5 острых сократических вопросов: раскройте мои предположения, пропущенные шаги и контрпримеры. Изготовление диссертации. Мое местоположение: [местоположение]
2) Маркировка галлюцинаций:
Ответьте ниже, но обозначьте каждое фактическое утверждение, источник и цитату уровнем достоверности: [УВЕРЕННО] / [ДОЛЖНО БЫТЬ ПРОВЕРЕНО] / [НЕ УВЕРЕНО]. Не выдумывайте источники или цитаты, в которых вы не уверены. Вместо этого скажите «Я не знаю». Вопрос: [вопрос]
3) Диагноз средней специфичности:
Текст ниже мой. Какие разделы являются средними, какие «каждый может сказать», а какие содержат уникальное отличие/претензию? Отметьте оставшиеся места, чтобы я мог сделать их уникальными. Добавление контента; только диагностика.Текст: [текст]
4) Неопределенность, честность:
Найдите в тексте ниже утверждения, которые представлены как точные, но на самом деле являются спорными или необоснованными. По каждому предложите, как можно выразить это честнее. Текст: [текст]
Таблица подлинности/честности
поведение
оригинальность
честность
Заключение
Имея диссертацию, написанную AI
Нет
нарушение
бесполезный, рискованный
Мозговой штурм с ИИ, написание диссертации самостоятельно
Да
Честный (заявить)
драгоценный
Использование источника ИИ без его проверки
—
Риск взлома
Опасность изготовления
Четко сформулируйте неопределенность
—
высокий
надежный
Распространенные ошибки
- Просим оригинальности от ИИ. Это противоречивое требование; оригинальность возникает только из вашего суждения.
- Согласитесь на «в целом верно». 10% выдумок скрываются за 90% правды; Проверяйте каждую конкретную претензию отдельно.
- Принимает уверенный тон за точность. ИИ выглядит наиболее уверенно, когда он больше всего компенсирует.
- Скрытие неуверенности. Ложная уверенность более вредна, чем честная оговорка, и разрушает доверие.
- Сокрытие вклада. Нераскрытие информации об использовании ИИ противоречит корпоративной политике и честности.
В итоге
Оригинальность суждений, галлюцинации и интеллектуальная честность — этическое ядро использования ИИ в гуманитарных науках. Само мышление неотчуждаемо: ИИ может быть партнером по заточке, но тезис, обоснование и вывод — ваши; В противном случае остается средний и чистый текст. Галлюцинация — результат работы ИИ; Не принимайте уверенный тон за правду и не улавливайте 10% выдумки в пределах 90% правды, проверив ее отдельно. Три правила интеллектуальной честности: скрыть неуверенность, точно представить вклад, проверить собственным умом. Инструменты меняются; Эта дисциплина не меняется.
Задача приложения
- Напишите свою философскую позицию (своими словами, кратко).
- Получайте просто вопросы от ИИ с шаблоном «Сократовский партнер»; не беритесь ни за какую диссертацию.
- Укрепите свою позицию, написав собственные ответы на эти вопросы.
- Создайте выходные данные ИИ с помощью шаблона «маркировки галлюцинаций» и фактически проверьте утверждения с пометкой [ПОДВЕРЕНО].
- Проверьте свой текст с помощью шаблона «Диагноз средней оригинальности» и сделайте раздел уникальным.
контрольный список
- [ ] Тезис, обоснование и заключение я привел, исходя из собственных рассуждений.
- [ ] Я использовал ИИ в качестве партнера для обострения мышления, а не в качестве замены.
- [ ] Я индивидуально проверил каждый конкретный источник, цитату и факт.
- [ ] Я доверял доказательствам, а не уверенному тону ИИ.
- [ ] Я честно отметил расплывчатые/необоснованные утверждения.
- [ ] Я заявил об использовании ИИ в соответствии с корпоративной политикой.