Печалби:
- Способността да се разбере защо оригиналността на преценката е неотменима и изкуственият интелект може да бъде само изострящ партньор
- Способност за разпознаване на формите на халюцинации и отделна проверка на 10 процента измислица в рамките на 90 процента истина.
- Способност за поддържане на интелектуална честност чрез принципите на некриене на двусмислие, представяне на приноса като точен и тестване на собствения ум.
Стигнахме до най-дълбоката единица на този модул. Единственото ценно нещо във философията е самото разсъждение - оригинално разграничение, смела теза, фина обосновка. В тази част ще разгледаме три взаимосвързани теми: оригиналност на разсъждението (когато една мисъл е наистина продукт на собствено разсъждение, а не копие на готов изход на някой друг или машина), халюцинация (когато AI произвежда несъществуваща информация, източник или цитат като факт) и интелектуална честност (да бъдеш честен със себе си и с другите в производството на знания и идеи; ясно посочвайки какво не знае какво е получил от кого и какво не е ясно). Тези три са етичната основа на използването на AI в хуманитарните науки.
Предишните модули преподаваха единични умения; Тази единица установява умствената дисциплина, която е в основата на всичко това. Защото инструментите се променят, но интелектуалната честност не.
Защо оригиналността на преценката е неотчуждаема?
Във философията не е достатъчно един текст да „дава правилния отговор“; Как сте стигнали до този отговор, какви разграничения сте направили и какви възражения сте очаквали и сте срещнали, са от истинска стойност. AI произвежда средната стойност на милиони текстове; тази средна стойност изглежда течна, разумна и често точна, но не е оригинална. Оригиналното мислене започва точно там, където се откъсвате от средното: разграничение, което никой друг не прави, смело предизвикателство към конвенционалния възглед, нова връзка между две концепции.
Можете да използвате AI като мислещ партньор — оставете го да генерира възражения, да ви покаже сляпото петно, да ви помогне да изясните концепция. Но ако делегирате самото мислене – теза, обосновка, заключение – оставате със среден текст и вашият принос е нулев. Освен това, това е нарушение на интелектуалната честност: представяне на чужд продукт (в случая на машина) като ваш собствен.
Съвет: Запитайте се във всяка сесия за разликата между „Нека AI да мисли за това вместо мен“ и „Нека AI да изостри мисленето ми“. Първият убива оригиналността; Второто укрепва. Конкретен критерий: Тезата и обосновката, които се появиха в края на сесията, дойдоха ли от съзнанието ви или бяха копирани от екрана?
Разпознаване и предотвратяване на халюцинации
Халюцинацията не е грешка на AI, а следствие от начина, по който работи: моделът не "познава" истината, той произвежда статистически вероятен текст. Така че дори когато няма отговор на въпрос, той запълва празнината с правдоподобна измислица. Типични форми на халюцинации в човешките области:
- Изфабрикуван източник: несъществуваща книга, статия, фалшив DOI.
- Фалшив цитат: изречение в кавички, което не принадлежи на истинския автор.
- Неправилно приписване: приписване на истински възглед на грешния философ.
- Измислена дата/факт: дата, събитие или статистика, която не съществува.
- Уверена неяснота: представяне на проблем, който всъщност е противоречив, сякаш е абсолютно верен.
Противоотровата е дисциплината за проверка, която научихте в този модул: връзка към източника, независима проверка, проверка дословно. Но допълнителен рефлекс: Не бъркайте уверения тон на AI със знак за точност. AI изглежда най-уверен, дори когато компенсира най-много.
Внимание: Най-коварният вид халюцинация е 10% измислица, вградена в 90% верен текст. Тъй като по-голямата част от текста е вярна, читателят се отпуска и си мисли, че и измислената част е вярна. Ето защо тестът „като цяло изглежда правилно“ не е достатъчен; Проверете всеки конкретен източник, цитат и факт поотделно.
Три правила на интелектуалната честност
1. Скриване на несигурност. Не представяйте като сигурно нещо, което не знаете или не можете да проверите. Да кажете „този въпрос е спорен“ или „не можах да потвърдя това“ е честност, а не слабост.
2. Покажете приноса правилно. Ако сте използвали AI и вашата организация изисква разкриване, заявете това прозрачно. Не приемайте приноса на някой друг или на машината като свой собствен.
3. Тествайте го със собствения си ум. Без значение колко плавен е даден резултат, не го приемайте, без да преминете през собствената си преценка. Крайният авторитет е вашият критичен ум, а не машината.
три мини калъфа
Случай 1 — Средно забелязано. Докторант написа част от него чрез „мозъчна атака“ с AI, но използва резултата до голяма степен такъв, какъвто е. Неговият съветник каза, че текстът не съдържа уникални разграничения, а е средно, „което всеки може да каже“. Студентът отново използва AI като дискусионен партньор: получи възражения, но установи тезата и обосновката. Втората чернова съдържа оригинален принос.
Случай 2 — 10% производство. Изследователят би използвал рационализирано и до голяма степен точно обобщение на литературата от 10 източника, което създава AI. Цялостният текст беше солиден, така че почти премина проверката. Все пак той провери всеки източник: 1 от 10 беше изфабрикуван и един цитат беше изваден от контекста. Това, че по-голямата част от текста е вярна, не прави тези 10% невинни. Систематичната проверка улови една грешка.
Случай 3 — Честна несигурност. Студент не можа да обоснове точка в семинарен текст. Вместо да го отхвърли с думите „AI каза така“, той ясно написа, „това твърдение не е ясно в източниците, трябва да бъде проверено“. Съветникът сметна това за признак на зрялост, а не на слабост. Интелектуалната честност беше по-ценна от фалшивата сигурност.
Слаба подкана / Силна подкана
Слаба подкана:
Напишете оригинален и задълбочен философски анализ по тази тема.
Това изискване е противоречиво: изискването за оригиналност от AI точно убива оригиналността. Резултатът е текст, който изглежда „оригинален“, но е среден и вероятно апокрифен.
Мощна подкана:
Вашата роля: партньор на сократично мислене. НЕ МИ ПИШЕТЕ в тази тема и НЕ МИ ДАВАЙТЕ ДИПЛОМНА ТЕЗА. Вместо това, изострете мисленето ми: 1) Поискайте 3 слаби точки в моята позиция. 2) Посочете 2 отличия, които може да съм пропуснал. 3) Дайте контрапример, за да мога да тествам тезата си. Ако претендирате за източник или факт, маркирайте го като "трябва да се провери"; не се гримирайте, ако не сте сигурни. Ще напиша дипломната работа и текста. Моята позиция: [въведете собствената си позиция]
Тази подкана поддържа мисленето във вас, превръща AI в партньор за заточване и подсказва маркиране против халюцинации.
Четири копируеми шаблона
1) Сократов партньор (кара ви да мислите):
Не ми отговаряй; задавайте въпроси Тествайте моята позиция по-долу с 5 остри Сократови въпроса: разкрийте моите предположения, пропуснати стъпки и контрапримери. Изработване на дипломна работа. Моето местоположение: [местоположение]
2) Маркиране на халюцинации:
Отговорете по-долу, но маркирайте всяко фактическо твърдение, източник и цитат с неговото ниво на достоверност: [СИГУРЕН] / [ТРЯБВА ДА БЪДЕ ПРОВЕРЕН] / [НЕ СИГУРЕН]. Не измисляйте източник или цитат, в които не сте сигурни. Вместо това кажете „не знам“. Въпрос: [въпрос]
3) Диагноза със средна специфичност:
Текстът по-долу е мой. Кои раздели са средни, кои „всеки може да каже“ и кои съдържат уникално отличие/претенция? Маркирайте останалите места, за да мога да ги направя уникални. Добавяне на съдържание; само диагностика. Текст: [текст]
4) Честност на несигурността:
Намерете твърдения в текста по-долу, които са представени като точни, но всъщност са оспорени или необосновани. За всеки предложете как може да се изрази по-честно. Текст: [текст]
Таблица за автентичност/честност
поведение
оригиналност
честност
Заключение
Имате дисертацията, написана от AI
Няма
нарушение
безполезен, рискован
Мозъчна атака с AI, писане на тезата сами
да
Честен (заяви)
скъпоценен
Използване на AI източник без проверка
—
Риск от нарушение
Опасност от фабрикуване
Посочете ясно несигурността
—
високо
надежден
Често срещани грешки
- Искане на оригиналност от AI. Това е противоречиво искане; оригиналността произтича само от вашата преценка.
- Задоволете се с „като цяло вярно“. 10% измислици се крият в 90% истина; Проверете всяко конкретно твърдение поотделно.
- Сбъркайте уверения тон с точност. AI изглежда най-уверен, когато компенсира най-много.
- Скриване на несигурност. Фалшивата увереност е по-вредна от честната резервация и разрушава доверието.
- Укриване на приноса. Неразкриването на използването на AI противоречи на корпоративната политика и почтеност.
В обобщение
Оригиналността на преценката, халюцинациите и интелектуалната честност са етичната основа на използването на ИИ в хуманитарните науки. Самото мислене е неотменимо: AI може да е партньор за изостряне, но тезата, обосновката и заключението са ваши; Иначе остава среден и неподправен текст. Халюцинациите са резултат от начина, по който работи AI; Не бъркайте уверения тон с истина и хванете 10% измислица в рамките на 90% истина, като я проверите отделно. Три правила на интелектуалната честност: скрийте несигурността, представете точно приноса, тествайте със собствения си ум. Смяна на инструменти; Тази дисциплина не се променя.
Задача за приложение
- Напишете една ваша философска позиция (със свои думи, накратко).
- Получавайте само въпроси от AI с шаблона „Socratic partner“; не приемайте никаква теза.
- Укрепете позицията си, като напишете вашите собствени отговори на тези въпроси.
- Генерирайте AI изход с шаблон за „маркиране на халюцинации“ и действително проверете твърденията с етикет [ПРОВЕРЕН].
- Тествайте своя собствен текст с шаблона „диагностика на средна оригиналност“ и направете раздел уникален.
контролен списък
- [ ] Създадох тезата, обосновката и заключението със собствените си разсъждения.
- [ ] Използвах AI като партньор за изостряне на мисленето, а не като заместител.
- [ ] Проверих индивидуално всеки конкретен източник, цитат и факт.
- [ ] Доверих се на доказателствата, а не на уверения тон на ИИ.
- [ ] Честно отбелязах неясни/необосновани твърдения.
- [ ] Декларирал съм използването на AI съгласно корпоративната политика.