Добици:
- Способност да се схвати зашто је оригиналност расуђивања неотуђива, а вештачка интелигенција може бити само партнер за изоштравање
- Способност препознавања облика халуцинације и засебног верификације 10 посто измишљотина унутар 90 посто истине.
- Способност одржавања интелектуалне искрености кроз принципе не скривања двосмислености, представљања доприноса као тачног и тестирања сопственог ума.
Дошли смо до најдубље јединице овог модула. Једино што је вредно у филозофији је само резоновање — оригинална дистинкција, смела теза, суптилно оправдање. У овој јединици ћемо покрити три међусобно повезане теме: оригиналност расуђивања (када је мисао заиста производ сопственог расуђивања, а не копија нечијег или машинског готовог резултата), халуцинације (где вештачка интелигенција производи непостојећу информацију, извор или цитат као чињеницу) и интелектуалну искреност са знањем (бити искрен и искрен према себи); шта ко не зна, шта је од кога добио, а шта је нејасно). Ова три су етичка срж употребе АИ у хуманистичким наукама.
Претходне јединице су подучавале појединачне вештине; Ова јединица успоставља менталну дисциплину која је у основи свега. Јер алати се мењају, али интелектуално поштење не.
Зашто је оригиналност расуђивања неотуђива?
У филозофији није довољно да текст „да прави одговор“; Како сте дошли до тог одговора, које сте разлике направили и које сте примедбе предвидели и на које сте се сусрели су од стварне вредности. АИ производи у просеку милионе текстова; овај просек изгледа флуидан, разуман и често тачан—али није оригиналан. Оригинално размишљање почиње управо тамо где се одвајате од просека: разлика коју нико други не прави, храбар изазов конвенционалном погледу, нова веза између два концепта.
Можете да користите вештачку интелигенцију као партнера за размишљање — дозволите јој да генерише примедбе, покаже вам вашу слепу тачку, помогне вам да разјасните концепт. Али ако делегирате само размишљање — тезу, оправдање, закључак — остаје вам просечан текст и ваш допринос је нула. Штавише, ово је кршење интелектуалног поштења: представљање туђег (у овом случају машинског) производа као свог.
Савет: Запитајте се у свакој сесији која је разлика између „Нека АИ размисли о томе уместо мене“ и „Нека АИ изоштри моје размишљање“. Први убија оригиналност; Други јача. Конкретан критеријум: Да ли вам је теза и оправдање које су се појавиле на крају сесије потекле из главе или је преписано са екрана?
Препознавање и одбијање халуцинација
Халуцинација није грешка АИ, већ последица начина на који функционише: модел не „зна” истину, он производи статистички вероватан текст. Па чак и када нема одговор на питање, празнину попуњава веродостојном измишљотином. Типични облици халуцинација у људским доменима:
- Измишљени извор: непостојећа књига, чланак, лажни ДОИ.
- Лажни цитат: реченица под наводницима која не припада правом аутору.
- Погрешна атрибуција: приписивање правог погледа погрешном филозофу.
- Измишљени датум/чињеница: датум, догађај или статистика која не постоји.
- Самоуверена двосмисленост: представљање питања које је заправо контроверзно као да је апсолутно тачно.
Протуотров је дисциплина верификације коју сте научили током овог модула: линк до извора, независна провера, дословна провера. Али додатни рефлекс: немојте заменити самоуверени тон АИ са знаком тачности. АИ изгледа најпоузданије чак и када највише надокнађује.
Опрез: Најподмуклија врста халуцинације је 10% измишљотина уграђених у 90% истинитог текста. Пошто је већи део текста истинит, читалац се опушта и мисли да је и измишљени део истинит. Зато тест „генерално изгледа тачан“ није довољан; Проверите сваки одређени извор, цитат и чињеницу појединачно.
Три правила интелектуалног поштења
1. Скривање неизвесности. Не представљајте као сигурно нешто што не знате или не можете да потврдите. Рећи „ово је дискутабилно“ или „ово нисам могао да проверим“ је искреност, а не слабост.
2. Тачно прикажите допринос. Ако сте користили вештачку интелигенцију и ваша организација захтева откривање, наведите то транспарентно. Не узимајте туђи или допринос машине као свој.
3. Тестирајте га својим умом. Без обзира колико је резултат течан, немојте га прихватити а да не прођете кроз сопствену просудбу. Коначни ауторитет је ваш критички ум, а не машина.
три мини кофера
Случај 1 — Просек примећен. Студент докторских студија написао је део тога тако што је „размислио“ о томе помоћу вештачке интелигенције, али је користио излаз углавном такав какав јесте. Његов саветник је рекао да текст не садржи јединствене разлике, већ да је просек „који би свако могао да каже“. Студент је поново користио АИ као партнера у дискусији: добио је примедбе, али је успоставио тезу и оправдање. Други нацрт је садржао оригиналан прилог.
Случај 2 — 10% фабрика. Истраживач би користио 10 извора, поједностављен и углавном тачан сажетак литературе који производи АИ. Укупан текст је био солидан, тако да је скоро прошао верификацију. Ипак, проверио је сваки извор: 1 од 10 је измишљен и један цитат је извучен из контекста. Само зато што је већина текста била истинита није чинило тих 10% невиним. Систематска провера ухватила је једну грешку.
Случај 3 — Искрена несигурност. Студент није могао да оправда поен у тексту семинара. Уместо да је одбаци рекавши „АИ је тако рекао“, јасно је написао, „ова тврдња није јасна у изворима, треба је проверити“. Саветник је ово сматрао знаком зрелости, а не слабости. Интелектуално поштење је било вредније од лажне сигурности.
Слаби промпт / Јаки промпт
Слабо обавештење:
Напишите оригиналну и дубинску филозофску анализу на ову тему.
Овај захтев је контрадикторан: захтевање оригиналности од вештачке интелигенције управо убија оригиналност. Резултат је текст који изгледа „оригинално“, али је просечан и вероватно апокриф.
Снажан упит:
Ваша улога: партнер у сократском размишљању. НЕ ПИШИТЕ ЗА МЕНЕ на ову тему и НЕ ДАЈТЕ МИ ТЕЗЕ. Уместо тога, изоштрите моје размишљање: 1) Тражите 3 слабе тачке у мојој позицији. 2) Истакни 2 разлике које сам можда пропустио. 3) Дајте контрапример како бих могао да тестирам своју тезу. Ако тврдите да је извор или чињеница, означите то као „мора бити потврђено“; не помишљајте ако нисте сигурни. Написаћу тезу и текст. Мој став: [унесите своју позицију]
Овај подстицај задржава размишљање у вама, претвара АИ у партнера за изоштравање и подстиче обележавање против халуцинација.
Четири шаблона за копирање
1) Сократски партнер (тера вас на размишљање):
Не одговарај ми; постављајте питања Тестирајте моју позицију испод са 5 оштрих сократских питања: откријте моје претпоставке, прескочене кораке и контрапримере. Израда тезе. Моја локација: [локација]
2) Ознаке халуцинације:
Одговорите у наставку, али сваку чињеничну тврдњу, извор и цитат означите нивоом поузданости: [ИЗВЈЕРЕНО] / [МОРА БИТИ ВЕРИФИКОВАНО] / [НИСУ СИГУРНО]. Не измишљајте ниједан извор или цитат у који нисте сигурни. Уместо тога реците "не знам". Питање: [питање]
3) Дијагноза просечне специфичности:
Текст испод је мој. Које рубрике су просечне, које „свако може да каже“, а које садрже јединствену разлику/тврдњу? Означите преостала места да их учиним јединственим. Додавање садржаја; само за дијагнозу.Текст: [текст]
4) Несигурност искреност:
У тексту испод пронађите тврдње које су представљене као тачне, али су заправо спорне или непоткријепљене. За сваку предложите како би се то могло искреније изразити. Текст: [текст]
Табела аутентичности/поштености
понашање
оригиналност
поштење
Закључак
Након што је тезу написао АИ
Ниједан
кршење
безвредан, ризичан
Размислите са вештачком интелигенцијом, сами пишете тезу
Да
поштен (изјавити)
драгоцени
Коришћење извора вештачке интелигенције без провере
—
Ризик од кршења
Опасност од измишљотина
Јасно наведите несигурност
—
висока
поуздан
Уобичајене грешке
- Тражите оригиналност од АИ. То је контрадикторан захтев; оригиналност произилази само из вашег суда.
- Задовољите се са "генерално истинитим". 10% измишљотина крије се у 90% истине; Проверите сваку конкретну тврдњу посебно.
- Погрешио самоуверени тон за тачност. АИ изгледа најпоузданије када највише надокнађује.
- Скривање неизвесности. Лажна сигурност је штетнија од искрене резерве и уништава поверење.
- Прикривање доприноса. Неоткривање употребе АИ противно је корпоративној политици и интегритету.
Укратко
Оригиналност расуђивања, халуцинације и интелектуално поштење су етичко језгро употребе вештачке интелигенције у хуманистичким наукама. Само размишљање је неотуђиво: АИ може бити партнер за изоштравање, али теза, образложење и закључак су ваши; Иначе, остаје просечан и непатворен текст. Халуцинације су резултат начина на који АИ ради; Немојте заменити самоуверени тон са истином и ухватите 10% измишљотина унутар 90% истине тако што ћете их засебно проверити. Три правила интелектуалне искрености: сакријте несигурност, прецизно представите допринос, тестирајте својим умом. Промена алата; Ова дисциплина се не мења.
Задатак апликације
- Напишите свој филозофски став (својим речима, укратко).
- Добијте само питања од АИ помоћу шаблона „Сократов партнер“; не узимајте никакву тезу.
- Ојачајте своју позицију тако што ћете написати сопствене одговоре на ова питања.
- Нека АИ излаз буде генерисан са шаблоном „означавање халуцинација“ и заправо верификујте тврдње са ознаком [ВЕРИФИЕД].
- Тестирајте свој текст помоћу шаблона „дијагностика просечне оригиналности“ и учините одељак јединственим.
контролна листа
- [ ] Тезу, образложење и закључак сам произвео сопственим образложењем.
- [ ] Користио сам АИ као партнера за изоштравање размишљања, а не као замену.
- [ ] Појединачно сам проверио сваки конкретан извор, цитат и чињеницу.
- [ ] Веровао сам доказима, а не самоувереном тону АИ.
- [ ] Искрено сам означио нејасне/непоткријепљене тврдње.
- [ ] Изјавио сам употребу АИ у складу са корпоративном политиком.