Табыстар:
- Неліктен пайымдаудың түпнұсқалығы ажыратылмайтынын түсіну қабілеті және жасанды интеллект тек өткір серіктес бола алады.
- Галлюцинацияның формаларын тану және 90 пайыздық шындық аясында 10 пайыздық ойдан бөлек тексеру мүмкіндігі.
- Түсініксіздікті жасырмау, үлесті дәл көрсету және өз ақыл-ойын сынау принциптері арқылы интеллектуалды адалдықты сақтай білу.
Біз бұл модульдің ең терең бөліміне келдік. Философиядағы жалғыз құнды нәрсе - пайымдаудың өзі - өзіндік ерекшелік, батыл тезис, нәзік негіздеме. Бұл бөлімде біз өзара байланысты үш тақырыпты қарастырамыз: пайымдаудың түпнұсқалығы (ой шынымен де біреудің немесе машинаның дайын өнімінің көшірмесі емес, өз ойының жемісі болса), галлюцинация (ЖИ жоқ ақпаратты, дереккөзді немесе дәйексөзді факт ретінде шығарады) және зияткерлік адалдық (бір идеяны өндіру және басқалар туралы шынайылық; нені білмейтіні, кімнен не алғаны, нені түсініксіз екені анық). Бұл үшеуі гуманитарлық ғылымдарда AI қолданудың этикалық өзегі болып табылады.
Бұрынғы бөлімдер бір дағдыларды үйретті; Бұл бірлік барлығының негізінде жатқан психикалық тәртіпті белгілейді. Өйткені құралдар өзгермейді, бірақ интеллектуалдық адалдық өзгермейді.
Неліктен соттың түпнұсқалығы ажырағысыз?
Философияда мәтіннің «дұрыс жауап беруі» жеткіліксіз; Сіз бұл жауапқа қалай келдіңіз, қандай айырмашылықтар жасадыңыз және сіз күткен және кездестірген қарсылықтар нақты құнды болып табылады. AI миллиондаған мәтіндердің орташа мәнін шығарады; бұл орташа мәнді, ақылға қонымды және жиі дәл болып көрінеді, бірақ ол түпнұсқа емес. Түпнұсқа ойлау ортадан алшақтайтын жерден басталады: ешкім жасамайтын ерекшелік, дәстүрлі көзқарасқа батыл шақыру, екі ұғым арасындағы жаңа байланыс.
Сіз AI-ді ойлау серіктесі ретінде пайдалана аласыз — оған қарсылықтар туғызуға, соқыр жеріңізді көрсетуге, тұжырымдаманы түсіндіруге көмектесуге мүмкіндік беріңіз. Бірақ егер сіз ойлаудың өзін - тезис, негіздеу, қорытындыны тапсырсаңыз - сізде орташа мәтін қалады және сіздің үлесіңіз нөлге тең болады. Оның үстіне, бұл интеллектуалдық адалдықты бұзу: басқа біреудің (бұл жағдайда машинаның) өнімін өзіңдікі ретінде ұсыну.
Кеңес: Әр сеанста өзіңізден «АИ мен үшін бұл туралы ойлануға рұқсат етіңіз» және «Интеллект менің ойымды айқындасын» арасындағы айырмашылықты сұраңыз. Біріншісі түпнұсқалықты өлтіреді; Екіншісі күшейтеді. Нақты критерий: Сессия соңында пайда болған тезис пен негіздеме сіздің ойыңыздан шықты ма, әлде экраннан көшірілді ме?
Галлюцинацияны тану және болдырмау
Галлюцинация АИ қатесі емес, оның жұмыс істеу тәсілінің салдары: модель шындықты «білмейді», ол статистикалық ықтимал мәтінді шығарады. Сондықтан ол сұраққа жауабы жоқ кезде де ол олқылықтың орнын сенімді ойдан толтырады. Адамдардағы галлюцинацияның типтік формалары:
- Жасанды дереккөз: жоқ кітап, мақала, жалған DOI.
- Жалған дәйексөз: нақты авторға жатпайтын тырнақшадағы сөйлем.
- Қателік: дұрыс көзқарасты қате философқа жатқызу.
- Жасалған күн/факт: күн, оқиға немесе жоқ статистика.
- Сенімді екіұштылық: шын мәнінде даулы мәселені мүлдем шындық сияқты ұсыну.
Антидот - сіз осы модульде үйренген тексеру пәні: дереккөзге сілтеме, тәуелсіз тексеру, сөзбе-сөз тексеру. Бірақ қосымша рефлекс: AI-ның сенімді үнін дәлдік белгісі деп қателеспеңіз. Жасанды интеллект ең көп жасаған кезде де өзіне сенімді болып көрінеді.
Абайлаңыз: Галлюцинацияның ең жасырын түрі - 90% шынайы мәтінге енгізілген 10% ойдан шығару. Мәтіннің басым бөлігі ақиқат болғандықтан, оқырман босаңсып, құрастырылған бөлігі де шындық деп ойлайды. Сондықтан «жалпы дұрыс болып көрінеді» тесті жеткіліксіз; Әрбір нақты дереккөзді, дәйексөзді және фактіні жеке тексеріңіз.
Зияткерлік адалдықтың үш ережесі
1. Белгісіздікті жасыру. Сіз білмейтін немесе растай алмайтын нәрсені нақты көрсетпеңіз. «Бұл мәселе даулы» немесе «Мен мұны тексере алмадым» деп айту әлсіздік емес, адалдық.
2. Үлесті дұрыс көрсетіңіз. Егер сіз AI пайдаланған болсаңыз және ұйымыңыз ашуды талап етсе, мұны ашық түрде көрсетіңіз. Басқа біреудің немесе құрылғының үлесін өзіңіздікі ретінде қабылдамаңыз.
3. Оны өз ақылыңызбен сынап көріңіз. Нәтиже қаншалықты еркін болса да, оны өз пікіріңізбен қабылдамаңыз. Соңғы билік - бұл машина емес, сіздің сыни ойыңыз.
үш шағын іс
1-жағдай – Орташа мән анықталды. PhD студенті оның бір бөлігін AI көмегімен «миға шабуыл» арқылы жазды, бірақ нәтижені негізінен сол күйінде пайдаланды. Оның кеңесшісі мәтінде ерекше айырмашылықтар жоқ, бірақ «кез келген адам айта алатын» орташа көрсеткіш екенін айтты. Студент тағы да АИ-ді пікірталас серіктесі ретінде пайдаланды: ол қарсылықтар алды, бірақ ол тезисі мен негіздемесін жасады. Екінші жобада түпнұсқа үлес болды.
2-жағдай — 10% құрастыру. Зерттеуші AI шығаратын 10 дереккөзді, жеңілдетілген және негізінен дәл әдебиеттің қысқаша мазмұнын пайдаланады. Жалпы мәтін қатты болды, сондықтан ол тексеруден өтті. Дегенмен, ол әрбір дереккөзді тексерді: 10-нан 1-і ойдан шығарылған және бір дәйексөз контекстен алынып тасталды. Мәтіннің көпшілігі шындыққа сәйкес болғандықтан, бұл 10% кінәсіз болмады. Жүйелі тексеру бір қатені анықтады.
3-жағдай – Адал белгісіздік. Студент семинар мәтініндегі ойын дәлелдей алмады. «АИ айтты» деп оны жоққа шығарудың орнына, «бұл мәлімдеме дереккөздерде анық емес, оны тексеру керек» деп анық жазды. Кеңесші мұны әлсіздік емес, кемелдік белгісі деп есептеді. Интеллектуалдық адалдық жалған сенімділіктен қымбат болды.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Осы тақырып бойынша түпнұсқа және терең философиялық талдау жазыңыз.
Бұл талап қарама-қайшы: AI-дан түпнұсқалықты талап ету түпнұсқалықты дәл өлтіреді. Нәтиже – «түпнұсқа» болып көрінетін, бірақ орташа және мүмкін апокрифтік мәтін.
Күшті шақыру:
Сіздің рөліңіз: сократтық ойлау серіктесі. МЕНІҢ ҮШІН БҰЛ ТАҚЫРЫПТА ЖАЗБА ЖӘНЕ ДИПСЕРЛІК ЖҰМЫС БЕРМЕ. Оның орнына менің ойымды шыңдаңыз: 1) Менің ұстанымымдағы 3 әлсіз жерді сұраңыз. 2) Мен жіберіп алған 2 айырмашылықты көрсетіңіз. 3) Дипломдық жұмысымды тексере алу үшін қарсы мысал келтіріңіз. Егер сіз дереккөзді немесе фактіні талап етсеңіз, оны «тексеру қажет» деп белгілеңіз; сенімді болмасаңыз, жасамаңыз. Мен дипломдық жұмыс пен мәтінді жазамын. Менің ұстанымым: [өз позицияңызды енгізіңіз]
Бұл шақыру сізде ойлауды сақтайды, АИ-ді өткірлендіретін серіктеске айналдырады және галлюцинацияға қарсы таңбалауға шақырады.
Көшірілетін төрт үлгі
1) Сократтық серіктес (сізді ойландырады):
Маған жауап бермеңіз; сұрақтар қойыңыз Төмендегі позициямды 5 өткір Сократтық сұрақпен тексеріңіз: менің болжамдарымды, өткізіп жіберген қадамдарымды және қарсы мысалдарды ашыңыз. Дипломдық жұмысты шығару. Менің орным: [орын]
2) Галлюцинация белгісі:
Төменде жауап беріңіз, бірақ әрбір нақты мәлімдемені, дереккөзді және дәйексөзді оның сенімділік деңгейімен белгілеңіз: [КЕЛГІЛІ] / [ТЕКСЕРУ КЕРЕК] / [СЕНІМДІ ЕМЕС]. Сіз сенімді емес кез келген дереккөзді немесе дәйексөзді ойлап таппаңыз. Оның орнына «білмеймін» деңіз. Сұрақ: [сұрақ]
3) Орташа спецификалық диагноз:
Төмендегі мәтін менікі. Қай бөлімдер орташа, қайсысы «әркім айта алады» және қайсысында бірегей айырмашылық/шағым бар? Қалған жерлерді белгілеңіз, сонда мен оларды ерекше ете аламын. Мазмұнды қосу; тек диагностикалау.Мәтін: [мәтін]
4) Белгісіздіктің адалдығы:
Төмендегі мәтіннен дәл берілген, бірақ іс жүзінде даулы немесе дәлелсіз шағымдарды табыңыз. Әрқайсысы үшін оны қалай шынайырақ көрсетуге болатынын ұсыныңыз. Мәтін: [мәтін]
Шынайылық/адалдық кестесі
мінез-құлық
түпнұсқалық
адалдық
Қорытынды
Диссертацияны А.И. жазған
Жоқ
бұзу
түкке тұрғысыз, тәуекелді
Жасанды интеллектпен миға шабуыл, тезисті өзіңіз жазу
Иә
Адал (жариялау)
асыл
AI көзін растамай пайдалану
—
Бұзушылық тәуекелі
Жасалу қаупі
Белгісіздікті анық көрсетіңіз
—
жоғары
сенімді
Жалпы қателер
- AI-дан түпнұсқалықты сұрау. Бұл қарама-қайшы сұраныс; түпнұсқалық тек сіздің пайымдауыңыздан туындайды.
- «Жалпы шын» деп шешіңіз. 10% ойдан шығару 90% шындықты жасырады; Әрбір нақты шағымды бөлек тексеріңіз.
- Сенімді тонды дәлдікпен қателесу. Жасанды интеллект ең көп жасаған кезде өзіне сенімді болып көрінеді.
- Белгісіздікті жасыру. Жалған сенімділік адал резервтен гөрі зиянды және сенімді жояды.
- Салымды жасыру. Жасанды интеллектті қолдануды жарияламау корпоративтік саясат пен адалдыққа қайшы келеді.
Қысқаша
Пікірлердің түпнұсқалығы, галлюцинация және интеллектуалдық адалдық AI-ны гуманитарлық ғылымдарда қолданудың этикалық өзегі болып табылады. Ойлаудың өзі ажырағысыз: AI өткірлеуші серіктес болуы мүмкін, бірақ тезис, негіздеме және қорытынды сіздікі; Әйтпесе, орташа және ешбір өзгеріссіз мәтін қалады. Галлюцинация - бұл AI жұмысының нәтижесі; Сенімді реңкті шындық деп шатастырмаңыз және оны бөлек тексеру арқылы 90% шындықтың ішінде 10% ойдан шығарыңыз. Зияткерлік адалдықтың үш ережесі: белгісіздікті жасыру, үлесті дәл көрсету, өз ойыңмен сынау. Құралдарды өзгерту; Бұл тәртіп өзгермейді.
Қолданбалы тапсырма
- Өзіңіздің философиялық ұстанымыңызды жазыңыз (өз сөзіңізбен, қысқаша).
- «Сократтық серіктес» үлгісімен AI сұрақтарын алыңыз; ешқандай дипломдық жұмысты қабылдамаңыз.
- Осы сұрақтарға өз жауаптарыңызды жазу арқылы өз ұстанымыңызды бекітіңіз.
- «Галлюцинация таңбалау» үлгісімен жасалған AI шығысын алыңыз және [ТЕКСЕРІЛДІ] деп белгіленген шағымдарды нақты тексеріңіз.
- Өз мәтініңізді «орташа түпнұсқалық диагностика» үлгісімен тексеріп, бөлімді бірегей етіп жасаңыз.
бақылау парағы
- [ ] Дипломдық жұмысты, негіздеме мен қорытындыны өз ойыммен жасадым.
- [ ] Мен AI-ны алмастырушы ретінде емес, ойлауды шыңдау үшін серіктес ретінде қолдандым.
- [ ] Мен әрбір нақты дереккөзді, дәйексөзді және фактіні жеке тексердім.
- [ ] Мен AI сенімді үніне емес, дәлелдерге сендім.
- [ ] Мен анық емес/дәлелденбеген шағымдарды атап өттім.
- [ ] Мен корпоративтік саясатқа сәйкес AI пайдалануды жарияладым.