Табыстар:
- Неліктен галлюцинация (ойдан шығарылған дереккөз, дәйексөз, оқиға) және анахронизм тарихтағы ең қауіпті қателер екенін түсіндіре білу
- Каталогтағы әрбір анықтаманы тексеру, мазмұнды құжатпен салыстыру және сыни фактілерді өзара растау пәнін қолдану мүмкіндігі.
- Жасанды интеллекттен нақты дереккөздің орнына қайдан іздеу керек екенін сұрау арқылы дереккөздердегі біржақтылыққа және жоқ дауыстарға күмән келтіру мүмкіндігі
Бұл модульдің әрбір бөлімінде қайталанатын ескерту бар: AI нәтижесі тексерілмейінше факт емес, шағым болып табылады. Бұл бөлім сол ескертуді тәртіпке айналдырады. Тарих және мұрағаттану – дәлелдемелерге негізделген өрістер; Тарихшының ең негізгі дағдысы – дереккөз сыны (көзді кім, қашан, қандай мақсатта жасағанын және оның қаншалықты сенімді екенін сұрау). Жасанды интеллект дәуірінде бұл дағды бұрынғыдан да маңыздырақ болды, өйткені дереккөздің өзі енді ойдан шығарылуы мүмкін.
Мұнда біз үш қауіпті тереңірек қарастырамыз: галлюцинация (жасанды ақпаратты, дереккөздерді немесе дәйексөздерді шығаратын AI), анахронизм (мерзімді элементтердің қате кезеңге ауыстырылуы) және жалпы дереккөзді тексеру тәртібі. Сондай-ақ біз AI-ны бұрын дәл емес немесе біржақты болған дереккөздерден үйренетінін көреміз, сондықтан ол біржақтылықты көбейте алады.
Галлюцинация: ең қауіпті қате
Галлюцинация - бұл AI шын мәнінде жоқ нәрсені сенімді түрде ұсынуы. Тарихи түрде ол келесі формаларда жиі кездеседі:
- Жасалған дереккөз/анықтама: жоқ мұрағат қоры, файл нөмірі, кітап немесе мақала.
- Құрастырылған дәйексөз: Іс жүзінде айтылмаған сөз, құжатта жоқ сөйлем.
- Жасалған оқиға/дата/адам: Болмаған оқиға, жалған күн, жоқ адам.
- Жалған байланыс: екі нақты оқиғаның арасында жоқ себеп-салдар байланысы.
Галлюцинацияны қауіпті ететін нәрсе - бұл сенуге болатын сияқты. Жасалған анықтама нақты анықтама сияқты пішімге ие: қор атауы, нөмірі, күні. Сондықтан «пішім дұрыс көрінеді» ешқашан «дұрыс» дегенді білдірмейді.
Назар аударыңыз: YZ шығарған ешбір ресурс тексерілмей және каталогта немесе сенімді жерде табылмай пайдаланыла алмайды. Анықтаманың бар екенін дәлелдеудің бірден-бір жолы - оны бастапқы дереккөздің (мұрағат каталогы, кітапхана, басылым) қай жерде орналасқанын көру. «AI берді» - бұл дәлел емес.
Анахронизм: кезеңнің стақандары
Анахронизм - өткенді бүгінгі күннің көзілдірігімен көру. Жасанды интеллект бүгінгі тілде дайындалғандықтан, оның келесі әрекеттерге бейімділігі күшті:
- Термин анахронизм: Кезеңге жатпайтын сөзді, мекемені немесе ұғымды қолдану.
- Концепция анахронизмі: өткенге қазіргі (мысалы, қазіргі идеология немесе сәйкестік) идеясын проекциялау.
- Құндылық анахронизмі: өткен мінез-құлықты тек бүгінгі стандарттар бойынша бағалау.
Тарихшының міндеті – өткенді оның контекстінде түсіну. AI-да бұл контекст сезімталдығы жоқ; Сіз оны өзіңіз қамтамасыз етуіңіз керек.
Галлюцинацияның неліктен жиі болатынын түсіну одан қорғануды жеңілдетеді. AI – «келесі ең ықтимал сөзді» шығару үшін жұмыс істейтін жүйе; Оның «шындықты білу» сияқты мақсаты жоқ. Жауабын біле ме, білмей ме деген сұрақ қойылғанда, ол статистикалық тұрғыдан нанымды көрінетін мәтін шығарады. Мұрағаттық анықтаманың пішімі (қор атауы, нөмірі, күні) үйренген үлгі болып табылады; AI бұл үлгіні нақты сілтемесіз толтыра алады. «Неліктен AI оны жасайды?» Сұрақтың жауабы қарапайым: оған «білмей қалудан» түзеу оңайырақ. Бұл қалыптарды нақты ресурстармен толтыру жауапкершілігі сізге жүктеледі.
Дереккөзді тексеру пәні: кезең-кезеңімен
1. Ресурстың бар екенін тексеріңіз. Каталогтан/басылымнан AI берген әрбір анықтаманы табыңыз. Егер сіз оны таба алмасаңыз, оны қолданбаңыз.
2. Мазмұнын дереккөзбен салыстырыңыз. AI құжатқа атрибут беретін ақпарат құжатта шынымен бар ма? Дәйексөз дәл солай ма?
3. Айқас растау. Сыни факті үшін кем дегенде екі тәуелсіз сенімді дереккөзді қараңыз.
4. Дереккөз сынды қолдану. Дереккөздің өзі сенімді ме? Оны кім, қашан және қандай мақсатта шығарды? Бұл біржақты ма?
5. Оны анахронизм сүзгісінен өткізіңіз. Шығарылымдағы кезеңге сәйкес келмейтін терминдер, тұжырымдамалар немесе құндылық пікірлер бар ма?
6. Предюдицияға сұрақ қою. Жасанды интеллект тарихи дереккөздердегі біржақтылықты (бір топты елемеу, бір көзқарасты жақтау) қайта шығара алар ма еді?
Аутентификация қабаты
Сұрақ
кім жасайды
нысан
Бұл ресурс шынымен бар ма?
Сіз каталогтасыз.
Мазмұны
Бұл шынымен құжатта айтылған ба?
Сіз құжаттасыз
Растау
Басқа дереккөз оны қолдайды ма?
сен, кес
сенімділік
Дереккөз сенімді ме?
сараптамалық қорытынды
Кезең
Анахронизмдер бар ма?
сараптамалық қорытынды
алалаушылық
Кімнің дауысы жоқ/бұрмаланған?
сараптамалық қорытынды
үш шағын іс
1-жағдай – алты жасанды сілтеме. Зерттеуші AI-дан тақырып бойынша дереккөздердің тізімін сұрады. YZ тамаша пішімдеумен 6 мұрағаттық анықтама берді. Каталогты іздеуде 6-ның 4-і жоқ, 2-нің нөмірі қате. Егер зерттеуші растамағанда, жоқ дереккөздерге сілтеме жасайтын зерттеу пайда болар еді. Сабақ: әрбір анықтама каталогта тексеріледі.
2-жағдай — Құрастырылған дәйексөз. Жазушы AI тарихи тұлғаға жатқызатын керемет дәйексөзді қолданады. Дереккөзді тексергенде, ол адамның мұндай сөзді айтқанын дәлелдейтін құжат жоқ екенін, бұл мәлімдемені А.И. «ойдан құрастырған» екенін көреді. Сабақ: тырнақшаларды негізгі немесе сенімді көзден растаусыз пайдалануға болмайды.
3-жағдай. Студент AI-ға аймақтың тарихын түсіндірді. Шығарылым сол аймақтағы белгілі бір қауымдастықты толығымен елемеді, өйткені AI үйренген көздер де оларды елемейді. Студент бұл олқылықты байқап, өзара сілтемелер арқылы түзетеді. Сабақ: AI көздердегі үнсіздіктер мен қиғаштықтарды шығарады; Кімнің дауысы жоқ деп сұрау керек.
Көшірілетін төрт үлгі
1) Анықтамалық тексеру тізімі:
Төмендегі мәтіндегі БАРЛЫҚ дереккөз, сілтеме, дәйексөз, күн және адам аттары бөлек тізімде көрсетіледі. Әрқайсысы үшін ескертпе қосыңыз: «осы мәтінде мәлімделген, тәуелсіз расталу керек». Ешбіреуін таңдасаңыз, «тексеру»; Тексеру үшін тізімді жасаңыз, мен оны каталогтан/көзден тексере аламын. Мәтін: [мұнда]
2) Анахронизмді сканерлеу:
Төмендегі [кезең] туралы мәтінді қарастырыңыз. Осы кезеңге жатпайтын терминдерді, институттарды, тұжырымдамаларды және құндылықтарды бөлектеңіз. Әрқайсысы үшін неліктен күдіктенетініңізді қысқаша жазыңыз. Қорытынды қорытынды шығару; Сарапшы тексеретін күдіктер тізімін жасаңыз. Мәтін: [мұнда]
3) Дереккөздік сын шеңбері:
Дереккөз сыны келесі дереккөзге қатысты әзірленеді: (1) Оны кім шығарған болуы мүмкін, (2) қашан, (3) қандай мақсатта, (4) оның ықтимал қиғаштықтары қандай, (5) қандай мәселелерге сену керек және қайсысына сақтықпен қарау керек. Соңғы үкім шығару; Сұрақтар мен мүмкін жауап нұсқаларын көрсетіңіз. Дереккөз: [мұнда]
4) Дыбыс деңгейін/қиғаштықты басқару жоқ:
Төмендегі тарихи қорытындыда КІМДІҢ дауысы және қай топтың тәжірибесі жоқ немесе біржақты болуы мүмкін? Қай перспектива басым, қайсысы көрінбейді? Мұны сұрақтар тізімі ретінде шығарыңыз; Мен оны айқас сілтемелермен толтырамын. Түйіндеме: [мұнда]
Әлсіз шақыру / Күшті шақыру
Әлсіз:
Маған осы тақырып бойынша сенімді тарихи дереккөздер мен дәйексөздер беріңіз.
AI пішіні дұрыс, бірақ «көз» және «дәйексөз» сұралғанда мазмұны бойынша жасалған сілтемелерді жасауға өте бейім. Бұл шақыру галлюцинацияға тікелей шақыру болып табылады.
Күшті:
Осы тақырып бойынша зерттеулерімде қандай Дереккөздердің (мұрағат қорының түрі, басылым түрі, мекеме) іздеу керектігін ұсыныңыз. Арнайы анықтаманы, файл нөмірін немесе дәйексөзді ҚОСУ; Тек қайда қарау керектігін айтыңыз. Содан кейін мен нақты дереккөздерді каталогтардан табамын.
Айырмашылық: AI-дан «нақты анықтама» емес, «қайдан іздеу керек» сұралады; Галлюцинация қаупі түбегейлі төмендейді және тексеру адамға қалдырылады.
Жалпы қателер
- Дұрыс анықтамаға сүйену. Жасалған анықтама да мінсіз болып көрінеді; каталогта тексерілуі керек.
- AI-дан тікелей дәйексөз алу. Баға ұсыныстарын негізгі/сенімді көзден растаусыз пайдалануға болмайды.
- Анахронизмді елемеу. Бүгінгі терминдер мен ұғымдар үнсіз өткенге сіңеді.
- Алдын ала қарауды жаңғырту. AI көздерден үнсіздіктерді көшіреді; Жетіспейтін дыбыс туралы сұрау керек.
- Бір көзге сүйену. Сыни фактілерді кем дегенде екі тәуелсіз дереккөз растауы керек.
Қысқаша айтқанда
Дереккөзді тексеру тарих пен мұрағаттаудың негізі болып табылады және AI дәуірінде одан да маңызды. Галлюцинация пішіні мінсіз, бірақ мазмұны ойдан шығарылған дереккөздерді, дәйексөздерді және оқиғаларды тудырады; анахронизм бүгінгі күннің объективтері арқылы өткенді бұрмалайды; және AI көздердегі бұрмалануларды шығарады. Қорғау - бұл пән: каталогтағы әрбір анықтаманы тексеру, мазмұнды құжатпен салыстыру, сыни фактілерді салыстыру, кезең мен бұрмалау арқылы сүзгілеу. AI-дан «нақты дереккөзді» емес, «қайдан іздеу керектігін» сұраңыз. Ақиқаттың сақшысы әрқашан білгір.
Қолданбалы тапсырма
Жасанды интеллект сіз жұмыс істеп жатқан тақырып бойынша ресурстардың тізімін шығарсын (әдейі «әлсіз нұсқау» бар). Содан кейін «анықтамаларды тексеру тізімі» үлгісімен осы шығыстан барлық сілтемелерді шығарып, әрқайсысын каталогтан іздеңіз. Қаншасы шын мәнінде бар және қаншасы құрастырылған немесе дәл емес екенін есептеңіз. Бір тақырыпты «күшті шақыру» («қайда қарау керек») арқылы қайталаңыз және айырмашылықты сезініңіз.
бақылау парағы
- [ ] Мен каталогтағы/сенімді көздегі әрбір сілтемені тексердім.
- [ ] Мен әрбір дәйексөзді негізгі/сенімді көзбен тексердім.
- [ ] Мен сыни фактілерді кем дегенде екі тәуелсіз дереккөз арқылы тексердім.
- [ ] Мен анахронизмдер үшін шығысты сүздім.
- [ ] Мен жоқ/бұрмаланған дауыстар мен біржақтылыққа күмәндандым.