Табыстар:
- Ағымдағы даму ақпараты мен тәсілдерін жылдам сканерлеу және әрбір шағымды сенімді көзге қосу арқылы тексеру үшін жасанды интеллектті пайдалану мүмкіндігі
- Жасанды дереккөздердің, ескі ақпараттың және сән әдістерінің тұзақтарын тану (әлсіз дәлелдермен тәсіл) және дәлелдер деңгейіне күмән келтіру мүмкіндігі
- AI нәтижесі бастапқы нүкте екенін түсіну қабілеті, соңғы дереккөз рецензияланған әдебиеттер мен ресми нұсқаулар болып табылады.
Баланың дамуы - тез дамып келе жатқан сала: жаңа скрининг құралдары, жаңартылған кезеңдік нұсқаулар, дамып келе жатқан араласу тәсілдері. Қазіргі уақытта болу кәсіби маманның міндеті. Жасанды интеллект - бұл уақытты анықтаудың еліктіретін жылдам құралы: ол тақырыпты секундтарда қорытындылайды, тәсілдерді салыстырады, «соңғы уақытта не белгілі» деген сұраққа еркін жауап береді. Бірақ дәл осы жылдамдық ең үлкен тұзақты жасырады. Жасанды интеллект ойдан шығара алады: жоқ зерттеуді, жалған статистиканы немесе тіпті шынайы ғалымның атын қосу арқылы жалған дереккөзді ұсыныңыз. Бұл бөлімде біз AI-ны скринингтің бастапқы нүктесі ретінде пайдалануды және оны сенімді көзге қосу арқылы әрбір шағымды тексеруді қарастырамыз.
Бірінші ең маңызды ұғым: галлюцинация. Бұл тілдік модельдің ақпаратты, дереккөзді немесе іс жүзінде жоқ зерттеуді, шындық сияқты шығара алу қабілеті. Модель «шындықты есте сақтамайды»; Мүмкін сөздер тізбегін жасайды. Сондықтан оның нақты дереккөзге өте ұқсас, бірақ жоқ анықтаманы шығаруы өте мүмкін («Yılmaz et al., 2019, Journal of Child Development»). Баланы дамыту жөніндегі сарапшы үшін жалған дереккөзге сену кәсіби сенімділік пен баланың әл-ауқатына нұқсан келтіреді.
Жасанды интеллект қай жерде пайдалы, қай жерде қауіпті?
Жасанды интеллект тақырыпты түсінуге және құруға жақсы бастама: ол тұжырымдаманы жеңілдетеді, іздеуге арналған терминдерді ұсынады, мәтінді қорытындылайды, қарама-қарсы көзқарастарды тізімдейді. Бірақ бұл фактілердің көзі емес: сандар, күндер, зерттеу нәтижелері, шекті ұпайлар және дереккөздер үшін оған сенбеңіз. Ереже: Картаны сызу үшін AI пайдаланыңыз, қазына іздемейді. Қазына (нақты дәлел) рецензияланған әдебиеттер мен ресми нұсқауларда.
AI қауіпсіз пайдалану
AI қауіпті пайдалану
Ұғымды қарапайым тілмен түсіндіру
Статистиканы нақты деп болжасаңыз
Іздеу шарттарын және тақырыптық карталарды ұсыныңыз
Тексерусіз дереккөзге сілтеме жасау
Ұзын мәтінді қорытындылау
Одан маңызды жасты үйрену
Қарама-қарсы көзқарастарды құрастыру
әдіс дәлелдерін сұрақсыз қабылдау
Дәлелдер деңгейі және сән әдісі тұзағы
Барлық талаптар бірдей емес; Дәлелдеу деңгейі маңызды. Бір оқиғаның баяндауы көптеген балаларда жүргізілген қайталанатын, рецензияланған зерттеумен бірдей салмақты көтермейді. Баланың дамуындағы жиі кездесетін қауіп - бұл сәнді әдіс тұзағы: «жаңа әдіс барлық даму кешігулерін тез түзетеді» сияқты асыра және нақты уәделер әрқашан дерлік нашар дәлелдердің белгісі болып табылады. Нағыз ғылым сақ; «Бұл оны анық шешеді», «бұл ғажайып», «бұл барлық балаларға әсер етеді» деген сөздер ескерту жалаушалары болып табылады.
Тексеру тәртібі:
- Шағымды бөліңіз. AI мәтінінде әрбір нақты мәлімдеме мен дереккөзді белгілеңіз.
- Дереккөзді тәуелсіз түрде тексеріңіз. Дереккөз шынымен бар ма? Бұл төрелік пе? Ол жаңартылған ба? Тіке қараңыз.
- Дәлелдер деңгейіне сұрақ қойыңыз. Кейс, зерттеу, жүйелі шолу?
- Хайпты ұстаңыз. Белгілі және ғажайып уәделерге күмәнданыңыз.
- Ресми дереккөзге оралу. Соңғы сөзді ұлттық/халықаралық нұсқаулар мен рецензияланған әдебиеттер айтады.
Назар аударыңыз: AI берген дереккөзді басқа AI-дан «тексеруді» сұрау - тексеру емес; Екі модель де бірдей қатені тудыруы мүмкін. Тексеру дереккөздің өзіне (журнал, нұсқаулық, ресми мекеме) қарау арқылы жүзеге асады.
Кеңес: AI-дан тақырыпты қорытындылағанда, нақты нұсқау беріңіз: «Дереккөзді жасаңыз; сенімді болмасаңыз, оны «тексеру керек» деп белгілеңіз; егер нақты дереккөзді бере алмасаңыз, бермеңіз». Бұл жасанды көздердің қаупін азайтады, бірақ жоймайды — сіз әлі де оны тексересіз.
Уақыттылығы, ақпараттың жаңалығы және мүдделер қақтығысы
Жасанды интеллекттің тағы бір шегі - ақпараттың жаңалығы. Тілдік модельдер белгілі бір күнге дейін деректер бойынша оқытылады; Содан бері өзгерген нұсқаулық, жаңартылған кезең тізімі немесе жаңа тәсіл модель «білетін» әлемде болмауы мүмкін. Модель сізге бұл туралы айтпай-ақ ескі ақпаратты ағымдағы ретінде көрсетуі мүмкін. Сондықтан, әсіресе, «ең өзекті», «соңғы нұсқаулық», «жаңа ұсыныс» сияқты мәселелер бойынша ресми мекеменің үлгісіне емес, қазіргі басылымына қараңыз. Модель бастапқы картаны береді; Соңғы сөзді күні мөрі бар түпнұсқа дереккөз айтады.
Тағы бір маңызды сүзгі - мүдделер қақтығысы. Әдісті, өнімді немесе бағдарламаны мадақтайтын мазмұнның артында коммерциялық қызығушылық болуы мүмкін. AI оқыту деректерінде маркетинг тілін білмей қайталайды және бренд немесе әдіс талаптарын бейтарап ақпарат ретінде жібере алады. Шағымды бағалау кезінде мынаны сұраңыз: мұны кім және не үшін айтып отыр; тәуелсіз, рецензияланған дереккөз немесе сатушы тарап? Тәуелсіз дәлелдер өндірушінің мәлімдемесіндей салмақты көтермейді. Балалар мен отбасыларға келетін болсақ, коммерциялық айла-шарғыдан ең жақсы қорғаныс - бұл дәлелдер деңгейіне және дереккөздің тәуелсіздігіне кез келген уақытта күмәндану.
Абайлаңыз: «Жаңа және революциялық» ретінде ұсынылған әдіс ақпараттың жаңалығы тұрғысынан да, мүдделер қақтығысы тұрғысынан да қосарланған тәуекелді тудырады: модель не оны мүлде білмейді немесе маркетинг тілінде біледі. Мұндай шағымдарды отбасына ресми нұсқаулармен және тәуелсіз рецензияланған әдебиеттермен растамайынша жеткізбеңіз.
Көшірілетін төрт шақыру
1) Қауіпсіз тақырыпты қорытындылау шақыруы:
Сіздің рөліңіз: жобалық көмекші. Сарапшы үшін келесі тақырыпты жай ғана қорытындылаңыз: [тақырып]. SOURCE FITING; Нақты дереккөзді бере алмасаңыз, бермеңіз. Сіз сенімді емес кез келген нақты шағымды «[тексеру керек]» деп белгілеңіз. Соңында осы тақырыпты сенімді дереккөздерден іздеу үшін маған 5 іздеу сөзін ұсыныңыз.
2) Шағым көзін шығару туралы хабарлама:
Төмендегі мәтінде әрбір НЕГІЗГІ ШАҒЫМДЫ (саны, күні, зерттеу нәтижесі, көзі) бөлек көрсетіңіз. Әрқайсысының жанына «тәуелсіз тексерілген» жазбаны қойыңыз. Мәтінде дереккөз келтірілсе, дереккөздің шынымен бар-жоғын тексеруім керек екенін еске салыңыз. Мәтін: [AI шығысы]
3) Сән-әдіс/асыра бақылау:
Тәсілдің келесі сипаттамасын тексеріңіз: Онда әсірелеу немесе белгілі бір ем туралы уәде бар ма («сөзсіз емдейді», «барлық балалар», «тез емдейді», «ғажайып»). Әрқайсысын белгілеңіз. Тәсілдің дәлелдеу деңгейін бағалаңыз (жағдай/зерттеу/қарау/белгісіз) және «ресми дереккөзден тексеру» ескертуін қосыңыз. Мәтін: [тәсіл сипаттамасы]
4) Дәлелдеу деңгейінің сұрауы:
Бұл шағым үшін маған сенімді бағалауды жасағанда сұрауым керек 5 СЫНЫ СҰРАҚтарды тізімдеңіз (мысалы, қанша бала тестілеуден өтті, ол рецензияланды ма, қайталанды ма, түрік үлгісі бар ма, мүдделер қайшылығы бар ма). Жауаптарды ойлап таппаңыз; жай ғана сұрақтар қойыңыз. Талап: [мәтін]
үш шағын іс
1-жағдай — Жасанды дереккөз. Сарапшы AI-дан араласу әдісінің тиімділігі туралы сұрайды. AI біркелкі қорытынды береді және «бұл 2021 мета-талдауында көрсетілген (Демир және т.б.)» дейді. Сарапшы дереккөзді екінші нұсқаумен белгілеп, өз бетінше іздейді; Мұндай мета-анализ жоқ. Дерек көзі ойдан шығарылған. Сарапшы талап арызды нақты, сараптамадан өткен дереккөздермен расталмайынша пайдаланбайды.
2-жағдай – Сән әдісі. AI әлеуметтік желілерде «барлық даму кешігулерін бірнеше апта ішінде түзететін» танымал әдісті келтіреді. Сарапшы асыра сілтеуді 3-ші шақыру арқылы ұстайды; Бұл дәлдік пен жалпылау әлсіз дәлелдердің белгісі. Ресми нұсқаулар мен рецензияланған әдебиеттерді қарайды; Әдістің мәлімделген әсерді растайтын күшті дәлелі жоқ. Отбасына ұсынылмайды.
3-жағдай — Дұрыс пайдалану. Маман жаңа скрининг әдісін үйренгісі келеді. Тақырыпты жақтау және 1-ші шақыру арқылы іздеу шарттарын алу үшін AI пайдаланады; содан кейін осы шарттармен ресми нұсқаулықтарға және рецензияланған көздерге барады. AI картаны сызды, сарапшы қазынаны сенімді көзден қазды. Нәтиже: жылдам және сенімді.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Бұл даму әдісінің жұмыс істейтінін дәлелдейтін зерттеулердің көздерін жазыңыз.
Мәселе: AI-ны ресурстарды жасауға тікелей шақырады; «жұмыс істейтінін дәлелде» деген сөз біржақтылыққа толы; тексеру қамтамасыз етілмейді.
Күшті шақыру:
Келесі әдісті объективті түрде қорытындылаңыз: [әдіс]. Артықшылықтары мен кемшіліктерін ажыратыңыз. SOURCE FITING; Егер сіз нақты дереккөзді бере алмасаңыз, оны бермеңіз; Әрбір нақты шағымды «[тексерілуі керек]» деп белгілеңіз. Соңында, рецензияланған әдебиеттерден іздеу үшін маған 5 іздеу сөзін және дәлелдер деңгейін сұрау үшін 3 сұрақ беріңіз.
Жалпы қателер
- Жасанды дереккөздерге сүйену: Тәуелсіз түрде әрбір көзді тікелей тексеріңіз.
- AI факті көзі деп қателесу: оған сан/күн/кесілген ұпай үшін сенбеңіз.
- Асыра сілтеуді елемеу: «Бұл сөзсіз шешеді/ғажайып» мәлімдемелері әлсіз дәлелдердің белгісі.
- Екі үлгідегі «тексеру»: басқа AI сұрау - бұл тексеру.
- Дәлелдеу деңгейін өткізіп жіберу: Бір істің жүйелі шолу сияқты салмағы болмайды.
Қысқаша айтқанда
Жасанды интеллект ағымдағы ақпаратты іздеуді құру, жеңілдету және бастау үшін қуатты бастау нүктесі болып табылады; бірақ бұл факт және дереккөз органы емес. Галлюцинацияға байланысты жалған дереккөздер мен статистика жасай алады. Әрбір нақты мәлімдеме мен дереккөзді рецензияланған әдебиеттер мен ресми нұсқаулардан тікелей тәуелсіз тексеру; дәлелдеу деңгейіне сұрақ қою; Ескерту жалаушасы ретінде асыра және түпкілікті уәделерді (сән әдісі) қараңыз. AI картаны салады; Сіз қазынаны сенімді көзден қазып аласыз.
Қолданбалы тапсырма
Ағымдағы тақырыпты немесе әдісті таңдаңыз. 1-ші сұрауда қауіпсіз қорытынды мен іздеу шарттарын алыңыз. 2. AI шығысынан нақты шағымдар мен дереккөздерді нұсқау арқылы шығарып алу; Оның шын немесе жоқ екенін тексеру үшін кем дегенде бір тәуелсіз дереккөзді іздеңіз. 3. Шақыру арқылы әсірелеу/сән әдісін тексеруді орындаңыз. Кем дегенде бір ойдан шығарылған/тексерілмейтін дереккөзге және сіз тапқан бір асыра мәлімдемеге назар аударыңыз; содан кейін нақты, сенімді көзбен шағымды тексеріңіз.
бақылау парағы
- [ ] Мен әрбір нақты шағым мен дереккөзді белгіледім.
- [ ] Менде тәуелсіз және тікелей расталған дереккөздер бар (журнал/гид/мекеме).
- [ ] Мен дәлелдеу деңгейіне күмән келтірдім (іс, зерттеу, шолу).
- [ ] Мен әсіре/нақты уәделерді сән әдісі туралы ескертумен қарастырдым.
- [ ] Мен AI-ді дерек көзі емес, жақтау құрылғысы ретінде пайдаландым.
- [ ] Мен «тексеру» үшін басқа AI қолданбадым.
- [ ] Мен соңғы ақпаратты рецензияланған әдебиеттер мен ресми нұсқауларға негіздедім.