Галлюцинация, этика, құпиялылық және ғылыми тұтастық

Табыстар:

• Физикадағы галлюцинация формаларын тану (жалған тұрақты, жалған заң, бірлік қатесі, қате нәтиже, жалған атрибуция) және оларды сәйкес әдіспен ұстау.
• Жарияланбаған, құпия және жеке деректерді рұқсат етілмеген құралдарға енгізбеу арқылы анонимдеу және азайту арқылы қорғау мүмкіндігі
• Деректерді әшекейлемей, шынайы түрде хабарлау және жасанды интеллектті пайдалануды ашық түрде құжаттау арқылы түпкілікті жауапкершілік адамдарға жүктелетінін түсіну.

Осы модульде біз әр бөлімде бірдей пәнді қарастырдық: жасанды интеллект (AI) жылдамдайды, адамдар тексереді. Осы соңғы бөлімде біз физикалық ғылымның ең іргелі құндылығы болып табылатын ғылыми тұтастық қолшатырының астында осы тексеру тәжірибесін біріктіреміз. Физика – табиғат туралы тексерілетін білім алуға ұмтылу; Бұл талпыныстың негізінде адалдық, қайталану және жауапкершілік жатыр. AI осы құндылықтарды нығайту үшін пайдаланылуы мүмкін - бірақ дұрыс пайдаланбаған кезде ол олардың барлығына қауіп төндіреді. Бұл бөлімде біз галлюцинацияның физикалық формаларын, деректер мен құпиялылық жауапкершілігін, этикалық шекараларды және неге соңғы жауапкершілік әрқашан адамдарда болатынын талқылаймыз.

Физикадағы галлюцинацияның формалары

Галлюцинация — AI-ның сенімді түрде жалған ақпаратты өндіруі — физикада ерекше және қауіпті формаларды алады. Оларды тану - бұл ұстаудың алғашқы қадамы:

галлюцинация түрі

мысал

Түсіру әдісі

Бекітілген/деректерді орнату

Материалдың дұрыс емес тығыздығы

Сенімді анықтамамен растау

Жалған формула/заң

Болмайтын «принциптік» атау

Оқулық/SymPy туындысы

Бірлік/тапсырыс қатесі

eV-ді Дж деп қателесу

Өлшемді талдау, бірлік бақылау

Дұрыс емес сандық нәтиже

Дұрыс емес код шығару

Кодты іске қосыңыз

апокрифтік атрибуция

жоқ мақала

DOI арқылы тексеру

Қате хабарланған нәтиже

Нақты мақаланы бұрмалау

Түпнұсқа дереккөзді оқыңыз

Ортақ тақырып мынада: үлкен тілдік модель шындықты айту үшін емес, «мүмкін көрінетін мәтінді» шығару үшін жасалған. Физикада «мүмкін болып көрінетін» және «шындық» арасындағы айырмашылық ғылымның болуының себебі болып табылады.

Деректер, құпиялылық және зияткерлік меншік жауапкершілігі

Физиктер жиі құпия деректермен жұмыс істейді: жарияланбаған эксперименттік деректер, патентке дейінгі жобалар, өнеркәсіптік ынтымақтастықтың құпия өлшемдері, жеке денсаулық немесе қауіпсіздік деректерін қамтитын зерттеулер. Мұндай деректерді жалпы AI құралына енгізу оны үшінші тұлғаларға және, мүмкін, модельдің оқу деректеріне қолжетімді ете алады — бұл құпиялылықты бұзуды да, ғылыми басымдықты жоғалтуды да (бірінші болып жаңалық ашу құқығы) білдіреді. Ереже анық: ұйымыңыз мақұлдамаған AI құралына жарияланбаған, құпия немесе жеке деректерді енгізбеңіз. Енгізгіңіз келсе, анонимизациялаңыз, кішірейтіңіз (тек қажет нәрсені беріңіз) және құралдың деректер шарттарын оқыңыз.

Ескерту: «Жылдам талдау үшін» AI құралына зертхананың жарияланбаған өлшемдерін немесе компанияның құпия дизайн параметрлерін енгізу қайтымсыз қате болуы мүмкін. Деректер ортақ пайдаланылғаннан кейін оны қайтарып алу мүмкін емес. Егер күмәніңіз болса, деректерді енгізбеңіз; Алдымен мекемеңіздің саясатын және құралдың құпиялылық шарттарын түсіндіріңіз.

Этикалық шекаралар және ғылыми тұтастық

Пайдалану техникалық мүмкін және тіпті заңды болуы мүмкін, бірақ бәрібір этикаға жатпайды. Физикада ғылыми тұтастыққа қатысты бірнеше қызыл сызықтар бар:

Деректерді жасау немесе әшекейлеу. AI-дан «кірістілікке жақсырақ сәйкес келетін нүктелерді жасауды» немесе «графикті сенімдірек етуді» сұрау деректерді алдау болып табылады. Деректер сол күйінде беріледі; Шектеулер құжатталған, заңды себеппен ғана жойылады.

Жарнаның ашықтығы. Егер сіз AI-ны зерттеуде пайдаланған болсаңыз — код жазу, тілді түзету, талдау — мұны тиісті жерде түсіндіріп алғаныңыз дұрыс. Көптеген журналдар мен мекемелер мұны талап етеді.

Авторлық және жауапкершілік. AI жазушы емес; шығарманың мазмұнына жауапты бола алмайды. Жауапкершілік әрқашан адам жазушыларында. AI жасаған қатені «көлік жасады» деп қорғауға болмайды.

Қайта шығару. Ғылыми нәтиже басқалар оны қайталай алатындай әдісті (пайдаланылған кодты, параметрлерді, AI сұрауларын қоса) нақты құжатталуын талап етеді.

үш шағын іс

1-жағдай — Құпия деректердің ағуы. Бір зерттеуші компаниямен жария етпеу туралы келісімдегі өлшем деректерін «жылдам график үшін» жалпы AI құралына қойды. Кейінірек ол бұл құрал кірістерді сақтай алатынын түсінді. Келісімшарттың бұзылуы және басымдықтың ықтимал жоғалуы орын алды. Сабақ: құпия деректер ешқашан бекітілмеген құралға енгізілмейді.

2-жағдай — Әсемдік басып шығару. Бір студент AI-дан «деректерді теорияға жақындататын» түзетуді сұрады, себебі эксперименттік деректер теорияға толық сәйкес келмеді. Оның кеңесшісі мұны байқап, оны тоқтатты: сәйкессіздік эксперименттегі жүйелі қатені немесе қызықты жаңа физиканы білдіреді - жасырын емес, зерттелетін нәрсе. Деректер шынайы түрде хабарланды және жүйелі қателер табылды.

3-жағдай — мөлдірлікке қол жеткізілді. Бір топ AI көмегімен қағазға деректерді талдау кодын жазды және оны әдістер бөлімінде анық айтты; код пен сұрауларды қосымша файлдар ретінде бөлісті. Төреші кодты қарап шығып, аздап түзетуді ұсынды. Жариялану алдында қатені байқап, зерттеудің сенімділігін арттырды.

Көшірілетін төрт үлгі

1) Галлюцинация скринингі:

Галлюцинация үшін келесі физика нәтижесін сканерлеңіз: жалған тұрақтылар, жалған формула/заң атаулары, бірлік/рет қателері, тексерілмеген сандық нәтижелер және расталмаған атрибуциялар бар ма? Әрбір күдікті элементті белгілеп, оны тексеру жолын көрсетіңіз (анықтама, код, DOI). Шығару: [мұнда]

2) Деректер құпиялылығын алдын ала тексеру:

AI құралына енгізбес бұрын келесі деректерді/мәтінді бағалаңыз: онда жарияланбаған, құпия, жеке немесе келісімшартпен қорғалған ақпарат бар ма? Олай болса, оны қалай анонимдеу немесе азайтуға болатынын ұсыныңыз. Егер сенімді болмасаңыз, "корпоративтік саясатты тексеріңіз" деп айтыңыз. Мазмұны: [мұнда]

3) Транспаренттік/жарна туралы мәлімдеменің жобасы:

Бір зерттеуде мен AI-ді мыналар үшін пайдаландым: [кодтау / тілді түзету / талдау және т.б.]. Осыны шынайы түрде құжаттайтын «AI пайдалану туралы мәлімдеменің» қысқа жобасын жазыңыз. Сондай-ақ, адамдар қандай бөліктерді тексергенін көрсетуі керек.

4) Ғылыми тұтастықты қамтамасыз ету:

Келесі талдау/нәтиже үшін тұтастықты тексеруді орындаңыз: деректер сол күйінде берілген (әсемдеусіз), белгісіздіктер хабарланған ба, әдіс қайталанатын түрде құжатталған ба, AI пайдалану мөлдір ме? Кез келген кемшіліктерді көрсетіңіз. Мазмұны: [мұнда]

Әлсіз шақыру / Күшті шақыру

Әлсіз: «Теорияға жақсырақ сәйкестендіру және графикті сенімді ету үшін кірісті өңдеңіз».

Нәтиже: деректерді алаяқтық; Ғылыми тұтастықтың тікелей бұзылуы, беделінің қайтымсыз жоғалуы.

Күшті: "Кіріс теориямен толық сәйкес келмейді. Маған осы сәйкессіздіктің ықтимал себептерін талдауға көмектесіңіз (жүйелік қате, статистикалық ауытқу, жетіспейтін үлгі немесе жаңа әсер); деректерді өзгертпестен, сәйкессіздікті қалай шынайы хабарлау керектігін ұсыныңыз."

Нәтиже: Ғылыми адалдыққа адал, зерттеуші және адал көзқарас; Қақтығыс ашуға мүмкіндік береді.

Жалпы қателер

• Галлюцинацияны өзіне деген сенімділікпен шатастыру. AI сенімді сөйлейтіндіктен дәлдік кепілі емес; Тіпті ең нақты сөйлемнің өзі ойдан шығарылуы мүмкін.
• Құпия деректерді көлік құралына рұқсатсыз енгізу. Бөліскеннен кейін деректерді шығарып алу мүмкін емес; Басымдылық пен құпиялылық жоғалады.
• Деректерді көркейту. Деректерді «сәйкестік теориясына» өзгерту ең ауыр ғылыми қылмыстардың бірі болып табылады.
• AI пайдалануды жасыру. Транспаренттілік – адалдық талабы және көптеген мекемелерде міндетті болып табылады.
• Жауапкершілікті көлікке жүктеу. «Мұны AI жасады» қорғаныс емес; Ең үлкен жауапкершілік қашанда адам баласына жүктеледі.

Кеңес: Жасанды интеллектпен жұмыс істейтін әрбір зерттеудің соңында өзіңізге үш сұрақ қойыңыз: (1) Осы нәтижедегі әрбір факт, сан және атрибуция тәуелсіз түрде тексерілді ме? (2) Мен пайдаланған деректерде мен енгізуге болмайтын құпия/жеке ақпарат бар ма? (3) Жасанды интеллектті қолдану мен әдістемені басқа біреу қайталай алатындай ашық түрде құжаттадым ба? Осы үш сұраққа нақты «иә» деп жауап бере алмасаңыз, зерттеу әлі аяқталмаған.

Қысқаша

Ғылыми тұтастық физиканың өмір сүруінің негізі болып табылады және АИ дәуірінде одан да маңызды. Галлюцинация физикада жалған тұрақтылар, жалған заңдар, бірлік қателері, жалған қорытындылар және жалған сілтемелер түрінде пайда болады; әрқайсысы өзінің бірегей тексеру әдісімен түсіріледі. Құпия және жеке деректер рұқсат етілмеген құралдарға енгізілмейді; деректер ешқашан әдеміленбейді; AI пайдалану ашық түрде құжатталған; ал түпкілікті жауапкершілік әрқашан адамда. Бұл модульде сіз бір ғана пәнді үйренесіз: AI - бұл күшті үдеткіш, бірақ тексеру, тұтастық және жауапкершілік құзыретті физиктің иығында, яғни сізде. Тексерілмеген AI нәтижесі ешқашан физиктің растауын алмастыра алмайды.

Қолданбалы тапсырма

Осы модульде жасаған AI шығысын (тіркелгі, талдау немесе мәтін) таңдаңыз. 1. Үлгі бар галлюцинация экраны: жалған тұрақтылар, жалған формулалар, бірлік қателері немесе тексерілмеген атрибуттар бар ма? 2-үлгі арқылы пайдаланып жатқан деректердің құпиялылық үшін қолайлы екенін бағалаңыз. Соңында, 3 үлгісі бар AI пайдалану/мөлдірлік туралы қысқаша мәлімдеменің жобасын жасаңыз. 5-6 сөйлеммен жазыңыз: сканерлеу нені көрсетті, қандай тексеру қадамдарын жасадыңыз?

бақылау парағы

• [ ] Мен әрбір тұрақтыны, формуланы және нәтижені тәуелсіз түрде тексердім.
• [ ] Мен әрбір дәйексөзді DOI/көзі арқылы тексердім.
• [ ] Құралға құпия/жеке деректерді рұқсатсыз енгізбегенімді тексердім.
• [ ] Деректерді сол қалпында, безендірусіз хабарладым.
• [ ] Мен AI пайдалануымды мөлдір және қайталанатын түрде құжаттадым.
• [ ] Мен түпкілікті жауапкершілік менікі екенін қабылдадым; Мен көлікке ешқандай кінәрат айтпадым.

Модуль емтиханы

1. Төмендегілердің қайсысы физикада жасанды интеллект үшін ең дәл позиция болып табылады?

• A) Жасанды интеллект - бұл код, жоба және редакциялау көмекшісі; Бірлік, дәреже, тексеру және этикалық шешімдер үшін жауапкершілік адам баласына жүктеледі ✔
• B) Жасанды интеллект - калькулятор және оның беретін сандық нәтижелері әрқашан дәл
• C) Жасанды интеллект тек есептеуде жұмыс істейді, оның экспериментті талдауға және оқытуға еш қатысы жоқ
• D) Жасанды интеллект адамдарға қарағанда бейтарап болғандықтан, бірлік пен нәтиже шешімдерін оған қалдыру керек.

Сипаттама: Жасанды интеллект; Бұл кодты жазатын, жобаларды шығаратын, туынды құрылымдарды жасайтын және ұйымдастыратын ассистент. Дегенмен, нәтиженің бірлік және реттілігін тексеру, оны сақтау заңдарымен қамтамасыз ету, тұрақты және анықтамалық растау үшін түпкілікті жауапкершілік құзыретті физикке тиесілі. Үлкен тіл үлгісі калькулятор немесе физика қозғалтқышы емес; «келесі ең ықтимал сөзді» шығаратын мәтіндік генератор және оның тексерілмеген шығысы қате мәнге, дизайнға немесе нәтижеге әкелуі мүмкін.

2. Үлкен тілдік модельге басып шығаратын есептеу кодының сандық нәтижесінің ең дәл жуықтауы қандай?

• A) Нөмірге сенген модель «бұл код береді» дейді, себебі ол кодты жазды
• B) Кодты өзіңіз іске қосыңыз және нәтижені қараңыз; ✔ модельдің ауызша сандық болжамына сүйенбеу
• C) Кодты мүлде іске қоспай-ақ оның қалай оқылатынына қарап, оны дұрыс деп қабылдау
• D) Егер нәтиже қайтадан модельге тікелей сұралса және ол бірдей санды айтса, ол дұрыс деп саналады.

Түсініктеме: LLM өз басына жазған кодтың нәтижесін «есептеп» алып, қате нөмірді қайтаруы мүмкін; ал сол код іске қосылғанда ол дұрыс нәтиже береді. Детерминирленген болып орындалатын код табылады; Бұл модельдің ауызша болжамы емес. Сондықтан код әрқашан өз ортаңызда іске қосылып, нәтиже көрінуі керек.

3. Үйкеліссіз динамикалық жүйені модельдеу физиканы дәл көрсететінін тексерудің ең күшті әдісі қандай?

• A) Диаграмманың көрнекі түрде ұқыпты және сенімді көрінетінін көру
• B) Модельдеуді тек бір уақыт қадамымен орындау және нәтижеге сену
• C) Толық энергия немесе импульс сияқты сақталуы қажет шаманы бақылау және оның тұрақты болып қалуын тексеру ✔
• D) Модельдеу жылдамдығына қарай бағалау

Түсініктеме: Үйкеліссіз жүйеде толық энергия (және егер бар болса, импульс) сақталуы керек. Модельдеу кезінде осы шаманы бақылау және оның тұрақты болып қалуын көру сандық кемшіліктерді анықтайды (мысалы, энергияны үнемі арттыратын Эйлер қарапайым әдісі). Егер энергия өзгерсе, модельдеу сенімсіз болады; Оның жақсы графиканы шығарғаны оның дұрыс екенін білдірмейді.

4. Тәжірибелік деректерге модельді сәйкестендіруде төмендегілердің қайсысы дұрыс?

• A) Деректерге жақсы сәйкес келетін жоғары дәрежелі көпмүшені таңдау, себебі ол барлық нүктелер арқылы өтеді
• B) Параметрлерді анықсыз бір сан ретінде беру
• C) Қисықтың қаншалықты әдемі көрінетініне қарап, сәйкестік сапасын жариялау.
• D) Физикадан модель таңдау, олардың белгісіздігі бар параметрлерді хабарлау және қалдықпен сәйкестікті бағалау ✔

Түсініктеме: Модельді деректерге қарап, «қайсысы жақсырақ» деп таңдану арқылы емес, оқиға бағынатын физикалық заңнан таңдау керек. Жеткілікті бос параметрлермен (мысалы, жоғары дәрежелі көпмүшелік) кез келген деректерге «мінсіз», бірақ физикалық мағынасыз сәйкестік (артық сәйкестік) жасалуы мүмкін. Параметрлер олардың белгісіздігімен хабарлануы керек, сәйкестік сапасы қалдықтармен бағалануы керек және физикалық мүмкінділігі тексерілуі керек.

5. Өлшемді бірнеше рет қайталау белгісіздіктің қай түрін азайтады?

• A) Кездейсоқ белгісіздік; жүйелі белгісіздік қайталаған сайын азаймайды, себебін тауып, түзетіп отыру керек ✔
• B) Жүйелі белгісіздік; себебі ол қайта калибрлеу қатесін жояды
• C) Екі түсініксізді де толығымен жояды
• D) Олардың ешқайсысын азайтпайды; белгісіздік өлшемдер санына тәуелсіз

Түсініктеме: Қайталанатын өлшеу нәтижелерді кездейсоқ бөлу нәтижесінде пайда болатын кездейсоқ белгісіздікті (орташа std/√N стандартты қателігімен) азайтады. Жүйелі белгісіздік, керісінше, әрқашан бір бағытта ауытқитын (мысалы, қате калибрленген теңгерім) және қайталау кезінде азаймайтын қате; Дегенмен, себебін табуға және түзетуге болады. Бірнеше өлшеммен «өте кішкентай» белгісіздік туралы хабарлау негізгі жүйелі қатені жасыруы мүмкін.

6. АИ арқылы алынған қатенің таралу формуласын тексерудің ең сенімді тәуелсіз тәсілі қандай?

• A) Формулаға сүйеніп, сұйық және сенімді болып көріну
• B) Кірістерді белгісіздігімен кездейсоқ таңдайтын Монте-Карло есебімен өзара тексеру ✔
• C) Жасанды интеллектке сол формуланы қайтадан сұрап, сол нәтиже береді деп күту
• D) Белгісіздіктерді тікелей жинап, нәтижемен салыстыру

Түсініктеме: AI жиі қателерді тарату формулаларында ішінара туынды коэффициенттерді және квадрат түбір құрылымын араластырады. Бұған тәуелсіз қол жеткізудің қуатты жолы - Монте-Карлоның кросс-тексеруі: әрбір кірісті белгісіздігімен кездейсоқ іріктеу, функцияны мыңдаған рет есептеу және шығыстың стандартты ауытқуын формуламен берілген белгісіздікпен салыстыру. Екі тәуелсіз әдістің кездесуі сенімді арттырады.

7. Символдық физиканың ұзақ туындысында AI және SymPy арасындағы дұрыс еңбек бөлінісі қандай?

• A) SymPy туындының идеясын тудырады, AI әрбір қадамды дәл тексереді
• B) Екеуі де қажет емес; ұзақ туындыларды тек қолмен орындау керек
• C) AI туындының негізін құрады, SymPy әрбір алгебралық қадамды дәл тексереді ✔
• D) Жасанды интеллект туындыны өздігінен жасайды, тексерудің қажеті жоқ, өйткені ол еркін көрінеді

Түсініктеме: AI туындыны стратегиялайды және жолды түсіндіреді, бірақ ұзақ алгебрада ол таңба қателерін, қашып кеткен терминдерді және дұрыс емес жеңілдетулерді жасайды. SymPy, керісінше, ережелерге сәйкес жұмыс істейді және әрбір алгебралық қадамды дәл тексереді. Ең қуатты жұмыс процесі екеуін біріктіреді: AI-дан қаңқаны алыңыз, әр қадамды SymPy көмегімен алыңыз, нәтижені туынды-интегралды кері және шекаралық жағдаймен сынаңыз.

8. Өлшемдік талдау физикалық формуланың дәлдігі туралы не айтады?

• A) Өлшемдік талдау әрқашан формуланың дұрыстығын түпкілікті дәлелдейді
• B) Өлшемдік талдаудың физикада практикалық мәні жоқ
• C) Өлшемдік талдау формуланың консистенциясын емес, тек тұрақты коэффициентін береді
• D) Өлшемді орындамайтын формула мүлдем қате; өлшемді талдау сандарды санамай қатені ұстайды ✔

Түсініктеме: Физикалық теңдеудің екі жағы сандық жағынан тең болу үшін өлшемдік жағынан тең болуы керек. Өлшемді орындамайтын формула жай ғана қате; бұл санау есебінен алынады. Өлшемдік талдау формуланың дұрыстығын түбегейлі дәлелдемейді (өлшемсіз тұрақты факторды немесе бұрышты жіберіп алуы мүмкін), бірақ оның дұрыс емес екенін түбегейлі дәлелдейді; сондықтан бұл әрбір есептік жазбаның бірінші және ең арзан аудиті.

9. 36 км/сағ жылдамдықпен қозғалатын заттың кинетикалық энергиясын есептегенде ең маңызды бірінші қадам қандай?

• A) Барлық кірістерді бірліктер жүйесіне (СИ) түрлендіру; 36 км/сағ 10 м/с ✔
• B) Жылдамдықты км/сағ-қа айналдырмай формулаға тікелей қою
• C) Бірліктерді есепке алмай тек сандарды көбейту
• D) Нәтижені есептегеннен кейін ретті тексерудің қажеті жоқ деп есептей отырып

Түсініктеме: SI негізіндегі формулалар (E = ½mv²) жылдамдықты м/спен күтеді. Есепте км/сағ-ды м-мен немесе сағатты секундпен шатастыру физикадағы ең көп тараған қателердің бірі болып табылады. Алдымен барлық кірістерді бірліктердің бірыңғай жүйесіне (SI) түрлендіру керек: 36 км/сағ = 10 м/с. AI құрама бірлік түрлендірулерінде үнсіз қателер жасай алатындықтан, бұл түрлендіруді қолмен немесе бірлікті білетін құралмен тексеру керек.

10. Ғылыми графиктегі «адалдық» тұрғысынан қай тәжірибе дұрыс?

• A) Белгісіздікті жасыру, себебі қате жолақтары диаграмманы бұзады
• B) Осьтерді бірліктермен белгілеңіз, масштабты бұрмалаусыз таңдаңыз және қате жолақтарымен белгісіздікті көрсетіңіз ✔
• C) Әрқашан y осін ең үлкен айырмашылықты көрсететін ауқымда бастаңыз
• D) Оқырман бірлікті болжай алатындықтан, осьтерді бірліксіз қалдыру

Сипаттама: Адал ғылыми диаграмма; ол осьтерді шамасы мен бірлігімен белгілейді, масштабты саналы түрде және бұрмалаусыз таңдайды (әсірелеу үшін y осін нөлден бастау жаңылыстыру болып табылады) және қате жолақтарымен өлшеу белгісіздігін көрінеді. Белгісіздікті жасыру деректерді сенімді етеді және біржақтылық немесе келісім туралы жалған әсер тудырады. Графика неғұрлым сенімді болса, тұтастықты тексеру соғұрлым маңызды болады.

11. Жасанды интеллекттен әдебиеттер мен дәйексөздерді алу кезіндегі ең үлкен тәуекел және дұрыс тәртіп қандай?

• A) Жасанды интеллект уақытты ысырап етеді, себебі ол дәйексөздерді өте баяу шығарады
• B) Жасанды интеллект ұсынған дереккөздер әрқашан нақты, тексерудің қажеті жоқ
• C) Жасанды интеллект шынайы болып көрінетін, бірақ жоқ атрибуттарды жасай алады; Әрбір дәйексөз DOI/көзі арқылы тексерілуі керек және әдебиеттер нақты дерекқордан табылуы керек ✔
• D) Жасалған дәйексөздер оңай танылады, өйткені оларда әрқашан шынайы емес журнал атаулары қолданылады

Түсініктеме: Үлкен тіл үлгісі нақты дерекқорға қосылмаған; Дәйексөз үлгілеріне еліктеу арқылы ол журналдың нақты атауы, сенімді авторлары және ақылға қонымды жылы бар, бірақ мүлдем жоқ мақалаларды шығара алады. Сондықтан әдебиеттерді нақты дерекқорлардан табу керек, AI тек қолдағы нақты мәтінді қорытындылау/аудару үшін пайдаланылуы керек және әрбір дәйексөз DOI немесе тақырып бойынша тәуелсіз тексерілуі керек. Тексерілмеген дәйексөз академиялық адалдықты бұзу болып табылады.

12. AI мақаланы қорытындылағанда сенімді нәтижелерге қол жеткізу үшін не қажет?

• А) Мақаланың тақырыбын беру жеткілікті, үлгі мазмұнын біледі
• B) Түйіндемені мүлде тексермей, тікелей пайдалану, өйткені ол сұйық көрінеді
• C) Модельден бір қорытындыны екі рет сұрау және ұқсас болса дұрыс деп қабылдау.
• D) Модельге түпнұсқа мәтінді беру және ештеңе қосылмаған/бұрмаланбағанын тексеру үшін жасалған түйіндемені түпнұсқа мәтінмен салыстыру ✔

Түсініктеме: AI-ға жай ғана мақаланың тақырыбын беру және қысқаша мәліметті сұрау модельдің мақаланы ешқашан көрмей-ақ «сенімді түйіндеме» шығаруына әкеледі; Бұл қорытынды шындыққа қарама-қайшы болуы мүмкін. Түпнұсқа мәтін үлгіге берілгенде және жасалған жиынтық түпнұсқа мәтінмен салыстырылғанда ғана сенімді қорытынды алуға болады. Сонымен қатар, түйіндеме мәтінде жоқ нәтижелерді немесе сандарды қоспайтынын тексеру керек.

13. Физика курсындағы материалды өндіруде жасанды интеллекттің шығуы үшін қайсысы дұрыс?

• A) Әрбір шешім өз бетінше тексерілуі керек, ұқсастықтардың шегі көрсетілуі керек және алаңдататын адамдар нақты қате түсініктерге бағытталған болуы керек ✔
• B) Жасанды интеллект шығарған жауап кілті әрқашан дұрыс, аудиттің қажеті жоқ
• C) Аналогиялар барлық жағдайда мінсіз, олардың шегін көрсетудің қажеті жоқ.
• D) Дистракторларды толығымен кездейсоқ таңдау керек, себебі дұрыс емес таңдаудың сипаты маңызды емес.

Сипаттама: AI сұрақтарды, мысалдарды және ұқсастықтарды құруда жылдам, бірақ тексеру үш тармақ бойынша маңызды: әрбір мәселенің шешімін дербес тексеру керек (қолмен немесе кодпен), өйткені модель шешімде белгі/бірлік қателерін жіберуі мүмкін; Әрбір ұқсастық қай жерде бұзылатынын айту керек, әйтпесе ол жаңа қателік туғызады; Дистракторлар шынайы қате түсініктерге бағытталған болуы керек. Жауапкершілік мұғалімге жүктеледі; Дұрыс емес жауап кілті оқушыларда түзету қиын болатын түсінбеушіліктерді қалдырады.

14. Эксперименттік мәліметтер теориямен толық сәйкес келмегенде, ғылыми тұтастыққа сәйкес келетін мінез-құлық қандай?

• A) Жасанды интеллектке ие болу деректерді теорияға сәйкестендіру және графикті сенімді түрде көрсету үшін ұйымдастырады
• B) Сәйкессіздіктің себептерін зерттеу (жүйелі қате, үлгінің болмауы, жаңа әсер) және деректерді өзгертпей шынайы хабарлау ✔
• C) Келіспеушілікті елемеу және тек сәйкес келетін тұстарды хабарлау
• D) Деректерді жою және жаңа эксперимент нәтижесін орнату

Түсініктеме: AI-дан «теорияға жақсырақ сәйкес келетін деректерді реттеуді» сұрау деректерді алдау және ғылыми тұтастықты өрескел бұзу болып табылады. Келіспеушілік жасырын емес, зерттелетін нәрсе: ол жүйелі қатені, статистикалық ауытқуды, үлгінің жоқтығын немесе қызықты жаңа әсерді көрсетуі мүмкін. Деректер белгісіздікпен сол күйінде беріледі; Соңғы жауапкершілік адамға жүктеледі және «құрал мұны жасады» қорғаныс емес.