Добици:
- Способност препознавања облика халуцинације у физици (лажна константа, лажни закон, јединична грешка, погрешан резултат, лажна атрибуција) и ухватити их одговарајућом методом.
- Способност заштите необјављених, поверљивих и личних података анонимизацијом и минимизирањем не уношењем у неовлашћене алате
- Бити у стању да схвати да је крајња одговорност на људима тако што ће податке пријавити искрено, без улепшавања и транспарентно документујући употребу вештачке интелигенције.
Током овог модула, покрили смо исту дисциплину у свакој јединици: вештачка интелигенција (АИ) убрзава, људи проверавају. У овој завршној целини, ми окупљамо целу ову праксу верификације под кишобраном научног интегритета, најосновније вредности физичке науке. Физика је тежња за стварањем проверљивог знања о природи; У срцу овог подухвата су интегритет, поновљивост и одговорност. АИ се може користити за јачање ових вредности - али када се користи погрешно, све их угрожава. У овој јединици ћемо разговарати о физичким облицима халуцинација, одговорности за податке и приватност, етичким границама и зашто коначна одговорност увек остаје на људима.
Облици халуцинација у физици
Халуцинације — самоуверена производња лажних информација од стране вештачке интелигенције — поприма јединствене и опасне облике у физици. Препознавање овога је први корак ка хватању:
врста халуцинације
пример
Метод хватања
Фиттинг фиксни/подаци
Нетачна густина материјала
Потврда са поузданом референцом
Лажна формула/закон
Непостојеће „принципијелно“ име
Извођење уџбеника/СимПи
Грешка у јединици/поруџбини
грешком еВ за Ј
Димензиона анализа, контрола јединице
Нетачан бројчани резултат
Неправилан излаз кода
Покрените код
апокрифна атрибуција
непостојећи чланак
Верификација са ДОИ
Погрешно пријављен резултат
Искривљавање правог чланка
Прочитајте оригинални извор
Заједничка нит је следећа: велики језички модел није дизајниран да говори истину, већ да произведе „текст који изгледа”. У физици, разлика између „наизглед могућег” и „истинитог” је управо разлог постојања науке.
Одговорност за податке, приватност и интелектуалну својину
Физичари често раде са осетљивим подацима: необјављеним експерименталним подацима, дизајном пре патента, поверљивим мерењима из индустријске сарадње, истраживањем које укључује податке о личном здрављу или безбедности. Уношење таквих података у општи алат за вештачку интелигенцију могло би да их учини доступним трећим лицима, а можда и подацима о обуци модела — што би значило и кршење поверљивости и губитак научног приоритета (право да се први открије). Правило је јасно: немојте уносити необјављене, поверљиве или личне податке у АИ алат који ваша организација није одобрила. Ако ћете унети, анонимизујте, минимизирајте (дајте само оно што је потребно) и прочитајте услове података алатке.
Опрез: Уношење необјављених мерења лабораторије или поверљивих параметара дизајна компаније у АИ алат „за брзу анализу“ може бити неповратна грешка. Када се подаци поделе, не могу се опозвати. Ако сте у недоумици, немојте уносити податке; Прво разјасните политику ваше институције и услове приватности алата.
Етичке границе и научни интегритет
Употреба може бити технички могућа, па чак и легална, али и даље неетичка. Постоји неколико црвених линија у физици које се тичу научног интегритета:
Израда података или улепшавање. Тражење од АИ да „генерише поене који боље одговарају приносу“ или „учини да графикон изгледа уверљивије“ је превара са подацима. Подаци се извештавају такви какви јесу; Недостаци се елиминишу само са документованим, легитимним разлогом.
Транспарентност доприноса. Ако сте користили вештачку интелигенцију у студији — писање кода, исправљање језика, анализа — поштено је да то јасно кажете на одговарајућем месту. Многи часописи и институције то захтевају.
Ауторство и одговорност. АИ није писац; не може бити одговоран за садржај дела. Одговорност увек лежи на људским писцима. Грешка коју је направила АИ не може се бранити речима „возило је то направило“.
Репродуцибилност. Научни резултат захтева да метода (укључујући коришћени код, параметре, АИ упутства) буде јасно документована како би други могли да је реплицирају.
три мини кофера
Случај 1 — Цурење поверљивих података. Један истраживач је налепио податке мерења из уговора о неоткривању података са компанијом у генерички алат за вештачку интелигенцију „за брзи графикон“. Касније је схватио да овај алат може да чува инпуте. Дошло је до кршења уговора и могућег губитка приоритета. Поука: поверљиви подаци се никада не уносе у неодобрени алат.
Случај 2 — Штампа за улепшавање. Један студент је затражио од АИ да изврши измену која би „учинила да подаци изгледају ближе теорији“ јер експериментални подаци нису у потпуности одговарали теорији. Његов саветник је то приметио и зауставио га: неслагање је значило или систематску грешку у експерименту или занимљиву нову физику - нешто што треба истражити, а не сакрити. Подаци су пријављени поштено и пронађена је систематска грешка.
Случај 3 — Добијена транспарентност. Један тим је написао код за анализу података за рад уз помоћ АИ и то јасно навео у одељку о методама; дели код и упите као додатне датотеке. Судија је прегледао код и предложио мању исправку. Транспарентност је ухватила грешку пре објављивања и повећала кредибилитет студије.
Четири шаблона за копирање
1) Скрининг халуцинација:
Скенирајте следеће физичке резултате за халуцинације: да ли постоје лажне константе, лажна имена формула/закона, грешке јединице/реда, непроверени нумерички резултати и непотврђене атрибуције? Означите сваку сумњиву ставку и одредите како да је верификујете (референца, код, ДОИ). Излаз: [овде]
2) Претходна провера приватности података:
Процените следеће податке/текст пре него што их унесете у АИ алат: да ли садржи необјављене, поверљиве, личне или уговором заштићене информације? Ако је тако, предложите како да га анонимизирам или минимизирам. Ако нисте сигурни, реците „провери корпоративну политику“. Садржај: [овде]
3) Нацрт изјаве о транспарентности/доприносу:
У једној студији користио сам АИ за: [кодирање / корекцију језика / анализу, итд.]. Напишите кратку верзију „изјаве о употреби АИ“ која ово искрено документује. Такође треба да назначи које делове су људи верификовали.
4) Обезбеђивање научног интегритета:
Извршите проверу интегритета за следећу анализу/резултат: подаци пријављени такви какви јесу (без улепшавања), да ли су пријављене несигурности, да ли је метода документована на поновљив начин, да ли је употреба вештачке интелигенције транспарентна? Наведите све недостатке. Садржај: [овде]
Слаби промпт / Јаки промпт
Слаб: „Уредите принос да боље одговара теорији и учините графикон уверљивим.“
Резултат: Превара података; Директно кршење научног интегритета, неповратан губитак угледа.
Снажан: "Принос се не слаже у потпуности са теоријом. Помозите ми да анализирам могуће узроке овог одступања (систематска грешка, статистичка флуктуација, модел који недостаје или нови ефекат); предложите како да искрено пријавим неслагање без промене података."
Резултат: Искрен, истраживачки и веран приступ научном интегритету; Конфликт постаје прилика за откривање.
Уобичајене грешке
- Бркање халуцинације са самопоуздањем. Само зато што АИ говори самоуверено није гаранција тачности; Чак и најпрецизнија реченица може бити измишљена.
- Уношење поверљивих података у возило без одобрења. Када се деле, подаци се не могу преузети; Приоритет и поверљивост су изгубљени.
- Улепшавање података. Промена података у „теорију уклапања“ један је од најтежих научних злочина.
- Скривање употребе АИ. Транспарентност је услов поштења и обавезна је у многим институцијама.
- Стављање одговорности на возило. „АИ је то урадио“ није одбрана; Коначна одговорност увек лежи на људском бићу.
Савет: На крају сваке студије засноване на вештачкој интелигенцији, поставите себи три питања: (1) Да ли су свака чињеница, број и атрибуција у овом резултату независно верификовани? (2) Да ли су подаци које сам користио садржавали поверљиве/личне информације које не бих требало да уносим? (3) Да ли сам документовао своју употребу вештачке интелигенције и методологију довољно транспарентно да би неко други то могао да понови? Ако не можете да одговорите јасно са „да“ на ова три питања, студија још није завршена.
Укратко
Научни интегритет је основа постојања физике и још је важнији у доба вештачке интелигенције. Халуцинација се појављује у физици у облику лажних константи, лажних закона, јединичних грешака, лажних закључака и лажних референци; сваки је ухваћен сопственим јединственим методом верификације. Поверљиви и лични подаци се не уносе у неовлашћене алате; подаци се никада не улепшавају; Употреба вештачке интелигенције је транспарентно документована; а крајња одговорност увек лежи на човеку. Постоји само једна дисциплина коју научите током овог модула: АИ је моћан акцелератор, али верификација, интегритет и одговорност леже на раменима компетентног физичара — то јест, вас. Непроверени излаз вештачке интелигенције никада није замена за потврду физичара.
Задатак апликације
Изаберите излаз АИ (налог, анализа или текст) који сте произвели у овом модулу. 1. екран за халуцинације са шаблоном: да ли постоје лажне константе, лажне формуле, грешке јединица или непроверене атрибуције? Са шаблоном 2 процените да ли су подаци које користите прилагођени приватности. Коначно, направите кратку изјаву о коришћењу АИ/транспарентности са шаблоном 3. Запишите у 5-6 реченица: шта је скенирање открило, које сте кораке верификације предузели?
контролна листа
- [ ] Независно сам проверио сваку константу, формулу и резултат у излазу.
- [ ] Проверио сам сваки цитат са ДОИ/извором.
- [ ] Проверио сам да нисам унео поверљиве/личне податке у алатку без одобрења.
- [ ] Податке сам пријавио какве јесу, без улепшавања.
- [ ] Документовао сам своју употребу АИ на транспарентан и поновљив начин.
- [ ] Прихватио сам да је крајња одговорност моја; Нисам приписивао никакву кривицу возилу.
Модул Екам
1. Шта је од следећег најтачније позиционирање вештачке интелигенције у физици?
- А) Вештачка интелигенција је помоћник за кодирање, нацрт и уређивање; Одговорност за јединицу, чин, верификацију и етичке одлуке лежи на људском бићу ✔
- Б) Вештачка интелигенција је калкулатор и нумерички резултати које даје увек су тачни
- В) Вештачка интелигенција ради само у прорачуну, нема никакве везе са анализом експеримената и подучавањем
- Д) Пошто је вештачка интелигенција непристраснија од људи, одлуке о јединицама и резултатима треба препустити њој.
Опис: Вештачка интелигенција; То је асистент који пише код, производи нацрте, креира и организује оквире за извођење. Међутим, крајња одговорност за јединицу и верификацију поретка резултата, обезбеђујући га законима очувања, константном и референтном потврдом, припада надлежном физичару. Велики језички модел није калкулатор или физичка машина; је генератор текста који производи 'следећу највероватнију реч' и његов непроверени излаз може довести до нетачне вредности, дизајна или резултата.
2. Која је најтачнија апроксимација за нумерички резултат рачунског кода који штампате у великом језичком моделу?
- А) Верујући броју модел каже 'овај код даје то', јер је он написао код
- Б) Покрените код сами и видите излаз; ✔ не ослањајући се на вербално нумеричко предвиђање модела
- Ц) Прихватање кода као исправног само гледањем како се чита, без покретања
- Д) Ако се резултат поново директно тражи од модела и каже исти број, сматра се тачним.
Објашњење: ЛЛМ може 'израчунати' излаз кода који је написао у својој глави и вратити погрешан број; док када се покрене исти код даје тачан резултат. Оно што је детерминистичко је код који се извршава; То није вербално предвиђање модела. Према томе, код увек треба да се покреће у вашем окружењу и да се види излаз.
3. Који је најмоћнији начин да се тестира да ли симулација динамичког система без трења тачно одражава физику?
- А) Видети да графикон изгледа визуелно уредно и убедљиво
- Б) Покретање симулације са само једним временским кораком и поверењем у резултат
- Ц) Праћење количине коју треба сачувати, као што је укупна енергија или импулс, и провера да ли остаје константна ✔
- Д) Процена симулације по томе колико брзо ради
Објашњење: У систему без трења, укупна енергија (и импулс, ако постоји) морају бити сачувани. Праћење ове величине током симулације и увиђање да ли остаје константна открива нумеричке недостатке (нпр. примитивна Ојлерова метода која стално повећава енергију). Ако енергија лебди, симулација је непоуздана; Само зато што даје лепу графику не значи да је тачна.
4. Шта је од следећег исправан приступ када се модел уклапа у експерименталне податке?
- А) Избор полинома вишег степена који најбоље одговара подацима јер пролази кроз све тачке
- Б) Давање параметара као један број без двосмислености
- Ц) Декларисање квалитета уклапања једноставно гледањем како лепо изгледа крива.
- Д) Избор модела из физике, извештавање параметара са њиховим несигурностима и процена уклапања са остацима ✔
Објашњење: Модел треба изабрати из физичког закона који догађај мора да поштује, а не гледајући податке и питајући се 'који најбоље одговара'. Са довољно слободних параметара (нпр. полином високог степена) 'савршено', али физички бесмислено уклапање (оверфит) може се направити за било који податак. Параметре треба извести са њиховом несигурношћу, квалитет уклапања треба проценити са остацима, а физичку веродостојност треба проверити.
5. Понављање мерења много пута смањује који тип несигурности?
- А) Случајна несигурност; систематска неизвесност се не смањује понављањем, узрок се мора пронаћи и исправити ✔
- Б) Систематска неизвесност; јер елиминише грешку рекалибрације
- Ц) Потпуно елиминише обе нејасноће
- Д) Не смањује ниједну од њих; несигурност је независна од броја мерења
Објашњење: Поновљено мерење смањује случајну несигурност (са стандардном грешком средње вредности стд/√Н) која је резултат случајне дистрибуције резултата. Систематска несигурност, с друге стране, је грешка која увек одступа у истом правцу (на пример, погрешно калибрисана вага) и која се не смањује са понављањем; Међутим, узрок се може пронаћи и исправити. Извјештавање о 'веома малој' несигурности са вишеструким мјерењима може сакрити основну систематску грешку.
6. Који је најпоузданији независни начин за верификацију формуле за ширење грешке коју је извела АИ?
- А) Ослањајући се на формулу да изгледа флуидно и убедљиво
- Б) Унакрсна провера са Монте Карло прорачуном који насумично узоркује инпуте са њиховом несигурношћу ✔
- Ц) Поново тражити исту формулу од вештачке интелигенције и очекивати да ће она дати исти резултат
- Д) Директно прикупљање несигурности и њихово поређење са резултатом
Објашњење: АИ често меша парцијалне коефицијенте извода и структуру квадратног корена у формулама за ширење грешке. Моћан начин да се ово постигне независно је Монте Карло унакрсна провера: насумично узорковање сваког улаза са његовом несигурношћу, израчунавање функције хиљадама пута и поређење стандардне девијације излаза са несигурношћу датом формулом. Сусрет две независне методе повећава самопоуздање.
7. Која је исправна подела рада између АИ и СимПи-ја у дугом извођењу симболичке физике?
- А) СимПи генерише идеју извођења, АИ прецизно верификује сваки корак
- Б) И једно и друго је непотребно; дуга извођења морају се радити само ручно
- Ц) АИ гради оквир деривације, СимПи прецизно верификује сваки алгебарски корак ✔
- Д) Вештачка интелигенција сама изводи извођење, нема потребе за провером јер изгледа течно
Објашњење: АИ стратегијизује деривацију и објашњава путању, али у дугој алгебри прави грешке у знаку, избегавајући термине и нетачна поједностављења. СимПи, с друге стране, ради по правилима и прецизно верификује сваки алгебарски корак. Најмоћнији ток посла комбинује то двоје: преузмите скелет од АИ, изворите сваки корак помоћу СимПи-а, тестирајте резултат помоћу инверзног изведеног интеграла и граничног случаја.
8. Шта димензиона анализа говори о тачности физичке формуле?
- А) Димензиона анализа увек дефинитивно доказује да је формула тачна
- Б) Димензиона анализа нема практичну вредност у физици
- Ц) Димензиона анализа даје само константан фактор формуле, а не њену конзистентност
- Д) Формула која не важи димензионално је апсолутно погрешна; димензионална анализа хвата грешку без бројања бројева ✔
Објашњење: Две стране физичке једначине морају бити димензионално једнаке пре него што могу бити нумерички једнаке. Формула која не важи димензионално је једноставно погрешна; ово се узима из израчунавања бројања. Димензиона анализа не доказује коначно да је формула тачна (може пропустити бездимензионални константни фактор или угао), али доказује да је нетачна; па је то прва и најјефтинија ревизија сваког рачуна.
9. Који је најкритичнији први корак при израчунавању кинетичке енергије објекта који путује брзином од 36 км/х?
- А) Претварање свих инпута у јединствен систем јединица (СИ); Претварање 36 км/х у 10 м/с ✔
- Б) Уношење брзине у км/х директно у формулу без претварања у м/с
- В) Множење само бројева без узимања у обзир јединица
- Д) Под претпоставком да нема потребе да се проверава редослед након израчунавања резултата
Објашњење: Формуле засноване на СИ (Е = ½мв²) очекују брзину у м/с. Бркање км/х са м или сати са секундама у прорачуну је једна од најчешћих грешака у физици. Прво се сви улази морају претворити у један систем јединица (СИ): 36 км/х = 10 м/с. Пошто АИ може да прави тихе грешке у конверзијама сложених јединица, ова конверзија мора бити верификована ручно или помоћу алата који је свестан јединица.
10. Која пракса је исправна у смислу 'поштености' у научном графикону?
- А) Скривање несигурности јер траке грешака затрпају графикон
- Б) Означите осе јединицама, изаберите скалу без изобличења и покажите несигурност помоћу трака грешака ✔
- Ц) Увек покрените и-осу у опсегу који ће показати најдраматичнију разлику
- Г) Оставити осе без јединица јер читалац може да погоди јединицу
Опис: Искрена научна карта; означава осе величином и јединицом, бира скалу свесно и без изобличења (покретање и-осе од нуле због претеривања је погрешно), и чини несигурност мерења видљивом помоћу трака грешке. Скривање неизвесности чини да подаци изгледају извесно и ствара лажни утисак пристрасности или слагања. Што је графика уверљивија, то је важнија провера интегритета.
11. Који је највећи ризик и исправна дисциплина када добијате литературу и цитирану подршку од вештачке интелигенције?
- А) Вештачка интелигенција губи време јер веома споро производи цитате
- Б) Извори које предлаже вештачка интелигенција су увек стварни, нема потребе за провером
- Ц) Вештачка интелигенција може произвести атрибуције које изгледају као стварне, али не постоје; Сваки цитат мора бити верификован са ДОИ/извором и литература мора бити пронађена из стварне базе података ✔
- Д) Измишљени цитати се лако препознају јер увек користе нестварне називе часописа
Објашњење: Велики језички модел није повезан са стварном базом података; Опонашајући обрасце цитирања, може произвести чланке који носе прави назив часописа, кредибилне ауторе и разумну годину, али у потпуности не постоје. Према томе, литературу треба пронаћи из стварних база података, АИ треба користити само за сумирање/превођење стварног текста при руци, а сваки цитат треба независно верифицирати ДОИ или насловом. Непроверен цитат је повреда академског интегритета.
12. Шта је потребно да бисте добили поуздане резултате када АИ резимира чланак?
- А) Довољно је само навести наслов чланка, модел зна садржај
- Б) Коришћење резимеа директно без провере, јер изгледа течно
- Ц) Питати модел за исти резиме два пута и прихватити га као тачан ако је сличан.
- Д) Давање оригиналног текста моделу и упоређивање произведеног резимеа са оригиналним текстом да би се проверило да ништа није додато/искривљено ✔
Објашњење: Једноставно давање АИ наслова чланка и тражење резимеа довешће до тога да модел изађе са 'уверљивим резимеом', а да никада не види чланак; Овај сажетак може бити супротан истини. Поуздан резиме се може добити само када се оригинални текст унесе у модел и генерисани резиме се упореди са оригиналним текстом. Додатно, треба проверити да резиме не додаје резултате или бројеве којих нема у тексту.
13. Шта важи за производњу вештачке интелигенције у материјалној производњи курса физике?
- А) Свако решење треба да буде независно верификовано, границе аналогија треба да буду прецизиране, а дистрактори треба да циљају стварне заблуде ✔
- Б) Кључ одговора који производи вештачка интелигенција је увек тачан, нема потребе за ревизијом
- В) Аналогије су савршене у свим случајевима, нема потребе прецизирати њихове границе.
- Д) Дистракторе треба бирати потпуно насумично, јер је природа погрешног избора неважна.
Опис: АИ је брз у генерисању питања, примера и аналогија, али провера је неопходна у три тачке: решење за сваки проблем мора бити верификовано независно (ручно или кодом), јер модел може правити грешке у знаку/јединици у решењу; Свака аналогија се мора навести где се поквари, иначе ће довести до нове грешке; Дистрактори би требало да циљају на праве заблуде. Одговорност је на наставнику; Кључ за нетачан одговор оставља ученицима неспоразуме које је тешко исправити.
14. Какво је понашање у складу са научним интегритетом када се експериментални подаци не слажу у потпуности са теоријом?
- А) Вештачка интелигенција организује податке тако да одговарају теорији и уверљиво приказује графикон
- Б) Испитивање разлога за неслагање (систематска грешка, недостатак модела, нови ефекат) и поштено извештавање без промене података ✔
- Ц) Игнорисање неслагања и извештавање само о тачкама које одговарају
- Д) Брисање података и прилагођавање новог резултата експеримента
Објашњење: Тражење од АИ да 'распореди податке тако да боље одговарају теорији' је превара у подацима и грубо кршење научног интегритета. Неслагање је нешто што треба истражити, а не сакрити: може указивати на систематску грешку, статистичку флуктуацију, недостатак обрасца или занимљив нови ефекат. Подаци се извештавају такви какви јесу, са несигурношћу; Коначна одговорност лежи на особи, а „алатка је то урадила“ није одбрана.