Добивки:
- Способност да се препознаат формите на халуцинација во физиката (лажна константа, лажен закон, единична грешка, погрешен резултат, лажна атрибуција) и да се фатат со соодветен метод.
- Способност да се заштитат необјавените, доверливите и личните податоци со анонимизација и минимизирање со тоа што не се внесуваат во неовластени алатки
- Да се биде во можност да се разбере дека крајната одговорност лежи кај луѓето со тоа што ќе ги пријавувате податоците искрено, без да ги украсувате и транспарентно документирање на употребата на вештачка интелигенција.
Во текот на овој модул, ја покривавме истата дисциплина во секоја единица: вештачката интелигенција (ВИ) забрзува, луѓето проверуваат. Во оваа последна единица, ја обединуваме целата оваа практика на верификација под чадорот на научниот интегритет, најфундаменталната вредност на физичката наука. Физиката е стремеж кон производство на проверливо знаење за природата; Во срцето на овој потфат се интегритетот, повторливоста и одговорноста. ВИ може да се користи за зајакнување на овие вредности - но кога се користи неправилно, тоа им се заканува на сите. Во оваа единица, ќе разговараме за физичките форми на халуцинација, одговорноста за податоци и приватност, етичките граници и зошто крајната одговорност секогаш останува кај луѓето.
Форми на халуцинации во физиката
Халуцинацијата - самоувереното производство на лажни информации од страна на вештачката интелигенција - добива уникатни и опасни форми во физиката. Препознавањето на овие е првиот чекор за фаќање:
тип на халуцинација
пример
Метод на снимање
Местење фиксни/податоци
Неправилна густина на материјалот
Потврда со сигурна референца
Лажна формула/закон
Непостоечко „начело“ име
Изведување на учебник/SymPy
Грешка во единицата/нарачката
погрешно eV за Ј
Димензионална анализа, контрола на единицата
Неточен нумерички резултат
Неправилен излез на код
Стартувај го кодот
апокрифна атрибуција
непостоечка статија
Потврда со DOI
Погрешно пријавен резултат
Искривување на вистинската статија
Прочитајте го оригиналниот извор
Заедничката нишка е следново: голем јазичен модел е дизајниран да не ја кажува вистината, туку да произведе „текст со можен изглед“. Во физиката, разликата помеѓу „навидум можно“ и „вистинито“ е токму причината за постоењето на науката.
Податоци, приватност и одговорност за интелектуална сопственост
Физичарите често работат со чувствителни податоци: необјавени експериментални податоци, претходно патентни дизајни, доверливи мерења од индустриски соработки, истражувања кои вклучуваат податоци за лично здравје или безбедност. Внесувањето на таквите податоци во општа алатка за вештачка интелигенција би можело да ги направи достапни за трети страни, а можеби и за податоците за обука на моделот - што би значело и повреда на доверливоста и губење на научниот приоритет (правото да се биде првиот што ќе открие откритие). Правилото е јасно: не внесувајте необјавени, доверливи или лични податоци во алатка за вештачка интелигенција што вашата организација не ја одобрила. Ако сакате да внесете, анонимизирајте, минимизирајте (дајте го само она што е потребно) и прочитајте ги условите за податоци на алатката.
Внимание: Внесувањето на необјавени мерења на лабораторија или доверливи параметри за дизајн на компанијата во алатка за вештачка интелигенција „за брза анализа“ може да биде неповратна грешка. Откако податоците ќе се споделат, не може да се отповикаат. Ако се сомневате, не внесувајте податоци; Прво разјаснете ја политиката на вашата институција и условите за приватност на алатката.
Етички граници и научен интегритет
Употребата може да биде технички можна, па дури и легална, но сепак е неетичка. Постојат неколку црвени линии во физиката кои се однесуваат на научниот интегритет:
Изработка на податоци или украсување. Барањето од вештачката интелигенција да „генерира поени што подобро одговараат на приносот“ или „да направи графикот да изгледа поубедлив“ е измама со податоци. Податоците се пријавени како што се; Исклучоците се елиминираат само со документирана, легитимна причина.
Транспарентност на придонесот. Ако сте користеле вештачка интелигенција во студија - пишување код, корекција на јазикот, анализа - фер е да го разјасните тоа на соодветното место. Многу списанија и институции го бараат ова.
Авторство и одговорност. ВИ не е писател; не може да биде одговорен за содржината на делото. Одговорноста секогаш лежи кај писателите на луѓето. Грешката произведена од вештачката интелигенција не може да се одбрани со велејќи „возилото го направило“.
Репродуктивност. Научниот резултат бара методот (вклучувајќи го употребениот код, параметрите, инструкциите за вештачка интелигенција) да биде јасно документиран за да можат другите да го реплицираат.
три мини футроли
Случај 1 - Протекување доверливи податоци. Еден истражувач ги залепи мерните податоци од договор за необјавување со компанија во генеричка алатка за вештачка интелигенција „за брз график“. Подоцна сфатил дека оваа алатка може да складира влезови. Се случи прекршување на договорот и можно губење на приоритетот. Поука: доверливите податоци никогаш не се внесуваат во неодобрена алатка.
Случај 2 - отпечаток за разубавување. Еден студент побара од вештачката интелигенција за уредување што „ќе ги направи податоците да изгледаат поблиску до теоријата“, бидејќи експерименталните податоци не се совпаѓаат целосно со теоријата. Неговиот советник го забележал ова и го спречил: несовпаѓањето значело или систематска грешка во експериментот или интересна нова физика - нешто што треба да се истражува, а не да се скрие. Податоците беа пријавени искрено и беше пронајдена систематска грешка.
Случај 3 - Добиена транспарентност. Еден тим го напиша кодот за анализа на податоци за труд со помош на вештачка интелигенција и јасно го наведе ова во делот за методи; го сподели кодот и барањата како дополнителни датотеки. Судијата го прегледа кодот и предложи мала поправка. Транспаренси ја откри грешката пред објавувањето и го зголеми кредибилитетот на студијата.
Четири шаблони за копирање
1) Скрининг за халуцинации:
Скенирај го следниов физички излез за халуцинации: дали има лажни константи, лажни имиња на формула/закони, грешки на единицата/редот, непроверени нумерички резултати и непотврдени атрибути? Означете ја секоја сомнителна ставка и наведете како да ја потврдите (референца, код, DOI). Излез: [тука]
2) Претходна проверка на приватноста на податоците:
Оценете ги следните податоци/текст пред да ги внесете во алатка за вештачка интелигенција: дали содржи необјавени, доверливи, лични или договорно заштитени информации? Ако е така, предложете како можам да го анонимизирам или минимизирам. Ако не сте сигурни, кажете „проверете ја корпоративната политика“. Содржина: [тука]
3) Нацрт изјава за транспарентност/придонес:
Во една студија, користев вештачка интелигенција за: [кодирање / корекција на јазикот / анализа, итн.]. Напишете краток нацрт „изјава за употреба на вештачка интелигенција“ што искрено го документира ова. Исто така, треба да означи кои делови се проверени од луѓе.
4) Обезбедување научен интегритет:
Направете проверка на интегритетот за следната анализа/резултат: податоците пријавени како што се (без украсување), дали се пријавени несигурности, дали методот е документиран на репродуктивен начин, дали употребата на вештачка интелигенција е транспарентна? Наведете ги сите недостатоци. Содржина: [тука]
Слаб промпт / Силен промпт
Слаб: „Уредете го приносот за подобро да одговара на теоријата и да го направите графикот убедлив“.
Резултат: измама со податоци; Директно нарушување на научниот интегритет, неповратно губење на угледот.
Силно: "Приносот не се согласува целосно со теоријата. Помогнете ми да ги анализирам можните причини за ова несовпаѓање (системска грешка, статистичка флуктуација, модел што недостасува или нов ефект); предложете како искрено да го пријавите несовпаѓањето без да ги менувате податоците."
Резултат: Чесен, истражувачки и верен пристап кон научниот интегритет; Конфликтот станува можност за откривање.
Вообичаени грешки
- Збунувачки халуцинации со самодоверба. Само затоа што вештачката интелигенција зборува самоуверено не е гаранција за точност; Дури и најпрецизната реченица може да биде измислена.
- Внесување доверливи податоци во возилото без одобрение. Откако ќе се споделат, податоците не може да се вратат; Приоритетот и доверливоста се изгубени.
- Разубавувачки податоци. Промената на податоците во „теорија за вклопување“ е еден од најтешките научни злосторства.
- Сокривање на употребата на вештачка интелигенција. Транспарентноста е услов за чесност и е задолжителна во многу институции.
- Префрлање на одговорноста на возилото. „Ви го направи тоа“ не е одбрана; Крајната одговорност секогаш лежи кај човечкото суштество.
Совет: на крајот од секоја студија со ВИ, поставете си три прашања: (1) Дали секој факт, број и атрибуција во овој излез се независно потврдени? (2) Дали податоците што ги користев содржат доверливи/лични информации што не треба да ги внесувам? (3) Дали ја документирав мојата употреба и методологија на вештачка интелигенција доволно транспарентно за некој друг да ги повтори? Ако не можете да одговорите јасно „да“ на овие три прашања, студијата сè уште не е завршена.
Сумирано
Научниот интегритет е основата на постоењето на физиката и е уште поважен во ерата на вештачката интелигенција. Халуцинацијата се појавува во физиката во форма на лажни константи, лажни закони, единични грешки, лажни заклучоци и лажни референци; секој е фатен со свој единствен метод за верификација. Доверливите и личните податоци не се внесуваат во неовластени алатки; податоците никогаш не се разубавуваат; Употребата на ВИ е транспарентно документирана; а крајната одговорност секогаш лежи кај човекот. Имате само една дисциплина што ја учите во текот на овој модул: ВИ е моќен забрзувач, но верификацијата, интегритетот и одговорноста почиваат на рамениците на компетентниот физичар - тоа е вас. Непроверениот излез на вештачката интелигенција никогаш не е замена за потврдата на физичарот.
Задача за апликација
Изберете излез на вештачка интелигенција (сметка, анализа или текст) што сте го создале во овој модул. 1. екран за халуцинации со шаблон: дали има лажни константи, лажни формули, единични грешки или непроверени атрибути? Со шаблон 2, проценете дали податоците што ги користите се погодни за приватност. На крајот, нацртајте кратка изјава за употреба/транспарентност на вештачката интелигенција со шаблон 3. Запишете во 5-6 реченици: што откри скенирањето, кои чекори за проверка ги презедовте?
листа за проверка
- [ ] Јас независно ја потврдив секоја константа, формула и резултат на излезот.
- [ ] Го потврдив секој цитат со DOI/изворот.
- [ ] Проверив дека немам внесено доверливи/лични податоци во алатката без одобрение.
- [ ] Ги пријавив податоците какви што се, без украсување.
- [ ] Ја документирав мојата употреба на ВИ на транспарентен и репродуктивен начин.
- [ ] Прифатив дека крајната одговорност е моја; Не му припишав никаква грешка на возилото.
Модул испит
1. Кое од наведеното е најточно позиционирање на вештачката интелигенција во физиката?
- А) Вештачката интелигенција е код, нацрт и помошник за уредување; Одговорноста за единицата, рангирањето, верификацијата и етичките одлуки лежи во човечкото суштество ✔
- Б) Вештачката интелигенција е калкулатор и нумеричките резултати што ги дава се секогаш точни
- В) Вештачката интелигенција работи само во пресметката, нема врска со анализа на експерименти и настава
- Г) Бидејќи вештачката интелигенција е понепристрасна од луѓето, одлуките за единиците и резултатите треба да се препуштат на неа.
Опис: Вештачка интелигенција; Тоа е асистент кој пишува код, произведува нацрти, креира и организира рамки за изведување. Сепак, крајната одговорност за проверка на единицата и наредбата на резултатот, обезбедувањето со законите за зачувување, константната и референтна потврда припаѓа на надлежниот физичар. Големиот јазичен модел не е калкулатор или физички мотор; е генератор на текст што го произведува „следниот најверојатен збор“ и неговиот непроверен излез може да доведе до неточна вредност, дизајн или резултат.
2. Која е најточната апроксимација за нумеричкиот резултат на пресметковниот код што го печатите во голем јазичен модел?
- А) Верувајќи на бројот, моделот вели „оваа шифра го дава тоа“, бидејќи тој ја напишал шифрата
- Б) Извршете го кодот сами и видете го излезот; ✔ не потпирајќи се на вербалното нумеричко предвидување на моделот
- В) Прифаќање на кодот како точен само со гледање како се чита, без воопшто да го извршите
- Г) Ако резултатот е директно прашан повторно до моделот и тој го кажува истиот број, тој се смета за точен.
Објаснување: LLM може да го „пресмета“ излезот од кодот што го напишал во главата и да врати погрешен број; додека кога се работи истиот код го дава точниот резултат. Она што е детерминистичко е кодот што се извршува; Тоа не е вербално предвидување на моделот. Затоа, кодот секогаш треба да се извршува во вашата околина и да се гледа излезот.
3. Кој е најмоќниот начин да се тестира дали симулацијата на динамичен систем без триење точно ја одразува физиката?
- А) Гледајќи дека табелата изгледа визуелно уредно и убедливо
- Б) Извршување на симулацијата со само еден временски чекор и верување на резултатот
- В) Следење на количината што треба да се зачува, како што е вкупната енергија или моментумот, и проверка дали таа останува константна ✔
- Г) Оценување на симулацијата според тоа колку брзо работи
Објаснување: Во систем без триење, вкупната енергија (и моментумот, доколку има) мора да се зачува. Следењето на оваа големина во текот на симулацијата и гледањето дали таа останува константна, открива нумерички недостатоци (на пример, примитивниот Ојлер метод постојано ја зголемува енергијата). Ако енергијата се движи, симулацијата е несигурна; Само затоа што произведува убава графика не значи дека е точна.
4. Кој од наведеното е правилен пристап кога се вклопува модел на експериментални податоци?
- А) Избор на полином од повисок степен кој најдобро одговара на податоците бидејќи поминува низ сите точки
- Б) Давање на параметрите како единечен број без двосмисленост
- В) Декларирање на квалитетот на вклопувањето едноставно со гледање колку убаво изгледа кривата.
- Г) Избор на моделот од физика, известување на параметрите со нивните несигурности и проценка на усогласеноста со остатоците ✔
Објаснување: Моделот треба да се избере од физичкиот закон што настанот мора да го почитува, а не со гледање на податоците и прашување „на која најдобро одговара“. Со доволно слободни параметри (на пр. полином со висок степен) може да се направи „совршено“, но физички бесмислено приспособување (префит) на кој било податок. Параметрите треба да се пријават со нивната несигурност, квалитетот на вклопувањето треба да се процени со резидуали и да се провери физичката веродостојност.
5. Со повеќекратно повторување на мерењето се намалува кој тип на несигурност?
- А) Случајна несигурност; систематската несигурност не се намалува со повторување, причината мора да се најде и коригира ✔
- Б) Систематска несигурност; бидејќи ја елиминира грешката при рекалибрација
- В) Целосно ги елиминира двете нејаснотии
- Г) Не намалува ниту еден од нив; несигурноста е независна од бројот на мерења
Објаснување: Повтореното мерење ја намалува случајната несигурност (со стандардна грешка на средната вредност std/√N) што произлегува од случајната распределба на резултатите. Систематската несигурност, од друга страна, е грешка која секогаш отстапува во иста насока (на пример, неправилно калибрирана рамнотежа) и не се намалува со повторување; Сепак, причината може да се најде и коригира. Пријавувањето „многу мала“ несигурност со повеќе мерења може да ја скрие основната систематска грешка.
6. Кој е најсигурниот независен начин да се потврди формулата за ширење на грешка изведена од ВИ?
- А) Потпирајќи се на формулата за да изгледа течно и убедливо
- Б) Вкрстена проверка со пресметка на Монте Карло која по случаен избор ги зема примероците од влезовите со нивната несигурност ✔
- В) Повторно барање на истата формула од вештачката интелигенција и очекување таа да го даде истиот резултат
- Г) Директно собирање на неизвесностите и нивно споредување со резултатот
Објаснување: ВИ често ги меша парцијалните коефициенти на деривати и структурата на квадратниот корен во формулите за ширење на грешки. Моќен начин да се постигне ова независно е вкрстената проверка на Монте Карло: случаен примерок на секој влез со неговата несигурност, пресметување на функцијата илјадници пати и споредување на стандардното отстапување на излезот со несигурноста дадена со формулата. Состанокот на два независни методи ја зголемува довербата.
7. Која е правилната поделба на трудот помеѓу AI и SymPy во долгото изведување на симболичката физика?
- А) SymPy ја генерира идејата за изведбата, вештачката интелигенција прецизно го потврдува секој чекор
- Б) И двете се непотребни; долгите изведувања мора да се прават само рачно
- В) ВИ ја гради рамката за изведување, SymPy прецизно го потврдува секој алгебарски чекор ✔
- Г) Вештачката интелигенција го прави изведувањето сама, нема потреба од верификација бидејќи изгледа течно
Објаснување: вештачката интелигенција ја стратегиизира изведбата и ја објаснува патеката, но во долгата алгебра прави грешки во знакот, избегнати термини и неточни поедноставувања. SymPy, од друга страна, работи според правила и прецизно го проверува секој алгебарски чекор. Најмоќниот работен тек ги комбинира двете: земете го скелетот од вештачката интелигенција, набавете го секој чекор со SymPy, тестирајте го резултатот со инверзната дериват-интегрална и граничната големина.
8. Што кажува димензионалната анализа за точноста на физичката формула?
- А) Димензионалната анализа секогаш дефинитивно докажува дека формулата е точна
- Б) Димензионалната анализа нема практична вредност во физиката
- В) Димензионалната анализа го дава само константниот фактор на формулата, а не неговата конзистентност
- Г) Формулата што не држи димензионално е апсолутно погрешна; димензионалната анализа фаќа грешка без броење броеви ✔
Објаснување: Двете страни на физичката равенка мора да бидат димензионално еднакви пред да бидат нумерички еднакви. Формулата што не држи димензионално е едноставно погрешна; ова се доловува од пресметката на броењето. Димензионалната анализа не докажува дефинитивно дека формулата е точна (може да пропушти бездимензионален константен фактор или агол), но дефинитивно докажува дека е неточна; па тоа е првата и најевтина ревизија на секоја сметка.
9. Кој е најкритичниот прв чекор при пресметување на кинетичката енергија на објект кој патува со 36 km/h?
- А) Конвертирање на сите влезови во единствен систем на единици (SI); Претворање 36 km/h во 10 m/s ✔
- Б) Внесување на брзината во km/h директно во формулата без нејзино претворање во m/s
- В) Множење само на броеви без да се земат предвид единиците
- Г) Под претпоставка дека нема потреба да се провери редоследот по пресметувањето на резултатот
Објаснување: Формулите базирани на SI (E = ½mv²) очекуваат брзина во m/s. Збунувањето km/h со m или часовите со секунди во пресметката е една од најчестите грешки во физиката. Прво, сите влезови мора да се претворат во единствен систем на единици (SI): 36 km/h = 10 m/s. Бидејќи вештачката интелигенција може да прави тивки грешки при конверзија на сложени единици, оваа конверзија мора да се потврди рачно или со алатка која ја знае единицата.
10. Која практика е точна во однос на „чесноста“ во научен график?
- А) Криење на несигурноста затоа што лентите за грешки ја натрупуваат табелата
- Б) Означете ги оските со единици, изберете ја скалата без изобличување и покажете несигурност со ленти за грешки ✔
- В) Секогаш стартувајте ја y-оската во опсегот што ќе ја покаже најдраматичната разлика
- Г) Оставање на оските без единици бидејќи читателот може да ја погоди единицата
Опис: Искрена научна табела; ги означува оските со големина и единица, избира скала свесно и без изобличување (почнувањето на y-оската подалеку од нула поради претерување е погрешно) и ја прави несигурноста при мерењето видлива со ленти за грешки. Криењето на несигурноста прави податоците да изгледаат сигурни и создава лажен впечаток на пристрасност или договор. Колку е поубедлива графиката, толку е поважна проверката на интегритетот.
11. Кој е најголемиот ризик и правилната дисциплина кога добивате литература и поддршка за цитати од вештачката интелигенција?
- А) Вештачката интелигенција губи време затоа што произведува цитати многу бавно
- Б) Изворите предложени од вештачката интелигенција се секогаш реални, нема потреба од верификација
- В) Вештачката интелигенција може да произведе атрибуции кои изгледаат реални, но не постојат; Секој цитат мора да биде потврден со DOI/извор и литературата мора да се најде од вистинската база на податоци ✔
- Г) Измислените цитати лесно се препознаваат бидејќи секогаш користат нереални имиња на списанија
Објаснување: Голем јазичен модел не е поврзан со вистинска база на податоци; Со имитација на модели на цитати, може да произведе статии што го носат вистинското име на списанието, веродостојни автори и разумна година, но се целосно непостоечки. Затоа, литературата треба да се најде од вистински бази на податоци, вештачката интелигенција треба да се користи само за резимирање/преведување на вистинскиот текст при рака, а секој цитат треба да биде независно потврден со DOI или наслов. Непроверениот цитат е повреда на академскиот интегритет.
12. Што е потребно за да се добијат сигурни резултати кога вештачката интелигенција резимира статија?
- А) Доволно е само да го дадете насловот на статијата, моделот ја знае содржината
- Б) Користејќи го резимето директно без воопшто да го проверите, бидејќи изгледа течно
- В) Барање од моделот за истото резиме двапати и прифаќање како точно ако е слично.
- Г) Давање на оригиналниот текст на моделот и споредување на произведеното резиме со оригиналниот текст за да се провери дали ништо не е додадено/искривено ✔
Објаснување: Едноставно давање наслов на статија на вештачката интелигенција и барање резиме ќе предизвика моделот да излезе со „веродостојно резиме“ без воопшто да ја види статијата; Ова резиме може да биде спротивно на вистината. Сигурно резиме може да се добие само кога оригиналниот текст се внесува во моделот и генерираното резиме се споредува со оригиналниот текст. Дополнително, треба да се провери дали резимето не додава резултати или бројки што ги нема во текстот.
13. Што е точно за излезот на вештачката интелигенција во производството на материјали од курсот по физика?
- А) Секое решение треба да биде независно потврдено, границите на аналогиите треба да се специфицираат, а оние што го одвлекуваат вниманието треба да ги таргетираат вистинските заблуди ✔
- Б) Клучот за одговор произведен од вештачката интелигенција е секогаш точен, нема потреба од ревизија
- В) Аналогиите се совршени во сите случаи, нема потреба да се специфицираат нивните граници.
- Г) Дистракторите треба да се избираат сосема случајно, бидејќи природата на неточниот избор е неважна.
Опис: ВИ е брза во генерирање прашања, примери и аналогии, но проверката е од суштинско значење за три точки: решението за секој проблем мора да се потврди независно (рачно или со код), бидејќи моделот може да направи грешки во знакот/единицата во решението; Секоја аналогија мора да биде наведена каде се распаѓа, инаку ќе доведе до нова грешка; Дистракторите треба да ги таргетираат вистинските заблуди. Одговорноста е на наставникот; Клучот за неточен одговор ги остава учениците со недоразбирања кои тешко се поправаат.
14. Какво е однесувањето во согласност со научниот интегритет кога експерименталните податоци целосно не се согласуваат со теоријата?
- А) Имајќи вештачка интелигенција, организирајте ги податоците за да одговараат на теоријата и убедливо прикажете го графикот
- Б) Истражување на причините за несовпаѓање (системска грешка, недостаток на модел, нов ефект) и чесно известување без промена на податоците ✔
- В) Игнорирање на несогласувањето и известување само за точките што одговараат
- Г) Бришење на податоците и поставување на нов резултат од експериментот
Објаснување: Барањето од вештачката интелигенција да ги „среди податоците за подобро да одговараат на теоријата“ е измама со податоци и грубо нарушување на научниот интегритет. Несогласувањето е нешто што треба да се истражува, а не да се скрие: тоа може да укаже на систематска грешка, статистичка флуктуација, недостаток на шема или интересен нов ефект. Податоците се пријавени како што се, со неизвесност; Крајната одговорност е на личноста и „алатот го направи тоа“ не е одбрана.