Halusinasyon, Etika, Pagiging Kumpidensyal at Siyentipikong Integridad — Artipisyal na Katalinuhan sa Physics

Mga nadagdag:

Kakayahang kilalanin ang mga form ng hallucination sa physics (pekeng pare-pareho, pekeng batas, error sa unit, maling resulta, pekeng pagpapatungkol) at mahuli ang mga ito gamit ang naaangkop na pamamaraan.
Kakayahang protektahan ang hindi na-publish, kumpidensyal at personal na data sa pamamagitan ng pag-anonymize at pag-minimize sa pamamagitan ng hindi pagpasok sa mga ito sa mga hindi awtorisadong tool
Ang kakayahang maunawaan na ang sukdulang responsibilidad ay nakasalalay sa mga tao sa pamamagitan ng pag-uulat ng data nang tapat, nang hindi pinapaganda ito, at malinaw na pagdodokumento ng paggamit ng artificial intelligence.

Sa kabuuan ng modyul na ito, sinakop namin ang parehong disiplina sa bawat yunit: ang artificial intelligence (AI) ay nagpapabilis, ang mga tao ay nagpapatunay. Sa panghuling yunit na ito, pinagsama-sama namin ang buong pagsasanay sa pag-verify sa ilalim ng payong ng integridad ng siyensya, ang pinakapangunahing halaga ng pisikal na agham. Ang pisika ay ang pagtugis ng paggawa ng napapatunayang kaalaman tungkol sa kalikasan; Sa puso ng pagsisikap na ito ay integridad, repeatability at responsibilidad. Maaaring gamitin ang AI upang palakasin ang mga halagang ito — ngunit kapag ginamit nang hindi tama, nagbabanta ito sa lahat. Sa yunit na ito, tatalakayin natin ang mga pisikal na anyo ng guni-guni, data at responsibilidad sa privacy, mga hangganan ng etika, at kung bakit laging nananatili sa mga tao ang sukdulang responsibilidad.

Mga anyo ng hallucination sa pisika

Hallucination—ang kumpiyansa na paggawa ng AI ng maling impormasyon—ay may kakaiba at mapanganib na anyo sa pisika. Ang pagkilala sa mga ito ay ang unang hakbang sa paghuli:

uri ng hallucination

halimbawa

Paraan ng pagkuha

Pagkakabit naayos/data

Isang hindi tamang density ng materyal

Kumpirmasyon na may maaasahang sanggunian

Maling formula/batas

Isang hindi umiiral na "prinsipyo" na pangalan

Textbook/SymPy derivation

Error sa unit/order

napagkamalan ang eV para kay J

Pagsusuri ng sukat, kontrol ng yunit

Maling resulta ng numero

Hindi wastong output ng code

Patakbuhin ang code

apokripal na pagpapatungkol

hindi umiiral na artikulo

Pagpapatunay sa DOI

Maling naiulat na resulta

Pagbaluktot ng totoong artikulo

Basahin ang orihinal na pinagmulan

Ang karaniwang thread ay ito: ang isang malaking modelo ng wika ay idinisenyo hindi upang sabihin ang katotohanan, ngunit upang makabuo ng "posibleng mukhang teksto". Sa pisika, ang pagkakaiba sa pagitan ng "tila posible" at "totoo" ay tiyak na dahilan ng pag-iral ng agham.

Data, privacy at pananagutan sa intelektwal na ari-arian

Madalas na gumagana ang mga physicist sa sensitibong data: hindi na-publish na pang-eksperimentong data, mga disenyo ng pre-patent, mga kumpidensyal na sukat mula sa mga pang-industriyang pakikipagtulungan, pananaliksik na kinasasangkutan ng personal na data ng kalusugan o kaligtasan. Ang paglalagay ng naturang data sa isang pangkalahatang tool ng AI ay maaaring gawing naa-access ito ng mga third party at posibleng data ng pagsasanay ng modelo—na mangangahulugan ng parehong paglabag sa pagiging kumpidensyal at pagkawala ng siyentipikong priyoridad (ang karapatang maging una sa pagtuklas). Malinaw ang panuntunan: huwag maglagay ng hindi na-publish, kumpidensyal o personal na data sa isang AI tool na hindi inaprubahan ng iyong organisasyon. Kung papasok ka, i-anonymize, i-minimize (ibigay lang ang kailangan) at basahin ang mga kundisyon ng data ng tool.

Babala: Ang pagpasok ng mga hindi na-publish na sukat ng laboratoryo o mga kumpidensyal na parameter ng disenyo ng kumpanya sa isang AI tool "para sa mabilis na pagsusuri" ay maaaring isang hindi maibabalik na pagkakamali. Kapag naibahagi na ang data, hindi na ito maaalala. Kung may pagdududa, huwag magpasok ng data; Linawin muna ang patakaran ng iyong institusyon at ang mga tuntunin sa privacy ng tool.

Mga hangganang etikal at integridad ng siyensya

Ang isang paggamit ay maaaring teknikal na posible at maging legal, ngunit hindi pa rin etikal. Mayroong ilang mga pulang linya sa pisika na may kinalaman sa siyentipikong integridad:

Paggawa o pagpapaganda ng datos. Ang paghiling sa AI na "bumuo ng mga puntos na mas angkop sa ani" o "gawing mas kapani-paniwala ang graph" ay pandaraya sa data. Ang data ay iniulat bilang ay; Ang mga outlier ay inaalis lamang nang may dokumentado, lehitimong dahilan.

Transparency ng kontribusyon. Kung gumamit ka ng AI sa isang pag-aaral — pagsulat ng code, pagwawasto ng wika, pagsusuri — patas na gawing malinaw iyon sa naaangkop na lugar. Maraming mga journal at institusyon ang nangangailangan nito.

May-akda at pananagutan. AI ay hindi isang manunulat; hindi maaaring maging responsable para sa nilalaman ng isang akda. Ang responsibilidad ay palaging nasa mga manunulat ng tao. Ang isang error na ginawa ng AI ay hindi maaaring ipagtanggol sa pamamagitan ng pagsasabi na "nagawa ito ng sasakyan".

Reproducibility. Ang isang siyentipikong resulta ay nangangailangan ng paraan (kabilang ang code na ginamit, mga parameter, mga senyas ng AI) na malinaw na naidokumento upang ang iba ay maaaring kopyahin ito.

tatlong mini case

Kaso 1 — Kumpidensyal na pagtagas ng data. Isang researcher ang nag-paste ng data ng pagsukat mula sa isang non-disclosure agreement sa isang kumpanya sa isang generic na AI tool "para sa mabilis na graph." Nang maglaon ay napagtanto niya na ang tool na ito ay maaaring mag-imbak ng mga input. Isang paglabag sa kontrata at posibleng pagkawala ng priyoridad ay naganap. Aralin: hindi kailanman ipinapasok ang kumpidensyal na data sa isang hindi naaprubahang tool.

Kaso 2 — Pag-print ng pagpapaganda. Isang estudyante ang humiling sa AI ng isang pag-edit na "magiging mas malapit sa teorya" dahil hindi ganap na tumugma sa teorya ang data ng pang-eksperimentong. Napansin ito ng kanyang tagapayo at pinigilan siya: ang isang pagkakaiba ay nangangahulugan ng alinman sa isang sistematikong pagkakamali sa eksperimento o kawili-wiling bagong pisika—isang bagay na dapat imbestigahan, hindi itinatago. Ang data ay matapat na naiulat at may nakitang sistematikong pagkakamali.

Case 3 — Nagkamit ng transparency. Isang koponan ang sumulat ng data analysis code para sa isang papel sa tulong ng AI at malinaw na nakasaad ito sa seksyon ng mga pamamaraan; ibinahagi ang code at mga senyas bilang karagdagang mga file. Sinuri ng referee ang code at nagmungkahi ng menor de edad na pag-aayos. Nahuli ng transparency ang error bago ang publikasyon at pinataas ang kredibilidad ng pag-aaral.

Apat na maaaring kopyahin na mga template

1) Pagsusuri ng hallucination:

I-scan ang sumusunod na output ng pisika para sa mga guni-guni: mayroon bang anumang mga huwad na constant, bogus na formula/pangalan ng batas, error sa unit/order, hindi na-verify na mga resulta ng numero, at hindi nakumpirma na mga pagpapatungkol? I-flag ang bawat kahina-hinalang item at tukuyin kung paano ito i-verify (reference, code, DOI). Output: [dito]

2) Paunang pagsusuri sa privacy ng data:

Suriin ang sumusunod na data/text bago ito ilagay sa isang AI tool: naglalaman ba ito ng hindi na-publish, kumpidensyal, personal o protektadong impormasyon sa kontrata? Kung gayon, imungkahi kung paano ko ito ma-anonymise o mababawasan. Kung hindi sigurado, sabihin ang "suriin ang patakaran ng kumpanya." Nilalaman: [dito]

3) Draft transparency/contribution statement:

Sa isang pag-aaral, gumamit ako ng AI para sa: [coding / language correction / analysis, etc.]. Sumulat ng maikling draft na "AI use statement" na tapat na nagdodokumento nito. Dapat din itong ipahiwatig kung aling mga bahagi ang na-verify ng mga tao.

4) Pagtitiyak ng siyentipikong integridad:

Magsagawa ng pagsusuri sa integridad para sa sumusunod na pagsusuri/resulta: ang data na iniulat kung ano ang dati (walang pagpapaganda), ang mga kawalan ng katiyakan ay iniulat, ang pamamaraan ba ay nakadokumento sa isang paraan na maaaring kopyahin, ang paggamit ba ng AI ay transparent? Ilista ang anumang mga pagkukulang. Nilalaman: [dito]

Mahinang prompt / Malakas na prompt

Mahina: "I-edit ang yield para mas magkasya sa teorya at gawing kapani-paniwala ang graph."

Resulta: Data fraud; Direktang paglabag sa siyentipikong integridad, hindi maibabalik na pagkawala ng reputasyon.

Strong: "Ang ani ay hindi lubos na sumasang-ayon sa teorya. Tulungan akong suriin ang mga posibleng dahilan ng pagkakaibang ito (systematic error, statistical fluctuation, nawawalang modelo, o isang bagong epekto); imungkahi kung paano iulat ang pagkakaiba nang matapat nang hindi binabago ang data."

Resulta: Isang tapat, mausisa at tapat na diskarte sa integridad ng siyensya; Ang salungatan ay nagiging isang pagkakataon para sa pagtuklas.

Mga karaniwang pagkakamali

Nakakalito ang hallucination na may tiwala sa sarili. Dahil lamang sa kumpiyansa na nagsasalita ang AI ay hindi isang garantiya ng katumpakan; Kahit na ang pinakatumpak na pangungusap ay maaaring gawa-gawa.
Pagpasok ng kumpidensyal na data sa sasakyan nang walang pag-apruba. Kapag naibahagi na, hindi na mababawi ang data; Nawawala ang priyoridad at pagiging kumpidensyal.
Pagpapaganda ng data. Ang pagpapalit ng data sa "fit theory" ay isa sa mga pinakaseryosong siyentipikong krimen.
Itinatago ang paggamit ng AI. Ang transparency ay isang kinakailangan ng katapatan at sapilitan sa maraming institusyon.
Paglalagay ng responsibilidad sa sasakyan. "Ginawa ito ng AI" ay hindi isang pagtatanggol; Ang tunay na responsibilidad ay laging nasa tao.

Tip: Sa pagtatapos ng bawat pag-aaral na pinapagana ng AI, tanungin ang iyong sarili ng tatlong tanong: (1) Ang bawat katotohanan, numero, at attribution sa output na ito ay nakapag-iisa nang na-verify? (2) Naglalaman ba ang data na ginamit ko ng kumpidensyal/personal na impormasyon na hindi ko dapat ilagay? (3) Naidokumento ko na ba ang aking paggamit at pamamaraan ng AI nang malinaw para sa ibang tao na gayahin ito? Kung hindi ka makasagot ng malinaw na "oo" sa tatlong tanong na ito, hindi pa tapos ang pag-aaral.

Sa buod

Ang scientific integrity ay ang batayan ng pagkakaroon ng physics at mas mahalaga pa sa edad ng AI. Lumilitaw ang hallucination sa physics sa anyo ng mga maling constant, maling batas, error sa unit, maling konklusyon at maling sanggunian; bawat isa ay nakunan gamit ang sarili nitong natatanging paraan ng pag-verify. Ang kumpidensyal at personal na data ay hindi ipinasok sa mga hindi awtorisadong tool; ang data ay hindi kailanman pinaganda; Ang paggamit ng AI ay malinaw na nakadokumento; at ang tunay na responsibilidad ay laging nasa tao. Isang disiplina lang ang natutunan mo sa buong modyul na ito: Ang AI ay isang makapangyarihang accelerator, ngunit ang pagpapatunay, integridad at responsibilidad ay nakasalalay sa mga balikat ng karampatang pisiko — iyon ay, ikaw. Ang hindi na-verify na output ng AI ay hindi kailanman kapalit ng kumpirmasyon ng isang physicist.

Gawain ng aplikasyon

Pumili ng isang output ng AI (isang account, isang pagsusuri, o isang teksto) na ginawa mo sa modyul na ito. 1. screen para sa mga guni-guni na may template: mayroon bang anumang dummy constants, huwad na formula, error sa unit, o hindi na-verify na attribution? Gamit ang template 2, suriin kung ang data na iyong ginagamit ay privacy-friendly. Panghuli, bumalangkas ng maikling AI usage/transparency statement na may template 3. Isulat sa 5-6 na pangungusap: ano ang isiniwalat ng scan, anong mga hakbang sa pag-verify ang ginawa mo?

checklist

[ ] Independyente kong na-verify ang bawat constant, formula, at resulta sa output.
[ ] Na-verify ko na ang bawat pagsipi gamit ang DOI/source.
[ ] Sinuri ko na hindi ako nagpasok ng kumpidensyal/personal na data sa tool nang walang pag-apruba.
[ ] Iniulat ko ang data kung ano ito, nang walang pagpapaganda.
[ ] Naidokumento ko ang aking paggamit ng AI sa isang transparent at reproducible na paraan.
[ ] Tinanggap ko na ang sukdulang responsibilidad ay akin; Hindi ako nag-attribute ng anumang kasalanan sa sasakyan.

Pagsusulit sa Module

1. Alin sa mga sumusunod ang pinakatumpak na pagpoposisyon para sa artificial intelligence sa physics?

A) Ang artificial intelligence ay isang code, draft at katulong sa pag-edit; Ang responsibilidad para sa yunit, ranggo, pagpapatunay at etikal na mga desisyon ay nakasalalay sa tao ✔
B) Ang artificial intelligence ay isang calculator at ang mga numerical na resulta na ibinibigay nito ay palaging tumpak
C) Gumagana lamang ang artificial intelligence sa pagkalkula, wala itong kinalaman sa pagsusuri at pagtuturo ng eksperimento
D) Dahil ang artificial intelligence ay mas walang kinikilingan kaysa sa mga tao, ang mga desisyon ng yunit at resulta ay dapat na ipaubaya dito.

Paglalarawan: Artipisyal na katalinuhan; Isa itong katulong na nagsusulat ng code, gumagawa ng mga draft, gumagawa at nag-aayos ng mga derivation framework. Gayunpaman, ang sukdulang responsibilidad para sa pag-verify ng unit at order ng resulta, pagtiyak na may mga batas sa konserbasyon, pare-pareho at pagkumpirma ng sanggunian ay pagmamay-ari ng karampatang pisisista. Ang modelo ng malaking wika ay hindi isang calculator o physics engine; ay isang text generator na gumagawa ng 'susunod na pinaka-malamang na salita' at ang hindi na-verify na output nito ay maaaring humantong sa isang maling halaga, disenyo o resulta.

2. Ano ang pinakatumpak na pagtatantya para sa numerical na resulta ng isang computational code na iyong na-print sa isang malaking modelo ng wika?

A) Ang pagtitiwala sa numero ay sinasabi ng modelo na 'ibinigay iyan ng code na ito', dahil isinulat niya ang code
B) Patakbuhin ang code sa iyong sarili at tingnan ang output; ✔ hindi umaasa sa verbal numerical prediction ng modelo
C) Pagtanggap ng code bilang tama sa pamamagitan lamang ng pagtingin sa kung paano ito binabasa, nang hindi ito pinapatakbo
D) Kung ang resulta ay direktang itatanong muli sa modelo at ito ay nagsasabi ng parehong numero, ito ay itinuturing na tama.

Paliwanag: Maaaring 'kalkulahin' ng isang LLM ang output ng code na isinulat niya sa kanyang ulo at magbalik ng maling numero; samantalang kapag ang parehong code ay pinapatakbo ay nagbibigay ito ng tamang resulta. Ano ang deterministic ay ang code na pinaandar; Ito ay hindi isang pandiwang hula ng modelo. Samakatuwid, ang code ay dapat palaging tumakbo sa iyong sariling kapaligiran at ang output ay dapat makita.

3. Ano ang pinakamabisang paraan upang masubukan kung ang simulation ng isang walang friction na dynamic na sistema ay tumpak na sumasalamin sa physics?

A) Nakikita na ang tsart ay mukhang maayos at nakakumbinsi
B) Pagpapatakbo ng simulation na may isang solong hakbang lamang at pagtitiwala sa resulta
C) Pagsubaybay sa dami na kailangang pangalagaan, gaya ng kabuuang enerhiya o momentum, at pagsuri kung ito ay nananatiling pare-pareho ✔
D) Pagsusuri sa simulation sa pamamagitan ng kung gaano ito kabilis tumakbo

Paliwanag: Sa isang walang alitan na sistema, ang kabuuang enerhiya (at momentum, kung mayroon man) ay dapat pangalagaan. Ang pagsubaybay sa magnitude na ito sa buong simulation at makita kung ito ay nananatiling pare-pareho ay nagpapakita ng mga depekto sa numero (hal. ang primitive na paraan ng Euler na patuloy na nagdaragdag ng enerhiya). Kung ang enerhiya ay umaanod, ang simulation ay hindi maaasahan; Hindi ibig sabihin na ito ay gumagawa ng magandang graphic ay tama ito.

4. Alin sa mga sumusunod ang tamang diskarte kapag iniangkop ang isang modelo sa pang-eksperimentong data?

A) Pagpili ng mas mataas na degree na polynomial na pinakaangkop sa data dahil dumadaan ito sa lahat ng punto
B) Pagbibigay ng mga parameter bilang isang solong numero nang walang kalabuan
C) Pagdedeklara ng kalidad ng fit sa pamamagitan lamang ng pagtingin sa kung gaano kaganda ang hitsura ng curve.
D) Pagpili ng modelo mula sa physics, pag-uulat ng mga parameter sa kanilang mga kawalan ng katiyakan at pagsusuri ng akma sa mga nalalabi ✔

Paliwanag: Ang modelo ay dapat piliin mula sa pisikal na batas na dapat sundin ng kaganapan, hindi sa pamamagitan ng pagtingin sa data at pag-iisip 'alin ang pinakaangkop'. Sa sapat na libreng mga parameter (hal. isang mataas na antas ng polynomial) isang 'perpekto' ngunit pisikal na walang kahulugan na akma (overfit) ay maaaring gawin sa anumang data. Dapat iulat ang mga parameter na may kawalang-katiyakan, ang kalidad ng akma ay dapat na masuri nang may mga nalalabi, at dapat suriin ang pisikal na posibilidad.

5. Ang pag-uulit ng pagsukat ng maraming beses ay nakakabawas sa anong uri ng kawalan ng katiyakan?

A) Random na kawalan ng katiyakan; Ang sistematikong kawalan ng katiyakan ay hindi nababawasan sa pag-uulit, ang dahilan ay dapat mahanap at itama ✔
B) Systematic na kawalan ng katiyakan; dahil inaalis nito ang error sa recalibration
C) Ganap na inaalis ang parehong ambiguities
D) Hindi binabawasan ang alinman sa mga ito; ang kawalan ng katiyakan ay hindi nakasalalay sa bilang ng mga sukat

Paliwanag: Binabawasan ng paulit-ulit na pagsukat ang random na kawalan ng katiyakan (na may karaniwang error ng mean std/√N) na nagreresulta mula sa random na pamamahagi ng mga resulta. Ang sistematikong kawalan ng katiyakan, sa kabilang banda, ay isang error na palaging lumilihis sa parehong direksyon (halimbawa, isang hindi wastong pagkakalibrate na balanse) at hindi bumababa sa pag-uulit; Gayunpaman, ang dahilan ay matatagpuan at naitama. Ang pag-uulat ng 'napakaliit' na kawalan ng katiyakan na may maraming sukat ay maaaring magtago ng pinagbabatayan na sistematikong error.

6. Ano ang pinaka-maaasahang independiyenteng paraan upang i-verify ang isang formula ng pagpapalaganap ng error na hinango ng AI?

A) Umaasa sa pormula upang lumitaw na tuluy-tuloy at kapani-paniwala
B) Cross-checking gamit ang kalkulasyon ng Monte Carlo na random na nagsa-sample ng mga input na may kawalan ng katiyakan ✔
C) Pagtatanong muli ng parehong formula sa artificial intelligence at umaasa na magbibigay ito ng parehong resulta
D) Direktang pagkolekta ng mga kawalan ng katiyakan at paghahambing ng mga ito sa resulta

Paliwanag: Madalas na pinaghahalo ng AI ang mga partial derivative coefficient at square root structure sa mga formula ng pagpapalaganap ng error. Ang isang mabisang paraan upang makamit ito nang nakapag-iisa ay ang Monte Carlo cross-checking: random na pag-sample ng bawat input na may kawalang-katiyakan nito, pagkalkula ng function ng libu-libong beses, at paghahambing ng standard deviation ng output sa kawalan ng katiyakan na ibinigay ng formula. Ang pagpupulong ng dalawang independiyenteng pamamaraan ay nagpapataas ng kumpiyansa.

7. Ano ang tamang dibisyon ng paggawa sa pagitan ng AI at SymPy sa isang mahabang derivation ng symbolic physics?

A) Binubuo ng SymPy ang ideya ng derivation, tiyak na bini-verify ng AI ang bawat hakbang
B) Parehong hindi kailangan; ang mga mahabang derivasyon ay dapat gawin nang manu-mano lamang
C) Binubuo ng AI ang framework ng derivation, tiyak na bini-verify ng SymPy ang bawat algebraic na hakbang ✔
D) Ang artificial intelligence ay gumagawa ng derivation sa sarili nitong, hindi na kailangan ng verification dahil ito ay mukhang matatas

Paliwanag: Inestratehiya ng AI ang derivation at ipinapaliwanag ang path, ngunit sa mahabang algebra ay gumagawa ito ng mga sign error, escaped terms, at maling pagpapasimple. Ang SymPy, sa kabilang banda, ay gumagana ayon sa mga panuntunan at tiyak na bini-verify ang bawat algebraic na hakbang. Pinagsasama ng pinakamalakas na daloy ng trabaho ang dalawa: kunin ang skeleton mula sa AI, pagmulan ang bawat hakbang gamit ang SymPy, subukan ang resulta gamit ang derivative-integral inverse at ang boundary case.

8. Ano ang sinasabi ng dimensional analysis tungkol sa katumpakan ng isang pisikal na formula?

A) Ang pagsusuri ng dimensyon ay palaging nagpapatunay na ang isang formula ay tama
B) Ang pagsusuri sa dimensyon ay walang praktikal na halaga sa pisika
C) Ang pagsusuri ng dimensional ay nagbibigay lamang ng pare-parehong kadahilanan ng formula, hindi ang pagkakapare-pareho nito
D) Ang isang formula na walang sukat ay ganap na mali; nahuhuli ng dimensional analysis ang error nang hindi nagbibilang ng mga numero ✔

Paliwanag: Ang dalawang panig ng isang pisikal na equation ay dapat na dimensionally equal bago sila maging numerical equal. Ang isang formula na hindi humahawak sa sukat ay mali lang; ito ay nakuha mula sa pagkalkula ng bilang. Ang pagsusuri sa dimensyon ay hindi tiyak na nagpapatunay na ang isang formula ay tama (maaaring makaligtaan ang isang walang sukat na pare-parehong kadahilanan o anggulo), ngunit ito ay tiyak na nagpapatunay na ito ay hindi tama; kaya ito ang una at pinakamurang pag-audit ng bawat account.

9. Ano ang pinaka kritikal na unang hakbang kapag kinakalkula ang kinetic energy ng isang bagay na naglalakbay sa 36 km/h?

A) Pag-convert ng lahat ng mga input sa isang solong sistema ng mga yunit (SI); Kino-convert ang 36 km/h sa 10 m/s ✔
B) Ang paglalagay ng bilis sa km/h nang direkta sa formula nang hindi kino-convert ito sa m/s
C) Pagpaparami lamang ng mga numero nang hindi isinasaalang-alang ang mga yunit
D) Ipagpalagay na hindi na kailangang suriin ang order pagkatapos kalkulahin ang resulta

Paliwanag: Ang mga formula na batay sa SI (E = ½mv²) ay inaasahan ang bilis sa m/s. Ang nakakalito na km/h na may m o oras na may mga segundo sa isang pagkalkula ay isa sa mga pinakakaraniwang pagkakamali sa pisika. Una ang lahat ng mga input ay dapat ma-convert sa isang solong sistema ng mga yunit (SI): 36 km/h = 10 m/s. Dahil ang AI ay maaaring gumawa ng mga tahimik na error sa compound unit conversion, ang conversion na ito ay dapat na i-verify nang manu-mano o gamit ang isang unit-aware na tool.

10. Aling kasanayan ang tama sa mga tuntunin ng 'katapatan' sa isang siyentipikong graph?

A) Pagtatago ng kawalan ng katiyakan dahil ang mga error bar ay nakakalat sa chart
B) Lagyan ng mga yunit ang mga palakol, piliin ang sukat nang walang pagbaluktot, at ipakita ang kawalan ng katiyakan gamit ang mga error bar ✔
C) Palaging simulan ang y-axis sa hanay na magpapakita ng pinakamaraming pagkakaiba
D) Ang pag-iwan sa mga palakol na walang mga yunit dahil ang mambabasa ay maaaring hulaan ang yunit

Paglalarawan: Isang matapat na siyentipikong tsart; nilagyan nito ng label ang mga axes na may magnitude at unit, pinipili ang sukat nang sinasadya at walang pagbaluktot (pagsisimula sa y-axis palayo sa zero para sa pagmamalabis ay nakaliligaw), at ginagawang nakikita ang kawalan ng katiyakan sa pagsukat gamit ang mga error bar. Ang pagtatago ng kawalan ng katiyakan ay ginagawang tila tiyak ang data at lumilikha ng maling impresyon ng bias o kasunduan. Kung mas nakakumbinsi ang isang graphic, mas mahalaga ang pagsusuri sa integridad.

11. Ano ang pinakamalaking panganib at tamang disiplina kapag kumukuha ng suporta sa literatura at pagsipi mula sa artificial intelligence?

A) Ang artificial intelligence ay nag-aaksaya ng oras dahil ito ay gumagawa ng mga pagsipi nang napakabagal
B) Ang mga mapagkukunang iminungkahi ng artificial intelligence ay palaging totoo, hindi na kailangan ng pag-verify
C) Ang artificial intelligence ay maaaring makabuo ng mga attribution na mukhang totoo ngunit hindi umiiral; Ang bawat pagsipi ay dapat ma-verify sa DOI/pinagmulan at ang literatura ay dapat matagpuan mula sa aktwal na database ✔
D) Madaling makilala ang mga gawa-gawang pagsipi dahil palagi silang gumagamit ng hindi totoong mga pangalan sa journal

Paliwanag: Ang isang malaking modelo ng wika ay hindi konektado sa isang aktwal na database; Sa pamamagitan ng paggaya sa mga pattern ng pagsipi, makakagawa ito ng mga artikulo na nagtataglay ng tunay na pangalan ng journal, mga kapani-paniwalang may-akda, at isang makatwirang taon ngunit ganap na wala. Samakatuwid, ang literatura ay dapat matagpuan mula sa mga tunay na database, ang AI ay dapat gamitin lamang upang ibuod/isalin ang aktwal na tekstong nasa kamay, at ang bawat pagsipi ay dapat na independiyenteng ma-verify ng DOI o pamagat. Ang hindi na-verify na pagsipi ay isang paglabag sa akademikong integridad.

12. Ano ang kinakailangan upang makakuha ng maaasahang mga resulta kapag may AI na nagbubuod ng isang artikulo?

A) Ang pagbibigay lamang ng pamagat ng artikulo ay sapat na, alam ng modelo ang nilalaman
B) Direktang paggamit ng buod nang hindi ito sinusuri, dahil mukhang tuluy-tuloy ito
C) Pagtatanong sa modelo ng parehong buod nang dalawang beses at tinatanggap ito bilang tama kung ito ay katulad.
D) Pagbibigay ng orihinal na teksto sa modelo at paghahambing ng ginawang buod sa orihinal na teksto upang matiyak na walang naidagdag/na-distort ✔

Paliwanag: Ang pagbibigay lamang sa AI ng pamagat ng isang artikulo at paghingi ng buod ay magiging sanhi ng modelo na makabuo ng isang 'maaaring buod' nang hindi nakikita ang artikulo; Ang buod na ito ay maaaring kabaligtaran ng katotohanan. Ang isang mapagkakatiwalaang buod ay makukuha lamang kapag ang orihinal na teksto ay ipinakain sa modelo at ang nabuong buod ay inihambing sa orihinal na teksto. Bilang karagdagan, dapat itong suriin na ang buod ay hindi nagdaragdag ng mga resulta o mga numero na wala sa teksto.

13. Alin ang totoo para sa output ng artificial intelligence sa produksyon ng materyal na kurso sa pisika?

A) Ang bawat solusyon ay dapat na independiyenteng ma-verify, ang mga limitasyon ng pagkakatulad ay dapat na tukuyin, at ang mga distractor ay dapat mag-target ng mga tunay na maling kuru-kuro ✔
B) Ang susi ng sagot na ginawa ng artificial intelligence ay palaging tama, hindi na kailangan ng pag-audit
C) Ang mga pagkakatulad ay perpekto sa lahat ng kaso, hindi na kailangang tukuyin ang kanilang mga limitasyon.
D) Ang mga distractor ay dapat piliin nang random, dahil ang likas na katangian ng maling pagpili ay hindi mahalaga.

Paglalarawan: Ang AI ay mabilis sa pagbuo ng mga tanong, halimbawa, at pagkakatulad, ngunit ang pagsusuri ay mahalaga sa tatlong punto: ang solusyon sa bawat problema ay dapat na ma-verify nang nakapag-iisa (sa pamamagitan ng kamay o gamit ang code), dahil ang modelo ay maaaring gumawa ng mga sign/unit error sa solusyon; Ang bawat pagkakatulad ay dapat na nakasaad kung saan ito nasira, kung hindi, ito ay magbubunga ng isang bagong pagkakamali; Dapat i-target ng mga distractor ang totoong maling akala. Ang responsibilidad ay nasa guro; Ang isang maling susi ng sagot ay nag-iiwan sa mga mag-aaral ng mga hindi pagkakaunawaan na mahirap itama.

14. Ano ang pag-uugali na naaayon sa integridad ng siyensya kapag ang pang-eksperimentong data ay hindi lubos na sumasang-ayon sa teorya?

A) Ang pagkakaroon ng artificial intelligence ay ayusin ang data upang umangkop sa teorya at ipakita ang graph nang nakakumbinsi
B) Sinisiyasat ang mga dahilan ng pagkakaiba (systematic error, kakulangan ng modelo, bagong epekto) at tapat na pag-uulat nang hindi binabago ang data ✔
C) Pagbabalewala sa hindi pagkakasundo at pag-uulat lamang ng mga puntong akma
D) Pagtanggal ng data at paglalagay ng bagong resulta ng eksperimento

Paliwanag: Ang paghiling sa AI na 'ayusin ang data upang mas angkop sa teorya' ay pandaraya sa data at isang matinding paglabag sa integridad ng siyensya. Ang hindi pagkakasundo ay isang bagay na dapat imbestigahan, hindi itinatago: maaari itong magpahiwatig ng isang sistematikong error, isang pagbabago sa istatistika, isang kakulangan ng pattern, o isang kawili-wiling bagong epekto. Ang data ay iniulat kung ano ay, na may kawalang-katiyakan; Ang tunay na pananagutan ay nasa tao at 'ang kasangkapan ang gumawa nito' ay hindi isang pagtatanggol.