Halusinasi, Etika, Kerahsiaan dan Integriti Saintifik — Kecerdasan Buatan dalam Fizik

Keuntungan:

Keupayaan untuk mengenali bentuk halusinasi dalam fizik (pemalar palsu, undang-undang palsu, ralat unit, hasil salah, atribusi palsu) dan menangkapnya dengan kaedah yang sesuai.
Keupayaan untuk melindungi data yang tidak diterbitkan, sulit dan peribadi dengan tidak dikenali dan diminimumkan dengan tidak memasukkannya ke dalam alat yang tidak dibenarkan
Mampu memahami bahawa tanggungjawab muktamad terletak pada manusia dengan melaporkan data secara jujur, tanpa menghiasinya, dan mendokumentasikan penggunaan kecerdasan buatan secara telus.

Sepanjang modul ini, kami merangkumi disiplin yang sama dalam setiap unit: kecerdasan buatan (AI) mempercepatkan, manusia mengesahkan. Dalam unit akhir ini, kami mengumpulkan keseluruhan amalan pengesahan ini di bawah payung integriti saintifik, nilai sains fizikal yang paling asas. Fizik ialah usaha untuk menghasilkan pengetahuan yang boleh disahkan tentang alam semula jadi; Di tengah-tengah usaha ini adalah integriti, kebolehulangan dan tanggungjawab. AI boleh digunakan untuk mengukuhkan nilai ini — tetapi apabila digunakan secara salah, ia mengancam kesemuanya. Dalam unit ini, kita akan membincangkan bentuk fizikal halusinasi, data dan tanggungjawab privasi, sempadan etika, dan sebab tanggungjawab muktamad sentiasa kekal dengan manusia.

Bentuk halusinasi dalam fizik

Halusinasi—penghasilan maklumat palsu AI yang yakin—mengambil bentuk unik dan berbahaya dalam fizik. Menyedari ini adalah langkah pertama untuk menangkap:

jenis halusinasi

contoh

Kaedah tangkapan

Memasang tetap/data

Ketumpatan bahan yang salah

Pengesahan dengan rujukan yang boleh dipercayai

Formula/undang-undang palsu

Nama "prinsip" yang tidak wujud

Buku teks / terbitan SymPy

Ralat unit/pesanan

tersilap eV untuk J

Analisis dimensi, kawalan unit

Keputusan berangka yang salah

Output kod yang tidak betul

Jalankan kod

atribusi apokrif

artikel tidak wujud

Pengesahan dengan DOI

Hasil yang salah dilaporkan

Penyelewengan artikel sebenar

Baca sumber asal

Perkara biasa ialah ini: model bahasa yang besar direka bukan untuk memberitahu kebenaran, tetapi untuk menghasilkan "teks yang kelihatan mungkin". Dalam fizik, perbezaan antara "seolah-olah mungkin" dan "benar" adalah tepat sebab kewujudan sains.

Data, privasi dan liabiliti harta intelek

Ahli fizik sering bekerja dengan data sensitif: data percubaan yang tidak diterbitkan, reka bentuk pra-paten, pengukuran sulit daripada kerjasama industri, penyelidikan yang melibatkan data kesihatan atau keselamatan peribadi. Memasukkan data sedemikian ke dalam alat AI umum boleh menjadikannya boleh diakses oleh pihak ketiga dan mungkin data latihan model—yang bermakna pelanggaran kerahsiaan dan kehilangan keutamaan saintifik (hak untuk menjadi yang pertama membuat penemuan). Peraturannya jelas: jangan masukkan data yang tidak diterbitkan, sulit atau peribadi ke dalam alat AI yang tidak diluluskan oleh organisasi anda. Jika anda akan masuk, anonimkan, kurangkan (berikan apa yang perlu sahaja) dan baca syarat data alat.

Awas: Memasukkan ukuran makmal yang tidak diterbitkan atau parameter reka bentuk sulit syarikat ke dalam alat AI "untuk analisis pantas" boleh menjadi kesilapan yang tidak dapat dipulihkan. Setelah data dikongsi, ia tidak boleh ditarik balik. Jika ragu-ragu, jangan masukkan data; Jelaskan dasar institusi anda dan syarat privasi alat tersebut terlebih dahulu.

Sempadan etika dan integriti saintifik

Penggunaan mungkin secara teknikal dan juga sah, tetapi masih tidak beretika. Terdapat beberapa garis merah dalam fizik yang melibatkan integriti saintifik:

Pembuatan atau perhiasan data. Meminta AI untuk "menjana mata yang lebih sesuai dengan hasil" atau "menjadikan graf kelihatan lebih meyakinkan" adalah penipuan data. Data dilaporkan sebagaimana adanya; Outlier dihapuskan hanya dengan alasan yang didokumenkan dan sah.

Ketelusan sumbangan. Jika anda telah menggunakan AI dalam kajian — penulisan kod, pembetulan bahasa, analisis — adalah adil untuk menjelaskannya di tempat yang sesuai. Banyak jurnal dan institusi memerlukan ini.

Pengarang dan tanggungjawab. AI bukan seorang penulis; tidak boleh bertanggungjawab terhadap kandungan sesebuah karya. Tanggungjawab sentiasa terletak pada penulis manusia. Ralat yang dihasilkan oleh AI tidak boleh dipertahankan dengan mengatakan "kenderaan berjaya".

Kebolehulangan. Hasil saintifik memerlukan kaedah (termasuk kod yang digunakan, parameter, gesaan AI) didokumentasikan dengan jelas supaya orang lain boleh menirunya.

tiga kes mini

Kes 1 — Kebocoran data sulit. Seorang penyelidik menampal data ukuran daripada perjanjian bukan pendedahan dengan syarikat ke dalam alat AI generik "untuk graf pantas." Dia kemudiannya menyedari bahawa alat ini boleh menyimpan input. Pelanggaran kontrak dan kemungkinan kehilangan keutamaan telah berlaku. Pengajaran: data sulit tidak sekali-kali dimasukkan ke dalam alat yang tidak diluluskan.

Kes 2 — Cetakan kecantikan. Seorang pelajar meminta AI untuk suntingan yang akan "menjadikan data kelihatan lebih dekat dengan teori" kerana data eksperimen tidak sepadan sepenuhnya dengan teori. Penasihatnya menyedari perkara ini dan menghentikannya: percanggahan bermakna sama ada ralat sistematik dalam eksperimen atau fizik baharu yang menarik—sesuatu yang perlu disiasat, bukan disembunyikan. Data dilaporkan secara jujur dan ralat sistematik ditemui.

Kes 3 — Mendapat ketelusan. Satu pasukan menulis kod analisis data untuk kertas dengan bantuan AI dan menyatakan ini dengan jelas dalam bahagian kaedah; berkongsi kod dan gesaan sebagai fail tambahan. Pengadil menyemak kod dan mencadangkan pembetulan kecil. Ketelusan menangkap kesilapan sebelum penerbitan dan meningkatkan kredibiliti kajian.

Empat templat yang boleh disalin

1) Pemeriksaan halusinasi:

Imbas output fizik berikut untuk halusinasi: adakah terdapat sebarang pemalar palsu, formula/nama undang-undang palsu, ralat unit/tertib, keputusan angka yang tidak disahkan dan atribusi yang tidak disahkan? Benderakan setiap item yang mencurigakan dan nyatakan cara mengesahkannya (rujukan, kod, DOI). Output: [di sini]

2) Pra-semak privasi data:

Nilaikan data/teks berikut sebelum memasukkannya ke dalam alat AI: adakah ia mengandungi maklumat yang tidak diterbitkan, sulit, peribadi atau dilindungi secara kontrak? Jika ya, cadangkan cara saya boleh menamakan atau meminimumkannya. Jika tidak pasti, sebut "semak dasar korporat". Kandungan: [di sini]

3) Draf ketelusan/penyata sumbangan:

Dalam satu kajian, saya menggunakan AI untuk: [pengekodan / pembetulan bahasa / analisis, dll.]. Tulis draf pendek "kenyataan penggunaan AI" yang mendokumenkan perkara ini dengan jujur. Ia juga harus menunjukkan bahagian mana yang telah disahkan oleh manusia.

4) Memastikan integriti saintifik:

Lakukan semakan integriti untuk analisis/hasil berikut: data dilaporkan seperti sedia ada (tiada hiasan), adakah ketidakpastian dilaporkan, adakah kaedah didokumenkan dalam cara yang boleh dihasilkan semula, adakah penggunaan AI telus? Senaraikan sebarang kekurangan. Kandungan: [di sini]

Gesaan lemah / Gesaan kuat

Lemah: "Edit hasil agar lebih sesuai dengan teori dan jadikan graf meyakinkan."

Keputusan: Penipuan data; Pelanggaran langsung ke atas integriti saintifik, kehilangan reputasi yang tidak dapat dipulihkan.

Kuat: "Hasil tidak bersetuju sepenuhnya dengan teori. Bantu saya menganalisis kemungkinan punca percanggahan ini (ralat sistematik, turun naik statistik, model hilang atau kesan baharu); cadangkan cara melaporkan percanggahan secara jujur tanpa mengubah data."

Keputusan: Pendekatan yang jujur, menyiasat dan setia terhadap integriti saintifik; Konflik menjadi peluang untuk penemuan.

Kesilapan biasa

Halusinasi yang mengelirukan dengan keyakinan diri. Hanya kerana AI bercakap dengan yakin bukanlah jaminan ketepatan; Malah ayat yang paling tepat boleh dibuat-buat.
Memasukkan data sulit ke dalam kenderaan tanpa kelulusan. Setelah dikongsi, data tidak boleh diambil semula; Keutamaan dan kerahsiaan hilang.
Mencantikkan data. Menukar data kepada "teori yang sesuai" adalah salah satu jenayah saintifik yang paling serius.
Menyembunyikan penggunaan AI. Ketelusan adalah keperluan kejujuran dan wajib di kebanyakan institusi.
Meletakkan tanggungjawab pada kenderaan. "AI yang melakukannya" bukan pertahanan; Tanggungjawab utama sentiasa terletak pada manusia.

Petua: Pada akhir setiap kajian yang dikuasakan AI, tanya diri anda tiga soalan: (1) Adakah setiap fakta, nombor dan atribusi dalam output ini telah disahkan secara bebas? (2) Adakah data yang saya gunakan mengandungi maklumat sulit/peribadi yang tidak sepatutnya saya masukkan? (3) Adakah saya telah mendokumentasikan penggunaan AI dan metodologi saya dengan cukup telus untuk orang lain menirunya? Sekiranya anda tidak dapat menjawab "ya" yang jelas kepada ketiga-tiga soalan ini, kajian ini belum selesai.

Secara ringkasnya

Integriti saintifik adalah asas kewujudan fizik dan lebih penting lagi pada zaman AI. Halusinasi muncul dalam fizik dalam bentuk pemalar palsu, undang-undang palsu, ralat unit, kesimpulan palsu dan rujukan palsu; setiap satu ditangkap dengan kaedah pengesahan uniknya sendiri. Data sulit dan peribadi tidak dimasukkan ke dalam alat yang tidak dibenarkan; data tidak pernah dicantikkan; Penggunaan AI didokumenkan secara telus; dan tanggungjawab muktamad sentiasa terletak pada manusia. Hanya ada satu disiplin yang anda pelajari sepanjang modul ini: AI ialah pemecut yang berkuasa, tetapi pengesahan, integriti dan tanggungjawab terletak di bahu ahli fizik yang cekap — iaitu anda. Output AI yang tidak disahkan tidak sekali-kali boleh menggantikan pengesahan ahli fizik.

Tugasan permohonan

Pilih output AI (akaun, analisis atau teks) yang anda hasilkan dalam modul ini. 1. skrin untuk halusinasi dengan templat: adakah terdapat sebarang pemalar tiruan, formula palsu, ralat unit atau atribusi yang tidak disahkan? Dengan templat 2, nilai sama ada data yang anda gunakan adalah mesra privasi. Akhir sekali, draf pernyataan singkat penggunaan/ketelusan AI dengan templat 3. Tulis dalam 5-6 ayat: apakah yang didedahkan oleh imbasan, apakah langkah pengesahan yang anda ambil?

senarai semak

[ ] Saya secara bebas mengesahkan setiap pemalar, formula dan hasil dalam output.
[ ] Saya telah mengesahkan setiap petikan dengan DOI/sumber.
[ ] Saya telah menyemak bahawa saya tidak memasukkan data sulit/peribadi ke dalam alat tanpa kelulusan.
[ ] Saya melaporkan data sebagaimana adanya, tanpa hiasan.
[ ] Saya telah mendokumenkan penggunaan AI saya dengan cara yang telus dan boleh dihasilkan semula.
[ ] Saya menerima bahawa tanggungjawab utama adalah saya; Saya tidak mengaitkan sebarang kesalahan pada kenderaan itu.

Peperiksaan Modul

1. Antara berikut, yang manakah kedudukan paling tepat untuk kecerdasan buatan dalam fizik?

A) Kepintaran buatan ialah pembantu kod, draf dan penyuntingan; Tanggungjawab untuk unit, pangkat, pengesahan dan keputusan beretika terletak pada manusia ✔
B) Kepintaran buatan ialah kalkulator dan keputusan berangka yang diberikannya sentiasa tepat
C) Kecerdasan buatan hanya berfungsi dalam pengiraan, ia tidak ada kena mengena dengan analisis eksperimen dan pengajaran
D) Memandangkan kecerdasan buatan lebih tidak berat sebelah daripada manusia, keputusan unit dan keputusan harus diserahkan kepadanya.

Penerangan: Kepintaran buatan; Ia ialah pembantu yang menulis kod, menghasilkan draf, mencipta dan menyusun rangka kerja terbitan. Walau bagaimanapun, tanggungjawab muktamad untuk pengesahan unit dan pesanan keputusan, memastikannya dengan undang-undang pemuliharaan, pengesahan tetap dan rujukan adalah milik ahli fizik yang kompeten. Model bahasa besar bukanlah kalkulator atau enjin fizik; ialah penjana teks yang menghasilkan 'perkataan kemungkinan besar seterusnya' dan outputnya yang tidak disahkan boleh membawa kepada nilai, reka bentuk atau hasil yang salah.

2. Apakah anggaran yang paling tepat untuk hasil berangka kod pengiraan yang anda cetak ke dalam model bahasa yang besar?

A) Mempercayai nombor model mengatakan 'kod ini memberikan itu', kerana dia menulis kod itu
B) Jalankan kod sendiri dan lihat output; ✔ tidak bergantung pada ramalan berangka lisan model
C) Menerima kod sebagai betul hanya dengan melihat cara ia dibaca, tanpa menjalankannya sama sekali
D) Jika keputusan ditanya terus kepada model sekali lagi dan ia memberitahu nombor yang sama, ia dianggap betul.

Penjelasan: LLM mungkin 'mengira' output kod yang dia tulis di kepalanya dan mengembalikan nombor yang salah; sedangkan apabila kod yang sama dijalankan ia memberikan hasil yang betul. Apa yang bersifat deterministik ialah kod yang dilaksanakan; Ia bukan ramalan lisan model. Oleh itu, kod harus sentiasa dijalankan dalam persekitaran anda sendiri dan output harus dilihat.

3. Apakah cara yang paling berkuasa untuk menguji sama ada simulasi sistem dinamik tanpa geseran mencerminkan fizik dengan tepat?

A) Melihat bahawa carta kelihatan kemas dan meyakinkan
B) Menjalankan simulasi dengan hanya satu langkah masa dan mempercayai hasilnya
C) Memantau kuantiti yang perlu dipelihara, seperti jumlah tenaga atau momentum, dan menyemak sama ada ia kekal malar ✔
D) Menilai simulasi mengikut kelajuan ia berjalan

Penjelasan: Dalam sistem tanpa geseran, jumlah tenaga (dan momentum, jika ada) mesti dikekalkan. Memantau magnitud ini sepanjang simulasi dan melihat sama ada ia kekal malar mendedahkan kelemahan berangka (mis. kaedah Euler primitif yang sentiasa meningkatkan tenaga). Jika tenaga hanyut, simulasi tidak boleh dipercayai; Hanya kerana ia menghasilkan grafik yang bagus tidak bermakna ia betul.

4. Antara berikut, yang manakah pendekatan yang betul semasa memasang model kepada data eksperimen?

A) Memilih polinomial darjah lebih tinggi yang paling sesuai dengan data kerana ia melalui semua titik
B) Memberi parameter sebagai nombor tunggal tanpa kesamaran
C) Mengisytiharkan kualiti kesesuaian hanya dengan melihat betapa cantiknya rupa lengkung.
D) Memilih model daripada fizik, melaporkan parameter dengan ketidakpastiannya dan menilai kesesuaian dengan sisa ✔

Penjelasan: Model harus dipilih daripada undang-undang fizikal yang mesti dipatuhi oleh peristiwa itu, bukan dengan melihat data dan tertanya-tanya 'mana yang paling sesuai'. Dengan parameter bebas yang mencukupi (cth. polinomial darjah tinggi) kesesuaian 'sempurna' tetapi tidak bermakna secara fizikal (overfit) boleh dibuat pada mana-mana data. Parameter harus dilaporkan dengan ketidakpastiannya, kualiti kesesuaian harus dinilai dengan sisa, dan kebolehpercayaan fizikal harus diperiksa.

5. Mengulang ukuran berkali-kali mengurangkan jenis ketidakpastian yang manakah?

A) Ketidakpastian rawak; ketidakpastian sistematik tidak berkurangan dengan pengulangan, punca mesti dicari dan diperbetulkan ✔
B) Ketidakpastian sistematik; kerana ia menghapuskan ralat penentukuran semula
C) Menghapuskan sepenuhnya kedua-dua kekaburan
D) Tidak mengurangkan mana-mana daripada mereka; ketidakpastian adalah bebas daripada bilangan ukuran

Penjelasan: Pengukuran berulang mengurangkan ketidakpastian rawak (dengan ralat piawai bagi min std/√N) yang terhasil daripada taburan keputusan secara rawak. Ketidakpastian sistematik, sebaliknya, adalah ralat yang sentiasa menyimpang ke arah yang sama (contohnya, baki yang tidak ditentukur dengan betul) dan tidak berkurangan dengan pengulangan; Walau bagaimanapun, puncanya boleh dicari dan diperbetulkan. Melaporkan ketidakpastian 'sangat kecil' dengan pelbagai ukuran mungkin menyembunyikan ralat sistematik yang mendasari.

6. Apakah cara bebas yang paling boleh dipercayai untuk mengesahkan formula penyebaran ralat yang diperolehi oleh AI?

A) Bergantung pada formula untuk kelihatan cair dan meyakinkan
B) Semak silang dengan pengiraan Monte Carlo yang membuat sampel secara rawak input dengan ketidakpastiannya ✔
C) Meminta formula yang sama kepada kecerdasan buatan sekali lagi dan mengharapkan ia memberikan hasil yang sama
D) Mengumpul ketidakpastian secara langsung dan membandingkannya dengan hasilnya

Penjelasan: AI sering mencampurkan pekali terbitan separa dan struktur punca kuasa dua dalam formula perambatan ralat. Cara yang berkesan untuk mencapai ini secara bebas ialah semakan silang Monte Carlo: persampelan secara rawak setiap input dengan ketidakpastiannya, mengira fungsi beribu-ribu kali, dan membandingkan sisihan piawai output kepada ketidakpastian yang diberikan oleh formula. Pertemuan dua kaedah bebas meningkatkan keyakinan.

7. Apakah pembahagian kerja yang betul antara AI dan SymPy dalam terbitan panjang fizik simbolik?

A) SymPy menjana idea terbitan, AI mengesahkan setiap langkah dengan tepat
B) Kedua-duanya tidak perlu; terbitan panjang mesti dilakukan secara manual sahaja
C) AI membina rangka kerja terbitan, SymPy mengesahkan setiap langkah algebra dengan tepat ✔
D) Kepintaran buatan melakukan derivasi sendiri, tidak perlu pengesahan kerana ia kelihatan lancar

Penjelasan: AI menyusun strategi terbitan dan menerangkan laluan, tetapi dalam algebra panjang ia membuat ralat tanda, istilah yang terlepas dan penyederhanaan yang salah. SymPy, sebaliknya, berfungsi mengikut peraturan dan mengesahkan setiap langkah algebra dengan tepat. Aliran kerja yang paling berkuasa menggabungkan kedua-duanya: dapatkan rangka daripada AI, sumber setiap langkah dengan SymPy, uji hasilnya dengan songsang derivatif-integral dan kes sempadan.

8. Apakah yang diceritakan oleh analisis dimensi tentang ketepatan formula fizik?

A) Analisis dimensi sentiasa membuktikan secara muktamad bahawa formula adalah betul
B) Analisis dimensi tidak mempunyai nilai praktikal dalam fizik
C) Analisis dimensi hanya memberikan faktor tetap formula, bukan ketekalannya
D) Formula yang tidak berdimensi adalah salah sama sekali; analisis dimensi menangkap ralat tanpa mengira nombor ✔

Penjelasan: Kedua-dua belah persamaan fizik mestilah sama dari segi dimensi sebelum ia boleh sama secara berangka. Formula yang tidak berdimensi adalah salah; ini ditangkap daripada pengiraan kiraan. Analisis dimensi tidak secara konklusif membuktikan bahawa formula adalah betul (ia mungkin terlepas faktor pemalar tanpa dimensi atau sudut), tetapi ia secara konklusif membuktikan bahawa ia tidak betul; jadi ia adalah audit pertama dan paling murah bagi setiap akaun.

9. Apakah langkah pertama yang paling kritikal apabila mengira tenaga kinetik objek yang bergerak pada 36 km/j?

A) Menukar semua input kepada satu sistem unit (SI); Menukar 36 km/j kepada 10 m/s ✔
B) Meletakkan kelajuan dalam km/j terus ke dalam formula tanpa menukarkannya kepada m/s
C) Mendarab nombor sahaja tanpa mengambil kira unit
D) Dengan mengandaikan bahawa tidak perlu menyemak pesanan selepas mengira keputusan

Penjelasan: Formula berasaskan SI (E = ½mv²) jangkakan kelajuan dalam m/s. Mengelirukan km/j dengan m atau jam dengan saat dalam pengiraan adalah salah satu kesilapan yang paling biasa dalam fizik. Mula-mula semua input mesti ditukar kepada satu sistem unit (SI): 36 km/j = 10 m/s. Memandangkan AI boleh membuat ralat senyap dalam penukaran unit kompaun, penukaran ini mesti disahkan secara manual atau dengan alat kesedaran unit.

10. Amalan manakah yang betul dari segi 'kejujuran' dalam graf saintifik?

A) Menyembunyikan ketidakpastian kerana bar ralat mengacaukan carta
B) Labelkan paksi dengan unit, pilih skala tanpa herotan, dan tunjukkan ketidakpastian dengan bar ralat ✔
C) Sentiasa mulakan paksi-y dalam julat yang akan menunjukkan perbezaan yang paling dramatik
D) Membiarkan paksi tanpa unit kerana pembaca boleh meneka unit

Penerangan: Carta saintifik yang jujur; ia melabelkan paksi dengan magnitud dan unit, memilih skala secara sedar dan tanpa herotan (memulakan paksi-y dari sifar untuk keterlaluan adalah mengelirukan), dan menjadikan ketidakpastian pengukuran kelihatan dengan bar ralat. Menyembunyikan ketidakpastian menjadikan data kelihatan pasti dan mewujudkan tanggapan palsu tentang berat sebelah atau persetujuan. Semakin meyakinkan sesuatu grafik, semakin penting pemeriksaan integriti.

11. Apakah risiko terbesar dan disiplin yang betul apabila mendapat sokongan literatur dan petikan daripada kecerdasan buatan?

A) Kepintaran buatan membuang masa kerana ia menghasilkan petikan dengan sangat perlahan
B) Sumber yang dicadangkan oleh kecerdasan buatan sentiasa nyata, tidak perlu pengesahan
C) Kepintaran buatan boleh menghasilkan atribusi yang kelihatan nyata tetapi tidak wujud; Setiap petikan mesti disahkan dengan DOI/sumber dan literatur mesti ditemui daripada pangkalan data sebenar ✔
D) Petikan rekaan mudah dikenali kerana selalu menggunakan nama jurnal yang tidak sebenar

Penjelasan: Model bahasa yang besar tidak disambungkan ke pangkalan data sebenar; Dengan meniru corak petikan, ia boleh menghasilkan artikel yang mengandungi nama jurnal sebenar, pengarang yang boleh dipercayai dan tahun yang munasabah tetapi tidak wujud sepenuhnya. Oleh itu, kesusasteraan harus ditemui daripada pangkalan data sebenar, AI harus digunakan hanya untuk meringkaskan/menerjemahkan teks sebenar di tangan, dan setiap petikan harus disahkan secara bebas oleh DOI atau tajuk. Petikan yang tidak disahkan adalah melanggar integriti akademik.

12. Apakah yang diperlukan untuk mendapatkan hasil yang boleh dipercayai apabila AI meringkaskan artikel?

A) Cukup sekadar memberi tajuk artikel, model sudah tahu isi kandungannya
B) Menggunakan ringkasan secara langsung tanpa menyemaknya sama sekali, kerana ia kelihatan cair
C) Meminta model untuk ringkasan yang sama dua kali dan menerimanya sebagai betul jika ia serupa.
D) Memberi teks asal kepada model dan membandingkan ringkasan yang dihasilkan dengan teks asal untuk memastikan tiada apa yang telah ditambah/diputarbelitkan ✔

Penjelasan: Sekadar memberi AI tajuk artikel dan meminta ringkasan akan menyebabkan model itu menghasilkan 'ringkasan yang munasabah' tanpa melihat artikel itu; Ringkasan ini mungkin bertentangan dengan kebenaran. Ringkasan yang boleh dipercayai hanya boleh diperolehi apabila teks asal diberikan kepada model dan ringkasan yang dijana dibandingkan dengan teks asal. Selain itu, ia harus disemak bahawa ringkasan tidak menambah hasil atau nombor yang tiada dalam teks.

13. Yang manakah benar untuk output kecerdasan buatan dalam penghasilan bahan kursus fizik?

A) Setiap penyelesaian harus disahkan secara bebas, had analogi harus ditentukan, dan pengalih perhatian harus menyasarkan salah tanggapan sebenar ✔
B) Kunci jawapan yang dihasilkan oleh kecerdasan buatan sentiasa betul, tidak perlu pengauditan
C) Analogi adalah sempurna dalam semua kes, tidak perlu menyatakan hadnya.
D) Pengganggu harus dipilih secara rawak sepenuhnya, kerana sifat pilihan yang salah adalah tidak penting.

Penerangan: AI pantas menjana soalan, contoh dan analogi, tetapi pemeriksaan adalah penting pada tiga perkara: penyelesaian kepada setiap masalah mesti disahkan secara bebas (dengan tangan atau dengan kod), kerana model mungkin membuat ralat tanda/unit dalam penyelesaian; Setiap analogi mesti dinyatakan di mana ia rosak, jika tidak, ia akan menimbulkan ralat baru; Pengganggu harus menyasarkan salah tanggapan yang benar. Tanggungjawab terletak pada guru; Kunci jawapan yang salah menyebabkan pelajar mengalami salah faham yang sukar untuk dibetulkan.

14. Apakah tingkah laku yang konsisten dengan integriti saintifik apabila data eksperimen tidak sepenuhnya bersetuju dengan teori?

A) Mempunyai kecerdasan buatan menyusun data agar sesuai dengan teori dan menunjukkan graf dengan meyakinkan
B) Menyiasat sebab percanggahan (ralat sistematik, kekurangan model, kesan baharu) dan melaporkan secara jujur tanpa mengubah data ✔
C) Mengabaikan perselisihan pendapat dan melaporkan hanya perkara yang sesuai
D) Memadam data dan memasang hasil percubaan baharu

Penjelasan: Meminta AI untuk 'mengatur data agar lebih sesuai dengan teori' adalah penipuan data dan pelanggaran integriti saintifik yang teruk. Percanggahan pendapat ialah sesuatu yang perlu disiasat, tidak disembunyikan: ia mungkin menunjukkan ralat sistematik, turun naik statistik, kekurangan corak atau kesan baharu yang menarik. Data dilaporkan sebagaimana adanya, dengan ketidakpastian; Tanggungjawab utama terletak pada orang itu dan 'alat yang melakukannya' bukanlah pembelaan.