Halusinasi, Etika, Kerahasiaan dan Integritas Ilmiah — Kecerdasan Buatan dalam Fisika

Keuntungan:

Kemampuan mengenali bentuk-bentuk halusinasi dalam fisika (konstanta palsu, hukum palsu, kesalahan satuan, hasil salah, atribusi palsu) dan menangkapnya dengan metode yang tepat.
Kemampuan untuk melindungi data yang tidak dipublikasikan, rahasia, dan pribadi dengan anonimisasi dan minimalisasi dengan tidak memasukkannya ke alat yang tidak sah
Mampu memahami bahwa tanggung jawab utama ada pada manusia dengan melaporkan data secara jujur, tanpa membumbui, dan mendokumentasikan penggunaan kecerdasan buatan secara transparan.

Sepanjang modul ini, kami membahas disiplin ilmu yang sama di setiap unit: kecerdasan buatan (AI) berakselerasi, manusia memverifikasi. Dalam unit terakhir ini, kami menyatukan seluruh praktik verifikasi ini di bawah payung integritas ilmiah, yang merupakan nilai paling mendasar dari ilmu fisika. Fisika adalah upaya menghasilkan pengetahuan yang dapat diverifikasi tentang alam; Inti dari upaya ini adalah integritas, keterulangan, dan tanggung jawab. AI dapat digunakan untuk memperkuat nilai-nilai ini — tetapi jika digunakan secara tidak benar, hal itu mengancam semuanya. Pada unit ini, kita akan membahas bentuk fisik halusinasi, tanggung jawab data dan privasi, batasan etika, dan mengapa tanggung jawab utama selalu berada di tangan manusia.

Bentuk-bentuk halusinasi dalam fisika

Halusinasi—produksi informasi palsu yang dilakukan AI dengan percaya diri—memiliki bentuk yang unik dan berbahaya dalam fisika. Mengenali hal ini adalah langkah pertama untuk menangkap:

jenis halusinasi

contoh

Metode penangkapan

Pemasangan tetap/data

Kepadatan material yang salah

Konfirmasi dengan referensi terpercaya

Rumus/hukum yang salah

Nama "prinsip" yang tidak ada

Derivasi Buku Teks/SymPy

Kesalahan satuan/pesanan

salah mengira eV untuk J

Analisis dimensi, kontrol unit

Hasil numerik salah

Keluaran kode yang tidak tepat

Jalankan kodenya

atribusi apokrif

artikel yang tidak ada

Verifikasi dengan DOI

Hasil yang dilaporkan salah

Distorsi artikel sebenarnya

Baca sumber aslinya

Benang merahnya adalah ini: model bahasa besar dirancang bukan untuk menyampaikan kebenaran, namun untuk menghasilkan "teks yang tampak mungkin". Dalam fisika, perbedaan antara "tampaknya mungkin" dan "benar" justru menjadi alasan keberadaan sains.

Tanggung jawab data, privasi, dan kekayaan intelektual

Fisikawan sering kali bekerja dengan data sensitif: data eksperimen yang tidak dipublikasikan, desain pra-paten, pengukuran rahasia dari kolaborasi industri, penelitian yang melibatkan data kesehatan atau keselamatan pribadi. Memasukkan data tersebut ke dalam alat AI umum dapat membuatnya dapat diakses oleh pihak ketiga dan mungkin data pelatihan model—yang berarti pelanggaran kerahasiaan dan hilangnya prioritas ilmiah (hak untuk menjadi orang pertama yang melakukan penemuan). Aturannya jelas: jangan memasukkan data yang tidak dipublikasikan, rahasia, atau pribadi ke dalam alat AI yang belum disetujui organisasi Anda. Jika Anda akan masuk, anonimkan, perkecil (berikan hanya yang diperlukan) dan baca kondisi data alat.

Perhatian: Memasukkan pengukuran laboratorium yang tidak dipublikasikan atau parameter desain rahasia perusahaan ke dalam alat AI "untuk analisis cepat" bisa menjadi kesalahan yang tidak dapat diubah. Setelah data dibagikan, data tersebut tidak dapat ditarik kembali. Jika ragu, jangan masukkan data; Perjelas kebijakan institusi Anda dan ketentuan privasi alat tersebut terlebih dahulu.

Batasan etika dan integritas ilmiah

Suatu penggunaan mungkin secara teknis dimungkinkan dan bahkan legal, namun tetap saja tidak etis. Ada beberapa garis merah dalam fisika yang menyangkut integritas keilmuan:

Pembuatan atau hiasan data. Meminta AI untuk “menghasilkan poin yang lebih sesuai dengan hasil” atau “membuat grafik terlihat lebih meyakinkan” adalah penipuan data. Data dilaporkan apa adanya; Pencilan dihilangkan hanya dengan alasan yang terdokumentasi dan sah.

Transparansi kontribusi. Jika Anda pernah menggunakan AI dalam sebuah penelitian — penulisan kode, koreksi bahasa, analisis — wajar jika Anda menjelaskannya di tempat yang tepat. Banyak jurnal dan institusi yang memerlukan hal ini.

Kepengarangan dan tanggung jawab. AI bukanlah seorang penulis; tidak dapat bertanggung jawab atas isi suatu karya. Tanggung jawab selalu ada pada manusia penulis. Kesalahan yang dihasilkan oleh AI tidak dapat dipertahankan dengan mengatakan “kendaraan berhasil”.

Reproduksibilitas. Hasil ilmiah memerlukan metode (termasuk kode yang digunakan, parameter, perintah AI) didokumentasikan dengan jelas sehingga orang lain dapat menirunya.

tiga kasus mini

Kasus 1 — Kebocoran data rahasia. Seorang peneliti menempelkan data pengukuran dari perjanjian kerahasiaan dengan sebuah perusahaan ke dalam alat AI umum “untuk grafik cepat.” Ia kemudian menyadari bahwa alat ini dapat menyimpan masukan. Pelanggaran kontrak dan kemungkinan hilangnya prioritas telah terjadi. Pelajaran: data rahasia tidak pernah dimasukkan ke dalam alat yang tidak disetujui.

Kasus 2 — Cetakan kecantikan. Seorang siswa meminta AI untuk melakukan pengeditan yang akan “membuat data terlihat lebih dekat dengan teori” karena data eksperimen tidak sepenuhnya sesuai dengan teori. Penasihatnya memperhatikan hal ini dan menghentikannya: ketidaksesuaian berarti kesalahan sistematis dalam eksperimen atau fisika baru yang menarik—sesuatu yang harus diselidiki, bukan disembunyikan. Data dilaporkan secara jujur dan ditemukan kesalahan sistematis.

Kasus 3 — Mendapatkan transparansi. Satu tim menulis kode analisis data untuk sebuah makalah dengan bantuan AI dan dengan jelas menyatakannya di bagian metode; membagikan kode dan meminta sebagai file tambahan. Seorang wasit meninjau kode tersebut dan menyarankan perbaikan kecil. Transparansi menangkap kesalahan sebelum dipublikasikan dan meningkatkan kredibilitas penelitian.

Empat templat yang dapat disalin

1) Skrining halusinasi:

Pindai keluaran fisika berikut untuk mencari halusinasi: apakah ada konstanta palsu, nama rumus/hukum palsu, kesalahan satuan/urutan, hasil numerik yang belum diverifikasi, dan atribusi yang belum dikonfirmasi? Tandai setiap item yang mencurigakan dan tentukan cara memverifikasinya (referensi, kode, DOI). Keluaran: [di sini]

2) Pra-pemeriksaan privasi data:

Evaluasi data/teks berikut sebelum memasukkannya ke dalam alat AI: apakah berisi informasi yang tidak dipublikasikan, rahasia, pribadi, atau dilindungi kontrak? Jika demikian, sarankan bagaimana saya dapat menganonimkan atau meminimalkannya. Jika tidak yakin, ucapkan "periksa kebijakan perusahaan". Konten: [di sini]

3) Draf pernyataan transparansi/kontribusi:

Dalam sebuah penelitian, saya menggunakan AI untuk: [coding / koreksi bahasa / analisis, dll.]. Tulis draf singkat "pernyataan penggunaan AI" yang mendokumentasikan hal ini dengan jujur. Itu juga harus menunjukkan bagian mana yang telah diverifikasi oleh manusia.

4) Menjamin integritas ilmiah:

Lakukan pemeriksaan integritas untuk analisis/hasil berikut: data dilaporkan sebagaimana adanya (tanpa hiasan), apakah ketidakpastian dilaporkan, apakah metode didokumentasikan dengan cara yang dapat direproduksi, apakah penggunaan AI transparan? Buat daftar kekurangan apa pun. Konten: [di sini]

Perintah lemah / Perintah kuat

Lemah: "Edit hasil agar lebih sesuai dengan teori dan buat grafiknya meyakinkan."

Hasil: Penipuan data; Pelanggaran langsung terhadap integritas ilmiah, hilangnya reputasi yang tidak dapat diubah.

Kuat: "Hasilnya tidak sepenuhnya sesuai dengan teori. Bantu saya menganalisis kemungkinan penyebab perbedaan ini (kesalahan sistematik, fluktuasi statistik, model hilang, atau efek baru); sarankan cara melaporkan perbedaan secara jujur tanpa mengubah data."

Hasil: Pendekatan yang jujur, investigatif dan setia terhadap integritas ilmiah; Konflik menjadi peluang untuk penemuan.

Kesalahan umum

Membingungkan halusinasi dengan rasa percaya diri. Hanya karena AI berbicara dengan percaya diri bukanlah jaminan keakuratan; Bahkan kalimat yang paling tepat pun mungkin dibuat-buat.
Memasukkan data rahasia ke dalam kendaraan tanpa persetujuan. Setelah dibagikan, data tidak dapat diambil; Prioritas dan kerahasiaan hilang.
Mempercantik data. Mengubah data menjadi "teori yang sesuai" adalah salah satu kejahatan ilmiah yang paling serius.
Menyembunyikan penggunaan AI. Transparansi merupakan persyaratan kejujuran dan wajib di banyak institusi.
Menempatkan tanggung jawab pada kendaraan. “AI yang melakukannya” bukanlah pembelaan; Tanggung jawab utama selalu terletak pada manusia.

Tip: Di akhir setiap penelitian yang didukung AI, tanyakan pada diri Anda tiga pertanyaan: (1) Apakah setiap fakta, angka, dan atribusi dalam keluaran ini telah diverifikasi secara independen? (2) Apakah data yang saya gunakan mengandung informasi rahasia/pribadi yang tidak boleh saya masukkan? (3) Apakah saya sudah mendokumentasikan penggunaan dan metodologi AI saya dengan cukup transparan sehingga orang lain dapat menirunya? Jika Anda tidak dapat menjawab dengan jelas “ya” untuk ketiga pertanyaan ini, maka penelitian ini belum selesai.

Singkatnya

Integritas ilmiah adalah dasar keberadaan fisika dan bahkan lebih penting lagi di era AI. Halusinasi muncul dalam fisika dalam bentuk konstanta palsu, hukum palsu, kesalahan satuan, kesimpulan salah, dan referensi salah; masing-masing ditangkap dengan metode verifikasi uniknya sendiri. Data rahasia dan pribadi tidak dimasukkan ke dalam alat yang tidak sah; data tidak pernah dipercantik; Penggunaan AI didokumentasikan secara transparan; dan tanggung jawab utama selalu berada di tangan manusia. Hanya ada satu disiplin ilmu yang Anda pelajari sepanjang modul ini: AI adalah akselerator yang hebat, namun verifikasi, integritas, dan tanggung jawab berada di pundak fisikawan yang kompeten — yaitu Anda. Keluaran AI yang belum terverifikasi tidak akan pernah bisa menggantikan konfirmasi fisikawan.

Tugas aplikasi

Pilih keluaran AI (akun, analisis, atau teks) yang Anda hasilkan dalam modul ini. 1. menyaring halusinasi dengan templat: apakah ada konstanta tiruan, rumus palsu, kesalahan unit, atau atribusi yang belum diverifikasi? Dengan template 2, evaluasi apakah data yang Anda gunakan ramah privasi. Terakhir, buat draf pernyataan singkat penggunaan/transparansi AI dengan templat 3. Tulis dalam 5-6 kalimat: apa yang terungkap dari pemindaian, langkah verifikasi apa yang Anda ambil?

daftar periksa

[ ] Saya secara independen memverifikasi setiap konstanta, rumus, dan hasil keluaran.
[ ] Saya telah memverifikasi setiap kutipan dengan DOI/sumber.
[ ] Saya telah memeriksa bahwa saya tidak memasukkan data rahasia/pribadi ke dalam alat tanpa persetujuan.
[ ] Data saya laporkan apa adanya, tanpa hiasan.
[ ] Saya telah mendokumentasikan penggunaan AI saya secara transparan dan dapat direproduksi.
[ ] Saya menerima bahwa tanggung jawab utama ada di tangan saya; Saya tidak mengaitkan kesalahan apa pun pada kendaraan tersebut.

Ujian Modul

1. Manakah dari berikut ini yang merupakan penentuan posisi kecerdasan buatan dalam fisika yang paling akurat?

A) Kecerdasan buatan adalah asisten kode, rancangan dan pengeditan; Tanggung jawab atas unit, pangkat, verifikasi, dan keputusan etis terletak pada manusia ✔
B) Kecerdasan buatan adalah kalkulator dan hasil numerik yang diberikannya selalu akurat
C) Kecerdasan buatan hanya bekerja dalam perhitungan, tidak ada hubungannya dengan analisis eksperimen dan pengajaran
D) Karena kecerdasan buatan lebih tidak memihak daripada manusia, keputusan unit dan hasil harus diserahkan padanya.

Deskripsi: Kecerdasan buatan; Ini adalah asisten yang menulis kode, membuat draf, membuat dan mengatur kerangka derivasi. Namun, tanggung jawab utama untuk verifikasi unit dan urutan hasil, memastikan kepatuhannya terhadap hukum kekekalan, konfirmasi konstan dan referensi adalah milik fisikawan yang kompeten. Model bahasa besar bukanlah kalkulator atau mesin fisika; adalah generator teks yang menghasilkan 'kata berikutnya yang paling mungkin' dan keluarannya yang belum diverifikasi dapat menyebabkan nilai, desain, atau hasil yang salah.

2. Perkiraan apa yang paling akurat untuk hasil numerik dari kode komputasi yang Anda cetak ke dalam model bahasa besar?

A) Mempercayai nomor yang model katakan 'kode ini memberikan itu', karena dialah yang menulis kodenya
B) Jalankan sendiri kodenya dan lihat hasilnya; ✔ tidak mengandalkan prediksi numerik verbal model
C) Menerima kode sebagai benar hanya dengan melihat cara membacanya, tanpa menjalankannya sama sekali
D) Jika hasilnya langsung ditanyakan lagi ke model dan menunjukkan angka yang sama, maka dianggap benar.

Penjelasan: Seorang LLM mungkin 'menghitung' keluaran kode yang dia tulis di kepalanya dan mengembalikan nomor yang salah; sedangkan ketika kode yang sama dijalankan memberikan hasil yang benar. Yang deterministik adalah kode yang dieksekusi; Ini bukan prediksi verbal dari model. Oleh karena itu, kode harus selalu dijalankan di lingkungan Anda sendiri dan hasilnya akan terlihat.

3. Apa cara paling ampuh untuk menguji apakah simulasi sistem dinamis tanpa gesekan mencerminkan fisika secara akurat?

A) Melihat grafik secara visual terlihat rapi dan meyakinkan
B) Menjalankan simulasi hanya dengan satu langkah waktu dan mempercayai hasilnya
C) Memantau besaran yang perlu dipertahankan, seperti energi atau momentum total, dan memeriksa apakah tetap konstan ✔
D) Mengevaluasi simulasi berdasarkan seberapa cepat berjalan

Penjelasan: Dalam sistem tanpa gesekan, energi total (dan momentum, jika ada) harus kekal. Memantau besaran ini sepanjang simulasi dan melihat apakah besarannya tetap konstan menunjukkan kelemahan numerik (misalnya metode Euler primitif yang terus meningkatkan energi). Jika energi melayang, simulasi tidak dapat diandalkan; Hanya karena menghasilkan grafik yang bagus bukan berarti itu benar.

4. Manakah dari berikut ini yang merupakan pendekatan yang benar ketika menyesuaikan model dengan data eksperimen?

A) Memilih polinomial derajat tinggi yang paling sesuai dengan data karena melewati semua titik
B) Memberikan parameter sebagai angka tunggal tanpa ambiguitas
C) Menyatakan kualitas kecocokan hanya dengan melihat betapa indahnya kurva tersebut.
D) Memilih model dari fisika, melaporkan parameter beserta ketidakpastiannya dan mengevaluasi kesesuaian dengan residu ✔

Penjelasan: Model harus dipilih berdasarkan hukum fisika yang harus dipatuhi oleh peristiwa tersebut, bukan dengan melihat data dan bertanya-tanya 'mana yang paling cocok'. Dengan parameter bebas yang cukup (misalnya polinomial derajat tinggi), kecocokan yang 'sempurna' tetapi tidak berarti secara fisik (overfit) dapat dilakukan pada data apa pun. Parameter harus dilaporkan dengan ketidakpastiannya, kualitas kesesuaian harus dievaluasi dengan residu, dan masuk akal secara fisik harus diperiksa.

5. Mengulangi pengukuran berkali-kali akan mengurangi jenis ketidakpastian apa?

A) Ketidakpastian acak; ketidakpastian sistematis tidak berkurang dengan pengulangan, penyebabnya harus ditemukan dan diperbaiki ✔
B) Ketidakpastian sistematis; karena menghilangkan kesalahan kalibrasi ulang
C) Sepenuhnya menghilangkan kedua ambiguitas tersebut
D) Tidak mengurangi satupun; ketidakpastian tidak bergantung pada jumlah pengukuran

Penjelasan: Pengukuran berulang mengurangi ketidakpastian acak (dengan kesalahan standar rata-rata std/√N) yang dihasilkan dari distribusi hasil secara acak. Ketidakpastian sistematik, sebaliknya, adalah kesalahan yang selalu menyimpang ke arah yang sama (misalnya timbangan yang salah dikalibrasi) dan tidak berkurang dengan pengulangan; Namun penyebabnya dapat ditemukan dan diperbaiki. Melaporkan ketidakpastian yang 'sangat kecil' dengan beberapa pengukuran mungkin menyembunyikan kesalahan sistematis yang mendasarinya.

6. Cara independen apa yang paling andal untuk memverifikasi rumus propagasi kesalahan yang diperoleh AI?

A) Mengandalkan formula agar tampil cair dan meyakinkan
B) Pemeriksaan silang dengan perhitungan Monte Carlo yang mengambil sampel input secara acak dengan ketidakpastiannya ✔
C) Menanyakan kembali formula yang sama kepada kecerdasan buatan dan mengharapkannya memberikan hasil yang sama
D) Mengumpulkan ketidakpastian secara langsung dan membandingkannya dengan hasilnya

Penjelasan: AI sering mencampurkan koefisien turunan parsial dan struktur akar kuadrat dalam rumus perambatan kesalahan. Cara ampuh untuk mencapai hal ini secara mandiri adalah pemeriksaan silang Monte Carlo: mengambil sampel secara acak setiap masukan beserta ketidakpastiannya, menghitung fungsinya ribuan kali, dan membandingkan deviasi standar keluaran dengan ketidakpastian yang diberikan oleh rumus. Pertemuan dua metode independen meningkatkan kepercayaan diri.

7. Bagaimana pembagian kerja yang benar antara AI dan SymPy dalam derivasi panjang fisika simbolik?

A) SymPy menghasilkan ide derivasi, AI secara tepat memverifikasi setiap langkah
B) Keduanya tidak diperlukan; derivasi panjang harus dilakukan secara manual saja
C) AI membangun kerangka derivasi, SymPy secara tepat memverifikasi setiap langkah aljabar ✔
D) Kecerdasan buatan melakukan derivasinya sendiri, tidak perlu verifikasi karena terlihat lancar

Penjelasan: AI menyusun strategi derivasi dan menjelaskan jalurnya, tetapi dalam aljabar panjang, AI membuat kesalahan tanda, lolosnya suku, dan penyederhanaan yang salah. SymPy, di sisi lain, bekerja sesuai aturan dan secara tepat memverifikasi setiap langkah aljabar. Alur kerja yang paling kuat menggabungkan keduanya: mendapatkan kerangka dari AI, mengambil sumber setiap langkah dengan SymPy, menguji hasilnya dengan invers integral turunan dan kasus batas.

8. Apa yang diungkapkan analisis dimensi tentang keakuratan rumus fisika?

A) Analisis dimensi selalu membuktikan secara pasti bahwa suatu rumus benar
B) Analisis dimensi tidak memiliki nilai praktis dalam fisika
C) Analisis dimensi hanya memberikan faktor konstanta rumus, bukan konsistensinya
D) Rumus yang tidak berlaku secara dimensional adalah salah mutlak; analisis dimensi menangkap kesalahan tanpa menghitung angka ✔

Penjelasan: Kedua ruas persamaan fisika harus sama dimensinya sebelum keduanya bisa sama secara numerik. Rumus yang tidak berlaku secara dimensional adalah salah; ini ditangkap dari perhitungan hitungan. Analisis dimensi tidak secara meyakinkan membuktikan bahwa suatu rumus benar (dapat melewatkan faktor atau sudut konstanta tak berdimensi), namun secara meyakinkan membuktikan bahwa rumus tersebut salah; jadi ini adalah audit pertama dan termurah dari setiap akun.

9. Apa langkah pertama yang paling penting dalam menghitung energi kinetik suatu benda yang bergerak dengan kecepatan 36 km/jam?

A) Mengubah seluruh input menjadi satu sistem satuan (SI); Mengubah 36 km/jam menjadi 10 m/s ✔
B) Memasukkan kecepatan dalam km/jam langsung ke dalam rumus tanpa mengubahnya menjadi m/s
C) Mengalikan bilangan saja tanpa memperhitungkan satuannya
D) Dengan asumsi tidak perlu memeriksa pesanan setelah menghitung hasilnya

Penjelasan: Rumus berbasis SI (E = ½mv²) memperkirakan kecepatan dalam m/s. Membingungkan km/jam dengan m atau jam dengan detik dalam penghitungan adalah salah satu kesalahan paling umum dalam fisika. Pertama semua input harus diubah menjadi satu sistem satuan (SI): 36 km/jam = 10 m/s. Karena AI dapat membuat kesalahan diam-diam dalam konversi satuan gabungan, konversi ini harus diverifikasi secara manual atau dengan alat yang mengetahui satuan.

10. Amalan manakah yang benar dalam kaitannya dengan 'kejujuran' dalam grafik ilmiah?

A) Menyembunyikan ketidakpastian karena bilah kesalahan mengacaukan grafik
B) Beri label pada sumbu dengan satuan, pilih skala tanpa distorsi, dan tunjukkan ketidakpastian dengan bilah kesalahan ✔
C) Selalu memulai sumbu y pada rentang yang menunjukkan perbedaan paling dramatis
D) Membiarkan sumbu tanpa satuan karena pembaca dapat menebak satuannya

Deskripsi: Bagan ilmiah yang jujur; ia memberi label pada sumbu dengan besaran dan satuan, memilih skala secara sadar dan tanpa distorsi (memulai sumbu y dari nol karena berlebihan adalah hal yang menyesatkan), dan membuat ketidakpastian pengukuran terlihat dengan bilah kesalahan. Menyembunyikan ketidakpastian membuat data tampak pasti dan menimbulkan kesan bias atau persetujuan yang salah. Semakin meyakinkan suatu grafik, semakin penting pemeriksaan integritasnya.

11. Apa risiko terbesar dan disiplin yang benar ketika mendapatkan dukungan literatur dan kutipan dari kecerdasan buatan?

A) Kecerdasan buatan membuang-buang waktu karena menghasilkan kutipan dengan sangat lambat
B) Sumber yang disarankan oleh kecerdasan buatan selalu nyata, tidak perlu verifikasi
C) Kecerdasan buatan dapat menghasilkan atribusi yang tampak nyata namun sebenarnya tidak ada; Setiap kutipan harus diverifikasi dengan DOI/sumber dan literatur harus ditemukan dari database sebenarnya ✔
D) Kutipan yang dibuat-buat mudah dikenali karena selalu menggunakan nama jurnal yang tidak sebenarnya

Penjelasan: Model bahasa berukuran besar tidak terhubung ke database sebenarnya; Dengan meniru pola kutipan, dapat menghasilkan artikel yang memuat nama jurnal asli, penulis yang kredibel, dan tahun yang masuk akal tetapi sama sekali tidak ada. Oleh karena itu, literatur harus ditemukan dari database nyata, AI harus digunakan hanya untuk merangkum/menerjemahkan teks aktual yang ada, dan setiap kutipan harus diverifikasi secara independen berdasarkan DOI atau judul. Kutipan yang tidak diverifikasi merupakan pelanggaran integritas akademik.

12. Apa yang diperlukan untuk mendapatkan hasil yang andal saat AI meringkas sebuah artikel?

A) Memberi judul artikel saja sudah cukup, model sudah tahu isinya
B) Menggunakan ringkasan secara langsung tanpa memeriksanya sama sekali, karena terlihat lancar
C) Meminta model untuk ringkasan yang sama dua kali dan menerimanya sebagai benar jika serupa.
D) Memberikan teks asli kepada model dan membandingkan ringkasan yang dihasilkan dengan teks asli untuk memastikan tidak ada yang ditambahkan/distorsi ✔

Penjelasan: Cukup memberi AI judul artikel dan meminta ringkasan akan menyebabkan model menghasilkan 'ringkasan yang masuk akal' tanpa pernah melihat artikel tersebut; Ringkasan ini mungkin kebalikan dari kebenaran. Ringkasan yang andal hanya dapat diperoleh bila teks asli dimasukkan ke model dan ringkasan yang dihasilkan dibandingkan dengan teks asli. Selain itu, harus diperiksa bahwa ringkasan tidak menambahkan hasil atau angka yang tidak ada dalam teks.

13. Manakah yang benar untuk keluaran kecerdasan buatan dalam produksi materi pelajaran fisika?

A) Setiap solusi harus diverifikasi secara independen, batasan analogi harus ditentukan, dan pengecoh harus menargetkan kesalahpahaman yang nyata ✔
B) Kunci jawaban yang dihasilkan oleh kecerdasan buatan selalu benar, tidak perlu dilakukan audit
C) Analogi sempurna dalam semua kasus, tidak perlu menentukan batasannya.
D) Pengalih perhatian harus dipilih sepenuhnya secara acak, karena sifat dari pilihan yang salah tidak penting.

Deskripsi: AI cepat dalam menghasilkan pertanyaan, contoh, dan analogi, tetapi pemeriksaan sangat penting dalam tiga hal: solusi untuk setiap masalah harus diverifikasi secara independen (dengan tangan atau dengan kode), karena model dapat membuat kesalahan tanda/unit dalam solusi; Setiap analogi harus dinyatakan pada bagian yang rusak, jika tidak maka akan menimbulkan kesalahan baru; Pengalih perhatian harus menargetkan kesalahpahaman yang sebenarnya. Tanggung jawab ada pada guru; Kunci jawaban yang salah menyebabkan siswa mengalami kesalahpahaman yang sulit diperbaiki.

14. Perilaku apa yang konsisten dengan integritas ilmiah ketika data eksperimen tidak sepenuhnya sesuai dengan teori?

A) Memiliki kecerdasan buatan mengatur data agar sesuai dengan teori dan menampilkan grafik dengan meyakinkan
B) Menyelidiki alasan perbedaan (kesalahan sistematis, kurangnya model, efek baru) dan melaporkan secara jujur tanpa mengubah data ✔
C) Mengabaikan ketidaksepakatan dan hanya melaporkan poin-poin yang sesuai
D) Menghapus data dan menyesuaikan hasil percobaan baru

Penjelasan: Meminta AI untuk 'menyusun data agar lebih sesuai dengan teori' merupakan penipuan data dan pelanggaran berat terhadap integritas ilmiah. Ketidaksepakatan adalah sesuatu yang harus diselidiki, bukan disembunyikan: hal ini dapat menunjukkan kesalahan sistematik, fluktuasi statistik, kurangnya pola, atau dampak baru yang menarik. Data dilaporkan sebagaimana adanya, dengan ketidakpastian; Tanggung jawab utama terletak pada orangnya dan 'alat yang melakukannya' bukanlah suatu pembelaan.