Satuan 5 / 11

Produksi Pertanyaan dan Kuis: Penulisan Item dan Kualitas Pengalih

Keuntungan:

  • Kemampuan untuk menghasilkan pertanyaan pilihan ganda, terbuka dan berpikir tingkat tinggi sejalan dengan pencapaian dengan dukungan kecerdasan buatan
  • Kemampuan mengendalikan kualitas soal dengan menerapkan prinsip pengecoh yang baik (pilihan yang salah tetapi masuk akal), satu jawaban yang benar, dan tingkat kesulitan soal.
  • Memahami risiko kecerdasan buatan menghasilkan kunci jawaban yang salah, pertanyaan yang tidak obyektif atau bias, dan dapat melihat bahwa guru harus memverifikasi setiap item.

Ujian dan kuis adalah alat utama yang digunakan guru untuk mengukur pembelajaran; Namun menulis pertanyaan yang bagus lebih sulit dari yang Anda kira. Akar yang ambigu, pilihan yang serupa, dan bahasa yang memberi petunjuk mengurangi nilai pengukuran sebuah pertanyaan. AI dengan cepat menghasilkan sejumlah besar garis besar pertanyaan terkait hasil; Anda memantau kualitas, memverifikasi kunci jawaban, dan menjaga keselarasan pencapaian. Pada unit ini, kita akan membahas penulisan artikel yang bagus dan produksi kuis berkualitas dengan AI. Batasannya jelas: AI dapat menghasilkan kunci jawaban yang salah, pertanyaan yang tidak obyektif atau bias; Guru memverifikasi setiap item.

Anatomi materi dan prinsip pertanyaan yang baik

Pertanyaan pilihan ganda memiliki dua bagian: batang (batang pertanyaan) — masalah utama yang ditanyakan; dan pilihan — satu adalah jawaban yang benar, yang lain adalah pengecoh. Distraktor yang baik, meskipun salah, nampaknya masuk akal bagi siswa yang belum menguasai subjek sepenuhnya; Hal ini umumnya didasarkan pada kesalahpahaman umum. Kesalahpahaman umum seperti “Bulan menghasilkan cahayanya sendiri” adalah pengalih perhatian yang kuat. Pengalih perhatian yang tidak masuk akal atau tidak relevan ("Bulan adalah keju") membuat pertanyaan menjadi lebih mudah dan tidak terlalu menonjol.

Prinsip pertanyaan yang baik: (1) Batang menanyakan sesuatu yang tunggal dan jelas; (2) hanya ada satu jawaban yang benar; (3) opsi-opsi tersebut memiliki panjang yang sama dan secara tata bahasa sesuai dengan akar kata (opsi yang lebih panjang umumnya benar, jangan beri petunjuk); (4) pilihan “semua/tidak ada” dihindari jika memungkinkan; (5) jika batangnya negatif (“tidak”), diberi tekanan; (6) pertanyaan mengukur tingkat pencapaian—mengajukan pertanyaan pengingatan untuk menganalisis pencapaian tidak mencapai sasaran.

Tingkat kesulitan soal adalah seberapa sulit soal tersebut; Diskriminasi adalah seberapa jauh persoalan tersebut memisahkan mereka yang tahu dengan mereka yang tidak tahu. Ujian yang baik adalah gabungan soal-soal yang tingkat kesulitannya berbeda-beda.

Tip: Saat mengajukan pertanyaan kepada AI, sebutkan target miskonsepsinya: katakan "pengganggu harus didasarkan pada 3 miskonsepsi umum berikut". Dengan cara ini Anda mendapatkan pengalih perhatian instruksional, bukan pengalih perhatian acak.

Jenis pertanyaan

Pilihan ganda: Pengukuran cepat, skor otomatis; namun mengukur pemikiran tingkat tinggi memerlukan desain yang cermat. Jawaban terbuka/pendek: Menampilkan pernyataan siswa sendiri; Penilaian dilakukan dengan rubrik (unit ke-6). Benar-salah : Cepat namun faktor keberuntungan tinggi. Pencocokan: Baik untuk hubungan konsep-definisi. Pertanyaan berpikir tingkat tinggi: Item berbasis skenario yang menanyakan "mengapa/bagaimana/mengevaluasi"; Ini mengukur keuntungan analisis-evaluasi. AI menghasilkan cetak biru untuk semuanya; Tugas Anda adalah memilih jenis yang mengukur hasil yang mana.

Langkah demi langkah: Produksi kuis dengan AI

  1. Berikan gain dan level Bloom. Pertanyaannya harus mengukur level itu.
  2. Tentukan jenis dan nomor. "6 pilihan ganda + 2 terbuka".
  3. Sebutkan strategi pengecohnya. Kesalahpahaman apa yang harus menjadi dasar hal ini?
  4. Mintalah kunci dan pembenarannya. Jawaban yang benar untuk setiap pertanyaan dan mengapa pertanyaan lainnya salah.
  5. Verifikasi kunci secara manual. Selesaikan sendiri setiap pertanyaan; Apakah garis yang ditandai oleh AI itu benar adanya?
  6. Pemeriksaan keselarasan dan bias. Apakah pertanyaannya mengukur keuntungan? Apakah ada bias budaya/gender?
  7. Keseimbangan kesulitan. Sesuaikan campuran mudah-sedang-keras.

tiga kasus mini

Kasus 1 — Kunci salah. Seorang guru sains mengikuti kuis 10 pertanyaan dari AI. Kunci dari pertanyaan ke-3 diberi tanda "B", tetapi ketika guru menyelesaikannya, dia melihat bahwa jawaban yang benar adalah "C" — AI mengira pengecohnya sendiri yang benar. Jika guru tidak mengoreksinya, dia akan menganggap siswa yang mengetahuinya salah. Memecahkan kunci dengan tangan menyelamatkan seluruh kuis.

Kasus 2 — Koreksi distraktor yang lemah. Dalam kuis pertama yang diberikan guru, pengecohnya tidak masuk akal dan siswa harus menghilangkannya dan menemukan jawaban yang benar. Dia meminta AI mereproduksi "pengganggu berdasarkan kesalahpahaman umum berikut: X, Y, Z." Diskriminasi meningkat dalam kuis baru; rata-rata kelas lebih mencerminkan pembelajaran sebenarnya.

Kasus 3 — Dapatkan keselarasan. Hasil seorang guru sejarah berada pada level analisis (“menghubungkan penyebab”) tetapi AI menghasilkan pertanyaan mengingat (“beri tahu tanggalnya”). Guru memperbarui perintah menjadi "pada tingkat analisis perolehan; ajukan pertanyaan skenario yang membangun hubungan sebab-akibat." Pertanyaan telah menjadi ukuran pencapaian.

Templat yang dapat disalin

1) Kumpulan pilihan ganda berdasarkan prestasi:

Peran Anda: guru [mata pelajaran]. Keuntungan: "[keuntungan]" ([Level mekar]),[X. kelas]. Tulis 6 pertanyaan pilihan ganda yang mengukur hasil ini. Biarkan setiap pertanyaan memiliki 4 pilihan; Mintalah pengalih perhatian didasarkan pada kesalahpahaman umum berikut: [tuliskan kesalahpahaman tersebut]. Untuk setiap pertanyaan, jelaskan jawaban yang benar dan mengapa SETIAP pilihan benar/salah di bagian kunci terpisah. Campuran mudah-sedang-sulit.

2) Verifikasi kunci jawaban:

Selesaikan soal pilihan ganda di bawah ini satu per satu. Untuk setiap pertanyaan: (a) jawaban benar yang Anda temukan, (b) alasannya, (c) apakah cocok dengan kunci yang ditandai. Tandai ketidakkonsistenan dengan jelas sebagai "KONTRADIKSI". Pertanyaan dan kunci: [tempel]

3) Pertanyaan (skenario) tingkat tinggi:

"[subjek]", [X. kelas], tulis 3 pertanyaan berbasis skenario pada tingkat analisis-evaluasi. Biarkan setiap pertanyaan memberikan situasi singkat dan minta pembenaran/perbandingan dari siswa. Jangan sampai diselesaikan dengan hati. Tambahkan contoh jawaban dan tip evaluasi.

4) Audit bias dan kepatuhan:

Periksa pertanyaan-pertanyaan berikut untuk: bias gender/budaya/wilayah, keuntungan/kerugian yang tidak adil bagi kelompok tertentu, konteks yang tidak sesuai. Tandai item yang bermasalah dan sarankan alternatif netral. Pertanyaan: [tempel]

Perintah lemah / Perintah kuat

Perintah yang lemah:

Tulislah 10 pertanyaan tentang pecahan.

Level, hasil, jenis, strategi pengecoh, tanpa kunci; Kualitas dan keselarasannya dibiarkan begitu saja.

Perintah yang kuat:

Peran Anda: guru matematika. Hasil Belajar: “Siswa menjumlahkan dua pecahan yang penyebutnya berbeda” (aplikasi). kelas 5. 6 soal pilihan ganda, 4 pilihan. Distraktor harus didasarkan pada kesalahpahaman berikut: menjumlahkan pembilang dan penyebut secara langsung, menjaga pembilang tetap konstan, dan menjumlahkan penyebut. Berikan deskripsi kunci dan opsi untuk setiap pertanyaan. Campur mudah-sedang-sulit.

Jenis pertanyaan

Tingkat yang diukurnya

kekuatan

Perhatian

pilihan ganda

Level apa pun (tergantung desain)

Skor cepat dan otomatis

Kualitas pengalih perhatian

berakhir terbuka

menciptakan pemahaman

ekspresi asli

Butuh rubrik

benar-salah

ingat

sangat cepat

Faktor keberuntungan tinggi

Berdasarkan skenario

Analisis-evaluasi

mencegah menghafal

Mengeja itu sulit, AI membantu

Kesalahan umum

  • Tidak memverifikasi kuncinya. Kesalahan paling sering dan paling tidak adil; AI menghasilkan kunci yang salah, siswa yang mengetahuinya akan menjadi korban.
  • Pengalih perhatian yang tidak masuk akal. Opsi yang tidak masuk akal menyederhanakan pertanyaan secara gratis.
  • Ketidakcocokan tingkat keuntungan. Mengingat pertanyaan untuk perolehan analisis; meleset dari sasaran.
  • Bahasa yang memberi petunjuk. Fakta bahwa pilihan terpanjang/terdetail selalu benar mengajarkan pola siswa.
  • Mengabaikan bias. Konteks budaya/kelompok tertentu yang akrab memberikan keuntungan yang tidak adil bagi sebagian siswa.
Perhatian: AI terkadang menghasilkan pertanyaan ambigu yang mana lebih dari satu pilihan dapat dianggap "benar". Dia menjawab setiap item dengan pertanyaan "Apakah ada kebenaran tunggal dan tak terbantahkan?" Ujilah dengan mengatakan; Jika tidak, perjelas akarnya.

Singkatnya

Pertanyaan yang baik mengukur tingkat pencapaian dengan dasar yang jelas dan pengalih perhatian yang masuk akal. AI dengan cepat menghasilkan sejumlah besar garis besar pertanyaan, pengalih perhatian, dan kunci yang bergantung pada perolehan; Jika Anda memberitahukan target miskonsepsi, pengecoh akan memberikan pelajaran. Namun, AI mungkin menghasilkan kunci yang salah, pengalih perhatian yang lemah, pertanyaan yang tidak dapat diperoleh atau bias. Selesaikan setiap item untuk memverifikasi kuncinya, periksa keselarasan dan bias; Ujian terakhir adalah ujian guru.

Tugas aplikasi

Untuk hasil, hasilkan 6 pertanyaan dengan templat "Pilihan ganda berdasarkan hasil"; Tentukan sendiri strategi pengecohnya. Kemudian selesaikan sendiri setiap pertanyaan dan bandingkan dengan kunci AI sebelum menggunakan templat "Verifikasi kunci jawaban". Perbaiki ketidakcocokan apa pun. Terakhir, tulislah versi skenario yang mengangkat salah satu pertanyaan ke tingkat analisis.

daftar periksa

  • [ ] Apakah saya mengajukan pertanyaan sesuai dengan tingkat hasil belajar Bloom?
  • [ ] Apakah saya mendasarkan pengecoh pada kesalahpahaman yang sebenarnya?
  • [ ] Sudahkah saya memverifikasi kunci setiap pertanyaan dengan menyelesaikannya sendiri?
  • [ ] Apakah saya yakin ada satu jawaban yang benar dan tidak diragukan lagi?
  • [ ] Sudahkah saya memeriksa bias dan kesesuaian usia?