Unità 6 / 11

Kejl-Evalwazzjoni u Disinn tar-Rubrika: Kriterji, Livell u Konsistenza

Qligħ:

  • Kapaċità li tifhem tipi analitiċi u olistiċi ta' rubrika, kriterji u kunċetti ta' livell ta 'suċċess u tfassal rubrika trasparenti bl-appoġġ ta' intelliġenza artifiċjali.
  • Kapaċità li tipproduċi metriċi allinjati mal-kisba u piżijiet tal-punti għall-ħidma tal-prestazzjoni, il-portafoll u l-evalwazzjoni tal-proġett.
  • Kapaċità li tifhem li d-deċiżjoni li jingħataw il-gradi u l-evalwazzjoni finali tappartjeni lill-għalliem, li l-intelliġenza artifiċjali ma tistax tagħmel il-punteġġ waħedha, u li l-konsistenza trid tiġi ċċekkjata mill-għalliem.

Huwa faċli li tgħid lil student "dan il-proġett ħa 70"; iżda l-istudent jistaqsi "għaliex 70?" jew il-ġenitur joġġezzjona, irid ikollok bażi ġusta u difiżibbli. Din il-bażi hija r-rubrika: għodda ta’ punteġġ li turi minn qabel skont liema kriterji u f’liema livelli se tiġi evalwata prestazzjoni (proġett, kompożizzjoni, preżentazzjoni, portafoll). Rubrika tajba kemm tgħid lill-istudent "x'inhu mistenni minnek" kif ukoll tagħmel il-punteġġ tal-għalliem konsistenti u trasparenti. L-AI malajr tabbozza metriċi u definizzjonijiet tal-livelli relatati mal-kisba; Inti tiddetermina l-allinjament, il-ġustizzja, u l-piżijiet. Il-konfini huwa ċar: Il-gradazzjoni u l-evalwazzjoni finali hija deċiżjoni li taffettwa lill-istudent; Ir-responsabbiltà u l-approvazzjoni finali huma tal-għalliem. L-AI ma tistax tiskurja waħedha.

Tipi u komponenti ta' rubrika

Hemm żewġ tipi bażiċi. Ir-rubrika analitika tqassam il-prestazzjoni fi kriterji separati—per eżempju, "kontenut," "organizzazzjoni," "lingwa u espressjoni," "kitba" f'essay - u tiskurja kull kriterju f'livelli separati ta 'kisba (eż., 4=tajjeb ħafna, 3=tajjeb, 2=titjib, 1=bidu). Jipprovdi feedback dettaljat iżda jieħu ż-żmien biex jipprepara u jiskorja. Ir-rubrika ħolistika tagħti livell ġenerali wieħed lill-istudju kollu; Huwa mgħaġġel, iżda ma jurix fejn taqa' qasir.

Il-komponenti ta 'rubrika analitika huma: kriterji (dak li nevalwaw), livelli (kemm tajjeb), definizzjoni tal-livell ta' kull ċellula (indikatur konkret ta 'dak il-livell), u piżijiet (liema perċentwal tal-punteġġ huwa liema kriterju). Id-definizzjoni ta' livell tajjeb hija osservabbli: mhux "miktub tajjeb" iżda "mhux aktar minn 2 typos u paragrafi f'ordni loġiku".

Tip: Aqsam ir-rubrika mal-istudent QABEL il-kompitu. Ir-rubrika mhix għodda ta’ nota sorpriża, iżda mappa ta’ tagħlim; Jekk l-istudent ikun jaf x'għandu jaħdem, jipproduċi prodott aħjar.

Konsistenza u ġustizzja

Il-valur reali tar-rubrika huwa l-konsistenza: meta żewġ għalliema jiskurjaw l-istess xogħol f’żewġ ħinijiet differenti, ir-riżultat għandu jkun simili. Din tissejjaħ affidabbiltà tar-rater. L-AI tista 'tipproduċi l-kontorn tar-rubrika, iżda l-għalliem jipprovdi l-konsistenza: huwa xogħol l-għalliem li jagħmel id-deskrizzjonijiet tal-livell konkreti biżżejjed, li "jikkalibra" ftit studji ta' każijiet bir-rubrika (punteġġ tal-prova), u li jiċċara r-regola f'każijiet marġinali.

Fl-interess tal-ġustizzja, ir-rubrika m'għandhiex tiskurja affarijiet irrelevanti għar-riżultat (sbuħija tal-kitba bl-idejn, materjal li għalih l-istudent jeħtieġ aċċess soċjoekonomiku). L-AI kultant iżid kriterji ta' nuqqas ta' kisba bħal "estetika tal-preżentazzjoni"; Huwa meħtieġ li jiġu solvuti.

Pass pass: Disinn tar-rubrika bl-AI

  1. Agħti l-kompitu u l-kisba. X'se tkejjel ir-rubrica jiddependi fuq liema riżultat.
  2. Agħżel il-ġeneru. Jekk trid feedback dettaljat, analitiku; jekk trid ġudizzju ġenerali malajr, olistiku.
  3. Itlob għall-kriterji, imma ffiltrahom. 3-5 kriterji dwar il-kisba; neħħi dawk irrilevanti.
  4. Definizzjonijiet ta' livell konkret. Staqsi għal indikaturi osservabbli.
  5. Jitilfu l-piż. Liema kriterju huwa l-aktar importanti? Ħalli t-total ikun 100.
  6. Ikkalibra. Score 1-2 studji kampjuni bir-rubriċi u l-konsistenza tat-test.
  7. Ħu d-deċiżjoni finali. Anke jekk l-AI tissuġġerixxi punteġġ kampjun, l-għalliem jagħti l-grad finali.

tliet każijiet żgħar

Każ 1 — Estrazzjoni tal-kriterju li ma jintlaħaqx. Għalliem Tork talab lill-AI għal rubrika analitika għal esej. AI pproponiet 5 kriterji, iżda wieħed kien "sbuħija tal-kitba bl-idejn" - kriterju li kien irrilevanti għar-riżultat u ppenalizzat b'mod inġust lill-istudent b'kitba tal-idejn sottożviluppata. L-għalliem ħariha u biddelha bi "żvilupp tal-idea." Ir-rubrika kienet kemm ġusta kif ukoll konformi mal-kisba.

Każ 2 — Konkretizzazzjoni. Fl-ewwel rubrika ta' għalliem wieħed, il-livelli kienu astratti, bħal "tajjeb ħafna / tajjeb / ġust"; Żewġ studenti kienu ħadu livelli differenti ta’ xogħol simili. Huwa qal lill-AI biex "tikteb kull livell b'indikatur osservabbli." Meta waslu definizzjonijiet konkreti bħal "Tajjeb = mill-inqas 3 eżempji u paragrafu ta' konklużjoni ċara", il-konsistenza żdiedet u l-oġġezzjonijiet naqsu.

Każ 3 — Kalibrazzjoni. F'evalwazzjoni tal-proġett, l-għalliem l-ewwel skorja 3 proġetti kampjun bir-rubrika prodotta mill-AI. AI offriet 85 lil xi ħadd; L-għalliem sab l-istess proġett rubrika 72 minħabba li l-AI kienet interpretat kriterju wieħed b'mod ġeneruż wisq. L-għalliem iċċara d-deskrizzjoni tal-livell u assenja l-gradi finali hu stess. AI aċċellerat l-abbozz; L-għalliem ħa d-deċiżjoni.

Mudelli kopjabbli

1) deskrizzjoni analitika tar-rubrika:

Ir-rwol tiegħek: [suġġett] għalliem. Kompitu: "[tikteb il-ħidma tal-prestazzjoni]", kisba: "[kisba]", [X. klassi]. Oħloq rubrika analitika b'4 kriterji. Ħalli kull kriterju jkun relatat mar-riżultat (ADD kriterji mhux oġġettivi bħall-kitba bl-idejn u l-estetika). Ikteb 4 livelli ta’ suċċess u indikatur OSSERVABBLI għal kull livell. Ippeża l-kriterji sabiex it-total ikun 100.

2) Definizzjonijiet ta' livell ta' konkretizzazzjoni:

Id-deskrizzjonijiet tal-livell tar-rubrika li ġejja huma astratti ħafna ("tajba", "ġust"). Ikteb mill-ġdid kull livell b'indikaturi osservabbli u li jistgħu jingħaddu (eż. "mhux aktar minn 2 żbalji", "mill-inqas 3 eżempji"). Rubrika: [pejst]

3) Rubrika ħolistika (evalwazzjoni rapida):

Ikteb rubrika ħolistika ta' 4 livelli għal "[kompitu]". Ħalli kull livell jiddeskrivi b'mod osservabbli n-natura ġenerali tax-xogħol f'paragrafu wieħed. Qligħ: "[gwadann]". Agħti wkoll firxiet tan-noti.

4) Kontroll tal-kalibrazzjoni:

Hawn taħt hawn rubrika u xogħol tal-istudenti. Skont ir-rubrika, iddikjara l-livell tiegħek f'kull miżura, b'ġustifikazzjoni. Agħti dan bħala SUGGERIMENT; Se nagħti l-grad finali. Immarka kwalunkwe kriterji li jibqgħu mhux ċari. Rubrika + studju: [pejst]

Pront dgħajjef / Pront qawwi

Pront dgħajjef:

Ikteb rubrika għall-proġett.

Ebda kompitu, kisba, tip, numru ta 'kriterji, piż; Tidher rubrika ta' nuqqas ta' kisba u astratta.

Pront qawwi:

Ir-rwol tiegħek: għalliem tax-xjenza. Kompitu: "L-istudent jirriċerka sors ta 'enerġija rinnovabbli u jipprepara poster." Għan: "L-istudent jispjega l-prinċipju tax-xogħol u l-vantaġġi tas-sors tal-enerġija." 7 grad. Rubrika analitika b'4 kriterji: preċiżjoni tal-kontenut, ċarezza tal-ispjegazzjoni, użu tas-sorsi, ordni. Żieda ta' kriterji ta' nuqqas ta' kisba. Ħalli kull livell ikun osservabbli; Is-somma tal-piżijiet hija 100.

karatteristika

Rubrika analitika

rubrika ħolistika

Numru ta' kriterji

Multipli, skurjati separatament

Sentenza ġenerali unika

Feedback

Dettaljati, ibbażati fuq kriterji

Ġenerali

veloċità

bil-mod

malajr

l-aktar adattat

Żvilupp tal-proċess/ħiliet

Ħarsa ġenerali malajr

Kontribuzzjoni tal-AI

Kriterji + deskrizzjoni tal-livell

Abbozz ta' paragrafu tal-livell

Żbalji komuni

  • Miżura ta' nuqqas ta' kisba. Il-punteġġ ta’ affarijiet mhux relatati mar-riżultat, bħall-kitba bl-idejn, l-estetika, u l-aċċess għall-materjali, jegħleb il-ġustizzja.
  • Definizzjoni tal-livell astratt. Definizzjonijiet bħal "tajjeb/ġust" iwasslu għal inkonsistenza u oġġezzjoni; Uża indikatur osservabbli.
  • Uri r-rubrika aktar tard. Mhux taqsam qabel il-kompitu jċaħħad lill-istudent mill-għan.
  • Nagħmlu l-grad AI. L-AI tista’ tissuġġerixxi kampjuni ta’ punteġġi, iżda l-għalliem jagħti l-grad finali; Il-kontroll tal-konsistenza huwa tal-għalliem.
  • Taqbeż il-kalibrazzjoni. L-użu tar-rubrika mingħajr ma tipprovaha bi studji ta’ każijiet iġib riżultati sorprendenti.
Attenzjoni: Huwa jitħajjar iżda riskjuż li tagħti lill-AI xogħol student u tgħid "score". Ix-xogħol tal-istudenti jista’ jkun fih data personali (anonimizza) u l-punteġġ tal-AI jista’ jkun inkonsistenti/preġudikat. Uża l-AI biex TISSEĠĠERI punti u tiddeskrivi feedback; Inti tiddeċiedi.

Fil-qosor

Ir-rubrika hija l-għodda li tagħmel l-evalwazzjoni trasparenti, konsistenti u difiżibbli. Ir-rubrika analitika tipprovdi feedback dettaljat ibbażat fuq il-kriterju, ir-rubrika olistika tipprovdi ġudizzju ġenerali rapidu. L-AI malajr tabbozza metriċi relatati mal-kisba, definizzjonijiet ta' livell konkret, u piżijiet; Iżda hija r-responsabbiltà tal-għalliem li jsolvi l-kriterji ta’ nuqqas ta’ kisba, jagħmel il-livelli osservabbli, jikkalibrahom u jagħti l-grad finali. Il-grad huwa deċiżjoni li taffettwa lill-istudent; Mhijiex delegata lill-AI.

Kompitu ta' applikazzjoni

Oħloq rubrika b'4 kriterji bil-mudell "Kontorn tar-rubrika analitika" għal kompitu ta' prestazzjoni li se tagħti dalwaqt. Neħħi kwalunkwe kriterju ta' nuqqas ta' kisba u agħmel id-definizzjonijiet tal-livell osservabbli. Imbagħad ittestja l-konsistenza billi tagħmel punteġġ tal-istudji tiegħek (jew ipotetiċi) 2 kampjun b'din ir-rubrika; Evalwa jekk il-punteġġi taż-żewġ studji jirriflettux il-kwalitajiet veri tagħhom u agħmel aġġustamenti għar-rubrika tiegħek.

lista ta' kontroll

  • [ ] Il-kriterji kollha huma relatati mal-kisba (l-ebda kriterji li ma jintlaħqux)?
  • [ ] Id-definizzjonijiet tal-livell huma osservabbli u konkreti?
  • [ ] Iddeterminajt il-piżijiet u s-somma tagħhom hija 100?
  • [ ] Se naqsam ir-rubrika mal-istudent qabel il-kompitu?
  • [ ] Ikkalibrajt ir-rubrika max-xogħol tal-kampjun u tajt il-grad finali jien stess?