Unità 6 / 11

Misurazione-valutazione e progettazione di rubriche: criteri, livello e coerenza

Guadagni:

  • Capacità di comprendere tipi di rubriche analitiche e olistiche, criteri e concetti di livello di successo e di progettare una rubrica trasparente con il supporto dell'intelligenza artificiale.
  • Capacità di produrre metriche allineate ai risultati e pesi in punti per attività di prestazione, portfolio e valutazione di progetti.
  • Capacità di comprendere che la decisione di attribuire i voti e la valutazione finale spetta all'insegnante, che l'intelligenza artificiale non può fare da sola il punteggio e che la coerenza deve essere verificata dall'insegnante.

È facile dire a uno studente "questo progetto ha ottenuto 70"; ma lo studente chiede "perché 70?" o il genitore si oppone, è necessario avere una base giusta e difendibile. Questa base è la rubrica: uno strumento di scoring che mostra in anticipo secondo quali criteri e a quali livelli una performance (progetto, composizione, presentazione, portfolio) verrà valutata. Una buona rubrica dice allo studente "cosa ci si aspetta da te" e rende il punteggio dell'insegnante coerente e trasparente. L'intelligenza artificiale elabora rapidamente metriche relative ai risultati e definizioni di livello; Sei tu a determinare l'allineamento, l'equità e i pesi. Il confine è chiaro: il voto e la valutazione finale sono una decisione che riguarda lo studente; La responsabilità e l'approvazione finale spetta all'insegnante. L’intelligenza artificiale non può segnare da sola.

Tipi e componenti della rubrica

Ci sono due tipi fondamentali. La rubrica analitica suddivide la performance in criteri separati - ad esempio "contenuto", "organizzazione", "linguaggio ed espressione", "scrittura" in un saggio - e assegna un punteggio a ciascun criterio a livelli di rendimento separati (ad esempio, 4 = molto buono, 3 = buono, 2 = miglioramento, 1 = inizio). Fornisce un feedback dettagliato ma richiede tempo per prepararsi e valutare. La rubrica olistica dà un unico livello generale all'intero studio; È veloce, ma non mostra dove non è all'altezza.

I componenti di una rubrica analitica sono: criteri (cosa valutiamo), livelli (quanto è buono), definizione del livello di ciascuna cella (indicatore concreto di quel livello) e pesi (quale percentuale del punteggio corrisponde a quale criterio). La definizione di buon livello è osservabile: non “ben scritto” ma “non più di 2 errori di battitura e paragrafi in ordine logico”.

Suggerimento: condividi la rubrica con lo studente PRIMA dell'attività. La rubrica non è uno strumento per appunti a sorpresa, ma una mappa di apprendimento; Se lo studente sa su cosa lavorare, realizza un prodotto migliore.

Coerenza e correttezza

Il vero valore della rubrica è la coerenza: quando due insegnanti valutano lo stesso compito in due momenti diversi, il risultato dovrebbe essere simile. Questa si chiama affidabilità del valutatore. L'intelligenza artificiale può produrre lo schema della rubrica, ma l'insegnante fornisce la coerenza: è compito dell'insegnante rendere le descrizioni dei livelli sufficientemente concrete, "calibrare" alcuni casi di studio con la rubrica (punteggio di prova) e chiarire la regola nei casi marginali.

Nell'interesse dell'equità, la rubrica non dovrebbe assegnare punteggi irrilevanti ai fini del risultato (bellezza della calligrafia, materiale a cui lo studente necessita di accesso socioeconomico). L’intelligenza artificiale a volte aggiunge criteri di non raggiungimento come “l’estetica della presentazione”; È necessario sistemarli.

Passo dopo passo: progettazione di rubriche con l'intelligenza artificiale

  1. Assegna il compito e il risultato. Ciò che la rubrica misurerà dipende dal risultato.
  2. Scegli il genere. Se desideri un feedback dettagliato, analitico; se vuoi un giudizio generale rapido, olistico.
  3. Chiedi criteri, ma filtrali. 3-5 criteri riguardanti il ​​rendimento; rimuovere quelli irrilevanti.
  4. Definizioni di livello in calcestruzzo. Richiedi indicatori osservabili.
  5. Perdere peso. Quale criterio è più importante? Lascia che il totale sia 100.
  6. Calibrare. Assegna un punteggio a 1-2 studi campione con rubriche e test di coerenza.
  7. Prendi la decisione finale. Anche se l’IA suggerisce un punteggio campione, l’insegnante dà il voto finale.

tre mini custodie

Caso 1 — Estrazione del criterio di mancato raggiungimento. Un insegnante turco ha chiesto ad AI una rubrica analitica per un saggio. L’intelligenza artificiale ha proposto 5 criteri, ma uno era la “bellezza della grafia”, un criterio irrilevante per il risultato e che penalizzava ingiustamente lo studente con una grafia sottosviluppata. L'insegnante lo tirò fuori e lo sostituì con "sviluppo dell'idea". La rubrica era giusta e in linea con i risultati.

Caso 2 — Concretizzazione. Nella prima rubrica di un insegnante, i livelli erano astratti, come "molto buono/buono/discreto"; Due studenti avevano svolto diversi livelli di lavoro simile. Ha detto all’IA di “riscrivere ogni livello con un indicatore osservabile”. Quando sono arrivate definizioni concrete come "Buono = almeno 3 esempi e un paragrafo conclusivo chiaro", la coerenza è aumentata e le obiezioni sono diminuite.

Caso 3 — Calibrazione. In una valutazione del progetto, l'insegnante ha prima valutato 3 progetti campione con la rubrica prodotta da AI. L'IA ne ha offerti 85 a qualcuno; L’insegnante ha ritenuto che lo stesso progetto fosse alla rubrica 72 perché l’IA aveva interpretato un criterio in modo troppo generoso. L'insegnante ha chiarito la descrizione del livello e ha assegnato lui stesso i voti finali. L'intelligenza artificiale ha accelerato la bozza; L'insegnante ha preso la decisione.

Modelli copiabili

1) Schema della rubrica analitica:

Il tuo ruolo: insegnante di [materia]. Compito: "[scrivi compito di prestazione]", risultato: "[risultato]", [X. classe]. Crea una rubrica analitica con 4 criteri. Lascia che ogni criterio sia correlato al risultato (AGGIUNGI criteri non oggettivi come la calligrafia e l'estetica). Scrivi 4 livelli di successo e un indicatore OSSERVABILE per ciascun livello. Ponderare i criteri in modo che il totale sia 100.

2) Definizioni del livello di concretizzazione:

Le descrizioni dei livelli della seguente rubrica sono molto astratte ("buono", "discreto"). Riscrivi ogni livello con indicatori osservabili e numerabili (ad esempio "non più di 2 errori", "almeno 3 esempi"). Rubrica: [incolla]

3) Rubrica olistica (valutazione rapida):

Scrivi una rubrica olistica a 4 livelli per "[compito]". Lascia che ogni livello descriva in modo osservabile la natura generale del lavoro in un unico paragrafo. Guadagno: "[guadagno]". Fornisci anche intervalli di note.

4) Controllo della calibrazione:

Di seguito è riportata una rubrica e il lavoro degli studenti. Secondo la rubrica, indica il tuo livello in ciascuna misura, giustificandolo. Dare questo come SUGGERIMENTO; Darò il voto finale. Contrassegna tutti i criteri che rimangono poco chiari. Rubrica + studio: [incolla]

Prompt debole / Prompt forte

Suggerimento debole:

Scrivi una rubrica per il progetto.

Nessun compito, risultato, tipo, numero di criteri, peso; Appare una rubrica astratta e di non realizzazione.

Suggerimento potente:

Il tuo ruolo: insegnante di scienze. Compito: "Lo studente ricerca una fonte di energia rinnovabile e prepara un poster". Obiettivo: "Lo studente spiega il principio di funzionamento e i vantaggi della fonte energetica." 7° grado. Rubrica analitica con 4 criteri: accuratezza del contenuto, chiarezza esplicativa, utilizzo delle fonti, ordine. Aggiunta di criteri di non raggiungimento. Lascia che ogni livello sia osservabile; La somma dei pesi è 100.

caratteristica

Rubrica analitica

rubrica olistica

Numero di criteri

Multiplo, segnato separatamente

Giudizio generale unico

Feedback

Dettagliato, basato su criteri

Generale

velocità

lento

veloce

più adatto

Sviluppo di processi/competenze

Panoramica rapida

Contributo dell'intelligenza artificiale

Criteri + schema di livello

Bozza di paragrafo di livello

Errori comuni

  • Misura di mancato conseguimento. Assegnare un punteggio a cose non correlate al risultato, come la calligrafia, l’estetica e l’accesso ai materiali, vanifica l’equità.
  • Definizione del livello astratto. Definizioni come “buono/giusto” portano a incoerenze e obiezioni; Utilizzare un indicatore osservabile.
  • Mostrerò la rubrica più tardi. La mancata condivisione prima del compito priva lo studente dell'obiettivo.
  • Ottenere il voto AI. L’IA può suggerire punteggi campione, ma è l’insegnante a dare il voto finale; Il controllo della coerenza spetta all'insegnante.
  • Saltare la calibrazione. Usare la rubrica senza provarla con casi di studio porta a risultati sorprendenti.
Attenzione: è allettante ma rischioso dare all'IA il lavoro di uno studente e dire "punteggio". Il lavoro degli studenti potrebbe contenere dati personali (anonimizzati) e il punteggio dell'IA potrebbe essere incoerente/distorto. Utilizzare l'intelligenza artificiale per suggerire punti e delineare il feedback; Decidi tu.

In sintesi

La rubrica è lo strumento che rende la valutazione trasparente, coerente e difendibile. La rubrica analitica fornisce un feedback dettagliato basato su criteri, la rubrica olistica fornisce un rapido giudizio generale. L’intelligenza artificiale elabora rapidamente metriche relative ai risultati, definizioni di livelli concreti e pesi; Ma è responsabilità dell'insegnante individuare i criteri di mancato raggiungimento, rendere osservabili i livelli, calibrarli e attribuire il voto finale. Il voto è una decisione che riguarda lo studente; Non è delegato all’IA.

Compito dell'applicazione

Crea una rubrica con 4 criteri con il modello "Struttura della rubrica analitica" per un compito di prestazione che assegnerai a breve. Rimuovere qualsiasi criterio di mancato raggiungimento e rendere osservabili le definizioni dei livelli. Quindi verifica la coerenza assegnando un punteggio ai tuoi (o ipotetici) 2 studi campione con questa rubrica; Valuta se i punteggi dei due studi riflettono le loro vere qualità e apporta modifiche alla tua rubrica.

lista di controllo

  • [ ] Tutti i criteri sono correlati al raggiungimento (nessun criterio di mancato raggiungimento)?
  • [ ] Le definizioni dei livelli sono osservabili e concrete?
  • [ ] Ho determinato i pesi e la loro somma è 100?
  • [ ] Condividerò la rubrica con lo studente prima dell'attività?
  • [ ] Ho calibrato la rubrica con il lavoro campione e ho dato io stesso il voto finale?