Jednostka 6 / 11

Pomiar-ocena i projektowanie rubryk: kryteria, poziom i spójność

Zyski:

  • Umiejętność zrozumienia analitycznych i całościowych typów rubryk, kryteriów i koncepcji poziomów sukcesu oraz zaprojektowania przejrzystych rubryk przy wsparciu sztucznej inteligencji.
  • Możliwość tworzenia metryk i wag punktowych dostosowanych do osiągnięć na potrzeby oceny zadań, portfela i projektów.
  • Umiejętność zrozumienia, że ​​decyzja o wystawianiu ocen i ocenie końcowej należy do nauczyciela, że ​​sztuczna inteligencja nie jest w stanie samodzielnie wystawiać ocen i tę konsekwencję musi sprawdzać nauczyciel.

Łatwo powiedzieć uczniowi, że „ten projekt dostał 70 punktów”; ale uczeń pyta „dlaczego 70?” lub rodzice sprzeciwiają się, musisz mieć uczciwą i dającą się obronić podstawę. Tą podstawą jest rubryka: narzędzie punktacji, które z góry pokazuje, według jakich kryteriów i na jakim poziomie będzie oceniana wydajność (projekt, kompozycja, prezentacja, portfolio). Dobra rubryka zarówno mówi uczniowi, czego się od ciebie oczekuje, jak i sprawia, że ​​punktacja nauczyciela jest spójna i przejrzysta. Sztuczna inteligencja szybko opracowuje wskaźniki i definicje poziomów związane z osiągnięciami; Ty określasz wyrównanie, uczciwość i wagę. Granica jest jasna: ocena i ocena końcowa to decyzja, która wpływa na ucznia; Odpowiedzialność i ostateczna akceptacja należy do nauczyciela. Sztuczna inteligencja nie może zdobywać punktów sama.

Typy rubryk i ich składniki

Istnieją dwa podstawowe typy. Rubryka analityczna dzieli wyniki na osobne kryteria — na przykład „treść”, „organizacja”, „język i ekspresja”, „pisanie” eseju — i ocenia każde kryterium na osobnym poziomie osiągnięć (np. 4 = bardzo dobry, 3 = dobry, 2 = poprawa, 1 = początek). Zapewnia szczegółowe informacje zwrotne, ale przygotowanie i ocena wymagają czasu. Rubryka holistyczna nadaje jeden ogólny poziom całemu badaniu; Jest szybki, ale nie pokazuje, gdzie brakuje.

Składniki rubryki analitycznej to: kryteria (co oceniamy), poziomy (jak dobrze), definicja poziomu każdej komórki (konkretny wskaźnik tego poziomu) i wagi (jaki procent wyniku jest którym kryterium). Można zaobserwować definicję dobrego poziomu: nie „dobrze napisany”, ale „nie więcej niż 2 literówki i akapity w logicznym porządku”.

Wskazówka: udostępnij uczniowi rubrykę PRZED zadaniem. Rubryka nie jest narzędziem do robienia notatek-niespodzianek, ale mapą do nauki; Jeśli uczeń wie, nad czym pracować, tworzy lepszy produkt.

Spójność i uczciwość

Prawdziwą wartością rubryki jest konsekwencja: jeśli dwóch nauczycieli oceni tę samą pracę w dwóch różnych momentach, wynik powinien być podobny. Nazywa się to niezawodnością oceniającego. Sztuczna inteligencja może stworzyć konspekt rubryk, ale nauczyciel zapewnia spójność: jego zadaniem jest uczynienie opisów poziomów wystarczająco konkretnymi, „skalibrowanie” kilku studiów przypadków z rubrykami (punktacja próbna) oraz wyjaśnienie zasady w marginalnych przypadkach.

W trosce o sprawiedliwość w rubryce nie należy punktować rzeczy nieistotnych dla wyniku (piękno pisma, materiał, do którego uczeń potrzebuje dostępu społeczno-ekonomicznego). Sztuczna inteligencja czasami dodaje kryteria braku osiągnięć, takie jak „estetyka prezentacji”; Konieczne jest ich uporządkowanie.

Krok po kroku: projektowanie rubryk za pomocą sztucznej inteligencji

  1. Podaj zadanie i osiągnięcie. To, co będzie mierzone w rubryce, zależy od wyniku.
  2. Wybierz gatunek. Jeśli chcesz szczegółowej informacji zwrotnej, analitycznej; jeśli chcesz szybkiej ogólnej oceny, całościowej.
  3. Zapytaj o kryteria, ale je filtruj. 3-5 kryteriów dotyczących osiągnięć; usuń te nieistotne.
  4. Definicje poziomu betonu. Zapytaj o obserwowalne wskaźniki.
  5. Schudnąć. Które kryterium jest ważniejsze? Niech suma wyniesie 100.
  6. Kalibrować. Oceń 1-2 przykładowe badania za pomocą rubryk i spójności testów.
  7. Podejmij ostateczną decyzję. Nawet jeśli sztuczna inteligencja zasugeruje przykładową punktację, nauczyciel wystawia ocenę końcową.

trzy mini etui

Przypadek 1 – Ekstrakcja kryterium braku osiągnięć. Turecki nauczyciel poprosił sztuczną inteligencję o analityczną rubrykę do eseju. AI zaproponowała 5 kryteriów, ale jednym z nich było „piękno pisma ręcznego” – kryterium nieistotne dla wyniku i niesprawiedliwie karało ucznia ze słabo rozwiniętym charakterem pisma. Nauczyciel usunął to słowo i zastąpił je „rozwojem pomysłu”. Rubryka była sprawiedliwa i dostosowana do osiągnięć.

Przypadek 2 — Konkretyzacja. W pierwszej rubryce jednego z nauczycieli poziomy były abstrakcyjne, np. „bardzo dobry/dobry/dostateczny”; Dwóch uczniów wykonywało podobną pracę na różnych poziomach. Powiedział AI, aby „przepisał każdy poziom za pomocą obserwowalnego wskaźnika”. Kiedy pojawiły się konkretne definicje, takie jak „Dobrze = co najmniej 3 przykłady i akapit z jasnym wnioskiem”, wzrosła spójność, a zastrzeżenia zmniejszyły się.

Przypadek 3 — Kalibracja. Podczas oceny projektu nauczyciel najpierw ocenił 3 przykładowe projekty w rubryce opracowanej przez sztuczną inteligencję. AI zaoferowała komuś 85; Nauczyciel uznał ten sam projekt za rubrykę 72, ponieważ sztuczna inteligencja zinterpretowała jedno kryterium zbyt hojnie. Nauczyciel doprecyzował opis poziomu i sam wystawiał oceny końcowe. AI przyspieszyła wersję roboczą; Nauczyciel podjął decyzję.

Szablony do kopiowania

1) Zarys rubryk analitycznych:

Twoja rola: [przedmiot] nauczyciel. Zadanie: „[zapisz zadanie wykonawcze]”, osiągnięcie: „[osiągnięcie]”, [X. klasa]. Utwórz rubrykę analityczną z 4 kryteriami. Niech każde kryterium będzie powiązane z wynikiem (DODAJ kryteria nieobiektywne, takie jak charakter pisma i estetyka). Zapisz 4 poziomy sukcesu i OBSERWALNY wskaźnik dla każdego poziomu. Zważ kryteria tak, aby suma wynosiła 100.

2) Konkretyzacja definicji poziomów:

Opisy poziomów w poniższej rubryce są bardzo abstrakcyjne („dobry”, „dostateczny”). Przepisz każdy poziom, stosując obserwowalne, policzalne wskaźniki (np. „nie więcej niż 2 błędy”, „co najmniej 3 przykłady”). Rubryka: [wklej]

3) Rubryka całościowa (szybka ocena):

Napisz 4-poziomową całościową rubrykę dla „[zadanie]”. Niech każdy poziom w sposób zauważalny opisuje ogólny charakter pracy w jednym akapicie. Zysk: „[zysk]”. Podaj także zakresy nut.

4) Kontrola kalibracji:

Poniżej rubryka i praca uczniów. Zgodnie z rubryką podaj swój poziom w każdym takcie, wraz z uzasadnieniem. Podaj to jako SUGESTIĘ; Podam ocenę końcową. Zaznacz kryteria, które pozostają niejasne. Rubryka + opracowanie: [wklej]

Słaba zachęta/silna zachęta

Słaba zachęta:

Napisz rubrykę do projektu.

Brak zadania, osiągnięcia, rodzaju, liczby kryteriów, wagi; Pojawia się rubryka nieosiągnięcia i abstrakcyjna.

Potężny monit:

Twoja rola: nauczyciel przedmiotów ścisłych. Zadanie: „Student bada odnawialne źródła energii i przygotowuje plakat.” Cel: „Uczeń wyjaśnia zasadę działania i zalety źródła energii.” 7. klasa. Rubryka analityczna z 4 kryteriami: trafność treści, przejrzystość wyjaśnień, wykorzystanie źródeł, porządek. Dodanie kryteriów braku osiągnięć. Niech każdy poziom będzie obserwowalny; Suma wag wynosi 100.

funkcja

Rubryka analityczna

rubryka całościowa

Liczba kryteriów

Wiele, punktowanych osobno

Pojedynczy wyrok ogólny

Informacje zwrotne

Szczegółowe, oparte na kryteriach

Generał

prędkość

powolny

szybko

najbardziej odpowiedni

Rozwój procesu/umiejętności

Szybki przegląd

Wkład sztucznej inteligencji

Kryteria + zarys poziomu

Wersja akapitowa na poziomie

Typowe błędy

  • Miara nieosiągnięcia. Ocenianie rzeczy niezwiązanych z wynikiem, takich jak charakter pisma, estetyka i dostęp do materiałów, jest sprzeczne z zasadą sprawiedliwości.
  • Definicja poziomu abstrakcyjnego. Definicje takie jak „dobry/dobry” prowadzą do niespójności i sprzeciwu; Użyj obserwowalnego wskaźnika.
  • Rubrykę pokażę później. Brak udostępnienia przed wykonaniem zadania pozbawia ucznia celu.
  • Dokonywanie oceny AI. Sztuczna inteligencja może zaproponować przykładowe oceny, ale nauczyciel wystawia ocenę końcową; Kontrola spójności należy do nauczyciela.
  • Pomijanie kalibracji. Korzystanie z rubryki bez wypróbowania jej na studiach przypadków przynosi zaskakujące rezultaty.
Uwaga: kuszące, ale ryzykowne jest danie AI pracy studenckiej i powiedzenie jej „ocena”. Prace uczniów mogą zawierać dane osobowe (anonimizować), a wynik sztucznej inteligencji może być niespójny/stronniczy. Użyj sztucznej inteligencji, aby SUGEROWAĆ punkty i przedstawić opinie; Ty decydujesz.

Podsumowując

Rubryka to narzędzie, które sprawia, że ​​ocena jest przejrzysta, spójna i możliwa do obrony. Rubryka analityczna zapewnia szczegółową informację zwrotną opartą na kryteriach, rubryka holistyczna zapewnia szybką ogólną ocenę. Sztuczna inteligencja szybko opracowuje wskaźniki związane z osiągnięciami, definicje konkretnych poziomów i wagi; Jednak obowiązkiem nauczyciela jest ustalenie kryteriów braku osiągnięć, zapewnienie obserwowalności poziomów, ich kalibracja i wystawienie oceny końcowej. Ocena to decyzja, która wpływa na ucznia; Nie jest to delegowane do AI.

Zadanie aplikacji

Utwórz rubrykę z 4 kryteriami za pomocą szablonu „Zarys rubryk analitycznych” dla zadania wydajnościowego, które wkrótce przekażesz. Usuń wszelkie kryteria braku osiągnięć i spraw, aby definicje poziomów były obserwowalne. Następnie przetestuj spójność, oceniając swoje (lub hipotetyczne) 2 przykładowe badania w tej rubryce; Oceń, czy wyniki obu badań odzwierciedlają ich prawdziwe cechy, i wprowadź zmiany w rubryce.

lista kontrolna

  • [ ] Czy wszystkie kryteria są powiązane z osiągnięciem (nie ma kryteriów braku osiągnięć)?
  • [ ] Czy definicje poziomów są obserwowalne i konkretne?
  • [ ] Ustaliłem wagi i ich suma wynosi 100?
  • [ ] Czy udostępnię uczniowi rubrykę przed zadaniem?
  • [ ] Czy skalibrowałem rubrykę z przykładową pracą i sam wystawiłem ocenę końcową?