zisky:
- Schopnosť rozlíšiť, kde v pracovnom toku PDR (poznámky z rozhovorov, psychoedukačný materiál, obsah kariéry, zhrnutie sledovania) umelá inteligencia šetrí reálny čas a kde rozhodnutia, ako je diagnostika, poradenstvo a psychologické poradenstvo, sú ponechané na odborníkovi v závislosti od úrovne rizika úlohy.
- Pochopenie, že umelá inteligencia sa v prípade krízy a rizika nikdy nemôže rozhodnúť, že je potrebné poradiť sa s ľudskými odborníkmi a potrebnými autoritami a že každý výstup musí byť overený.
- Anonymizácia údajov študentov v rámci KVKK, profesijná mlčanlivosť a etické princípy PDR a osvojenie si návyku vyberať si bezpečné vozidlá
Deň školského poradcu je plný písania a dokumentácie, ktorú vidí len málo ľudí: záznamy z individuálnych rozhovorov, plány poradenstva v triede, psychoedukačné brožúry, informačné listy pre rodičov, správy o mierke, tabuľky sledovania študentov, zápisnice zo skupín a komisií, materiály na výber povolania. Veľká časť tejto práce sa opakuje a zaberá hodiny pri stole; Skutočná hodnota profesie však spočíva v osobnom vzťahu so študentom založenom na dôvere. Umelá inteligencia (AI) – počítačové programy, ktoré dokážu porozumieť ľudskému jazyku a vytvárať text, obrysy, plány a súhrny – je silným pomocníkom na urýchlenie tohto opakovaného písania. V tomto module sa naučíme používať AI nie ako magické riešenie, ale ako pomocníka pri písaní, ktorý vytvára návrhy, dáva nápady a upravuje.
Ale hneď na začiatok si dajme dve vety, ktoré v tejto profesii stoja nad všetkým: AI nerozhoduje o študentovi; Nediagnostikuje, neposkytuje poradenstvo ani nenahrádza psychologický poradenský vzťah. A ešte kritickejšie: V situáciách krízy a rizika AI nikdy nevstúpi do hry; Tam sú ľudskí odborníci, rodina a kompetentná autorita nevyhnutná. Tieto dva princípy sú bezpečnostným základom, na ktorom je postavený zvyšok modulu.
Táto prvá jednotka kladie tri základy: rozlišovanie, kde AI šetrí čas v pracovnom toku PDR a kde by sa mala zastaviť; overenie každého výstupu; ochrana údajov študentov.
Kde AI šetrí čas, kde rozhodnutie patrí odborníkovi?
Je užitočné myslieť na úlohy PDR z hľadiska úrovne rizika. Miera rizika je to, koľko škody spôsobí študentovi, ak je úloha vykonaná nesprávne. V PDR je toto riziko závažnejšie ako vo väčšine profesií; pretože ide o duchovnú pohodu, bezpečnosť a budúcnosť dieťaťa.
Nenáročné úlohy, ktoré AI výrazne urýchľuje: načrtnutie poradenstva v triede, napísanie prvej verzie testovacej brožúry o úzkosti, usporiadanie roztrúsených poznámok z pohovoru do organizovanej štruktúry (po odstránení osobných údajov), vypracovanie bulletinu pre rodičov, zjednodušenie úvodného textu o kariére, generovanie nápadov na psychovzdelávaciu prezentáciu. Tu AI rieši problém „prázdnej stránky“; Opravíte ho, obohatíte o svoje odborné znalosti a dáte konečný súhlas.
Vysokorizikové úlohy, pri ktorých je rozhodnutie ponechané na odborníkovi: Označiť študenta nálepkou podobnú diagnóze („toto dieťa je v depresii“, „má deficit pozornosti“), klinicky interpretovať výsledok škály, nasmerovať študenta k profesii, použiť definitívne vyjadrenia pre rodinu, definovať správanie ako „rizikové“ a iniciovať akciu. Tieto rozhodnutia ovplyvňujú život dieťaťa; Zodpovednosť a posledné slovo patrí vždy odborníkovi. AI tu ponúka nanajvýš uhol pohľadu, nemôže rozhodovať.
Zakázaná oblasť – kam AI nikdy nevstúpila: Kríza a riziko. Samovražedné myšlienky, ubližovanie sebe alebo iným, sexuálne/fyzické/emocionálne zneužívanie, zanedbávanie, závažné psychické symptómy. V týchto prípadoch sa pýtame AI „Čo mám robiť?“ Pýtanie sa je mrhaním cenných minút a snahou delegovať zodpovednosť na program. Správne je sprevádzkovať havarijný protokol, spojiť sa s autorizovaným ľudským odborníkom a rodinou a upovedomiť potrebné orgány. Podrobne sa tomu budeme venovať v časti 9; Ale reflex sa musí zaviesť od dnešného dňa.
Pozor: „AI povedala“ nie je odôvodnením. Výstup AI nenahrádza schválenie kompetentným odborníkom v akejkoľvek oblasti, ktorá ovplyvňuje duševnú pohodu, bezpečnosť alebo budúcnosť študenta. Neoverený výstup AI je ako neoverená fáma.
Prečo je potrebné overenie? Halucinácie a zaujatosť
AI neprodukuje text „poznaním“, ale „predpovedaním možného slova“. Preto niekedy podáva mimoriadne plynulé, no v skutočnosti nesprávne informácie. Toto sa nazýva halucinácia: vedecká štúdia, ktorá neexistuje, nevyslovený citát, falošná štatistika, škálová norma, ktorá neexistuje, vymyslená smernica. Pre špecialistu na PDR je to nebezpečné; Pretože nesprávne informácie podané v psychoedukácii sa u študenta zmenia na permanentnú mylnú predstavu a chybná štatistika poskytnutá rodine sa zmení na nesprávnu úzkosť.
Druhým problémom je zaujatosť: AI môže opakovať sociálne vzorce v údajoch, na ktorých je trénovaná; môže produkovať zaujatý výstup o pohlaví, kultúre, sociálno-ekonomickom postavení alebo „úspechu“. Napríklad môže nakloniť študentku k určitým profesiám a študenta k iným; alebo to môže u jedného študenta charakterizovať správanie ako „neposlušnosť“ a u iného „vážny problém“. Zaujatosť v PDR priamo podkopáva princíp spravodlivosti a rovnosti príležitostí.
Kvôli týmto dvom limitom navrhujeme jednoduchú validačnú disciplínu, ktorá sa má aplikovať na každý výstup:
- Pripojte ho k zdroju. Overte si čokoľvek, čo obsahuje fakty, štatistiky, citáty, pravidlá alebo diagnostické kritériá zo spoľahlivého zdroja (vedecká štúdia, vládna agentúra, dokument profesijnej organizácie).
- Skontrolujte znova. Manuálne skontrolujte číselný alebo logický výstup (tabuľka, časový plán).
- Profesionálny filter. "Je to vhodné pre tohto študenta, tento vek, túto kultúru, túto rodinu? Je pravdepodobné, že to spôsobí škodu?" zvládnuť to s vlastnou odbornosťou.
- Prevezmite zodpovednosť. Vo chvíli, keď ho schválite, je tento text váš. Akékoľvek chyby sú vašou zodpovednosťou.
Údaje o študentovi: súkromie od začiatku
Záznamy PDR obsahujú najcitlivejší typ údajov. Meno študenta, číslo, trieda sú osobné údaje; duševný stav, rodinná situácia, informácie o zdravotnom stave, diagnóza alebo trauma sú špeciálne osobné údaje a vyžadujú si oveľa vyššiu ochranu. V Türkiye to upravuje KVKK (zákon o ochrane osobných údajov); Okrem toho má špecialista PDR prísnu povinnosť mlčanlivosti vyplývajúcu z profesionálnej etiky. Jednoduché zadanie mena, stavu alebo záznamu konverzácie študenta do verejného nástroja AI znamená, že najcitlivejšie údaje sú mimo vašej kontroly.
Pravidlo je jednoduché a nekompromisné: Najprv anonymizovať. Odstráňte identifikačné údaje ako meno-priezvisko, číslo školy, trieda-pobočka, meno a adresa rodiča; Používajte všeobecné výrazy ako „študent A“, „13-ročný študent“, „tínedžer prežívajúci rodinné napätie“. Ak je to možné, vyberte si firemné nástroje, ktoré poskytujú záruku spracovania údajov a ktoré poskytuje vaša škola alebo ministerstvo. Tento princíp prehĺbime v 10. bloku; Urobte z toho zatiaľ reflex.
Tip: Pred vložením textu do AI vyhľadajte pomocou „Ctrl+F“ meno, číslo, inštitúciu a meno rodiča. Ak ho nájdete, pred odoslaním ho nahraďte všeobecnými frázami. V prípade pochybností: "Identifikujú tieto informácie študenta?" pýtať sa; Ak je vaša odpoveď áno, zobrazí sa.
tri mini prípady
Prípad 1 – Vytvorená štatistika. Poradca požiadal AI o „testovaciu mieru úzkosti u študentov stredných škôl“ na seminári o testovacej úzkosti. AI dala jasné číslo ako „73 %“ a názov „výskum“. Keď sa učiteľ snažil hľadať zdroj, videl, že ani to miesto, ani tá štúdia neexistuje. Vďaka overovaciemu kroku otočil 120 rodičom fiktívne číslo; namiesto toho použil všeobecné vyhlásenie, ktorého zdroj sa dal overiť. Príprava trvala o 6 minút dlhšie, dezinformácie boli zablokované.
Prípad 2 – Úspora času. Špecialista PDR plánoval samostatné aktivity v triede pre 4 triedy každý mesiac a strávil tým približne 4 hodiny. Začal používať AI ako generátor návrhov: nechal AI vytvoriť návrhy plánov stretnutí na základe výsledku a upravil ich podľa reality v triede. Čas klesol zo 4 hodín za mesiac na ~1,5 hodiny; Zarobených 2,5 hodiny venoval jednotlivým stretnutiam. Kvalita neutrpela, pretože finálnu úpravu a filtrovanie vykonal odborník.
Prípad 3 – Krízová hranica. V jednom rozhovore študentka hovorila o myšlienkach ublížiť si. Myseľ odborníka sa pýta: "Mám napísať situáciu AI a získať návrhy?" Prešlo to, ale zastavilo sa: bola to krízová situácia. Bez toho, aby napísal AI jediný riadok, vykonal núdzový protokol, informoval vedenie školy a rodinu a bezpečne nasmeroval študenta k príslušnému špecialistovi. AI použil až po kríze, na úpravu jazyka zápisnice, ktorá incident zaznamenala anonymne.
Kopírovateľné šablóny
1) Rozdelenie úlohy podľa úrovne rizika:
Vaša úloha: PÍSANIE asistenta školského poradcu. Rozdeľte nasledujúcich 8 úloh PDR do dvoch zoznamov: (A) úlohy s nízkym rizikom, pri ktorých môže AI s istotou vytvoriť prehľad, (B) úlohy s vysokým rizikom, pri ktorých musí konečné rozhodnutie zostať na odborníkovi. Taktiež, ak úloha spadá do krízovej/rizikovej oblasti, označte ju „ZAKÁZANÉ – odborník na človeka“. Ku každej úlohe napíšte jednovetové odôvodnenie. Úlohy: [sem vložte svoje vlastné týždenné úlohy]
2) Výzva na kontrolu overenia:
Označte každú vetu v texte nižšie, ktorá obsahuje fakt, štatistiku, citát, zdroj alebo vedecké tvrdenie, a ku každej pridajte poznámku „z akého zdroja by mala byť overená?“ Neoverujte sa; uveďte iba to, čo je potrebné overiť.Text: [prilepiť koncept]
3) Predbežná kontrola anonymizácie:
Nájdite každú frázu v texte nižšie, ktorá by mohla priamo alebo nepriamo popisovať študenta (meno, číslo, ročník, škola, meno rodiča, jedinečný popis situácie) a navrhnite pre každú všeobecnú alternatívu. Obsah komentára.Text: [prilepiť text]
4) Pomocné otázky na prípravu na pohovor:
Vaša úloha: asistent písania PDR. Diagnóza, poradenstvo. Pripravujem sa na PODPORNÉ stretnutie s 13-ročnou študentkou (anonymnou) o akademickej motivácii. Navrhnite 8 nehodnotiacich, otvorených prípravných otázok. V hornej časti pridajte varovanie „Poraďte sa s odborníkom/rodinou“, ak sa zistia príznaky krízy.
Slabá výzva / Silná výzva
slabé:
Môj študent je nešťastný, čo mám robiť?
Táto výzva je bez kontextu, môže predstavovať riziko pre osobné údaje a posúva AI do oblasti diagnostiky/odporúčania; produkuje všeobecný, riskantný a neužitočný výstup.
Silný:
Vaša úloha: PÍSANIE asistenta školského poradcu. Nediagnostikujte ani neposkytujte pokyny. Nasledujúca situácia bola ANONYMOZOVANÁ. Kontext: Zdá sa, že 13-ročný študent v posledných týždňoch stratil záujem o vyučovanie. Úloha: Navrhnite 6 neodsudzujúcich, otvorených prípravných otázok na PODPORNÝ rozhovor s týmto študentom. Ak sa zistia príznaky krízy, pridajte do hornej časti varovanie „Poraďte sa s odborníkom/rodinou“.
V tejto požiadavke je od začiatku zakódovaná rola, limit, anonymita, formát a krízový reflex.
Časté chyby
- Prilepenie poverení. Zadanie záznamu rozhovoru alebo mena študenta do nástroja tak, ako je. Riešenie: Najprv anonymizujte.
- Pýtať sa AI na krízu. Trávenie minút v prípade rizika. Riešenie: priamy protokol a ľudský expert.
- Použitie bez overenia. Odovzdanie vymyslených štatistík/zdrojov žiakovi alebo rodičovi. Riešenie: pripojte k zdroju.
- Čakanie na diagnózu. Od AI po otázku „čo je s týmto dieťaťom?“ požiadať o diagnózu. Riešenie: diagnostika a interpretácia patrí odborníkovi.
- Znamená to „povedala AI“. Prenesenie zodpovednosti na vozidlo. Riešenie: konečné rozhodnutie a zodpovednosť patrí odborníkovi.
Tabuľka: Úroveň rizika misie a úloha AI
Quest
Úroveň rizika
Úloha AI
rozhodovateľ
Náčrt činnosti triedneho poradenstva
nízka
Generuje koncept
Odborník organizuje
Prvá verzia psychoedukačnej brožúry
nízka
návrh + nápad
Odborník potvrdzuje
Úprava poznámok ku konverzácii (anonymné)
stredná
Rozloženie formátu/jazyka
Odborník potvrdzuje
Interpretácia výsledkov stupnice
vysoká
Len jazyková prezentácia
Odborné recenzie
Diagnóza / definitívne usmernenie
vysoká
Nezúčastňuje sa
odborník
Reakcia na krízu/riziko
zakázané
Nezúčastňuje sa
odborník na človeka + autorita
V súhrne
Umelá inteligencia je výkonný asistent, ktorý urýchľuje opakované písanie PDR, ale nerozhoduje o nej. Oddeľte úlohy podľa úrovne rizika; Voľne používajte AI pri nízkorizikových návrhoch, vysoko rizikové rozhodnutia si nechajte pre seba, v kríze a riziku úplne vynechajte AI. Overte každý výstup, anonymizujte všetky údaje, vždy prevezmite zodpovednosť.
Aplikačná úloha
Zapíšte si 10 svojich vlastných týždenných úloh PDR do zoznamu. Každý z nich označte ako „nízke riziko / vysoké riziko / zakázané (kríza)“. Potom pomocou vyššie uvedeného vzoru „silnej výzvy“ nechajte nástroj umelej inteligencie anonymne vytvoriť návrh jednej z nízkorizikových úloh a preveďte výstup cez 4 kroky overovacej disciplíny.
kontrolný zoznam
- [ ] Úlohu som rozdelil na rizikovú úroveň (nízka/vysoká/zakázaná).
- [ ] Pred vložením textu do nástroja som anonymizoval poverenia.
- [ ] V krízovej/rizikovej situácii som sa zameral na protokol a ľudského experta, nie na AI.
- [ ] Overil som si fakty, štatistiky a zdroje vo výstupe.
- [ ] Prijal som, že konečné rozhodnutie a zodpovednosť leží na mne.