Nyereség:
- Képes a tanulók adatainak a KVKK és a speciális személyes adatfogalmak keretein belüli osztályozására és anonimizálására, valamint biztonságos járműválasztás alkalmazására
- Képes a PDR szakmai etikai alapelveinek (bizalmasság, jótékonyság, nem rosszindulat, autonómia) adaptálására a mesterséges intelligencia használatához
- Képes felismerni az elfogultságot, a kulturális érzéketlenséget és a hallucinációt a mesterséges intelligencia kimenetében, és etikus felhasználási szabályzatot alkot
A bizalom a PDR-szakma középpontjában áll. Ha egy diák elmondhatja legintimebb érzéseit, családját, félelmeit egy szakembernek, az csak azért van, mert hisz abban, hogy az információ védett lesz. A mesterséges intelligencia eszközök komoly új próba elé állítják ezt a bizalmat: a legérzékenyebb adatok kikerülhetnek az ellenőrzés alól egy mondatban. Ebben az egységben szisztematikusan megvitatjuk a magánélet védelmét, a KVKK, a PDR szakmai etikáját és azt, hogy ezek hogyan vonatkoznak a mesterséges intelligencia használatára. Ezeket az elveket darabonként alkalmaztuk a korábbi egységekben; Itt egy egésszé fogjuk össze, és állandó politikává alakítjuk.
KVKK és adattípusok: mi a védettebb
A KVKK (személyes adatok védelméről szóló törvény) az a törvény, amely szabályozza az emberek adatainak jogszerű kezelését. Két fogalom különösen fontos. Személyes adat minden olyan adat, amely egy személy azonosítására vagy azonosítására szolgál: név, vezetéknév, iskolaszám, osztály, cím, fénykép. A különleges személyes adatok olyan érzékeny adatok, amelyek fokozott védelmet igényelnek: egészség, mentális állapot, diagnózis, szexuális élet, vallás, etnikai hovatartozás, büntetett állapot. A PDR-rekordok többsége ebbe a második, érzékeny kategóriába tartozik; mert a mentális állapot, a családi problémák és a támogatási előzmények közvetlenül privát adatok. Ez azt jelenti, hogy a PDR-adatokat soha nem szabad nyers formában bevinni nyilvános eszközökbe.
A gyakorlatban ez három szabályt foglal magában: (1) Adatminimalizálás – a munkavégzéshez szükséges legkevesebb adatmennyiség felhasználása. (2) Anonimizálás – az adatok összekapcsolhatatlanná tétele az egyén számára a személyazonosításra alkalmas adatok eltávolításával. (3) Biztonságos eszközök és célhatárok – lehetőség szerint használjon adatbiztonságos vállalati eszközöket, és csak arra a célra dolgozzon fel adatokat, amelyre azokat gyűjtötte.
Figyelem: Nem elég azt mondani, hogy "valahogy anonimizáltam". Még akkor is, ha egy név kimarad a szövegből, a helyzet egyedi leírása (egy kis iskola egyetlen diákjának nagyon sajátos helyzete) azonosíthatóvá teheti a személyt. Az anonimizálás során ne csak a nevet általánosítsuk, hanem azokat az adatokat is, amelyek együttesen jelzik a személyt.
Anonimizálási gyakorlat: ellenőrzési eljárás
Mielőtt exportálna egy szöveget az eszközbe, kövesse az alábbi eljárást: (a) Távolítsa el a közvetlen azonosítókat, mint például a név, vezetéknév, szám, osztály, szülő neve, címe, telefonszáma, iskola neve. (b) Általánosítsa a közvetett leírókat: „egy középiskolás diák” a „12-B osztály egyetlen látássérült tanulója” helyett. (c) Szükség szerint homályosítsa el a dátumot és az esemény részleteit. (d) Utólagos olvasás: "Bárki, aki ezt a szöveget olvassa, megtudhatja, hogy kit emlegetnek?" Ha a válasz homályos, általánosítson tovább. A hitelesített nyilvántartás csak az intézmény zárt, biztonságos rendszerébe kerül; Az AI eszköz ezen a rendszeren kívül van.
PDR szakmai etika és mesterséges intelligencia
A PDR szakmai etika négy alapelven alapul, amelyek mindegyike közvetlenül vonatkozik a mesterséges intelligencia használatára:
- Titoktartás (titkok megőrzése): A tanulók adatai védettek. Ennek az elvnek a követelménye, hogy a nyers adatokat ne vigyük be az AI-ba, anonimizáljuk és válasszunk biztonságos eszközt.
- Jótékonyság: Minden tettnek a tanuló jólétét kell szolgálnia. A mesterséges intelligencia a kényelem érdekében használatos, nem pedig olyan módon, amely veszélyeztetné a tanulók hasznát.
- Nem rosszindulat: A prioritás az, hogy ne okozzunk kárt. A nem ellenőrzött kimenet, a pontatlan statisztikák, a címkézés és a mesterséges intelligencia válsághelyzetben történő használata veszélyt jelentenek; ezért a verifikáció és a válsághatár etikai kötelező érvényű.
- Autonómia: A tanuló saját döntési joga védett. A mesterséges intelligencia nem csökkentheti címkévé a tanulót, és nem hozhat döntéseket a nevében.
Ehhez hozzáadódik az elszámoltathatóság: Minden felhasznált eredményért a szakértő a felelős; Az "AI készítette" nem védekezés.
Elfogultság, kulturális érzékenység és átláthatóság
Az AI tükrözheti a társadalmi mintákat a képzési adatokban. A PDR-ben ez a méltányosság kérdése: azok az eredmények, amelyek a tanulót nemük, kultúrájuk vagy társadalmi-gazdasági helyzetük szerint sztereotipizálják, aláássák az esélyegyenlőséget. A szakértő ellenőrzi az előállított tartalom kulturális érzékenységét és elfogultságát. Szintén átláthatóság: adott esetben belsőleg egyértelművé kell tenni, hogy mesterséges intelligenciát használtak egy anyag vagy tervezet elkészítésekor; Nem szabad titkos "varázslatként" használni. A titoktartás elengedhetetlen a tanulóval való kapcsolatban; Amit a tanuló elmagyaráz, az nem száll át járműre.
Lépésről lépésre: AI használati szabályzat létrehozása
- Az adatok osztályozása. Különítse el az összes rendelkezésére álló információt "személyes / privát / nyilvános" néven.
- Válassza ki a járművet. Az egyetlen biztonságos, vállalati eszköz az érzékeny adatokhoz; Névtelenül dolgozzon az általános vázlatért.
- Kövesse az anonimizálási eljárást. Futtassa le az ellenőrzési rutint minden egyes bejegyzés előtt.
- Érvényesítés és torzítás ellenőrzése. Vizsgálja meg az egyes kimeneteket tények és igazságosság szempontjából.
- Tartsa be a válságkorlátot. Tartsa távol a válságot és a konzultációs kapcsolatot a járműből.
- Vállalj felelősséget és légy átlátható. A végső jóváhagyás a szakértőé; A felhasználás a szervezeten belül nyitott.
Másolható sablonok
1) Anonimizálás vezérlése:
Az Ön szerepe: adatvédelmi ellenőrzési asszisztens. Soroljon fel minden olyan állítást az alábbi szövegben, amelyek KÖZVETLENÜL vagy KÖZVETETT azonosíthatják a személyt (név, szám, osztály, iskola, egyedi helyzetleírás), és mindegyikre javasoljon általánosabb alternatívát. A tartalom kommentálása. Szöveg: [szöveg beillesztése]
2) Elfogultság és kulturális érzékenység audit:
Ellenőrizze a következő PDR-anyagot elfogultság és kulturális érzékenység szempontjából: Tartalmaz-e sztereotípiákat a nemről, a kultúráról, a társadalmi-gazdasági státuszról vagy a családszerkezetről? Ki zárhatja ki? Jelölje meg a kockázatos kijelentéseket, és javasoljon átfogó alternatívákat. Anyag: [anyag beillesztése]
3) Vállalati mesterséges intelligencia használati szabályzat tervezete:
Az Ön szerepe: PDR-író asszisztens. Az útmutató szolgálat számára készítsen rövid belső szabályzatot a mesterséges intelligencia eszközök használatáról. Rovatok: mely munkakörökben alkalmazzák, mely munkakörökben nem (válság, diagnózis, konzultáció), adat anonimizálási szabály, ellenőrzési kötelezettség, felelősség a szakértőt terheli. Rövid és alkalmazható.
Gyenge felszólítás / Erős felszólítás
Gyenge:
Összefoglalva Ahmet Yılmaz 8-C helyzetét, erőszaknak voltak kitéve otthon.
A legérzékenyebb adatokat (név, osztály, különleges státusz) nyers formában viszi be a járműbe – súlyos KVKK és etika megsértése; Sőt, ez egy értesítési helyzet is lehet (9. egység).
Erős:
Az Ön szerepe: adatvédelmi asszisztens. Megjegyzés: Az alábbi szöveget anonimizáltam, mielőtt elküldtem volna az eszköznek. Azonban ellenőrizze még egyszer: maradt-e olyan részlet, amely azonosíthatóvá teszi a személyt? Szöveg: "Egy középiskolás diák utalt rá, hogy feszültséget tapasztal otthon."
három mini tok
1. eset – Közvetett közzététel. Egy szakértő éppen olyan szöveget akart bevinni az eszközbe, amelyből kihagyta a nevet; de rájött, hogy az „az iskola egyetlen diákja, aki kerekesszéket használ” kifejezés közvetlenül erre a személyre vonatkozik. Ezt általánosította "egy diákra". A névadás önmagában nem volt elég; Az egyedi helyzet leírása is azonosító volt.
2. eset – Elfogultság-korrekció. Egy szakértő, aki megvizsgált egy karrieranyagot, megállapította, hogy az AI mindig férfineveket használt a mérnöki példákban, és női neveket a gondozási szakmákban. Kiegyensúlyozta a mintákat és eltörte a formát. Ez a látszólag apróbb javítás megőrizte a diákoknak küldött üzenet tisztességességét.
3. eset – Politika kialakítása. Egy pályaorientációs szolgálat közös belpolitikai szöveget alkotott, hogy kiküszöbölje azt a zűrzavart, amely abból adódó, hogy mindenki másként használja az MI-t: mely feladatokban használják, nem krízisben és diagnózisban, az adatok anonimizálása, a kimenet ellenőrzése, a felelősség a szakértőt terheli. Az AI tervezetet adott; A csapat a saját értékrendjével véglegesítette a tartalmat. A bizonytalanság átadta helyét egy világos keretnek.
Gyakori hibák
- Nyers adatok bevitele. Írás a járműre névvel/állapottal. Megoldás: anonimizálási eljárás, biztonságos eszköz.
- Csak a név eltávolítása. A közvetett azonosítók elfelejtése. Megoldás: általánosítson egyedi részleteket is.
- Az elfogultság figyelmen kívül hagyása. Sztereotip kimenet elfogadása. Megoldás: elfogultság és kultúra audit.
- A felelősséget a járműre hárítani. Ez azt jelenti, hogy "MI készítette". Megoldás: a felelősség a szakértőt terheli.
- Visszaélés. Az egyik célból gyűjtött adatok feldolgozása egy másik célra. Megoldás: tartsa be a célhatárt.
Táblázat: Adattípus és mesterséges intelligencia szabály
Adattípus
példa
AI szabály
nyilvános
Általános szakma bemutatkozás
szabadon elérhető
személyes adatok
Név, szám, osztály
Anonimizálás nélkül nem lehet beírni
Különleges minőségű adatok
Mentális állapot, család, diagnózis
Nyers formában soha nem írható be.
válságadatok
Kockázat, bántalmazás, öngyilkosság
Soha ne szálljon be a járműbe (9-es egység)
Összefoglalva
A PDR-ben a titoktartás a szakmába vetett bizalom alapja, és a mesterséges intelligencia korszakának leginkább tesztelt alapelve. A KVKK az adatokat személyes és személyes adatokra különíti el; A legtöbb PDR-adat érzékeny, és nem nyers formában kerül be az eszközbe. Az adatminimalizálás, az anonimizálás (közvetlen és közvetett azonosítókkal) és a biztonságos eszközválasztás az alapszabály. A szakmai etika négy alapelve – a bizalmasság, a jótékonyság, a rosszindulatosság, az autonómia – kötelező érvényű az MI használatára vonatkozóan; Az elfogultság ellenőrzött, a felelősség a szakértőé marad, a felhasználás pedig átlátható a szervezeten belül.
Pályázati feladat
Készítsen egy rövid „AI használati szabályzatot” saját útmutatási szolgáltatásához. Kezdje el a „Vállalati mesterséges intelligencia használati szabályzattervezete” sablont; Ezután állítsa be saját intézménye valóságának megfelelően. Egy (fiktív) szöveget is vezessen át az „anonimizálási ellenőrzés” sablonon, és rögzítsen és általánosítson legalább egy közvetett azonosítót.
ellenőrző lista
- [ ] A birtokomban lévő adatokat személyesnek / magánjellegűnek / nyilvánosnak minősítettem.
- [ ] Az anonimizálásban általánosított direkt és indirekt azonosítókat alkalmaztam.
- [ ] Biztonságos/vállalati eszközt használtam az érzékeny adatokhoz.
- [ ] Ellenőriztem a kimenetet torzítás és kulturális érzékenység szempontjából.
- [ ] Felelősséget vállaltam, és a felhasználást átláthatónak tartottam.