Табыстар:
- КВКК және арнайы жеке деректер тұжырымдамалары шеңберінде студент деректерін жіктеу және анонимдеу және қауіпсіз көлік таңдауын қолдану мүмкіндігі
- PDR кәсіби этика принциптерін (құпиялылық, пайдалылық, зиян келтірмеу, автономия) жасанды интеллектті пайдалануға бейімдеу мүмкіндігі
- Жасанды интеллект нәтижелеріндегі біржақтылықты, мәдени сезімталдықты және галлюцинацияны тану және этикалық пайдалану саясатын құру мүмкіндігі
Сенім PDR мамандығының негізі болып табылады. Егер студент өзінің ең жақын сезімін, жанұясын, қорқынышын маманға айта алса, ол ақпараттың қорғалатынына сенгендіктен ғана. Жасанды интеллект құралдары осы сенім үшін маңызды жаңа сынақ болып табылады: ең сезімтал деректер сөйлемде бақылаудан шығып кетуі мүмкін. Бұл бөлімде біз жүйелі түрде құпиялылық, KVKK, PDR кәсіби этикасын және олардың жасанды интеллектті пайдалануға қалай қолданылатынын талқылаймыз. Біз бұл принциптерді алдыңғы бөлімдерде бөлшектеп қолдандық; Мұнда біз оны тұтастай біріктіріп, тұрақты саясатқа айналдырамыз.
KVKK және деректер түрлері: не көбірек қорғалған
KVKK (Жеке деректерді қорғау туралы заң) - бұл адамдардың деректерін заңды түрде өңдеуді реттейтін заң. Екі тұжырымдама ерекше маңызды. Жеке деректер дегеніміз - тұлғаны анықтайтын немесе сәйкестендіретін кез келген ақпарат: аты-жөні, тегі, мектеп нөмірі, сынып, мекен-жай, фотосурет. Арнайы дербес деректер – жоғарырақ қорғауды қажет ететін құпия деректер түрі: денсаулығы, психикалық жағдайы, диагнозы, жыныстық өмірі, діні, ұлты, қылмыстық жағдайы. PDR жазбаларының көпшілігі осы екінші, сезімтал санатқа жатады; өйткені психикалық күй, отбасы мәселелері және қолдау тарихы тікелей жеке деректер болып табылады. Бұл PDR деректерін ешқашан шикі түрде жалпыға ортақ құралдарға енгізуге болмайды дегенді білдіреді.
Іс жүзінде бұл үш ережеге аударылады: (1) Деректерді азайту — жұмысты орындау үшін қажетті деректердің ең аз мөлшерімен жұмыс. (2) Анонимизация — жеке тұлғаны анықтауға болатын ақпаратты жою арқылы деректерді жеке тұлғамен байланыстыруға болмайды. (3) Қауіпсіз құралдар мен мақсат шекарасы — мүмкіндігінше деректермен қорғалған кәсіпорын құралдарын пайдаланыңыз және деректерді тек жиналған мақсат үшін өңдеңіз.
Назар аударыңыз: «Мен оны қалай да анонимді етіп қойдым» деп айту жеткіліксіз. Мәтіннен атау алынып тасталса да, жағдайдың бірегей сипаттамасы (шағын мектептегі жалғыз оқушыдағы өте нақты жағдай) адамды анықтауға мүмкіндік береді. Анонимизацияда тек атын ғана емес, сонымен бірге адамды көрсететін мәліметтерді де жалпылаңыз.
Анонимизация тәжірибесі: бақылау процедурасы
Құралға мәтінді экспорттамас бұрын мына процедураны орындаңыз: (a) Аты, тегі, нөмірі, сынып филиалы, ата-ана аты, мекенжай, телефон, мектеп атауы сияқты тікелей идентификаторларды жойыңыз. (b) Жанама дескрипторларды жалпылаңыз: «12-Б сыныптағы жалғыз көзі нашар көретін оқушы» орнына «орта мектеп оқушысы». (c) Қажет болған жағдайда күн мен оқиға мәліметтерін бұлыңғырлау. (г) Пост-оқу: «Осы мәтінді оқыған кез келген адам кім туралы айтылғанын біле ала ма?» Жауап түсініксіз болса, одан әрі жалпылаңыз. Аутентификацияланған жазба тек мекеменің жабық, қауіпсіз жүйесіне жазылады; AI құралы бұл жүйеден тыс.
PDR кәсіби этика және AI
PDR кәсіби этикасы төрт іргелі қағидаға негізделген, олардың әрқайсысы АИ қолдануға тікелей қатысты:
- Құпиялылық (құпияны сақтау): Студенттік ақпарат қорғалған. AI-ға шикі деректерді енгізбеу, оны анонимдеу және қауіпсіз құралды таңдау - бұл принциптің талабы.
- Бенефициент: Жасалған барлық нәрсе студенттің игілігіне қызмет етуі керек. AI студенттің пайдасына нұқсан келтіретіндей емес, ыңғайлы болу үшін қолданылады.
- Зиянды емес: бірінші кезекте зиян келтірмеу. Тексерілмеген өнім, дұрыс емес статистика, таңбалау және дағдарыс жағдайында AI пайдалану зиян келтіру қаупі болып табылады; сондықтан тексеру және дағдарыс шекарасы этикалық императив болып табылады.
- Автономия: студенттің өз бетінше шешім қабылдау құқығы қорғалады. AI студентті жапсырмаға түсірмеуі немесе оның атынан шешім қабылдамауы керек.
Бұған жауапкершілік қосылады: Әрбір пайдаланылған өнім үшін жауапкершілік сарапшыға жүктеледі; «Оны AI жасады» қорғаныс емес.
Біржақтылық, мәдени сезімталдық және ашықтық
AI оқыту деректеріндегі әлеуметтік үлгілерді көрсете алады. PDR-де бұл әділдік мәселесі: оқушыны жынысына, мәдениетіне немесе әлеуметтік-экономикалық мәртебесіне қарай стереотипке айналдыратын нәтижелер мүмкіндіктер теңдігін бұзады. Сарапшы дайындалған мазмұнды мәдени сезімталдық пен біржақтылыққа тексереді. Сондай-ақ ашықтық: қажет болған жағдайда, AI материалды немесе жобаны дайындау кезінде пайдаланылғанын іштей түсіндіру керек; Оны құпия «сиқыр» ретінде қолдануға болмайды. Студентпен қарым-қатынаста құпиялылық маңызды; Студент түсіндіріп жатқан нәрсе көлікке тасымалданбайды.
Қадамдық: AI пайдалану саясатын құру
- Деректерді жіктеу. Сізде бар барлық ақпаратты «жеке / жеке / жалпыға ортақ» деп бөліңіз.
- Көлікті таңдаңыз. Құпия деректерге арналған жалғыз қауіпсіз, кәсіпорын құралы; Жалпы жоспар үшін анонимді түрде жұмыс жасаңыз.
- Анонимизация процедурасын орындаңыз. Әрбір енгізу алдында тексеру тәртібін орындаңыз.
- Валидация және біржақты тексеру. Әрбір нәтижені шындық пен әділдік үшін тексеріңіз.
- Дағдарыс шегін сақтаңыз. Дағдарыс пен кеңес беру қарым-қатынасын көліктен аулақ ұстаңыз.
- Жауапкершілікті алыңыз және ашық болыңыз. Соңғы бекіту сарапшыға тиесілі; Пайдалану ұйым ішінде ашық.
Көшіретін үлгілер
1) Анонимизацияны бақылау:
Сіздің рөліңіз: құпиялылық аудитінің көмекшісі. Төмендегі мәтіндегі адамды ТІКЕЛЕЙ немесе ЖАНА анықтауы мүмкін әрбір мәлімдемені тізіп беріңіз (аты-жөні, нөмірі, сыныбы, мектебі, ерекше жағдайдың сипаттамасы) және әрқайсысына неғұрлым жалпы балама ұсыныңыз. Түсініктеме мазмұны. Мәтін: [мәтінді қою]
2) Біржақтылық және мәдени сезімталдық аудиті:
Төмендегі PDR материалында бейтараптық пен мәдени сезімталдықты тексеріңіз: Онда жыныс, мәдениет, әлеуметтік-экономикалық мәртебе немесе отбасы құрылымы туралы стереотиптер бар ма? Кім жоққа шығара алады? Қауіпті мәлімдемелерді белгілеңіз және инклюзивті баламаларды ұсыныңыз. Материал: [материалды қою]
3) AI пайдаланудың корпоративтік саясатының жобасы:
Сіздің рөліңіз: PDR жазу көмекшісі. Нұсқаулық қызмет үшін жасанды интеллект құралдарын пайдалану бойынша қысқаша ішкі саясаттың жобасын жасаңыз. Айдарлар: қай жұмыста қолданылады, қай жұмыста қолданылмайды (дағдарыс, диагностика, кеңес беру), деректерді анонимизациялау ережесі, тексеру міндеті, жауапкершілік сарапшыға жүктеледі. Қысқа және жарамды.
Әлсіз шақыру / Күшті шақыру
Әлсіз:
8-С Ахмет Йылмаздың жағдайын қорытындылайтын болсақ, ол үйінде зорлық-зомбылыққа ұшырады.
Ол ең құпия деректерді (атауы, класы, ерекше мәртебесі) көлік құралына шикі түрінде енгізеді — КВКК мен этиканы өрескел бұзу; Сонымен қатар, бұл хабарландыру жағдайы болуы мүмкін (9 блок).
Күшті:
Сіздің рөліңіз: құпиялылықты бақылау көмекшісі. Ескерту: Төмендегі мәтінді құралға жібермес бұрын анонимді етіп қойдым. Дегенмен, қайтадан тексеріңіз: адамды анықтауға мүмкіндік беретін деталь бар ма? Мәтін: «Орта сынып оқушысы үйде шиеленісті бастан өткергенін айтты».
үш шағын іс
1-жағдай – Жанама ашу. Сарапшы атын тастап кеткен құралға мәтін енгізбек болды; бірақ ол «мектептегі мүгедектер арбасын пайдаланатын жалғыз оқушы» деген сөздің сол адамға тікелей қатысты екенін түсінді. Ол мұны «студент» деп жалпылады. Тек ат қою жеткіліксіз болды; Бірегей жағдайды сипаттау да анықтаушы болды.
2-жағдай — ауытқуды түзету. Мансаптық материалды тексерген сарапшы AI әрқашан инженерлік мысалдарда ер есімдерін және қамқорлық мамандықтарында әйел есімдерін қолданғанын анықтады. Ол үлгілерді теңестірді және пішінді сындырды. Бұл шамалы болып көрінетін түзету студенттерге жіберілген хабарламаның әділдігін сақтап қалды.
3-жағдай – Саясат құру. Нұсқаулық қызмет AI-ны әркім әртүрлі пайдаланады деген түсініксіздікті жою үшін жалпы ішкі саясат мәтінін жасады: дағдарыс пен диагностикада емес, ол қандай тапсырмаларда пайдаланылады, деректер анонимді, нәтиже тексеріледі, жауапкершілік сарапшыда. AI жобаны берді; Команда мазмұнды өз құндылықтарымен қорытындылады. Белгісіздік айқын шеңберге жол берді.
Жалпы қателер
- Шикі деректерді енгізу. Көлік құралына аты/күйі бар жазу. Шешім: анонимизация процедурасы, қауіпсіз құрал.
- Тек атын алып тастау. Жанама идентификаторларды ұмыту. Шешім: бірегей мәліметтерді де жалпылаңыз.
- Біржақтылықты елемеу. Стереотиптік нәтижені қабылдау. Шешім: бейтараптық және мәдениет аудиті.
- Жауапкершілікті көлікке жүктеу. Бұл «оны AI жасады» дегенді білдіреді. Шешім: жауапкершілік сарапшыға жүктеледі.
- Теріс пайдалану. Бір мақсатта басқа мақсатта жиналған деректерді өңдеу. Шешім: мақсат шегін сақтаңыз.
Кесте: Деректер түрі және AI ережесі
Деректер түрі
мысал
AI ережесі
қоғамдық
Жалпы мамандықпен таныстыру
еркін қол жетімді
жеке деректер
Аты, нөмірі, сыныбы
Анонимизациясыз енгізу мүмкін емес
Арнайы сапалы деректер
Психикалық жағдайы, отбасы, диагнозы
Оны ешқашан шикізат түрінде енгізуге болмайды.
дағдарыс деректері
Тәуекел, қиянат, суицид
Көлікке ешқашан кірмеңіз (9 блок)
Қысқаша айтқанда
PDR-де құпиялылық кәсіпке деген сенімнің негізі және AI дәуіріндегі ең сыналған принцип болып табылады. KVKK деректерді жеке және жеке деректерге бөледі; PDR деректерінің көпшілігі сезімтал және құралға оның өңделмеген түрінде енгізілмейді. Деректерді азайту, анонимдеу (тікелей және жанама идентификаторлармен) және қауіпсіз құралды таңдау негізгі ережелер болып табылады. Кәсіби этиканың төрт қағидасы — құпиялылық, пайдалылық, зиян келтірмеу, автономия — AI пайдалану үшін міндетті болып табылады; Біржақтылық бақыланады, жауапкершілік сарапшыда қалады және ұйым ішінде пайдалану ашық.
Қолданбалы тапсырма
Нұсқаулық қызметіңіз үшін қысқаша «AI пайдалану саясаты» жобасын жасаңыз. «Кәсіпорынның AI пайдалану саясатының жобасы» үлгісімен бастыңыз; Содан кейін оны өзіңіздің мекемеңіздің шынайылығына сәйкес реттеңіз. Сондай-ақ «анонимизацияны тексеру» үлгісі арқылы (ойдан шығарылған) мәтінді өткізіңіз және кем дегенде бір жанама идентификаторды түсіріп, жалпылаңыз.
бақылау парағы
- [ ] Менде бар деректерді жеке / жеке / жалпыға ортақ деп жіктедім.
- [ ] Менде анонимизацияда жалпыланған тікелей және жанама идентификаторлар бар.
- [ ] Мен құпия деректер үшін қауіпсіз/кәсіпорын құралын қолдандым.
- [ ] Шығарылымды біржақтылық пен мәдени сезімталдыққа тексердім.
- [ ] Мен жауапкершілікті қабылдадым және пайдалануды ашық ұстадым.