Mga nadagdag:
- Kakayahang uriin at i-anonymize ang data ng mag-aaral sa loob ng balangkas ng KVKK at mga espesyal na konsepto ng personal na data at ilapat ang ligtas na pagpili ng sasakyan
- Kakayahang iakma ang mga prinsipyo ng propesyonal na etika ng PDR (pagiging kumpidensyal, kabutihan, hindi pagkalalaki, awtonomiya) sa paggamit ng artificial intelligence
- Kakayahang kilalanin ang bias, cultural insensitivity at hallucination sa output ng artificial intelligence at lumikha ng patakaran sa etikal na paggamit
Ang pagtitiwala ay nasa puso ng propesyon ng PDR. Kung ang isang mag-aaral ay maaaring sabihin ang kanyang pinaka-matalik na damdamin, pamilya, at takot sa isang espesyalista, ito ay dahil lamang sa siya ay naniniwala na ang impormasyon ay mapoprotektahan. Ang mga tool ng artificial intelligence ay nagpapakita ng isang seryosong bagong pagsubok sa tiwala na ito: ang pinakasensitibong data ay maaaring mawala sa kontrol sa isang pangungusap. Sa yunit na ito, sistematikong tinatalakay namin ang privacy, KVKK, PDR na propesyonal na etika at kung paano nalalapat ang mga ito sa paggamit ng artificial intelligence. Inilapat namin ang mga prinsipyong ito nang paisa-isa sa mga nakaraang yunit; Dito ay pagsasamahin natin ito sa kabuuan at gagawing permanenteng patakaran.
KVKK at mga uri ng data: ano ang mas protektado
Ang KVKK (Personal Data Protection Law) ay ang batas na kumokontrol sa legal na pagproseso ng data ng mga tao. Dalawang konsepto ang partikular na mahalaga. Ang personal na data ay anumang impormasyon na nagpapakilala o nagpapakilala sa isang tao: pangalan, apelyido, numero ng paaralan, klase, address, litrato. Ang espesyal na personal na data ay isang uri ng sensitibong data na nangangailangan ng mas mataas na proteksyon: kalusugan, mental na estado, diagnosis, sekswal na buhay, relihiyon, etnisidad, kriminal na katayuan. Ang karamihan ng mga tala ng PDR ay nabibilang sa pangalawang kategoryang ito, sensitibong; dahil ang katayuan sa pag-iisip, mga isyu sa pamilya at kasaysayan ng suporta ay direktang pribadong data. Nangangahulugan ito na ang data ng PDR ay hindi dapat ilagay sa hilaw na anyo nito sa mga pampublikong tool.
Sa pagsasagawa, isinasalin ito sa tatlong panuntunan: (1) Pag-minimize ng data — gumana nang may pinakamaliit na dami ng data na kailangan para magawa ang isang trabaho. (2) Anonymization — gawing unlinkable ang data sa indibidwal sa pamamagitan ng pag-alis ng personal na nakakapagpakilalang impormasyon. (3) Secure na paraan at hangganan ng layunin — gumamit ng data-secured na mga tool sa enterprise kung posible at iproseso ang data para lamang sa layunin kung saan ito nakolekta.
Pansin: Hindi sapat na sabihing "Na-anonymize ko ito kahit papaano". Kahit na ang isang pangalan ay tinanggal mula sa isang teksto, ang isang natatanging paglalarawan ng sitwasyon (isang napaka-espesipikong sitwasyon sa isang solong mag-aaral sa isang maliit na paaralan) ay maaaring gawing makikilala ang tao. Sa anonymization, i-generalize hindi lamang ang pangalan kundi pati na rin ang mga detalye na magkakasamang nagpapahiwatig ng tao.
Kasanayan sa pag-anonymize: isang pamamaraan ng kontrol
Bago mag-export ng text sa tool, sundin ang pamamaraang ito: (a) Alisin ang mga direktang identifier tulad ng pangalan, apelyido, numero, sangay ng klase, pangalan ng magulang, address, telepono, pangalan ng paaralan. (b) I-generalize ang mga indirect descriptor: "isang middle school student" sa halip na "ang tanging may kapansanan sa paningin na estudyante sa 12-B." (c) I-blur ang petsa at mga detalye ng kaganapan kung kinakailangan. (d) Pagkatapos ng pagbasa: "Maaari bang malaman ng sinumang nagbabasa ng tekstong ito kung sino ang binabanggit?" Kung malabo ang sagot, i-generalize pa. Ang authenticated record ay isinulat lamang sa sarado, secure na sistema ng institusyon; Ang tool ng AI ay nasa labas ng sistemang ito.
PDR propesyonal na etika at AI
Ang propesyonal na etika ng PDR ay batay sa apat na pangunahing prinsipyo, na ang bawat isa ay direktang naaangkop sa paggamit ng AI:
- Pagkakumpidensyal (pag-iingat ng mga sikreto): Ang impormasyon ng mag-aaral ay protektado. Ang hindi pagpasok ng raw data sa AI, pag-anonymize nito at pagpili ng ligtas na tool ay isang kinakailangan ng prinsipyong ito.
- Beneficence: Lahat ng ginawa ay dapat magsilbi sa kapakanan ng mag-aaral. Ginagamit ang AI para sa kaginhawahan, hindi sa paraang makakompromiso sa benepisyo ng mag-aaral.
- Nonmaleficence: Ang priyoridad ay huwag gumawa ng pinsala. Ang hindi na-verify na output, hindi tumpak na istatistika, pag-label, at paggamit ng AI sa krisis ay mga panganib ng pinsala; samakatuwid ang pag-verify at hangganan ng krisis ay isang etikal na kinakailangan.
- Autonomy: Ang karapatan ng mag-aaral na gumawa ng sarili niyang desisyon ay protektado. Hindi dapat gawing label ng AI ang mag-aaral o gumawa ng mga desisyon sa ngalan niya.
Ang pananagutan ay idinagdag dito: Ang responsibilidad para sa bawat output na ginamit ay nasa eksperto; Ang "AI ang gumawa nito" ay hindi isang pagtatanggol.
Bias, sensitivity sa kultura at transparency
Maaaring ipakita ng AI ang mga pattern ng lipunan sa data ng pagsasanay. Sa PDR, ito ay isang isyu ng pagiging patas: ang mga resulta na ang stereotype ng isang mag-aaral ayon sa kanilang kasarian, kultura, o socioeconomic status ay sumisira sa pagkakapantay-pantay ng pagkakataon. Sinusuri ng eksperto ang nilalamang ginawa para sa sensitivity at bias sa kultura. Gayundin transparency: kung saan naaangkop, dapat itong gawing malinaw sa loob na ginamit ang AI sa paghahanda ng isang materyal o draft; Hindi ito dapat gamitin bilang isang lihim na "magic". Ang pagiging kompidensyal ay mahalaga sa relasyon sa mag-aaral; Ang ipinapaliwanag ng estudyante ay hindi dinadala sa isang sasakyan.
Hakbang-hakbang: pagtatatag ng patakaran sa paggamit ng AI
- Pag-uuri ng data. Paghiwalayin ang lahat ng impormasyong mayroon ka bilang "personal / pribado / pampubliko".
- Pumili ng sasakyan. Ang tanging secure, enterprise tool para sa sensitibong data; Magtrabaho nang hindi nagpapakilala para sa pangkalahatang balangkas.
- Sundin ang pamamaraan ng pag-anonymize. Patakbuhin ang check routine bago ang bawat entry.
- Pagpapatunay at pagsusuri ng bias. Suriin ang bawat output para sa katotohanan at pagiging patas.
- Panatilihin ang limitasyon ng krisis. Panatilihin ang krisis at relasyon sa pagkonsulta sa labas ng sasakyan.
- Pananagutan at maging transparent. Ang panghuling pag-apruba ay pagmamay-ari ng eksperto; Bukas ang paggamit sa loob ng organisasyon.
Mga nakopyang template
1) Kontrol ng anonymization:
Ang iyong tungkulin: katulong sa pag-audit sa privacy. Ilista ang bawat pahayag sa teksto sa ibaba na maaaring DIREKTA o DI-DIREKTONG matukoy ang tao (pangalan, numero, klase, paaralan, natatanging paglalarawan ng sitwasyon) at magmungkahi ng mas pangkalahatang alternatibo para sa bawat isa. Nagkomento ng nilalaman. Teksto: [i-paste ang teksto]
2) Pag-audit ng bias at pagiging sensitibo sa kultura:
Suriin ang sumusunod na materyal ng PDR para sa bias at sensitivity sa kultura: Naglalaman ba ito ng mga stereotype tungkol sa kasarian, kultura, socioeconomic status, o istraktura ng pamilya? Sino ang maaaring ibukod? I-flag ang mga mapanganib na pahayag at magmungkahi ng mga alternatibong kasama. Materyal: [i-paste ang materyal]
3) Bumuo ng patakaran sa paggamit ng corporate AI:
Ang iyong tungkulin: PDR writing assistant. Para sa serbisyo ng paggabay, bumalangkas ng maikling panloob na patakaran sa paggamit ng mga tool ng artificial intelligence. Mga Heading: kung saan ang mga trabaho ito ginagamit, kung saan ang mga trabahong ito ay hindi ginagamit (krisis, diagnosis, konsultasyon), ang panuntunan sa pag-anonymize ng data, obligasyon sa pag-verify, responsibilidad ay nakasalalay sa eksperto. Maikli at naaangkop.
Mahinang prompt / Malakas na prompt
mahina:
Upang ibuod ang sitwasyon ni Ahmet Yılmaz 8-C, siya ay sumasailalim sa karahasan sa tahanan.
Ipinasok nito ang pinakasensitibong data (pangalan, klase, espesyal na katayuan) sa sasakyan sa hilaw na anyo nito — isang malubhang paglabag sa KVKK at etika; Bukod dito, maaari itong maging isang sitwasyon ng notification (unit 9).
malakas:
Ang iyong tungkulin: katulong sa pagkontrol sa privacy. Tandaan: I-anonymize ko ang teksto sa ibaba bago ito isumite sa tool. Gayunpaman, suriin muli: mayroon bang natitirang detalye na ginagawang makikilala ang tao? Text: "Isang estudyante sa middle school ang nagpahiwatig na nakakaranas siya ng tensyon sa bahay."
tatlong mini case
Kaso 1 — Hindi direktang pagsisiwalat. Ang isang eksperto ay malapit nang magpasok ng isang teksto sa tool kung saan tinanggal niya ang pangalan; ngunit napagtanto niya na ang pariralang "nag-iisang estudyante ng paaralan na gumagamit ng wheelchair" ay direktang tumutukoy sa taong iyon. Ini-generalize niya ito sa "isang estudyante". Ang paggawa ng pangalan lamang ay hindi sapat; Ang paglalarawan ng natatanging sitwasyon ay nakikilala rin.
Kaso 2 - Pagwawasto ng bias. Nalaman ng isang eksperto na nag-audit ng isang materyal sa karera na ang AI ay palaging gumagamit ng mga pangalan ng lalaki sa mga halimbawa ng engineering at mga pangalan ng babae sa mga propesyon sa pangangalaga. Binabalanse nito ang mga sample at sinira ang amag. Ang tila maliit na pagwawasto na ito ay napanatili ang pagiging patas ng mensahe na ipinadala sa mga mag-aaral.
Kaso 3 — Pagtatatag ng patakaran. Ang isang serbisyo sa paggabay ay lumikha ng isang karaniwang panloob na text ng patakaran upang maalis ang pagkalito na nagmumula sa katotohanan na ang lahat ay gumagamit ng AI sa iba't ibang paraan: kung saan ang mga gawain ay ginagamit, hindi sa krisis at diagnosis, ang data ay hindi nagpapakilala, ang output ay na-verify, ang responsibilidad ay nasa eksperto. Nagbigay ang AI ng draft; Tinapos ng koponan ang nilalaman gamit ang kanilang sariling mga halaga. Ang kawalan ng katiyakan ay nagbigay daan sa isang malinaw na balangkas.
Mga karaniwang pagkakamali
- Pagpasok ng raw data. Sumulat sa sasakyan na may pangalan/status. Solusyon: pamamaraan ng anonymization, secure na tool.
- Tinatanggal lang ang pangalan. Nakakalimutan ang mga hindi direktang pagkakakilanlan. Solusyon: gawing pangkalahatan din ang mga natatanging detalye.
- Hindi pinapansin ang bias. Pagpapatibay ng stereotypical na output. Solusyon: bias at culture audit.
- Paglalagay ng responsibilidad sa sasakyan. Nangangahulugan ito na "ginawa ito ng AI". Solusyon: ang pananagutan ay nasa eksperto.
- Maling paggamit. Pagproseso ng data na nakolekta para sa isang layunin para sa isa pang layunin. Solusyon: igalang ang limitasyon ng layunin.
Talahanayan: Uri ng data at panuntunan ng AI
Uri ng data
halimbawa
panuntunan ng AI
pampubliko
Pangkalahatang pagpapakilala ng propesyon
malayang magagamit
personal na data
Pangalan, numero, klase
Hindi maipasok nang walang anonymization
Espesyal na kalidad ng data
Katayuan sa pag-iisip, pamilya, diagnosis
Hinding-hindi ito maipapasok sa hilaw na anyo nito.
data ng krisis
Panganib, pang-aabuso, pagpapakamatay
Huwag pumasok sa sasakyan (unit 9)
Sa buod
Sa PDR, ang pagiging kumpidensyal ay ang pundasyon ng pagtitiwala sa propesyon at ang pinakasubok na prinsipyo sa panahon ng AI. Ang KVKK ay naghihiwalay ng data sa personal at pribadong data; Karamihan sa data ng PDR ay sensitibo at hindi inilalagay sa tool sa hilaw na anyo nito. Ang pag-minimize ng data, pag-anonymize (na may mga direkta at hindi direktang pagkakakilanlan) at ligtas na pagpili ng tool ang mga pangunahing panuntunan. Ang apat na mga prinsipyo ng propesyonal na etika—pagiging kumpidensyal, kabutihan, hindi pagkakasala, awtonomiya—ay may bisa sa paggamit ng AI; Kinokontrol ang bias, nananatili ang responsibilidad sa eksperto, at transparent ang paggamit sa loob ng organisasyon.
Gawain ng aplikasyon
Bumuo ng maikling "Patakaran sa Paggamit ng AI" para sa sarili mong serbisyo sa paggabay. Magsimula nang maaga gamit ang template ng "Enterprise AI usage policy draft"; Pagkatapos ay ayusin ito ayon sa katotohanan ng iyong sariling institusyon. Magpasa din ng (fictional) na text sa template na "anonymization check" at kunin at gawing pangkalahatan ang kahit isang hindi direktang identifier.
checklist
- [ ] Inuri ko ang data na mayroon ako bilang personal / pribado / pampubliko.
- [ ] Mayroon akong pangkalahatan ng mga direkta at hindi direktang pagkakakilanlan sa pag-anonymization.
- [ ] Gumamit ako ng secure/enterprise tool para sa sensitibong data.
- [ ] Sinuri ko ang output para sa bias at sensitivity sa kultura.
- [ ] Tinanggap ko ang responsibilidad at pinananatiling transparent ang paggamit.