Mga nadagdag:
- Kakayahang maunawaan at ipatupad ang katotohanan na ang data ng bata ay espesyal na data at na dapat itong maging anonymize sa loob ng saklaw ng KVKK at pagiging kumpidensyal at nangangailangan ng pahintulot ng pamilya.
- Kakayahang suriin ang mga tool ng artificial intelligence sa mga tuntunin ng seguridad ng data, imbakan at paggamit sa pagsasanay ng modelo at piliin ang ligtas
- Kakayahang mapanatili ang mga etikal na hangganan tulad ng diagnostic na awtoridad, stigma, diskriminasyon at ang pinakamahusay na interes ng bata sa workflow
Ang developmental file ng isang bata ay nagdadala ng pinakakilalang impormasyon ng bata: kasaysayan ng pag-unlad, sitwasyon ng pamilya, mga resulta ng screening, mga obserbasyon, at kung minsan ay medikal na impormasyon. Kapag ang impormasyong ito ay nahulog sa maling mga kamay o nagamit nang mali, maaari itong makapinsala sa bata sa mga darating na taon: isang label, isang stigma, isang diskriminasyon. Samakatuwid, ang pagprotekta sa data ng mga bata ay isa sa mga pinakaseryosong responsibilidad ng espesyalista sa pagpapaunlad ng bata; Sa edad ng artificial intelligence, dumarami ang responsibilidad na ito, dahil ang pag-paste ng data sa isang tool ay tumatagal ng ilang segundo at hindi na mababawi. Sa unit na ito, sasaklawin namin ang legal na katayuan ng data ng bata, pagsusuri ng mga tool ng artificial intelligence sa mga tuntunin ng privacy, at mga etikal na hangganan.
Una, ang legal na batayan: Sa Türkiye, kinokontrol ng KVKK (Personal Data Protection Law) ang pagproseso ng personal na data. Ang data ng kalusugan at pag-unlad ng bata ay nasa kategorya ng espesyal na personal na data; Ang kategoryang ito ay napapailalim sa pinakamataas na antas ng proteksyon. Sa Europa, ang katumbas nito ay GDPR. Sa kaso ng isang bata, ang sensitivity ay mas malaki, dahil ang bata ay hindi maaaring magbigay ng wastong pahintulot sa kanyang sariling data; Ang pahintulot (informed explicit consent) ay nakuha mula sa legal na kinatawan, iyon ay, ang pamilya. Ang prinsipyo ng "pinakamahusay na interes ng bata" ay nangingibabaw sa bawat desisyon.
Anonymization: ang pinakapangunahing at makapangyarihang hakbang
Ang pinakasimple, pinakapraktikal na hakbang na nagpoprotekta sa privacy kapag nagtatrabaho gamit ang artificial intelligence ay ang anonymization: pag-alis ng lahat ng impormasyong naghahayag ng pagkakakilanlan (pangalan, apelyido, TR ID number, petsa ng kapanganakan, pangalan ng paaralan/institusyon, address, protocol/file number, mga pangalan ng pamilya) mula sa data at ginagamit lang ang hindi natukoy na impormasyong kinakailangan para sa iyong gawain. Ang pagsulat ng "3 taon at 2 buwang gulang na batang babae" sa halip na "Elif Kaya, 3 taon at 2 buwan, Papatya Kindergarten" ay gumaganap ng data ngunit pinapanatili ang pagkakakilanlan.
Isang salita ng pag-iingat: maaaring muling lumitaw ang pagkakakilanlan kapag maraming maliliit na detalye ang nagsama-sama (ito ay tinatawag na muling pagkakakilanlan). Halimbawa, ang mga detalye tulad ng "Ang nag-iisang kambal sa nayon X, ang kanyang ama ang pinuno" ay maaaring makilala ang tao kahit na walang pangalan. Samakatuwid, ito ay kinakailangan hindi lamang upang tanggalin ang pangalan ngunit din sa pangkalahatan ang mga detalye na ginagawang kakaiba.
Raw (hindi maibabahagi)
Anonymous (naibabahagi)
Elif Kaya, TC 123..., ipinanganak noong 12.03.2022.
3 taong gulang 2 buwang babae
Papatya Kindergarten, 3-A class
institusyong preschool
Ang kanyang ina ay si Ayşe at ang kanyang ama ay si Mukhtar.
magulang
Numero ng file 2024/187
(inalis)
Pansin: Ang pag-upload ng impormasyon ng pagkakakilanlan ng bata, buong ulat o larawan sa isang pampublikong magagamit na artificial intelligence tool ay isang paglabag sa KVKK at privacy at hindi maaaring bawiin. Napupunta ang data sa isang panlabas na server at magagamit ito ng ilang tool para sa pagsasanay ng modelo. Palaging anonymize bago i-upload.
Pagpili ng tool at lifecycle ng data
Hindi lahat ng AI tool ay may parehong antas ng privacy. Kapag sinusuri ang isang tool, itanong: Gumagamit ba ito ng kahusayan sa pagsasanay sa modelo? Saan ito nag-iimbak ng data at gaano katagal? Nag-aalok ba ito ng kasunduan sa pagproseso ng data (para sa paggamit ng korporasyon)? Nasaan ang mga server nila? Ang mga tool sa korporasyon, kinontrata, at pagsasanay na hindi gumagamit ng iyong data ay mas ligtas kaysa sa mga libreng tool na available sa publiko. Gayunpaman, kahit na sa pinakasecure na tool, huwag magbahagi ng mga hindi kinakailangang kredensyal — ang anonymization ang unang depensa sa lahat ng pagkakataon.
Isaalang-alang ang lifecycle ng data: mangolekta ng data (mag-validate), magproseso (kung kinakailangan), mag-imbak (secure, nag-time), magbahagi (awtorisado lang, anonymous), at magtanggal (kapag tapos na). Anumang bagay na idikit mo sa mga tool ng AI ay may panganib na mahulog sa labas ng loop na ito.
Tip: Maglagay ng mahigpit na panuntunan sa itaas ng iyong mga paboritong senyas: "Hindi ako magbabahagi ng anumang impormasyon na nagpapakilala sa bata o pamilya sa pag-uusap na ito." Ang paggawa nitong control reflex ay humahadlang sa pinakakaraniwang paglabag (absent mindedly paste ID).
Mga hangganan ng etika: diagnosis, stigma, diskriminasyon
Ang privacy ay isang teknikal na isyu, ngunit ang etika ay mas malawak. Tatlong hangganan ang kritikal. Awtoridad sa diagnostic: ang espesyalista sa pagpapaunlad ng bata ay nagsasagawa ng screening at pagtatasa ng pag-unlad; Ang tiyak na pagsusuri ay ang trabaho ng may-katuturang pangkat ng doktor/klinikal. Hindi alam ng artificial intelligence ang limitasyong ito; poprotektahan mo. Stigma: ang pagmamarka ng maaga at permanenteng label sa isang bata (sa file, sa pamilya, sa sarili mong isip) ay hindi patas sa bata at maaaring negatibong makaapekto sa kanilang pag-unlad. Diskriminasyon at bias: Maaaring ipakita ng AI ang mga bias sa data ng pagsasanay; Maaari itong magbunga ng mga may kinikilingan na resulta patungkol sa isang partikular na kultura, kasarian o socioeconomic na grupo. Dapat itong mapansin ng eksperto at itama ang mga ito. Higit sa lahat, naninindigan ang prinsipyo ng pinakamahusay na interes ng bata: ang bawat desisyon ba ay para sa ikabubuti ng bata?
Apat na makokopya na prompt
1) Prompt ng anonymization:
bibigyan kita ng text. Alisin ang anumang impormasyon na maaaring magbunyag ng pagkakakilanlan ng bata o pamilya (pangalan, apelyido, TR ID, petsa ng kapanganakan, paaralan/institusyon, address, numero ng file, mga natatanging detalye); palitan ng pangkalahatang ekspresyon([babae], [institusyon ng pre-school]). I-generalize hindi lamang ang pangalan, kundi pati na rin ang mga natatanging detalye na maaaring makilala ang tao. Ilista kung ano ang inalis mo. Teksto: [raw]
2) Prompt ng pagsusuri sa privacy ng sasakyan:
Bigyan ako ng checklist ng mga tanong sa privacy na dapat kong itanong upang magpasya kung maaari akong gumamit ng AI tool na may data ng bata (ay ang data na ginagamit sa edukasyon, pagpapanatili, kontrata, lokasyon ng server, pagtanggal). Huwag gumawa ng mga sagot; ilista mo lang ang mga tanong.
3) Etika/limitasyon ng awtoridad sa pagkontrol ng prompt:
Repasuhin nang may etika ang sumusunod na teksto: (1) ito ba ay gumagawa/nagpapahiwatig ng diagnosis? (2) may stigmatizing label ba? (3) mayroon bang mga pagkiling sa kultura/kasarian/socioeconomic? I-highlight ang bawat problema at magmungkahi ng itinatama, maingat na alternatibo. Teksto: [draft]
4) Prompt ng text ng impormasyon ng pahintulot ng pamilya:
Mag-draft ng maikling NOTIFICATION/CONSENT text sa pamilya na nagpapaliwanag kung paano ko gagamitin at protektahan ang data ng bata. Kabilang dito ang: aling data, para sa anong layunin, kung paano ito pinoprotektahan, kung kanino ito ibinahagi, karapatan sa pag-withdraw. Pagbibigay ng legal na payo; Tandaan na ito ay isang draft at dapat aprubahan ng institusyon.
tatlong mini case
Kaso 1 — Paglabag sa pag-upload ng pagkakakilanlan. Sa isang abalang araw, ini-paste ng isang espesyalista ang ulat sa pag-unlad ng isang bata, na kumpleto sa buong pangalan at ID, sa isang pampublikong tool at nagsasabing "ibuod." Ang data na umalis sa institusyon at pahintulot ng pamilya ay hindi nakuha. Ang tamang paraan ay i-anonymize ang data gamit ang 1st prompt at gumamit lang ng anonymous na impormasyon sa isang secure na tool. Ang paglabag na ito ay parehong legal at etikal na isyu at hindi na mababaligtad.
Kaso 2 — Muling pagkakakilanlan. Tinatanggal ng isang eksperto ang pangalan ngunit iniiwan ang detalyeng "ang tanging triplet sa nayon, ang kanyang ama ay isang imam." Ang detalyeng ito ay nagpapakilala sa bata kahit walang pangalan. Pinapalalim ng eksperto ang anonymization upang gawing pangkalahatan ang mga natatanging detalye: "isang bata ng maraming pagbubuntis na nakatira sa isang rural na lugar." Protektado na ang pagkakakilanlan.
Kaso 3 — Pagwawasto ng bias. Gumagawa ang AI ng isang pinapanigang palagay na implicit sa nilalaman tungkol sa isang pamilyang may mababang kita, gaya ng "kadalasang hindi sapat ang pakikilahok sa mga pamilyang ito." Nahuli ito ng eksperto sa ika-3 prompt; hinahanap ang pahayag na walang katibayan, stigmatizing at diskriminasyon at inaalis ito. Isinulat muli nito ang nilalaman sa isang wika na nakikita ang bawat pamilya bilang pantay at iginagalang.
Mahinang prompt / Malakas na prompt
Mahinang prompt:
Dinidikit ko ang buong ulat ni Elif dito, suriin at magrekomenda ng diagnosis.
Problema: ibinahagi ang impormasyon ng pagkakakilanlan (paglabag sa KVKK), hinihiling ang diagnosis (labis sa pahintulot), walang pahintulot, hindi kinukuwestiyon ang ligtas na sasakyan.
Napakahusay na prompt:
I-edit ang sumusunod na ANONYMOUS development summary (inalis ang impormasyon ng pagkakakilanlan) para sa DRAFT ng pagsusuri. Paggawa ng diagnosis; paggamit ng stigmatizing label; Iwasan ang biased assumption. Markahan [hayaan ang isang eksperto na suriin] kung saan hindi ka sigurado. Buod: [anonymous]
Mga karaniwang pagkakamali
- Pag-upload ng mga kredensyal: Ang pinakakaraniwan at pinakamatinding paglabag; palaging anonymize.
- Mababaw na anonymization: Ang pagtanggal lang ng pangalan ay hindi sapat; gawing pangkalahatan din ang mga natatanging detalye.
- Hindi pagtatanong sa privacy ng tool: Iwasan ang mga tool na gumagamit ng iyong data para sa edukasyon.
- Paglampas sa hangganan ng diagnostic: Ang pagtatasa ay hindi diagnosis; Ang awtoridad ay nakasalalay sa manggagamot/pangkat.
- Hindi kinikilala ang bias: Ayusin ang stigmatizing/discriminatory assumptions ng AI.
Sa buod
Ang data ng bata ay espesyal na personal na data; Nangangailangan ito ng pinakamataas na proteksyon sa loob ng saklaw ng KVKK at ang pagiging kumpidensyal at pahintulot ay nakuha mula sa pamilya. Ang pinakamatibay na depensa kapag nagtatrabaho sa AI ay ang anonymization — gawing pangkalahatan hindi lamang ang pangalan, kundi pati na rin ang mga natatanging detalye na maaaring makilala ang indibidwal. Suriin ang mga tool para sa privacy; Piliin ang ligtas na hindi gumagamit ng iyong data sa pagsasanay. Panatilihin ang etikal na mga hangganan (diagnostic authority, stigma, discrimination/bias) at isaalang-alang ang pinakamahusay na interes ng bata sa bawat desisyon.
Gawain ng aplikasyon
Kumuha ng di-anonymised (tunay, mula sa iyong sariling mga tala) na tala sa pag-unlad; Nang hindi ito ipinapakita sa screen, i-anonymize ito nang manu-mano gamit ang logic ng 1st prompt at ilista ang bawat impormasyong nakuha mo. Suriin ang isang AI tool na ginagamit mo sa mga tuntunin ng privacy gamit ang 2nd prompt. Suriin ang isang draft para sa etika/bias na may prompt 3. Tandaan ang hindi bababa sa tatlong pagwawasto na ginawa mo (isang anonymization, isang etika, isang bias).
checklist
- [ ] I-anonymize ko ang data; Nag-generalize din ako ng mga natatanging detalye.
- [ ] Sinuri ko ang tool na ginamit ko sa mga tuntunin ng privacy; Pinili ko ang ligtas.
- [ ] Kumuha ako ng pahintulot ng pamilya kung kinakailangan.
- [ ] Napanatili ko ang limitasyon ng awtoridad sa diagnostic; Inilapat ko ang pagkakaiba sa pagsusuri-diagnosis.
- [ ] Inalis ko ang mga stigmatizing tag at discriminatory/biased expression.
- [ ] Isinaalang-alang ko ang pinakamahusay na interes ng bata sa bawat desisyon.
- [ ] Hindi ko na-upload ang kredensyal sa anumang sasakyan.