Ieguvumi:
- Iespēja klasificēt datus pēc to jutīguma (publisks/iekšējs/konfidenciāls/kritisks) un anonimizēt konfidenciālus un kritiskus datus, neatklājot tos publiskiem rīkiem
- Verifikācijas pārvēršana refleksā un faktu atzīmēšana, došanās uz avotu un mākslīgā intelekta dotā avota atvēršanas soļu mērogošana atbilstoši riskam
- Spēja piemērot pārredzamības, attiecinājuma un konfidencialitātes ētiku, saprotot, ka dzēšana nav aizsardzība un ka atbildību nevar attiecināt uz informācijas nesēju.
Divi principi atkārtojās katrā šī moduļa vienībā: saglabājiet konfidencialitāti un pārbaudiet katru izvadi. Šī vienība pārvērš šos divus principus vienā sistemātiskā disciplīnā, jo lielākais AI izmantošanas risks personīgajā produktivitātē ir nevis ātrums vai kvalitāte, bet gan nopludināti dati un nepārbaudīta nepatiesība. Var labot vienu nepareizu e-pastu; Klienta datus, kas ir nosūtīti uz serveri, nevar izgūt. Pārliecinātā tonī pasniegts izdomāts numurs atspēkos lēmumu, ja tas netiks pamanīts. Tāpēc privātums un autentifikācija ir efektivitātes pamati, kas tiek veidoti no paša sākuma, nevis "pievienoti vēlāk".
Noteikumi. Personas dati ir informācija, kas identificē personu — vārds, ID numurs, e-pasts, veselība, atrašanās vieta. KVKK/GDPR ir likumi, kas regulē personas datu aizsardzību (KVKK Turkiye, GDPR ES). Datu klasifikācija ir informācijas marķēšana atbilstoši tās jutīgumam (publisks, iekšējs, konfidenciāls). Anonimizēšana ir personu identificējošu elementu noņemšana no datiem. Verifikācija ir izvades precizitātes pārbaude ar neatkarīgu avotu.
Privātums: ko ielīmēt, ko nelīmēt
Viss, ko ievadāt AI rīkā, vairumā gadījumu nonāk serverī un tiek saglabāts kādā pakalpojumā vai var tikt izmantots modeļa apmācīšanai. Tātad pamatjautājums ir: vai esat gatavs sniegt šo informāciju nezināmai trešajai pusei? Ja atbilde ir nē, nedodiet to arī AI.
Izmantojiet vienkāršu klasifikāciju:
klasē
piemērs
Vai tas ietilpst AI?
Ģenerālis
Publicētā informācija, teksta projekts
bezmaksas
interjers
Procesa piezīme, vispārīgs sanāksmes kopsavilkums
Ar anonimizāciju
noslēpums
Klientu dati, finanšu uzskaite, stratēģija
Tikai iestādes apstiprināti transportlīdzekļi
kritisks
Parole, API atslēga, līgums, veselība
nekad
Praktiskā aizsardzība: personas datu anonimizācija (nosauc "Persona A", uzņēmums "Uzņēmums X"); izmantojiet savas iestādes apstiprināto AI rīku (uzņēmuma versijas bieži vien garantē, ka dati netiks izmantoti apmācībā); un izlasiet savu AI lietošanas politiku — pretējā gadījumā pēc noklusējuma ievērojiet piesardzību.
Uzmanību: pieņēmums "Es izdzēsu tērzēšanu, tagad tas ir droši" ir nepareizs. Dzēšot, tas tiek noņemts no saskarnes, bet netiek atjaunots ieraksts serverī vai apmācībā iesaistītie dati. Aizsardzība sākas pirms līmēšanas; nevis pēc.
Validācija: sistemātisks ieradums
Padariet verifikāciju par refleksu, nevis "Es to darīšu, ja izdomāšu". Šeit ir praktiskā verifikācijas disciplīna:
- Atzīmē faktus. Katrs nosaukums, datums, numurs, citāts, tiesību akts, pretenzija izdrukā — tie tiks pārbaudīti.
- Dodieties uz avotu. Apstipriniet katru faktu ar neatkarīgu, uzticamu avotu. Atveriet AI norādīto avotu un izlasiet to; Vai tā pastāv, vai tā satur šo informāciju?
- Mērogs atbilstoši riskam. Neliela zema riska iekšējās nots kontrole; Pilnīga augsta līmeņa prezentācijas vai ārējās komunikācijas kontrole.
- Pieņemiet nenoteikto. Ja AI saka “nav pārliecināts” vai informāciju nevar apstiprināt, neaizpildiet tukšo laukumu ar izdomājumu; Atstājiet to kā "nepārbaudītu".
Galvenā atšķirība: parasti varat uzticēties AI valodas darbam (raita teikuma, glīta struktūra, atbilstošs tonis). Nekad akli neuzticieties AI apgalvojumiem par faktiem (šim skaitlim, šim datumam, šim avotam). Validācija atdala abus.
Ētika: caurspīdīgums un atbildība
AI izmantošana efektivitātes nolūkos nav ētiska problēma, bet tas, kā jūs to izmantojat, varētu būt. Trīs principi: Pārredzamība — dažos kontekstos (akadēmiskais darbs, žurnālistika, oficiāls dokuments) jums var būt jānorāda, ka izmantojat AI. Attiecinājums — svešas idejas pārņemšana ar AI un tās prezentēšana kā savas ir plaģiāts, pat ja medijs mainās. Atbildība — viss, ko ievietojat, ir jūsu atbildība; "AI uzrakstīja to" nav attaisnojums.
Soli pa solim: droša AI darbplūsmas kontrole
- Pirms ielīmēšanas kārtojiet. Kurā klasē ir šie dati? Pārtrauciet, ja tas ir slepens/kritisks.
- Anonimizēt. Ja tas nav nepieciešams, noņemiet personīgās lietas.
- Izveidojiet un atzīmējiet faktus. Identificējiet vienumus izvadē, lai apstiprinātu.
- Pārbaudīt. Riska mēroga, uz avotu balstīts apstiprinājums.
- Pieder to. Retuši ar savu balsi, uzņemies atbildību.
- Ziniet savu zīmi. Sekojiet līdzi tam, ko ielīmējāt, kur un kurš rīks glabā datus.
Četras kopējamas drošības/autentifikācijas veidnes
Anonimizējiet šo tekstu pirms tā nodošanas AI: - mainiet nosaukumus uz "Persona A/B" un uzņēmumus uz "Uzņēmums
Uzskaitiet visus faktus, kas ir jāpārbauda šajā AI izvadē: - atzīmējiet atsevišķu punktu katram vārdam, datumam, numuram, statistikai, citātam un pretenzijai. - Jautājiet “kā es varu pārbaudīt?” katram. Ieteikt (kurš avots).- Atzīmējiet nepārbaudāmos/šaubīgos. Izvade: """[ielīmēt]"""
Pārbaudiet tālāk norādīto apgalvojumu atbilstoši jūsu norādītajam avotam: Pretenzija: [skaitlis/fakts].- Vai šis apgalvojums tiešām ir iekļauts jūsu pieminētajā avotā?- Pretējā gadījumā sakiet "Es nevarēju to pārbaudīt šajā avotā", izdomājiet to.- Ja neesat pārliecināts, nerunājiet tā, it kā jūs būtu pārliecināts.
Pārbaudiet, kādi privātuma riski pastāv šajā uzdevumā: Uzdevums: [Darbs, ko plānoju veikt ar AI, ar kādiem datiem].- Kurā datu klasē tas ietilpst (publisks/iekšējs/konfidenciāls/kritisks)?- Vai tas jāiekļauj publiskajā AI rīkā?- Ja nē, kāda ir drošā alternatīva?
Vāja uzvedne / spēcīga uzvedne
Vāji: “Apkopojiet klientu sūdzības e-pasta ziņojumu.” (Tajā ir iekļauts klienta vārds, pasūtījuma ID, iespējams, tālrunis — tas viss nonāk tieši serverī.)
Spēcīgs: vispirms anonimizē tekstu (“Klients A, pasūtījums [id paslēpts], sūdzas par šo produktu”), pēc tam sakiet “summēt šo anonimizēto tekstu”. Tāda pati efektivitāte, nulle personas datu noplūdes. Atšķirība nav izvadē, bet gan ievades uzturēšanā.
trīs mini futrāļi
1. gadījums — neatgriezeniska noplūde. Darbinieks ielīmēja visu klientu sarakstu (vārds, tālruņa numurs, tēriņi) vispārējā AI rīkā, lai tos “segmentētu”. Iestāde to novērtēja kā KVKK pārkāpumu; dati tagad atradās trešās puses serverī, un tos nevarēja izgūt. To pašu analīzi var veikt bez riska, izmantojot anonimizētus datus vai uzņēmuma rīku.
2. gadījums — sniedz pārbaudes refleksu. Viens žurnālists noteica, ka pirms publicēšanas ir jāpārbauda visi AI sniegtie statistikas dati un citāti tās sākotnējā avotā. Vienas nedēļas laikā viņš atklāja, ka 2 no 5 AI sniegtajiem “faktiem” ir viltoti. Šis reflekss novērsa iespējamās viltus ziņas un reputācijas zaudēšanu.
3. gadījums — attaisnojums “AI uzrakstīja to” nedarbojās. Konsultants klientam nosūtīja mākslīgā intelekta ģenerētu pārskatu, to nepārbaudot; Tajā ietvertā nepatiesā juridiskā prasība maldināja klientu. Aizsardzība “tas nāca no AI” neizturēja ūdeni ne klientam, ne regulatoram; Atbildība gulēja uz konsultantu. Nodarbība: rīks mainās, atbildība nemainās.
Biežas kļūdas
- Konfidenciālu/kritisku datu ielīmēšana: Dārgākā un neatgriezeniskākā kļūda; klasificē vispirms.
- Domājot "Es to izdzēsu, esmu drošībā": dzēšana neatceļ servera reģistrāciju; aizsardzība pirms ielīmēšanas.
- Jauc faktu ar valodu: uzticieties valodai, pārbaudiet faktu — atdaliet abus.
- Neatverot AI norādīto avotu: var radīt viltotu nospiedumu; skatiet avotu.
- Vainot rīku: "AI uzrakstīja to" nav attaisnojums.
- Nezinot politiku: izlasiet organizācijas AI lietošanas politiku; Pretējā gadījumā esiet piesardzīgs.
Padoms. Izpildiet sev vienkāršu personīgo noteikumu: "Es publiskajā AI rīkā neielīmēju neko konfidenciālu vai kritisku; es pārbaudu katru skaitli un avotu pirms to nosūtīšanas." Šis divu teikumu noteikums samazina lielāko daļu risku šajā modulī uzreiz.
Rezumējot
- Lielākie AI riski ir nevis ātrums vai kvalitāte, bet gan nopludināti dati un nepārbaudīta neprecizitāte.
- Klasificēt datus (publiski/iekšēji/konfidenciāli/kritiski); Nenododiet konfidenciālo un kritisko informāciju publiskiem AI rīkiem, padariet to anonīmu.
- Dzēšana nav aizsardzība; Aizsardzība sākas pirms līmēšanas.
- Pārvērtiet verifikāciju refleksā: atzīmējiet faktus, dodieties uz avotu, atveriet AI avotu, mērogojiet atbilstoši riskam.
- Uzticieties AI valodai, uzticieties tās faktiem; Atbildība nekrīt uz transportlīdzekli, tā vienmēr ir jūsu.
Lietojumprogrammas uzdevums
Paņemiet īstu tekstu, ko šonedēļ nosūtīsit AI. Izmantojot ceturto veidni, vispirms nosakiet privātuma klasi; Ja ir konfidenciāli dati, anonimizē tos, izmantojot pirmo veidni. Pēc AI izvades saņemšanas otrajā veidnē uzskaitiet pārbaudāmos faktus un apstipriniet vismaz vienu no tiem sākotnējā avotā. Uzrakstiet sev divu teikumu privātuma verifikācijas noteikumu un ievietojiet to kaut kur.
kontrolsaraksts
- [ ] Es klasificēju datus pirms to ielīmēšanas.
- [ ] Es nesniedzu konfidenciālus/kritiskus datus publiskajam AI rīkam; Ja nepieciešams, padarīju to anonīmu.
- [ ] Es pārbaudīju katru rezultātu (nosaukums, datums, numurs, avots).
- [ ] Es atvēru AI norādīto avotu un pārbaudīju, vai tas patiešām satur to.
- [ ] Es pārliecinājos, ka zinu korporatīvo AI politiku.
- [ ] Es uzņēmos atbildību par gala rezultātu.