Hagnaður:
- Geta til að biðja um leyfi með rökstuðningi, samhengi og höfnunaratburðarás, með því að nota meginregluna um minnstu forréttindi
- Geta til að geyma viðkvæm gögn dulkóðuð með Keychain / Keystore, beita gagnalágmörkun og stjórna tilhneigingu gervigreindar til að bæta við of mörgum heimildum
- Geta til að stjórna flæði notendagagna í skýið eða gervigreindarþjónustuna sem persónuverndarákvörðun, fá samþykki notenda og nota öryggistækni eingöngu í viðurkenndum, varnarlegum tilgangi
Farsímaforritið virkar á einkatæki notandans: það veit staðsetningu hans, tengiliði, myndir, heilsufarsgögn, hljóðnema. Þessi aðgangur er mikið vald og vald þýðir ábyrgð. Persónuvernd og öryggi eru ekki „viðbót“ í farsímaþróun, heldur meginregla sem er fléttað inn í arkitektúrinn frá upphafi; Þetta er kallað privacy by design. Þar að auki er þetta ekki aðeins siðferðilegt val, það er lögleg (KVKK, GDPR) og verslun (App Store, Google Play) skylda. Í þessari einingu munum við læra hvernig á að biðja um heimildir á réttan hátt, vinna úr gögnum á öruggan hátt, nota gervigreind sem aðstoðarmann á þessu sviði og vernda okkur gegn gildrum þess. Það er til viðbótar mikilvægt atriði í gervigreindarsamhenginu: notendagögn sem fara í gervigreind módel (sérstaklega skýið) eru persónuverndarákvörðun í sjálfu sér.
Listin að biðja um leyfi: minnstu forréttindi
Grunnreglan um öryggi er minnstu forréttindi (að biðja ekki um meiri forréttindi en starf krefst). Forritið þitt ætti aðeins að biðja um leyfið sem það raunverulega þarfnast, á þeim tíma sem það þarfnast þess. Ef það er enginn myndavélareiginleiki verður ekki beðið um leyfi fyrir myndavél; Ef staðsetningin er aðeins nauðsynleg þegar kortið er opið, nægir leyfið „á meðan það er notað“, ekki „alltaf“. Of miklar heimildir valda þreföldu skaða: það grefur undan trausti notenda, leiðir til höfnunar í verslun og eykur hættuna á gagnaleka.
Rétt tímasetning og útskýring á því að biðja um leyfi er mikilvægt. Biddu notandann um leyfi í samhengi og með rökstuðningi, eins og "Aðgangur myndavélar er nauðsynlegur til að skanna kvittunina þína." iOS krefst þessarar lýsingar í Info.plist; Tóm eða villandi lýsing er höfnun verslunar.
Tegund leyfis
slæm nálgun
góð nálgun
tímasetningu
Biðjið um allt við ræsingu
hvetja þegar þú notar eiginleikann
Gildissvið
„Alltaf staðsetning“
"staðsetning meðan á notkun stendur"
Lýsing
Autt eða almennt
Áþreifanleg, sérstök rökstuðningur
höfnunarstaða
App hrynur/hrunur
Vinsamlega býður upp á val
Ábending: Forritið þitt ætti að geta haldið áfram að keyra þegar leyfi er hafnað. Ef notandinn hafnar myndavélinni skaltu bjóða upp á "handvirk innskráningu". Álagning „leyfðu það annars virkar appið ekki“ er bæði slæm reynsla og vandamál í verslun. Biðjið alltaf um höfnunaratburðarásina þegar leyfiskóði er prentaður í gervigreind.
Samþykki og persónuverndarkóði með gervigreind: sjónarmið
AI býr fljótt til kóða sem biður um leyfi, en hann hefur tvær dæmigerðar gildrur. Í fyrsta lagi, að bæta við fleiri heimildum en nauðsynlegt er: staðsetning, tengiliðir geta sett geymsluheimildir í magn „bara ef“. Í öðru lagi, slepptu höfnunaratburðarásinni: skrifaðu bara stöðuna "leyft" og hunsaðu höfnunina. Fyrir hvert leyfi sem búið er til verður þú spurður "er þetta virkilega nauðsynlegt?" og "hvað gerist ef því er hafnað?" Spyrðu spurninga þinna.
Varúð: Dæmiskóðinn sem myndaður er af gervigreindinni gæti geymt notendagögn án dulkóðunar eða sent þau á óöruggan hátt. Viðkvæm gögn (lykilorð, heilsa, fjármál) ættu að vera í öruggri geymslu í tækinu (Lyklakippa — iOS, Keystore — Android; dulkóðað hvelfingarsvæði stýrikerfisins) og send á netinu í gegnum dulkóðaða tengingu (HTTPS/TLS). AI gerir þetta ekki alltaf af sjálfu sér; Spyrðu skýrt og staðfestu.
Lágmörkun gagna og sendingu gagna til gervigreindar
Gögn sem þú safnar ekki geta ekki lekið. Lágmörkun gagna (að safna aðeins þeim gögnum sem raunverulega er þörf) er öflugasta tólið fyrir friðhelgi einkalífsins. Í gervigreindaraðgerðum er þessi regla tvöfalt mikilvæg: þegar gögn eru send til skýja LLM eða ytri gervigreindarþjónustu eru þessi gögn ekki við stjórnvölinn þinn. Áður en þú sendir heilsufarsskýrslu, samtalsefni eða persónulegar upplýsingar notanda í skýið skaltu spyrja þriggja spurninga: (1) Eru þessi gögn virkilega nauðsynleg? (2) Er hægt að vinna úr því á tækinu? (3) Ef það á að senda það, veit notandinn það og samþykkir það? Það er bæði lagaleg og siðferðileg krafa að upplýsa notandann greinilega um að gögn hans fari í gervigreindarþjónustu.
Örugg notkun og varnaráhersla
Viðvörun frá sjónarhóli upplýsingatækni og öryggis: tæknin sem lærð er í þessari einingu er eingöngu til leyfilegrar og varnar notkunar. Það er lögmætt að prófa öryggi eigin forrits, vernda notendagögn og loka veikleikum. Það er ólöglegt og siðlaust að bakfæra forrit einhvers annars án leyfis, safna notendagögnum án samþykkis eða nota gervigreind til að búa til spilliforrit. Þegar þú biður gervigreind um öryggishjálp skaltu alltaf vera innan ramma þess að verja þitt eigið kerfi.
þrjú smámál
Tilfelli 1 - Synjun um óhóflega leyfi. Glósuforrit óskaði eftir heimildum fyrir myndavél, hljóðnema, staðsetningu og tengilið við ræsingu með kóðanum sem AI framleiddi. Google Play hafnaði útgáfunni með því að vitna í „aðgerða-óviðkomandi heimildir“. Útgáfan var samþykkt þegar teymið gaf aðeins út geymsluheimildina sem raunverulega var notuð. Lærdómur: hvert aukaleyfi er áhætta.
Mál 2 — Geymsla án lykilorðs. Heilsuapp geymdi notendamælingar í venjulegri textaskrá eins og í gervigreindardæminu. Í öryggisúttekt kom í ljós að allir sem fengu tækið gætu lesið öll heilsufarsgögn. Gögn flutt í dulkóðaða geymslu með Keystore/lyklakippu. Lexía: viðkvæm gögn eru alltaf dulkóðuð.
Tilfelli 3 - Ótilkynnt ýtt í skýið. Forrit var að senda daglegar athugasemdir notenda til LLM í skýi til að draga þær saman, en það sagði notandanum ekki frá. Þegar sagt var frá því í blöðum missti traust og lagalegt eftirlit. Teymið bætti við skýrri tilkynningu og staðfestingu, auk valkosts í tækinu. Lexía: notandinn verður að vita og staðfesta að gögnin fari til gervigreindar.
Veik kvaðning / Sterk kvaðning
Veik kvaðning: "Biðja um staðsetningarleyfi."
Öflug hvetja: "Biðja um staðsetningarheimild á iOS/Swift með meginreglunni um minnstu réttindi. - Aðeins 'þegar í notkun' leyfi, ekki 'alltaf' - Info.plist lýsing: 'Til að sýna nærliggjandi verslanir' - Ef leyfi er hafnað: bjóða upp á möguleika á að velja borg handvirkt, hrun - Ef leyfi hefur verið neitað áður, beina til stillingar neitunarflæði Ekki bæta við meira leyfi.
Afritanleg sniðmát
Sniðmát til að biðja um leyfi: "Biðja um leyfi fyrir [tegund leyfis] fyrir [vettvang].- Lágmarks umfang (þegar notað/eftir þörfum)- Í samhengi, með rökstuddum útskýringum- Kurteislegur valkostur ef höfnun er, aldrei hrun- Gefðu Info.plist / Manifest færslu líka Ekki bæta við aukaheimildum; rökstyðja hverja heimild."
Sniðmát leyfisendurskoðunar: "Athugaðu heimildirnar sem appið mitt biður um: [heimildalisti + eiginleikar]. Fyrir hverja heimild: er hún raunverulega þörf? Væri þrengra umfang nóg? Myndi það leiða til höfnunar í verslun? Flagga óþarft."
Örugg gagnageymslusniðmát: "Geymdu viðkvæm gögn á öruggan hátt ([gerð]) fyrir [vettvang]:- Dulkóðuð með lyklakippu/lyklageymslu- Ekki geyma í minni í óþarflega langan tíma- Ekki leka inn í logs og öryggisafrit. Gefðu upp kóða og staðfestingarskref.
Sniðmát til að senda gögn til gervigreindar: "Ég er að íhuga að senda eftirfarandi gögn til gervigreindarþjónustu í skýi: [gögn]. Metið: er það virkilega nauðsynlegt? Er hægt að vinna úr þeim á tækinu? Ef þau eru send, hvaða reitir á að fela? Hvernig ætti að fá samþykki notenda? Mæli með öruggustu hönnuninni hvað varðar persónuvernd."
Algeng mistök
- Að biðja um meira leyfi en nauðsynlegt er. Þrífaldur hætta á trausti, verslunarsamþykki og öryggi.
- Óska eftir heimildum í einu við ræsingu. Beiðni um leyfi án samhengis er hafnað; biðja um eiginleikann samstundis.
- Ekki að skrifa höfnunarhandritið. Forritið sem hrynur þegar leyfið er hafnað er bæði slæmt og hafnað.
- Geymir viðkvæm gögn án lykilorðs. Heilsa, fjármál og lykilorð skulu geymd í öruggri geymslu.
- Að senda gögn í skýið/AI án þess að upplýsa notandann. Lagalegt og siðferðilegt brot; Tilkynningar og samþykki er krafist.
- Óheimil notkun öryggistækni. Það er aðeins lögmætt í varnarskyni á þínu eigin kerfi.
Í stuttu máli
Persónuvernd og öryggi eru hönnuð frá upphafi, ekki bætt við síðar. Grundvallarreglan er minnstu forréttindi: biðja aðeins um nauðsynlegt leyfi, þegar nauðsyn krefur, með rökstuðningi, og bjóða upp á kurteislegan valkost ef neitað er. Viðkvæm gögn eru geymd í dulkóðuðu geymslurými og send í gegnum dulkóðaða tengingu. Lágmörk gagna er sterkasta vörnin: gögn sem þú safnar ekki geta ekki lekið. Að senda gögn til gervigreindar, sérstaklega til skýsins, er persónuverndarákvörðun í sjálfu sér; Nauðsyn þess er dregin í efa, ef mögulegt er, á tækinu er æskilegt, notandinn er upplýstur og samþykki hans/hennar er fengið. Sérhver kóði sem framleiddur er er athugaður með hliðsjón af tilhneigingum gervigreindar til að bæta við óhóflegum heimildum og geyma á óöruggan hátt. Öryggistækni er eingöngu notuð í viðurkenndum og varnar tilgangi.
Umsóknarverkefni
Búðu til lista yfir þær heimildir sem forrit (þitt eigið verkefni eða ímyndað) biður um og láttu gervigreindina athuga hvaða heimildir eru óþarfar eða fara fram úr með „Leyfisúttektarsniðmátinu“. Fínstilltu eða fjarlægðu að minnsta kosti eina heimild og skrifaðu afneitun fyrir þann eiginleika. Að auki, ef þú ert að senda notendagögn í skýið skaltu ákvarða öruggustu hönnunina með „Gagnasendingarákvörðunarsniðmátinu til gervigreindar“ og skrifa samþykkistexta notanda.
gátlisti
- [ ] Ég bað um hvert leyfi með rökstuðningi, með meginreglunni um minnstu forréttindi.
- [ ] Ég bað um heimildir í samhengi, á sýningartíma, ekki magni við upphaf
- [ ] Ég skrifaði höfnunarhandrit fyrir hverja heimild, engin hrun
- [ ] Ég geymdi viðkvæm gögn dulkóðuð með Keychain/ Keystore
- [ ] Ég lágmarkaði gögnin sem fara í skýið/AI og bætti við samþykki notenda
- [ ] Ég notaði öryggistækni eingöngu á mínu eigin kerfi í varnarskyni