Voitot:
- Mahdollisuus pyytää käyttöoikeuksia perustelulla, kontekstilla ja hylkäysskenaariolla vähiten etuoikeuksien periaatetta käyttäen
- Mahdollisuus tallentaa arkaluontoisia tietoja salattuna avainnipulla/avainsäilöllä, soveltaa tietojen minimointia ja hallita tekoälyn taipumusta lisätä liikaa käyttöoikeuksia
- Mahdollisuus hallita käyttäjätietojen kulkua pilvi- tai tekoälypalveluun tietosuojapäätöksenä, saada käyttäjän suostumus ja käyttää tietoturvatekniikoita vain valtuutettuihin, puolustustarkoituksiin
Mobiilisovellus toimii käyttäjän yksityisimmillä laitteilla: se tietää hänen sijainnin, yhteystiedot, valokuvat, terveystiedot, mikrofonin. Tämä pääsy on suurta valtaa, ja valta tarkoittaa vastuuta. Yksityisyys ja turvallisuus eivät ole mobiilikehityksen "lisäominaisuus", vaan periaate, joka on kudottu arkkitehtuuriin alusta asti; Tätä kutsutaan sisäänrakennetuksi yksityisyydeksi. Lisäksi tämä ei ole vain eettinen valinta, se on laillinen (KVKK, GDPR) ja kaupan (App Store, Google Play) velvoite. Tässä osiossa opimme pyytämään lupia oikein, käsittelemään tietoja turvallisesti, käyttämään tekoälyä apuna tällä alalla ja suojautumaan sen ansoilta. Tekoälykontekstissa on lisäksi kriittinen ongelma: tekoälymalleihin (erityisesti pilveen) siirtyvä käyttäjädata on jo itsessään tietosuojapäätös.
Luvan pyytämisen taito: vähiten etuoikeus
Turvallisuuden perusperiaate on vähiten etuoikeus (ei vaadi enemmän oikeuksia kuin työ vaatii). Sovelluksesi tulee pyytää vain sitä lupaa, jota se todella tarvitsee, silloin, kun se sitä tarvitsee. Jos kameratoimintoa ei ole, kameran lupaa ei pyydetä; Jos sijainti vaaditaan vain kartan ollessa auki, riittää "käytettäessä" lupa, ei "aina". Liialliset käyttöoikeudet aiheuttavat kolminkertaista haittaa: se heikentää käyttäjien luottamusta, johtaa myymälän hylkäämiseen ja lisää tietovuotojen riskiä.
Luvan kysymisen oikea ajoitus ja selitys on ratkaisevan tärkeää. Pyydä käyttäjältä lupa kontekstissa ja perustelulla, kuten "Kameran käyttö vaaditaan kuitin skannaamiseen." iOS vaatii tämän kuvauksen Info.plistissa; Tyhjä tai harhaanjohtava kuvaus on kaupan hylkääminen.
Lupatyyppi
huono lähestymistapa
hyvä lähestymistapa
ajoitus
Pyydä kaikki käynnistyksen yhteydessä
kehote, kun käytät ominaisuutta
Laajuus
"Aina sijainti"
"sijainti käytön aikana"
Kuvaus
Tyhjä tai yleinen
Konkreettinen perustelu
hylkäystila
Sovellus kaatuu/kaatuu
Tarjoaa ystävällisesti vaihtoehtoja
Vinkki: Sovelluksesi pitäisi voida jatkaa toimintaansa, kun lupa evätään. Jos käyttäjä hylkää kameran, tarjoa "manuaalinen kirjautuminen" -vaihtoehtoa. "Salli tai sovellus ei toimi" -lauseen määrääminen on sekä huono kokemus että kaupan ongelma. Pyydä aina hylkäysskenaariota, kun tulostat lupakoodin tekoälylle.
Suostumus ja tietosuojakoodi tekoälyn kanssa: huomioita
Tekoäly luo nopeasti lupaa pyytävän koodin, mutta siinä on kaksi tyypillistä sudenkuoppaa. Ensinnäkin lisäämällä enemmän käyttöoikeuksia kuin on tarpeen: sijainti, yhteystiedot voivat asettaa tallennuslupia joukkoon "varmuuden vuoksi". Toiseksi hylkäysskenaarion ohittaminen: kirjoita tila "sallittu" ja jätä hylkääminen huomiotta. Jokaisesta luodusta luvasta kysytään "onko tämä todella tarpeellista?" ja "mitä tapahtuu, jos hylätään?" Esitä kysymyksesi.
Varoitus: Tekoälyn luoma näytekoodi saattaa tallentaa käyttäjätietoja ilman salausta tai lähettää ne epävarmasti. Arkaluonteiset tiedot (salasana, terveys, talous) tulee säilyttää turvallisessa tallennustilassa laitteella (Keychain — iOS, Keystore — Android; käyttöjärjestelmän salattu holvialue) ja siirtää verkkoon salatun yhteyden kautta (HTTPS/TLS). Tekoäly ei aina tee tätä spontaanisti; Kysy selkeästi ja varmista.
Tietojen minimointi ja tiedon lähettäminen tekoälylle
Tiedot, joita et kerää, eivät voi vuotaa. Tietojen minimointi (vain todellisuudessa tarvittavien tietojen kerääminen) on tehokkain työkalu yksityisyyden suojaamiseen. Tekoälyominaisuuksissa tämä periaate on kaksinkertainen: kun lähetät tietoja pilvi-LLM-palveluun tai ulkoiseen tekoälypalveluun, tiedot eivät ole sinun hallinnassasi. Ennen kuin lähetät käyttäjän terveysilmoituksen, keskustelun sisällön tai henkilökohtaisia tietoja pilveen, kysy kolme kysymystä: (1) Onko nämä tiedot todella tarpeellisia? (2) Voidaanko sitä käsitellä laitteella? (3) Jos se on lähetettävä, tietääkö käyttäjä sen ja hyväksyykö se sen? On sekä oikeudellinen että eettinen vaatimus ilmoittaa käyttäjälle selkeästi, että hänen datansa menevät tekoälypalveluun.
Turvallinen käyttö ja puolustus keskittyminen
Varoitus IT- ja turvallisuusnäkökulmasta: tässä moduulissa opitut tekniikat on tarkoitettu vain valtuutettuun ja puolustavaan käyttöön. On laillista testata oman sovelluksesi turvallisuutta, suojata käyttäjätietoja ja sulkea haavoittuvuuksia. Jonkun toisen sovelluksen käänteinen suunnittelu ilman lupaa, käyttäjätietojen kerääminen ilman lupaa tai tekoälyn käyttö haittaohjelmien luomiseen on laitonta ja epäeettistä. Kun pyydät tekoälyä tietoturva-apua, pysy aina oman järjestelmäsi puolustamisen puitteissa.
kolme minilaukkua
Tapaus 1 – Ylimääräisen loman epääminen. Muistiinpanosovellus pyysi käynnistettäessä kameran, mikrofonin, sijainnin ja kontaktin käyttöoikeuksia tekoälyn tuottaman koodin avulla. Google Play hylkäsi julkaisun vedoten "toimintoon liittymättömiin käyttöoikeuksiin". Julkaisu hyväksyttiin, kun tiimi julkaisi vain todellisuudessa käytetyn tallennusluvan. Oppitunti: jokainen ylimääräinen loma on riski.
Tapaus 2 — Tallennus ilman salasanaa. Terveyssovellus tallensi käyttäjän mittaukset tekstitiedostoon, kuten AI-esimerkissä. Turvatarkastuksessa havaittiin, että jokainen laitteen hankkinut pystyi lukemaan kaikki terveystiedot. Tiedot siirrettiin salattuun tallennustilaan Keystore/Keychainin avulla. Oppitunti: arkaluontoiset tiedot pysyvät aina salattuna.
Tapaus 3 – Ilmoittamaton työntö pilveen. Sovellus lähetti käyttäjien päivittäisiä muistiinpanoja pilvi LLM:lle tehdäkseen niistä yhteenvedon, mutta se ei kertonut käyttäjälle. Kun siitä kerrottiin lehdistössä, luottamus ja oikeudellinen valvonta menetettiin. Tiimi lisäsi selkeän ilmoituksen ja vahvistuksen sekä laitteessa olevan vaihtoehdon. Oppitunti: käyttäjän on tiedettävä ja vahvistettava, että tiedot menevät tekoälyyn.
Heikko kehote / Vahva kehote
Heikko kehote: "Pyydä sijaintilupaa."
Tehokas kehote: "Pyydä sijaintilupa iOS-/Swift-käyttöjärjestelmässä vähiten etuoikeuden periaatteella. - Vain "käytössä" -lupa, ei "aina" - Info.plist-kuvaus: "Näytä lähellä olevat kaupat" - Jos lupa evätään: Tarjoa mahdollisuus valita kaupunki manuaalisesti, kaatuminen - Jos lupa on evätty aiemmin, lisää W.-käyttölupaa.
Kopioitavat mallit
Malli luvan pyytämiseen: "Pyydä [käyttöoikeustyyppi] lupaa [alustalle].- Minimaalinen laajuus (käytettäessä/tarvittaessa)- Kontekstissa, perustellulla selityksellä- Kohtelias vaihtoehto hylkäämisen tapauksessa, älä koskaan kaatu- Anna Info.plist / Manifest-merkintä myös Älä lisää ylimääräisiä käyttöoikeuksia, perustele jokainen lupa."
Luvantarkastusmalli: "Tarkista sovellukseni pyytämät luvat: [käyttöoikeusluettelo + ominaisuudet]. Jokaiselle luvalla: tarvitaanko sitä todella? Riittääkö suppeampi soveltamisala? Johtaisiko se kaupan hylkäämiseen? Merkitse tarpeeton."
Suojattu tietojen tallennusmalli: "Tallenna turvallisesti arkaluontoiset tiedot ([tyyppi]) [alustalle]: - Salattu avainnipulla/avainsäilön avulla - Älä säilytä muistissa tarpeettoman pitkään - Älä vuoda lokeihin ja varmuuskopioihin Anna koodi ja vahvistusvaiheet."
Malli tietojen lähettämiseen tekoälylle: "Harkitsen seuraavien tietojen lähettämistä pilvi tekoälypalveluun: [data]. Arvioi: onko se todella tarpeellista? Voidaanko se käsitellä laitteella? Jos lähetetään, mitkä kentät tulee peittää? Miten käyttäjän suostumus tulee saada? Suosittele tietosuojan kannalta turvallisinta mallia."
Yleisiä virheitä
- Pyytää enemmän lupaa kuin on tarpeen. Kolminkertainen luottamus, myymälän hyväksyntä ja turvallisuus.
- Lupien pyytäminen kerralla käynnistettäessä. Lupapyyntö ilman kontekstia hylätään; pyytää ominaisuutta välittömästi.
- Ei kirjoita hylkäyskäsikirjoitusta. Sovellus kaatuu, kun lupa evätään, on sekä huono että hylätty.
- Arkaluontoisten tietojen tallentaminen ilman salasanaa. Terveys, talous ja salasanat on säilytettävä turvallisessa varastossa.
- Tietojen lähettäminen pilveen/AI-palveluun ilmoittamatta siitä käyttäjälle. laillinen ja eettinen rikkomus; Ilmoitus ja hyväksyntä vaaditaan.
- Turvatekniikoiden luvaton käyttö. Se on laillista vain puolustustarkoituksiin omassa järjestelmässäsi.
Yhteenvetona
Yksityisyys ja turvallisuus on suunniteltu alusta alkaen, eikä niitä lisätä myöhemmin. Perusperiaate on pienin etuoikeus: pyydä vain tarpeellista lupaa tarvittaessa perustellusti ja tarjoa kohtelias vaihtoehto kieltäytymistilanteessa. Arkaluonteiset tiedot tallennetaan salattuun tallennustilaan ja välitetään salatun yhteyden kautta. Tietojen minimointi on vahvin suoja: keräämättä jääneet tiedot eivät voi vuotaa. Tietojen lähettäminen tekoälyyn, erityisesti pilveen, on jo itsessään tietosuojapäätös; Sen tarpeellisuus kyseenalaistetaan, mikäli mahdollista, laitteessa on etusija, käyttäjälle tiedotetaan ja hankitaan hänen hyväksyntänsä. Jokainen tuotettu koodi tarkistetaan tekoälyn taipumusta lisätä liiallisia käyttöoikeuksia ja tallentaa epävarmaa tietoa. Turvatekniikoita käytetään vain valtuutettuihin ja puolustustarkoituksiin.
Sovellustehtävä
Tee luettelo käyttöoikeuksista, joita sovellus (oma projektisi tai kuvitteellinen) pyytää, ja pyydä tekoälyä tarkistamaan "Luvantarkastusmallin" avulla, mitkä ovat tarpeettomia tai ylimitoitettuja. Tarkenna tai poista vähintään yksi käyttöoikeus ja kirjoita kyseisen ominaisuuden estoskenaario. Lisäksi, jos lähetät käyttäjätietoja pilveen, määritä turvallisin malli "Data sending Decision template to AI" avulla ja kirjoita käyttäjän hyväksyntäteksti.
tarkistuslista
- [ ] Pyysin jokaista lupaa perustellusti, vähiten etuoikeuksien periaatteella.
- [ ] Pyysin käyttöoikeuksia kontekstissa, ominaisuusaikana, en joukkona julkaisun yhteydessä
- [ ] Kirjoitin jokaiselle luvalla hylkäysskriptin, ei kaatumisia
- [ ] Tallensin arkaluontoisia tietoja avainnipulla/avainsäilöllä salattuna
- [ ] Minimoin pilveen/AI:hen menevän datan ja lisäsin käyttäjien hyväksynnän
- [ ] Käytin turvatekniikoita vain omassa järjestelmässäni puolustustarkoituksiin