Nyereség:
- Az adatok érzékenységük szerinti osztályozása (nyilvános/belső/bizalmas/kritikus), valamint a bizalmas és kritikus adatok anonimizálása anélkül, hogy nyilvános eszközöknek felfedné őket.
- Az verifikáció reflexsé alakítása és a tények megjelölése, a forráshoz való eljutás és a mesterséges intelligencia által adott forrásnyitás lépéseinek kockázat szerinti skálázása
- Képesség az átláthatóság, a hozzárendelés és a titoktartás etikájának alkalmazására annak megértésével, hogy a törlés nem jelent védelmet, és a felelősség nem róható a médiumra.
Két alapelv ismétlődött ennek a modulnak minden egységében: a titoktartás megőrzése és az egyes kimenetek ellenőrzése. Ez az egység ezt a két elvet egyetlen szisztematikus tudományággá alakítja – mivel a mesterséges intelligencia személyes termelékenységben való használatának legnagyobb kockázata nem a sebesség vagy a minőség, hanem a kiszivárgott adatok és az ellenőrizetlen hamisság. Egy hibás e-mail javítható; A szerverre küldött ügyféladatok nem kérhetők le. A magabiztos hangnemben bemutatott kitalált szám cáfolja a döntést, ha nem veszik észre. Éppen ezért az adatvédelem és a hitelesítés a hatékonyság alapja, amelyet az alapoktól kezdve építenek fel, nem pedig "később adják hozzá".
Feltételek. A személyes adatok olyan információk, amelyek egy személy azonosítására szolgálnak – név, személyazonosító szám, e-mail cím, egészségi állapot, tartózkodási hely. A KVKK/GDPR a személyes adatok védelmét szabályozó törvények (Türkiye-ben a KVKK, az EU-ban a GDPR). Az adatminősítés az információ érzékenysége (nyilvános, belső, bizalmas) szerinti címkézése. Az anonimizálás a személyazonosításra alkalmas elemek eltávolítása az adatokból. Az ellenőrzés a kimenet pontosságának ellenőrzése független forrással.
Adatvédelem: mit kell beilleszteni, mit nem
Minden, amit az AI eszközbe beír, a legtöbb esetben egy szerverre kerül, és valamilyen szolgáltatásban tárolódik, vagy felhasználható a modell betanításához. Tehát az alapkérdés: hajlandó-e átadni ezeket az információkat egy ismeretlen harmadik félnek? Ha a válasz nem, ne adja meg az AI-nak sem.
Használjon egyszerű osztályozást:
osztályban
példa
Ez beleesik az AI-ba?
tábornok
Megjelent információ, szövegtervezet
ingyenes
belső
Feljegyzés a folyamatról, általános értekezlet-összefoglaló
Az anonimizálással
titkos
Ügyféladatok, pénzügyi nyilvántartás, stratégia
Csak az intézmény által jóváhagyott járművek
kritikus
Jelszó, API-kulcs, szerződés, állapot
soha
Gyakorlati védelem: a személyes adatok anonimizálása („A személy”, cég „X vállalat” néven); használja az intézmény jóváhagyott mesterséges intelligencia eszközét (a vállalati verziók gyakran garantálják, hogy nem használják fel az adatokat a képzés során); és olvassa el a mesterséges intelligencia használati szabályzatát – egyébként alapértelmezés szerint óvatos.
Vigyázat: A "Töröltem a csevegést, most már biztonságos" feltevés téves. A törlés eltávolítja a felületről, de nem állítja vissza a szerveren lévő rekordot, illetve a betanításban érintett adatokat. A védelem a ragasztás előtt kezdődik; nem utána.
Validálás: szisztematikus szokás
Legyen az igazolás reflex, ne „ha eszembe jut, megteszem”. Íme egy gyakorlati ellenőrzési szabály:
- Jelölje meg a tényeket. Minden név, dátum, szám, árajánlat, jogszabály, állítás a kinyomtatott formában – ezeket ellenőrizzük.
- Menj a forráshoz. Minden tényt erősítsen meg független, megbízható forrásból. Nyissa meg az AI által megadott forrást, és olvassa el; Létezik, tartalmazza ezt az információt?
- Méretezés kockázat szerint. Enyhe kontroll alacsony kockázatú belső hangon; A nagy téttel bíró prezentációk vagy külső kommunikáció teljes irányítása.
- Fogadd el a bizonytalant. Ha a mesterséges intelligencia azt mondja, hogy „nem biztos”, vagy az információ nem erősíthető meg, ne töltse ki az üres helyet a gyártással; Hagyja "ellenőrizetlen"-ként.
Legfontosabb megkülönböztetés: Általában megbízhat az AI nyelvi munkájában (folyékony mondat, tiszta szerkezet, megfelelő hangnem). Soha ne bízzon vakon az AI tényállításaiban (ez a szám, ez a dátum, ez a forrás). Az érvényesítés elválasztja a kettőt.
Etika: átláthatóság és felelősség
A mesterséges intelligencia hatékonyságának növelése nem etikai kérdés, de a felhasználás módja az lehet. Három alapelv: Átláthatóság – bizonyos összefüggésekben (tanulmányi munka, újságírás, hivatalos dokumentum) előfordulhat, hogy jeleznie kell, hogy mesterséges intelligenciát használ. Attribútum – valaki más ötletének AI-n keresztüli átvétele és sajátjaként való bemutatása plágium, még akkor is, ha a médium megváltozik. Felelősség – minden, amit közzétesz, az Ön felelőssége; „Az AI írta” nem kifogás.
Lépésről lépésre: biztonságos mesterséges intelligencia munkafolyamat-vezérlés
- Rendezés beillesztés előtt. Melyik osztályba tartozik ez az adat? Állj le, ha titkos/kritikus.
- Anonimizálás. Távolítsa el a személyes tárgyakat, ha nem szükséges.
- Készítse elő és jelölje meg a tényeket. Azonosítsa az érvényesítendő tételeket a kimenetben.
- Ellenőrizze. Kockázatléptékű, forrás alapú megerősítés.
- Legyen saját. Retusálj saját hangoddal, vállalj felelősséget.
- Ismerje meg a jelét. Kövesse nyomon, hogy mit illesztett be, és melyik eszköz tárolja az adatokat.
Négy másolható biztonsági/hitelesítési sablon
Névtelenítse a következő szöveget, mielőtt megadná az MI-nek: - Módosítsa a neveket „A/B személy”-re, a cégeket pedig „Vállalatra”
Sorolja fel az összes ellenőrizendő tényt ebben az AI-kimenetben:- Tegyen külön felsoroláspontot minden névhez, dátumhoz, számhoz, statisztikához, idézethez és állításhoz.- Kérdezze meg, hogy „hogyan ellenőrizhetem?” mindegyikre. Javaslat (melyik forrás).- Jelölje meg az ellenőrizhetetleneket/kétségeseket. Kimenet: """[beillesztés]"""
Ellenőrizd a következő állítást az általad megadott forrás szerint: Állítás: [szám/tény].- Ez az állítás valóban szerepel az Ön által említett forrásban?- Ellenkező esetben mondja azt, hogy "Nem tudtam ellenőrizni ebben a forrásban", pótolja.- Ha nem biztos benne, ne beszéljen úgy, mintha biztos lenne benne.
Nézze meg, milyen adatvédelmi kockázatok vannak ebben a feladatban: Feladat: [Az AI-val végzendő munka, milyen adatokkal].- Melyik adatosztályba tartozik (nyilvános/belső/bizalmas/kritikus)?- Bekerüljön egy nyilvános AI-eszközbe vagy ne?- Ha nem, mi a biztonságos alternatíva?
Gyenge felszólítás / Erős felszólítás
Gyenge: „Összefoglalja az ügyfélpanasz e-mailt.” (Ez tartalmazza az ügyfél nevét, rendelési azonosítóját, esetleg telefonszámát – mindez közvetlenül a szerverre kerül.)
Erős: Először anonimizálja a szöveget ("A vásárló, rendelés [azonosító elrejtve], panaszkodik a termékkel kapcsolatban"), majd mondja azt, hogy "összefoglalja ezt az anonimizált szöveget". Ugyanolyan hatékonyság, nulla személyes adatszivárgás. A különbség nem a kimenetben van, hanem a bemenet fenntartásában.
három mini tok
1. eset – Visszafordíthatatlan szivárgás. Egy alkalmazott beillesztette a teljes ügyféllistát (név, telefonszám, kiadás) egy általános mesterséges intelligencia-eszközbe, hogy „szegmentálja őket”. Az intézmény ezt a KVKK megsértéseként értékelte; az adatok most a harmadik fél szerverén voltak, és nem lehetett visszakeresni. Ugyanez az elemzés kockázatmentesen elvégezhető anonimizált adatokkal vagy vállalati eszközzel.
2. eset – Az ellenőrzési reflexet adja. Egy újságíró azt a szabályt hozta, hogy publikálás előtt minden statisztikát és idézetet, amelyet az AI adott, az eredeti forrásnál ellenőriz. Egy hét alatt megállapította, hogy az AI által megadott 5 „tényből” 2 hamis. Ez a reflex megakadályozta az esetleges hamis híreket és a hírnév elvesztését.
3. eset – Az „AI írta” kifogás nem működött. Egy tanácsadó MI által generált jelentést küldött az ügyfélnek anélkül, hogy ellenőrizte volna; A benne szereplő hamis jogi állítás félrevezette az ügyfelet. Az „az MI-től jött” védelem nem tartotta magát sem az ügyfélnek, sem a szabályozónak; A felelősség a tanácsadót terhelte. Tanulság: az eszköz változik, a felelősség nem.
Gyakori hibák
- Bizalmas/kritikus adatok beillesztése: A legdrágább és visszafordíthatatlan hiba; osztályozzon először.
- „Töröltem, biztonságban vagyok” gondolkodás: A törlés nem vonja vissza a szerver regisztrációját; védelem beillesztés előtt.
- A tény és a nyelv összekeverése: Bízzon a nyelvben, ellenőrizze a tényt – válassza el a kettőt.
- Nem nyitja meg az AI által megadott forrást: Hamis lenyomatot eredményezhet; lásd a forrást.
- Az eszközt hibáztatni: „Az AI írta” nem mentség.
- A szabályzat nem ismerete: Olvassa el a szervezet mesterséges intelligencia használati szabályzatát; Ellenkező esetben legyen óvatos.
Tipp: Adjon meg magának egy egyszerű személyes szabályt: "Nem illesztek be semmi bizalmasat vagy kritikus dolgot a nyilvános AI-eszközbe; minden adatot és forrást ellenőrizek, mielőtt elküldenék." Ez a kétmondatos szabály azonnal csökkenti a legtöbb kockázatot ebben a modulban.
Összefoglalva
- A legnagyobb mesterséges intelligencia kockázatot nem a sebesség vagy a minőség jelenti, hanem a kiszivárgott adatok és az ellenőrizetlen pontatlanság.
- Az adatok osztályozása (nyilvános/belső/bizalmas/kritikus); Ne adja át a bizalmas és kritikus információkat nyilvános AI-eszközöknek, tegye névtelenné azokat.
- A törlés nem jelent védelmet; A védelem a ragasztás előtt kezdődik.
- Az ellenőrzést alakítsa reflexké: jelölje meg a tényeket, lépjen a forráshoz, nyissa meg az AI forrását, skálázza a kockázat szerint.
- Bízzon az AI nyelvében, bízzon tényeiben; A felelősség nem a járműre hárul, az mindig a tiéd.
Pályázati feladat
Vegyünk egy tényleges szöveget, amelyet ezen a héten adunk át az AI-nak. A negyedik sablonnal először határozza meg az adatvédelmi osztályt; Ha vannak bizalmas adatok, anonimizálja azokat az első sablonnal. Miután megkapta az AI-kimenetet, a második sablon listázza ki az ellenőrizendő tényeket, és erősítse meg legalább az egyiket az eredeti forrásnál. Írjon magának egy kétmondatos adatvédelmi ellenőrzési szabályt, és tegye közzé valahol.
ellenőrző lista
- [ ] Beillesztés előtt osztályoztam az adatokat.
- [ ] Nem adtam meg bizalmas/kritikus adatokat a nyilvános AI-eszköznek; Szükség esetén anonimizáltam.
- [ ] Minden tényt (név, dátum, szám, forrás) ellenőriztem a kimenetben.
- [ ] Megnyitottam az AI által megadott forrást, és ellenőriztem, hogy valóban tartalmazza-e.
- [ ] Megbizonyosodtam arról, hogy ismerem a vállalati AI szabályzatot.
- [ ] Vállaltam a felelősséget a végső kimenetért.