Nyereség:
- Megérti, hogy a modell hallucinációkat okozhat, és minden kimenetet ellenőrizni kell
- Ismeri a bizalmas és személyes adatok azonnali közzétételének kockázatait és biztonságos alternatíváit
- Etikai, szerzői jogi és felelősségi korlátokat alkalmaz a mesterséges intelligencia használata során
Nem elég elsajátítani a felszólítások írását; Meg kell tanulni a mesterséges intelligencia felelősségteljes használatát is. Ez az egység az a biztonsági réteg, amelyet a technikai tudáson felül kell helyezni. A mesterséges intelligencia gyors, meggyőző és gyakran pontos válaszokat ad; Néha azonban ugyanolyan magabiztossággal állít elő teljesen hamis információkat, veszélybe sodorhatja az érzékeny adatokat, és feszegetheti az etikai határokat. Ebben a részben a kimenet ellenőrzésével, a modell korlátaival, a titoktartással és az etikai felelősséggel foglalkozunk. Ezen ismeretek nélkül az összes többi technika hiányos marad.
Hallucináció: a modell illesztése
A hallucináció az, amikor a modell irreális információkat állít elő magabiztos nyelven. Példa erre egy nem létező forrás, egy hibás dátum, egy koholt statisztika vagy egy soha meg nem írt törvény. Miért történik ez? Mert a modellt nem az "igazság megismerésére" tervezték, hanem arra, hogy "legenerálja a lehetséges folytatást" (emlékezzünk az első egység logikájára). Csak azért, mert egy mondat nyelvtanilag lehetséges, még nem jelenti azt, hogy tényszerűen igaz.
Ennek gyakorlati következménye egyértelmű: minden, az MI által előállított tény állítás, nem tény, amíg független nem igazolják. Különösen mindig ellenőrizze:
- Számok és statisztikák
- Nevek, dátumok, helynevek
- Idézetek és forráshivatkozások
- Jogi záradékok, műszaki szabványok, orvosi/pénzügyi információk
Érvényesítési szokás
Egy azonnali technikával csökkentheti, de nem állíthatja vissza az ellenőrzést. Két rétegben dolgozz:
- Kérdező réteg: Adja meg a modell korlátozásait, például "csak az általam megadott forrásra hagyatkozzon, ne adjon hozzá nem létező információt, írja be a "nem tudom" szót, ha nem biztos benne, mutassa meg az egyes állítások forrását." Ez csökkenti az illeszkedést.
- Emberi réteg: Minden kritikus tényt saját maga ellenőrizze a forrásból. Ez a lépés nem alku tárgya; Különösen kötelező olyan tartalmak esetében, amelyek megjelennek, döntések alapjául szolgálnak, vagy másokat érintenek.
Korlátok: Amit a modell nem csinál jól
területen
Kockázat
helyes megközelítés
aktuális eseményeket
Előfordulhat, hogy a képzési adatok elavultak
Igazolás keltezett/aktuális forrásból
pontos számok
Nagy a valószínűsége az illeszkedésnek
Ellenőrizze a számológéppel/forrással
Jogi/orvosi/pénzügyi
Súlyos sérülés veszélye
Forduljon igazi szakértőhöz, ne hagyatkozzon egyedül
Forrás/idézet
Képes nem létező erőforrásokat előállítani
Ellenőrizze saját maga a forrás hitelességét
Ritka/niche téma
Felületes vagy pontatlan
Hasonlítsa össze a szakértői tudással
A modell egy asszisztens, nem pedig a végső tekintély. A felelősség mindig azt a személyt terheli, aki használja.
Adatvédelem és személyes adatok
A nyilvános mesterségesintelligencia-eszközbe beírt szövegre az adott eszköz feldolgozási szabályzata vonatkozik, és előfordulhat, hogy szervezete kívül esik. Ezért a bizalmas és személyes adatok gondolkodás nélküli megadása komoly kockázatot jelent. A személyes adatok feldolgozását Türkiye területén a KVKK (személyes adatok védelméről szóló törvény) szabályozza; Az intézményeknek gyakran van saját adatpolitikájuk is.
Biztonságos munkamódszerek:
- Anonimizálás/maszk: A valódi név helyett írja be az „ügyfél”, a valós szám helyett a „[számlaszám]” kifejezést. Legtöbbször a „3 éves vállalati ügyfél” kimondása teszi a trükköt.
- Intézmény által jóváhagyott eszköz használata: Egyes intézmények szerződéses/intézményi eszközöket kínálnak, amelyek nem szivárogtatnak ki adatokat. Csak rajtuk dolgozzon fel érzékeny adatokat.
- Ne adjon ki olyat, amire nincs szükség: Ne adjon meg olyan kényes részleteket, amelyek valójában nem elengedhetetlenek a feladat elvégzéséhez.
- Ismerje meg a szabályzatot: Tanulja meg és tartsa be szervezete mesterséges intelligencia használati szabályait.
Etika és szerzői jog
A felelősségteljes használat nem ér véget a magánélet védelmével. Három alapelv:
- Átláthatóság: A mesterséges intelligencia által generált tartalom megfelelő jóváírása, ha a kontextus ezt megkívánja (például ha emberi munkát várnak el). Kerülje a megtévesztő használatot.
- Szerzői jog és eredetiség: A modell kimenete más művekre hasonlíthat. Kereskedelmi felhasználás előtt tekintse át az eredetiséget és a jogok állapotát; Ne utánozza valaki más márkáját/művét.
- Nem rosszindulatú: Ne használja félrevezető, diszkriminatív, manipulatív vagy célzott tartalom létrehozására. A szerszám ereje növeli a felelősséget.
Négy másolható sablon
1) Kényszer-korlátozó illesztés:
Csak hagyatkozzon az alábbi forrásra. Ne adjon hozzá olyan információt, amely nem szerepel a forrásban. Olyan helyre írja be, hogy "nem a forrásban"! Minden fontos állítás mellett jelölje meg azt a sort, amelyen alapul. Forrás: [szöveg]
2) Ellenőrző lista kivonat:
Sorolja fel az összes ellenőrizendő tényt (szám, dátum, név, állítás) az alábbi szövegben. Röviden javasolja, hogyan ellenőrizhetem mindegyiket. Szöveg: [output]
3) Anonimizálás:
Az összes személyes/bizalmas adatot a következő szövegben rejtse el: név [SZEMÉLY], cég [VÁLLALAT], számok [SZÁM]. Adja meg az anonimizált változatot a jelentéssel. Szöveg: [szöveg]
4) Etikai felülvizsgálat:
Etikailag értékelje ki ezt a tartalmat, mielőtt közzéteszi: félrevezető, diszkriminatív vagy tisztességtelen? Jelölje meg, ha igen, és javasoljon javításokat. Tartalom: [szöveg]
Gyenge felszólítás / Erős felszólítás
Gyenge (kockázatos):
Keresse meg a problémákat Ahmet Yılmaz (TC: ...) szerződésében, és hasonlítsa össze az iparági átlagokkal.
Erős (biztonságos):
Keresse meg a kockázatos kikötéseket az alábbi szerződésszövegben. - Személyes adatok felhasználása; A felekre hivatkozzanak [A társaság] és [SZEMÉLY] néven.- Csak a szövegben leírtakra hagyatkozzon; az iparági átlag kitalálva, írja be, hogy "adatok nem állnak rendelkezésre".- Mutasson minden kockázatot a tétellel. Szöveg (anonim): [szöveg]
A hatékony verzió egyszerre védi a személyes adatokat és blokkolja a hamis iparági adatokat; A kimenet készen áll a jogi csapat általi felülvizsgálatra.
Három mini tok
1. eset – Előállított forrás. Egy kutató a modell által megadott 3 „akadémiai forrást” behelyezett az előadásba anélkül, hogy ellenőrizte volna azokat; A források közül kettő egyáltalán nem állt rendelkezésre. Egy kolléga már a bemutató előtt észrevette. Ezt követően a csapat elfogadta azt a szabályt, hogy "minden forrást személyesen keressen meg és nyissa meg a közzététel előtt".
2. eset – Titoktartás. Egy alkalmazott a tényleges ügyfélszerződést sértetlenül beillesztette egy nyilvános eszközbe, és összefoglalót kért. Amikor az intézmény információbiztonsági csoportja ezt észlelte, felülvizsgálták a folyamatot; A bizalmas dokumentumokat mostantól csak az intézmény által jóváhagyott vállalati eszközben dolgozzák fel és anonimizálják.
3. eset – Döntési felelősség. Egy kisvállalkozó intézkedésre készült a modell által adott adóértelmezés alapján; A megjegyzés nem felelt meg a hatályos jogszabályoknak. A hibát akkor fogták fel, amikor pénzügyi tanácsadójával konzultált. A tanulság egyértelmű: a mesterséges intelligencia felkészül, a szakértő és az ember dönt.
Tipp: Szokjon egy tényt "ellenőrizetlenként" megjelölni. Tegyen egy pipát minden szám és forrás mellett a kimenetben, amíg meg nem erősíti; Ez az egyszerű fegyelem megakadályozza a félretájékoztatás csendes terjedését.
Vigyázat: „Az AI mondta” nem kifogás. Ön felelős minden olyan tartalomért, amelyet közzétesz, elküld, vagy amelyre döntéseit alapozza. A jármű sebessége nem mentesíti az ellenőrzési kötelezettsége alól.
Gyakori hibák
- A folyékony kimenet helyesnek téveszti. A meggyőző nyelvezet összetévesztése az igazság bizonyítékaként.
- A forrás felhasználása ellenőrzés nélkül. Nem létező forrás közzététele.
- Bizalmas adatok bevitele gondolkodás nélkül. Érzékeny dokumentumok beillesztése anonimizálás nélkül.
- A szakértelmet a modellre bízva. A jogi/orvosi/pénzügyi döntések ellenőrzésének elmulasztása.
- A felelősséget a járműre hárítani. Kikerülni az irányítást azzal, hogy „az AI mondta”.
Összefoglalva
- A hallucináció az, amikor a modell magabiztosan produkálja azt, ami nem valódi; Minden tény állítás, amíg meg nem igazolják.
- Az ellenőrzés kettős: az azonnali megszorítások csökkentik a gyártást, az emberi ellenőrzés megfogja.
- A modell az aktuális, pontos, jogi/orvosi/pénzügyi kérdésekre korlátozódik; nem a végső tekintély.
- A bizalmas és személyes adatokat anonimizálja, illetve csak az intézmény által jóváhagyott eszközzel (KVKK és intézményi szabályzat) dolgozza fel.
- betartani az etikai, a szerzői jogi és a rosszindulatú bánásmód elveit; A tartalomért a felelősség mindig az illetőt terheli.
Pályázati feladat
Vegyünk egy nemrégiben készített kinyomatot, és vegyük ki az összes tényt (szám, dátum, név, forrás, állítás) ellenőrző listaként. Írja le mindegyikhez az ellenőrzési módszert, és ellenőrizze legalább hármat. Ezenkívül ellenőrizze, hogy vannak-e bizalmas/személyes adatok ugyanannak a kimenetnek a bemenetén, és szükség esetén anonimizálja azokat.
ellenőrző lista
- [ ] Meg tudom magyarázni, mi a hallucináció, és miért történik.
- [ ] Független forrásból származó ténykiadást igazolok.
- [ ] A bizalmas/személyes adatokat anonimizálom, vagy biztonságos eszközzel dolgozom fel.
- [ ] Jogi/egészségügyi/pénzügyi kérdésekben valódi szakértővel konzultálok.
- [ ] Elfogadom, hogy a tartalomért én vagyok a felelős.