Câștiguri:
- Înțelege că modelul poate produce halucinații și că fiecare rezultat trebuie verificat
- Cunoaște riscurile și alternativele sigure de a pune datele confidențiale și cu caracter personal pe prompt
- Aplică limite de etică, drepturi de autor și răspundere în utilizarea inteligenței artificiale
Nu este suficient să stăpânești cum să scrii prompturi; De asemenea, este necesar să înveți să folosești inteligența artificială în mod responsabil. Această unitate este stratul de securitate care trebuie pus pe deasupra aptitudinilor tehnice. AI produce răspunsuri rapide, convingătoare și adesea precise; Dar uneori produce informații complet false cu aceeași încredere, poate pune în pericol datele sensibile și poate depăși granițele etice. În această unitate vom acoperi verificarea rezultatelor, limitările modelului, confidențialitatea și responsabilitatea etică. Fără aceste cunoștințe, toate celelalte tehnici rămân incomplete.
Halucinații: potrivirea modelului
O halucinație este atunci când modelul produce informații ireale într-un limbaj sigur. O sursă inexistentă, o dată incorectă, o statistică fabricată sau o lege care nu a fost niciodată scrisă sunt exemple ale acestora. De ce se întâmplă? Pentru că modelul este conceput nu pentru a „cunoaște adevărul”, ci pentru a „genera posibila continuare” (rețineți logica din prima unitate). Doar pentru că o propoziție este posibilă din punct de vedere gramatical nu înseamnă că este adevărată.
Implicația practică a acestui lucru este clară: fiecare fapt produs de AI este o afirmație, nu un fapt, până când nu este verificat independent. În special, verificați întotdeauna:
- Cifre și statistici
- Nume, date, nume de locuri
- Citate și referințe la surse
- Clauze legale, standarde tehnice, informatii medicale/financiare
Obiceiul de validare
Puteți reduce, dar nu reseta verificarea printr-o tehnică promptă. Lucrați în două straturi:
- Strat prompt: dați modelului restricții precum „bazați-vă doar pe sursa pe care o dau, nu adăugați informații care nu există, scrieți „nu știu” dacă nu sunteți sigur, arătați sursa fiecărei revendicări”. Acest lucru reduce potrivirea.
- Stratul uman: verificați singur fiecare fapt critic de la sursă. Acest pas este nenegociabil; Este obligatoriu în special pentru conținutul care va fi publicat, va sta la baza deciziilor sau va afecta pe alții.
Limite: ceea ce modelul nu face bine
zona
Risc
abordare corectă
evenimente curente
Datele de antrenament pot fi învechite
Verificați din sursa datată/actuală
numere exacte
Există o mare probabilitate de potrivire
Verificați cu calculatorul/sursa
Legal/medical/financiar
Risc de vătămare gravă
Consultați un adevărat expert, nu vă bazați singur pe el
Sursa/citare
Poate produce resurse inexistente
Verificați singur autenticitatea sursei
Subiect rar/de nișă
Superficial sau inexact
Comparați cu cunoștințele de specialitate
Modelul este un asistent, nu autoritatea finală. Responsabilitatea revine întotdeauna celui care îl folosește.
Confidențialitate și date personale
Textul pe care îl introduceți într-un instrument public AI este supus politicilor de procesare ale instrumentului respectiv și poate fi în afara controlului organizației dvs. Prin urmare, introducerea datelor confidențiale și personale fără a sta pe gânduri este un risc serios. Prelucrarea datelor cu caracter personal în Turcia este reglementată de KVKK (Legea privind protecția datelor cu caracter personal); Instituțiile au adesea propriile politici de date.
Modalitati sigure de lucru:
- Anonimizare/mascare: scrieți „client” în loc de numele real, „[numărul contului]” în loc de numărul real. De cele mai multe ori, a spune „client corporativ de 3 ani” va face trucul.
- Utilizați un instrument aprobat de instituție: Unele instituții oferă instrumente contractate/instituționale care nu divulgă date. Procesați date sensibile numai asupra acestora.
- Nu oferiți ceea ce nu este necesar: nu includeți detalii sensibile care nu sunt de fapt esențiale pentru îndeplinirea sarcinii.
- Cunoașteți politica: aflați și respectați regulile de utilizare a inteligenței artificiale ale organizației dvs.
Etica și Dreptul de Autor
Utilizarea responsabilă nu se termină cu confidențialitatea. Trei principii:
- Transparență: creditați în mod corespunzător conținutul generat de inteligență artificială dacă contextul o cere (de exemplu, acolo unde este așteptată munca umană). Evitați utilizarea înșelătoare.
- Drepturi de autor și originalitate: rezultatul modelului poate să semene cu alte lucrări. Examinați originalitatea și starea drepturilor înainte de utilizarea comercială; Nu imita marca/lucrarea altcuiva.
- Non-malefință: nu utilizați pentru a crea conținut care este înșelător, discriminatoriu, manipulator sau vizat. Puterea instrumentului crește responsabilitatea.
Patru șabloane copiabile
1) Montare limitatoare de constrângere:
Bazează-te pe sursa de mai jos. Nu adăugați informații care nu se află în sursă. Scrie „nu în sursă” acolo unde nu ești sigur. Lângă fiecare revendicare importantă, indicați linia pe care se bazează. Sursa: [text]
2) Extrageți lista de verificare:
Enumerați toate faptele (număr, dată, nume, revendicare) care trebuie verificate în textul de mai jos. Sugerează pe scurt cum pot verifica pentru fiecare. Text: [ieșire]
3) Anonimizare:
Mascați toate datele personale/confidențiale în următorul text: faceți numele [PERSOANĂ], firma [COMPANY], numerele [NUMĂR]. Dați o versiune anonimă cu sensul intact. Text: [text]
4) Evaluare etică:
Evaluați din punct de vedere etic acest conținut înainte de a-l publica: este înșelător, discriminatoriu sau nedrept? Semnalează dacă da și sugerează corecturi. Conținut: [text]
Solicitare slabă / Solicitare puternică
Slab (riscant):
Găsiți problemele din contractul lui Ahmet Yılmaz (TC: ...) și comparați-l cu mediile din industrie.
Puternic (sigur):
Găsiți clauzele riscante în textul contractului de mai jos. - Utilizarea datelor cu caracter personal; Lăsați părțile să fie denumite [COMPANYA-A] și [PERSOANĂ].- Bazați-vă numai pe ceea ce este scris în text; media industriei realizată, scrieți „datele nu sunt disponibile”.- Afișați fiecare risc cu articolul său.Text (anonimizat): [text]
Versiunea puternică protejează atât datele personale, cât și blochează datele false din industrie; Rezultatul este gata pentru revizuire de către echipa juridică.
Trei mini carcase
Cazul 1 — Sursă fabricată. Un cercetător a pus în prezentare 3 „surse academice” date de model, fără a le verifica; Două dintre surse nu erau disponibile deloc. Un coleg a observat-o înainte de prezentare. Ulterior, echipa a adoptat regula „găsește și deschide personal fiecare resursă înainte de publicare”.
Cazul 2 – Confidențialitate. Un angajat a lipit contractul propriu-zis cu clientul intact într-un instrument public și a cerut un rezumat. Atunci când echipa de securitate a informațiilor a instituției a detectat acest lucru, procesul a fost revizuit; Documentele sensibile sunt acum procesate doar în instrumentul corporativ aprobat de instituție și sunt anonimizate.
Cazul 3 – Responsabilitatea deciziei. Un proprietar de mică afacere era pe cale să ia măsuri pe baza interpretării fiscale date de model; Comentariul nu a respectat legislația în vigoare. Greșeala a fost prinsă când și-a consultat consilierul financiar. Lecția este clară: AI se pregătește, expertul și umanul decid.
Sfat: obișnuiește-te să marchezi un fapt ca „neverificat”. Puneți o bifă lângă fiecare număr și sursă din ieșire până când îl confirmați; Această disciplină simplă împiedică răspândirea în tăcere a dezinformării.
Atenție: „AI a spus așa” nu este o scuză. Sunteți responsabil pentru orice conținut pe care îl publicați, îl trimiteți sau pe care vă bazați deciziile. Viteza vehiculului nu vă scutește de obligația dumneavoastră de inspecție.
Greșeli comune
- Ieșirea fluentă este greșită ca fiind corectă. Confundarea limbajului persuasiv cu dovezile adevărului.
- Folosind sursa fără a o verifica. Publicarea unei surse inexistente.
- Introducerea datelor confidențiale fără a sta pe gânduri. Lipirea documentelor sensibile fără a le anonimiza.
- Lăsând expertiza în seama modelului. Neverificarea deciziilor juridice/medicale/financiare.
- Punerea responsabilitatii asupra vehiculului. Evitați controlul spunând „AI a spus așa”.
Pe scurt
- Halucinația este atunci când modelul produce cu încredere ceea ce nu este real; Fiecare fapt este o revendicare până la verificare.
- Verificarea este dublă: constrângerile prompte reduc fabricarea, verificarea umană o prinde.
- Modelul este limitat la chestiuni actuale, precise, juridice/medicale/financiare; nu este autoritatea finală.
- Anonimizați datele confidențiale și personale sau procesați numai în instrumentul aprobat de instituție (KVKK și politica instituției).
- Respectați principiile etice, drepturi de autor și non-malefință; Responsabilitatea pentru conținut revine întotdeauna persoanei.
Sarcina de aplicare
Luați un tipărit pe care l-ați produs recent și extrageți toate faptele din el (număr, dată, nume, sursă, revendicare) ca o listă de verificare. Notați metoda de verificare pentru fiecare și verificați efectiv cel puțin trei dintre ele. De asemenea, verificați dacă există date confidențiale/personale în intrarea aceleiași ieșiri și anonimizați-le dacă este necesar.
lista de verificare
- [ ] Pot să explic ce este o halucinație și de ce se întâmplă.
- [ ] Verific rezultatele reale din surse independente.
- [ ] anonimizez datele confidențiale/personale sau le prelucrez într-un instrument securizat.
- [ ] Consul un adevărat expert în probleme juridice/medicale/financiare.
- [ ] Accept că sunt responsabil pentru conținut.