Ecosistem de etică, confidențialitate, drepturi de autor și instrumente AI

Câștiguri:

• Să fie capabil să încadreze utilizarea inteligenței artificiale în mod responsabil în ceea ce privește originalitatea designului, drepturile de autor, confidențialitatea datelor și etica modelului întunecat
• Abilitatea de a selecta Figma, Miro și instrumente UX bazate pe modele de limbă mari în funcție de sarcină și de a le integra în fluxul de lucru
• Abilitatea de a crea o politică de utilizare a inteligenței artificiale și o listă de verificare personală și corporativă

Pe parcursul acestui modul, am folosit AI ca accelerator în fiecare etapă a fluxului de lucru UX. Această unitate finală pune toată această putere într-un cadru responsabil: limite etice, confidențialitatea datelor, drepturi de autor și proprietate intelectuală și alegerea instrumentului potrivit pentru locul de muncă potrivit. Pentru un designer, acestea nu sunt „atentie suplimentară” ci nucleul profesiei; pentru că designul direcționează comportamentul a milioane de oameni și această putere poate fi abuzată. AI nu elimină această responsabilitate, o mărește: atunci când un instrument efectuează producție rapidă în numele tău, rezultatul etic și legal al rezultatului este în continuare al tău.

Modele întunecate: abuz de putere

Un model întunecat este designul care înșeală utilizatorul să ia o acțiune pe care nu o dorește: ascunderea butonului de anulare, scrierea „nu” într-un mod jenant („Nu, nu vreau să salvez”), făcând în mod deliberat dificilă dezabonarea, casete de selectare pre-bifate. Acestea umflă valorile pe termen scurt, dar distrug încrederea utilizatorilor și sunt din ce în ce mai supuse sancțiunilor legale (regulamentele de protecție a consumatorilor le interzic în multe țări).

AI vă poate face mai ușor să produceți un model întunecat; O solicitare precum „faceți butonul de anulare neobservat” poate primi răspuns tehnic. Dar această cerere este lipsită de etică și ar trebui respinsă. Vehiculul nu este o scuză; Responsabilitatea revine întotdeauna designerului. Testul de turnesol pentru designul etic este simplu: „Dacă utilizatorul ar înțelege acest design, l-ar accepta în continuare?”

Atenție: „AI sugerat” nu este o apărare. Responsabilitatea pentru un rezultat neetic revine designerului care o folosește în produs.

Confidențialitatea datelor și KVKK: de la început până la sfârșit

Principiul pe care l-am subliniat încă de la prima unitate intră în imagine completă aici. Cercetarea UX funcționează cu date personale, iar KVKK protejează aceste date. Trei reguli rămân constante atunci când utilizați inteligența artificială:

1. Anonimizare: Mascați identificatori, cum ar fi numele, contactul, locul de muncă.
2. Rămâneți în limitele consimțământului: nu depășiți utilizarea prevăzută pe care i-ați spus participantului.
3. Cunoașteți politica de date a instrumentului: controlați unde sunt stocate datele și dacă acestea merg la formarea modelului; Alegeți instrumente aprobate de companie.

Introducerea datelor critice într-un instrument gratuit ar putea expune datele terților. În mediul corporativ, asigurați-vă că utilizați instrumente aprobate de echipa de securitate a informațiilor.

Drepturi de autor, proprietate intelectuală și originalitate

Imaginile, icoanele și textele produse de inteligența artificială sunt incerte în ceea ce privește drepturile de autor. Un generator de imagini poate produce rezultate prea similare cu artefactele pe care a fost antrenat; Acest lucru creează riscul de a încălca proprietatea intelectuală a altcuiva. Trei controale sunt esențiale pentru uz comercial:

• Condiții de licență: aveți dreptul de a utiliza rezultatul instrumentului în scopuri comerciale?
• Risc de asemănare: rezultatul arată periculos de asemănător cu o marcă sau o lucrare existentă?
• Originalitate și transparență: Declarați contribuția inteligenței artificiale în lucrările creative atunci când este necesar; Nu prezentați lucrarea altcuiva ca fiind propria dvs. lucrare originală.

Originalitatea în educație și în domeniile creative este, de asemenea, o etică profesională. AI poate fi un punct de plecare, dar lucrarea finală trebuie să poarte contribuția, judecata și responsabilitatea dumneavoastră.

Ecosistemul de scule: instrumentul potrivit pentru munca potrivită

Instrumentele de inteligență artificială sunt împărțite aproximativ în trei grupuri. Nici unul nu este potrivit pentru fiecare loc de muncă; selectați după sarcină.

tipul vehiculului

Exemplu de utilizare

Puterea lui este

Atenție

Model de limbă mare (text)

Sinteză cercetări, scriere UX, documentare

Producerea și analiza textului

Halucinații, confidențialitatea datelor

Plugin încorporat în instrumentul de proiectare (de exemplu, în Figma)

Wireframe, umplere de conținut, aspect

Viteza în fluxul de proiectare

Consistență, legătură componente

Plugin pentru bordul de colaborare (de exemplu, în cadrul Miro)

Diagrama de afinitate, brainstorming

Sinteza cercetării, gruparea

verificarea umană

Generator de imagini/icoane

Ilustrație, concept vizual

Idee vizuală rapidă

Drepturi de autor, licență, similaritate

Abordare practică: model de limbă pentru text și analiză, pluginuri în instrument pentru generarea de design, pluginuri pentru tablă albă pentru sinteză, generatoare pentru imagini — dar în fiecare se aplică reflexele de validare ale acestui modul.

trei mini cutii

Cazul 1 — Solicitare de model întunecat respins. Un manager de produs i-a cerut designerului să „facă fluxul de anulare atât de dificil încât nimeni să nu poată anula”. Designerul a explicat că acesta este un model întunecat și implică încredere și risc legal; în schimb, a conceput un flux onest care oferă o alternativă celor care anulează. Rata de anulare a rămas gestionabilă, încrederea a fost menținută.

Cazul 2 – Riscul dreptului de autor prins. O echipă a vrut să folosească o pictogramă asemănătoare logo-ului produsă de inteligența artificială. În timpul verificării conformității, s-a constatat că pictograma este periculos de asemănătoare cu o marcă binecunoscută și nu a fost folosită. Lecție: rezultatul vizual este întotdeauna verificat pentru similitudine.

Cazul 3 – Încălcarea confidențialității a fost prevenită. Un designer era pe cale să încarce conversații cu clienții împreună cu date personale într-un instrument neaprobat. Politica instituțională a împiedicat acest lucru; Datele au fost mai întâi anonimizate și a fost folosit un instrument certificat. Lecție: politica și anonimizarea se aplică de la început, nu după.

Solicitări copiabile

Evaluați această cerere de proiectare din punct de vedere etic: „<<cerere>>”. Induce în eroare utilizatorul, restrânge libertatea de alegere, este un model întunecat? Test de turnesol: dacă utilizatorul ar înțelege acest lucru, l-ar accepta în continuare? Dacă aveți probleme, sugerați o alternativă sinceră.

Verificați această ieșire a imaginii/pictogramei AI pentru uz comercial:1) există riscul de asemănare cu o marcă sau o lucrare cunoscută?2) ce ar trebui să caut în ceea ce privește licența/utilizarea comercială?Enumerați punctele de verificat și avertismentul „obțineți aprobare legală”, dacă este necesar. Descrierea imaginii: <<text>>

Scrieți-ne o schiță a politicii de utilizare a AI (pentru echipa UX): ce date pot/nu pot fi încărcate, regulă de anonimizare, instrumente aprobate, pas de verificare a ieșirii, controlul drepturilor de autor, limite etice. Dă-i în puncte scurte, acționabile.

Ce tip de instrument AI este cel mai potrivit pentru această sarcină? „<<sarcină>>”.Opțiuni: model de limbă/plugin pentru instrumentul de proiectare/plugin pentru tablă albă/generator de imagini. Alege-l pe cel mai potrivit, justifică-l și notează riscul care trebuie luat în considerare.

Prompt slab / Prompt puternic

Slab: „Pot folosi această imagine?”

Rezultatul: un răspuns vag, superficial, care nu reușește să evalueze riscul.

Güçlü: „Verificați această ieșire a imaginii pentru uz comercial: există riscul de similitudine, la ce ar trebui să fiu atent în ceea ce privește licențele, este necesară aprobarea legală?”

Rezultat: Lista de verificare a riscurilor concrete și notificarea de aprobare necesară.

Diferență: promptul puternic interogă separat dimensiunile de asemănare + licență + aprobare.

Greșeli comune

• Evitarea responsabilității spunând „Inteligenta artificială a sugerat-o”. Rezultatul etic și legal îi revine designerului.
• Confundarea modelelor întunecate cu „optimizare”. Orice design care înșală utilizatorul distruge încrederea și reputația.
• Utilizarea ieșirii vizuale fără controlul drepturilor de autor. Similitudinea și riscul de licențiere pot duce la dezastrul afacerii.
• Introducerea datelor critice într-un vehicul neautorizat. Încălcarea KVKK și scurgere de date.
• Impunerea unui singur instrument pentru fiecare loc de muncă. Nealegerea unui vehicul în funcție de tipul sarcinii reduce eficiența și calitatea.

Pe scurt

Puterea AI nu elimină responsabilitatea; se mărește. Designul etic refuză să înșele utilizatorul; Tiparele întunecate sacrifică încrederea și securitatea juridică pentru câștiguri pe termen scurt. Confidențialitatea datelor este protejată prin anonimizare, consimțământ și instrumente aprobate în cadrul KVKK. Dreptul de autor și originalitatea necesită similaritate și control al licențelor, în special în ceea ce privește rezultatele vizuale și creative. Alegeți ecosistemul de instrumente în funcție de sarcină: model de limbă cu text, plugin pentru instrumente pentru proiectare, placa pentru sinteză, generator pentru vizual - dar în fiecare, reflexul de verificare rămâne constant. Scrie-ți politica AI și a echipei tale; astfel viteza este echilibrată cu responsabilitatea.

Sarcina de aplicare

1. Cu a treia solicitare, produceți o scurtă schiță de politică de utilizare a AI pentru echipa dvs. de UX.
2. Comparați politica cu politicile de autentificare și confidențialitate ale acestui modul și completați eventualele lacune.
3. Pune o cerere de proiectare discutabilă la testul de turnesol cu ​​primul prompt.
4. Verificați drepturile de autor ale oricărei imagini de inteligență artificială pe care o utilizați sau pe care o veți folosi cu a doua solicitare.
5. Creați o listă de verificare pentru autoverificare și agățați-o pe birou.

lista de verificare

• [ ] Am respins cererile de model întunecat și am produs o alternativă sinceră.
• [ ] Am aplicat testul de turnesol („Utilizatorul l-ar accepta dacă l-ar înțelege?”).
• [ ] Am anonimizat datele personale și am folosit doar instrumente aprobate.
• [ ] Am verificat ieșirile vizuale pentru drepturi de autor și similitudini.
• [ ] Am adaptat sarcina tipului corect de vehicul.
• [ ] Am creat o politică de utilizare a AI și o listă de verificare.

Examenul modulului

1. Un designer UX pune tema „utilizatorii doresc viteză” pe care AI a derivat-o din 20 de interviuri în raportul său de cercetare, fără să se uite la niciun citat; În prezentare, partea interesată întreabă „în ce întâlnire?” Când este întrebat, nu poate fi găsită nicio bază. Care este principala lecție a acestei situații?

• A) Conectarea ieșirii inteligenței artificiale la cotația reală a interviului și utilizarea acestuia fără a-l verifica; ✔ Ignorarea responsabilității pentru stabilirea traseului dovezilor
• B) Este strict interzisă utilizarea inteligenței artificiale în sinteza cercetării
• C) Numărul de întâlniri trebuie să fie 50 în loc de 20
• D) Tema nu este prezentată într-un tabel

Descriere: Inteligența artificială poate produce teme fluente, dar nefondate (halucinații). Nu orice ieșire de sinteză ar trebui să intre într-un raport sau o decizie fără a fi verificată și conectată înapoi la citatul și sursa reală a utilizatorului; Responsabilitatea revine designerului.

2. Care dintre următoarele sarcini utilizează AI cu cel mai mare risc și necesită în mod necesar aprobarea finală din partea proiectantului?

• A) Producerea a trei variante diferite de aspect pentru un cadru fir
• B) Sugerați cinci alternative pentru textul butonului
• C) Luarea deciziei finale că o interfață este accesibilă și satisface nevoile utilizatorului ✔
• D) Rezumatul unei note de întâlnire

Descriere: decizia finală privind aprobarea accesibilității și nevoia reală a utilizatorilor prezintă un risc ridicat, deoarece afectează direct experiența oamenilor. Producerea unei schițe wireframe sau a unei variații de text este un risc scăzut; Judecata și aprobarea finală aparțin proiectantului.

3. Care este cel mai important pas înainte de a încărca transcrierea apelului utilizatorului în AI?

• A) Încărcați foaia matricolă așa cum este, cu toate datele personale
• B) Anonimizarea datelor cu caracter personal (nume, contact, loc de muncă) și lucrul în limitele consimțământului și politicii corporative ✔
• C) Traduceți mai întâi transcrierea în engleză
• D) Transformarea transcripției într-o imagine vizuală

Descriere: stenogramele interviului conțin date personale, cum ar fi numele, telefonul și locul de muncă. În conformitate cu KVKK și limitele de consimțământ, aceste date trebuie să fie anonimizate sau mascate înainte de a fi transferate către inteligența artificială; Trebuie utilizat vehiculul omologat de instituție.

4. O persoană produsă de inteligența artificială conține o propoziție precum „utilizatorii în vârstă se tem de tehnologie”. Care este abordarea corectă?

• A) Lăsând propoziția așa cum este, deoarece AI este neutru
• B) Ștergeți complet personajul
• C) Marcați stereotipul, testați-l cu date reale și eliminați-l dacă nu este acceptat ✔
• D) Sublinierea propoziției în continuare

Explicație: Inteligența artificială poate purta stereotipuri și părtiniri din datele pe care este instruită. Persona trebuie să se bazeze pe date reale de segment; Stereotipurile ar trebui marcate și testate pe baza datelor, iar generalizările neacceptate ar trebui eliminate.

5. Ce înseamnă „cartarea afinității” în sinteza cercetării calitative?

• A) Metoda de atingere a temelor prin gruparea observațiilor și citatelor similare ✔
• B) Un sondaj care măsoară apropierea dintre utilizatori
• C) Tehnica de alegere a paletei de culori
• D) Un tip de animație prototip

Explicație: Diagrama de proximitate este gruparea observațiilor și citatelor individuale în funcție de asemănările lor și transformarea lor în teme. AI poate accelera gruparea inițială, dar semnificația grupurilor trebuie verificată de om.

6. Un designer îi spune AI să „scrie textul butonului” și obține un rezultat dintr-un cuvânt fără context. Ce ar trebui adăugat pentru un prompt mai puternic?

• A) Spunând doar „scrie mai bine”
• B) Scrieți promptul în engleză
• C) Repetând același prompt de mai multe ori
• D) Scopul afișajului, contextul utilizatorului, tonul mărcii, limita de lungime și de a oferi numărul dorit de variații ✔

Descriere: promptul puternic oferă context: scopul ecranului, ceea ce face utilizatorul în acest moment, tonul mărcii, limita de lungime și numărul de variații. Cererea fără context produce rezultate generice și inutilizabile.

7. Cum se determină „severitatea” atunci când prioritizează rezultatele testelor de utilizare?

• A) După vechimea persoanei care a constatat problema
• B) În funcție de impactul problemei asupra utilizatorului, frecvența și impactul asupra afacerii ✔
• C) Conform ordinii constatărilor din raport
• D) Conform punctajului aleator dat de inteligența artificială

Descriere: severitatea este determinată de criterii cum ar fi cât de mult afectează problema utilizatorul (împiedecă sarcina să fie finalizată), câți utilizatori a văzut și impactul asupra afacerii. AI poate sugera schițe de clasamente, dar decizia finală a ponderii este la latitudinea designerului și a echipei sale.

8. Ce este adevărat despre recomandările de accesibilitate AI (de exemplu, text alternativ)?

• A) Certificarea inteligenței artificiale garantează accesibilitatea, nu sunt necesare teste suplimentare
• B) Accesibilitatea se referă doar la alegerea culorii
• C) Alt text nu este necesar
• D) Inteligența artificială produce schițe; accesibilitate adevărată confirmată de tehnologia de asistență și testarea utilizatorilor ✔

Descriere: AI poate produce schițe rapide pentru text alternativ și contrast, dar accesibilitatea reală este confirmată doar prin testarea cu cititoare de ecran și utilizatori reali de tehnologie de asistență. Sugestia automată este preliminară, nu o dovadă.

9. Într-un text de interfață, AI sugerează un mesaj de eroare „Operațiunea dvs. a eșuat, încercați din nou”. Care este cea mai bună îmbunătățire în ceea ce privește scrierea UX?

• A) Adăugați codul de eroare tehnică la mesaj și lăsați utilizatorul în pace
• B) Eliminați complet mesajul
• C) Scrieți într-un limbaj clar și fără acuzații ceea ce s-a întâmplat, motivul posibil și pasul concret pe care îl va face utilizatorul ✔
• D) Scrierea „EROARE” cu majuscule

Descriere: un mesaj de eroare bun indică clar ce s-a întâmplat, de ce și ce ar trebui să facă utilizatorul; Nu ar fi acuzator. Formula „ce s-a întâmplat + de ce + următorul pas” ține utilizatorul pe drumul cel bun. Schița AI este îmbunătățită prin acest criteriu.

10. Care este cea mai corectă atitudine cu privire la wireframe produs de un instrument de inteligență artificială care generează o interfață din text?

• A) Folosind rezultatul direct ca proiect final
• B) Nu folosiți deloc ieșirea, deoarece nu are valoare
• C) Utilizarea ieșirii numai pentru culorile sale
• D) Tratați rezultatul ca pe o schiță de pornire rapidă și maturați-l cu conținut, majuscule marginale și accesibilitate ✔

Descriere: aceste instrumente produc o schiță de pornire rapidă, dar lipsesc lucruri precum conținutul real, cazurile marginale, accesibilitatea și modelele mentale. Ieșirea este un punct de plecare; Designerul ar trebui să critice și să maturizeze acest lucru.

11. Care este cea mai potrivită utilizare a inteligenței artificiale în activitatea de proiectare a sistemelor?

• A) Produceți documentația componentelor și schițele de text de utilizare și verificați-le de către echipă ✔
• B) Publicați automat întregul sistem de proiectare fără aprobare
• C) Schimbarea culorilor mărcii fără a întreba designerul
• D) Ștergerea componentelor din sistem fără testarea utilizatorului

Descriere: AI este puternică în generarea rapidă a documentației componentelor, a scripturilor de utilizare, a exemplelor de făcut/nu și a schițelor de denumire a simbolurilor. Cu toate acestea, propunerile lor ar trebui verificate pentru a nu intra în conflict cu sistemul actual; Decizia de singularitate și consecvență revine echipei.

12. Un designer cere AI „să facă butonul de anulare neobservat” pentru un design ascuns care redirecționează utilizatorul către un abonament nedorit. Ce fel de problemă este aceasta?

• A) O îmbunătățire inofensivă a micro-interacțiunii
• B) Îmbunătățirea accesibilității
• C) O regulă standard a sistemului de proiectare
• D) Un model întunecat care induce în eroare utilizatorul, este lipsit de etică și implică riscuri legale ✔

Descriere: modelele care induc în eroare utilizatorul într-o acțiune nedorită sunt „modele întunecate”, care nu sunt etice și sunt din ce în ce mai supuse sancțiunilor legale. Deși AI este un agent, responsabilitatea revine designerului; o astfel de cerere ar trebui respinsă.

13. Ce control este necesar înainte de a utiliza un set de imagini sau pictograme produs cu inteligență artificială în produs?

• A) Nu sunt necesare controale, ieșirea AI este liberă
• B) Verificarea termenilor licenței vehiculului, dreptului de autor și riscului de apropiere de lucrări similare ✔
• C) Se verifică numai dimensiunea fișierului
• D) Numărarea numărului de culori ale imaginii

Descriere: imaginile cu inteligență artificială pot fi incerte în ceea ce privește licența, drepturile de autor și asemănarea mărcii. În cazul utilizării comerciale, trebuie verificați termenii de licență ai instrumentului, apropierea excesivă de lucrări similare și riscul de proprietate intelectuală; Dacă este necesar, trebuie obținută aprobarea legală/de conformitate.

14. Care este abordarea corectă despre linia „emoției” produsă de AI pe harta călătoriei utilizatorului?

• A) Confirmarea emoțiilor cu date reale de cercetare, marcarea celor nefondate ca ipoteze ✔
• B) Considerând predicția emoțiilor inteligenței artificiale ca adevăr absolut
• C) Ignorarea completă a liniei emoționale
• D) Marcarea emoțiilor cu culori aleatorii

Explicație: AI poate prezice în mod rezonabil emoțiile și punctele dureroase, dar acestea sunt presupuneri, dacă nu sunt susținute de datele reale ale utilizatorilor. Harta ar trebui să fie confirmată de citate de cercetare; sentimentele nefondate ar trebui marcate ca presupuneri.