Etyka, prywatność, prawa autorskie i ekosystem narzędzi AI

Zyski:

• Umiejętność odpowiedzialnego formułowania wykorzystania sztucznej inteligencji pod kątem oryginalności projektu, praw autorskich, prywatności danych i etyki ciemnych wzorców
• Możliwość wyboru narzędzi UX opartych na modelach Figma, Miro i dużych językach w zależności od zadania i zintegrowania ich z przepływem pracy
• Możliwość stworzenia osobistej i korporacyjnej polityki wykorzystania sztucznej inteligencji oraz listy kontrolnej weryfikacji

W całym tym module wykorzystaliśmy AI jako akcelerator na każdym etapie przepływu pracy UX. Ta ostatnia jednostka umieszcza całą tę władzę w odpowiedzialnych ramach: granice etyczne, prywatność danych, prawa autorskie i własność intelektualna oraz wybór odpowiedniego narzędzia do właściwej pracy. Dla projektanta nie jest to „dodatkowa uwaga”, ale sedno zawodu; ponieważ design kieruje zachowaniem milionów ludzi i ta władza może zostać nadużyta. Sztuczna inteligencja nie eliminuje tej odpowiedzialności, ona ją zwiększa: gdy narzędzie wykonuje szybką produkcję w Twoim imieniu, etyczny i prawny wynik produktu nadal należy do Ciebie.

Ciemne wzory: nadużycie władzy

Ciemny wzór to projekt, który nakłania użytkownika do podjęcia niepożądanej akcji: ukrycia przycisku anulowania, napisania „nie” w zawstydzający sposób („Nie, nie chcę zapisywać”), celowego utrudniania rezygnacji z subskrypcji, wstępnie zaznaczonych pól wyboru. Te wskaźniki w krótkim okresie zawyżają, ale niszczą zaufanie użytkowników i coraz częściej podlegają sankcjom prawnym (przepisy dotyczące ochrony konsumentów zabraniają ich w wielu krajach).

Sztuczna inteligencja może ułatwić Ci utworzenie ciemnego wzoru; Technicznie rzecz biorąc, można odpowiedzieć na żądanie takie jak „uczyń przycisk anulowania niezauważalnym”. Jednak żądanie to jest nieetyczne i powinno zostać odrzucone. Pojazd nie jest wymówką; Odpowiedzialność zawsze leży po stronie projektanta. Papierek lakmusowy dotyczący etycznego projektu jest prosty: „Gdyby użytkownik zrozumiał ten projekt, czy nadal by go akceptował?”

Uwaga: „Zasugerowana przez AI” nie jest obroną. Za nieetyczny wynik odpowiada projektant, który wykorzystuje go w produkcie.

Prywatność danych i KVKK: od początku do końca

Zasada, którą podkreślaliśmy od czasu pierwszej jednostki, pojawia się tutaj w pełnym obrazie. Badania UX wykorzystują dane osobowe, a KVKK chroni te dane. Trzy zasady pozostają niezmienne podczas korzystania ze sztucznej inteligencji:

1. Anonimizacja: maskuj identyfikatory, takie jak imię i nazwisko, kontakt, miejsce pracy.
2. Trzymaj się granic zgody: Nie przekraczaj zamierzonego zastosowania, które powiedziałeś uczestnikowi.
3. Poznaj politykę dotyczącą danych narzędzia: kontroluj, gdzie dane są przechowywane i czy trafiają do szkolenia modeli; Wybierz narzędzia zatwierdzone przez firmę.

Wprowadzenie krytycznych danych do bezpłatnego narzędzia może spowodować udostępnienie ich osobom trzecim. W środowisku korporacyjnym koniecznie korzystaj z narzędzi zatwierdzonych przez zespół ds. bezpieczeństwa informacji.

Prawa autorskie, własność intelektualna i oryginalność

Obrazy, ikony i teksty stworzone przez sztuczną inteligencję są niepewne pod względem praw autorskich. Generator obrazu może generować dane wyjściowe nadmiernie podobne do artefaktów, na których był trenowany; Stwarza to ryzyko naruszenia cudzej własności intelektualnej. Do użytku komercyjnego niezbędne są trzy elementy sterujące:

• Warunki licencji: Czy masz prawo do komercyjnego wykorzystania wyników narzędzia?
• Ryzyko podobieństwa: czy wynik wygląda niebezpiecznie podobnie do istniejącej marki lub dzieła?
• Oryginalność i przejrzystość: W razie potrzeby deklaruj wkład sztucznej inteligencji w dzieła twórcze; Nie przedstawiaj cudzej pracy jako własnej, oryginalnej pracy.

Oryginalność w edukacji i obszarach kreatywnych to także etyka zawodowa. Sztuczna inteligencja może być punktem wyjścia, ale ostateczna praca musi uwzględniać Twój wkład, ocenę i odpowiedzialność.

Ekosystem narzędzi: właściwe narzędzie do odpowiedniego zadania

Narzędzia sztucznej inteligencji można z grubsza podzielić na trzy grupy. Żaden z nich nie nadaje się do każdej pracy; wybierz według zadania.

typ pojazdu

Przykładowe użycie

Jego siła jest

Uwaga

Duży model językowy (tekst)

Synteza badań, pisanie UX, dokumentacja

Produkcja i analiza tekstu

Halucynacje, prywatność danych

Wtyczka osadzona w narzędziu projektowym (np. in-Figma)

Model szkieletowy, wypełnienie treścią, układ

Szybkość przepływu projektowania

Konsystencja, wiązanie komponentów

Wtyczka do tablicy współpracy (np. w ramach Miro)

Diagram powinowactwa, burza mózgów

Synteza badań, grupowanie

weryfikacja przez człowieka

Generator obrazów/ikon

Ilustracja, koncepcja wizualna

Szybki pomysł wizualny

Prawa autorskie, licencja, podobieństwo

Praktyczne podejście: model językowy do tekstu i analizy, wtyczki w narzędziach do generowania projektów, wtyczki do tablic do syntezy, generatory wizualizacji – ale w każdym z nich obowiązują zasady walidacji tego modułu.

trzy mini etui

Przypadek 1 — Odrzucone żądanie ciemnego wzorca. Menedżer produktu poprosił projektanta, aby „uczynił proces anulowania tak trudnym, aby nikt nie mógł go anulować”. Projektant wyjaśnił, że jest to ciemny wzór i niesie ze sobą ryzyko zaufania i prawne; zamiast tego zaprojektował uczciwy przepływ, który stanowi alternatywę dla tych, którzy odwołują. Wskaźnik rezygnacji pozostał na akceptowalnym poziomie, zaufanie zostało utrzymane.

Przypadek 2 – Wykryto ryzyko naruszenia praw autorskich. Zespół chciał wykorzystać ikonę przypominającą logo stworzoną przez sztuczną inteligencję. Podczas kontroli zgodności ikona okazała się niebezpiecznie podobna do znanej marki i nie była używana. Lekcja: wynik wizualny jest zawsze sprawdzany pod kątem podobieństwa.

Przypadek 3 – Zapobiegnięto naruszeniu poufności. Projektant miał właśnie przesłać rozmowy klientów wraz z danymi osobowymi do niezatwierdzonego narzędzia. Polityka instytucjonalna zapobiegła temu; Dane zostały najpierw zanonimizowane, a następnie wykorzystano certyfikowane narzędzie. Lekcja: zasady i anonimowość stosuje się od początku, a nie później.

Monity, które można kopiować

Oceń to żądanie projektu pod kątem etycznym: „<<request>>”. Czy wprowadza użytkownika w błąd, ogranicza swobodę wyboru, czy jest to ciemny schemat? Test lakmusowy: gdyby użytkownik to zrozumiał, czy nadal by to zaakceptował? Jeśli jest to problematyczne, zaproponuj uczciwą alternatywę.

Sprawdź wynik obrazu/ikony AI do użytku komercyjnego:1) czy istnieje ryzyko podobieństwa do dobrze znanej marki lub dzieła?2) na co powinienem zwrócić uwagę w zakresie licencji/wykorzystania komercyjnego? Wymień punkty do sprawdzenia i, jeśli to konieczne, ostrzeżenie „uzyskaj zgodę prawną”. Opis obrazu: <<text>>

Napisz nam projekt polityki wykorzystania AI (dla zespołu UX): jakie dane można/nie można przesyłać, zasada anonimizacji, zatwierdzone narzędzia, etap weryfikacji wyników, kontrola praw autorskich, granice etyczne. Podaj to w krótkich, praktycznych punktach.

Który typ narzędzia AI najlepiej sprawdzi się w tym zadaniu? "<<zadanie>>".Opcje: model języka / wtyczka narzędzia do projektowania / wtyczka tablicy / generator obrazów. Wybierz najodpowiedniejszy, uzasadnij go i zapisz ryzyko, które należy wziąć pod uwagę.

Słaba zachęta/silna zachęta

Słabe: „Czy mogę użyć tego obrazu?”

Rezultat: niejasna, powierzchowna reakcja, która nie ocenia ryzyka.

Güçlü: „Sprawdź ten obraz pod kątem użytku komercyjnego: czy istnieje ryzyko podobieństwa, na co powinienem zwrócić uwagę w zakresie licencji, czy wymagana jest zgoda prawna?”

Wynik: konkretna lista kontrolna ryzyka i wymagane powiadomienie o zatwierdzeniu.

Różnica: silny monit pyta osobno o wymiary podobieństwa + licencji + zatwierdzenia.

Typowe błędy

• Unikanie odpowiedzialności poprzez stwierdzenie: „Sztuczna inteligencja to zasugerowała”. Wynik etyczny i prawny leży po stronie projektanta.
• Mylenie ciemnych wzorów z „optymalizacją”. Każdy projekt, który oszukuje użytkownika, niszczy zaufanie i reputację.
• Korzystanie z efektów wizualnych bez kontroli praw autorskich. Ryzyko związane z podobieństwem i licencjonowaniem może prowadzić do katastrofy biznesowej.
• Wprowadzanie krytycznych danych do nieuprawnionego pojazdu. Naruszenie KVKK i wyciek danych.
• Narzucanie jednego narzędzia do każdego zadania. Niedobór pojazdu do rodzaju zadania obniża wydajność i jakość.

Podsumowując

Siła sztucznej inteligencji nie eliminuje odpowiedzialności; powiększa się. Projekt etyczny nie oszukuje użytkownika; ciemne wzorce poświęcają zaufanie i bezpieczeństwo prawne na rzecz krótkoterminowych korzyści. Prywatność danych jest chroniona poprzez anonimizację, zgodę i zatwierdzone narzędzia w ramach KVKK. Prawa autorskie i oryginalność wymagają podobieństwa i kontroli licencji, szczególnie w przypadku wyników wizualnych i kreatywnych. Wybierz ekosystem narzędzi w zależności od zadania: model językowy na tekst, wtyczka narzędzia do projektowania, tablica do syntezy, generator do wizualizacji — ale w każdym przypadku odruch weryfikacji pozostaje stały. Napisz własną politykę AI i swojego zespołu; w ten sposób prędkość jest równoważona odpowiedzialnością.

Zadanie aplikacji

1. Po wyświetleniu trzeciego monitu przygotuj krótki projekt zasad wykorzystania sztucznej inteligencji dla swojego zespołu UX.
2. Porównaj tę politykę z polityką uwierzytelniania i prywatności tego modułu i uzupełnij wszelkie luki.
3. Poddaj wątpliwy wniosek dotyczący projektu etycznemu papierkowi lakmusowemu już przy pierwszym pytaniu.
4. Sprawdź prawa autorskie do dowolnego obrazu sztucznej inteligencji, którego używasz lub będziesz używać, po drugie monit.
5. Utwórz listę kontrolną do samoweryfikacji i powieś ją na biurku.

lista kontrolna

• [ ] Odrzuciłem prośby o ciemny wzór i przedstawiłem uczciwą alternatywę.
• [ ] Zastosowałem etyczny test lakmusowy („Czy użytkownik zaakceptowałby to, gdyby zrozumiał?”).
• [ ] Zanonimizowałem dane osobowe i korzystałem wyłącznie z zatwierdzonych narzędzi.
• [ ] Sprawdziłem efekty wizualne pod kątem praw autorskich i podobieństwa.
• [ ] Dopasowałem zadanie do odpowiedniego typu pojazdu.
• [ ] Stworzyłem politykę wykorzystania AI i listę weryfikacyjną.

Egzamin modułowy

1. Projektant UX umieszcza w swoim raporcie badawczym motyw „użytkownicy chcą szybkości”, który AI zaczerpnął z 20 wywiadów, w swoim raporcie badawczym, nie patrząc na żadne cytaty; W prezentacji interesariusz pyta: „Na którym spotkaniu?” Na pytanie nie można znaleźć żadnej podstawy. Jaka jest główna lekcja płynąca z tej sytuacji?

• A) Powiązanie wyników sztucznej inteligencji z prawdziwym cytatem z wywiadu i wykorzystanie go bez weryfikacji; ✔ Ignorowanie odpowiedzialności za ustalenie śladu dowodowego
• B) Surowo zabrania się wykorzystywania sztucznej inteligencji w syntezie badań
• C) Liczba spotkań powinna wynosić 50 zamiast 20
• D) Temat nie jest przedstawiony w tabeli

Opis: Sztuczna inteligencja może wytwarzać płynne, ale bezpodstawne motywy (halucynacje). Nie każdy wynik syntezy powinien zostać uwzględniony w raporcie lub decyzji bez weryfikacji i powiązania z rzeczywistym cytatem i źródłem użytkownika; Odpowiedzialność leży po stronie projektanta.

2. Które z poniższych zadań wykorzystuje sztuczną inteligencję o największym ryzyku i koniecznie wymaga ostatecznej zgody projektanta?

• A) Stworzenie trzech różnych wariantów układu modelu szkieletowego
• B) Zaproponuj pięć alternatyw dla tekstu przycisku
• C) Podjęcie ostatecznej decyzji, że interfejs jest dostępny i spełnia potrzeby użytkownika ✔
• D) Podsumowanie notatki ze spotkania

Opis: Ostateczna decyzja dotycząca zatwierdzenia dostępności i rzeczywistych potrzeb użytkowników wiąże się z wysokim ryzykiem, ponieważ bezpośrednio wpływa na doświadczenia użytkowników. Stworzenie projektu szkieletowego lub zmiany tekstu wiąże się z niskim ryzykiem; Ostateczna ocena i akceptacja należy do projektanta.

3. Jaki jest najważniejszy krok przed przesłaniem transkrypcji rozmów użytkownika do AI?

• A) Prześlij transkrypcję w niezmienionej postaci, ze wszystkimi danymi osobowymi
• B) Anonimizacja danych osobowych (imię i nazwisko, kontakt, miejsce pracy) oraz praca w granicach wyrażonych zgodą i polityką korporacyjną ✔
• C) Najpierw przetłumacz transkrypcję na język angielski
• D) Konwersja transkrypcji na wizualizację

Opis: transkrypcje rozmów zawierają dane osobowe, takie jak imię i nazwisko, telefon i miejsce pracy. Zgodnie z KVKK i limitami zgody dane te muszą zostać zanonimizowane lub zamaskowane przed przesłaniem do sztucznej inteligencji; Należy korzystać z pojazdu zatwierdzonego przez instytucję.

4. Persona stworzona przez sztuczną inteligencję zawiera zdanie typu „starsi użytkownicy boją się technologii”. Jakie jest właściwe podejście?

• A) Pozostawienie zdania bez zmian, ponieważ AI jest neutralna
• B) Całkowicie usuń osobę
• C) Zaznacz stereotyp, przetestuj go na prawdziwych danych i usuń, jeśli nie ma potwierdzenia ✔
• D) Dalsze podkreślenie zdania

Wyjaśnienie: Sztuczna inteligencja może nieść ze sobą stereotypy i uprzedzenia wynikające z danych, na których jest szkolona. Persona musi opierać się na rzeczywistych danych segmentowych; Stereotypy należy oznaczać i weryfikować w oparciu o dane, a nieuzasadnione uogólnienia należy eliminować.

5. Co oznacza „mapowanie powinowactwa” w syntezie badań jakościowych?

• A) Sposób dotarcia do tematów poprzez grupowanie podobnych obserwacji i cytatów ✔
• B) Badanie mierzące bliskość użytkowników ze sobą
• C) Technika doboru palety kolorów
• D) Rodzaj animacji prototypu

Wyjaśnienie: Diagram zbliżeniowy to grupowanie poszczególnych obserwacji i cytatów według ich podobieństwa i przekształcanie ich w tematy. Sztuczna inteligencja może przyspieszyć wstępne grupowanie, ale znaczenie grup musi zostać zweryfikowane przez człowieka.

6. Projektant każe sztucznej inteligencji „napisać tekst przycisku” i otrzymuje wynik składający się z jednego słowa bez kontekstu. Co dodać, żeby był silniejszy zachęta?

• A) Po prostu mówię „pisz lepiej”
• B) Napisz zachętę w języku angielskim
• C) Wielokrotne powtarzanie tego samego monitu
• D) Cel wyświetlania, kontekst użytkownika, ton marki, ograniczenie długości i zapewnienie żądanej liczby odmian ✔

Opis: Potężny monit podaje kontekst: cel ekranu, co użytkownik aktualnie robi, wydźwięk marki, limit długości i liczbę odmian. Żądanie bezkontekstowe generuje ogólne i bezużyteczne dane wyjściowe.

7. W jaki sposób określa się „ważność” podczas ustalania priorytetów wyników testów użyteczności?

• A) Według stażu pracy osoby, która znalazła problem
• B) W zależności od wpływu problemu na użytkownika, częstotliwości i wpływu biznesowego ✔
• C) Według kolejności ustaleń w raporcie
• D) Według losowego wyniku przyznanego przez sztuczną inteligencję

Opis: Ważność jest określana na podstawie takich kryteriów, jak stopień wpływu problemu na użytkownika (czy uniemożliwia wykonanie zadania), liczba użytkowników, których dotknął oraz wpływ na działalność biznesową. Sztuczna inteligencja może sugerować wstępne rankingi, ale ostateczna decyzja dotycząca wagi należy do projektanta i jego zespołu.

8. Co jest prawdą w przypadku zaleceń dotyczących dostępności AI (np. tekstu alternatywnego)?

• A) Certyfikacja sztucznej inteligencji gwarantuje dostępność, nie są wymagane żadne dodatkowe badania
• B) Dostępność dotyczy wyłącznie wyboru koloru
• C) Tekst alternatywny nie jest wymagany
• D) Sztuczna inteligencja tworzy przeciągi; prawdziwa dostępność potwierdzona technologią wspomagającą i testami użytkowników ✔

Opis: sztuczna inteligencja może tworzyć szybkie szkice tekstu alternatywnego i kontrastu, ale prawdziwą dostępność można potwierdzić jedynie poprzez testy z czytnikami ekranu i rzeczywistymi użytkownikami technologii wspomagających. Automatyczna sugestia ma charakter wstępny, a nie dowód.

9. W tekście interfejsu sztuczna inteligencja sugeruje komunikat o błędzie „Twoja operacja nie powiodła się, spróbuj ponownie”. Jaka jest największa poprawa w zakresie pisania UX?

• A) Dodaj do wiadomości kod błędu technicznego i zostaw użytkownika w spokoju
• B) Całkowicie usuń wiadomość
• C) Napisz jasnym i nie oskarżycielskim językiem, co się stało, możliwą przyczynę i konkretny krok, jaki podejmie użytkownik ✔
• D) Pisanie „BŁĄD” wielkimi literami

Opis: dobry komunikat o błędzie jasno określa, co się stało, dlaczego i co użytkownik powinien zrobić; To nie byłoby oskarżycielskie. Formuła „co się stało + dlaczego + następny krok” utrzymuje użytkownika na właściwej drodze. Dzięki temu kryterium poprawia się szkic AI.

10. Jakie jest najwłaściwsze podejście do szkieletu tworzonego przez narzędzie sztucznej inteligencji generujące interfejs z tekstu?

• A) Wykorzystanie wyników bezpośrednio jako ostatecznego projektu
• B) Nieużywanie w ogóle wyników, ponieważ są one bezwartościowe
• C) Używanie wyniku tylko dla jego kolorów
• D) Potraktuj wynik jako wersję roboczą szybkiego startu i dopracuj go, dodając treść, obudowę Edge i dostępność ✔

Opis: narzędzia te umożliwiają szybkie uruchomienie wersji roboczej, ale brakuje im takich elementów, jak rzeczywista treść, przypadki brzegowe, dostępność i modele mentalne. Wynik jest punktem wyjścia; Projektant powinien to skrytykować i dojrzeć.

11. Jakie jest najwłaściwsze wykorzystanie sztucznej inteligencji w pracy systemów projektowych?

• A) Przygotuj dokumentację komponentów i projekty tekstów użytkowych oraz weryfikuj je przez zespół ✔
• B) Automatycznie publikuj cały system projektowy bez zatwierdzenia
• C) Zmiana kolorystyki marki bez pytania projektanta
• D) Usuwanie komponentów z systemu bez testowania użytkownika

Opis: sztuczna inteligencja ma potężną moc w szybkim generowaniu dokumentacji komponentów, skryptów użycia, przykładów „rób/nie” i wersji roboczych nazewnictwa tokenów. Należy jednak sprawdzić ich propozycje pod kątem sprzeczności z obecnym systemem; Decyzja o wyjątkowości i spójności należy do zespołu.

12. Projektant prosi sztuczną inteligencję, aby „uczyniła przycisk anulowania niezauważalnym” w celu ukrytego projektu, który przekierowuje użytkownika do niechcianej subskrypcji. Jakiego rodzaju jest to problem?

• A) Nieszkodliwe ulepszenie mikrointerakcji
• B) Poprawa dostępności
• C) Standardowa zasada systemu projektowania
• D) Ciemny wzór wprowadzający użytkownika w błąd, jest nieetyczny i niesie ze sobą ryzyko prawne ✔

Opis: projekty wprowadzające użytkownika w błąd do niepożądanego działania to „ciemne wzorce”, które są nieetyczne i coraz częściej podlegają sankcjom prawnym. Chociaż sztuczna inteligencja jest agentem, odpowiedzialność spoczywa na projektantze; taki wniosek powinien zostać odrzucony.

13. Jaka kontrola jest wymagana przed wykorzystaniem w produkcie obrazu lub zestawu ikon wyprodukowanego przy użyciu sztucznej inteligencji?

• A) Nie są wymagane żadne elementy sterujące, wyjście AI jest bezpłatne
• B) Weryfikacja warunków licencji pojazdu, praw autorskich i ryzyka bliskości podobnych dzieł ✔
• C) Sprawdzanie tylko rozmiaru pliku
• D) Liczenie kolorów obrazu

Opis: obrazy sztucznej inteligencji mogą być niepewne pod względem licencji, praw autorskich i podobieństwa marki. W przypadku komercyjnego wykorzystania narzędzia należy zweryfikować warunki licencji narzędzia, nadmierną odległość od podobnych dzieł oraz ryzyko własności intelektualnej; W razie potrzeby należy uzyskać zgodę prawną/zgodną.

14. Jakie jest właściwe podejście do linii „emocji” generowanej przez sztuczną inteligencję na mapie podróży użytkownika?

• A) Potwierdzenie emocji prawdziwymi danymi badawczymi, oznaczenie bezpodstawnych jako przypuszczeń ✔
• B) Uznanie przewidywania emocji przez sztuczną inteligencję za prawdę absolutną
• C) Całkowite ignorowanie linii emocji
• D) Zaznaczanie emocji losowymi kolorami

Wyjaśnienie: Sztuczna inteligencja może rozsądnie przewidzieć emocje i bolesne punkty, ale są to założenia, chyba że są poparte rzeczywistymi danymi użytkownika. Mapa powinna być potwierdzona cytatami z badań; bezpodstawne uczucia należy oznaczyć jako założenia.