Écosystème d’éthique, de confidentialité, de droit d’auteur et d’outils d’IA

Gains :

• Être capable d'encadrer l'utilisation de l'intelligence artificielle de manière responsable en termes d'originalité de la conception, de droits d'auteur, de confidentialité des données et d'éthique des modèles sombres
• Possibilité de sélectionner des outils UX basés sur des modèles Figma, Miro et de grands langages en fonction de la tâche et de les intégrer dans le flux de travail
• Capacité à créer une politique d'utilisation de l'intelligence artificielle personnelle et d'entreprise et une liste de contrôle de vérification

Tout au long de ce module, nous avons utilisé l'IA comme accélérateur à chaque étape du flux de travail UX. Cette dernière unité place tout ce pouvoir dans un cadre responsable : limites éthiques, confidentialité des données, droits d'auteur et propriété intellectuelle, et choix du bon outil pour le bon travail. Pour un designer, ce ne sont pas des « attentions supplémentaires » mais le cœur du métier ; parce que le design oriente le comportement de millions de personnes et que ce pouvoir peut être abusé. L’IA n’élimine pas cette responsabilité, elle l’augmente : lorsqu’un outil effectue une production rapide en votre nom, le résultat éthique et juridique du résultat vous appartient toujours.

Motifs sombres : abus de pouvoir

Un motif sombre est une conception qui incite l'utilisateur à effectuer une action qu'il ne souhaite pas : masquer le bouton d'annulation, écrire "non" d'une manière embarrassante ("Non, je ne veux pas enregistrer"), rendre délibérément difficile la désinscription, des cases à cocher pré-cochées. Ces mesures gonflent les mesures à court terme, mais détruisent la confiance des utilisateurs et sont de plus en plus soumises à des sanctions juridiques (les réglementations sur la protection des consommateurs les interdisent dans de nombreux pays).

L’IA peut vous permettre de produire plus facilement un motif sombre ; Une demande telle que « rendre le bouton d'annulation invisible » peut techniquement recevoir une réponse. Mais cette demande est contraire à l’éthique et devrait être rejetée. Le véhicule n’est pas une excuse ; La responsabilité incombe toujours au concepteur. Le test décisif pour une conception éthique est simple : « Si l’utilisateur comprenait cette conception, l’accepterait-il quand même ? »

Attention : « AI suggéré » n'est pas une défense. La responsabilité d'une production contraire à l'éthique incombe au concepteur qui l'utilise dans le produit.

Confidentialité des données et KVKK : du début à la fin

Le principe que nous avons souligné depuis la première unité prend ici tout son sens. La recherche UX fonctionne avec des données personnelles et KVKK protège ces données. Trois règles restent constantes lors de l’utilisation de l’intelligence artificielle :

1. Anonymiser : masquer les identifiants tels que le nom, le contact, le lieu de travail.
2. Restez dans les limites du consentement : ne dépassez pas l’utilisation prévue que vous avez indiquée au participant.
3. Connaître la politique de données de l'outil : contrôler où les données sont stockées et si elles sont destinées à la formation du modèle ; Choisissez des outils approuvés par l’entreprise.

La saisie de données critiques dans un outil gratuit pourrait exposer les données à des tiers. Dans l’environnement de l’entreprise, assurez-vous d’utiliser des outils approuvés par l’équipe de sécurité de l’information.

Droit d’auteur, propriété intellectuelle et originalité

Les images, icônes et textes produits par l’intelligence artificielle sont incertains en matière de droit d’auteur. Un générateur d'images peut produire une sortie trop similaire aux artefacts sur lesquels il a été formé ; Cela crée le risque de violer la propriété intellectuelle de quelqu'un d'autre. Trois contrôles sont essentiels pour une utilisation commerciale :

• Conditions de licence : Avez-vous le droit d'utiliser les résultats de l'outil à des fins commerciales ?
• Risque de similarité : le résultat ressemble-t-il dangereusement à une marque ou à une œuvre existante ?
• Originalité et transparence : Déclarer la contribution de l'intelligence artificielle dans les œuvres de création lorsque cela est nécessaire ; Ne présentez pas le travail de quelqu’un d’autre comme votre propre œuvre originale.

L'originalité dans les domaines de l'éducation et de la création est également une éthique professionnelle. L'IA peut être un point de départ, mais le travail final doit supporter votre contribution, votre jugement et votre responsabilité.

Écosystème d'outils : le bon outil pour le bon travail

Les outils d’intelligence artificielle sont grossièrement divisés en trois groupes. Ni l’un ni l’autre ne conviennent à tous les emplois ; sélectionner par tâche.

type de véhicule

Exemple d'utilisation

Sa force est

Attention

Grand modèle de langage (texte)

Synthèse de recherche, rédaction UX, documentation

Production et analyse de textes

Hallucination, confidentialité des données

Plugin intégré dans l'outil de conception (par exemple dans-Figma)

Wireframe, remplissage de contenu, mise en page

Rapidité dans le flux de conception

Cohérence, liaison des composants

Plugin de tableau de collaboration (par exemple dans Miro)

Diagramme d'affinité, brainstorming

Synthèse de recherche, regroupement

vérification humaine

Générateur d'images/icônes

Illustration, concept visuel

Idée visuelle rapide

Copyright, licence, similarité

Approche pratique : modèle de langage pour le texte et l'analyse, plugins intégrés à l'outil pour la génération de design, plugins de tableau blanc pour la synthèse, générateurs de visuels — mais dans chacun les réflexes de validation de ce module s'appliquent.

trois mini-cases

Cas 1 — Demande de motif sombre rejetée. Un chef de produit a demandé au concepteur de « rendre le processus d’annulation si difficile que personne ne puisse annuler ». Le concepteur a expliqué qu'il s'agit d'un motif sombre qui comporte des risques de confiance et des risques juridiques ; au lieu de cela, il a conçu un flux honnête qui offre une alternative à ceux qui annulent. Le taux d'annulation est resté gérable, la confiance a été maintenue.

Cas 2 — Risque lié au droit d'auteur détecté. Une équipe souhaitait utiliser une icône ressemblant à un logo produite par l’intelligence artificielle. Lors du contrôle de conformité, l’icône s’est avérée dangereusement similaire à une marque connue et n’a pas été utilisée. Leçon : la similarité de la sortie visuelle est toujours vérifiée.

Cas 3 — Violation de confidentialité évitée. Un concepteur était sur le point de télécharger des conversations client ainsi que des données personnelles vers un outil non approuvé. La politique institutionnelle a empêché cela ; Les données ont d’abord été anonymisées et un outil certifié a été utilisé. Leçon : la politique et l'anonymisation sont appliquées dès le début, pas après.

Invites copiables

Évaluez cette demande de conception de manière éthique : "<<request>>". Est-ce que cela induit l'utilisateur en erreur, restreint la liberté de choix, est-ce un motif sombre ? Test décisif : si l’utilisateur comprenait cela, l’accepterait-il quand même ? En cas de problème, proposez une alternative honnête.

Vérifiez cette sortie d'image/icône d'IA pour un usage commercial :1) y a-t-il un risque de similitude avec une marque ou une œuvre connue ?2) que dois-je rechercher en termes de licence/d'utilisation commerciale ?Listez les points à vérifier et l'avertissement "obtenir l'approbation légale" si nécessaire.Description de l'image : <<texte>>

Écrivez-nous un projet de politique d'utilisation de l'IA (pour l'équipe UX) : quelles données peuvent/ne peuvent pas être téléchargées, règle d'anonymisation, outils approuvés, étape de vérification des résultats, contrôle des droits d'auteur, limites éthiques. Donnez-le sous forme de puces courtes et exploitables.

Quel type d’outil d’IA est le mieux adapté à cette tâche ? "<<tâche>>".Options : modèle de langage / plugin outil de conception / plugin tableau blanc / générateur d'images. Choisissez le plus approprié, justifiez-le et notez le risque à considérer.

Invite faible/Invite forte

Faible : « Puis-je utiliser cette image ? »

Le résultat : une réponse vague et superficielle qui ne parvient pas à évaluer le risque.

Güçlü : « Vérifiez cette sortie d'image pour un usage commercial : y a-t-il un risque de similitude, à quoi dois-je faire attention en termes de licence, une autorisation légale est-elle requise ?

Résultat : liste de contrôle des risques concrète et avis d'approbation requis.

Différence : une invite forte interroge séparément les dimensions de similarité + licence + approbation.

Erreurs courantes

• Éviter toute responsabilité en disant "L'intelligence artificielle l'a suggéré". Le résultat éthique et juridique appartient au concepteur.
• Confondre les motifs sombres avec "l'optimisation". Toute conception qui trompe l’utilisateur détruit la confiance et la réputation.
• Utilisation d'une sortie visuelle sans contrôle des droits d'auteur. Les risques de similarité et de licence peuvent conduire à un désastre commercial.
• Saisie de données critiques dans un véhicule non autorisé. Violation du KVKK et fuite de données.
• Imposer un seul outil pour chaque travail. Ne pas choisir un véhicule en fonction du type de tâche réduit l'efficacité et la qualité.

En résumé

La puissance de l’IA n’élimine pas la responsabilité ; s'agrandit. La conception éthique refuse de tromper l’utilisateur ; Les schémas sombres sacrifient la confiance et la sécurité juridique au profit de gains à court terme. La confidentialité des données est protégée par l'anonymisation, le consentement et des outils approuvés dans le cadre de KVKK. Le droit d’auteur et l’originalité nécessitent un contrôle de similarité et de licence, en particulier dans les productions visuelles et créatives. Choisissez l'écosystème d'outils en fonction de la tâche : modèle de langage au texte, plugin d'outil à concevoir, tableau à la synthèse, générateur au visuel — mais dans chacun, le réflexe de vérification reste constant. Rédigez votre propre politique en matière d'IA et celle de votre équipe ; ainsi la vitesse est équilibrée avec la responsabilité.

Tâche de candidature

1. Avec la troisième invite, produisez un bref projet de politique d'utilisation de l'IA pour votre équipe UX.
2. Comparez la politique avec les politiques d'authentification et de confidentialité de ce module et comblez les éventuelles lacunes.
3. Soumettez une demande de conception douteuse au test décisif éthique dès la première invite.
4. Vérifiez les droits d'auteur de toute image d'intelligence artificielle que vous utilisez ou que vous utiliserez avec la deuxième invite.
5. Créez une liste de contrôle d’auto-vérification et accrochez-la sur votre bureau.

liste de contrôle

• [ ] J'ai rejeté les demandes de modèles sombres et j'ai produit une alternative honnête.
• [ ] J'ai appliqué le test décisif éthique (« L'utilisateur l'accepterait-il s'il le comprenait ? »).
• [ ] J'ai anonymisé les données personnelles et utilisé uniquement des outils approuvés.
• [ ] J'ai vérifié les sorties visuelles pour le droit d'auteur et la similarité.
• [ ] J'ai fait correspondre la tâche au bon type de véhicule.
• [ ] J'ai créé une politique d'utilisation de l'IA et une liste de vérification.

Examen de module

1. Un concepteur UX intègre dans son rapport de recherche le thème « les utilisateurs veulent de la vitesse » que l'IA a dérivé de 20 entretiens, sans regarder aucune citation ; Dans la présentation, la partie prenante demande « à quelle réunion ? Lorsqu'on lui a demandé, aucune base n'a pu être trouvée. Quelle est la principale leçon de cette situation ?

• A) Connecter le résultat de l'intelligence artificielle au devis réel de l'entretien et l'utiliser sans le vérifier ; ✔ Ignorer la responsabilité d'établir la piste des preuves
• B) Il est strictement interdit d'utiliser l'intelligence artificielle dans la synthèse de la recherche
• C) Le nombre de réunions devrait être de 50 au lieu de 20
• D) Le thème n'est pas présenté dans un tableau

Description : L’intelligence artificielle peut produire des thèmes fluides mais sans fondement (hallucinations). Tous les résultats de synthèse ne doivent pas être intégrés dans un rapport ou une décision sans être vérifiés et liés à la citation et à la source réelles de l'utilisateur ; La responsabilité incombe au concepteur.

2. Laquelle des tâches suivantes utilise l'IA avec le risque le plus élevé et nécessite nécessairement l'approbation finale du concepteur ?

• A) Produire trois variantes de mise en page différentes pour un wireframe
• B) Suggérer cinq alternatives pour le texte du bouton
• C) Prendre la décision finale selon laquelle une interface est accessible et répond aux besoins des utilisateurs ✔
• D) Résumer une note de réunion

Description : La décision finale concernant l'approbation de l'accessibilité et les besoins réels des utilisateurs comporte un risque élevé car elle affecte directement l'expérience des gens. Produire un brouillon de wireframe ou une variation de texte présente un faible risque ; Le jugement final et l'approbation appartiennent au concepteur.

3. Quelle est l’étape la plus critique avant de télécharger la transcription de l’appel de l’utilisateur sur AI ?

• A) Téléchargez la transcription telle quelle, avec toutes les données personnelles
• B) Anonymiser les données personnelles (nom, contact, lieu de travail) et travailler dans les limites du consentement et de la politique de l'entreprise ✔
• C) Traduisez d'abord la transcription en anglais
• D) Conversion de la transcription en visuel

Description : Les transcriptions des entretiens contiennent des données personnelles telles que le nom, le téléphone et le lieu de travail. Conformément au KVKK et aux limites de consentement, ces données doivent être anonymisées ou masquées avant d'être transférées à l'intelligence artificielle ; Le véhicule agréé par l'établissement doit être utilisé.

4. Un personnage produit par l'intelligence artificielle contient une phrase telle que « les utilisateurs plus âgés ont peur de la technologie ». Quelle est la bonne approche ?

• A) Laisser la phrase telle quelle, car l'IA est neutre
• B) Supprimer complètement le personnage
• C) Marquez le stéréotype, testez-le avec des données réelles et supprimez-le s'il n'est pas pris en charge ✔
• D) Insister davantage sur la phrase

Explication : L'intelligence artificielle peut véhiculer des stéréotypes et des préjugés provenant des données sur lesquelles elle est formée. Persona doit être basé sur des données de segment réelles ; Les stéréotypes doivent être marqués et testés par rapport aux données, et les généralisations non étayées doivent être éliminées.

5. Que signifie la « cartographie d'affinité » dans la synthèse de la recherche qualitative ?

• A) Méthode pour atteindre des thèmes en regroupant des observations et des citations similaires ✔
• B) Une enquête mesurant la proximité des utilisateurs les uns avec les autres
• C) Technique de choix de la palette de couleurs
• D) Un type d'animation prototype

Explication : Le diagramme de proximité est le regroupement d'observations et de citations individuelles en fonction de leurs similitudes et leur transformation en thèmes. L’IA peut accélérer le regroupement initial, mais la signification des groupes doit être vérifiée par l’homme.

6. Un concepteur demande à l'IA d'« écrire le texte du bouton » et obtient un résultat d'un seul mot sans contexte. Que faut-il ajouter pour une invite plus forte ?

• A) Je dis simplement « écrire mieux »
• B) Écrivez l'invite en anglais
• C) Répéter la même invite plusieurs fois
• D) Objectif de l'affichage, contexte utilisateur, ton de la marque, limite de longueur et nombre de variations souhaité ✔

Description : l'invite puissante donne le contexte : le but de l'écran, ce que l'utilisateur fait en ce moment, le ton de la marque, la limite de longueur et le nombre de variations. La requête sans contexte produit une sortie générique et inutilisable.

7. Comment la « gravité » est-elle déterminée lors de la priorisation des résultats des tests d'utilisabilité ?

• A) Selon l'ancienneté de la personne qui a trouvé le problème
• B) Selon l'impact du problème sur l'utilisateur, la fréquence et l'impact business ✔
• C) Selon l'ordre des conclusions du rapport
• D) Selon le score aléatoire attribué par l'intelligence artificielle

Description : la gravité est déterminée par des critères tels que l'ampleur du problème qui affecte l'utilisateur (empêche-t-il l'exécution de la tâche), le nombre d'utilisateurs rencontrés et l'impact commercial. L'IA peut suggérer des projets de classement, mais la décision finale en matière de poids appartient au concepteur et à son équipe.

8. Qu'est-ce qui est vrai concernant les recommandations d'accessibilité de l'IA (par exemple, le texte alternatif) ?

• A) La certification de l'intelligence artificielle garantit l'accessibilité, aucun test supplémentaire n'est requis
• B) L'accessibilité concerne uniquement le choix des couleurs
• C) Le texte alternatif n'est pas requis
• D) L'intelligence artificielle produit des brouillons ; véritable accessibilité confirmée par la technologie d'assistance et les tests utilisateurs ✔

Description : L'IA peut produire des croquis rapides pour le texte alternatif et le contraste, mais la véritable accessibilité n'est confirmée que par des tests avec des lecteurs d'écran et de véritables utilisateurs de technologies d'assistance. La suggestion automatique est préliminaire et non une preuve.

9. Dans un texte d'interface, l'IA suggère un message d'erreur « Votre opération a échoué, réessayez ». Quelle est la meilleure amélioration en termes de rédaction UX ?

• A) Ajoutez le code d'erreur technique au message et laissez l'utilisateur tranquille
• B) Supprimez complètement le message
• C) Écrivez dans un langage clair et non accusateur ce qui s'est passé, la raison possible et la mesure concrète que l'utilisateur prendra ✔
• D) Ecrire 'ERREUR' en majuscules

Description : un bon message d'erreur indique clairement ce qui s'est passé, pourquoi et ce que l'utilisateur doit faire ; Ce ne serait pas accusateur. La formule « ce qui s'est passé + pourquoi + étape suivante » permet à l'utilisateur de rester sur la bonne voie. Le croquis de l'IA est amélioré par ce critère.

10. Quelle est l'attitude la plus correcte à l'égard du wireframe produit par un outil d'intelligence artificielle qui génère une interface à partir de texte ?

• A) Utiliser le résultat directement comme conception finale
• B) Ne pas utiliser du tout la sortie car elle ne vaut rien
• C) Utiliser la sortie pour ses couleurs uniquement
• D) Traitez le résultat comme un brouillon de démarrage rapide et perfectionnez-le avec le contenu, les cas extrêmes et l'accessibilité ✔

Description : ces outils produisent une ébauche de démarrage rapide, mais manquent d'éléments tels que le contenu réel, les cas extrêmes, l'accessibilité et les modèles mentaux. Le résultat est un point de départ ; Le concepteur doit critiquer et mûrir cela.

11. Quelle est l'utilisation la plus appropriée de l'intelligence artificielle dans le travail sur les systèmes de conception ?

• A) Produire la documentation des composants et les brouillons de textes d'utilisation et les vérifier par l'équipe ✔
• B) Publier automatiquement l'intégralité du système de conception sans approbation
• C) Changer les couleurs de la marque sans demander au designer
• D) Suppression de composants du système sans test utilisateur

Description : l'IA est puissante pour générer rapidement de la documentation sur les composants, des scripts d'utilisation, des exemples à faire/à ne pas faire et des brouillons de dénomination de jetons. Cependant, leurs propositions devraient être vérifiées pour déceler tout conflit avec le système actuel ; La décision de singularité et de cohérence appartient à l’équipe.

12. Un concepteur demande à l'IA de « rendre le bouton d'annulation invisible » pour une conception cachée qui redirige l'utilisateur vers un abonnement indésirable. De quel genre de problème s'agit-il ?

• A) Une amélioration inoffensive des micro-interactions
• B) Amélioration de l'accessibilité
• C) Une règle de système de conception standard
• D) Un motif sombre qui induit l'utilisateur en erreur, est contraire à l'éthique et comporte un risque juridique ✔

Description : Les conceptions qui induisent l'utilisateur en erreur en lui faisant commettre une action indésirable sont des « modèles sombres », contraires à l'éthique et de plus en plus soumis à des sanctions juridiques. Bien que l’IA soit un agent, la responsabilité incombe au concepteur ; une telle demande devrait être rejetée.

13. Quel contrôle est requis avant d'utiliser une image ou un ensemble d'icônes produit avec l'intelligence artificielle dans le produit ?

• A) Aucun contrôle requis, la sortie AI est gratuite
• B) Vérification des conditions d'immatriculation du véhicule, des droits d'auteur et des risques de proximité avec des œuvres similaires ✔
• C) Vérification de la taille du fichier uniquement
• D) Compter le nombre de couleurs de l'image

Description : les images d'intelligence artificielle peuvent être incertaines en termes de licence, de droit d'auteur et de similarité avec la marque. En cas d'utilisation commerciale, les termes de la licence de l'outil, la proximité excessive avec des œuvres similaires et le risque de propriété intellectuelle doivent être vérifiés ; Si nécessaire, une approbation légale/de conformité doit être obtenue.

14. Quelle est la bonne approche concernant la ligne « émotion » produite par l'IA sur la carte du parcours utilisateur ?

• A) Confirmer les émotions avec des données de recherche réelles, en marquant celles qui ne sont pas fondées comme hypothèses ✔
• B) Considérer la prédiction des émotions par l'intelligence artificielle comme une vérité absolue
• C) Ignorer complètement la ligne d'émotion
• D) Marquer les émotions avec des couleurs aléatoires

Explication : L'IA peut raisonnablement prédire les émotions et les problèmes, mais ce ne sont que des hypothèses à moins qu'elles ne soient étayées par des données réelles d'utilisateurs. La carte doit être confirmée par des citations de recherche ; les sentiments infondés doivent être marqués comme des hypothèses.