Экосистема инструментов этики, конфиденциальности, авторского права и искусственного интеллекта

Прибыль:

• Уметь ответственно подходить к использованию искусственного интеллекта с точки зрения оригинальности дизайна, авторских прав, конфиденциальности данных и этики темных шаблонов.
• Возможность выбрать Figma, Miro и UX-инструменты на основе больших языковых моделей в соответствии с задачей и интегрировать их в рабочий процесс.
• Возможность создания личной и корпоративной политики использования искусственного интеллекта и контрольного списка проверки.

На протяжении всего этого модуля мы использовали ИИ в качестве ускорителя на каждом этапе рабочего процесса UX. Этот последний модуль объединяет всю эту мощь в ответственную структуру: этические границы, конфиденциальность данных, авторское право и интеллектуальная собственность, а также выбор правильного инструмента для правильной работы. Для дизайнера это не «дополнительное внимание», а суть профессии; потому что дизайн управляет поведением миллионов людей, и этой властью можно злоупотреблять. ИИ не устраняет эту ответственность, он увеличивает ее: когда инструмент выполняет быстрое производство от вашего имени, этический и юридический результат результата по-прежнему остается за вами.

Темные закономерности: злоупотребление властью

Темный шаблон — это дизайн, который заставляет пользователя совершить действие, которого он не хочет: скрыть кнопку отмены, написать «нет» в неловкой форме («Нет, я не хочу сохранять»), намеренно усложнить отмену подписки, заранее поставить галочки. В краткосрочной перспективе это приводит к завышению показателей, но разрушает доверие пользователей и все чаще подвергается юридическим санкциям (правила защиты прав потребителей запрещают это во многих странах).

ИИ может облегчить вам создание темного узора; На запрос типа «сделать кнопку отмены незаметной» технически можно ответить. Но эта просьба неэтична и должна быть отклонена. Автомобиль не является оправданием; Ответственность всегда лежит на дизайнере. Лакмусовая бумажка этичного дизайна проста: «Если бы пользователь понял этот дизайн, принял бы он его?»

Внимание: фраза «предложение ИИ» не является защитой. Ответственность за неэтичный результат лежит на дизайнере, который использует его в продукте.

Конфиденциальность данных и КВКК: от начала до конца

Принцип, который мы подчеркивали с момента выхода первого раздела, здесь полностью раскрывается. UX-исследования работают с личными данными, и KVKK защищает эти данные. Три правила остаются неизменными при использовании искусственного интеллекта:

1. Анонимизация: Маскируйте идентификаторы, такие как имя, контакт, рабочее место.
2. Оставайтесь в пределах согласия: не превышайте предполагаемое использование, о котором вы сообщили участнику.
3. Знайте политику данных инструмента: контролируйте, где хранятся данные и используются ли они для обучения модели; Выбирайте корпоративные одобренные инструменты.

Ввод критически важных данных в бесплатный инструмент может привести к тому, что они станут доступны третьим лицам. В корпоративной среде обязательно используйте инструменты, одобренные командой информационной безопасности.

Авторское право, интеллектуальная собственность и оригинальность

Изображения, значки и тексты, созданные искусственным интеллектом, не защищены авторскими правами. Генератор изображений может выдавать выходные данные, слишком похожие на артефакты, на которых он обучался; Это создает риск нарушения чужой интеллектуальной собственности. Для коммерческого использования необходимы три элемента управления:

• Условия лицензии: имеете ли вы право использовать результаты инструмента в коммерческих целях?
• Риск сходства: выглядит ли результат опасно похожим на существующий бренд или работу?
• Оригинальность и прозрачность: при необходимости заявлять о вкладе искусственного интеллекта в творческие работы; Не выдавайте чужую работу за свою оригинальную.

Оригинальность в образовании и творческой сфере – это еще и профессиональная этика. ИИ может быть отправной точкой, но окончательная работа должна включать в себя ваш вклад, суждение и ответственность.

Экосистема инструментов: правильный инструмент для правильной работы

Инструменты искусственного интеллекта условно делятся на три группы. Ни один из них не подходит для каждой работы; выбирать по задаче.

тип транспортного средства

Пример использования

Его сила в том,

Внимание

Большая языковая модель (текст)

Синтез исследований, написание UX, документация

Производство и анализ текста

Галлюцинации, конфиденциальность данных

Плагин, встроенный в инструмент проектирования (например, в Figma)

Вайрфрейм, наполнение контентом, верстка

Скорость проектирования

Консистенция, связь компонентов

Плагин доски для совместной работы (например, в Miro)

Диаграмма близости, мозговой штурм

Синтез исследований, группировка

человеческая проверка

Генератор изображений/значков

Иллюстрация, визуальная концепция

Быстрая визуальная идея

Авторское право, лицензия, сходство

Практический подход: языковая модель для текста и анализа, встроенные плагины для создания дизайна, плагины доски для синтеза, генераторы визуальных эффектов — но в каждом случае применяются рефлексы проверки этого модуля.

три мини-кейса

Случай 1 — запрос на темный шаблон отклонен. Менеджер по продукту попросил дизайнера «сделать процесс отмены настолько сложным, чтобы никто не смог отменить заказ». Дизайнер объяснил, что это темная модель, которая несет в себе доверие и юридический риск; вместо этого он разработал честный поток, предлагающий альтернативу тем, кто отменяет подписку. Уровень отмены оставался управляемым, доверие сохранялось.

Случай 2 – обнаружен риск нарушения авторских прав. Команда хотела использовать значок, похожий на логотип, созданный искусственным интеллектом. В ходе проверки на соответствие значок оказался опасно похожим на известный бренд и не был использован. Урок: визуальный вывод всегда проверяется на сходство.

Случай 3 — Предотвращено нарушение конфиденциальности. Дизайнер собирался загрузить разговоры с клиентами вместе с личными данными в неутвержденный инструмент. Институциональная политика помешала этому; Данные сначала были анонимизированы, и использовался сертифицированный инструмент. Урок: политика и анонимизация применяются с самого начала, а не после.

Копируемые подсказки

Оцените этот запрос на проектирование с этической точки зрения: «<<запрос>>. Вводит ли это пользователя в заблуждение, ограничивает свободу выбора, является ли это темной закономерностью? Лакмусовая бумажка: если бы пользователь это понял, принял бы он это? Если проблематично, предложите честную альтернативу.

Проверьте это изображение/значок AI на предмет коммерческого использования: 1) существует ли риск сходства с известным брендом или произведением? 2) на что мне следует обратить внимание с точки зрения лицензирования/коммерческого использования? Перечислите пункты, которые необходимо проверить, и при необходимости добавьте предупреждение «получить юридическое одобрение». Описание изображения: <<текст>>

Напишите нам проект политики использования ИИ (для UX-команды): какие данные можно/нельзя загружать, правила анонимизации, одобренные инструменты, этап проверки результатов, контроль авторских прав, этические границы. Изложите это в кратких, практических пунктах.

Какой тип инструмента искусственного интеллекта лучше всего подходит для этой задачи? «<<задача>>».Параметры: языковая модель/плагин средства проектирования/плагин доски/генератор изображений. Выберите наиболее подходящий, обоснуйте его и запишите риск, который следует учитывать.

Слабая подсказка / Сильная подсказка

Слабое: «Могу ли я использовать это изображение?»

Результат: расплывчатый, поверхностный ответ, не позволяющий оценить риск.

Гючлю: «Проверьте это изображение на предмет коммерческого использования: есть ли риск сходства, на что мне следует обратить внимание с точки зрения лицензирования, требуется ли юридическое разрешение?»

Результат: Конкретный контрольный список рисков и необходимое уведомление об одобрении.

Разница: строгая подсказка запрашивает параметры сходства + лицензии + утверждения отдельно.

Распространенные ошибки

• Уход от ответственности, говоря: «Это подсказал искусственный интеллект». Этический и юридический результат лежит на проектировщике.
• Принятие темных шаблонов за «оптимизацию». Любой дизайн, обманывающий пользователя, разрушает доверие и репутацию.
• Использование визуального вывода без контроля авторских прав. Сходство и риск лицензирования могут привести к катастрофе в бизнесе.
• Ввод критически важных данных в неавторизованный автомобиль. Нарушение КВКК и утечка данных.
• Использование одного инструмента для каждой работы. Невыбор транспортного средства по типу задачи снижает эффективность и качество.

В заключение

Сила ИИ не снимает ответственности; увеличивается. Этический дизайн не позволяет обмануть пользователя; темные модели жертвуют доверием и юридической безопасностью ради краткосрочной выгоды. Конфиденциальность данных защищена анонимизацией, согласием и одобренными инструментами в рамках KVKK. Авторское право и оригинальность требуют контроля сходства и лицензирования, особенно в визуальной и творческой продукции. Выбирайте экосистему инструментов в соответствии с задачей: языковую модель — текст, плагин инструмента — дизайн, плату — синтез, генератор — визуал — но в каждом рефлекс проверки остается постоянным. Напишите свою собственную политику ИИ и политику своей команды; таким образом, скорость сбалансирована с ответственностью.

Задача приложения

1. С помощью третьего запроса подготовьте краткий проект политики использования ИИ для вашей UX-команды.
2. Сравните политику с политиками аутентификации и конфиденциальности этого модуля и заполните все пробелы.
3. Поместите сомнительный запрос на дизайн в этическую лакмусовую бумажку с помощью первой подсказки.
4. Проверьте авторские права любого изображения искусственного интеллекта, которое вы используете или будете использовать, во втором запросе.
5. Создайте контрольный список для самопроверки и повесьте его на свой стол.

контрольный список

• [ ] Я отклонил запросы о темных шаблонах и предложил честную альтернативу.
• [ ] Я применил этическую лакмусовую бумажку («Принял бы пользователь это, если бы понял?»).
• [ ] Я анонимизировал личные данные и использовал только одобренные инструменты.
• [ ] Я проверил визуальные результаты на предмет авторских прав и сходства.
• [ ] Я сопоставил задачу с правильным типом транспортного средства.
• [ ] Я создал политику использования ИИ и список проверок.

Модульный экзамен

1. UX-дизайнер помещает в свой исследовательский отчет тему «пользователи хотят скорости», которую ИИ извлек из 20 интервью; В презентации заинтересованная сторона спрашивает: «На какой встрече?» Когда его спрашивают, никаких оснований найти невозможно. Какой главный урок из этой ситуации?

• А) Соединение результатов искусственного интеллекта с реальной цитатой из интервью и использование их без проверки; ✔ Игнорирование ответственности за установление доказательной базы
• Б) Категорически запрещено использовать искусственный интеллект при синтезе исследований.
• В) Количество встреч должно быть 50 вместо 20.
• Г) Тема не представлена в таблице

Описание: Искусственный интеллект может создавать беглые, но необоснованные темы (галлюцинации). Не каждый результат синтеза должен включаться в отчет или решение без проверки и ссылки на фактическую цитату пользователя и источник; Ответственность лежит на дизайнере.

2. Какая из следующих задач использует ИИ с наибольшим риском и обязательно требует окончательного одобрения проектировщика?

• А) Создание трех различных вариантов макета для каркаса.
• Б) Предложите пять вариантов текста кнопки.
• В) Принятие окончательного решения о том, что интерфейс доступен и соответствует потребностям пользователя ✔
• D) Подведение итогов встречи.

Описание. Окончательное решение об одобрении доступности и реальных потребностях пользователей сопряжено с высоким риском, поскольку оно напрямую влияет на опыт людей. Создание чернового каркаса или варианта текста сопряжено с низким риском; Окончательное решение и утверждение принадлежит дизайнеру.

3. Какой самый важный шаг перед загрузкой расшифровки разговора пользователя в AI?

• А) Загрузите стенограмму как есть, со всеми личными данными.
• Б) Обезличивание персональных данных (ФИО, контакт, место работы) и работа в рамках согласия и корпоративной политики ✔
• В) Сначала переведите стенограмму на английский язык.
• D) Преобразование стенограммы в наглядное изображение.

Описание: Стенограммы интервью содержат личные данные, такие как имя, телефон и место работы. В соответствии с KVKK и ограничениями согласия эти данные должны быть анонимизированы или замаскированы перед передачей искусственному интеллекту; Необходимо использовать транспортное средство, одобренное учреждением.

4. Персонаж, созданный искусственным интеллектом, содержит такое предложение, как «пожилые пользователи боятся технологий». Каков правильный подход?

• А) Оставить предложение как есть, поскольку ИИ нейтрален
• Б) Полностью удалить личность
• В) Отметьте стереотип, протестируйте его на реальных данных и удалите, если он не поддерживается ✔
• D) Еще больше подчеркнуть предложение.

Пояснение: Искусственный интеллект может нести стереотипы и предвзятость в данных, на которых он обучается. Персона должна быть основана на реальных данных сегмента; Стереотипы должны быть отмечены и проверены на основе данных, а необоснованные обобщения должны быть устранены.

5. Что означает «картирование аффинности» в синтезе качественных исследований?

• А) Метод достижения темы путем группировки схожих наблюдений и цитат ✔
• Б) Опрос, измеряющий близость пользователей друг к другу.
• В) Техника выбора цветовой палитры
• D) Тип анимации прототипа.

Пояснение: Диаграмма близости – это группировка отдельных наблюдений и цитат по их сходству и превращение их в темы. ИИ может ускорить первоначальную группировку, но значение групп должно быть проверено человеком.

6. Дизайнер приказывает ИИ «написать текст кнопки» и получает результат из одного слова без контекста. Что следует добавить для более сильного подсказки?

• А) Просто говорю: «Пиши лучше»
• Б) Напишите подсказку на английском языке.
• В) Многократное повторение одной и той же подсказки.
• D) Цель отображения, пользовательский контекст, тон бренда, ограничение длины и предоставление желаемого количества вариантов ✔

Описание: Мощная подсказка дает контекст: назначение экрана, что пользователь делает в данный момент, тон бренда, ограничение длины и количество вариантов. Бесконтекстный запрос выдает общий и непригодный для использования вывод.

7. Как определяется «серьезность» при определении приоритетности результатов юзабилити-тестов?

• А) По старшинству человека, обнаружившего проблему
• Б) В зависимости от влияния проблемы на пользователя, частоты и влияния на бизнес ✔
• В) По порядку выводов в отчете
• D) Согласно случайной оценке, полученной искусственным интеллектом.

Описание. Серьезность определяется такими критериями, как степень влияния проблемы на пользователя (препятствует ли она выполнению задачи), количество пользователей, с которыми она столкнулась, а также влияние на бизнес. ИИ может предлагать варианты рейтингов, но окончательное решение о весе остается за дизайнером и его командой.

8. Что верно в отношении рекомендаций по доступности ИИ (например, альтернативный текст)?

• А) Сертификация искусственного интеллекта гарантирует доступность, никаких дополнительных испытаний не требуется.
• Б) Доступность – это только выбор цвета
• В) Альтернативный текст не требуется.
• Г) Искусственный интеллект создает черновики; истинная доступность, подтвержденная вспомогательными технологиями и пользовательским тестированием ✔

Описание. ИИ может создавать быстрые эскизы для замещающего текста и контраста, но истинная доступность подтверждается только тестированием с помощью программ чтения с экрана и реальных пользователей вспомогательных технологий. Автоматическое предложение является предварительным, а не доказательством.

9. В тексте интерфейса ИИ предлагает сообщение об ошибке «Ваша операция не удалась, попробуйте еще раз». Что является лучшим улучшением с точки зрения написания UX?

• А) Добавьте в сообщение код технической ошибки и оставьте пользователя в покое
• Б) Удалить сообщение полностью
• В) Напишите понятным и необвинительным языком, что произошло, возможную причину и конкретный шаг, который предпримет пользователь ✔
• Г) Написать «ОШИБКА» заглавными буквами.

Описание. В хорошем сообщении об ошибке четко указано, что произошло, почему и что следует делать пользователю; Это не было бы обвинительным. Формула «что произошло + почему + следующий шаг» помогает пользователю не сбиться с пути. Эскиз AI улучшен по этому критерию.

10. Каково наиболее правильное отношение к каркасу, созданному инструментом искусственного интеллекта, генерирующим интерфейс из текста?

• А) Использование результатов непосредственно в качестве окончательного проекта.
• Б) Вообще не использовать выходные данные, потому что они бесполезны
• C) Использование вывода только для цветов
• Г) Рассматривайте результат как черновой вариант для быстрого старта и дорабатывайте его с помощью содержания, краевого регистра и доступности ✔

Описание. Эти инструменты создают черновой вариант для быстрого старта, но им не хватает таких вещей, как реальный контент, крайние случаи, доступность и ментальные модели. Результат является отправной точкой; Дизайнер должен это критиковать и доводить до ума.

11. Как наиболее целесообразно использовать искусственный интеллект в работе систем проектирования?

• А) Подготовить документацию по компонентам и черновики текстов по использованию и проверить их командой ✔
• Б) Автоматически публиковать всю дизайн-систему без одобрения.
• В) Изменение фирменных цветов, не спрашивая дизайнера
• Г) Удаление компонентов из системы без пользовательского тестирования

Описание. Искусственный интеллект позволяет быстро создавать документацию по компонентам, сценарии использования, примеры того, что можно и чего нельзя делать, а также проекты именования токенов. Однако их предложения следует проверить на предмет противоречия с действующей системой; Решение об уникальности и последовательности остается за командой.

12. Дизайнер просит ИИ «сделать кнопку отмены незаметной» для скрытого дизайна, который перенаправляет пользователя на нежелательную подписку. Что это за проблема?

• А) Безобидное улучшение микровзаимодействия
• Б) Улучшение доступности
• В) Стандартное правило системы проектирования.
• Г) Темный рисунок, который вводит пользователя в заблуждение, является неэтичным и несет в себе юридический риск ✔

Описание: Дизайны, которые вводят пользователя в заблуждение и побуждают его к нежелательным действиям, представляют собой «темные шаблоны», которые неэтичны и все чаще подвергаются юридическим санкциям. Хотя ИИ является агентом, ответственность лежит на разработчике; такой запрос должен быть отклонен.

13. Какой контроль требуется перед использованием в продукте изображения или набора значков, созданных с помощью искусственного интеллекта?

• А) Никакого контроля не требуется, выход AI бесплатен
• Б) Проверка условий лицензии транспортного средства, авторских прав и риска близости к аналогичным произведениям ✔
• В) Проверка только размера файла
• Г) Подсчет количества цветов изображения

Описание: Изображения, созданные искусственным интеллектом, могут быть неопределенными с точки зрения лицензии, авторских прав и сходства бренда. При коммерческом использовании следует проверять условия лицензии на инструмент, чрезмерную близость к аналогичным произведениям и риск интеллектуальной собственности; При необходимости необходимо получить одобрение законодательства/соответствия.

14. Каков правильный подход к линии «эмоций», создаваемой ИИ на карте пути пользователя?

• А) Подтверждение эмоций реальными исследовательскими данными, пометка необоснованных как предположения ✔
• Б) Считать предсказание эмоций искусственным интеллектом абсолютной истиной.
• В) Полное игнорирование линии эмоций
• Г) Обозначение эмоций случайными цветами.

Пояснение: ИИ может разумно предсказывать эмоции и болевые точки, но это предположения, если они не подтверждены реальными пользовательскими данными. Карта должна быть подтверждена цитатами из исследований; необоснованные чувства следует обозначить как предположения.