Прибыль:
- Возможность различать, где в рабочем процессе UX (синтез исследования, персона, каркас, текст интерфейса, анализ тестов) искусственный интеллект экономит реальное время, а где такие обязанности, как выслушивание пользователя и окончательное проектное решение, остаются за дизайнером в зависимости от уровня риска задачи.
- Способность развивать рефлекс, который связывает каждый вывод ИИ с реальными пользовательскими данными и доказательствами, а также проверяет галлюцинации и предвзятость посредством этапов исследования.
- Возможность обезличить записи разговоров пользователей и персональные данные в рамках КВКК и передать их искусственному интеллекту в пределах согласия
Дизайн пользовательского опыта (UX, то есть опыта человека, использующего продукт от начала до конца) уже много лет идет по принципу «сначала понять человека, потом решить его». Когда искусственный интеллект вступает в этот цикл, первый вопрос большинства людей звучит так: «Сделает ли искусственный интеллект дизайн за меня?» Короткий ответ: нет. Искусственный интеллект — помощник дизайнера; Он создает черновики, обобщает данные, умножает варианты и ускоряет повторяющиеся задачи. Но дизайнер всегда должен по-настоящему выслушать пользователя, решить, какое решение является правильным, и нести ответственность за это решение. В этом первом модуле объясняется, где использовать ИИ в рабочем процессе UX, где следует остановиться и как безопасно перемещать пользовательские данные.
Где ИИ может пригодиться в рабочем процессе UX?
UX-проект проходит примерно пять этапов: открытие (исследование), определение (персонаж и проблема), производство (поток, каркас, прототип), тестирование (удобство использования) и доставка (система проектирования, документация). На каждом из этих этапов искусственный интеллект играет разную роль.
- Открытие: обобщает десятки стенограмм интервью (расшифрованных записей) за минуты, а не за часы, извлекая исходные темы. Но какая тема важна, каждый сам решает.
- Описание: Создает Persona (вымышленный профиль, представляющий определенный тип пользователя) и черновики карт путешествий. Но ваша задача — обеспечить, чтобы эти проекты основывались на реальных данных.
- Генерация: каркас (каркас экрана), блок-схема и текст интерфейса воспроизводят варианты.
- Тестирование: получает результаты из записей испытаний и ранжирует их в порядке важности.
- Презентация: Пишет документацию по компонентам и правила использования.
Общая идея такова: ИИ генерирует черновики и варианты; Суждение и одобрение остаются за вами.
Совет: используйте искусственный интеллект не для того, чтобы «дать мне ответ», а для того, чтобы «быстро предоставить мне варианты и позволить мне выбрать». Наибольшая эффективность достигается, когда вы делегируете подготовительную работу, а не принятие решений.
Уровень риска миссии: где свободно, где осторожно?
Не каждая задача несет одинаковый риск. Простое эмпирическое правило: чем более непосредственно результаты влияют на пользователя, тем выше риск.
Квест
Уровень риска
Роль искусственного интеллекта
человеческое одобрение
Краткое изложение заметки о встрече
низкий
Почти полностью передан
легкий скимминг
Создание каркасного варианта
низкий-средний
Создает черновик
Дизайнер выбирает и исправляет
Создание темы исследования
средний
Предварительный синтез
Требуется подтверждение по котировке
Текст интерфейса (сообщение об ошибке и т. д.)
средне-высокий
производит вариации
Тон, точность, проверка закона
Подтверждение доступности
высокий
предварительное сканирование
Реальный тест обязателен
Определить реальные потребности пользователя
самый высокий
не могу помочь
Всё в дизайнере
Эта диаграмма представляет собой компас: по мере продвижения вверх вы уменьшаете свое доверие к ИИ и увеличиваете свою собственную достоверность.
Галлюцинации и предвзятость: два фундаментальных ограничения
Вы должны с самого начала усвоить два слепых пятна искусственного интеллекта.
Галлюцинация (фабрикация): большая языковая модель (возможно, ИИ, угадывающий слова, обученный на больших объемах текста) может выдавать беглую, но на самом деле неточную информацию. Например, написано "Пользователи просили скорость за 20 разговоров", но на самом деле такой цитаты нет. Независимо от того, насколько достоверным выглядит вывод, он неточен без ссылки на источник.
Предвзятость: модель несет в себе предвзятости, присущие данным, на которых она обучается. Такие клише, как «пожилые пользователи боятся технологий», могут проникнуть в образ или сценарий. Эти предложения являются необоснованными обобщениями и должны быть проверены на реальных данных.
Внимание: плавность и точность вывода AI — это не одно и то же. Самый опасный результат — это тот, который написан неправильными, но идеальными предложениями.
Данные пользователя, КВКК и согласие
UX-исследования работают с личными данными: журналами разговоров, именем, рабочим местом, скриншотами и даже аудио. Загрузка этих данных в произвольный инструмент искусственного интеллекта может быть нарушением КВКК (Закона о защите персональных данных). Эмпирическое правило состоит из трех шагов: анонимизировать, оставаться в рамках согласия, использовать инструмент, одобренный агентством.
- Маскируйте прямые идентификаторы, такие как имя, телефон, адрес электронной почты, название компании (например, «Участник 3»).
- Не выходить за рамки согласия, предоставленного участнику в ходе исследования; Если вы не сказали «это будет переработано в искусственный интеллект», будьте осторожны.
- В корпоративной среде выбирайте инструменты, в которых понятно, где хранятся данные и используются ли они для обучения модели.
три мини-кейса
Случай 1 — Экономия времени в нужном месте. Дизайнер поручил ИИ обобщить 18 стенограмм интервью (всего 62 страницы). Предварительное чтение, которое вручную заняло бы 2 дня, сократилось до 40 минут. Но дизайнер сопоставил каждую тему вывода с фактической цитатой и обнаружил, что три темы не имеют под собой основы. Результат: скорость + надежность.
Случай 2. В презентацию поступил непроверенный вывод. Другая команда включила в отчет предложение «70% пользователей предпочитают мобильные устройства», созданное искусственным интеллектом. Когда его спросили об источнике, выяснилось, что таких данных нет; модель составила номер. Доверие заинтересованных сторон подорвано. Урок: цифры и заявления не распространяются без доказательств.
Случай 3 — Риск утечки персональных данных. Стажер загрузил аудиозапись вместе с именами участников на бесплатный сайт, который автоматически ее расшифровывает. Служба безопасности учреждения отметила это как риск KVKK и процесс был остановлен. Урок: выбор инструментов и анонимизация выполняются с самого начала.
Копируемые подсказки
Ваша роль: старший научный сотрудник UX. Задание: Извлеките до 6 тем из приведенной ниже анонимной расшифровки интервью. Правила: Добавьте ПО МИНИМУМ одну дословную цитату рядом с каждой темой с тегом [Участник X]. Не создавайте тему, для которой вы не можете найти цитату. Если сомневаетесь, напишите «слабая поддержка». Расшифровка: <<текст>>
Проверьте этот вывод AI: проверьте фактическую основу в тексте для каждого элемента в списке тем ниже. Отметьте те, которые не имеют оснований, как «НЕ ПРОВЕРЕННЫЕ» и напишите, почему вы вызываете подозрения. Список: <<темы>> Исходный текст: <<расшифровка>>
Найдите все личные/идентифицирующие данные (имя, телефон, адрес электронной почты, компания, адрес) в тексте ниже и замените их на [ЗАМАСКИРОВАНО]. Также предоставьте список изменений в виде таблицы. Не удаляйте никакую информацию, просто замаскируйте ее. Текст: <<dump>>
Классифицируйте задачу проектирования: определите уровень риска (низкий/средний/высокий) для «<<задача>>», напишите роль ИИ и необходимое одобрение человека в одном предложении. Объясните свои рассуждения.
Слабая подсказка / Сильная подсказка
Слабое: «Подведите итоги этих разговоров».
Результат: неиспользованный, общий и не поддающийся проверке текст; Непонятно, какое предложение откуда взялось.
Сильный: «Извлеките до 6 тем из этой анонимной расшифровки; добавьте хотя бы одну дословную цитату с тегом [Участник X] к каждой теме; не создавайте тему, для которой вы не можете найти цитату».
Результат: Обоснованный, проверяемый и удобный для принятия решений результат.
Разница заключается в одном предложении: сильная подсказка дает контекст + правило + требование доказательства.
Распространенные ошибки
- Переход от проверки к решению. Самая распространенная и самая дорогая ошибка; Одна надуманная тема может исказить все направление дизайна.
- Загрузка персональных данных без их анонимизации. Нарушение КВКК и потеря корпоративного доверия.
- Заставить искусственный интеллект «решать». «Какой дизайн лучше?» Ответ на вопрос кроется в продукте, пользователе и данных; нет в модели.
- Не читать политику данных автомобиля. Ввод критически важных данных без знания того, пойдут ли ваши данные на обучение модели или нет.
- Принимаю беглость за точность. Хорошо написанное предложение не означает правильное предложение.
В итоге
ИИ — это ускоритель и партнер в рабочем процессе UX; Он берет на себя подготовительную работу на каждом этапе, от открытия до презентации. Но суждение, решение и ответственность остаются за дизайнером. «Насколько риск задачи влияет на пользователя?» Измеряйте вопросом; увеличивайте свою проверку по мере увеличения риска. Галлюцинации и предвзятость — это два постоянных ограничения: подкрепляйте каждое утверждение доказательствами, проверяйте каждое клише данными. Переносить данные пользователя, обезличивая их в рамках КВКК и согласия. Эти рефлексы являются безопасной основой для всех техник остальной части модуля.
Задача приложения
- Перечислите 5 дизайнерских задач из вашего текущего проекта (или вымышленного проекта).
- Поместите каждую задачу в таблицу рисков выше: низкий, средний, высокий.
- Для каждой задачи напишите по одному предложению «роль ИИ» и «требуется одобрение человека».
- Если у вас есть стенограмма интервью, анонимизируйте ее с помощью третьего запроса и просмотрите таблицу маскировки.
- Запишите результат в таблицу и объясните в абзаце, почему задача с самым высоким риском требует одобрения человека.
контрольный список
- [ ] Я позиционировал ИИ как генератор проектов, а не как человека, принимающего решения.
- [ ] Я определил уровень риска каждой миссии.
- [ ] Я взял за правило связывать результаты с доказательствами.
- [ ] Я не загружал личные данные в какой-либо инструмент без их анонимизации.
- [ ] Я проверил политику данных автомобиля, которым пользуюсь.
- [ ] Я добавил в свой рабочий процесс проверку галлюцинаций и предвзятости.