Прибыль:
- Возможность использовать ИИ для сбора, обобщения и тематики опросов, мнений и данных заинтересованных сторон при совместном планировании.
- Помните о представительстве, предвзятости и ответственности за защиту голосов маргинализированных групп при анализе качественной обратной связи с помощью ИИ.
- Поймите, что резюме ИИ не заменяет участие и что окончательное решение принимается в рамках прозрачного и подотчетного публичного процесса.
План является технически правильным, но нелегитимным, если он не отражает мнения людей, которые будут по нему жить. Совместное планирование означает, что решения принимаются не только экспертами, но и гражданами, которые используют это пространство, торговцами, руководителями, гражданским обществом и другими заинтересованными сторонами. В этом процессе собираются большие объемы качественных данных (данные, содержащие текст и мнения, а не цифры) в результате опросов, встреч, петиций, онлайн-мнений и полевых наблюдений. ИИ — мощный помощник в обобщении этих тысяч мнений, выделении тем, анализе настроений и составлении отчетов. Но самая большая опасность ИИ в совместном планировании — это предвзятость репрезентации: он может усилить голоса большинства и часто повторяемые заявления и сделать невидимыми голоса меньшинства, недоступных с помощью цифровых технологий и маргинализированных групп. Резюме AI не заменяет участие; Окончательное решение – это прозрачный и подотчетный общественный процесс.
Почему и как участвовать
Участие – это не церемония «сбора сертификатов», а подлинный источник знаний и легитимности. Хороший процесс взаимодействия сочетает в себе различные каналы: личную встречу, опрос домохозяйств, онлайн-форму, экскурсию, встречу с целевой группой. Каждый канал охватывает разных людей: онлайн-молодежь, живую встречу с пожилыми людьми и жителей района. Использование одного канала исключает всех, кто этим каналом не пользуется.
ИИ вступает в игру для понимания собранных данных: человеку потребуются недели, чтобы прочитать сотни страниц свободного текста, сгруппировать его и выделить важные темы; ИИ сокращает это время до часов. Но такая скорость не снимает ответственности представительства.
Внимание: в сводке AI наиболее часто повторяющееся и громкое мнение представлено как «общее мнение». Тот факт, что требование повторяется, не делает его более справедливым; это может просто указывать на то, что эта группа больше или более организована. В каждом резюме вопрос «кого не хватает, чей голос осип?» просить.
Еще одним измерением участия является языковое и культурное разнообразие. В городе существуют группы, говорящие на разных языках, с разным уровнем грамотности и разными формами самовыражения. Искусственный интеллект обеспечивает здесь настоящее удобство, поскольку может обрабатывать представления с нескольких языков за один проход; например, он может связывать комментарии, собранные на разных языках, с общими темами. Но тонкости могут быть потеряны при переводе и обобщении: местная идиома, упрек, культурная отсылка могут быть сглажены и неверно истолкованы ИИ. Таким образом, при многоязычном или культурно разнообразном участии важно, чтобы результаты ИИ проверялись людьми, которые знают эти сообщества. Расширение доступа с помощью технологий имеет важное значение; но доступ не освобождает от ответственности за точную передачу смысла.
Представительство, предвзятость и этика
Три этических риска особенно важны при совместном планировании:
- Предвзятость участия: кто участвовал в опросе? Районы с плохим доступом в Интернет, пожилые люди, инвалиды, иммигранты и работающие женщины часто недостаточно представлены. ИИ сам этого не говорит; Необходимо отдельно изучить профиль участника.
- Суммарная предвзятость: ИИ предпочитает большинство и частое выражение мнения; Редкое, но критическое предупреждение (например, наблюдение за наводнением) может считаться «шумом» и устраняться.
- Предвзятость комментариев: анализ настроений и извлечение тем могут быть окрашены культурными предположениями в данных обучения ИИ; могут неправильно интерпретировать местный контекст.
Три принципа против этих рисков: защитить доступ к необработанным данным (сводка никогда не должна быть единственной правдой), отдельно отслеживать меньшинства и маргинализированные группы и прозрачно фиксировать процесс.
Шаг за шагом: анализ данных о взаимодействии с помощью ИИ
- Анонимизировать данные. Очистить личные данные (имя, контакт); КВКК/конфиденциальность.
- Создайте профиль участника. Кто присутствовал, кого не хватает?
- Создайте тему для AI. Но запрашивайте темы меньшинств отдельно.
- Сравните с исходными данными. Отражает ли резюме реальность?
- Определите и дополните недостающие группы. Добавить дополнительный канал (лицом к лицу).
- Сообщайте прозрачно. Понятно, кто участвовал, а кто пропал.
- Оставьте решение на публичное рассмотрение. Сводный вклад ИИ, а не решение.
Слабая подсказка / Сильная подсказка
Слабая подсказка: «Обобщите эти комментарии к опросу».
ИИ чаще всего выделяет темы; Голос меньшинства исчезает, профиль участника исчезает.
Сильная подсказка: «Ниже представлены 1200 мнений граждан [анонимизировано]. (1) Извлеките основные темы по частоте. (2) ТАКЖЕ соберите темы меньшинства, которых немного, но они могут быть важными (например, безопасность, наводнение, доступность) в отдельный список; исключите их как малочастотные. (3) В каждой теме укажите, ясно ли, какое мнение исходит от какого типа участников. (4) Угадайте группы, которые могли быть пропущены в сводке. Замените мнения своей собственной интерпретацией; как группа. Данные: [...]"
Второе предложение прямо требует защитить голос меньшинства, его профиль и «слепые зоны».
Четыре копируемых шаблона
Задание: Из [анонимных] данных об участии, приведенных ниже, извлеките (1) ключевые темы по частоте, (2) ОТДЕЛЬНЫЙ список менее повторяющихся, но потенциально важных тем. Устраните низкочастотные комментарии. Добавьте свой комментарий; группа как есть.Данные: [...]
Задание: Изучите приведенные ниже данные профиля участника. Какие группы (возраст, район проживания, пол, доступ) могут быть недостаточно представлены? Какой дополнительный канал взаимодействия рекомендуется восполнить недостающие голоса?Профиль: [...]
Задача: Составьте для меня контрольный список, чтобы я мог сравнить следующее краткое изложение темы ИИ с необработанными данными: как мне проверить, какая тема действительно доминирует, какая преувеличена, какое критическое мнение могло быть исключено? Резюме: [...]
Задача: Написать прозрачный публичный информационный ПРОЕКТ на основе результатов участия, представленных ниже. Честно укажите, кто участвовал, кто отсутствовал и как их мнение будет отражено в решении. Не представляйте участие как «одобрение». Результаты: [...]
Таблица: канал участия и представительство
канал
Кто хорошо это улавливает?
Кто похищает
Роль ИИ
онлайн-форма
Молодой, использующий цифровые технологии
Пожилые люди, низкий доступ
Извлечение темы
личная встреча
уравновешенный, озабоченный, спокойный
сотрудник, удаленно
сводка оценок
обследование домохозяйств
широкий раздел
не дома
Редактирование данных
Целевая группа
конкретная заинтересованная сторона
широкая публика
Краткое содержание интервью
Ходатайство/жалоба
Организованный, проблемный
Удовлетворенное молчаливое большинство
Классификация
три мини-кейса
Случай 1 — Исчезающее предупреждение меньшинства. Один муниципалитет суммирует 3000 мнений с помощью ИИ; В кратком описании подчеркиваются требования к «парковке» и «зеленым насаждениям». Когда специалист по планированию просит выделить отдельные темы меньшинств, он обнаруживает, что 11 человек сообщили, что наблюдали наводнение вдоль ручья. Это критическое, но «слегка повторяющееся» предупреждение было исключено из первого резюме. Защита голосов меньшинств может стать проблемой безопасности.
Случай 2. Невидимое соседство. С помощью профильного анализа команда обнаружила, что 70 процентов явки приходится на три центральных района, в то время как на окраинах почти нет реакции. Доступ к онлайн-форме там низкий. Команда уточняет представление, добавляя личные встречи и опрос домохозяйств. Разнообразие каналов является предпосылкой справедливости.
Случай 3 — Честная отчетность. Один муниципалитет четко пишет в своем отчете об участии, что «в процессе приняли участие 2400 человек; однако люди старше 65 лет и два пригородных района были недостаточно представлены, и для этих групп были проведены дополнительные встречи». Парламент оценивает результат с реалистичным весом. Сообщения о недостатках, а не их сокрытие, узаконивают участие.
Распространенные ошибки
- Принятие резюме ИИ за единственную правду. Доступ к необработанным данным должен быть защищен; Это сводный комментарий.
- Частота путает со справедливостью. Очень повторяющийся запрос — не самый точный запрос.
- Устранение контактов с меньшинствами. Редкие, но важные предупреждения (безопасность, наводнение) не должны теряться.
- Не просматриваю профиль участника. Если не задан вопрос о том, кто пропал, исключение не появится.
- Опираясь на один канал. Каждый канал пропускает группу; разнообразие является обязательным.
- Представление участия как «одобрения». Участие является вкладом в принятие решения, а не видимостью легитимности.
- Не защищает персональные данные. Мнения не должны обрабатываться без анонимизации.
В итоге
Совместное планирование является источником знаний и демократии, которые узаконивают планирование; ИИ — мощный помощник в обобщении, выделении тем и составлении отчетов по собранным большим качественным данным. Но ИИ несет в себе репрезентативную предвзятость: он возвышает большинство и частое выражение, и принижает меньшинство и то, что недоступно в цифровом формате. Сохраняйте доступ к необработанным данным для правильного использования, отслеживайте темы меньшинств отдельно, просматривайте профили участников и заполняйте недостающие группы через дополнительные каналы, а также честно сообщайте о прогрессе. Резюме AI не заменяет участие; Окончательное решение зависит от прозрачного и подотчетного публичного процесса.
Задача приложения
Рассмотрим набор данных о взаимодействии (реальный или образец). (1) Извлеките основные и второстепенные темы отдельно с помощью первого шаблона; охватить хотя бы одну критическую тему меньшинства. (2) С помощью второго шаблона просмотрите профиль участника, определите недостающую группу и предложите дополнительный канал. (3) Создайте контрольный список для сравнения сводки ИИ с необработанными данными из третьего шаблона. (4) «Кого не хватает, чей голос осип?» Ответьте на вопрос в контексте этих данных.
контрольный список
- [ ] Я анонимизировал данные об участии; Я защитил личные данные.
- [ ] Я просмотрел профиль участника; Я определил недостающие группы.
- [ ] Мне также хотелось затронуть темы меньшинств и критические темы; Я предотвратил его устранение.
- [ ] Я сравнил сводку ИИ с необработанными данными.
- [ ] Я дополнил недостающие звуки дополнительными каналами участия.
- [ ] Я честно сообщил о посещаемости; Я не представил это как «одобрение».
- [ ] Я оставляю окончательное решение на усмотрение прозрачного публичного процесса.