Печалби:
- Способност за свързване на принципите на отговорния AI (честност, прозрачност, отчетност, поверителност, човешки надзор, сигурност, устойчивост) с конкретни решения
- Възможност за тестване на засегнатите страни и пристрастия чрез разделяне на етиката от спазването на закона и разграничаване между „ние можем“ и „ние трябва“
- Възможност за предварително намаляване на сценариите за злоупотреба чрез вграждане на прозрачност, човешки мониторинг и привлекателност в дизайна
Стартирането на AI може да бъде технически перфектно, финансово печелившо и юридически жизнеспособно; но все пак може да е грешно. Етиката е разликата между „ние можем“ и „ние трябва“. За един висш мениджър етиката не е въпрос на разкрасяване или връзки с обществеността; Това е основата, която поддържа дългосрочната надеждност, репутация и социална легитимност на институцията. В този модул ще научите принципите на отговорния AI (подход за разработване и използване на изкуствен интелект по начин, който е справедлив, прозрачен, отговорен и зачитащ човешкото достойнство) и как да ги отразявате в ежедневните решения.
Основни принципи на отговорния ИИ
Различните рамки се срещат на подобни принципи. Практическо резюме за мениджър:
принцип
какво искаш да кажеш
администраторски въпрос
справедливост
недискриминация
Това засяга ли несправедливо група?
прозрачност
бъдете разбираеми
Можем ли да обясним причината за решението?
отчетност
Идентифициране кой е отговорен
Кой носи отговорност, ако възникне грешка?
Поверителност
Уважение към личните данни
Имаме ли право да използваме данни?
човешко наблюдение
Поддържане на контрол
Може ли човек да възрази и да го спре?
сигурност
не вреди
Може ли да се злоупотребява с това?
Устойчивост
Екологично/социално въздействие
На кого налагаме разходите?
Тези принципи не са абстрактни; Всеки от тях може да бъде свързан с конкретно решение. Например „прозрачност“ означава да уведомите клиента, че говори с AI; „Човешки надзор“ означава човешки преглед на отказ за заем и оставяне отворен за обжалване.
Съвет: При всяко решение с изкуствен интелект със силно въздействие, задайте един въпрос: „Мога ли ясно да обясня и да застана зад това решение на най-негативно засегнатия човек?“ Ако отговорът е обиден, има етичен проблем.
Етиката е различна от правото
Критично разграничение: спазването на законите (Единица 9) е минималният минимум; Етиката е по-висока линия. Нещо може да е законно, но неетично. Например, на приложение може да не е забранено да използва изкуствен интелект за манипулиране на потребителското поведение, но е неетично. Отговорни институции "забранено ли е?" не "Вярно ли е?" пита той.
Стъпка по стъпка: вграждане на етика в решението
1. Идентифицирайте засегнатите страни. Кой е засегнат от тази инициатива? (Клиент, служител, общество, групи в неравностойно положение)
2. Сканиране с политики. Поставете под въпрос инициативата по отношение на всеки от горните принципи.
3. Тествайте за пристрастия и вреда. Моделът засяга ли несправедливо определени групи? Какви са сценариите за злоупотреба?
4. Добавете прозрачност и надзор. Докладвайте за използването на изкуствен интелект, без да оставяте място за човешки възражения.
5. Документи и преглед. Спестете етична оценка; Проверявайте периодично.
три мини калъфа
Случай 1 — Законен, но грешен. Едно приложение използва изкуствен интелект, за да генерира пристрастяващи известия, за да задържи потребителите в приложението по-дълго. Нямаше законова пречка, но когато беше съобщено в пресата, имаше сериозна загуба на репутация; Насочването му към млади потребители по-специално предизвика критики. Компанията премахна функцията. Ако етичният филтър беше от самото начало, този риск щеше да се види.
Случай 2 — Стойността на теста за справедливост. Моделът за кредитен рейтинг на банка систематично дава по-ниски резултати на заявления от защитени групи. Това беше засечено при ревизия на правосъдието. Моделът беше преработен и тестван редовно, за да се гарантира междугрупово равенство в резултатите. Етичният принцип (справедливостта) се превърна в конкретно изпитание и предотврати реална вреда.
Случай 3 — Прозрачност, изградено доверие. Компания за електронна търговия постави фразата „Асистент с изкуствен интелект ви помага, можете да се свържете с човешки представител по всяко време“ в началото на своя чатбот за поддръжка на клиенти. Прозрачността и излизането на хора не намалиха удовлетворението; Напротив, повиши доверието и оплакванията намаляха с 15%. Правилната прозрачност беше стойност, а не цена.
Четири копируеми шаблона
1) Етичен скрининг:
Вашата роля: отговорен AI консултант. Сканирайте тази инициатива за 7 принципа: справедливост, прозрачност, отчетност, поверителност, човешки надзор, сигурност, устойчивост. За всяка политика напишете един риск и една препоръка. Инициатива: [текст]
2) Анализ на засегнатата страна:
Избройте всички страни, засегнати от тази инициатива за ИИ (клиенти, служители, общество, групи в неравностойно положение). Запишете възможните положителни и отрицателни ефекти за всяка страна; Маркирайте групата, която е най-вероятно да бъде наранена. Инициатива: [текст]
3) Сценарий на злоупотреба:
Генерирайте 5 сценария, при които може да се злоупотребява със следната функция на ИИ (включително манипулация, дискриминация, нарушаване на поверителността, измама). Предложете решение за превантивен дизайн за всеки сценарий. Атрибут: [текст]
4) Прозрачност и контрол на наблюдението:
Напишете план за прозрачност и човешки надзор за ИИ, насочен към клиента, който: какво ще бъде съобщено на потребителя и как; Как може да се прехвърли на хората? Как може да възрази срещу решението? Използване: [текст]
Слаба подкана / Силна подкана
Слаб: „Този AI етичен ли е?“
Резултат: Повърхностно "да/не"; Кой принцип, кой е засегнат, каква мярка не е ясно.
Силен: „Обмисляме да използваме AI в инструмент за предварителна проверка за набиране на персонал (човекът ще вземе окончателното решение). Проверете това за принципи на справедливост, прозрачност, отчетност и човешки надзор. Напишете конкретно кои групи кандидати могат да бъдат несправедливо засегнати, какви тестове за пристрастия трябва да направя и как кандидатите могат да обжалват решението.“
Резултат: Базирана на принципи практическа оценка, която идентифицира засегнатата страна и предлага тестване и обжалване.
Често срещани грешки
- Объркване на етиката със спазването на закона. Не всичко, което е законно, е етично; Етиката е по-висока линия.
- Оставяне на етиката за последна. Получаването на "етично одобрение" след проектирането е твърде късно; етиката трябва да бъде заложена в дизайна от самото начало.
- Не изпитва справедливостта. Предположението, че „нашият модел е неутрален“ е опасно; не може да се знае без измерване.
- Грешка за прозрачност с цена. Правилната прозрачност увеличава доверието и стойността.
- Поддържане на засегнатите страни тесни. Мисленето само за клиента и игнорирането на служителя, обществото и групите в неравностойно положение създава сляпо петно.
Внимание: Оставянето на етичната оценка изцяло на изкуствения интелект е противоречиво и опасно. AI може да помогне за повдигане на етични въпроси, но ценностната преценка, културният контекст и крайната морална отговорност са на човека. Етичната позиция на една организация се определя от съзнателния избор на хората, а не от „ИИ е казал така“.
В обобщение
Етиката е разликата между „ние можем“ и „ние трябва“ и защитава дългосрочното доверие в организацията. Отговорен AI; Основава се на принципите на справедливост, прозрачност, отчетност, поверителност, човешки надзор, сигурност и устойчивост. Тези принципи не са абстрактни; То се превръща в конкретни решения като идентифициране на засегнатите страни, тестване за пристрастия, осигуряване на прозрачност и добавяне на човешки надзор. Етиката е различна от правото и е по-висша линия; Не може да се остави до края, трябва да се заложи в дизайна. В следващата част ще обсъдим съответствието, което е правният еквивалент на етиката, особено Закона за ИИ на ЕС и KVKK.
Задача за приложение
Изберете силно въздействащ AI стартъп. С шаблон 2 избройте всички засегнати страни и маркирайте групата, която е най-вероятно да бъде ощетена. С шаблон 1 сканирайте инициативата за седемте принципа. Определете конкретна мярка (тест за справедливост, уведомление за прозрачност, начин на обжалване и т.н.) за двата най-критични етични риска. И накрая, „мога ли да обясня това решение на най-отрицателно засегнатия човек?“ Отговорете честно на въпроса.
контролен списък
- [ ] Идентифицирах всички засегнати страни.
- [ ] Проверих стартъпа със седем принципа на отговорен ИИ.
- [ ] Планирах тест за пристрастност/честност.
- [ ] Създадох декларацията за прозрачност.
- [ ] Не оставих начин за човешки надзор и обжалване.
- [ ] Мислех за сценарии за злоупотреба.
- [ ] „Мога ли да го обясня на най-отрицателно засегнатия?“ Издържах теста.