Конфіденційність даних, автентифікація, етика та управління

Прибуток:

• Можливість захисту даних на чотирьох рівнях (класифікація, анонімізація, вибір транспортного засобу, мінімум даних) і виконання відповідальності KVKK
• Можливість перевіряти результати відповідно до рівня ризику та фільтрувати рекомендації, які впливають на людей через справедливість і упередженість
• Здатність створити просту структуру управління штучним інтелектом і гарантувати, що результати штучного інтелекту не замінять схвалення експертів у фінансових, юридичних, кадрових або відповідних рішеннях

Як керівник, ви навчилися використовувати штучний інтелект у кожному куточку свого бізнесу: звітність, KPI, автоматизація, операції, закупівлі, зв’язок, підсумки, сценарії. Зараз ми створюємо основу для відповідального використання цієї влади. Тому що при некоректному використанні ШІ швидкість і зручність перетворюються на серйозні ризики: витік списку клієнтів, рішення за надуманим номером, дискримінаційна пропозиція, порушення КВКК. Цей блок є захисною сіткою, яка утримує весь модуль разом. Головний принцип одним реченням: ШІ – помічник; Конфіденційність даних, точність результатів і етичність рішення завжди є відповідальністю керівника.

Конфіденційність даних: чотири рівні захисту

Бізнес-дані є цінними, і багато з них є конфіденційними. Захист конфіденційності на чотирьох рівнях. Перший рівень — класифікація: позначте кожен фрагмент даних як «загальнодоступний/внутрішнє користування/конфіденційний/особистий». Особливої ​​уваги потребують конфіденційні та особисті дані. Другий рівень — анонімізація: перекладіть такі ідентифікатори, як ім’я, ідентифікатор, ім’я клієнта, ціна постачальника, у коди перед тим, як передати їх штучному інтелекту (співробітник A, клієнт 1). Третій рівень — вибір інструменту: якщо можливо, використовуйте схвалені компанією корпоративні інструменти ШІ, які не зберігають дані для навчання моделі; Не надавайте конфіденційні дані безкоштовним загальнодоступним інструментам. Четвертий рівень — мінімум даних: надайте мінімум даних, необхідних для виконання роботи, не більше.

KVKK (Закон про захист персональних даних) регулює вашу обробку персональних даних співробітників і клієнтів; Порушення тягне як юридичні санкції, так і втрату репутації. Вставити список клієнтів або платіжну відомість у відкрите вікно чату — це все одно, що залишити заблокований файл на вулиці.

Застереження: «Цей інструмент здається безпечним» не є гарантією. Перш ніж надавати будь-які дані штучному інтелекту, запитайте: «Яку шкоду завдасть компанії, якщо ця інформація витікає?» Якщо пошкодження є серйозним, або анонімізуйте дані, або не оприлюднюйте їх взагалі. Якщо сумніваєтеся, не давайте.

Перевірка: вихід без підпису не є рішенням

Дисципліна, яка повторюється протягом усього модуля, зібрана тут під одним дахом. Перевірте кожен результат штучного інтелекту в три кроки: джерело (це число з наданих мною даних?), перерахунок (перевірте арифметику), управлінський фільтр (чи відповідає він моїм галузевим знанням і галузі?). ШІ може створювати галюцинації — вигадувати неіснуючі цифри, джерела або факти за допомогою переконливої ​​мови. Повільне мовлення – це не точність. Чим важливіше рішення, тим суворішою має бути перевірка.

Розгляньте ризик на трьох рівнях. Результати з низьким рівнем ризику (внутрішній план, форматування, резюме): достатньо швидкого перегляду. Результати із середнім ризиком (звіт керівництву, коментар до KPI): кожна цифра перевіряється. Результати роботи з високим рівнем ризику (фінансове рішення, контракт, документ про відповідність, кадрова операція): AI створює лише чернетки; Компетентна експертиза, юридичний/фінансовий контроль і підпис є обов'язковими. У цих сферах результати штучного інтелекту ніколи не можуть замінити схвалення компетентних експертів.

Етика та упередженість: швидко, але справедливо

ШІ навчається на історичних даних; Якщо є минуле упередження, ШІ повторить або навіть посилить його. Рекомендації щодо прийому на роботу, просування по службі або визначення пріоритетів клієнтів можуть мимоволі поставити групу в невигідне становище. Тому перевіряйте кожну пропозицію штучного інтелекту, яка впливає на людей, через фільтр справедливості: «Чи ця пропозиція несправедливо виключає групу? Чи виправдане обґрунтування?» Запитайте ШІ чітко: "які групи можуть опинитися в невигідному становищі через цю пропозицію?" запитати.

Ще два етичних принципи: прозорість — не приховуйте значний результат, створений ШІ; Ви повинні вміти пояснити, як було прийнято рішення. Підзвітність — «ШІ так сказав» не є виправданням. Відповідальність лежить на менеджері, який використовує інструмент. Коли ШІ робить помилку, ви несете відповідальність; тому використовуйте його як помічника під наглядом, а не як сліпого авторитета.

Управління ШІ: інституційна основа

Індивідуальної доброї волі недостатньо; Створіть просту структуру управління ШІ для бізнесу: які дані можна надавати якому інструменту, які рішення можуть підтримуватися ШІ, які належать лише експерту, як перевіряються результати, хто несе відповідальність. Написана проста політика захищає всю команду та запобігає катастрофі наступного підрозділу.

три міні-чохла

Випадок 1 — Повернення з межі витоку. Менеджер з продажу вставив би список із реальними іменами клієнтів і оборотом у безкоштовний інструмент ШІ. У момент вагання він запитав: «Що станеться, якби це сталося?» — запитав він, кодуючи імена клієнтів і перетворюючи обороти на стрічку. Аналіз вийшов такої ж якості; реальних даних не було. Невелика звичка запобігла великому ризику KVKK.

Кейс 2 — Вартість складеного номера. Головний фінансовий директор представив правлінню «середнє по галузі 23 відсотки», надане YZ, не перевіривши його. Номер був складений; ШІ переконливо дав число, яке не мало джерела. Виник інвестиційний конфлікт, заснований на неправильній цифрі, і потрібен час, щоб повернути назад. Урок: не кожен номер, який нібито надійшов іззовні, можна використовувати без підключення його до справжнього джерела.

Випадок 3 — Виявлення упередженої рекомендації. Менеджер з персоналу попросив ШІ скласти рейтинг кандидатів. AI виділяв би випускників конкретної школи на основі історичних даних. Менеджер запитує: «Які групи виключає ця пропозиція?» запитав він; Він виявив, що ШІ повторює попередні упередження. Він засновував рейтинг виключно на основі пов’язаних з роботою критеріїв, які можна виправдати, і залишив остаточне рішення народному комітету.

Чотири шаблони, які можна копіювати

1) Перевірка конфіденційності даних:

Ваша роль: радник з конфіденційності даних. За мить я надам вам набір даних. Спочатку перелічіть особисті/конфіденційні поля (ім’я, ідентифікатор, клієнт, ціна, зарплата) і запропонуйте, як зробити кожне з них анонімним. Коротко опишіть ризики надання цих даних ШІ з точки зору КВКК. Поки що не аналізуйте.

2) Контрольний список перевірки:

Мені потрібно перевірити наведені нижче результати штучного інтелекту, перш ніж представити їх керівництву. Перелічіть кожну цифрову претензію та заяву зовнішнього джерела у вихідних даних. Для кожного з них запитайте: «Я надав дані джерелом чи це інформація, яку ШІ міг створити/виготовити сам?» Зберіть ті з невідомими джерелами під заголовком «ПЕРЕВІРИТИ».

3) Фільтр етики/справедливості:

Наступна пропозиція ШІ впливає на людей: [пропозиція]. Які групи ця пропозиція може несправедливо поставити в невигідне становище? Чи може рекомендація бути упередженою через історичні дані? Що мені слід змінити, щоб прийняти рішення виключно на основі обґрунтованих критеріїв, пов’язаних із бізнесом? Будьте чесними, не захищайте пропозицію.

4) Класифікація ризиків використання ШІ:

Я виконаю наступне завдання з ШІ: [завдання]. Розташуйте його на рівні ризику: низький (внутрішня чернетка), середній (вихід до керівництва), високий (фінансові/юридичні/кадрові наслідки). Скажіть мені, які етапи перевірки та затвердження потрібні залежно від рівня ризику. Якщо це високий ризик, нагадайте, що схвалення експерта є обов’язковим.

Слабка підказка / Сильна підказка

Слабка підказка:

Дайте мені аналіз цих даних клієнта. [справжні іменовані дані]

Надає справжні персональні дані відкритому інструменту; Це несе ризик порушення КВКК і витоку. Також немає плану перевірки результату.

Потужна підказка:

Ваша роль: аналітик. У даних, які я вам надав, усі імена закодовані (Клієнт 1-50), а суми конвертовано на стрічку. Виконайте сегментний аналіз із цими анонімними даними. Просто використовуйте номери, які я надав, не додавайте номери зовнішніх секторів; Якщо ви додасте його, будь ласка, чітко вкажіть джерело, щоб я міг його перевірити.

Розмір

поганий підхід

Сильний підхід

дані

справжнє ім'я

анонімний

ризик КВКК

висока

низький

контроль джерела

Жодного

обов'язковий

Перевіряемість

низький

висока

Відповідальність

невизначений

уточнюється

Поширені помилки

• Надання справжніх конфіденційних/особистих даних у відкритий інструмент. Спочатку класифікуйте та анонімізуйте.
• Не перевіряються заяви зовнішнього джерела. ШІ може складати такі цифри, як «середній показник по галузі»; підключитися до джерела.
• Ігнорування упереджень. Проведіть пропозиції, які впливають на людей, через фільтр справедливості.
• Виправдання «ШІ так сказав». Відповідальність лежить на користувачеві; Взяти на себе відповідальність.
• Пропуск експертного схвалення рішення з високим ризиком. Фінансовий/юридичний/HR/комплаєнс вимагає схвалення експертів.

Застереження. Найважливіше речення цього модуля: результати штучного інтелекту в таких важливих сферах, як відповідність вимогам, фінанси, юридичні та людські ресурси НЕ замінюють схвалення компетентних експертів. ШІ збільшує вашу швидкість, він не звільняє вашого експерта. Неперевірений вихід ШІ такий же ризикований, як і непідписане рішення.

Підсумовуючи

Відповідальне використання штучного інтелекту базується на трьох стовпах: конфіденційність, автентифікація та етика. Захищайте дані на чотирьох рівнях (класифікація, анонімізація, вибір інструментів, мінімум даних) і пам’ятайте про відповідальність KVKK. Перевірте кожен вихід за допомогою зв’язування джерел, перерахунку та адміністративної фільтрації; Підвищити обачність залежно від рівня ризику. Пропонуйте пропозиції, які впливають на людей, через фільтр справедливості та зберігайте прозорість і підзвітність. Проста структура управління ШІ захищає всю команду. І завжди: у сферах високого ризику, що мають серйозні наслідки, ШІ не замінить схвалення компетентних експертів.

Аплікаційне завдання

Напишіть чернетку на півсторінки «Рекомендацій щодо використання ШІ» для власного бізнесу. Включіть: які дані можна надати якому інструменту, як дані будуть анонімні, які результати слід перевіряти, які рішення належать виключно експерту та хто несе відповідальність. Використовуючи наведений вище шаблон «Класифікація ризиків використання штучного інтелекту», помістіть 5 завдань, які ви виконали за допомогою ШІ минулого тижня, до рівня ризику та напишіть правильний крок перевірки для кожного.

контрольний список

• [ ] Чи я класифікував та анонімізував дані?
• [ ] Чи використовував я схвалений компанією/безпечний інструмент і мінімум даних?
• [ ] Чи перевірив я кожен вихід на рівень ризику?
• [ ] Чи відфільтрував я пропозиції, які впливають на людей через справедливість?
• [ ] Чи потрібне мені схвалення експерта для прийняття ризикованих рішень?

Модульний екзамен

1. Яке запитання має поставити менеджер, щоб визначити рівень роботи (механічний/аналітичний/рішення) і суворість перевірки перед тим, як передати роботу ШІ?

• A) Яким буде результат, якщо цей висновок буде неправильним? ✔
• Б) Чи зможе штучний інтелект завершити цю роботу якомога швидше?
• C) Цей інструмент безкоштовний?
• D) Чи виконувалася ця робота коли-небудь раніше?

Опис: Основою правильного використання є класифікація роботи за рівнем ризику. «Які будуть наслідки, якщо цей вихід буде неправильним?» Питання визначає, чи є робота механічним, аналітичним чи відповідальним рішенням, і, отже, скільки перевірки потрібно.

2. «Середній показник по галузі становить 23 відсотки», наданий штучним інтелектом, надається раді директорів без перевірки, і виявляється, що цей показник сфабрикований. Яка базова дисципліна була пропущена в цьому випадку?

• А) Правило використання штучного інтелекту тільки в ранкові години
• B) Дисципліна перевірки виходу шляхом підключення його до джерела ✔
• В) Перетворення звіту в кольорову таблицю
• Г) Написання довшої підказки

Пояснення: Штучний інтелект іноді створює неіснуюче число переконливою мовою (галюцинація). На етапі з’єднання виходу з джерелом перевіряється, чи кожне число походить із реального джерела чи, можливо, було вигадане. Якщо цього не виконувати, існує ризик прийняття неправильних рішень.

3. Хоча загальний оборот компанії електронної комерції виглядає стабільним, розбивка сегментів показує, що високоприбуткова категорія знизилася на 22 відсотки, а низькоприбуткові продажі маскують це. Який принцип ілюструє цей приклад?

• А) Загальна кількість завжди є найнадійнішим показником
• Б) Рентабельність неважлива, важливий лише оборот
• C) Загальні числа можуть приховувати розвороти; розбивка сегментів розкриває правду ✔
• D) Сегментний аналіз дійсний лише для великих компаній

Пояснення: загальні числа можуть приховувати внутрішні сторнування. Дивлячись на розбивку (сегментний аналіз), а не на загальну суму в роботі підтримки прийняття рішень, виявляється правда; Великі варіації можуть бути приховані під фіксованою сумою.

4. Керівник кафе інтерпретує висновок про те, що «розпродажі у вихідні дні змінюються з температурою», як «спекотна погода збільшує продажі» і вимикає кондиціонер; Однак справжньою причиною стало збільшення клієнтського трафіку на вихідних. Що це за помилка?

• A) Помилково приймаючи кореляцію за причинність ✔
• B) Не збирається достатньо даних
• В) Вибір неправильного типу діаграми
• D) Не анонімізація даних

Пояснення: те, що дві речі діють разом (кореляція), не означає, що одна викликає іншу (причинно-наслідковий зв’язок). Температура і продажі випадково рухалися в одному напрямку; Основною причиною були затори у вихідні дні. Взаємозв'язки, виявлені штучним інтелектом, є не доказами, а гіпотезами, які потрібно перевірити.

5. Що знаходиться на вершині структури «піраміди» хорошого управлінського звіту?

• A) Таблиці необроблених даних
• B) Резюме ✔
• В) Додаткові документи та виноски
• D) Усі цифри попередніх років

Пояснення. Хороший звіт — це піраміда: угорі — резюме (3-5 пунктів), призначене для розуміння найзайнятішим читачем за 30 секунд; критичні висновки нижче; Внизу опорна деталь. Таким чином, топ-менеджер читає тільки топ, а хто цікавиться, спускається вниз.

6. Коли кол-центр визначає «кількість прийнятих дзвінків на день» як KPI, представники поспішають із дзвінками та знижують рівень задоволеності клієнтів. Який принцип ілюструє ця ситуація?

• A) Чим більше KPI, тим краще управління
• B) KPI не можна використовувати в кол-центрах
• В) Швидкість завжди стоїть перед якістю
• D) KPI, яким можна маніпулювати, може стимулювати несприятливу поведінку, а не результат, який він має виміряти ✔

Пояснення: коли індикатор стає мішенню, люди знаходять способи його обдурити (закон Гудхарта). «Кількістю дзвінків» легко маніпулювати, і вона не вимірює фактичний результат (вирішення, задоволення). Тож перед вибором KPI слід запитати, «яку несприятливу поведінку він заохочує?» слід запитати.

7. У чому причина застосування правила «спочатку спростити процес, потім автоматизувати» в автоматизації процесів?

• A) Автоматизація також прискорює збій у порушеному процесі; Процес спочатку потрібно виправити ✔
• B) Спрощення унеможливлює автоматизацію
• C) Спрощення є лише юридичним обов’язком
• Г) Автоматизація завжди дешевша за спрощення

Опис: Автоматизація збільшує швидкість процесу; Це також прискорює помилку, якщо процес пошкоджено. Коли процес з 5 непотрібних кроків в обліковій одиниці був автоматизований, непотрібні кроки просто працювали швидше. Спочатку процес потрібно спростити, потім прискорити.

8. Яка мета дизайну «людина в циклі» в автоматичних відповідях клієнту?

• А) Повна зупинка автоматизації
• B) Підвищення повноважень штучного інтелекту в прийнятті рішень
• C) Запобігання виходу помилки з людського схвалення в критичній точці, зберігаючи більшу частину швидкості ✔
• D) Повне усунення людської робочої сили

Пояснення: розробка людини в циклі — це схвалення людини в критичній точці автоматизованого процесу. AI створює чернетку, людина швидко затверджує її, а потім надсилає. Це запобігає виникненню помилки, зберігаючи більшу частину швидкості; Коли команда видалила це схвалення, клієнт отримав неправильну інформацію.

9. Виробництво в меблевій майстерні йде повільно; Менеджер хоче замінити найдорожчу машину (розкрій), але аналіз показує, що вузьким місцем є етап фарбування-сушіння. Який основний принцип аналізу операцій?

• А) Найдорожчий крок завжди слід покращувати
• B) Покращення має бути спрямоване на вузьке місце, яке сповільнює весь потік ✔
• В) Усі кроки мають бути однаково прискорені
• Г) Концепція вузького місця діє лише на виробничих лініях

Пояснення: швидкість процесу — це швидкість його найповільнішого кроку (вузьке місце). Прискорення кроків поза вузьким місцем є марною тратою грошей і зусиль; Єдине, що працює, це розширити вузьке місце. Коли менеджер інвестував у другу сушильну піч замість забою, швидкість зросла на 28 відсотків.

10. Під час закупівлі менеджер переходить до найдешевшого постачальника сировини, але ігнорує низьку надійність доставки постачальника; Дві великі затримки призупиняють виробництво. Який урок з цієї ситуації?

• А) Завжди слід вибирати найдорожчого постачальника
• B) Надійність доставки не має значення
• C) Постачальника слід оцінювати не в одному вимірі (тільки ціна), а в кількох вимірах, включаючи надійність і ризик ✔
• D) Рішення щодо постачальників слід залишати виключно штучному інтелекту

Опис. Вибір постачальника є багатовимірним: ціна, якість, час доставки, надійність, фінансова надійність і ризик повинні оцінюватися разом. Один лише погляд на ціну може призвести до збитків, які у багато разів перевищують отриману знижку; втрата виробництва знищила знижку.

11. Що найкраще зробити менеджеру, перш ніж надіслати гнівний, різкий електронний лист команді, яка постійно запізнюється?

• А) Надіслати повідомлення таким, яке воно є, тому що емоції справжні
• B) Зробити тональне рішення орієнтованим за допомогою штучного інтелекту, а потім пропустити його через людський фільтр ✔
• C) Не надсилаючи повідомлення взагалі та ігноруючи проблему
• D) Посилення повідомлення

Пояснення: повідомлення, написані під час роздратування, не слід надсилати негайно. Повідомлення штучному інтелекту «змінити тон на шанобливий та орієнтований на вирішення, зберігаючи ті самі очікування та межі» зберігає суть повідомлення, виправляє його тон і запобігає обуренню, яке важко відновити; Потім результат фільтрується людиною.

12. Підсумок зустрічі говорить, що АІ «збільшення бюджету затверджено»; Однак на засіданні було сказано, що «збільшення бюджету буде оцінено». Який правильний спосіб уникнути цієї небезпеки?

• А) Негайно роздайте конспект, не читаючи його
• B) Перевірте резюме, відокремте рішення від можливого та попросіть його підтвердити учасники ✔
• В) Зовсім не підсумовувати зустріч
• Г) Врахування лише найдовшого речення як рішення

Опис: ШІ може неправильно приписувати рішення; Різниця між «підлягає оцінці» та «схвалено» є важливою. Резюме зустрічі часто є «офіційною пам’яттю», тому кожне резюме слід прочитати, відокремити від рішення та підтвердити з учасниками перед розповсюдженням.

13. Яка мета створення принаймні трьох сценаріїв (оптимістичного, базового, песимістичного) у плануванні сценаріїв замість прив’язки майбутнього до одного прогнозу (наприклад, «ми зростемо на 15 відсотків»)?

• А) Штучний інтелект може точно передбачити майбутнє
• Б) Незалежно від того, в якому напрямку піде правда, щоб не бути застигнутим зненацька і втілити план у дію замість паніки ✔
• C) Збирайте менше даних
• Г) Вибір єдиного правильного майбутнього заздалегідь

Пояснення: Реальність — це інтервал; Якщо план, заснований на одній здогадці, не буде реалізований, він зазнає краху. Попередня підготовка відповідей на численні сценарії гарантує, що план можна буде втілити в дію, а не панікувати, незалежно від того, як рухатиметься реальність. Мета полягає не в тому, щоб знати майбутнє, а в тому, щоб не бути спійманим непідготовленим.

14. Що з наведеного нижче є вірним щодо використання штучного інтелекту в управлінні бізнесом?

• A) Результати штучного інтелекту не замінюють схвалення компетентних експертів у рішеннях, які мають фінансові, юридичні та кадрові наслідки ✔
• B) Якщо вихідні дані штучного інтелекту правильні, немає потреби в експертному схваленні
• C) Реальні дані клієнтів можна надавати відкритим інструментам, якщо вони здаються безпечними
• D) «ШІ так сказав» є дійсним обґрунтуванням підзвітності

Розкриття інформації: результати штучного інтелекту не замінюють схвалення компетентних експертів у відповідних сферах, таких як відповідність вимогам, фінанси, право та кадри. Штучний інтелект – це помічник, який збільшує швидкість; Конфіденційність даних, точність результатів і етичність рішення завжди є відповідальністю керівника. Неперевірений результат такий же ризикований, як і непідписане рішення.