Табыстар:
- Сандық мысалдармен AI-ны саясатсыз қолданудың тәуекелдерін (көлеңкелі AI) мойындау
- Жақсы саясат тыйымдар тізімі емес, жауапты пайдалануға мүмкіндік беретін негіз екенін түсініңіз
- AI басқаруындағы адамдарды, процесс пен технологияның тіректерін және мүдделі тараптардың рөлдерін түсіндіріңіз
Дүйсенбі күні таңертең орташа сақтандыру компаниясының сәйкестік жөніндегі бас маманы (ұйымның заңдар мен ішкі ережелерді сақтауына жауапты тұлға) электрондық поштасын таң қалдыру үшін ашады: тұтынушы оның денсаулығы туралы ақпарат «AI құралына жазылғанын және оның қайда кеткенін» сұрайды. Жылдам тергеу шағымдар тобының сарапшысы шағымдар файлдарын жылдам қорытындылау үшін жеке AI тіркелгісін пайдаланатынын көрсетеді. Ешкім зиянкес емес; Ешкім ережені бұзады деп ойламайды. Өйткені жазбаша ереже жоқ. Бұл олқылық көлеңкелі AI деп аталады және бұл модуль дәл осы олқылықты толтыру үшін басқару құрылымын құруды үйретеді.
AI-ны бизнеске енгізу қарапайым бағдарламалық жасақтаманы орнату сияқты оңай емес. AI шешімдерге әсер етеді, жеке деректерді өңдейді, авторлық құқықпен қорғалған мазмұнды жасай алады және қателіктер жіберген кезде жауапкершілікті тудырады. Сондықтан AI-ны «пайдаланатын» әрбір ұйымға да оны «басқаратын» құрылым қажет. Бұл бірінші бөлімде біз жазбаша AI саясаты не үшін қажет екенін, көлеңкелі AI-ның нақты құнын және басқарудың үш тірегін қарастырамыз.
Көлеңкелі AI дегеніміз не және ол неге сөзсіз?
Shadow AI – бұл мекеменің білімінсіз, мақұлдауынсыз және бақылауынсыз AI пайдалану. «Көлеңке» сөзі «көлеңкелі АТ» атауынан шыққан, ол IT бөлімімен бекітілмеген бағдарламалық жасақтамаға беріледі. Қызметкерлер AI құралдарын саясатпен немесе саясатсыз пайдалана бастайды; өйткені бұл құралдар тегін, жылдам және олардың жұмысын жеңілдетеді. Тыйым салудың өзі пайдалануды тоқтатпайды, тек жасырады.
Саясатсыз пайдалану келесі нақты тәуекелдерді тудырады:
- Деректердің ағуы: Қызметкер білместіктен құпия тұтынушы деректерін немесе компания құпияларын AI құралына қоюы мүмкін. Деректер мекеменің бақылауынан шығып кетеді.
- Сәйкес келмегені үшін айыппұлдар: KVKK (Жеке деректерді қорғау туралы заң) бұзу миллиондаған лира көлеміндегі әкімшілік айыппұлға әкеп соғады; GDPR талаптарын бұзу жылдық айналымның 4% дейін айыппұл салуға әкелуі мүмкін.
- Жалған ақпаратқа негізделген шешім: Жасанды интеллект арқылы жасалған жалған ақпарат («галлюцинация») негізінде қабылданған шешімдер тұтынушы мен ұйымға зиян келтіреді.
- Авторлық құқық және зияткерлік меншік мәселелері: Өнімді пайдалану басқа біреудің зияткерлік меншігін бұзуы мүмкін.
- Беделді жоғалту: Бақыланбайтын пайдалану туралы баспасөзде хабарланғанда, бренд сенімі шайқалады.
Абайлаңыз: AI пайдалануға толығымен тыйым салу шешім емес. Тыйым салу пайдалануды жоймайды; бұл жай ғана оны көрінбейтін және бақылаусыз етеді. Мақсат пайдалануды аяқтау емес, оны қауіпсіз шеңберге қою.
Үш шағын жағдай: көлеңкелі AI-ның нақты құны
1-жағдай - Ашық келісім-шарт. Құпия 40 беттік біріктіру келісімін қорытындылау үшін заң маманы бүкіл мәтінді жеке AI тіркелгісіне қояды. Келісімшарт әлі жалпыға қолжетімді емес. Мәтін провайдердің серверлерінде өңделеді және болашақ үлгіні оқыту үшін қолжетімді болады. Ақпараттың ағып кету қаупін жою үшін компания бірігуді 3 аптаға кейінге қалдырады; Кеңес беру құны шамамен 250 000 лираға артады.
2-жағдай — Галлюцинаторлық құқықтану. Адвокат өзінің өтінішіне AI-дан үш «прецедентті шешімді» қосады. Шешім нөмірлерінің екеуі іс жүзінде жоқ жасалған шешімдер. Сот мұны түсінеді; Адвокат тәртіптік процеске, сондай-ақ беделін жоғалтуға ұшырайды. Бір жолды тексеру ережесі (әрбір дереккөзді ресми шешім жүйесіне қарсы тексеру) бұл дағдарыстың алдын алар еді.
3-жағдай — Көрінбейтін жинақтар. Сол компанияда маркетинг тобы сертификатталған кәсіпорынның AI құралымен аптасына 6 сағат жылдамырақ науқанның көшірмесін жасайды. Дегенмен, бұл үнемдеу еш жерде хабарланбайды, себебі пайдалану тіркелмеген. Басшылық жаңа лицензиялық бюджетті қабылдамайды, себебі ол AI пайдасын көре алмайды. Shadow AI тәуекелді ғана емес, пайданың көрінуін де жояды.
Жақсы саясат нені қамтамасыз етеді?
Жақсы AI саясаты тыйымдардың тізімі емес; Бұл жауапты пайдалануға мүмкіндік беретін құрылым. Ол бес нәрсені жасайды:
- Түсініктілік: қызметкер не рұқсат етілгенін, не тыйым салынғанын және нені бекітуге жататынын біледі.
- Сенім: Басшылық AI басқарылатын түрде қолданылып жатқанын біле отырып, жаңа жобаларды мақұлдай алады.
- Сәйкестік: Заңды міндеттемелер (KVKK, GDPR, ЕО AI заңы) жүйелі түрде орындалады.
- Жүйелілік: Әр түрлі командалар бірдей ережелерді сақтайды.
- Жауапкершілік: Проблема болған кезде кімнің жауапты екені анық.
Басқару дегеніміз не? үш фут
Жасанды интеллектті басқару – бұл мекемеде жасанды интеллект қалай таңдалатынын, пайдаланылатынын, бақыланатынын және оған кім жауапты болатынын анықтайтын ережелер мен процестердің жиынтығы. Саясат – бұл басқарудың жазбаша құжаты; Басқару – саясатты өмірге әкелетін тірі жүйе. Ол үш аяққа салынған:
аяқ
Мағынасы
AI саясатындағы мысал
адам
Рөлдер мен жауапкершіліктер
AI контроллері, бекітуші менеджер, деректерді қорғау қызметкері
Процесс
Ережелер мен ағымдар
Жаңа көлікті мақұлдау процесі, тұрақты тексеру, оқиғаға жауап беру
технология
Құралдар мен басқару элементтері
Бекітілген көлік құралдарының тізімі, кіруді бақылау, есеп жүргізу
Үш тұғырдың бірі жоқ болса, қаңқа құлайды: ережесіз құрал жарамсыз, құралсыз ережені басқару мүмкін емес, жауапкершіліксіз ешкімді иелену мүмкін емес.
Бұл жұмысты бір бөлім атқара алмайды.
AI саясаты тек IT бөлімінің жұмысы емес. Табысты құрылым әртүрлі бөлімшелердің қатысуын талап етеді: заң/сәйкестік (заңды міндеттемелер мен келісім-шарттар), АТ/қауіпсіздік (техникалық бақылау және деректер қауіпсіздігі), адам ресурстары (қызметкерлерді оқыту және мінез-құлық кодекстері), бизнес бөлімшелері (нақты пайдалану қажеттіліктері) және жоғары басшылық (мақұлдау, ресурстарды алу және корпоративтік меншік).
Кеңес: Саясатты жазуды бастамас бұрын әрбір мүдделі тараптардың бірлігінің өкілімен 30 минуттық кездесу өткізіңіз. «Сіз қазір AI-ны не үшін пайдаланасыз немесе пайдаланғыңыз келеді?» сұрақ нақты қажеттіліктерді де, ағымдағы көлеңкелі пайдалануды да көрсетеді.
AI жұмысқа қосу: қайталанатын үлгілер
AI өзі басқару құрылымын орнату кезінде көмекші болып табылады, егер оның нәтижесі расталған болса. Келесі үлгілер осы құрылғының жұмысын жылдамдатады.
1-ҮЛГІ — Базалық (көлеңкелі AI) сканерлеуге арналған сауалнама: "8 сұрақтан тұратын анонимді қызметкерлер сауалнамасының жобасы ұйымымызда AI қолдануын картаға түсіруге дайын. Сұрақтар мыналарды қамтуы керек: қандай құралдар, қандай тапсырмалар, қандай деректер түрлері енгізілген, оқыту қажет. Шығару: нөмірленген сұрақтар + әрбір сұраққа жауап түрі (бірнеше таңдау/ашық)."
ҮЛГІЛЕР 2 — Тәуекел туралы қорытынды жасаңыз: "Келесі AI пайдалану жағдайын қарастырыңыз: [сценарий қою]. Маған келесі айдарлар бойынша тәуекел туралы қысқаша қорытынды беріңіз: деректердің құпиялылығы, сәйкестік, галлюцинация, роялти, бедел. "Төмен/орта/жоғары" және бір сөйлемнен тұратын негіздемелерді әрбір тақырыпқа шолу үшін кеңес беріңіз;"
ҮЛГІ 3 — Мүдделі тараптар жиналысының күн тәртібі: "AI басқару құрылымын іске қосу үшін 60 минуттық кеңес отырысының күн тәртібін дайындаңыз. Қатысушылар: заң, IT, HR, бизнес-бөлім, жоғары басшылық. Күн тәртібіндегі әрбір мәселе бойынша ұзақтығы мен күтілетін нәтижені жазыңыз."
4-ҮЛГІ — Басшылыққа арналған қысқаша брифинг: "Жоғарғы басшылыққа ұсыну үшін "Бізге AI саясаты не үшін қажет" атты жарты беттік брифинг жазыңыз. 3 нақты тәуекелді + 3 нақты артықшылықты қосыңыз; техникалық жаргонды қолданбаңыз; соңғы жолда нақты шешім сұрауы бар."
Әлсіз шақыру / Күшті шақыру
ӘЛСІЗ: “AI саясатын жазу.”-> Модель жалпы, институционалдық емес, тексерілмейтін мәтінді шығарады; деректер кластарын, рөлдерді және реттеу контекстін көрсетпейді. GÜÇLÜ: "Біз 50 адамнан тұратын сақтандыру компаниясымыз, KVKK-ға бағынамыз, біз тұтынушы денсаулығы туралы деректерді өңдейміз. AI саясатының "қолдану аясы" және "тыйым салынған пайдаланулар" бөлімдері үшін жобаны ұсыныңыз. Соңғы шешім қабылдамаңыз; әр мақалаға "заңды мақұлдау қажет" ескертуін қосыңыз және контекстке сәйкес олқылықтарды қалдырыңыз." нобай; Шешім сізде қалады.
Жалпы қателер
- AI пайдалануға мүлдем тыйым салу және көлеңкелі AI көрінбейтін ету.
- АТ-ға саясатты ғана жазуға рұқсат беру және бизнес бөлімшелерінің нақты қажеттіліктерін қоспағанда.
- Ережелерді тікелей қолданыстағы көлеңкелі пайдалану картасынан жазуды бастау.
- Саясатты заңды тілде қызметкер түсіне алмайтындай етіп жазу.
- AI әзірлеген саясат жобасын заңды мақұлдаусыз қолданысқа енгізу.
- Тәуекел туралы айту, бірақ пайданы өлшемеу; осылайша әкімшіліктің қолдауынан айырылады.
- Саясатты бір рет жазу және оны жаңартуды ұмыту; ал басқару тірі жүйе.
Қысқаша
- Көлеңкелі AI саясаты жоқ ұйымдарда сөзсіз және деректерге, сәйкестікке және беделге қауіп төндіреді.
- Жақсы саясат тыйым салу тізімі емес; Бұл жауапты пайдалануға мүмкіндік беретін құрылым.
- AI басқару адамдарға (рөлдерге), процеске (ережелер) және технологияға (басқаруларға) негізделген; Біреуі жоқ болса, ол бұзылады.
- Саясат бір бөлімнің жауапкершілігі емес; Бұл құқық, IT, HR, құрылымдық бөлімшелер мен жоғары басшылықтың бірлескен жұмысы.
- Жасанды интеллект құрылымды құруға көмектесе алады, бірақ әрбір нәтиже адами және заңды мақұлдаудан өтуі керек.
Қолданбалы тапсырма
Өзіңіз жұмыс істеген немесе армандаған ұйымды таңдаңыз (саласы, қызметкерлер саны және өңдейтін деректер түрі анық болсын). Алдымен көлеңкелі AI скринингі үшін 8 сұрақтан тұратын сауалнама жобасын жасаңыз (сіз 1 үлгіні пайдалана аласыз). Содан кейін әрқайсысына сандық болжалды әсерді (айыппұл, кідіріс, жоғалған сағаттар) қосып, осы ұйымда AI көлеңкесі тудыруы мүмкін үш нақты тәуекелді жазыңыз. Соңында, басқарудың үш тірегінің (адамдар, процесс, технология) әрқайсысы үшін ұйымыңызға тән мысалдарды анықтаңыз және осы тірекке қай мүдделі тараптардың бірлігі жауапты болатынын ескеріңіз.
бақылау парағы
- [ ] Мен ұйымдағы қазіргі (көлеңкелі) AI пайдалануын салыстырдым.
- [ ] Мен сандық әсері бар саясаттың болмауының үш нақты тәуекелін жаздым.
- [ ] Мен басшылыққа AI тәуекелі мен пайдасын жеткізетін брифинг дайындадым.
- [ ] Мен басқарудың үш тірегі үшін мекемеге тән үлгі және жауапты тұлғаны анықтадым.
- [ ] Мен процеске мүдделі тараптардың кем дегенде үш бірлігін қосу жоспарын жасадым.
- [ ] Мен жасанды интеллектпен жасаған әрбір жобаны заңды/сәйкестік мақұлдауға тапсырамын.