Ақырғы жұмыс процесі, басқару және жауапты пайдалану

Табыстар:

• Қолданудан бастап алты адамның тексеру қақпасымен жабылғанға дейінгі әр кезеңде AI-ді дәйекті түрде енгізу мүмкіндігі
• Бекітілген құралдар тізімі, деректер саясаты, рөлдер, тіркеу, оқыту және тұрақты шолу арқылы корпоративтік басқару жүйесін құру мүмкіндігі
• Жұмыс процесіне адам жауапкершілігі, тексеру, құпиялылық/KVKK, дәлелдемелерді ұстану, біржақты бақылау және клиентке бағдарлану принциптерін енгізу мүмкіндігі

Бұл модуль барысында біз жасанды интеллектті қалай пайдалану керектігін және оны әлеуметтік жұмыстың әртүрлі тапсырмаларында – құжаттамада, бағалауда, тәуекелді қолдауда, жолдама, жоспарда, есеп беруде, коммуникацияда, бағдарламаны жобалауда тоқтатуды қарастырдық. Бұл соңғы бөлімде біз бөліктерді біріктіреміз: мұнда AI қолданудан істі жабуға дейін басынан аяғына дейін отырады, адамның тексеру есігі әр кезеңде тоқтайды және біз бұл ұйымда тұрақты болуы үшін қажетті басқару құрылымын орнатамыз. Мақсат - шашыраңқы кеңестерді тұрақты және қайталанатын жұмыс тәртібіне айналдыру.

Басынан бастап интеграциялық принцип: AI кез келген қадамда шешім қабылдаушы емес, жұмыс процесінің әр қадамында үдеткіш болып табылады. Әр кезеңде адам есігі бар, бір есіктен өтпей келесі есікке өту мүмкін емес. Бұл қабаттық құрылым бір ғана галлюцинацияның, біржақтылықтың немесе құпиялылық қатесінің клиенттің өміріне әсер ететін шешімге енуіне жол бермейді.

Ұшты-ұшты ағын және алты адам қақпасы

Істі оның типтік кезеңдері арқылы қарастырайық және әр кезеңде тексеру қақпасын орналастырайық:

1. Өтініш / бірінші байланыс — Есік: Құпиялылық. Бірінші ақпарат келгенде, AI сұхбатты дайындау үшін қолданылады (нұсқаулық, сұрақ шеңбері). Есік: Ашық құралға нақты клиент деректері кірмейді; Сынып сұраңыз, көлікті сәйкестендіріңіз.

2. Бағалау — қақпа: Клиникалық пайымдау. AI биопсихоәлеуметтік өлшемдерге жазбаларды ұйымдастырады және кемшіліктер мен күшті жақтарды еске салады. Есік: Диагностика және бағалау маманға тиесілі; AI бағаламайды.

3. Тәуекел — Есік: Билік және команда. AI тәуекел/қорғаныс факторларын еске салады және қауіпсіздік жоспарының қаңқасын жасайды. Есік: Тәуекел туралы шешім тек сарапшы, топ, қадағалау және заңды процесс арқылы қабылданады; AI ұпай/шешім шығармайды.

4. Жоспарлау және нұсқау — Есік: Валидация және клиент. AI мақсаттарды SMART жүйесіне қояды, ресурстар идеялары мен хат жобаларын жасайды. Есік: Клиент мақсат қояды; Қызмет/мекенжай/жағдай ресми көзден расталады.

5. Есеп және байланыс — Есік: Дәлелдеме және есеп беру. AI есепті құрылымдайды, мәтінді жеңілдетеді және аударады. Есік: Әрбір іс дәлелдеуге байланысты, пікір сарапшыға тиесілі, сыни ақпараттың жоғалуы мен біржақтылығы тексеріледі, қолы адамда.

6. Жабу және тапсыру — Қақпа: Дәлдік. YZ файлды хронологиялық түрде қорытындылайды. Есік: Түйіндеме тек жазбаға негізделген; Нәтижелер мен білімдерді сарапшы тексереді.

Кеңес: Есіктерді есте сақтау үшін бір сұрақты пайдаланыңыз: «Бұл қадамда AI шешім қабылдайды ма немесе эскиз жасай ма?» Егер жауап «шешім» болса, тоқтаңыз - бұл қадам адамға тиесілі. Егер жауап «жоба» болса, жалғастырыңыз, бірақ нәтижені тексермей келесі қадамға өтпеңіз.

Корпоративтік басқару: жеке тәртіп жеткіліксіз

Маманның жақсы әдеттері құнды, бірақ нәзік; Ұйымда AI қауіпсіз және дәйекті пайдалану басқару құрылымын қажет етеді. Бұл құрылымның негізгі компоненттері:

• Бекітілген көлік құралдарының тізімі. Қандай жұмыс үшін қандай құрал қолданылатыны және қандай құралға қандай деректерді енгізуге болатыны жазылған және түсінікті. «Әркім өзі қалаған құралды пайдалануы керек» - бұл қауіпсіздік осалдығы.
• Деректерді жіктеу саясаты. Ашық құралда қандай деректер өңделетіні және тек қауіпсіз жүйеде өңделетіні анықталады.
• Рөл мен билік. Кімнің не істей алатыны және қандай шешім қай органға байланысты екені түсінікті (әсіресе тәуекел шешімдері).
• Журнал және аудит ізі. AI қайда және қалай қолданылатынын бақылауға болады; Мәселе болған кезде, оны артқа қарауға болады.
• Білім және хабардарлық. Әрбір қызметкер осы модульдегі принциптерді біледі; Жаңадан келген адам жаттығады.
• Тұрақты шолу. Құралдар, тәуекелдер және заңнаманың өзгеруі; Рамка жүйелі түрде жаңартылып отырады. Бір рет жазылып, ұмытылған саясат ескіреді.

үш шағын іс

1-жағдай - Тізбектің басында есіктер қатені ұстады. Бір жағдайда AI бағалау кезеңінде клиент айтпаған ескертуді қосты. «Клиникалық пайымдау» қақпасында сарапшы мұны ұстап алып, өшіріп тастады. Егер ол ұсталмаса, бұл ойдан шығарылған бақылау жоспарға, одан есепке, одан сот шешіміне ағып кетуі мүмкін еді. Қабатты аутентификация қатені ең ерте нүктеде тоқтатты.

2-жағдай - Басқару бұзушылықтың алдын алды. Бір ұйым бекітілген құралдар тізімі мен деректер саясаты жоқ жұмыс істеді; Әркім өз көлігімен жүрді. Тексеру барысында бірнеше қызметкердің ашық құралдарға нақты клиент деректерін енгізгені анықталды. Ұйым басқару құрылымын құрды: бекітілген құралдар, деректерді жіктеу, оқыту және тіркеу. Келесі кезеңде заң бұзушылықтар саны нөлге дейін төмендеді. Сабақ: жеке ізгі ниет институционалдық құрылымсыз жеткіліксіз.

3-жағдай - Жаңартылған үздіксіз шолу. Бір жыл бұрын жазылған ұйымның AI саясаты құралдың жаңа түріне және жаңартылған заңнамаға байланысты ескірген. Жыл сайынғы шолу мұны қамтыды; Саясат жаңартылды, оқыту жаңартылды. Рамка сөре оюы емес, тірі құжат болып қала берді.

Көшірілетін төрт үлгі

1) Іс ағынын тексеру қақпасының бақылау парағы:

Сіздің рөліңіз: жетекші. Мен келесі іс қадамы үшін валидациялық тексеру парағын аламын: бұл қадамда AI жобасы не істей алады, қандай шешім міндетті түрде адам болып табылады, қандай құпиялылық пен бейтарап тексерулер жасалуы керек, келесі қадамға өтпес бұрын нені тексеруім керек? Қадам: [қолдану / бағалау / тәуекел / жоспар / есеп / жабу]

2) расталған көлік құралының сәйкестігі:

Төмендегі тапсырмалар тізімдерінің әрқайсысы үшін пайдалануға болатын AI құралының түрін (ашық құрал / тек қауіпсіз кәсіпорын жүйесі / AI қол жетімді емес) және негіздемесін көрсетіңіз. Клиент деректері бар әрбір тапсырманы "тек қауіпсіз жүйе" ретінде белгілеңіз. Тапсырмалар: [тапсырмалар тізімі]

3) Корпоративтік AI саясатының жобасы:

Сіздің рөліңіз: корпоративтік саясат редакторы. Әлеуметтік қызмет көрсету агенттігі үшін AI қолданудың жауапты саясатын әзірлеу; Келесі тақырыптарды қамту: мақсат, мақұлданған құралдар, деректер классификациясы, рөлдер мен рұқсаттар, құпиялылық/KVKK, тәуекел туралы шешім қабылдау шегі, тіркеу және тексеру, оқыту, шолу кестесі. Жалпы құрылымды орнату; Мекеме өз мәліметтерін толтырады.

4) Өзін-өзі реттеу (жеке пайдалануды шолу):

Әлеуметтік қызметкер ретінде AI пайдалануымды тексеру үшін 10 сұрақтан тұратын өзін-өзі тексеру тізімін жасаңыз: құпиялылық, тексеру, біржақтылық, дәлелдемелердің шынайылығы, шешім шектеулері және клиентке бағдарлану. Әрбір сұраққа «иә/жоқ» деп жауап берсін.

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Мен сізге бұл істі толығымен беремін; Өтініштен бастап есеп беруге дейін сіз бәрін жасайсыз, мен тек соңында қол қоямын.

Бұл бүкіл процесті, соның ішінде құпиялылықты, клиникалық пікірді, тәуекелді бағалауды, дәлелдемелерді ұстануды — бағдарламалық құралға аутсорсинг болып табылады. Соңындағы бір қолтаңба бізді барлық қателіктерге, жалған сөздерге және олардың арасындағы қателіктерге соқыр етеді.

Күшті шақыру:

Сіздің рөліңіз: маған әр қадамда көмектесетін редактор. Істі кезең-кезеңімен жалғастырамын (бағалау, жоспар, есеп беру...). Әр қадамда: тек анонимді/қауіпсіз деректермен жұмыс жасаңыз, жобаны жасаңыз, маған шешім қабылдауға рұқсат етіңіз, ескертпеде жоқ нәрсені қоспаңыз және келесі қадамға өтпес бұрын нені тексеру керек екенін еске салыңыз. Осы қадамнан бастайық: [қадам]

Айырмашылық: әр қадамда есікті күзету және AI-ны қадамдық көмекші ретінде орналастыру жылдамдықты сақтай отырып, адамның қауіпсіздігі мен жауапкершілігін сақтайды.

Сахна-қақпа-жауапкершілік туралы қорытынды

Сахна

AI үлесі

адам қақпасы

сыни бақылау

Қолданба

Сұхбатқа дайындық

құпиялылық

Деректер класы

Бағалау

Өлшемді өңдеу

клиникалық пайымдау

Диагноз жоқ, ойдан шығарылған жоқ

Тәуекел

Факторды еске түсіру

Билік + команда

Ұпай/шешім жоқ

Жоспар/нұсқау

жоба + идея

Тексеру + клиент

Дереккөзді растау, клиенттің басымдығы

Хабарлама/байланыс

Құрылым + жеңілдету

Дәлел + жауапкершілік

Сарапшыдағы пікір, біржақты бақылау

Жабу

Хронологиялық қорытынды

дәлдік

жазбаға негізделген

Жалпы қателер

• Бүкіл процесті AI-ға тапсыру және соңында бір қол қою. Арасындағы қателер көрінбейді; Әр қадамда есіктер болуы керек.
• Тексермей есіктен өту. Бір кезеңнің жасалуы келесі кезеңге мұра болады; Әрбір шығыс расталады.
• Басқаруды жеке тәртіпке қалдыру. Институционалдық негіз болмаса, жақсы әдеттер нәзік болады.
• Саясатты бір рет жазып, оны ұмытыңыз. Құралдар мен заңнаманың өзгеруі; Тұрақты тексеру қажет.
• Жазбаларды жүргізбеу. Аудит ізі болмаса, проблеманы артқа қарау мүмкін емес және жауапкершілікке тартылмайды.

Қысқаша

Әлеуметтік жұмыста AI әр қадамда катализатор, өтініш беруден бастап істі жабуға дейін ешбір қадамда шешім қабылдаушы болып табылады. Адамның алты қақпасын (құпиялылық, клиникалық пайымдау, өкілеттілік/топ, валидация/клиент, дәлелдер/жауапкершілік, тұтастық) ақырғы ағынға орналастырыңыз; Бір есіктен екінші есікке өтпей өтуге болмайды. Мұны тұрақты ету корпоративтік басқаруды қажет етеді: бекітілген құралдар тізімі, деректер саясаты, рөлдер, тіркеу, оқыту және тұрақты шолу. Модульдің алты қозғаушы қағидаты — адам жауапкершілігі, тексеру, құпиялылық/PDPA, дәлелдерге адалдық, біржақты бақылау және клиентке бағдарлану — әрбір жұмыс процесінде біріктірілуі керек.

Қолданбалы тапсырма

Өтініштен аяқталуына дейін ойдан шығарылған істі ойша сызыңыз; «Іс ағынын тексеру қақпасы» үлгісімен әрбір кезең үшін бақылау парағын жасаңыз. Содан кейін бұл жағдайда тапсырмаларды ашық көлік / қауіпсіз жүйе / AI жоқ ретінде «тексерілген көлік сәйкестігі» үлгісімен жіктеңіз. Соңында, «өзін-өзі тексеру» үлгісімен AI пайдалану үшін 10 сұрақтың тізімін жасау арқылы өзіңізді бағалаңыз.

бақылау парағы

• [ ] Мен ұшты-ұшты ағында алты адам қақпасын анықтадым.
• [ ] Әр қадамда "шешім немесе жоба?" Мен сұрақты қолдандым.
• [ ] Тапсырмаларды көліктің дұрыс түріне сәйкестендірдім (ашық/қауіпсіз/жоқ).
• [ ] Мен корпоративтік басқару құрамдастарын білемін (құрал, деректер, рөл, тіркеу, оқыту, шолу).
• [ ] Мен модульдің алты тасымалдаушы қағидасын өз жұмыс үрдісіме енгіздім.

Модуль емтиханы

1. Төмендегілердің қайсысы әлеуметтік жұмыста жасанды интеллект үшін ең дәл позиция болып табылады?

• A) Жасанды интеллект адамның рұқсатынсыз клиенттің тәуекел деңгейін және араласу шешімін шеше алады
• B) АИ – қорытындылауға, жүйелеуге, жеңілдетуге және жобаны құрастыруға арналған құрал; Клиникалық пайымдау, тәуекел және соңғы шешім үшін жауапкершілік сарапшыға жүктеледі ✔
• C) Жасанды интеллект тек мәтінді аудару үшін пайдалы және басқа әлеуметтік жұмыс тапсырмаларымен ешқандай байланысы жоқ
• D) Жасанды интеллект әрқашан адамдарға қарағанда бейтарап болғандықтан, бағалауды соған қалдыру керек.

Сипаттама: Жасанды интеллект; Бұл жазбаларды реттейтін, файлды қорытындылайтын, мәтінді жеңілдететін және жобаларды жасайтын көмекші. Клиникалық пайымдау, тәуекелді бағалау, кәсіби пікір және түпкілікті шешім үшін жауапкершілік құзыретті маманға жүктеледі; Тексерілмеген нәтиже клиент туралы қате пікірге, тәуекелден жалтаруға немесе құпия деректердің ағып кетуіне әкелуі мүмкін.

2. Сұхбаттың өңделмеген жазбаларын жасанды интеллектпен іс хаттамасына түрлендіру кезінде ең дұрыс нұсқау қандай?

• A) Жасанды интеллект кәсіби көрінуі үшін жетіспейтін бөліктерді орынды түрде толтыруды сұрау.
• B) AI жазбаны байыту үшін қосымша бақылауларды қосуға мүмкіндік беру
• C) Студенттен тек ескертпеге енгізілген ақпаратты ғана пайдалануды сұраңыз, жетіспейтін элементтерді «нақтылауды қажет етеді» деп белгілеңіз және ештеңе қоспаңыз ✔
• D) Шығарылым еркін болғанша оны нотамен салыстырмай тікелей файлға салу

Түсініктеме: АИ-нің ең қауіпті тенденциясы жазбаны «толық» етіп көрсету үшін ескертпеде жоқ бақылауларды, сандарды немесе тырнақшаларды ойлап табу болып табылады. Дұрыс тәсіл – «жазбадағыны ғана пайдаланыңыз, жетіспейтіндерін белгілеңіз, ештеңе қоспаңыз» деп айту. Бос орындар толтырылмайды, олар нақтылау үшін белгіленеді.

3. Іс жазбасында «факті» мен «түсіндіру» арасындағы айырмашылық неліктен маңызды?

• A) Факті нақты бақылау/мәлімдеу, ал интерпретация – негізді қажет ететін кәсіби қорытынды; Екеуін ажыратып, пікірге ✔ белгілеу керек
• B) Айырмашылық қажет емес; факті мен түсініктеме хаттамада бірдей жазылуы мүмкін
• C) Тек түсіндіру маңызды; Тіпті фактілер жазылмаса да мүмкін
• D) Жасанды интеллект бұл ерекшелікті тамаша жасайтындықтан, адам бақылауының қажеті жоқ.

Түсініктеме: «Ол сұхбатта үш рет жылады» - бұл факт; «Ол депрессияға ұшырады» - бұл клиникалық негізсіз жазылмайтын түсініктеме. Жазба фактіні алдын ала көрсетеді және тек нақты таңбалау мен негіздеу арқылы түсіндіруді қамтиды. AI екеуін еркін араластыра алады; Айырмашылық жасау және тіл тигізбеу – адамның міндеті.

4. Баланың үйде қауіпсіз екенін немесе жағдайдың қауіп деңгейін анықтауда АИ қандай рөл атқаруы керек?

• A) Жасанды интеллект істі оқып, тәуекел деңгейін анықтап, қауіпсіздік туралы шешім қабылдай алады
• B) Жасанды интеллект берген «төмен тәуекел» белгісі сарапшының бақылауын керісінше жоюы мүмкін
• C) Жасанды интеллект тек факторларды еске түсіреді және жазбаларды жүйелейді; Тәуекел деңгейі мен қауіпсіздік туралы шешім сарапшыға, топқа, қадағалауға және заңды процеске тиесілі ✔
• D) Тәуекел туралы шешім қабылдауда жасанды интеллект адамдарға қарағанда сенімдірек, өйткені ол бейтарап.

Сипаттама: Тәуекел деңгейі және қауіпсіздік туралы шешім; Ол кәсіби беделді, клиникалық пайымдауды, көп салалы топ пікірін, қадағалауды және заңды жауапкершілікті талап етеді. Мұнда AI тек қауіп/қорғаныс факторларын еске түсіріп, жазбаларды өңдей алады; ұпайлар немесе шешімдер шығара алмайды. Ол сондай-ақ оқыту деректеріндегі бұрмалану салдарынан қолайсыз топтарға жүйелі жоғары тәуекелді жатқызуы мүмкін, сондықтан оның нәтижесін шешім ретінде пайдалану мүмкін емес.

5. Жасанды интеллект клиентке «осы орталық, ана телефон» деп жолдама ақпарат бергенде не істеу керек?

• A) Клиентке бермес бұрын мекеменің ресми және ағымдағы көзінен мекенжай мен телефон нөмірін растау ✔
• B) Ақпаратты сенімді түрде клиентке тікелей жеткізу
• C) Жасанды интеллект ағымдағы күнді бергенше, ақпарат абсолютті дұрыс деп есептей отырып
• D) Ақпарат бір жерде айтылғандықтан оның дұрыстығын тексерудің қажеті жоқ деп ойлау.

Сипаттама: Жасанды интеллект қызметтерді, қолданба талаптарын, мекенжайлар мен телефон нөмірлерін құра алады немесе ескірген ақпаратты бере алады; Мекемелер біріктіріледі, қозғалады, жабылады. Клиентті расталмаған мекенжайға жіберу бос сапарға және сенімнің жоғалуына әкеледі. Сондықтан жасанды интеллект ұсынған байланыс ақпараты клиентке жіберілмес бұрын мекеменің өзінің ресми арнасы арқылы расталуы керек.

6. Жауап беру жоспарында кім мақсаттар қоюы керек және АИ рөлі қандай?

• A) Жасанды интеллект клиенттен сұрамай мақсаттарды анықтауы және бүкіл жоспарды жазуы керек.
• B) Клиент (маманмен бірге) мақсаттарды анықтайды; AI оларды SMART пішіміне енгізеді және құрылымдайды, жаңа мақсаттарды қоспайды ✔
• C) Мақсаттар маңызды емес; Жоспар неғұрлым көп мақсаттарды қамтыса, соғұрлым жақсы.
• D) Жасанды интеллект клиенттің басымдықтарын елемеуі мүмкін, себебі ол кәсіби көрінеді

Сипаттама: Әлеуметтік жұмыстың негізгі құндылығы «өзін-өзі анықтау» болып табылады: клиент мақсаттар мен басымдықтарды белгілейді, оларды сарапшылық кәсіби біліммен қалыптастырады. Жасанды интеллект бұл мақсаттарды SMART форматына енгізеді және қадамдар мен көрсеткіштерді ұсынады; бірақ ол клиент айтпаған жаңа мақсаттарды қоса алмайды. Шетелдік, сырттан таңылған жоспар клиентке қолданыла алмайды.

7. Сотқа ұсынылатын әлеуметтік тергеу есебінде жасанды интеллект қай мәселеде аса қауіпті?

• A) Есепті «толық» етіп көрсету үшін жоқ күндерді, ескертулерді немесе дәйексөздерді ойлап табу мүмкіндігі ✔
• B) Мәтін тілін тым ресми ету
• C) Есепті талап етілгеннен қысқа жазу
• D) Тақырыптардың алфавиттік реті

Түсініктеме: АИ-нің ең қауіпті үрдісі - есепті «толық» етіп көрсету үшін жоқ күнді, бақылауды немесе дәйексөзді қосу. Сот қорытындысындағы ойдан шығарылған үкім шешімді жаңылыстыруы да, сарапшының сеніміне нұқсан келтіруі де мүмкін. Сондықтан әрбір жағдай нақты сұхбат/бақылау/құжатпен байланыстырылып, кәсіби пікірді сарапшы қалыптастыруы керек.

8. Әлеуметтік тергеу есебінің кәсіби пікірі мен пікірі (ұсыныс) бөлімін кім жазуы керек?

• A) Жасанды интеллект; өйткені ол неғұрлым бейтарап ұсыныс жасайды
• B) Есепті жазғанда пікір бөлімі ешқашан толтырылмайды.
• C) Жасанды интеллект пікір жазады, сарапшы соңында ғана қол қояды
• D) Сарапшы; Кәсіби пікір мен пікір оның өкілеттігі мен жауапкершілігі, жасанды интеллект тек тілді нақтылайды ✔

Мәлімдеме: Кәсіби пікір және пікір — «бұл баланың ең жақсы мүддесі», «бұл келісім орынды» — сарапшының заңды өкілеттігі мен жауапкершілігі. 'Мен жасанды интеллектке не ұсынамын?' Бұл сұралмайды; Ол жасаған «ұсыныс» әрі ойдан шығарылған, әрі жауапкершілікті ауыстыру болуы мүмкін. Ең дұрысы, жасанды интеллект сарапшы жазған пікірдің тілін нақтылайды.

9. Жасанды интеллекті бар клиентке ауыр ресми анықтамалық хатты жеңілдету кезінде ең маңызды бақылау қандай?

• А) Мәтінді барынша қысқа етіп жазыңыз, егжей-тегжейге қарамаңыз
• B) Нәтиже жатық және эстетикалық көрінеді
• C) Түпнұсқамен салыстыру арқылы ешбір құқықтар, шарттар, сомалар, күндер немесе ескертулер өткізілмегенін тексеру ✔
• D) Жеңілдету клиентке аз ақпарат беру арқылы жайлылықты қамтамасыз етеді.

Түсініктеме: Жеңілдеу бұрмалауды білдірмейді; «Қысқарту» немесе «жеңілдету» арқылы AI құқықты, шартты, соманы, күнді немесе хабарламаны жұта алады. Клиент «жеңіл», бірақ толық емес ақпаратпен құқығын жоғалтуы мүмкін. Сондықтан жеңілдетілген мәтінді түпнұсқамен салыстырып, ешқандай маңызды ақпарат жоғалмағанын тексеру керек, тіпті жасанды интеллект ол қорғайтын маңызды элементтердің тізіміне ие болуы керек.

10. Қаржыландыруға өтінімді жасау кезінде жасанды интеллект шығарған статистикаға қалай қарау дұрыс?

• A) Жасанды интеллект берген статистиканы әсерлі ету үшін тікелей пайдалану
• B) Жасанды интеллект статистиканы жасамау, қажет болған жағдайда [ДЕРЕКТІКТЕРДІ] басып шығару және әрбір нөмірді нақты көзден қою ✔
• C) Өтінімге нөмір енгізілген кезде дереккөз маңызды емес екенін ескеру.
• D) АИ сенімді жазатындықтан статистиканы тексерудің қажеті жоқ деп есептей отырып

Сипаттама: Жасанды интеллект таңқаларлық, бірақ дереккөздері жоқ статистиканы құра алады; Қайнар көзі жоқ фигура әрқашан дерлік сенімсіз. Өтініштегі ойдан шығарылған статистика өтінішті қабылдамайды және мекеменің сенімділігін жояды. Дұрыс тәсіл - AI сандарды құрамау («[ДЕРЕКТЕР КЕРЕК] жазу») және әрбір нөмірді нақты, расталған көзден қою.

11. Неліктен жасанды интеллектке «осы отбасының бала тәрбиесінде жеткіліксіз екенін түсіндіріңіз» деп сұрау неге зиянды?

• A) Сұрақ тым ұзақ болғандықтан
• B) Жасанды интеллект отбасылық мәселелер бойынша ешқандай ақпарат бере алмайтындықтан
• C) Жасанды интеллект әу бастан нәтижені болжайтындықтан (жақсылап) дәлелсіз және біржақты растауды шығарады; Сұрақ бейтарап және теңгерімді болуы керек ✔
• D) Өйткені жасанды интеллект әрқашан отбасының пайдасына жазады

Түсініктеме: Бұл сұрақ нәтижені болжайды («жеткіліксіз»). AI дәлелсіз және біржақты мәтін жасайды, ол бұл болжамды жалпақтау үрдісімен растайды (сіздің инсуацияңызды растаңыз). Біржақты сұрақ біржақты жауап береді. Шынында да, бұл нәтижені болжамайтын, күшті және алаңдаушылықты теңестіретін және тек дәлелді сұрайтын бейтарап сұрақ.

12. AI шығысындағы ауытқуды тексеру үшін «бұрыш астында сынауды» қалай қолдануға болады?

• A) Басқа топ үшін бірдей жағдайды ойлап, «Бұл бір тілде жазыла ма?» деп сұрау. ✔ Сұрау арқылы қосарланған стандарттарды сынау
• B) Жасанды интеллекттің бірінші жауабын бейтарап деп қабылдау және басқа бұрыш іздемеу
• C) Тек клиент тобын қолдайтын сұрақтар қою
• D) Қосымша бақылаудың қажеті жоқ деп есептей отырып, жасанды интеллектте біржақтылық мүлде жоқ.

Түсініктеме: AI әртүрлі топтар үшін бірдей мінез-құлықты әртүрлі реңкте жаза алады (мысалы, аз қамтылған отбасы үшін «немқұрайлылық қаупі», жоғары табысы үшін «мәжбүрлі ата-ана»). Инверсия сынағы: «Егер клиент басқа әлеуметтік-экономикалық/этникалық топтан болса, бұл бір тілде жазылар ма еді?» сұрау болып табылады; Бұл дәлелдерге емес, стереотиптерге негізделген қос стандарттарды көзге көрінетін етеді.

13. Клиенттің нақты файлын (соның ішінде аты-жөнін, мекен-жайын, денсаулығы туралы ақпаратты) қорытындылаудың дұрыс тәсілі қандай?

• A) Жылдамдық үшін оны жақын жердегі жалпыға ортақ AI құралына қойыңыз және оны қорытындылаңыз
• B) Файл қысқа болғандықтан, оның құпиялылығына мән бермей өңдеу
• C) Денсаулық туралы ақпаратты қоса, барлығын енгізіңіз және тек нәтижені сақтаңыз
• D) Тек мекеме бекіткен қорғалған жүйеде немесе сәйкестендірілмеген мәтінмен, ең аз деректермен өңдеу ✔

Ақпаратты ашу: Клиентті анықтайтын жеке деректер – әсіресе денсаулық сияқты құпия деректер – мекеме бекітпеген жалпыға қолжетімді құралға ешқашан енгізілмейді; мәтін өңделуі, сыртқы серверлерде сақталуы немесе үлгіні оқытуда пайдаланылуы мүмкін және эксфильтрация қайтымсыз. Бұл да КВКК бұзу болып табылады. Жұмыстың бұл түрі деректерді сыртқа шығармайтын немесе сәйкестендірілмеген мәтіні бар ішкі, қауіпсіз, бекітілген жүйелерде ғана орындалады.

14. Неліктен құжаттан атауларды жою оны жалпыға ортақ құралға қосу үшін әрдайым жеткіліксіз?

• A) Аттарды жою әрқашан толық анонимизация болып табылады және әрбір құжатты қауіпсіз етеді
• B) Құжат қысқа болғанша, контекстен жеке басын анықтау мүмкін емес
• C) Аты толығымен жойылған құжат КВКК шеңберінен шығады.
• D) Контекст (көрші, жас, оқиға, отбасы құрылымы) жеке басын қайта бекіте алады; Қорғау құралды және қоршаған ортаны таңдау арқылы қамтамасыз етіледі ✔

Түсініктеме: Тіпті атаулар жойылса да, контекст (жақын жердің, жастың, оқиғаның, күннің, отбасы құрылымының және т.б. сирек тіркесімі) адамды анықтауға мүмкіндік береді; Ол аудандағы сипаттамаға сәйкес келетін жалғыз адам болуы мүмкін. Нақты қорғаныс маскамен емес, дұрыс құрал мен ортаны таңдау арқылы қамтамасыз етіледі; Мәтінмән де жеке деректер болып табылады және белгісіз ақпарат жоғары сынып ретінде қорғалуы керек.

15. Өтініш беруден бастап істі жабуға дейін бір рет AI қатесінің түпкілікті шешімге ағып кетуіне жол бермеудің ең тиімді жолы қандай?

• A) Бүкіл процесті бір AI құралына тапсыру және соңында бір рет қол қою
• B) Әр кезеңде адам тексеру қақпасы мен өту шартын қою (қабатты тексеру) ✔
• C) Жылдамдық үшін аралық валидацияларды жою және тек шығу сатысында тексеру
• D) Әрбір сарапшыға жазба жүргізбей, өз құралын еркін пайдалануға мүмкіндік беру

Сипаттама: Әрбір кезеңде адам тексеру қақпасы орналастырылады (өтініш/құпиялылық, бағалау/клиникалық пайымдау, тәуекел/рұқсат ету, жоспар/тексеру, есеп/дәлелдер, жабу/дәлдік); Бір есіктен екінші есіктен өтуге болмайды. Бұл қабатты құрылым бір кезеңде галлюцинация, ығысу немесе құпиялылық қатесінің клиентке әсер ететін шешімге енуіне жол бермейді.