Добици:
- Способност креирања писане, применљиве политике коришћења вештачке интелигенције и тока одлука за психолошку праксу или институцију
- Способност комбиновања дисциплина граница, верификације, приватности и пристрасности научених кроз цео модул у један систем контроле
- Способност транспарентног објашњења употребе вештачке интелигенције клијенту и одржавање професионалне етике и одговорности
Током овог модула научили сте како да користите вештачку интелигенцију (АИ) у различитим деловима психолошког рада: преглед литературе, подршка интерпретацији скале, обележавање сесије, психоедукација, анализа истраживања, провера пристрасности, чврста ивица кризе, дигитални алати и професионални развој. У свакој јединици постојала су три принципа који се понављају: граница, верификација, поверљивост. У овој последњој јединици, ми ћемо ове принципе дестиловати у један систем: писану и спроводљиву политику коришћења вештачке интелигенције. Политика није нејасна намера попут „Покушавам да користим вештачку интелигенцију за добро“; То је скуп конкретних правила која се сви придржавају, која се могу ревидирати и за која можете бити одговорни клијенту. Било да радите сами или у институцији, ова политика је оквир који штити и вас и вашег клијента.
Зашто је писана политика неопходна
Неписана правила се примењују недоследно. Једног дана анонимизира податке, једног напорног дана можете заборавити на то; Док стручњак може правилно да користи вештачку интелигенцију, колега може да је користи погрешно. Писана политика обезбеђује три ствари: доследност (сви поштују иста правила), одговорност (ако нешто крене наопако, јасно је шта је урађено и како) и транспарентност (можете јасно објаснити клијенту како користите вештачку интелигенцију). У погледу професионалне етике и КВКК-а, „Користили смо АИ, али нисмо записали како га контролишемо“ је неодржив став.
Опрез: Политика вештачке интелигенције је ту да одржава границе, а не да их опушта. Клаузуле као што су „Опустите приватност ради брзине“, „Преусмерите на бот у хитним случајевима“ описују извор ризика, а не политику. Добра политика институционализује прави, а не лак начин.
Шест основних компоненти политике
компонента
Оно што дефинише
База на модулу
Области употребе
У којим задацима се користи АИ (зелена/жута зона)
Јединица 1
ограничена подручја
Где се вештачка интелигенција никада неће користити (дијагноза, одлука о кризи)
Јединица 1, 4, 9
Правило података
Анонимизација и избор алата
Јединица 2
правило валидације
Како потврдити сваки излаз
Јединица 3, 5, 7
Предрасуде и језик
Контрола правде и стигме
Јединица 8
транспарентност
Како обавестити клијента
Јединица 2, 12
Корак по корак: постављање сопствене политике
- Направите инвентар задатака. Наведите све задатке за које се АИ може користити у пракси; ставите сваки у зелену/жуту/црвену зону.
- Појасните листу забрана. Јасно напишите црвену зону (дијагноза, одлука о ризику, кризна интервенција, одлука о лечењу/лијеку) као забрањена.
- Напишите правило података. Који подаци су анонимизовани, који алати су одобрени, која подешавања су обавезна.
- Дефинишите кораке верификације. Напишите обавезне кораке потврде за сваки тип излаза (извор, белешке, анализа).
- Припремите прозирни текст. Укључите употребу вештачке интелигенције у текст за просветљење вашег клијента.
- Подесите распоред прегледа. Ажурирајте политику периодично (нпр. сваких 6 месеци); Промена технологије и законодавства.
Савет: Најбољи начин да тестирате своју политику је да извршавате задатке стварног дана кроз политику један по један. За сваки задатак „да ли сам следио ово правило?“ Ако можете јасно одговорити на питање, политика функционише; Ако кажете „у зависности од ситуације“, ту клаузулу треба јасније написати.
Транспарентност према клијенту
Клијент има право да зна какву улогу АИ игра у њиховом процесу. Али ово треба искрено објаснити, не плашити клијента: „Користим алате вештачке интелигенције у неким административним пословима и нацртима (као што је уређивање белешки, припрема материјала); анонимизујем ваше податке и увек доносим дијагнозу, процену и одлуке о лечењу.“ Ова изјава је и етичка обавеза и искреност која гради поверење. Уколико се клијент противи, његов/њен избор се поштује.
три мини кофера
Случај 1 — Заштита полисе. Нови приправник на клиници спрема се да налепи белешку клијента у алатку вештачке интелигенције без да је анонимизује. Пошто писана политика клинике каже да се „необрађени подаци о клијентима не уносе ни у један алат за вештачку интелигенцију; прво се анонимизују“ и ова политика се потписује на почетку посла, стажиста се зауставља и предузима прави корак. Без политике, дошло би до повреде приватности. Писано правило је сигурносна мрежа која долази у обзир када се забораве добре намере.
Случај 2 — Транспарентност гради поверење. На првом састанку, стручњак искрено објашњава свом клијенту своју употребу АИ: шта он користи, како су подаци заштићени, одлуке су његове. Клијент је у почетку нервозан, али када чује објашњење, опушта се и повећава самопоуздање. Транспарентност функционише као искреност која гради поверење, а не слабост коју треба сакрити.
Случај 3 — Активација забрањене листе. На крају напорног дана, специјалиста жели да АИ „пита“ о ризику клијента. Пада ми на памет чланак у политици институције „одлуке о кризи и ризику не могу се тражити од АИ; стручњак то директно процењује и ако је потребно, консултује се линија за надзор/хитна помоћ“. Стручњак стаје и чини праву ствар. Листа забрана политике је сидро које вас подсећа на праву одлуку чак и у најуморнијем тренутку.
Упутства и шаблони који се могу копирати
Нацртајте ПОЛИТИКУ УПОТРЕБЕ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ за психолошку праксу. Хајде да имамо следећих шест одељака: 1) дозвољене области употребе, 2) забрањене области (дијагноза, одлука о кризним ситуацијама, одлука о лечењу), 3) правило о подацима/анонимизацији, 4) кораци верификације, 5) контрола пристрасности и језика, 6) транспарентност према клијенту. Напишите правила јасно и спроводљиво; додавање супстанце која лабави границе.
Поделите следећу листу задатака у зелену/жуту/црвену зону ризика и напишите правило политике од једне реченице за сваки (ко то ради, како се проверава). Задаци: [листа задатака]
Напишите пасус који ће се додати тексту са информацијама о клијенту, објашњавајући употребу вештачке интелигенције искрено и без застрашивања: на којим пословима се користи, да ли су подаци анонимизовани, да одлуке о дијагнози/лечењу припадају специјалисти и право клијента на приговор.
Проверите овај нацрт политике коришћења вештачке интелигенције: да ли адекватно штити границе, да ли су забрањене области чисте, да ли су кораци приватности и аутентификације завршени, да ли постоји транспарентност клијента? Означите слабе или ризичне ставке. Политика: [нацрт]
Слаби промпт / Јаки промпт
Слабо обавештење: „Напишите нам политику која олакшава коришћење вештачке интелигенције.“
Нагласак на „омогућавању“ гура АИ да предложи клаузуле које попуштају границе; док сврха политике није погодност већ заштита и одговорност.
Снажан савет: „Нацртајте политику употребе вештачке интелигенције која одржава границе, јасно разграничава забрањена подручја (дијагноза, криза, одлука о лечењу), захтева поверљивост и кораке верификације, и укључује транспарентност према клијенту. Циљ није да се олабави употреба, већ да буде безбедна и одговорна.“
Ова порука усмерава политику ка тачном циљу (заштита); Излаз постаје оквир којим се може управљати.
Уобичајене грешке
- Уопште не пишем политику. Имајући на уму правила и недоследно их примењују; Ово је најчешћа грешка.
- Постављање клаузуле која попушта границе. Увођење правила попут „Опусти приватност ради брзине“ у политику.
- Остављање листе забрањених нејасноћа. Не писати јасно да су одлуке о дијагнози/кризи/лечењу забрањене.
- Прескакање транспарентности. Уопште не обавештавање клијента о коришћењу АИ.
- Не ажурирање политике. Настављајући са старим правилима како се технологија и законодавство мењају.
Укратко
Три принципа овог модула (ограничење, аутентификација, приватност) комбинују се у писану, применљиву политику коришћења вештачке интелигенције. Добра политика укључује шест компоненти: подручја дозвољене употребе, забрањена подручја (дијагноза, криза, одлука о лечењу), правило о подацима/анонимизацији, кораци верификације, пристрасност и контрола језика, транспарентност према клијенту. Политика постоји да одржава границе, а не да их попушта; Обезбеђује доследност, одговорност и транспарентност. Искрено објасните клијенту употребу вештачке интелигенције и редовно ажурирајте политику. АИ убрзава; Одговорност, одлука и етика су увек на вама.
Задатак апликације
Напишите политику коришћења вештачке интелигенције на једној страници за своју праксу или институцију. Попуните свих шест компоненти (дозвољена поља, забрањена поља, правило података, верификација, пристрасност/језик, транспарентност). Затим прођите 5 задатака из стварног радног дана кроз ову политику један по један и питајте „да ли сам следио правило?“ за сваки. Проверите да ли можете јасно одговорити на питање. Напишите јасније ствари на које не можете јасно одговорити.
контролна листа
- [ ] Писано сам дефинисао дозвољене и забрањене области коришћења.
- [ ] Јасно сам написао да су дијагнозе, кризе и одлуке о лечењу забрањене.
- [ ] Поставио сам податке/анонимизацију и одобрено правило возила.
- [ ] Написао сам кораке верификације за сваки тип излаза.
- [ ] Додао сам пристрасност и проверу језика у политику.
- [ ] Припремио сам транспарентни текст за клијента и поставио распоред прегледа.
Модул Екам
1. Психолог уписује симптоме које је његов клијент описао вештачкој интелигенцији и пита: "Коју дијагнозу има овај клијент?" пита он. Који је најисправнији приступ?
- А) Коришћење вештачке интелигенције само за предлагање могућих концепата; Постављање дијагнозе путем клиничког интервјуа, историје и сопственог расуђивања ✔
- Б) Уписивање дијагнозе коју је дала вештачка интелигенција директно у извештај
- В) Ако вештачка интелигенција даје исту дијагнозу неколико пута, сматра се коначном.
- Д) Скраћивање интервјуа и ослањање на вештачку интелигенцију да би се убрзала дијагноза
Опис: Постављање дијагнозе је клиничка одлука која је критична за безбедност и захтева више података, клинички интервју, историју и процену. Вештачка интелигенција може бити од помоћи у сугерисању могућих концепата, али дијагноза се поставља на основу клиничке процене надлежног специјалисте (психолога/психијатра). АИ излаз не замењује ову одлуку.
2. Желите да резимирате клијентов снимак сесије у алатку за вештачку интелигенцију засновану на облаку. Шта је прва ствар коју треба урадити у погледу КВКК-а и професионалне поверљивости?
- А) Лепљење записа какав јесте, са правим именом и детаљима
- Б) Анонимизација садржаја, праћење политике приватности/података алата и поштовање оквира сагласности ✔
- Ц) Скратити само презиме клијента, а остало оставити како јесте.
- Д) Иако је приватност важна, дељење свих података ради брзине
Објашњење: Подаци о клијентима су посебни лични подаци. Пре него што се дају алатки у облаку, идентификационе информације као што су име, локација, датум и радно место треба да буду анонимизоване; Ако је могуће, требало би да се користи де-идентификовани садржај и да се обезбеди да алат не користи податке за обуку. Поред тога, мора се поштовати информисани пристанак клијента.
3. Вештачка интелигенција каже у сажетку чланка да је „Установљено да је величина ефекта у овој студији из 2019. д = 0,82“, али не можете пронаћи тај чланак. Шта треба да урадите?
- А) Коришћење атрибуције каква јесте јер је вештачка интелигенција поуздана
- Б) Писање броја без тражења извора јер се чини разумним
- Ц) Занемарите тврдњу док не потврдимо извор и величину ефекта из примарног текста ✔
- Д) Питајте другу вештачку интелигенцију и прихватите је ако дође са истим бројем
Објашњење: Вештачка интелигенција може да прави референце, ауторе или бројеве који изгледају као стварни, али не постоје (халуцинација). Не користи се извор који се не може пронаћи или величина ефекта која се не може проверити. Захтев се сматра неважећим док се не потврди из примарног извора.
4. Клијент пријављује да има самоубилачке мисли током сесије. Каква би требало да буде улога вештачке интелигенције у овој ситуацији?
- А) Вештачка интелигенција треба да процени ризик и да клијенту пренесе безбедносни план
- Б) Клијента треба упутити на чет боту са вештачком интелигенцијом
- Ц) Вештачку интелигенцију треба подесити да аутоматски позива хитну помоћ
- Д) Одлука и интервенција припадају вештаку; АИ не може да процени ризик, криза је људска одговорност ✔
Опис: Ризик од самоубиства и кризе је безбедносно критична ситуација која захтева клиничку процену у реалном времену, ангажовање и одговорност. Вештачка интелигенција не може да доноси одлуке, процењује ризик и интервенише. Стручњак улази директно; Ако је потребно, активирају се телефонске линије и ланац људске подршке. У најбољем случају, АИ може послужити као подсетник стручњаку ван сесије.
5. Који ризик је најкритичнији у психообразовној брошури произведеној са вештачком интелигенцијом?
- А) Нетачне/стигматизирајуће информације воде клијента ка самодијагнози и лечењу ✔
- Б) Лош визуелни дизајн брошуре
- Ц) Брошура је предугачка
- Д) Фонт је мали
Објашњење: Када је психоедукативни материјал у рукама клијента, може се претворити у алат за самодијагнозу и лечење, а нетачне или стигматизирајуће информације могу нанети штету. Дакле, материјал мора бити стручно верификован на доказну, сигурносну и исправно уоквиривање; Треба додати упозорење „ова информација није замена за професионалну процену“.
6. Добијате подршку за тематско кодирање од вештачке интелигенције у вашим квалитативним подацима истраживања (транскрипти интервјуа). Који је најздравији приступ?
- А) Извештавање о кодовима произведеним од стране вештачке интелигенције као коначне анализе
- Б) Проверити, исправити и обезбедити поузданост узимајући у обзир кодове као почетне нацрте и читајући податке ✔
- Ц) Препустити анализу у потпуности вештачкој интелигенцији и уопште не читати податке
- Д) Не читати сопствено јер даје теме вештачке интелигенције
Опис: АИ обезбеђује брзину у стварању почетних предлога кода и обриса тема, али квалитативна анализа захтева интерпретативно просуђивање истраживача. Кодови вештачке интелигенције су почетак; Истраживач чита све податке, верификује и исправља кодове и посматра поузданост међу кодерима. Поред тога, транскрипт мора бити анонимизиран.
7. Зашто је пристрасност важан ризик у смислу психологије у моделима вештачке интелигенције?
- А) Пристрасност је само техничко питање, а не клинички релевантно
- Б) Пристрасност је потпуно решена у савременим моделима
- Ц) Резултати модела могу бити искривљени због културе/пола/дијагнозе и могу довести у заблуду и процену штете ✔
- Д) Пристрасност се јавља само код модела који производе слике
Опис: Пошто су модели често обучени на основу података из специфичних култура и језика, они могу имати дијагностичке, културолошке и родне предрасуде; може да прочита симптом као 'нормалан' у једној групи и 'патолошки' у другој групи, или производи стигматизујући језик. Ово може да искриви и оштети процену; Треба ревидирати резултате за различите групе и културе.
8. Размишљате да свом клијенту препоручите терапеутског цхат бота. Шта прво треба да урадите?
- А) Директно препоручујем јер је популаран
- Б) Рећи да бот може да замени терапију и смањи сесије
- Ц) Сугерисање да клијент верује боту у кризи.
- Д) Ревизорски докази, безбедност, приватност и клиничка подобност и позиционирајте бот као ограничену допуну ✔
Објашњење: Пре него што препоручите дигитални алат за ментално здравље, треба размотрити његову базу доказа, безбедност (управљање кризом), политику приватности/података и прикладност клиничкој ситуацији клијента. Бот не треба позиционирати као замену за хуману терапију, већ као ограничену допуну, а клијенту треба јасно објаснити да је неадекватан у кризним ситуацијама.
9. АИ је израдио нацрт белешки са седнице. Шта је најважнији корак да предузмете пре употребе овог прегледа?
- А) Верификујте нацрт тако што ћете га упоредити са оним што се стварно догодило на седници, исправити измишљени/недостајући садржај и преузети одговорност ✔
- Б) Чување нацрта у фајлу какав јесте
- Ц) Под претпоставком да је нацрт исправан јер је написан течно
- Д) Нека клијент одобри нацрт и користи га без измена.
Објашњење: АИ нацрт може додати важне информације које су изостављене, саставити изјаве које заправо нису изговорене (халуцинације) или пружити клинички нетачан оквир. Стручњак упоређује нацрт са оним што се стварно догодило на седници, верификује га, исправља и одговара за коначан садржај. Напомена је правни и клинички документ.
10. Шта од следећег представља задатак „зелене зоне” (ниског ризика) у коришћењу вештачке интелигенције у психологији?
- А) Одлуку да ли је клијент у опасности од самоубиства
- Б) Припрема нацрта како би се поједноставио језик анонимног психоедукативног текста ✔
- Ц) Постављање дефинитивне дијагнозе на основу резултата скале
- Д) Креирање препорука за лекове
Објашњење: Задаци као што су поједностављивање језика анонимизованог психоедукативног текста или састављање е-поште са подсетником за састанак су ниског ризика јер не укључују дијагнозу/одлуку и безбедни су за употребу уз брзу ревизију. Дијагноза, процена ризика и одлука о лечењу су у црвеној (безбедносно критичној) зони.
11. Која је најважнија граница при коришћењу вештачке интелигенције у интерпретацији психометријског теста?
- А) Пошто вештачка интелигенција тумачи резултат, нема потребе за коментаром стручњака.
- Б) Вештачкој интелигенцији је довољно рећи назив теста
- Ц) Тумачење не произилази из једног резултата, већ из клиничког мишљења и више података; Поштовање контекста ауторских права и норми ✔
- Д) Крајњи резултат је исти у свакој култури
Објашњење: Резултат скале/тестирања је део података; Дијагноза и клиничка интерпретација не произилазе из једног резултата. Поред тога, многи тестови су заштићени ауторским правима и осетљиви су на контекст норме. Вештачка интелигенција може да пружи опис на подскали и лингвистичку подршку, али тумачење врши стручњак у оквиру клиничког мишљења, вишеструких података и културолошке валидности.
12. Зашто АИ не може да замени прави надзор?
- А) Вештачка интелигенција замењује надзор јер брже реагује
- Б) Надзор је ионако непотребан
- Ц) Вештачка интелигенција се сматра супервизором јер је лиценцирана.
- Д) Вештачка интелигенција не преузима одговорност, не познаје стварни контекст и не може да обезбеди етичку контролу; За надзор је потребан људски стручњак ✔
Опис: Надзор; То је супервизија компетентног професионалца који је одговоран, односан и познаје стварни контекст клијента и развој терапеута. АИ може помоћи у проби случаја и изради формулације, али не преузима клиничку одговорност, не познаје стварни контекст и не може да обезбеди етички/правни надзор. За надзор су потребни људски стручњаци.
13. Припремате политику коришћења вештачке интелигенције за психолошку институцију. Шта од следећег мора бити укључено?
- А) Правило анонимизације, забрањене области употребе, обавезна верификација и транспарентност за клијента ✔
- Б) Дозвола за дељење података клијента без њихове анонимизације ради брзине
- Ц) Преношење дијагностичких одлука на вештачку интелигенцију
- Г) Усмеравање кризних ситуација на цхат бот
Опис: Добра политика; Он дефинише који подаци се могу дати алату (правило анонимизације), забрањене области употребе као што су дијагноза/криза, обавезни кораци верификације и транспарентност за клијента. Клаузуле као што су 'Изразите приватност за брзину' представљају етичке и правне ризике; Политика постоји да одржава границе, а не да их попушта.
14. Шта је од следећег ваљано оправдање за валидацију АИ излаза?
- А) Тачно је јер вештачка интелигенција даје исти одговор више пута
- Б) Тврдња је потврђена примарним доказима, валидним мерењем и компетентном стручном проценом ✔
- В) Одговор је тачан јер је написан течно и убедљиво.
- Д) АИ је моћан модел, тако да је његов излаз тачан
Опис: Оправдање за клиничку или истраживачку тврдњу; примарни доказ, валидна мерења, применљиви етички/професионални стандарди и компетентно професионално расуђивање. 'АИ је рекао', 'течно написано' или 'дао исто више пута' нису ваљана оправдања; Ово нису знаци истине, већ у најбољем случају доследности.