Добици:
- Бити у стању да разликује где вештачка интелигенција штеди реално време у раду на менталном здрављу и где клиничка одговорност и овлашћење за дијагностику/одлучивање треба да остану на стручњаку за људе, на основу нивоа ризика
- Способност примене вишеслојне дисциплине валидације која тестира сваки излаз АИ у односу на доказе, изворе и клиничку процену
- Вештачка интелигенција није терапеут, дијагностичар или супервизор; Бити у стању да интернализује јасан оквир да су људи и хитна интервенција од суштинског значаја у случају кризе/ризика.
Психологија покушава да разуме бол, причу и унутрашњи свет особе; То је професија изграђена на поверењу, односу и одговорности. Неки делови овог посла (писање текста, скенирање извора, уређивање табела, припрема материјала) могу брзо постати аутоматизовани. Неки делови се никада не могу пренети на машину јер додирују живот особе. Вештачка интелигенција (скраћено АИ; софтвер који учи обрасце из великих количина текста и генерише нови текст, сажетке или код) је моћна помоћ у овој професији: сужавање сати прегледа литературе, прављење извештаја, поједностављивање психообразовне брошуре. Али АИ није терапеут; Не познаје клијента, не преузима одговорност, не стоји уз њега у кризним временима и не сматра га етички и законски одговорним.
Наш циљ током овог модула је да од вас направимо стручњака за ментално здравље који надгледа АИ, а не практичара који зависи од АИ. У овој првој јединици научићете где да користите вештачку интелигенцију у послу психологије, где свакако треба да престанете и како да потврдите сваки резултат.
Шта вештачка интелигенција може, а шта не може да уради у психологији
Права моћ вештачке интелигенције је да генерише језик, обрасце и обрисе. Костур белешке о сесији, мапа резимеа литературе, скраћена верзија психоедукативног текста, скица ставке истраживачког упитника, љубазан језик имејла о термину; Све ово излази за неколико секунди. У овим задацима, АИ вам штеди време и смањује ментално оптерећење.
Оно што вештачка интелигенција не може да уради је доношење одлука које захтевају клиничку процену. Постављање дијагнозе, процена ризика, одабир плана лечења, читање да ли се клијенту „поправља или погоршава“; Ништа од овога се не може урадити логиком „тако обично бива“. АИ халуцинира јер учи из текстова на интернету: тако да извор који се чини стварним, али не постоји, може произвести лажну статистику или измишљену ставку на скали. У психологији, ова врста грешке није само штампарска грешка; То значи погрешно усмереног клијента, штетну интервенцију или етичко кршење.
Опрез: АИ излаз је нацрт, а не клиничко мишљење. Безбедносно критична питања као што су дијагноза, процена ризика и одлуке о лечењу доносе се на основу пресуде и одговорности компетентног стручњака (психолога, психијатра). АИ не замењује ово резоновање.
Три региона према нивоу ризика
Најпрактичнији начин да се АИ безбедно користи је да се сваки задатак подели у три зоне на основу нивоа ризика. Ова разлика се своди на „да ли АИ то треба да уради?“ Одговара на питања брзо и тачно.
Регион
Примери задатака
Улога АИ
Ниво верификације
Зелена (низак ризик)
Анонимно психоедукативно поједностављење текста, имејл за термине, претрага наслова литературе, нацрт презентације
слободна производња
Брзи преглед
Жута (средњи ризик)
Нацрт белешке са сесије, лингвистичко објашњење за тумачење размера, план анализе истраживања, предлог тематског кода
Нацрт + предлог
Провера стручњака + потврда извора/података
Црвена (критично за безбедност)
Дијагноза, процена ризика од самоубиства/кризе, одлука о лечењу/лековима, форензичко мишљење
Само подсетник/контролна листа
Компетентна стручна процена и одговорност су обавезни
Будите брзи у зеленој зони. Користите вештачку интелигенцију у жутој зони, али проверите сваку информацију, број и извор. У црвеној зони, АИ никада нема коначну реч; У најбољем случају, то је подсетник који стручњаку доноси контролну ставку.
три мини кофера
Случај 1 — Коришћење које штеди време. Школски психолог ће припремити информативну брошуру под називом „Тест анксиозност код адолесцената“ за групу од 40 родитеља. Ако је написано руком, требало би око 3 сата. Тиме што АИ напише анонимни нацрт, самопроверава садржај заснован на доказима и проверава изворе, он завршава брошуру за 45 минута. Отприлике 75% уштеде времена, а он је одговоран за коначни садржај.
Случај 2 — Где би требало да се заустави. Специјалиста даје клијентове белешке за 3 сесије АИ и пита: „Да ли ова особа има гранични поремећај личности?“ пита он. „Симптоми су доследни“, самоуверено каже АИ. Међутим, АИ није видела клијента, не зна историју и не може да одмери диференцијалне дијагнозе. Ако специјалиста користи овај излаз као дијагнозу, он или она ће направити озбиљну грешку; Највише, резултат може бити подсетник у облику „процени ове области даље у интервјуу“.
Случај 3 — Цена халуцинације. Истраживач тражи 10 извора од АИ за увод у своју тезу. АИ производи 10 цитата; Све изгледају формално савршено. Када истраживач провери, види да 4 од њих заправо не постоје, а 2 од њих додељују погрешну годину/аутора правом чланку. То значи да је 60% цитата нетачно. Да није проверио, у своју тезу би укључио лажне изворе.
Дисциплина вишеслојне верификације
Верификација није нешто што треба одлагати мислећи „погледаћу касније“, то је део тока посла. Чврста верификација се састоји од пет слојева:
- Назад на доказе. Ако је АИ дао налаз, оцену или препоруку, проверите то са примарним извором (чланак са рецензијом, званични водич, приручник за мерење).
- Тест са клиничком проценом. Да ли је резултат заиста значајан за овог клијента, овај контекст и ову културу? Измерите га својим стручним оком.
- Упоредите са више података. Немојте се ослањати на једну реченицу, један резултат или један симптом; Нека прича, посматрање и мерење говоре заједно.
- Филтер за етику и приватност. Да ли овај излаз штети клијенту, стигматизује га, нарушава поверљивост?
- Оставите свој траг. Забележите који је излаз потврђен и како; Нека се касније провери.
Наговештај: "АИ је рекао" није оправдање. Образложење за клиничку или истраживачку одлуку је увек доказ, мерење, професионални стандард или компетентна стручна процена. АИ вам помаже да припремите ова оправдања, не замењује их.
Упутства и шаблони који се могу копирати
Следећи шаблони држе АИ у безбедној улози. Попуните угласте заграде својим (анонимизованим) контекстом.
Улога: Ви сте асистент за цртање и помажете на смеру психологија. Не постављате дијагнозу, не процењујете ризик или не доносите одлуку о лечењу. Ваш задатак је само да нацртате текст и поделите своја размишљања. Ако сте у недоумици, напишите "стручна верификација". Задатак: [задатак].Ограничења: Анонимни подаци; нема стигматизирајућег језика; Ако постоји извор потраживања, означите „потребна је потврда“.
Проверите нацрт у наставку са три аспекта и дајте повратну информацију ставку по ставку за сваки: 1) Реченице које садрже клинички нетачне или претеране тврдње, 2) Тврдње без извора иако им је потребан извор, 3) Језик који стигматизује или осуђује. Ако нисте сигурни у сопствену тачност, напишите „непроверено“. Текст: [текст]
Поставите следећи задатак у зону ризика (зелено/жуто/црвено) и напишите образложење у једној реченици. Затим наведите кораке верификације који одговарају овој зони. Задатак: [опис посла]
Које изјаве у овом тексту садрже чињеницу/статистичку тврдњу? Наведите сваки у посебном реду као „тврдња да се провери“; Проверићу из примарног извора. Текст: [текст]
Слаби промпт / Јаки промпт
Слабо обавештење: "Која је дијагноза овог клијента на основу његових симптома?"
Овај упит позива АИ да уради посао који не може да уради (да постави дијагнозу), не штити клијентске податке и позива на сигуран, али нетачан резултат.
Снажан упит: „У наставку је анонимни резиме интервјуа. НЕМОЈТЕ постављати дијагнозу. Уместо тога, предложите као контролну листу области које треба даље да проценим у клиничком интервјуу и питања која треба да запамтим да поставим. Означите где нисте сигурни.“
Овај упит поставља АИ у исправну улогу (подсетник), штити податке и препушта одговорност стручњаку.
Уобичајене грешке
- Грешка контура за клиничко мишљење. Течан и самоуверен језик вештачке интелигенције није доказ тачности; Најубедљивија реченица може бити најубедљивија реченица.
- Предаја црвене зоне АИ. Ако АИ пита за дијагнозу, ризик и одлуке о лечењу, то покушава да пребаци одговорност на софтвер; Ово је и етичка и правна грешка.
- Прескакање верификације. Рећи "Ипак ћу проверити" или не је начин на који се халуцинација увлачи у извештај број један.
- Лепљење података клијента без њихове заштите. Давање правих имена и детаља АИ је кршење приватности (погледајте Јединицу 2).
- Стављање АИ као супервизора. АИ врши пробе случаја, али стварна контрола, одговорност и етички надзор су посао људског супервизора.
Укратко
У психологији, АИ је моћна помоћ која генерише језик и обрисе, али није терапеут, дијагностичар или супервизор. Поделите сваки задатак у зелену/жуту/црвену зону ризика; У црвеној зони (дијагноза, криза, лечење) клинички суд и одговорност увек остају на људском стручњаку. Просејте сваки исход кроз слојеве доказа, клиничку процену, више података, етичке филтере и следљивост. "АИ је рекао" никада није оправдање.
Задатак апликације
Напишите 6 типичних задатака из сопствене праксе (или замишљене вежбе): нпр. е-пошта о термину, нацрт белешке о седници, дијагностичко питање, процена кризе, преглед литературе, психоедукативни материјал. Поставите сваки у зелену/жуту/црвену зону и за сваку напишите правило валидације од једне реченице. Крајњи резултат је ваша сопствена „мапа ризика АИ“.
контролна листа
- [ ] Поставио сам задатак у зелену/жуту/црвену зону.
- [ ] Нисам препуштао никакве одлуке у црвеној зони АИ.
- [ ] Анонимизовао сам податке о клијенту.
- [ ] Јасно сам написао ограничење „дијагностичке/процене ризика“ за АИ.
- [ ] Прошао сам излаз кроз пет слојева валидације.
- [ ] Прихватио сам да сам одговоран за коначан садржај и оставио свој траг.