Табыстар:
- Модельдің галлюцинациялар тудыруы мүмкін екенін және әрбір шығуды тексеру керек екенін түсінеді
- Құпия және жеке деректерді жеделхатқа қоюдың тәуекелдері мен қауіпсіз баламаларын біледі
- Жасанды интеллектті пайдалану кезінде этика, авторлық құқық және жауапкершілік шектеулерін қолданады
Сұрауларды жазуды меңгеру жеткіліксіз; Сондай-ақ жасанды интеллектті жауапкершілікпен қолдануды үйрену қажет. Бұл құрылғы техникалық шеберліктің үстіне қойылуы тиіс қауіпсіздік қабаты. AI жылдам, сенімді және жиі дәл жауаптар береді; Бірақ кейде ол дәл осындай сенімділікпен мүлдем жалған ақпаратты шығарады, құпия деректерді қауіпке төндіруі және этикалық шекараларды бұзуы мүмкін. Бұл бөлімде біз нәтижені тексеруді, үлгінің шектеулерін, құпиялылықты және этикалық жауапкершілікті қарастырамыз. Бұл білімсіз барлық басқа техникалар толық емес болып қалады.
Галлюцинация: Үлгіні орнату
Галлюцинация - бұл модель сенімді тілде шындыққа жанаспайтын ақпаратты шығаратын кезде. Жоқ дереккөз, қате күн, ойдан шығарылған статистика немесе ешқашан жазылмаған заң бұған мысал бола алады. Неліктен бұл орын алады? Өйткені модель «шындықты білуге» емес, «мүмкін жалғасын тудыруға» арналған (бірінші бөлімдегі логиканы есте сақтаңыз). Сөйлемнің грамматикалық тұрғыдан мүмкін болуы оның нақты шындық екенін білдірмейді.
Мұның практикалық салдары анық: АИ жасаған әрбір факт тәуелсіз тексерілмейінше факт емес, шағым болып табылады. Атап айтқанда, әрқашан тексеріңіз:
- Сандар мен статистика
- Аттар, даталар, жер атаулары
- Дәйексөздер мен дереккөзге сілтемелер
- Заңды баптар, техникалық стандарттар, медициналық/қаржылық ақпарат
Валидация әдеті
Жедел әдіспен растауды азайтуға болады, бірақ қалпына келтіруге болмайды. Екі қабатта жұмыс жасаңыз:
- Шақыру қабаты: «тек мен берген дереккөзге сеніңіз, жоқ ақпаратты қоспаңыз, сенімді болмасаңыз «білмеймін» деп жазыңыз, әрбір шағымның көзін көрсетіңіз» сияқты үлгі шектеулерін беріңіз. Бұл орнатуды азайтады.
- Адам қабаты: әрбір маңызды фактіні көзден өзіңіз тексеріңіз. Бұл қадам келіссөздерге жатпайды; Бұл әсіресе жарияланатын, шешімдерге негіз болатын немесе басқаларға әсер ететін мазмұн үшін міндетті.
Шектер: Модель нені жақсы істемейді
аумақ
Тәуекел
дұрыс көзқарас
ағымдағы оқиғалар
Жаттығу деректері ескірген болуы мүмкін
Күні көрсетілген/ағымдағы көзден растаңыз
нақты сандар
Орнату ықтималдығы жоғары
Калькулятормен/көзбен тексеріңіз
Құқықтық/медициналық/қаржылық
Ауыр зақымдану қаупі
Нағыз маманмен кеңесіңіз, оған жалғыз сенбеңіз
Дереккөз/цитата
Жоқ ресурстарды өндіре алады
Дереккөздің шынайылығын өзіңіз тексеріңіз
Сирек/тауашалық тақырып
Үстірт немесе дәл емес
Мамандық біліммен салыстырыңыз
Үлгі - соңғы билік емес, көмекші. Жауапкершілік әрқашан оны пайдаланатын адамға жүктеледі.
Құпиялық және жеке деректер
Жалпыға қолжетімді AI құралына теретін мәтін сол құралдың өңдеу саясаттарына бағынады және ұйымыңыз бақылауында емес болуы мүмкін. Сондықтан құпия және жеке деректерді ойланбастан енгізу үлкен қауіп болып табылады. Түркияда жеке деректерді өңдеу KVKK (Жеке деректерді қорғау туралы заң) арқылы реттеледі; Мекемелерде де жиі өздерінің деректер саясаты болады.
Жұмыстың қауіпсіз әдістері:
- Анонимдеу/маска: нақты атының орнына «клиент», нақты нөмірдің орнына «[шот нөмірі]» деп жазыңыз. Көбінесе «3 жылдық корпоративтік тұтынушы» деп айтудың өзі трюк болады.
- Мекеме мақұлдаған құралды пайдаланыңыз: Кейбір мекемелер деректерді сыртқа шығармайтын келісімшарттық/институционалдық құралдарды ұсынады. Тек оларға қатысты құпия деректерді өңдеңіз.
- Қажет емес нәрсені бермеңіз: Тапсырманы орындау үшін маңызды емес кез келген маңызды мәліметтерді қоспаңыз.
- Саясатты біліңіз: ұйымыңыздың жасанды интеллект пайдалану ережелерін үйреніңіз және орындаңыз.
Этика және авторлық құқық
Жауапты пайдалану құпиялылықпен аяқталмайды. Үш қағида:
- Транспаренттілік: егер мәтінмән талап етсе (мысалы, адам еңбегі күтілетін жерде) AI арқылы жасалған мазмұнды дұрыс есептеңіз. Жалған пайдаланудан аулақ болыңыз.
- Авторлық құқық және түпнұсқалық: үлгінің шығысы басқа жұмыстарға ұқсауы мүмкін. Коммерциялық пайдалану алдында түпнұсқалық және құқықтардың күйін тексеріңіз; Біреудің брендіне/жұмысына еліктемеңіз.
- Зиянды емес: жаңылыстыратын, кемсітетін, айла-шарғы жасайтын немесе мақсатты мазмұнды жасау үшін пайдаланбаңыз. Құралдың күші жауапкершілікті арттырады.
Көшірілетін төрт үлгі
1) Шектеулерді шектеу:
Төмендегі дереккөзге ғана сеніңіз. Дереккөзде жоқ ақпаратты қоспаңыз. Сенімсіз жеріңізге «көзде емес» деп жазыңыз. Әрбір маңызды шағымның қасында ол негіз болатын жолды көрсетіңіз. Дереккөз: [мәтін]
2) Тексеру тізімін үзінді:
Төмендегі мәтінде тексеруді қажет ететін барлық фактілерді (саны, күні, аты, шағымы) көрсетіңіз. Әрқайсысын қалай тексеруге болатынын қысқаша ұсыныңыз. Мәтін: [шығару]
3) Анонимизация:
Келесі мәтіндегі барлық жеке/құпия деректерді бүркемелеңіз: аттар [PERSON], компания [COMPANY], нөмірлер [NUMBER]. Мағынасы бұзылмаған анонимді нұсқаны беріңіз. Мәтін: [мәтін]
4) Этикалық сараптама:
Бұл мазмұнды жарияламас бұрын оны этикалық тұрғыдан бағалаңыз: ол жаңылыстырады, кемсітеді немесе әділетсіз бе? Олай болса, оны белгілеп, түзетулер ұсыныңыз. Мазмұны: [мәтін]
Әлсіз шақыру / Күшті шақыру
Әлсіз (қауіпті):
Ахмет Йылмаздың (ТК: ...) келісім-шартындағы мәселелерді табыңыз және оны саланың орташа көрсеткіштерімен салыстырыңыз.
Күшті (қауіпсіз):
Төмендегі келісім-шарт мәтініндегі қауіпті тармақтарды табыңыз. - Жеке деректерді пайдалану; Тараптарды [КОМПАНИЯ-А] және [ТҰЛҒА] деп атауға рұқсат етіңіз.- Тек мәтінде жазылғандарға сүйеніңіз; салалық орташа құрады, «деректер қолжетімді емес» деп жазыңыз.- Әр тәуекелді оның тармағымен көрсетіңіз.Мәтін (анонимді): [мәтін]
Қуатты нұсқа жеке деректерді қорғайды және жалған сала деректерін блоктайды; Шығару заң тобының қарауына дайын.
Үш шағын корпус
1-жағдай — Жасанды дереккөз. Зерттеуші модельмен берілген 3 «академиялық дереккөзді» тексермей презентацияға салды; Екі дереккөз мүлдем қол жетімді болмады. Мұны тұсаукесер алдында бір әріптесім байқады. Содан кейін команда «жариялау алдында әрбір ресурсты жеке тауып, ашу» ережесін қабылдады.
2-жағдай – Құпиялылық. Қызметкер нақты тұтынушы келісім-шартын жалпыға ортақ құралға қойып, түйіндемені сұрады. Мекеменің ақпараттық қауіпсіздік тобы мұны анықтаған кезде процесс қаралды; Құпия құжаттар енді мекеме бекіткен корпоративтік құралда ғана өңделеді және анонимді болады.
3-жағдай – Шешім қабылдау жауапкершілігі. Шағын бизнес иесі модельмен берілген салық түсіндірмесі негізінде әрекет жасамақ болды; Түсініктеме қолданыстағы заңнамаға сәйкес келмеді. Ол өзінің қаржылық кеңесшісімен кеңескен кезде қателік ұсталды. Сабақ түсінікті: AI дайындайды, сарапшы және адам шешеді.
Кеңес: фактіні «тексерілмеген» деп белгілеуді әдетке айналдырыңыз. Оны растағанша шығыстағы әрбір сан мен көздің жанына құсбелгі қойыңыз; Бұл қарапайым тәртіп жалған ақпараттың үнсіз таралуына жол бермейді.
Абайлаңыз: «AI солай айтты» деген сылтау емес. Сіз жариялаған, жіберетін немесе шешімдеріңізді негіздейтін кез келген мазмұн үшін жауаптысыз. Көліктің жылдамдығы сізді тексеру міндеттемеңізден босатпайды.
Жалпы қателер
- Еркін шығаруды дұрыс деп қателесу. Сенімді тілді шындықтың дәлелі деп қателесу.
- Дереккөзді тексермей пайдалану. Жоқ дереккөзді жариялау.
- Құпия деректерді ойланбастан енгізу. Құпия құжаттарды жасырмай қою.
- Сараптаманы тек модельге қалдыру. Заңды/медициналық/қаржылық шешімдерді растамау.
- Жауапкершілікті көлікке жүктеу. «АИ айтты» деп бақылаудан жалтару.
Қысқаша айтқанда
- Галлюцинация - бұл модель шынайы емес нәрсені сенімді түрде шығаратын кезде; Әрбір факт тексерілмейінше талап болып табылады.
- Тексеру екі жақты: жедел шектеулер жасауды азайтады, адамның тексеруі оны ұстайды.
- Модель ағымдағы, нақты, заңды/медициналық/қаржылық мәселелермен шектеледі; соңғы билік емес.
- Құпия және жеке деректерді анонимизациялаңыз немесе тек мекеме бекіткен құралда өңдеңіз (KVKK және мекеме саясаты).
- Этикалық, авторлық құқық және зиян келтірмеу принциптерін сақтау; Мазмұнға жауапкершілік әрқашан адамның өзіне жүктеледі.
Қолданбалы тапсырма
Жақында жасаған басып шығаруды алыңыз және ондағы барлық фактілерді (нөмір, күні, аты, көзі, шағым) растау тізімі ретінде шығарып алыңыз. Әрқайсысы үшін тексеру әдісін жазып алыңыз және олардың кем дегенде үшеуін нақты тексеріңіз. Сондай-ақ, сол шығыстың кірісінде құпия/жеке деректердің бар-жоғын тексеріңіз және қажет болса, оны анонимизациялаңыз.
бақылау парағы
- [ ] Мен галлюцинацияның не екенін және оның неліктен болатынын түсіндіре аламын.
- [ ] Мен тәуелсіз көзден алынған нақты нәтижені тексеремін.
- [ ] Мен құпия/жеке деректерді жасырамын немесе оны қауіпсіз құралда өңдеймін.
- [ ] Мен заң/медициналық/қаржылық мәселелер бойынша нағыз сарапшыдан кеңес аламын.
- [ ] Мазмұнға жауапты екенімді қабылдаймын.