Добивки:
- Разбира дека моделот може да предизвика халуцинации и дека секој излез мора да се потврди
- Ги знае ризиците и безбедните алтернативи од ставање доверливи и лични податоци на барањето
- Применува ограничувања за етика, авторски права и одговорност при користењето на вештачката интелигенција
Не е доволно да го совладате како да пишувате потсетници; Исто така, неопходно е да се научи да се користи вештачката интелигенција одговорно. Оваа единица е слој на безбедност што мора да биде поставен на врвот на техничката вештина. ВИ дава одговори кои се брзи, убедливи и често точни; Но, понекогаш произведува целосно лажни информации со иста доверба, може да ги стави на ризик чувствителните податоци и да ги помести етичките граници. Во оваа единица ќе опфатиме проверка на резултатот, ограничувањата на моделот, доверливоста и етичката одговорност. Без ова знаење, сите други техники остануваат нецелосни.
Халуцинација: Местење на моделот
Халуцинација е кога моделот произведува нереални информации на сигурен јазик. Непостоечки извор, неточен датум, измислена статистика или закон кој никогаш не бил напишан се примери за тоа. Зошто тоа се случува? Бидејќи моделот е дизајниран да не ја „знае вистината“, туку да „генерира можно продолжение“ (запомнете ја логиката во првата единица). Само затоа што реченицата е граматички можна, не значи дека е фактички вистинита.
Практичната импликација на ова е јасна: секој факт произведен од ВИ е тврдење, а не факт, додека не се потврди независно. Особено, секогаш проверувајте:
- Броеви и статистика
- Имиња, датуми, имиња на места
- Цитати и извори на извори
- Правни клаузули, технички стандарди, медицински/финансиски информации
Навика за валидација
Можете да ја намалите, но не и да ја ресетирате верификацијата со брза техника. Работете во два слоја:
- Промпт слој: дајте му ограничувања на моделот како на пример „потпирајте се само на изворот што го давам, не додавајте информации што не постојат, напишете „Не знам“ ако не сте сигурни, покажете го изворот на секое тврдење“. Ова го намалува монтирањето.
- Човечки слој: проверете го секој критичен факт сами од изворот. Овој чекор не може да се преговара; Посебно е задолжително за содржини кои ќе бидат објавени, ќе бидат основа за одлуки или ќе влијаат на други.
Ограничувања: Она што моделот не го прави добро
област
Ризик
правилен пристап
тековни настани
Податоците за обуката може да се застарени
Потврдете од датираниот/тековниот извор
точни бројки
Постои голема веројатност за монтирање
Проверете со калкулатор/извор
Правни/медицински/финансиски
Ризик од сериозна штета
Консултирајте се со вистински експерт, не се потпирајте само на него
Извор/цитат
Може да произведе непостоечки ресурси
Проверете ја автентичноста на изворот сами
Ретка/ниша тема
Површни или неточни
Споредете со стручно знаење
Моделот е асистент, а не конечниот авторитет. Одговорноста секогаш лежи кај личноста која ја користи.
Приватност и лични податоци
Текстот што го внесувате во јавна алатка за вештачка интелигенција подлежи на политиките за обработка на таа алатка и може да биде надвор од контрола на вашата организација. Затоа, внесувањето доверливи и лични податоци без размислување е сериозен ризик. Обработката на лични податоци во Турција е регулирана со KVKK (Закон за заштита на лични податоци); Институциите, исто така, често имаат свои политики за податоци.
Безбедни начини на работа:
- Анонимизирај/маска: напишете „клиент“ наместо вистинско име, „[број на сметка]“ наместо вистински број. Поголемиот дел од времето, велејќи дека „3-годишен корпоративен клиент“ ќе успее.
- Користете алатка одобрена од институција: некои институции нудат договорни/институционални алатки кои не протекуваат податоци. Обработувајте чувствителни податоци само на нив.
- Не го давајте она што не е потребно: не вклучувајте чувствителни детали кои всушност не се од суштинско значење за извршување на задачата.
- Знајте ја политиката: научете и почитувајте ги правилата за употреба на вештачка интелигенција на вашата организација.
Етика и авторски права
Одговорната употреба не завршува со приватноста. Три принципи:
- Транспарентност: соодветно кредитирајте ја содржината генерирана од вештачка интелигенција доколку тоа го бара контекстот (на пример, каде се очекува човечки труд). Избегнувајте измамничка употреба.
- Авторски права и оригиналност: Излезот од моделот може да личи на други дела. Прегледајте ја оригиналноста и статусот на правата пред комерцијална употреба; Не имитирајте туѓ бренд/дело.
- Незлобност: Не користете за да креирате содржина што е погрешна, дискриминаторска, манипулативна или насочена. Моќта на алатката ја зголемува одговорноста.
Четири шаблони за копирање
1) Фитинг за ограничување на ограничувањата:
Само потпирајте се на изворот подолу. Не додавајте никакви информации што ги нема во изворот. Напишете „не во изворот“ каде што не сте сигурни. До секое важно тврдење, наведете ја линијата на која се заснова. Извор: [текст]
2) Извлечете список за верификација:
Наведете ги сите факти (број, датум, име, тврдење) кои треба да се потврдат во текстот подолу. Накратко предложи како можам да проверам за секој. Текст: [излез]
3) Анонимизација:
Маскирај ги сите лични/доверливи податоци во следниов текст: именувај [ЛИЦЕ], компанија [КОМПАНИЈА], броеви [БРОЈ]. Дајте анонимна верзија со недопрено значење. Текст: [текст]
4) Етички преглед:
Етички проценете ја оваа содржина пред да ја објавите: дали е погрешна, дискриминаторска или неправедна? Означете го ако е така и предложете корекции. Содржина: [текст]
Слаба навестување / Силен навестување
Слаб (ризичен):
Најдете ги проблемите во договорот на Ахмет Јилмаз (ТЦ: ...) и споредете го со просеците во индустријата.
Силен (безбеден):
Најдете ги ризичните клаузули во текстот на договорот подолу. - Користење на лични податоци; Страните нека се нарекуваат [ФИРМА-А] и [ЛИЦЕ].- Потпрете се само на она што е напишано во текстот; Составен просек на индустријата, напишете „податоци не се достапни“.- Прикажи го секој ризик со неговата ставка. Текст (анонимизиран): [текст]
Моќната верзија и ги штити личните податоци и ги блокира лажните податоци од индустријата; Излезот е подготвен за преглед од страна на правниот тим.
Три мини футроли
Случај 1 — Фабрикуван извор. Истражувач стави 3 „академски извори“ дадени од моделот во презентацијата без да ги потврди; Два од изворите воопшто не беа достапни. Тоа го забележа еден колега пред презентацијата. Потоа, тимот го усвои правилото „најдете и отворете го секој ресурс лично пред да го објавите“.
Случај 2 - Доверливост. Еден вработен го залепил вистинскиот договор со клиентите недопрен во јавна алатка и побарал резиме. Кога тимот за информациска безбедност на институцијата го откри ова, процесот беше прегледан; Чувствителните документи сега се обработуваат само во корпоративната алатка одобрена од институцијата и се анонимизирани.
Случај 3 - Одговорност за одлучување. Сопственик на мал бизнис требаше да преземе акција врз основа на даночното толкување дадено од моделот; Коментарот не е во согласност со сегашното законодавство. Грешката била уловена кога се консултирал со својот финансиски советник. Лекцијата е јасна: вештачката интелигенција се подготвува, експертот и човекот одлучуваат.
Совет: Направете навика некој факт да го означувате како „непроверен“. Ставете ознака за проверка до секој број и извор на излезот додека не го потврдите; Оваа едноставна дисциплина спречува тивко ширење на дезинформации.
Внимание: „Ви рече така“ не е изговор. Вие сте одговорни за која било содржина што ја објавувате, испраќате или засновате на вашите одлуки. Брзината на возилото не ве ослободува од обврската за преглед.
Вообичаени грешки
- Грешка течниот излез како точен. Грешка убедлив јазик за доказ за вистината.
- Користење на изворот без да го проверите. Објавување на непостоечки извор.
- Внесување доверливи податоци без размислување. Залепување чувствителни документи без нивно анонимизирање.
- Оставајќи ја експертизата само на моделот. Непроверување на правни/медицински/финансиски одлуки.
- Префрлање на одговорноста на возилото. Избегнување контрола со велејќи „Ви рече така“.
Сумирано
- Халуцинација е кога моделот самоуверено произведува она што не е реално; Секој факт е тврдење додека не се потврди.
- Верификацијата е двојна: брзите ограничувања ја намалуваат изработката, а човечката проверка го фаќа.
- Моделот е ограничен на тековни, прецизни, правни/медицински/финансиски прашања; не е конечниот авторитет.
- Анонимизирајте доверливи и лични податоци или обработувајте само во алатката одобрена од институцијата (KVKK и политика на институцијата).
- Почитувајте ги етичките принципи, принципите за авторски права и незлобност; Одговорноста за содржината секогаш лежи кај личноста.
Задача за апликација
Земете отпечаток што неодамна го направивте и извлечете ги сите факти во него (број, датум, име, извор, тврдење) како листа за верификација. Запишете го методот на верификација за секој и всушност проверете најмалку три од нив. Исто така, проверете дали има доверливи/лични податоци во влезот на истиот излез и анонимизирајте ги доколку е потребно.
листа за проверка
- [ ] Можам да објаснам што е халуцинација и зошто се случува.
- [ ] Потврдувам фактички излез од независен извор.
- [ ] Јас анонимизирам доверливи/лични податоци или ги обработувам во безбедна алатка.
- [ ] Се консултирам со вистински експерт за правни/медицински/финансиски прашања.
- [ ] Прифаќам дека јас сум одговорен за содржината.