Печалби:
- Разбира, че моделът може да предизвика халюцинации и че всеки резултат трябва да бъде проверен
- Познава рисковете и безопасните алтернативи на поставянето на поверителни и лични данни на подканата
- Прилага етиката, авторските права и ограниченията на отговорността при използването на изкуствен интелект
Не е достатъчно да овладеете как да пишете подкани; Необходимо е също така да се научим да използваме изкуствения интелект отговорно. Това звено е нивото на сигурност, което трябва да се постави върху техническите умения. AI дава отговори, които са бързи, убедителни и често точни; Но понякога той произвежда напълно невярна информация със същата увереност, може да изложи на риск чувствителни данни и да прокара етичните граници. В този раздел ще разгледаме проверката на изхода, ограниченията на модела, поверителността и етичната отговорност. Без това знание всички други техники остават непълни.
Халюцинация: Напасване на модела
Халюцинация е, когато моделът произвежда нереална информация на уверен език. Примери за това са несъществуващ източник, невярна дата, изфабрикувана статистика или закон, който никога не е бил писан. Защо се случва? Тъй като моделът е проектиран не да „познае истината“, а да „генерира възможното продължение“ (помнете логиката в първата част). Това, че едно изречение е граматически възможно, не означава, че е фактически вярно.
Практическото значение на това е ясно: всеки факт, произведен от AI, е твърдение, а не факт, докато не бъде потвърдено независимо. По-специално винаги проверявайте:
- Числа и статистика
- Имена, дати, имена на места
- Цитати и източници
- Правни клаузи, технически стандарти, медицинска/финансова информация
Навик за валидиране
Можете да намалите, но не и да нулирате проверката с техника на подкана. Работете на два слоя:
- Подканващ слой: Дайте на модела ограничения като „разчитайте само на източника, който давам, не добавяйте информация, която не съществува, напишете „не знам“, ако не сте сигурни, покажете източника на всяко твърдение“. Това намалява напасването.
- Човешки слой: Проверете сами всеки критичен факт от източника. Тази стъпка не подлежи на обсъждане; Това е особено задължително за съдържание, което ще бъде публикувано, ще бъде основа за решения или ще засегне други.
Граници: Какво моделът не прави добре
площ
Риск
правилен подход
текущи събития
Данните за обучение може да са остарели
Проверете от датиран/настоящ източник
точни числа
Има голяма вероятност за монтаж
Проверете с калкулатор/източник
Правни/медицински/финансови
Риск от сериозно увреждане
Консултирайте се с истински специалист, не разчитайте само на него
Източник/цитат
Може да произвежда несъществуващи ресурси
Проверете сами автентичността на източника
Рядка/ниша тема
Повърхностно или неточно
Сравнете с експертни знания
Моделът е помощник, а не последен авторитет. Отговорността винаги е на лицето, което го използва.
Поверителност и лични данни
Текстът, който въвеждате в публичен AI инструмент, е предмет на правилата за обработка на този инструмент и може да бъде извън контрола на вашата организация. Следователно въвеждането на поверителни и лични данни без обмисляне е сериозен риск. Обработката на лични данни в Турция се регулира от KVKK (Закон за защита на личните данни); Институциите също често имат свои собствени политики за данни.
Безопасни начини на работа:
- Анонимизиране/маскиране: Напишете „клиент“ вместо истинско име, „[номер на сметка]“ вместо реален номер. През повечето време казването „3-годишен корпоративен клиент“ ще свърши работа.
- Използвайте инструмент, одобрен от институция: Някои институции предлагат договорени/институционални инструменти, които не изтичат на данни. Обработвайте чувствителни данни само за тях.
- Не раздавайте това, което не е необходимо: Не включвайте чувствителни подробности, които всъщност не са от съществено значение за изпълнението на задачата.
- Запознайте се с правилата: Научете и спазвайте правилата за използване на изкуствен интелект на вашата организация.
Етика и авторско право
Отговорното използване не свършва с поверителността. Три принципа:
- Прозрачност: Посочвайте по подходящ начин генерираното от AI съдържание, ако контекстът го изисква (например, когато се очаква човешки труд). Избягвайте измамната употреба.
- Авторско право и оригиналност: Резултатът от модела може да прилича на други произведения. Прегледайте оригиналността и състоянието на правата преди търговска употреба; Не подражавайте на чужда марка/работа.
- Безвредност: Не използвайте за създаване на съдържание, което е подвеждащо, дискриминационно, манипулативно или целево. Силата на инструмента увеличава отговорността.
Четири копируеми шаблона
1) Фитинг за ограничаване на ограниченията:
Просто разчитайте на източника по-долу. Не добавяйте информация, която не е в източника. Напишете "не е в източника", където не сте сигурни. До всяко важно твърдение посочете реда, на който се основава. Източник: [текст]
2) Извлечете списък за проверка:
Избройте всички факти (номер, дата, име, иск), които трябва да бъдат проверени в текста по-долу. Предложете накратко как мога да проверя за всеки. Текст: [изход]
3) Анонимизиране:
Маскирайте всички лични/поверителни данни в следния текст: имена [ЛИЦЕ], компания [КОМПАНИЯ], номера [НОМЕР]. Дайте анонимна версия с непроменено значение. Текст: [текст]
4) Етичен преглед:
Направете етична оценка на това съдържание, преди да го публикувате: дали е подвеждащо, дискриминационно или несправедливо? Маркирайте го, ако е така, и предложете корекции. Съдържание: [текст]
Слаба подкана / Силна подкана
Слаб (рисков):
Намерете проблемите в договора на Ахмет Йълмаз (TC: ...) и го сравнете със средните за индустрията.
Силен (безопасен):
Намерете рисковите клаузи в текста на договора по-долу. - Използване на лични данни; Нека страните се наричат [ФИРМА-А] и [ЛИЦЕ].- Разчитайте само на написаното в текста; средно за индустрията, напишете „не са налични данни“.- Покажете всеки риск с неговия елемент. Текст (анонимизиран): [текст]
Мощната версия едновременно защитава личните данни и блокира фалшиви индустриални данни; Резултатът е готов за преглед от правния екип.
Три мини калъфа
Случай 1 — Фабричен източник. Изследовател постави 3 „академични източника“, дадени от модела, в презентацията, без да ги провери; Два от източниците изобщо не бяха достъпни. Един колега го забеляза преди презентацията. След това екипът възприе правилото „намерете и отворете лично всеки ресурс преди публикуване“.
Случай 2 — Поверителност. Служител постави непокътнатия договор с клиента в публичен инструмент и поиска резюме. Когато екипът за информационна сигурност на институцията установи това, процесът беше прегледан; Чувствителните документи вече се обработват само в одобрения от институцията корпоративен инструмент и се анонимизират.
Случай 3 — Отговорност за вземане на решение. Собственик на малък бизнес беше на път да предприеме действия въз основа на данъчното тълкуване, дадено от модела; Коментарът не е съобразен с действащото законодателство. Грешката беше уловена, когато той се консултира със своя финансов съветник. Урокът е ясен: AI подготвя, експертът и човекът решават.
Съвет: Създайте си навик да отбелязвате даден факт като „непроверен“. Поставете отметка до всяко число и източник в изхода, докато не го потвърдите; Тази проста дисциплина предотвратява тихото разпространение на дезинформация.
Внимание: „AI каза така“ не е извинение. Вие носите отговорност за всяко съдържание, което публикувате, изпращате или въз основа на което вземате решения. Скоростта на превозното средство не ви освобождава от задължението ви за проверка.
Често срещани грешки
- Грешка при плавния изход като правилен. Грешно приемане на убедителен език за доказателство за истина.
- Използване на източника без проверка. Публикуване на несъществуващ източник.
- Въвеждане на поверителни данни без мислене. Поставяне на чувствителни документи, без да ги анонимизирате.
- Оставяйки експертизата само на модела. Липса на проверка на правни/медицински/финансови решения.
- Прехвърляне на отговорността върху автомобила. Избягване на контрол, като се каже „AI каза така“.
В обобщение
- Халюцинация е, когато моделът уверено произвежда това, което не е реално; Всеки факт е твърдение, докато не бъде потвърден.
- Проверката е двойна: бързите ограничения намаляват производството, човешката проверка го улавя.
- Моделът е ограничен до текущи, точни, правни/медицински/финансови въпроси; не е окончателният авторитет.
- Анонимизирайте поверителни и лични данни или обработвайте само в инструмента, одобрен от институцията (KVKK и политика на институцията).
- Спазвайте етичните принципи, принципите на авторското право и принципите за невредимост; Отговорността за съдържанието винаги е на човека.
Задача за приложение
Вземете разпечатка, която наскоро сте направили, и извлечете всички факти в нея (номер, дата, име, източник, твърдение) като списък за проверка. Запишете метода за проверка за всеки и действително проверете поне три от тях. Също така проверете дали има поверителни/лични данни във входа на същия изход и ги анонимизирайте, ако е необходимо.
контролен списък
- [ ] Мога да обясня какво е халюцинация и защо се случва.
- [ ] Проверявам фактическата информация от независим източник.
- [ ] Анонимизирам поверителни/лични данни или ги обработвам в защитен инструмент.
- [ ] Консултирам се с истински експерт по правни/медицински/финансови въпроси.
- [ ] Приемам, че нося отговорност за съдържанието.