Прибыль:
- Понимает, что модель может вызывать галлюцинации и что каждый вывод должен быть проверен.
- Знает риски и безопасные альтернативы публикации конфиденциальных и личных данных в кратчайшие сроки.
- Применяет этику, авторские права и ограничения ответственности при использовании искусственного интеллекта.
Недостаточно научиться писать подсказки; Также необходимо научиться ответственно использовать искусственный интеллект. Это устройство представляет собой уровень безопасности, который должен ставиться выше технических навыков. ИИ дает быстрые, убедительные и зачастую точные ответы; Но иногда он с той же уверенностью выдает совершенно ложную информацию, может подвергнуть риску конфиденциальные данные и раздвинуть этические границы. В этом модуле мы рассмотрим проверку результатов, ограничения модели, конфиденциальность и этическую ответственность. Без этих знаний все остальные техники остаются неполными.
Галлюцинация: подгонка модели
Галлюцинация — это когда модель выдает нереальную информацию уверенным языком. Примерами этого могут служить несуществующий источник, неправильная дата, сфабрикованная статистика или закон, который никогда не был написан. Почему это происходит? Потому что модель предназначена не для того, чтобы «познать истину», а для того, чтобы «сгенерировать возможное продолжение» (вспомните логику в первом блоке). Тот факт, что предложение грамматически возможно, не означает, что оно фактически истинно.
Практический смысл этого очевиден: каждый факт, созданный ИИ, является утверждением, а не фактом, пока не будет проверен независимо. В частности, всегда проверяйте:
- Цифры и статистика
- Имена, даты, географические названия
- Цитаты и ссылки на источники
- Юридические положения, технические стандарты, медицинская/финансовая информация
Привычка проверки
Вы можете сократить, но не сбросить проверку, используя метод подсказок. Работайте в два слоя:
- Уровень подсказки: дайте ограничения модели, такие как «полагайтесь только на предоставленный мной источник, не добавляйте несуществующую информацию, напишите «Я не знаю», если вы не уверены, покажите источник каждого утверждения». Это уменьшает примерку.
- Человеческий уровень: проверьте каждый критический факт самостоятельно, исходя из источника. Этот шаг не подлежит обсуждению; Это особенно обязательно для контента, который будет опубликован, станет основой для принятия решений или повлияет на других.
Ограничения: что модель делает не очень хорошо
площадь
Риск
правильный подход
текущие события
Данные обучения могут быть устаревшими.
Подтвердить на основе датированного/текущего источника
точные цифры
Есть большая вероятность совпадения
Проверьте с помощью калькулятора/источника
Юридический/медицинский/финансовый
Риск серьезного вреда
Проконсультируйтесь с настоящим экспертом, не полагайтесь только на него
Источник/цитата
Может производить несуществующие ресурсы
Проверьте подлинность источника самостоятельно
Редкая/нишевая тема
Поверхностно или неточно
Сравните с экспертными знаниями
Модель — помощник, а не высшая инстанция. Ответственность всегда лежит на том, кто его использует.
Конфиденциальность и персональные данные
Текст, который вы вводите в общедоступный инструмент искусственного интеллекта, регулируется политиками обработки этого инструмента и может находиться вне контроля вашей организации. Поэтому необдуманно вводить конфиденциальные и персональные данные — это серьезный риск. Обработка персональных данных в Турции регулируется KVKK (Закон о защите персональных данных); Учреждения также часто имеют свою собственную политику в отношении данных.
Безопасные способы работы:
- Анонимизация/маска: напишите «клиент» вместо настоящего имени, «[номер счета]» вместо реального номера. В большинстве случаев фраза «корпоративный клиент на 3 года» поможет.
- Используйте инструмент, одобренный учреждением. Некоторые учреждения предлагают контрактные/институциональные инструменты, которые не допускают утечки данных. Обрабатывайте конфиденциальные данные только на них.
- Не выдавайте то, что не нужно: не включайте никаких конфиденциальных деталей, которые на самом деле не важны для выполнения задачи.
- Ознакомьтесь с политикой: изучите и соблюдайте правила использования искусственного интеллекта в вашей организации.
Этика и авторское право
Ответственное использование не ограничивается конфиденциальностью. Три принципа:
- Прозрачность: уважительно отдавайте должное контенту, созданному ИИ, если этого требует контекст (например, там, где ожидается человеческий труд). Избегайте обманного использования.
- Авторские права и оригинальность: результат модели может напоминать другие работы. Перед коммерческим использованием проверьте оригинальность и статус прав; Не имитируйте чужой бренд/работу.
- Ненанесение вреда: не используйте для создания вводящего в заблуждение, дискриминационного, манипулятивного или целенаправленного контента. Мощность инструмента повышает ответственность.
Четыре копируемых шаблона
1) Ограничительный фитинг:
Просто положитесь на источник ниже. Не добавляйте никакой информации, которой нет в источнике. Там, где не уверены, пишите «нет в источнике». Рядом с каждым важным утверждением укажите строку, на которой оно основано. Источник: [текст]
2) Извлечь проверочный список:
Перечислите все факты (номер, дату, название, претензию), которые необходимо проверить в тексте ниже. Кратко предложите, как я могу проверить по каждому. Текст: [выход]
3) Анонимизация:
Замаскируйте все личные/конфиденциальные данные следующим текстом: назовите имена [ЧЕЛОВЕК], компанию [КОМПАНИЯ], номера [НОМЕР]. Дайте анонимную версию с сохранением смысла. Текст: [текст]
4) Этическая экспертиза:
Этически оцените этот контент перед его публикацией: не вводит ли он в заблуждение, дискриминирует или несправедливо? Если это так, отметьте это и предложите исправления. Содержание: [текст]
Слабая подсказка/Сильная подсказка
Слабые (рискованные):
Найдите проблемы в контракте Ахмета Йылмаза (TC: ...) и сравните его со средними показателями по отрасли.
Сильный (безопасный):
Найдите рискованные положения в тексте контракта ниже. - Использование персональных данных; Пусть стороны именуются как [КОМПАНИЯ-А] и [ЛИЦО].- Опирайтесь только на то, что написано в тексте; средний показатель по отрасли составлен, напишите «данные недоступны».- Укажите каждый риск с его элементом. Текст (анонимизированный): [текст]
Мощная версия защищает личные данные и блокирует фальшивые отраслевые данные; Результат готов к рассмотрению командой юристов.
Три мини-кейса
Случай 1 — Искусственный источник. Исследователь включил в презентацию 3 «академических источника», приведенных в модели, не проверив их; Два источника вообще не были доступны. Коллега заметил это еще до презентации. После этого команда приняла правило «лично находить и открывать каждый ресурс перед публикацией».
Случай 2 — Конфиденциальность. Сотрудник вставил неповрежденный действительный договор с клиентом в общедоступный инструмент и попросил краткое изложение. Когда группа информационной безопасности учреждения обнаружила это, процесс был пересмотрен; Конфиденциальные документы теперь обрабатываются только в одобренном учреждением корпоративном инструменте и анонимизируются.
Случай 3 — Ответственность за принятие решения. Владелец малого бизнеса собирался предпринять действия, основанные на налоговой интерпретации, данной модели; Комментарий не соответствует действующему законодательству. Ошибка была обнаружена, когда он консультировался со своим финансовым консультантом. Урок ясен: ИИ готовится, эксперт и человек решают.
Совет: выработайте привычку отмечать факт как «непроверенный». Поставьте галочку рядом с каждым числом и источником выходных данных, пока не подтвердите это; Эта простая дисциплина предотвращает молчаливое распространение дезинформации.
Внимание: фраза «ИИ так сказал» не является оправданием. Вы несете ответственность за любой контент, который вы публикуете, отправляете или на основании которого принимаете решения. Скорость транспортного средства не освобождает вас от обязанности провести осмотр.
Распространенные ошибки
- Ошибочно принять беглый вывод за правильный. Принятие убедительных слов за доказательства истины.
- Использование источника без его проверки. Публикация несуществующего источника.
- Ввод конфиденциальных данных не задумываясь. Вставка конфиденциальных документов без их анонимизации.
- Оставив опыт модели в покое. Неспособность проверить юридические/медицинские/финансовые решения.
- Возложение ответственности на автомобиль. Уклонение от контроля, сказав «ИИ так сказал».
В заключение
- Галлюцинация — это когда модель уверенно воспроизводит то, что не является реальным; Каждый факт является утверждением, пока не проверен.
- Проверка имеет два аспекта: быстрые ограничения сокращают объемы производства, а проверка человеком выявляет их.
- Модель ограничена текущими, точными юридическими/медицинскими/финансовыми вопросами; не является последней инстанцией.
- Анонимизируйте конфиденциальные и персональные данные или обрабатывайте их только с помощью инструмента, одобренного учреждением (KVKK и политика учреждения).
- Соблюдать принципы этики, авторского права и непричинения вреда; Ответственность за содержание всегда лежит на человеке.
Задача приложения
Возьмите распечатку, которую вы недавно сделали, и извлеките из нее все факты (номер, дату, имя, источник, утверждение) в виде проверочного списка. Запишите метод проверки для каждого и проверьте хотя бы три из них. Также проверьте, есть ли конфиденциальные/личные данные на входе того же выхода, и при необходимости обезличьте их.
контрольный список
- [ ] Я могу объяснить, что такое галлюцинация и почему она возникает.
- [ ] Я проверяю фактические данные из независимого источника.
- [ ] Я анонимизирую конфиденциальные/личные данные или обрабатываю их с помощью безопасного инструмента.
- [ ] Я консультируюсь с настоящим экспертом по юридическим/медицинским/финансовым вопросам.
- [ ] Я согласен с тем, что несу ответственность за содержание.