Добивки:
- Способност да се долови халуцинацијата со потврдување на постоењето на секој извор, одење до примарниот извор и независни чекори за вкрстена потврда
- Способност да се одржи оригиналноста и академскиот интегритет наспроти фабрикуваните цитати и документи во хуманистичките и општествените науки
- Способност да се научат корисниците за верификација на изворот и вештини за информациска писменост во ерата на вештачка интелигенција
Во срцето на социјалната мисија на библиотекарството е едно единствено ветување: веродостојни информации. Библиотекар го доведува корисникот не само до информации, туку и до проверени информации и го учи како самиот да ги процени овие информации. Во ерата на вештачката интелигенција, оваа мисија стана и потешка и поважна; бидејќи вештачката интелигенција може да произведе дезинформации на многу убедлив начин. Во оваа единица, ќе го покриеме препознавањето на халуцинации, дисциплината на проверка на изворот и наставата за информациска писменост во ерата на вештачката интелигенција.
Ајде да ги дефинираме концептите. Халуцинација е кога вештачката интелигенција произведува информации, извори, цитати или настани кои всушност не постојат како да се реални. Проверката на изворот е потврда дека информациите се засноваат на вистински, доверлив и примарен извор. Информациската писменост е способност на една личност да најде информации, да ја процени, да ја доведе во прашање нејзината веродостојност и да ја користи етички. Оваа единица има за цел библиотекарот да ги зајакне овие вештини и во сопствената практика и во подучувањето на корисникот.
Чекор по чекор: дисциплина за проверка на изворот
1. Побарајте го изворот и потврдете го неговото постоење. Кога вештачката интелигенција дава тврдење или цитат, „од кој извор е ова? и проверете дали изворот навистина постои во независен каталог, база на податоци или примарен документ.
2. Одете до примарниот извор. Најсигурна форма на информации е нејзиниот извор од прва рака. Не се задоволувајте со резиме на вештачка интелигенција или спореден текст; Доколку е можно, пристапете до оригиналниот документ, податоци или публикација.
3. Вкрстено потврдете. Потврдете критичко тврдење со најмалку два сигурни извори, независни еден од друг. Еден ресурс, особено ресурс за вештачка интелигенција, не е доволен.
4. Оценете ја веродостојноста на изворот. Кој го напишал, кога, со каква цел, на кој доказ? Дали е ажуриран? Постоењето на информации не ги прави вистинити; Испрашајте се и за природата на изворот.
5. Искрено изразете ја неизвесноста. Ако информацијата не може да се потврди, кажете го тоа јасно. Секогаш е подобро да се каже „непотврдено“ отколку да се понуди измислена сигурност.
Совет: Кога ќе добиете цитат или извор од вештачка интелигенција, прво пребарајте го насловот и авторот во вистински каталог. Тука веднаш се појавуваат непостоечки ресурси. Оваа проверка од 30 секунди спречува фабрикуван извор да влезе во библиографија, задача или публикација.
Автентичност и верификација во хуманистичките и општествените науки
Хуманитарните и општествените науки се особено ранливи на ризикот од халуцинации. Во овие области, доказите често се засноваат на одреден документ, датум, цитат или извор на коментар. Вештачката интелигенција може да произведе многу специфични, но целосно измислени тврдења, како што се „рече тој историчар“ или „се вели тој документ од 1923 година“. Во литературно, историја или право, ова значи лажен синџир на докази.
Освен тоа, оригиналноста е основната вредност на овие полиња: важно е кому навистина му припаѓа текстот, толкувањето или преводот. Презентирањето текст произведен од вештачката интелигенција како оригинално дело или потпирањето на „извор“ направен од вештачката интелигенција го нарушува академскиот интегритет. Библиотекарот е водич кој ги учи корисниците и верификацијата и границите на оригиналност и плагијат.
Внимание: Дури и во случаи кога цитатот генериран со вештачка интелигенција се чини точен од збор до збор и му се припишува на вистински автор, тој цитат може да биде фабрикуван. Потврдете цитат така што ќе го најдете само во вистинското дело на авторот; Не е доволна логиката „овој автор можеби вака кажал“.
три мини футроли
Случај 1 - Студентот беше поучен за верификација. Библиотекар видел 5 ресурси од вештачката интелигенција во задачата на еден студент. Заедно го проверија во каталогот: измислени се 2 извори. Ученикот од прва рака ја доживеа лекцијата дека „не е во ред да изгледа реално“ и уште еднаш стекна навика да го проверува секој извор.
Случај 2 — Фабрикуван историски документ. Истражувач добил „извештај од весник од 1919 година“ од АИ; Датумот, името на весникот и содржината беа крајно убедливи. Библиотекарката ја скенира архивата на весниците: во тоа време немаше таква вест. Фабрикуван примарен извор беше фатен пред да стане статија.
Случај 3 - Погрешно наведен цитат. АИ му припиша цитат на познат мислител. Библиотекарката го бараше овој збор во делата на мислителот и не можеше да го најде; Зборот не беше спомнат никаде. Вкрстените проверки спречија ширење на погрешно распределен цитат.
Синџирот на ширење на дезинформации и улогата на библиотекарот
Дезинформациите често започнуваат со еден фабрикуван резултат, но не застануваат тука. Корисникот става лажен ресурс генериран со вештачка интелигенција во задача; задачата станува публикација; публикацијата е цитирана од други, така што фиктивниот извор добива изглед на „вистина“ со постојано цитирање. Можеме да го наречеме ова припишување контаминација: лажните информации добиваат легитимитет со тоа што се повторуваат повторно и повторно. Библиотекарката стои на најкритичната алка во овој синџир; бидејќи тоа е последната контролна точка каде што информациите се проверуваат пред да влезат во системот. Само затоа што изворот „се појавува на многу места“ не го прави вистина; Истите лажни информации може да се појават на многу места со тоа што ќе бидат копирани едни од други. Затоа, вкрстената потврда треба да се заснова на прашањето „колку сигурни извори го потврдуваат независно еден од друг“, а не „на колку места се појавува? Десет секундарни извори кои го повторуваат истото тврдење не вредат колку еден независен примарен извор. Библиотекарот треба да ја стави оваа разлика (не збунувајќи ја независноста со повторувањето) во центарот и на неговата сопствена верификација и на неговото учење на корисникот.
Внимание: Појавата на информации во пребарувач или на многу веб-страници не е доказ за нивната точност. Истата грешка можеби станала широко распространета со копирање од извор до извор. Распространетоста и точноста се различни работи; За потврда е потребен независен и сигурен извор.
Четири шаблони за копирање
1) Прашање за ентитет на ресурси:
Наведете го секој извор и цитат во текстот подолу. За секој: автор, наслов, година и информации за публикацијата (доколку ги има). Извлечете ставка по ставка информациите што треба да ги потврдам; не додавај.Текст: [тука]
2) Проценка на потврдливост:
За секое од следните тврдења, изолирајте ги фактичките елементи (датум, име, број, цитат) кои треба да се потврдат. Предложете каков тип на извор (каталог, примарен документ, база на податоци) може да се потврди. Не судете за точноста, само покажете ја патеката за верификација. Тврдења: [тука]
3) Список за проверка на доверливоста на заварувањето:
Оценете ја веродостојноста на следниот извор: кој го напишал, кога, за која цел, има докази, дали е актуелен, дали постои можна пристрасност? Само потпирајте се на информациите што ги дадов, напишете „непознато“ каде што недостасува. Информации за изворот: [тука]
4) План за настава по информатичка писменост:
Направете краток 20-минутен туторијал за проверка на изворот и халуцинации во возраста на вештачка интелигенција за следната група корисници (на пр. студенти): цели, 3 примери, 1 апликација. Група: [тука]
Слаб промпт / Силен промпт
Слаба навестување:
Напишете резиме на оваа тема со сигурни извори.
Кажувањето „со доверливи извори“ ја охрабрува вештачката интелигенција да произведува лажни извори што се чини дека се реални; Нема кука за валидација.
Моќен потсетник:
Вашата улога: асистент за информатичка писменост. ПИШУВАЊЕ резиме на следната тема; Наместо тоа, наведете ги фактичките прашања што корисникот треба да ги потврди и видот на сигурен извор со кој може да ги потврди. Не фабрикувај никакви изворни цитати; Обележете ја областа за која не сте сигурни како „мора да се потврди“. Тема: [тука]
Моќен потсетник; Ја користи вештачката интелигенција како водич што го покажува патот до верификацијата, наместо да произведува одговори и структурно го спречува измислувањето.
Табела со слоеви за автентикација
слој
Прашање
Метод
ентитет
Дали овој извор е реален?
Пребарување каталог/база на податоци
приматот
Дали е ова најблискиот извор?
Пристап до оригиналниот документ
Потврда
Дали друг извор го потврдува ова?
Независна вкрстена проверка
сигурност
Колку е цврст изворот?
Автор, датум, цел, доказ
искреност
Дали сум сигурен?
Наведете ја неизвесноста јасно
Вообичаени грешки
- Мислејќи дека она што е убедливо е вистина. Доброто изгледа не е доказ за праведност.
- Да се биде задоволен со еден единствен извор. Критичните информации бараат независна вкрстена потврда.
- Не го барам цитатот во неговиот извор. Вака се шират погрешно препишаните зборови.
- Криење на неизвесноста. „Непроверливо“ е подобро од лажна сигурност.
- Не го учи корисникот да се автентицира. Информациската писменост е мисија на библиотекарот.
Сумирано
Проверката на изворите и информациската писменост се најкритичните задачи на библиотекарството во ерата на вештачката интелигенција. Халуцинацијата произведува убедливи, но измислени информации и е особено опасна во хуманистичките/социјалните науки. Дисциплината е јасна: проверете го постоењето на секој извор, одете до примарниот извор, спроведете независна вкрстена проверка, доведете го во прашање кредибилитетот на изворот и искрено изразете ја несигурноста. Библиотекарот ја шири оваа култура на верификација не само во неговата или нејзината практика туку и преку поучување на корисниците; Оригиналноста и академскиот интегритет се составен дел на оваа мисија.
Задача за апликација
Побарајте 6 извори и 2 цитати од вештачката интелигенција во вашето поле. Потврдете го секој извор со пребарување на него во вистински каталог и секој цитат во вистинското дело на авторот; Забележете колку се измислици. Потоа, користејќи го шаблонот „План за настава за информациска писменост“, изгответе 20-минутно упатство за да ја објасните проверката на изворот на корисничка група и да вклучите вистински примери што сте ги нашле самите.
листа за проверка
- [ ] Независно потврдив дека секој извор навистина постои.
- [ ] Користев примарни извори секаде каде што е можно.
- [ ] Имам вкрстено проверено критички тврдења со најмалку два независни извори.
- [ ] Ги потврдив цитатите барајќи ги во вистинското дело на авторот.
- [ ] Јасно ја означив непроверливата информација како „непроверлива“.