Печалби:
- Възможност за улавяне на халюцинацията чрез проверка на съществуването на всеки източник, отиване до първичния източник и независими стъпки за кръстосано потвърждение
- Способност за поддържане на оригиналност и академична почтеност срещу изфабрикувани цитати и документи в хуманитарните и социалните науки
- Способност да обучава потребителите на умения за проверка на източника и информационна грамотност в ерата на ИИ
В основата на социалната мисия на библиотекарството е едно-единствено обещание: надеждна информация. Библиотекарят довежда потребителя не само до информация, но и до проверена информация и го учи как сам да оценява тази информация. В ерата на изкуствения интелект тази мисия стана едновременно по-трудна и по-важна; тъй като AI може да произведе дезинформация по изключително убедителен начин. В тази част ще разгледаме разпознаването на халюцинации, дисциплината за проверка на източника и преподаването на информационна грамотност в ерата на ИИ.
Нека дефинираме понятията. Халюцинация е, когато AI произвежда информация, източници, цитати или събития, които всъщност не съществуват, сякаш са реални. Проверката на източника е потвърждението, че информацията се основава на истински, надежден и първичен източник. Информационната грамотност е способността на човек да намира информация, да я оценява, да поставя под съмнение нейната надеждност и да я използва етично. Този модул има за цел библиотекарят да засили тези умения както в собствената си практика, така и при обучението на потребителя.
Стъпка по стъпка: дисциплина за проверка на източника
1. Поискайте източника и проверете съществуването му. Когато AI дава твърдение или цитат, „от кой източник е това?“ и проверете дали източникът действително съществува в независим каталог, база данни или първичен документ.
2. Отидете до основния източник. Най-надеждната форма на информация е нейният източник от първа ръка. Не се задоволявайте с резюме на AI или вторичен текст; Ако е възможно, достъп до оригиналния документ, данни или публикация.
3. Кръстосано потвърждение. Проверете критично твърдение с поне два надеждни източника, независими един от друг. Един ресурс, особено AI ресурс, не е достатъчен.
4. Оценете достоверността на източника. Кой го е написал, кога, с каква цел, по какви доказателства? Актуално ли е? Наличието на информация не я прави истина; Също така поставете под въпрос естеството на източника.
5. Изразявайте неувереността си честно. Ако информацията не може да бъде проверена, кажете го ясно. Винаги е по-добре да се каже „непотвърдено“, отколкото да се предлага изфабрикувана сигурност.
Съвет: Когато получите цитат или източник от AI, първо потърсете заглавието и автора в действителен каталог. Тук веднага се появяват несъществуващи ресурси. Тази 30-секундна проверка не позволява измислен източник да влезе в библиография, задание или публикация.
Автентичност и проверка в хуманитарните и социалните науки
Хуманитарните и социалните науки са особено уязвими към риска от халюцинации. В тези области доказателствата често се основават на конкретен документ, дата, цитат или източник на коментар. AI може да произведе много специфични, но напълно изфабрикувани твърдения, като например „онзи историк каза“ или „онзи документ от 1923 г. казва“. В произведение на литературата, историята или правото това означава фалшива верига от доказателства.
Освен това оригиналността е основната ценност на тези полета: има значение на кого наистина принадлежи даден текст, интерпретация или превод. Представянето на текст, създаден от AI, като оригинално произведение или разчитането на „източник“, създаден от AI, нарушава академичната почтеност. Библиотекарят е водач, който учи потребителите както на проверка, така и на границите на оригиналността и плагиатството.
Внимание: Дори в случаите, когато генериран от AI цитат изглежда точен дума по дума и се приписва на истински автор, този цитат може да е изфабрикуван. Проверете цитат, като го намерите само в действителната работа на автора; Логиката "този автор може да е казал нещо подобно" не е достатъчна.
три мини калъфа
Случай 1 — Студентът е обучен на проверка. Библиотекар видя 5 ресурса от AI в задание на ученик. Заедно го провериха в каталога: 2 източника бяха изфабрикувани. Ученикът изпита на живо урока, че „не е редно да изглежда истинско“ и отново придоби навика да проверява всеки източник.
Случай 2 — Изфабрикуван исторически документ. Изследовател получи „доклад във вестник от 1919 г.“ от AI; Датата, името на вестника и съдържанието бяха изключително убедителни. Библиотекарката прегледа архива на вестника: по това време нямаше такива новини. Изфабрикуван първичен източник беше заловен, преди дори да се превърне в статия.
Случай 3 — Неправилно приписан цитат. AI приписва цитат на известен мислител. Библиотекарят потърсил тази дума в трудовете на мислителя и не могъл да я намери; Думата не беше спомената никъде. Кръстосаната проверка предотврати разпространението на неправилно приписан цитат.
Веригата на разпространение на дезинформация и ролята на библиотекаря
Дезинформацията често започва с един измислен резултат, но не спира дотук. Потребител поставя фалшив генериран от AI ресурс в задание; заданието става публикация; публикацията се цитира от други, така че фиктивен източник придобива вид на "истина" чрез многократно цитиране. Можем да наречем това приписване замърсяване: невярната информация придобива легитимност, като се повтаря отново и отново. Библиотекарят стои на най-критичната връзка в тази верига; защото това е последната контролна точка, където информацията се проверява преди да влезе в системата. Само защото един източник "се среща на много места" не го прави верен; Една и съща фалшива информация може да се появи на много места, като се копира едно от друго. Следователно кръстосаното потвърждение трябва да се основава на въпроса „колко надеждни източника го потвърждават независимо един от друг“, а не „на колко места се появява?“ Десет вторични източника, повтарящи едно и също твърдение, не струват толкова, колкото един независим първичен източник. Библиотекарят трябва да постави това разграничение (без да бърка независимостта с повторението) в центъра както на собствената си проверка, така и на преподаването на потребителя.
Внимание: Появата на информация в търсачката или на много уеб страници не е доказателство за нейната точност. Същата грешка може да е станала широко разпространена, като е била копирана от източник на източник. Разпространението и точността са различни неща; Потвърждението изисква независим и надежден източник.
Четири копируеми шаблона
1) Заявка за обект на ресурс:
Избройте всеки източник и цитат в текста по-долу. За всеки: автор, заглавие, година и информация за публикацията (ако има такава). Извличане на елемент по елемент на информацията, която трябва да проверя; не добавяйте. Текст: [тук]
2) Оценка на потвърждаваемостта:
За всяко от следните твърдения изолирайте фактическите елементи (дата, име, номер, цитат), които трябва да бъдат проверени. Предложете с какъв тип източник (каталог, първичен документ, база данни) може да се провери. Не съдете за точността, просто покажете пътя за проверка. Твърдения: [тук]
3) Контролен списък за надеждност на заваряване:
Оценете достоверността на следния източник: кой го е написал, кога, с каква цел, има ли доказателства, актуален ли е, възможно ли е пристрастие? Просто разчитайте на информацията, която дадох, пишете "неизвестно", където липсва. Източник на информация: [тук]
4) План за обучение по информационна грамотност:
Създайте кратък 20-минутен урок за проверка на източника и халюцинации в епохата на ИИ за следната потребителска група (напр. студенти): цели, 3 примера, 1 приложение. Група: [тук]
Слаба подкана / Силна подкана
Слаба подкана:
Напишете резюме по тази тема с надеждни източници.
Казването „с надеждни източници“ насърчава AI да създава фалшиви източници, които изглеждат истински; Няма кука за валидиране.
Мощна подкана:
Вашата роля: асистент по информационна грамотност. ПИСАНЕ на резюме по следната тема; Вместо това избройте фактическите въпроси, които потребителят трябва да провери, и типа надежден източник, с който може да ги провери. Не измисляйте цитати на източници; Маркирайте областта, в която не сте сигурни, като „трябва да се провери“. Тема: [тук]
Мощна подсказка; Той използва AI като ръководство, което показва пътя към проверката, вместо да дава отговори, и структурно предотвратява измислянето.
Таблица със слоеве за удостоверяване
слой
Въпрос
Метод
образувание
Този източник истински ли е?
Търсене в каталог/база данни
първичност
Това ли е най-близкият източник?
Достъп до оригиналния документ
Потвърждение
Друг източник потвърждава ли това?
Независима кръстосана проверка
надеждност
Колко солиден е източникът?
Автор, дата, цел, доказателства
честност
сигурен ли съм
Ясно изразете несигурността
Често срещани грешки
- Мислейки, че това, което е убедително, е истина. Да изглеждаш добре не е доказателство за праведност.
- Задоволяване с един източник. Критичната информация изисква независимо кръстосано потвърждение.
- Не търси цитата в неговия източник. Ето как се разпространяват погрешно приписаните думи.
- Скриване на несигурност. „Непроверимо“ е по-добро от фалшива сигурност.
- Не учи потребителя да удостоверява. Информационната грамотност е мисията на библиотекаря.
В обобщение
Проверката на източника и информационната грамотност са най-критичните задачи на библиотечното дело в ерата на ИИ. Халюцинациите произвеждат убедителна, но изфабрикувана информация и са особено опасни в хуманитарните/социалните науки. Дисциплината е ясна: проверете съществуването на всеки източник, отидете до първичния източник, направете независима кръстосана проверка, оспорете достоверността на източника и изразете честно несигурността. Библиотекарят разпространява тази култура на проверка не само в своята практика, но и като обучава потребителите; Оригиналността и академичната почтеност са неразделна част от тази мисия.
Задача за приложение
Поискайте 6 източника и 2 цитата от AI във вашата област. Проверете всеки източник, като го потърсите в действителен каталог и всеки цитат в действителната работа на автора; Забележете колко са измислици. След това, като използвате шаблона „План за преподаване на информационна грамотност“, изгответе 20-минутен урок, за да обясните проверката на източника на потребителска група и да включите реални примери, които сте открили сами.
контролен списък
- [ ] Проверих независимо дали всеки източник действително съществува.
- [ ] Използвах първични източници, когато е възможно.
- [ ] Проверих критични твърдения с най-малко два независими източника.
- [ ] Проверих цитатите, като ги потърсих в действителната работа на автора.
- [ ] Ясно маркирах непроверимата информация като „непроверима“.