Печалби:
- Възможност за извличане на модели от големи набори от текст с помощта на техники като NER, извличане на връзка, времева линия и мрежов анализ
- Да можеш да видиш модела като хипотеза, а не като доказателство, да свързваш обекти с източника и да ги нормализираш с човешко одобрение
- Способност да се разбере как числата могат да бъдат подвеждащи поради липсващи данни и пристрастност на извадката и да се избегнат измислени връзки и хронологии.
Историческото изследване не е само четене на отделни документи; често търсят модели в големи набори от документи. В какви контексти се появява определено име през годините? Кои хора са свързани с населено място? Как една тема се променя с времето? Кой с кого си кореспондира? Такива въпроси изискват преглед не на един документ, а на стотици документи заедно. Това често се нарича дигитална хуманитарна наука — прилагането на изчислителни методи в области като история и литература.
AI е мощен при извличането на структурирана информация от големи набори от текст. В този модул ще научите NER (разпознаване на наименувани обекти), извличане на шаблони и връзки, логика за моделиране на теми и създаване на времева линия; но също така ще обсъдим най-опасния капан на тези техники - AI, който се представя като „намерил“ модел, който не съществува.
Основни техники
- NER (Named Entity Recognition): Автоматично извличане на обекти като лице, място, институция, дата от текста. Той създава списък като „Всички имена на места, споменати в тези 500 документа“ за минути.
- Извод за връзка: Маркиране на връзки между субекти („Лице X на място Y“, „A съответства на B“).
- Моделиране на теми: Статистическо намиране на групи от повтарящи се теми в голям набор от текст. Показва кои теми в кой период са концентрирани.
- Извод от времевата линия: Подреждане на датирани събития в документи в хронологичен ред.
- Мрежов анализ: Визуализиране на междуличностни/институционални взаимоотношения като мрежа (кой е центърът, кой е точката на свързване).
Общата цел на всички тези е да разкрият структури, които не се появяват в един документ, но се появяват в цялата колекция. Тези техники правят видими модели, които никога не биха били видими само чрез четене. Но всеки от тях е „знак“, а не „доказателство“; Важно е да проверите какво се намира в оригиналния документ.
Често използвана концепция в тази област е разграничението между четене отблизо (четене на текст в дълбочина, ред по ред) и четене от разстояние (разглеждане на стотици/хиляди текстове колективно, статистически). AI прави възможно четенето от разстояние: виждате модели в корпус, достатъчно голям, за да издържи един човешки живот. Но когато четенето от разстояние сочи към модел, е необходимо да се върнете към четене отблизо, тоест към оригиналния документ, за да го осмислите. Двата метода не са взаимозаменяеми; Единият показва модела, другият дава значението му. Най-стабилното изследване използва и двете заедно.
Съвет: Използвайте анализа на модели като генератор на хипотези: „ИИ е забелязал модел тук, реален ли е?“ След това проверете този модел в документите един по един. Моделът е отправната точка на вашето изследване, а не резултатът.
Работен процес: стъпка по стъпка
1. Изяснете въпроса. „Кои хора се появяват заедно най-често в тази колекция?“ Въпрос с ясен модел като.
2. Подгответе и етикетирайте данните. Организирайте текста с препратки към източници, така че всички намерени активи да могат да бъдат свързани обратно към документа.
3. Обектът/моделът се появява. Генерирайте NER, връзка или график с AI.
4. Нормализирайте. Комбинирайте различни изписвания на едно и също лице/място („Истанбул / Истанбул / Kostantiniyye“ едно и също място?). Тази стъпка е критична; Ако се пропусне, моделът ще се разпадне.
5. Проверете в документа. Проверете действителните документи за значими модели, които са маркирани. Уверете се, че AI не добавя измислена връзка.
6. Коментирайте. Какво означава моделът е преценката на историка; AI просто маркира модела.
Капан за числа и статистики
Анализът на шаблони често дава числа: „името X се среща 47 пъти“, „тази тема присъства в 30% от документите“. Тези числа изглеждат обективни, но могат да бъдат подвеждащи:
- Липсващи данни: Ако колекцията вече е непълна (документите са изгубени, група никога не е била записвана), числото отразява оцелелите документи, а не реалността.
- Грешка при нормализиране: Ако едно и също лице е изписано по различен начин и се брои отделно, числото ще бъде неправилно.
- Загуба на контекст: „среща се 47 пъти“ не казва нищо; Важно е как се предава (положително/отрицателно, субект/обект).
извеждане на модела
привидно значение
реален риск
"X се среща 47 пъти"
важен човек
Непълна колекция, правописна вариация
"Тема 30%"
доминираща тема
отклонение при вземане на проби
„A-B често заедно“
интимна връзка
Съвпадение, липсващ контекст
"хронология"
точна хронология
Недатирани документи, изфабрикувана поръчка
три мини калъфа
Случай 1 — Мрежовият анализ разкри скрит посредник. Изследовател изследва колекция от кореспонденция от 800 писма. С AI се определяше кой на кого пише и се създаваше мрежа. Мрежата показа, че един на пръв поглед незначителен човек всъщност е основната контактна точка между двете групи. Изследователят се фокусира върху писмата на този човек и стигна до ново откритие. Но първо провери всички връзки в документите.
Случай 2 — Грешка при нормализиране повреди номера. Студент ги накара да преброят колко пъти едно място се появява в документите. Тъй като AI преброи три различни изписвания на едно и също място поотделно, числото се оказа една трета от реалното число. Когато изписванията бяха комбинирани, мястото всъщност беше на третата най-често срещана позиция. Урок: без нормализиране на числото не може да се вярва.
Случай 3 — Измислена времева линия. Изследовател създаде времева линия от недатирани документи. AI подреди неизвестните събития в "логичен" ред и представи точна хронология. Тази последователност обаче я нямаше в документите, AI я беше измислил. Поука: времевата линия се изгражда само от събития, които имат дата в документа; останалото остава "без дата".
Четири копируеми шаблона
1) NER (извод на обект):
Лицата, местата, институциите и датите, споменати в документите по-долу, се появяват като ОТДЕЛНИ списъци. Посочете в кой документ (референция) е споменат всеки субект. Вземете само това, което е ЯСНО посочено в текста; добавете по предположение. Маркирайте [?], ако не сте сигурни в произношението. Документи: [тук]
2) Нормализация на обекта:
В списъка с обекти по-долу групирайте различни изписвания, които биха могли да са едно и също лице/място (напр. „Истанбул / Костантинийе“). Предложете възможния общ формат за всяка група, НО не налагайте точната комбинация; Добавете бележка „може би същото, нека хората проверят“. Оставете го, ако не сте сигурни. Списък: [тук]
3) Очертание на връзката/мрежата:
Извлечете връзките „кой с кого е свързан“ от следния набор от кореспонденция/документи. За всяка връзка посочете на кой документ (референция) е базирана. ИЗЧИСЛИ връзка, която не е ЯСНО в документа. Маркирайте двусмислени връзки [неясни]. Документация: [тук]
4) Датирана времева линия:
Избройте в хронологичен ред само събитията, ЯСНО посочени в следните документи; Свържете всяко събитие с неговия източник. Избройте събитията с несигурни дати отделно под заглавието "без дата", НЕ ги подреждайте. НЕ измисляйте очакваната дата. Документация: [тук]
Слаба подкана / Силна подкана
Слаб:
Анализирайте тези документи и извлечете важни модели, връзки и времеви линии.
„Извличане на важни модели“ подтиква AI да измисля несъществуващи връзки и точни хронологии, представяйки числа без нормализиране.
Силен:
Извлича субектите лице/място/институция от следните документи, като свързва всеки с препратката към документа. Маркирайте различни начини на изписване, които може да съвпадат с „може да се слеят“, но не ги сливайте. Взаимоотношения, които не са ясно посочени в документа и събития с несигурни дати НЕ СЕ ФАЛШИРИРАТ; пазете тези без дати отделно. Документация: [тук]
Разликата: приписването на източника, оставянето на нормализацията на хората, забраната за фиктивни връзки/история и отделянето на недатирани събития правят модела защитим.
Често срещани грешки
- Объркайте модела с доказателство. Моделът е хипотезата; се удостоверява в документа.
- Пропускане на нормализацията. Различното изписване на един и същи обект изкривява номера и мрежата.
- Сляпо доверие в числата. Непълното събиране и отклонението при вземането на проби правят числото подвеждащо.
- Измислена времева линия. Недатираните събития не са включени в хронологията.
- Пренебрегване на контекста. Важно е не "колко пъти е преминато", а "как е преминато".
В обобщение
Анализът на съдържанието и откриването на модели е мощно поле, в което AI прави видими структури, които не биха били видими само чрез четене: извличане на обекти, мрежи за взаимоотношения, тематични клъстери, времеви линии. Но всеки модел е хипотеза, а не доказателство. Свържете активите с източника, нормализирайте внимателно и с човешка проверка, номера на заявки за липсващи данни и пристрастия, избягвайте измислени връзки и хронологии. AI маркира модела; Какво означава и дали е вярно е преценката на историка.
Задача за приложение
Съберете поне 15 броя документи (с препратки). Извличане на лица и обекти на място с шаблона "NER". След това групирайте различните изписвания с „нормализиране на обекта“ и проверете сами групите. И накрая, изпълнете шаблона „времева скала с дата“ и вижте колко събития остават „без дата“. Сравнете колко измислени връзки или хронологии AI би произвел с лошо подсказване.
контролен списък
- [ ] Ясно дефинирах моя въпрос за шаблон.
- [ ] Имам всеки обект, свързан с препратката към документа.
- [ ] Нормализирах въвеждането на обекти и го комбинирах с човешко одобрение.
- [ ] Поставих под въпрос числата за липсващи данни и пристрастия.
- [ ] Не датирах недатираните събития в хронология, запазих ги отделно.