Jedinica 12 / 12

Projekt od kraja do kraja: Obrada arhivske zbirke pomoću umjetne inteligencije

Dobici:

  • Sposobnost obrade zbirke u tijeku rada u 7 faza, od etičkog pregleda do objave, s ljudskom kontrolnom točkom u svakoj fazi
  • Shvatite kako rane kontrolne točke sprječavaju širenje pogreške (pogrešan datum/ime) kroz lanac
  • Sposobnost primjene načela očuvanja glavne datoteke, neštedenja na verifikaciji i deklariranja korištenja AI-a u holističkom projektu

Prethodne jedinice pokrivale su pojedinačne vještine: digitalizacija, transkripcija, metapodaci, skeniranje, prijevod, verifikacija, analiza uzoraka, pronalaženje, očuvanje i etika. Ova završna jedinica kombinira sve. Pravi arhivski projekt ne doživljava ove korake odvojeno, već kao međusobno povezani tijek rada. Ovdje ćemo vidjeti kako možete obraditi zbirku od početka do kraja s procesom koji podržava AI, ali kontrolira čovjek, korak po korak i s kontrolnim lancem.

Cilj je pozicionirati AI kao partnera koji "ubrzava svaki korak, ali nema konačnu riječ ni o jednom koraku". Kada završite ovu jedinicu, ostat ćete s holističkom metodom koja neurednu hrpu dokumenata pretvara u zbirku spremnu za istraživanje, provjerenu, etički čistu.

Scenarij: ono što imamo

Recimo da ste primili zbirku od 250 dokumenata: neki tiskani (tiskana korespondencija, oglasi), neki rukopisi (pisma, bilježnice), iz različitih datuma, neki sadrže osjetljive osobne podatke. Cilj: digitalizirati, prepisati, katalogizirati i učiniti dostupnom zbirku istraživačima. Podijelimo proces u sedam faza.

Tijek rada u sedam koraka

Faza 1 — Procjena i etički pregled. Prvo upoznajte kolekciju. Koji dokumenti sadrže osjetljive osobne podatke? Kakav je status autorskih prava? Postoji li kulturološka osjetljivost? Ovo skeniranje određuje koji se dokumenti mogu dati AI alatima temeljenim na oblaku, a koji će se obrađivati ​​samo u zatvorenom/odobrenom okruženju. Ako se ova faza preskoči, cijeli projekt je u etičkom riziku.

Faza 2 — Digitalizacija. Skenirajte dokumente u visokoj razlučivosti (najmanje 300-400 DPI, dobar kontrast). Čuvajte izvorne (master) datoteke netaknutima; Sve obrade vršit će se na kopijama.

Faza 3 — Ekstrakcija teksta. Primijenite OCR za tiskane dokumente i HTR za rukopis. Neka AI očisti neobrađeni izlaz s uputama za "sigurnu lekturu" — samo optičke pogreške/pogreške prepoznavanja, bez komentara sadržaja, nečitljiva mjesta [?]. Alternativno čitanje i paleografska kontrola za Osmanski/rukopis.

Faza 4 — Metapodaci i katalogizacija. Imati standardne (Dublin Core/ISAD(G)) metapodatke izrađene za svaki dokument; Uz dopuštenje "ostavi nepostojeće polje prazno". Preslikajte pojmove tema na kontrolirani popis. Provjerite datume i imena s dokumentacijom.

Faza 5 — Obogaćivanje i oblikovanje uzorka. Ekstrahirajte entitete (osoba/mjesto/organizacija), normalizirajte, proizvedite obrise odnosa i vremenske crte. Provjerite svaki uzorak u dokumentu; Nema izmišljenih poveznica i nema kronologije.

Faza 6 — pristup alatima. Izraditi nacrt pomoćnog sredstva za prikupljanje; Temeljite dio povijesti samo na provjerenim bilješkama. Jasno označite ograničenja pristupa (privatnost/autorska prava).

Faza 7 — Provjera, izjava i objava. Posljednji put provjerite kritična polja (datum, ime, citat, referenca). Deklarirajte korištenje AI. Stručnjak daje konačno odobrenje; Zbirka je otvorena za istraživanje.

Savjet: Postavite "ljudsku kontrolnu točku" u svaku fazu: Stručnjak provjerava rezultate AI-a prije prelaska na sljedeću fazu. Bez ovih kontrolnih točaka, pogreška u prvoj fazi (pogrešno očitan datum) proširit će se cijelim lancem i na kraju procuriti u katalog, obrazac i vodič.

Tablica upravljačkog lanca

Pozornica

AI-ov posao

ljudska kontrolna točka

1. Etički probir

Označavanje osjetljivih podataka

Odluka o ugradnji

2. Digitalizacija

(Poboljšanje slike)

Kvaliteta, majstorska zaštita

3. Ekstrakcija teksta

OCR/HTR + sigurna korekcija

Ime/datum/potvrda čitanja

4. Metapodaci

standardni nacrt

Potvrda polja, podudaranje termina

5. Uzorak

entitet, odnos, vremenska linija

Validacija u dokumentu

6. Alat za pristup

Traženje nacrta pomoći

Povijest i odobrenje ograničenja

7. Otpuštanje

Konačno odobrenje, izjava

tri mini kućišta

Slučaj 1 — Uočena je pogreška u lancu. U jednom projektu, u fazi 3, datum dokumenta glasio je "1868" umjesto "1888". Da kontrolna točka faze 3 nije otkrila ovu pogrešku, datum bi bio raspoređen po katalogu (4), vremenskoj traci (5) i vodiču (6). Zahvaljujući kontrolnoj točki, greška je ispravljena na jednom mjestu. Pouka: rana provjera sprječava širenje pogreške u lancu.

Slučaj 2 — Etička provjera spasila je projekt. 18 od 250 dokumenata sadržavalo je osjetljive podatke živih osoba. Etički pregled u fazi 1 označio ih je; ovih 18 dokumenata obrađeno je u zatvorenom okruženju, a ostali standardnim alatima. Bilo bi ozbiljno kršenje da je skeniranje preskočeno i da je sve preneseno u oblak. Lekcija: etička provjera je prvi korak, a ne popravak koji se dodaje kasnije.

Slučaj 3 — Vrijeme i trud. Korištenjem tradicionalne metode bilo bi potrebno otprilike 8-10 mjeseci da se u potpunosti obradi zbirka od 250 dokumenata. Uz tijek rada kontrolnih točaka podržan AI-jem, proces je smanjen na otprilike 3 mjeseca. Ali uštede nisu proizašle iz toga što je "AI učinila sve", već iz "AI je izvršila mehanički posao, fokusiran na ljudsku provjeru". Vrijeme posvećeno provjeri nije se smanjilo; Vrijeme posvećeno mehaničkom radu se smanjilo.

Četiri predloška za kopiranje

1) Početni plan projekta:

Imam kolekciju od [broj] dokumenata: [kombinacija tiska/rukopisa], [razdoblje], od kojih neki mogu sadržavati osjetljive podatke. Napravite plan tijeka rada u 7 koraka za digitalizaciju i katalogizaciju ove zbirke: navedite zadatak umjetne inteligencije i kontrolnu točku LJUDI u svakoj fazi. Stavite etičku provjeru na prvo mjesto.

2) Kontrolni popis prijelaza faza:

Završio sam fazu [stage name]. Napravite kontrolni popis kritičnih točaka koje moram provjeriti prije nego što prijeđem na sljedeću fazu: koje činjenice (datum/ime/referenca) treba provjeriti, koje se pogreške mogu širiti u lancu? Imam konačno odobrenje; Dajte mi popis za provjeru.

3) Kontrola kvalitete od kraja do kraja:

Ispod su svi slojevi obrađenog dokumenta: transkripcija, metapodaci, izdvojena sredstva. NEPOJMOVI SLIKE između slojeva: odgovara li datum u prijepisu metapodacima, postoje li entiteti stvarno u tekstu? Nametanje korekcije; Generirajte popis nedosljednosti. Slojevi: [ovdje]

4) Zatvaranje projekta i deklaracija:

U ovom projektu prikupljanja koristio sam AI u sljedećim fazama: [popis]. Za projektnu dokumentaciju: (1) koja je AI podrška korištena u kojoj fazi, (2) kako je obavljena ljudska provjera, (3) koja ograničenja/ograničenja postoje — napišite iskrenu završnu bilješku i nacrt izjave o korištenju AI-ja koja to uključuje.

Slab upit / Jak upit

Slabo:

Temeljito obradite ovu zbirku pomoću umjetne inteligencije i pripremite je za istraživanje.

Jedna jedina uputa "učini bilo što" zaobilazi etičku provjeru, kontrolne točke i provjeru; greške se šire duž lanca.

Jako:

Postavite tijek rada u 7 faza za ovu zbirku, s ljudskom kontrolnom točkom u svakoj fazi. Neka prva faza bude provjera etike/privatnosti. Izlaz koji proizvodi AI u svakoj fazi bit će provjeren prije prelaska na sljedeću fazu; označite kritične činjenice (datum/ime/referenca). Ni u jednoj fazi AI nema posljednju riječ.

Razlika: fazna struktura, etički prioritet, kontrolne točke i načelo “ljudi imaju posljednju riječ” čine cijeli projekt sigurnim i obranjivim.

Uobičajene greške

  • Ostavljajući etičku provjeru za kraj. Skeniranje privatnosti/autorskih prava je prvi korak; Ako se doda kasnije, kršenje se već dogodilo.
  • Zaobilaženje kontrolnih točaka. Pogreška koja ostane neprovjerena širi se cijelim lancem.
  • Ne štiti glavnu datoteku. Ako original nije sačuvan netaknut, povrat postaje nemoguć.
  • Ušteda na provjeri. AI skraćuje mehanički rad; Ako se vrijeme provjere skrati, kvaliteta se smanjuje.
  • Ne deklarira korištenje AI. Transparentnost je dio znanstvene vjerodostojnosti zbirke.

Ukratko

Projekt arhiviranja od kraja do kraja povezuje individualne vještine u lanac kontrole: etičko skeniranje, digitalizacija, ekstrakcija teksta, metapodaci, uzorak, alat za pronalaženje i objavljivanje. U svakoj fazi AI ubrzava mehanički rad; U svakoj fazi ljudska kontrolna točka ima posljednju riječ. Etička provjera prva je faza, glavna datoteka je zaštićena, pogreške se rano uočavaju kako se ne bi proširile u lancu, a korištenje umjetne inteligencije se iskreno prijavljuje. Uštede ne dolaze od umjetne inteligencije koja radi sve, već od ljudskog bića oslobođenog mehaničkog rada i fokusiranja na provjeru. AI ubrzava; Čovjek osigurava točnost i cjelovitost povijesti.

Zadatak aplikacije

Odaberite malu zbirku (10-20 dokumenata; vlastiti materijal ili skup uzoraka). Stvorite tijek rada u 7 koraka s predloškom "plan pokretanja projekta". Provedite barem dva dokumenta kroz ovaj tijek: etičko skeniranje, izdvajanje teksta, metapodatke i sloj uzorka. Provjerite svaku fazu pomoću "kontrolnog popisa prijelaza faza". Konačno, dokumentirajte svoju upotrebu umjetne inteligencije s predloškom "zatvaranje projekta i izjava". Zabilježite koje su pogreške uočene na ranim kontrolnim točkama.

popis za provjeru

  • [ ] Obavio sam provjeru etike/privatnosti u prvoj fazi.
  • [ ] Zadržao sam glavne datoteke netaknutima.
  • [ ] Stavljam ljudsku kontrolnu točku na svaku fazu.
  • [ ] Provjerio sam kritične činjenice prije nego što su propagirane u lancu.
  • [ ] Izjavio sam korištenje AI-a na zatvaranju projekta.

Modul ispit

1. Koje je najprikladnije pozicioniranje umjetne inteligencije u povijesti i arhiviranju?

  • A) AI je alat za sažetak, uređivanje i izradu nacrta; Komentar, kritika izvora i konačna odgovornost pripadaju stručnjaku ✔
  • B) Umjetna inteligencija može sama odlučiti o autentičnosti i značenju dokumenta, poput povjesničara
  • C) Umjetna inteligencija radi samo za prevođenje teksta, nema nikakve veze s drugim arhivskim poslovima
  • D) Budući da je umjetna inteligencija uvijek nepristranija od ljudi, povijesno tumačenje treba prepustiti njoj.

Opis: Umjetna inteligencija; To je pomoćnik koji uređuje, skenira, prevodi i izrađuje nacrte teksta. Kritika izvora, tumačenje, uzročno-posljedično utvrđivanje i konačna odluka pripadaju stručnjaku; Neprovjereni rezultat može dovesti do izmišljenog izvora, lažnog datuma ili anakronizma.

2. Što je halucinacija koju proizvodi umjetna inteligencija u povijesnom istraživanju?

  • A) Umjetna inteligencija vrlo sporo obrađuje dokument
  • B) Umjetna inteligencija izmišlja nepostojeći izvor, citat ili događaj kao stvaran ✔
  • C) Dokument je fizički oštećen
  • D) Arhivski katalog nije ažuran

Objašnjenje: Halucinacija je kada umjetna inteligencija samouvjereno izmišlja informacije, izvore, citate ili događaje koji zapravo ne postoje. Iako se njegov oblik čini savršenim, njegov sadržaj nije stvaran; Stoga u svakom referentnom katalogu svaki citat mora biti verificiran na izvornom izvoru.

3. Koji je najbolji pristup za ispravljanje OCR izlaza pomoću umjetne inteligencije?

  • A) Tražiti da tekst bude tečan i lijep te da logično dopuni dijelove koji nedostaju.
  • B) Omogućuje ispravljanje svih brojeva i datuma na temelju konteksta
  • C) Traženje od njega da ispravi samo pogreške optičkog prepoznavanja, ostavi nečitljiva područja [?] i ne mijenja brojeve/datume ✔
  • D) Zamoliti učenika da popuni nečitke riječi s najvjerojatnijim nagađanjem.

Objašnjenje: Zlatno pravilo u OCR ispravljanju je ispravljanje samo očitih grešaka optičkog prepoznavanja (kao što je rn u m, l u 1); netumačenje ili dovršavanje sadržaja teksta. Nečitljiva područja označena su s [?]; Brojevi i datumi se ne mijenjaju, ovjereni su slikom.

4. Što treba tražiti od umjetne inteligencije kada se radi o čitanju riječi čiji samoglasnik nije napisan u osmanskom tekstu?

  • A) Očitajte jednokratno, precizno i time ubrzajte rad
  • B) Odabir riječi koja će značenje učiniti najtečnijim i popunjavanje praznina
  • C) Dopunjavanje nečitljivih dijelova iz vlastitog općeg znanja.
  • D) Nuđenje mogućih alternativa čitanja i označavanje dvosmislenih područja umjesto nametanja konačnog čitanja ✔

Objašnjenje: U osmanskom turskom se kratki samoglasnici uglavnom ne pišu; Jedna razlika samoglasnik/slovo (abul i kabul, wali i vali) potpuno mijenja značenje. Stoga, umjesto nametanja konačnog čitanja, treba tražiti moguće alternative, sačuvati nečitljiva područja, a konačnu odluku prepustiti paleografu.

5. Koji je najučinkovitiji način za sprječavanje halucinacija kada umjetna inteligencija proizvodi nacrt metapodataka (kataloški zapis)?

  • A) Izričito dopustite da to polje ostavite praznim ako nije uključeno u dokument ✔
  • B) Zahtijevanje da se svako polje popuni i ne ostavi nepotpuno.
  • C) Procjena datuma na temelju sadržaja nedatiranih dokumenata
  • D) Dopuštanje umjetnoj inteligenciji da generira referentni kod

Opis: Pritisak popunjavanja prisiljava AI da sastavi dokument pogađanjem datuma ili kreatora koji nije u dokumentu. Najjači štit protiv ovoga je izričito dopuštenje da se polje ostavi praznim ako nije u dokumentu; Osim toga, pojmovi teme preslikavaju se u kontrolirani vokabular.

6. Kako sažetak dokumenta koji je izradila umjetna inteligencija treba pozicionirati u povijesnom istraživanju?

  • A) Kao pouzdan dokaz koji se može izravno navesti
  • B) Kao mapa otkrića koja vas usmjerava na stvarni dokument; Dokazi su preuzeti iz originalnog dokumenta ✔
  • C) Kao adekvatan izvor koji može zamijeniti sam dokument
  • D) Kao tekst koji se može koristiti u studiji bez vraćanja na dokument

Opis: Sažetak je karta otkrića, a ne dokaz. Postoji nešto poput ovoga u ovom dokumentu, kaže idi i pogledaj; Ne kaže se točno ono što piše u dokumentu. Ako se događaj, citat ili podatak treba uključiti u studiju, mora se doslovno preuzeti iz izvornog dokumenta.

7. Koji je pravi način da se izbjegnu anakronizmi pri prevođenju povijesnog dokumenta za objavljivanje?

  • A) Zamjena svih termina razdoblja s današnjim najbližim ekvivalentom
  • B) Prenijeti tekst što tečnije i modernije
  • C) Ostavite nazive razdoblja i nazive institucija jedinstvenima i dodajte objašnjenje ✔
  • D) Prilagođavanje vlastitih imena njihovoj trenutnoj upotrebi

Objašnjenje: anakronizam je pogrešan prijenos elemenata iz jednog razdoblja u drugo razdoblje. Mijenjanje naslova razdoblja, naziva institucija i osobnih imena današnjim pojmovima prenosi čitatelja u svijet koji ne pripada tom razdoblju. Ispravan način je zadržati termin razdoblja i dodati objašnjenje uz njega.

8. Kako se uvjeriti da je arhivska referenca (naziv fonda, broj spisa) koju daje umjetna inteligencija stvarna?

  • A) Vjerovati referenci jer se njezin format čini točnim
  • B) Ponovnim upitom umjetnoj inteligenciji je li referenca točna
  • C) Prihvaćanje reference kao istinite jer je uvjerljiva i detaljna
  • D) Osobnim pronalaskom i provjerom reference u arhivskom katalogu ili pouzdanom izvoru ✔

Opis: Umjetna inteligencija može proizvesti reference koje su savršene forme, ali zapravo ne postoje; Fiktivna referenca je u istom obliku kao i stvarna referenca. Jedini način da se dokaže da referenca postoji je da se pronađe tamo gdje se nalazi izvorni izvor (arhivski katalog, knjižnica).

9. Kako bi trebao biti procijenjen obrazac pronađen prilikom analize uzoraka (NER, mreža, vremenska linija) s umjetnom inteligencijom?

  • A) Kao hipoteza koju je potrebno provjeriti u dokumentu; polazište, a ne ishod ✔
  • B) Kao konačan nalaz koji ne zahtijeva provjeru
  • C) To je neosporna objektivna činjenica jer je brojčana.
  • D) Kao rezultat koji se može staviti u izravnu studiju jer je pronašao umjetnu inteligenciju

Objašnjenje: Svaki obrazac je hipoteza, a ne dokaz. Entiteti bi trebali biti povezani s izvorom, različiti načini pisanja (iste osobe/mjesta) trebali bi se normalizirati uz ljudsko odobrenje, brojevi bi trebali biti ispitani zbog nedostajućih podataka i pristranosti uzorkovanja, a događaji bez datuma ne bi se trebali kronologizirati.

10. Zašto odjeljak s biografskom/institucionalnom poviješću u informativnoj pomoći zahtijeva posebnu pozornost?

  • A) Ovaj dio je nevažan i može se objaviti bez provjere
  • B) Budući da umjetna inteligencija može dodati izmišljene događaje, lažne datume i naslove u ovaj odjeljak, trebala bi se oslanjati samo na provjerene izvore ✔
  • C) Umjetna inteligencija se može sigurno koristiti jer ne griješi u pisanju povijesti.
  • D) Ovu rubriku ispunjavaju samo istraživači, arhivista ne zanima

Opis: Dio povijesti je mjesto gdje se najčešće uvlače halucinacije: AI može umetnuti nepostojeće događaje, lažne datume i izmišljene naslove dok piše tečan tekst iz općih informacija o osobi ili instituciji. Ovaj odjeljak trebao bi se temeljiti samo na provjerenim izvorima.

11. Kako bi umjetna inteligencija trebala odgovoriti istraživaču na činjenično pitanje u referentnoj (konzultativnoj) službi?

  • A) Odgovor na pitanje treba dati izravno i kao sigurnu činjenicu.
  • B) Mora dati vjerodostojan datum ili ime i prenijeti ga istraživaču.
  • C) Umjesto izravnog davanja činjenica, trebalo bi usmjeriti istraživača na relevantnu zbirku i izvor ✔
  • D) Treba dati potpun odgovor tako da istraživač ne mora ići do izvora.

Objašnjenje: U referentnoj službi umjetna inteligencija ne bi trebala dati izravan činjenični odgovor, već bi trebala uputiti istraživača na izvor. Jer izravan činjenični odgovor koji daje umjetna inteligencija može biti izmišljen i istraživač ga može zamijeniti s izvorom. Umjesto "Odgovor je ovo", treba reći "Pogledajte ove dokumente u ovoj zbirci".

12. Koje su operacije prihvatljive, a koje nepoželjne kod obrade oštećene slike dokumenta umjetnom inteligencijom?

  • A) Sve vrste operacija su besplatne, uključujući popunjavanje dijelova koji nedostaju.
  • B) Ne treba ništa poduzimati, sliku nikada ne treba dirati
  • C) Popunjavanje odjeljaka koji nedostaju najvrjednija je radnja jer dovršava dokument.
  • D) Manipulacije čitljivošću kao što su kontrast/šum su prihvatljive; Dijelove koji nedostaju nezgodno je popunjavati pogađanjima ✔

Objašnjenje: Procesi koji poboljšavaju čitljivost (kontrast, osvjetljenje, smanjenje šuma) su prihvatljivi jer ne mijenjaju sadržaj; Međutim, popunjavanje dijelova koji nedostaju/nečitljivih nagađanjem predstavlja rizik stvaranja onoga čega nema u dokumentu, odnosno povijesne krivotvorine. Izvornik je sačuvan, transakcije su evidentirane.

13. Što je potrebno učiniti prije obrade arhivskog dokumenta koji sadrži osjetljive osobne podatke?

  • A) Skeniranje privatnosti i anonimizacija ako je potrebno ili pomoću zatvorenog/odobrenog alata ✔
  • B) Učitavanje dokumenta izravno u javno vozilo bez razmišljanja o tome
  • C) Ignoriranje brige o privatnosti radi učinkovitosti
  • D) Prevladavanje ograničenja pristupa radi učinkovitosti

Otkrivanje: učitavanje dokumenata koji sadrže osjetljive podatke koji identificiraju žive osobe (zdravlje, vjera, etnička pripadnost, adresa) u javne alate temeljene na oblaku može predstavljati ozbiljno kršenje privatnosti. Najprije treba izvršiti provjeru privatnosti, ako je potrebno koristiti anonimizaciju ili zatvoreni/odobreni alat.

14. Koja je glavna svrha ljudske kontrolne točke u projektu arhiviranja s kraja na kraj?

  • A) Usporavanje rada umjetne inteligencije i odgađanje projekta
  • B) Da spriječite da se pogreška (netočan datum/ime) u jednoj fazi lančano veže za sve naredne faze ✔
  • C) Povećanje ljudskog rada i potpuno odustajanje od automatizacije
  • D) Osigurati da umjetna inteligencija ima posljednju riječ

Opis: ljudska kontrolna točka u svakoj fazi osigurava da je izlaz AI-a provjeren prije prelaska na sljedeću fazu. Bez toga, pogreška u prvoj fazi (pogrešno očitan datum) proširila bi se niz lanac kroz katalog, obrazac i vodič. Rana provjera osigurava da se greška ispravi na jednom mjestu.

15. Što zahtijevaju transparentnost i autentičnost u korištenju umjetne inteligencije u humanističkim i društvenim znanostima?

  • A) Držanje upotrebe umjetne inteligencije u tajnosti, osiguravajući da nitko ne zna
  • B) Svaki tekst koji je proizvela umjetna inteligencija prikazati kao vlastitu izvornu ideju
  • C) Iskreno deklarirati korištenje umjetne inteligencije i ne predstavljati njezin rezultat kao vlastiti izvorni rad ✔
  • D) Dijeljenje samo rezultata bez objašnjenja metoda

Opis: Transparentnost uključuje bilježenje da je prijepis, metapodatak ili prijevod proizveden uz pomoć umjetne inteligencije; Originalnost podrazumijeva da se komentar proizveden od strane umjetne inteligencije ne predstavlja kao vlastita originalna ideja. Ovo je bitno za provjeru od strane kasnijih istraživača i za akademsku čestitost.