Бірлік 6 / 11

Сандық мұрағат, цифрландыру, OCR және ұзақ мерзімді сақтау

Табыстар:

  • Сканерленген құжаттарды OCR және HTR көмегімен мәтінге түрлендіру және нәтижені нақты кескінмен салыстыру арқылы түзету мүмкіндігі
  • Мұрағат құжатының түпнұсқалығы мен тұтастығын сақтау және AI мазмұнын өзгертуге және жасанды қалпына келтіруге жол бермеу мүмкіндігі
  • Шығу деректері және ұзақ мерзімді форматтары бар ұзақ мерзімді цифрлық сақтауды жоспарлау мүмкіндігі

Мұрағатшыға елу жылдық газет томдарын, қолжазба хаттарды немесе ескі фотосуреттерді болашаққа алып жүру міндеті жүктеледі. Бұл құжаттар уақыт өте келе ескіреді; Оларды сақтау және қолжетімді ету үшін цифрландыру орындалады: физикалық құжатты сканерлеу және оны цифрлық көшірмеге түрлендіру. Бірақ тек скрининг жеткіліксіз; Цифрлық нысан ұзақ мерзімді перспективада табуға, оқуға және қолдауға болатын болуы керек. Бұл бөлімде сіз цифрландыру, транскрипция және цифрлық сақтау жұмыс процесінде жасанды интеллектті қалай пайдалану керектігін үйренесіз; бірақ сіз неге түпнұсқалық пен дәлдік үшін жауапты болатыныңызды білесіз.

Бірнеше ұғымдар. OCR (Optical Character Recognition) – құжат кескініндегі мәтінді машинада өңделетін мәтінге түрлендіретін технология. HTR (Handwritten Text Recognition) қолмен жазылған құжаттар үшін бірдей тапсырманы орындайды және әлдеқайда қиын. Цифрлық сақтау - бұл файл пішімдері ескірсе және бағдарламалық құрал өзгерсе де, цифрлық нысандардың ондаған жылдар бойы оқуға болатынын қамтамасыз ету үшін жоспарланған әрекет. AI - бұл үш салада күшті, бірақ кемшіліктері бар көмекші.

Қадамдық: цифрландырудан сақтауға дейін

1. Басымдылық. Барлығын бірден цифрлау мүмкін емес. Ең нәзік, ең көп сұралатын және бірегей құжаттар бірінші орынға қойылады. Бұл сот шешімі; AI тізімді өңдеуге көмектеседі, бірақ мекеме басымдықты анықтайды.

2. OCR/HTR сканерлеу және қолдану. Құжатты жоғары ажыратымдылықта сканерлеңіз, содан кейін мәтінді шығару үшін OCR немесе HTR пайдаланыңыз. Бұл жерде AI негізіндегі құралдар, тіпті ескі және қиын мәтіндермен де жақсарып келеді.

3. Мәтінді түзетіп, тексеру. OCR/HTR шығысы ешқашан мінсіз болмайды. Қателер жиі кездеседі, әсіресе ескі жазу, боялған беттер немесе қолжазба болса. Шығаруды нақты кескінмен салыстыру және оны түзету өте маңызды.

4. Метадеректер мен қорғау ақпаратын қосыңыз. Сандық нысанға оның шығу тегін, сканерлеу шарттарын, пішім ақпаратын және шығу тегін қосыңыз — құжат қайдан және қалай өңделген. Бұл ақпарат болашақ тексеру және қорғау үшін өте маңызды.

5. Ұзақ мерзімді қорғаныс жоспары. Ашық, жалпы және ұзаққа созылатын файл пішімдерін таңдаңыз; сақтық көшірме жасау; Пішімдер ескірген жағдайда тасымалдау жоспарын жасаңыз.

Кеңес: OCR шығысын «таза мәтін» ретінде қабылдамаңыз. Егер іздеу жүйесі осы мәтін арқылы жұмыс істейтін болса, қате танылған сөздер дереккөздің табылмауына себеп болады. Маңызды жинақтар үшін OCR шығысын адам көзіне түзету барлық кейінгі қол жеткізудің сапасын анықтайды.

Цифрлық объектінің шынайылығы мен тұтастығы

Мұрағат жұмысының негізінде шынайылық пен тұтастық жатыр: құжат шынымен мәлімделген дереккөзден алынғанына және оның мазмұны өзгертілмегеніне сенімділік. Бұл кезде AI екі жақты қауіп тудырады. Біріншіден, OCR/HTR түзету немесе «жақсарту» кезінде AI мәтінді үнсіз өзгерте алады; «түзету» деген атпен жоқ сөзді қоса алады. Екіншіден, егер кескінді «жөндеу» немесе «қалпына келтіру» AI көмегімен жасалса, түпнұсқа емес мәліметтер шығарылуы мүмкін.

Мұрағатшының ережесі анық: сандық сақтау көшірмесі түпнұсқаға сәйкес болуы керек. AI көмегімен жасалған әрбір жақсарту құжатталуы керек және нақты (шикі) сканерлеу әрқашан сақталуы керек. Құжатты «әдемілеу» оның тарихи дәлелдемелік құндылығын жоюы мүмкін.

Абайлаңыз: AI көмегімен ескі фотосуретті немесе құжатты «жақсарту» азғыруы мүмкін; бірақ AI жетіспейтін бөліктерді құрастыру арқылы толтырады. Мұрағаттық құжатта бұл жалған тарихи деректер жасау дегенді білдіреді. Қалпына келтіру шығысы ешқашан бастапқы көзді ауыстырмайды; бөлек, нақты белгіленген нұсқа ретінде сақталады.

үш шағын іс

1-жағдай — Газет мұрағаты іздеуге болатын болды. Кітапхана өзінің 30 жылдық жергілікті газеттер жинағын цифрлық форматқа көшірді. OCR көмегімен 90 000 бет транскрипцияланды және іздеуге мүмкіндік берді; Бұрын бірнеше күнге созылатын тақырыпты іздеу енді секундтарға дейін қысқарды. Дегенмен, топ ескі және боялған беттерде OCR дәлдігі 80% дейін төмендегенін байқады және адам көзімен ең жақсы жылдарды түзетуге басымдық берді.

2-жағдай — HTR қолжазбаны ашты. Мұрағат 19 ғасырдағы оқуға қиын хаттар жинағына HTR қолданды. Жүйе сарапшылардың бірнеше ай оқуына сәйкес үлкен жылдамдыққа ие болды; Бірақ басып шығарудың әрбір бетін сарапшы палеограф (көне жазу бойынша маман) түпнұсқамен салыстырды, өйткені адамдар мен жер атауларында қателер болды.

3-жағдай – жалған «қалпына келтіру» қабылданбады. Бір команда AI көмегімен жыртылған тарихи фотосуретті «жөндеуді» қарастырды. AI жетіспейтін бет бөліктерін оларды орнату арқылы аяқтады. Мұрағат қызметкері бұл ойдан шығарылған мәліметтер тарихи дәлелдерді бұрмалайтынын түсінді; Жөнделген кескін түпнұсқамен бірге бөлек сақталды, тек "AI туындысы" деп анық белгіленген.

Көшірме, сақтау көшірмесі және пішім туралы шешімге қол жеткізіңіз

Цифрландырудағы жақсы тәжірибе әртүрлі мақсаттар үшін бір нысанның көшірмелерін бөлу болып табылады. Сақтау шебері – болашақта тасымалданатын, ең жоғары ажыратымдылықта, қысылмаған немесе жоғалтпайтын форматта сақталатын нақты цифрлық нысан; оған сирек тиеді. Кіру көшірмесі – пайдаланушыға ұсынылған кішірек, оңай ашылатын нұсқа. Бұл ерекшелік маңызды, себебі пайдалану үшін практикалық пішім (кішігірім, қысылған) ұзақ мерзімді сақтау үшін жарамсыз болуы мүмкін; Консервациялауға арналған тамаша пішім (үлкен, шығынсыз) күнделікті пайдалану үшін қиын. Бұл жұмыс процесінде AI файлдарды түгендеуге, жетіспейтін нұсқаларды анықтауға және метадеректерді екі көшірме арасында сәйкестендіруге көмектеседі. Дегенмен, пішімді таңдау сақтау шешімі болып табылады: ашық, кеңінен құжатталған және ұзаққа созылатын пішімдерге артықшылық беру керек (меншікті, жабық пішімдерден гөрі) және форматтар уақыт өте келе ескірген жағдайда тасымалдау жоспарын дайын күйінде ұстау керек. AI форматты ұсынса да, соңғы сөзді мекеменің ұзақ мерзімді сақтау саясаты береді.

Кеңес: Әрбір сандық нысан үшін «түпнұсқа қайнар көзі қайда, сақтау көшірмесі қандай форматта, рұқсат көшірмесі қандай форматта және қайсысы пайдаланушыға қолжетімді?» деген сұрақтарға жауап беретін қысқаша жазбаны сақтаңыз. Осы үш қабатты араластыру қай файлдың сенімді шебері болатынын анықтамайды.

Көшірілетін төрт үлгі

1) OCR шығысын түзету анықтамасы:

Төменде OCR мәтіні және нақты беттің сипаттамасы берілген. Тек openOCR қателерін түзетіңіз (нашар таңбалар, құрама/бөлінген сөздер). Мазмұнды өзгертпеңіз, сөздерді қоспаңыз немесе алып тастамаңыз. Егер сенімді болмасаңыз, «[?]» белгісін қойыңыз. OCR мәтіні: [мұнда]

2) Мәтін мен кескіннің сәйкестігін тексеру:

Төмендегі түзетілген мәтінде бастапқы құжатта күтпеген (ол жасалған болуы мүмкін) қандай да бір толықтырулар бар ма? Әрбір күдікті бөлікті белгілеп, неге күдікті екенін жазыңыз. Мәтін: [мұнда]

3) Қорғау метадеректерінің жобасы:

Келесі цифрланған нысан үшін сақтау метадеректерінің контурын жасаңыз: дереккөз, шығу тегі, сканерлеу күні/ажырату, файл пішімі, транзакция тарихы. Мен берген ақпаратты пайдаланыңыз, жетіспейтін өрісті бос қалдырыңыз. Ақпарат: [мұнда]

4) Басымдылық бойынша көмек:

Төменде цифрландыруды күтіп тұрған жинақтардың тізімі берілген; Нәзіктікке, сұранысқа және бірегейлікке негізделген басымдықтарды анықтауға көмектесіңіз. Әрбір ресурс үшін қысқаша негіздеме беріңіз; Соңғы шешімді маған қалдырыңыз. Тізім: [мұнда]

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Осы сканерленген мәтінді түзетіңіз және әдемілендіріңіз.

«Әдемілеу» AI-ны мазмұнды өзгертуге, олқылықтарды толтыруға шақырады; Мұрағат құжатының түпнұсқасы бұзылған.

Күшті шақыру:

Сіздің рөліңіз: цифрландыру редакторының көмекшісі. Келесі OCR мәтінінде ТЕК айқын тану қателерін түзетіңіз (нашар таңба, қате бөлінген сөз). Ешбір сөзді қоспаңыз, жоймаңыз немесе өзгертпеңіз. Сенімсіз жерде "[?]" қалдырыңыз. Сіз жасаған әрбір түзетуді бөлек тізімде көрсетіңіз. Мәтін: [мұнда]

Күшті шақыру AI-ны тек қателерді тануға шектейді, мазмұнға қол тигізуге тыйым салады және түзетулерді бақылауға мүмкіндік береді.

Жұмыс барысы және тәуекелдер кестесі

Сахна

AI үлесі

Негізгі тәуекел

қорғау шарасы

сканерлеу

сапасыз

жоғары ажыратымдылық

OCR/HTR

Мәтінге түрлендіру

Тану қателері

адамдық түзету

түзету

Қате туралы ұсыныс

Мазмұнды өзгерту

Түпнұсқамен салыстыру

қалпына келтіру

Кескін туындысы

сәйкес келетін деталь

Шикі түпнұсқаны сақтаңыз, оны белгілеңіз

қорғау

Метадеректер жобасы

шығу тегін жоғалту

Шығу жазбасы

Жалпы қателер

  • OCR шығысын түзетусіз қабылдау. Қателер іздеу мен қол жеткізуді бұзады.
  • AI «әдемі ету» деп атайды. Ол мазмұнды өзгертіп, түпнұсқалықты бұзады.
  • AI қалпына келтіруді нақты дәлелдерге ауыстыру. Жасанды бөлшектер жалған тарих жасайды.
  • Шикі сканерлеуді сақтамайды. Түпнұсқасыз ешбір түзетуді тексеру мүмкін емес.
  • Шығу деректерін алып тастау. Құжаттың сенімділігі қадағаланбайды.

Қысқаша

Сандық мұрағаттардағы және цифрландырудағы AI; Бұл OCR/HTR транскрипциясын, метадеректер жобасын жасауды және басымдықты анықтауды жылдамдататын құнды көмекші құрал. Бірақ мұрағат жұмысының мәні түпнұсқалық және тұтастық болып табылады: OCR шығысы адам көзімен түзетілуі керек, AI ешқашан мазмұнды үнсіз алмастырмауы керек, қалпына келтіру туындылары бастапқы дәлелдерді алмастырмауы керек, ал сканерлеу және шығу туралы ақпарат әрқашан сақталуы керек. AI-ны құжатты «жетілдірмейтін» құрал ретінде пайдаланыңыз, бірақ оған адал бола отырып, оны қолжетімді етеді.

Қолданбалы тапсырма

OCR шығысының қысқа үлгісін алыңыз (өз өндірісіңізден немесе нақты сканерлеуден). "OCR шығысын түзету анықтамасы" үлгісімен тану қателерін ғана түзетіңіз, содан кейін "Мәтіндік кескіннің сәйкестігін тексеру" үлгісімен AI мазмұн қосылғанын тексеріңіз. Содан кейін «Сақтау метадеректерінің жобасы» үлгісімен нысан үшін шығу және пішім ақпараты бар жазба жасаңыз.

бақылау парағы

  • [ ] Мен OCR/HTR шығысын нақты кескінмен салыстырдым және оны түзетіп қойдым.
  • [ ] Мен AI мазмұнды қоспайтынын/өзгермейтінін тексердім.
  • [ ] Мен өңделмеген (басты) сканерлеуді бөлек және өзгеріссіз қалдырдым.
  • [ ] Мен метадеректерге шығу және пішім ақпаратын қостым.
  • [ ] Мен қалпына келтіру нұсқаларын "AI туындысы" деп анық белгіледім.