Пайдалар:
- Жасалма интеллект китепканачылык иш процессинде убакытты үнөмдөйт (металыматтар, корутунду, издөө, сунуш) жана тобокелдиктин деңгээлине жараша тактык, булактын ишенимдүүлүгү жана купуялык чечимдери адамдарга калтырылган жерди ажырата билүү.
- Ар бир жыйынтыкты булак менен байланыштырып, көз карандысыз булактан ырастап, бир жактуу чыпкадан өткөрүү менен текшерген дисциплинаны колдонуу мүмкүнчүлүгү.
- Эмне үчүн галлюцинация, жасалма булактар жана колдонуучунун купуялуулугу бул кесипте эң башынан эле эске алынышы керек болгон тобокелдиктер экенин түшүнүү.
Каталог боюнча адис эртең менен иш столуна отурганда, анын колунда жаңы келген ондогон китептер, кайрымдуулук фондунун жүздөгөн документтери жана санариптештирүүнү күтүп жаткан архив кутучалары болушу мүмкүн. Маалыматтык китепканачы (колдонуучуларга маалымат табууга жардам берген эксперт) күнү бою “бул тема боюнча ишенимдүү булак кайда?” деген сыяктуу суроолорго жооп берет. Маалымат менеджери уюмдун миңдеген документтерин ачык жана ишенимдүү сактоо үчүн жооптуу. Бул бөлүмдө биз жасалма интеллект (кыскача айтканда, AI; чоң тил моделдери жана ушуга окшош инструменттер) бул милдеттерди аткарууда кайсы жерде убакытты үнөмдөөнү жана кайсы жерде сот, тандоо жана жоопкерчилик адамда калаарын тактап беребиз.
Келгиле, аныктама менен баштайлы: жасалма интеллект, бул аркылуу биз тилди жаратуучу жана үлгү таануучу программалык куралдарды түшүнөбүз. Бул куралдар жалпылайт, которот, классификацияны сунуштайт, долбоордук текстти жаратат жана маалыматтардын чоң бөлүктөрүндө үлгүлөрдү белгилейт. Бирок булак чындап бар-жогун, маалымат туурабы же колдонуучунун купуялыгы корголгонбу билбейт. Ошондуктан китепканачылыкта жана маалыматты башкарууда AI чечим кабыл алуучу эмес, жардамчы болуп саналат.
Жасалма интеллект кайда иштейт жана кайда иштебейт?
Келгиле, китепканачылык ишин үч катмарга бөлүп көрөлү. Биринчи катмар механикалык жана кайталануучу тапшырмалар: китептин сызыгынан метаберилиштердин долбоорун чыгаруу, узун баяндаманы жыйынтыктоо, текстти бир тилден экинчи тилге которуу, маалыматтар таблицасын тазалоо. AI бул жерде күчтүү жана чоң убакытты үнөмдөйт.
Экинчи катмар – бул квазисоттук иш: документти кандай темада берүү керек, бул ресурсту жыйнакка киргизүү керекпи, колдонуучуга кандай ресурсту сунуштоо керек. AI бул жерде сунуштарды чыгарат, бирок акыркы сөздү мекеменин саясатын жана колдонуучунун чыныгы муктаждыктарын билген эксперт айтат.
Үчүнчү катмар - бул таза сот жана жоопкерчилик: маалыматтын так экендигин тастыктоо, автордук укук жөнүндө чечим кабыл алуу, жеке маалыматтарды ачыкка чыгаруу керекпи же жокпу, булактын ишенимдүүлүгүн тастыктоо. Бул катмарда AIнын чыгышы башталгыч чекит болуп саналат; Жоопкерчилик толугу менен адамдардын мойнунда.
Кеңеш: AIга тапшырма берүүдөн мурун, өзүңүзгө суроо бериңиз: "Эгер бул жыйынтык туура эмес болсо, эмне болот?" Эгер жооп "Мен бир аз убакытты текке кетирем" болсо, AI колдонуңуз. Эгерде жооп "жалган булак тарады, колдонуучу адашты, же жеке маалыматтары сыртка чыгып кетти" болсо, жыйынтыкты текшериңиз.
Галлюцинация: китепканачынын эң чоң коркунучу
Галлюцинация – бул AI болбогон маалыматты, булакты же цитатаны реалдуу болгондой жана өтө ынандырарлык тилде чыгарышы. Бул китепканачылык жана маалыматтык башкаруу үчүн өзгөчө коркунучтуу; анткени биздин кесиптин маңызы булактын аныктыгы жана ишенимдүүлүгү.
Сиз AIга "бул тема боюнча беш академиялык макаланы сунуштаңыз" деп айтканыңызда, ал чыныгы көрүнгөн, бирок такыр жок болгон аталыштарды, авторлорду жана журналдардын аттарын жаратышы мүмкүн. Бул жасалма булактар ушунчалык ынанымдуу болгондуктан, меценат, жада калса китепканачы аларды текшербестен библиографияга кошуп коюшу мүмкүн. Гуманитардык жана коомдук илимдерде коркунуч андан да чоң: тарыхчы үчүн «ал 1897-жылдагы документ» же юрист үчүн «ал соттун чечими» ойдон чыгарылганда, натыйжада олуттуу туура эмес маалымат чыгат.
Көңүл буруңуз: AI тарабынан жасалган эч бир булактан цитата, цитата же маалымдама чыныгы каталогдо, маалымат базасында же булактын өзүндө текшерилбестен эч жакка берилбеши керек. Бул "ынандырарлык" көрүнгөндүктөн, бул чындык дегенди билдирбейт.
Текшерүү тартиби: үч кадам
AI менен иштөөдө китепканачы колдонууга тийиш болгон негизги тартип бул:
1. Булакка туташуу. Ар бир факты, цифра, дата жана басуу түпнуска булакка негизделиши керек. AIдан "бул маалыматты кайсы булактан алганыңызды айтыңыз" деп сураңыз жана бул булакты өз алдынча текшериңиз.
2. Өз алдынча ырастоо. Критикалык маалыматты AIдан тышкаркы жок дегенде бир ишенимдүү булактан текшериңиз (анык каталог, расмий маалымат базасы, баштапкы документ).
3. Аны ийкемдүү фильтрден өткөрүңүз. AI үйрөтүлгөн маалыматтардын бир тараптуулугун алып жүрөт. Сунушталган тема, сунуштардын тизмеси же кыскача баяндама айрым көз караштарды баса белгилеп, башкаларды бүдөмүктөйт. Ким четте калды, кандай перспектива жетишпейт деп сура.
Купуялык жана колдонуучунун купуялыгы
Китепканачы кесиптин эң негизги этикалык принциптеринин бири – колдонуучунун купуялуулугу: адам эмнени окуйт, эмнени издейт жана ал кайсы предметке кызыгат, купуялуу болуп саналат. AI инструменттерине маалыматтарды киргизүү, айрыкча Интернет аркылуу иштеген, колдонуучулардын инсандыктарын, издөө таржымалын же алынган ресурстарды камтыган коомдук куралдар бул принципти бузуусу мүмкүн; анткени бул маалыматтар үчүнчү тараптын системаларына кетиши мүмкүн.
Ошо сыяктуу эле, уюмда жашыруун эмес, бирок купуя документтер (персоналдык маалымат, келишимдер, ички кат алышуулар) жалпы AI куралына жүктөлбөшү керек. Маалыматтын бул түрү үчүн мекеменин өзүнүн коопсуз, жабык тутумунда иштеген куралдар тандалат.
Кеңеш: AIга кандайдыр бир маалыматты киргизүүдөн мурун, "Бул маалымат ачыкпы?" сура. Жооп жок болсо же ишенбесеңиз, ал маалыматты жекелештирилбеген, анонимдүү форматка коюңуз же мекеме тарабынан бекитилген коопсуз куралдарды гана колдонуңуз.
үч мини учурлар
1-жагдай — 400 документ үчүн метаберилиштердин долбоору. Университеттин китепканасы профессор белек кылган 400 документтен турган архивди каталогдоштуруусу керек болчу. Эксперт AI менен ар бир документтин биринчи барагынан долбоордун аталышын, күнүн жана темасынын сунушун чыгарды: бир документке орточо убакыт 12 мүнөттөн 4 мүнөткө чейин кыскарды. Ал эми ар бир долбоор изи баштапкы документ менен салыштырылган жана эксперт тарабынан жактырылган; Бул кадамда AI тарабынан түзүлгөн 17 туура эмес даталар кармалды.
2-жагдай - Жасалма булак кармалды. Кеңеш берүүчү китепканачы бакалаврдын студенти үчүн "климаттык миграция" боюнча ресурстарды издөөдө YZден 6 макала сунушун алды. Китепканачы алардын бардыгын мекеменин маалымат базасынан издеди: 6 макаланын 2си такыр жок экен. Текшерүү кадамы студентке жасалма булак берилишине жол бербейт.
3-жагдай — Купуялуулуктун бузулушуна бөгөт коюлду. Китепкана текшерүү жазууларынан "кайсы колдонуучу кайсы темага кызыкдар экенин" талдоо үчүн жалпы AI куралын колдонууну карап чыкты. Маалымат менеджери бул маалыматтар колдонуучунун ID менен чыгуусу купуялуулуктун бузулушу болорун түшүндү; маалыматтар адегенде анонимдүү жана жалпыланган, идентификациядан ажыратылган статистика катары гана иштетилген.
Көчүрүү үчүн төрт шаблон
1) ролдорду жана чектерди аныктоону баштоо:
Сиздин ролуңуз: тажрыйбалуу жардамчы каталогдоо жана маалыматты башкаруу боюнча адис. Сиздин милдет: мен сизге берген булактагы маалымат боюнча долбоорду иштеп чыгуу. Эрежелер: (1) Мен берген тексттеги маалыматты гана колдонуңуз, өзүңүздүн маалыматыңызды кошпоңуз. (2) Ишенбесеңиз, "[текшерилиши керек]" деп белгилеңиз. (3) Эч кандай даталарды, ысымдарды же издерди жасабаңыз. Түшүнсөңүз, баштаңыз. Булак: [бул жерде]
2) Валидация текшерүү суроосу:
Төмөндөгү текстте ар бир фактылык дооматты (датасы, аты, номери, булактан алынган шилтеме) тизмектеңиз. Ар бири үчүн: бул маалыматты тексттин кайсы жеринен алдыңыз? Эгерде текстте так болбосо, "текстте жок" деп жазыңыз. Текст: [бул жерде]
3) бир жактуу жана жетишпеген перспективаларды текшерүү:
Төмөнкү корутунду/сунуш кайсы перспективаларды баса белгилейт жана кайсынысын четке кагат? Кандай топтор, аймактар же көрүнүштөр жок болушу мүмкүн? Текстке гана таяныңыз, божомол кылбаңыз. Текст: [бул жерде]
4) Купуялыкты алдын ала текшерүү:
Төмөнкү текст жеке маалыматтарды (аты-жөнү, ID номери, байланыш, окуу/издөө таржымалы) же купуя корпоративдик маалыматты камтыйбы? Эгер ошондой болсо, аны тизмелеп, аны кантип анонимдүү кылууну сунуштаңыз. Текст: [бул жерде]
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Мага бул тема боюнча кээ бир ресурстарды табыңыз.
Бул чакырык жасалма ресурстарды түзүүгө AI чакырат. Ролдор, чектер, текшерүү эрежелери жана ресурстары жок. AI ишенүүгө татыктуу, бирок жок тегдерди чыгара алат.
Күчтүү билдирүү:
Сиздин ролуңуз: китепканачы жардамчысы. Төмөндө мен берген каталог жазууларынан "климаттык миграция" предметине тиешелүү болгондорун тандап, алардын эмне үчүн актуалдуу экенин түшүндүрүңүз. Тизмеде жок булактарды кошпогула, жасалма булактарды чыгарбагыла. Ишенбесеңиз, "тизмеге ылайыктуу булактар жок" деп айтыңыз. Каталог жазуулары: [бул жерде]
Айырма ачык: күчтүү ыкчам интеллектти өзүнүн эс-тутумунан эмес, берилген реалдуу булактан иштөөгө мажбурлайт жана ойлоп табуунун алдын алат.
Катмар жана жоопкерчилик үстөлү
бизнес катмары
үлгү тапшырма
AI ролу
адамдын чечими
механикалык
Долбоор метаберилиштер, корутунду, котормо
Долбоорлорду тез чыгарат
текшерүү, бекитүү
квазисоттук
Теманын аталышы, булак сунушу
сунуштарды сунуш кылат
Саясат боюнча тандоо
таза сот
Аутентификация, автордук укук боюнча чечим
Алдын ала маалымат гана
Толук жоопкерчилик адамда
Жалпы каталар
- Булак үчүн AI чыгарууну алмаштыруу. AI бул ресурс эмес, жардамчы; Ар бир чыгуу тастыкталган.
- Ойдон чыгарылган булакты ынандырарлык деп кабыл алуу. Бул жакшы көрүнгөндүктөн, бул туура дегенди билдирбейт.
- Коомдук куралга жеке/сезимтал маалыматтарды киргизүү. Колдонуучунун купуялыгы жана корпоративдик купуялуулук башынан эле сакталат.
- Керектүүлүккө көңүл бурбоо. AI үйрөтүлгөн маалыматтардын перспективаларын камтыйт; Эмне жетишпей жатканын сура.
- Чечүүнү AIга калтыруу. Тактык, автордук укук жана купуялык чечимдери адамдарга таандык.
Кыскача айтканда
жасалма интеллект; Бул китепканачылыкта жана маалыматты башкарууда жыйынтыктоо, долбоорлоо, которуу жана үлгү белгилөө үчүн күчтүү жардамчы. Бул механикалык жумуштарда көп убакытты үнөмдөйт; квазисоттук маселелер боюнча кеңештерди берет; Бирок тактыгын текшерүү, булактын ишенимдүүлүгү, колдонуучунун купуялуулугу жана этикалык чечимдер адамдарга таандык. Галлюцинация - бул кесип үчүн эң чоң коркунуч: эч кандай булактан алынган кредиттер же цитаталар текшерилбестен колдонулбайт. Так ролу, чек арасы жана валидация эрежелери менен AI иштетиңиз; Ар бир критикалык жыйынтыкты көз карандысыз булак менен ырастаңыз.
Колдонмо тапшырмасы
Өзүңүздүн тармактан чыныгы теманы тандаңыз. AIдан ошол тема боюнча 5 ресурстук сунушту сураңыз, андан кийин ар бирин чыныгы каталогдон же маалымат базасынан издеңиз жана алардын канчасы бар экенин белгилеңиз. Андан кийин, "Ролдорду жана чектерди аныктоочу стартап" шаблону менен AIга сиз берген тексттен гана иштөөнү айтыңыз жана эки ыкманын натыйжасын салыштырыңыз. Кайсы ыкма туура келбей турганын жазыңыз.
текшерүү тизмеси
- [ ] Милдет кайсы катмарда (механикалык, жарым-жартылай соттук, таза сот) экенин аныктадым.
- [ ] "Эгер бул чыгаруу туура эмес болсо эмне болот?" деген суроону бердим.
- [ ] Мен ар бир кредитти жана шилтемени көз карандысыз булактан текшерип чыктым.
- [ ] Мен AIга кирген маалыматтарда жеке/купуя маалымат жок экенин текшердим.
- [ ] Мен акыркы чечимди жана жоопкерчиликти өз каалоомдо калтырдым.