Bölüm 4 / 11

Uly maglumatlary geçirmek: Terabaýt maglumatlary ileri tutmak

Girdeji:

  • Üçburçlygyň hiç zady pozmazdan synag tertibini kesgitlemegiň we emeli intellekt bilen semantik gözleg we mazmun toparlaryny ýerine ýetirip biljekdigine düşüniň.
  • Haş esasly ýok etmek (NSRL) we köpeltmek bilen sesleri azaltmak we bu usullaryň çäklerine gözegçilik etmek (ýekeje bit üýtgetmek);
  • Semantiki gözlegiň ýalan pozitiwlerini el bilen tassyklamak we üç taraplaýyn kararlary goramak üçin delil bilen resminama bermek

Häzirki zaman kazyýet derňewi diňe bir kompýuter bilen çäklenmeýär. Korporatiw hadysada onlarça disk, ýüzlerçe gigabaýt e-poçta arhiwi, bulut ätiýaçlyk nusgalary, söhbet programmalary we terabaýt faýllary bilen ýüzbe-ýüz bolup bilersiňiz. Olaryň hemmesini başyndan ahyryna çenli ýeke-ýekeden barlamak fiziki taýdan mümkin däl. Bu ýerde triage (lukmançylykdan alnan düşünje; çäkli çeşmeleri ilki bilen iň möhüm meselä bölmek, ýagny "ilki nämä seretmelidigini" çalt çözmek) durmuşa geçirilýär. Bu bölümde, AI-iň uly üýşmeleňleri nädip akyl taýdan ileri tutýandygyny, haýsy ýalňyşlyklara ýykgyn edýändigini we üçlügiň kazyýet bütewiligi bilen näderejede ýaraşýandygyny göreris.

Üçburçlyk näme üçin zerur?

Kompýuter kazyýet işinde iki hakykat gapma-garşy gelýär: (1) ähli subutnamalar gymmatly we hiç zady sypdyrmaly däl; (2) wagt we işçi güýji çäklidir. Nika, bu gapma-garşylygy çözýär - hiç zady pozmazlyk, diňe synag tertibini kesgitlemek arkaly. Başga sözler bilen aýdylanda, üçburçlyk "ýok etmek" däl-de, "ileri tutmak". Subutnamanyň ähtimallygy iň ýokary bolan maglumatlar ilki barlanýar; Pes ähtimallyk maglumatlary saklanýar, ýöne soň nobata gelýär.

Nikalaşmak iki derejede ýüze çykýar: janly üçburçluk (haýsy enjamy ilki surata düşürmelidigini kesgitlemek) we maglumatlar üçlügi (suratlar düşürilenden soň haýsy faýl / maglumat bazasy). AI ikinjisinde aýratyn güýçlidir, ýagny uly maglumat bazalarynyň mazmuna esaslanýan ileri tutulmagy.

Kazyýetiň kazyýet işine duýgur tarapy, sargyt karary derňewiň ugruny kesgitleýär. Nädogry ileri tutulýan topar, möhüm subutnamalaryň birnäçe hepde giç tapylmagyna ýa-da derňewiň gutarandygy sebäpli asla gözden geçirilmegine sebäp bolup biler. Şonuň üçin üçburçlyk "tizlik hilesi" däl-de, usulyýet kararydyr we beýleki kazyýet ädimleri ýaly delillendirilmelidir. Riskokary töwekgelçilikli ýagdaýlarda triage doly derňewiň ýerini tutmaýar; diňe haýsy bölegiň ilki bilen seredilýändigini kesgitleýär, tutuş toplumyň ahyrynda baha beriljekdigi ýörelgesini saklaýar.

Maslahat: Üçünji kararlaryňyzy we sebäplerini ýazga alyň. "Näme üçin ilki bu topara seretdik, näme üçin muny iň soňuna çenli goýduk?" Bu soragy kazyýetde berip bolar. AI-iň ileri tutulýan esaslaryny bu ýazga goşuň; Aç-açanlyk goraglylykdyr.

AI bilen mazmuna esaslanmak

Klassiki üçlük faýlyň adyna, ululygyna we senesine seredýär. AI munuň üçin kontekst düşünjesini goşýar: resminamanyň nämedigine, şekiliň nämedigine, söhbetiň äheňine düşünip biler. Şeýlelik bilen:

  • Semantiki gözleg - söz doly gabat gelmese-de manysyna meňzeş mazmuny tapmak: "Pul geçirmek" gözlegi "pul geçirişi", "iberiş", "töleg görkezmesi" ýaly resminamalary hem yzyna gaýtaryp berýär.
  • Mowzuk toparlanyşygy: Müňlerçe resminamany mowzuklara awtomatiki tertipleşdirmek (maliýe, kadr, tehniki, şahsy).
  • Duýgy / äheň belligi: Howp, howsala, şahsy durmuşyň bozulmagy ýaly heňleri berýän habarlary görkezmek.
  • Wizual triage: Müňlerçe suraty obýekt / sahna belligi boýunça toparlamak (kanuny çäklerde, meselem, diňe ygtyýarly we degişli mazmun).
  • Dublikat we gereksiz ýok etmek: Şol bir faýlyň we ulgam faýllarynyň köpeldilmegini aýyrmak (belli hash sanawlary bilen) we adam nazaryny hakykatdanam täze mazmuna gönükdirmek.

Belli faýl ýok etmek: NSRL we hash toplumlary

Uly maglumat üçlügi üçin iň amaly tizlendiriji gowy / erbet hash sanawlarydyr. NSRL (Milli programma üpjünçiligi salgylanma kitaphanasy) ýaly kitaphanalarda millionlarça standart operasiýa ulgamy we amaly faýl bar. Bu "belli gowy" faýllar üçlükde ýok edilýär, bu bolsa diňe ulanyjy tarapyndan döredilen we şübheli faýllara ünsi jemlemäge mümkinçilik berýär. Şonuň ýaly-da, "belli erbet" haslar (belli zyýanly programma üpjünçiligi) awtomatiki usulda bellik edilýär. AI bu manydan soň galan toparda oýnaýar, bu hakykatdanam many talap edýär.

Üns beriň: Haş esasly ýok etmek güýçli, ýöne biraz üýtgeşiklik hasany düýpgöter üýtgedýär. Adaty bir faýly azajyk üýtgedip, hüjümçi ony "belli gowy" sanawdan aýryp biler ýa-da tersine, erbet faýly gizläp biler. Inationok etmek mutlak däl, ileri tutulýan serişdedir.

üç sany kiçi halat

1-nji waka - Semantiki gözleg wagty 20-ä böldi. Içerki derňewde 480 Gb e-poçta tapyldy. Klassiki açar söz gözlegi "para" üçin 3 netijäni berdi. AI bilen işleýän semantik gözleg, şeýle hem “maslahat tölegi”, “aňsatlaşdyrmak”, “sag boluň töleg” ýaly efemizmleri özüne çekdi we 61 sany degişli habary çykardy. Syn hepdäniň ýerine 2 günüň içinde tamamlandy; Her bir netije el bilen tassyklandy.

2-nji hadysa - köpeltmek işçi güýjüni köpeltmek. 1,7 million faýl toparynda, hash esasly iki gezek arassalamak we NSRL ýok edilenden soň, gözden geçirmek üçin özboluşly ulanyjy faýllary 92,000-e çenli azaldyldy. Topar ulgamyň 95% sesi bolan üýşmeleňe däl-de, hakyky mazmuna ünsi jemledi.

3-nji hadysa - Özüňe aşa ynamyň bahasy. Bir topar AI-iň “maliýe däl” klasterini hiç wagt açmady. Görnüşi ýaly, şahsy surat albomynyň (steganografiýa däl, diňe nädogry bukja) içinde möhüm şertnama gizlenipdi. Pes ähmiýetli toparyň nusga alynmandygy sebäpli subutnamalar yza süýşürildi. Sapak: triage tertibi kesgitleýär, ekzameni ýatyrmaýar.

Göçürip boljak dört şablon

1) Üçburçlyk strategiýasynyň taslamasy:

Siziň wezipäňiz: kazyýet işiniň uly hünärmeni. Maglumatlar: 480GB e-poçta + 1.2TB faýl paýlaşmagy] .Sorag mowzugy: [mes. maglumatlaryň syzmagy + parahorluk] .Men üçin üçburçlyk strategiýasyny düzüň: haýsy topara haýsy tertibe, haýsy kriteriýalara seretmeli; Haş ýok etmek we semantik gözlegleri nädip ulanmaly. Hiç bir toparyň "ýatyrylmajakdygyna" ünsi çekiň, olar diňe tertiplener.

2) Gözlegiň manysyny giňeltmek:

Mowzuk: [para / maglumatlaryň syzmagy / azar bermek]. Bu mowzuk bilen baglanyşykly resminamalary tapmak üçin aç-açan / sinonim aňlatmalary (slang, kod kody, gytaklaýyn söz) goşmak bilen sözme-söz açyň. Maksat gözlegiň gerimini giňeltmek; Her termini kategoriýalaşdyryň.

3) Mazmuny toparlamak:

Size resminama atlaryny / gysgaça mazmunyny bererin. Olary manyly mowzuklara bölüň (maliýe, kadr, tehniki, hukuk, şahsy) we her resminama üçin tema + gysga esas beriň. Tema laýyk bolup bilmeýän "düşnüksiz" toparyny aýratyn belläň; Bu klaster atlanmaz, el bilen barlanar.

4) imatyrylandan soňky ileri tutulýan hasabat:

Belli gowy (NSRL) we dublikat faýllar ýok edilýär. Üýtgeşik ulanyjy faýllary üçin: derňew mowzugyna görä ýokary / orta / pes ähmiýet beriň we JUSTIFICATION ýazyň. Giňeldilen mazmunyň gabat gelmezligi, şifrlenen / parollanan faýllar we soňky 30 günde üýtgän faýllar hem görkezilýär.

Gowşak haýyş / Güýçli haýyş

Gowşak haýyş:

Bu maglumatlardan möhüm faýllary tapyň.

Mowzugyň, göwrümiň we ileri tutmagyň logikasy ýok; AI “möhüm” kesgitlemesi bilen möhüm mazmuny sypdyryp biler.

Güýçli haýyş:

Siziň roluňyz: kazyýet işiniň analitigi. Derňew: bir işgäri gitmezden ozal müşderileriň sanawyny syzdy. Size faýl meta-maglumatyny (ady, ululygy, senesi, uzaldylyşy, ýoly) we gysga mazmun gysgaça mazmuny bilen üpjün ederin. Wezipe: müşderiniň maglumatlaryny belläň, eksport / arhiw, bulut ýükleme yzy, USB / daşarky disk we soňky 60 günüň içinde üýtgedilen faýllary ileri tutuň; Her kararyň sebäplerini ýazyň. Haýsydyr bir toparyň gözden geçirilip bilinmejekdigini aýtmaň; diňe tertipläň. Näbellilikleri aýratyn sanaň.

Takyk mowzuk, maksatly ölçegler we "gözden geçirmezlik" çäklendirmesi netijäni hem ygtybarly edýär.

Durmuş usullaryny deňeşdirmek tablisasy

Usul

Näme edýär

güýçli nokat

töwekgelçiligi

Haşy ýok etmek (NSRL)

Belli faýly bölýär

Örän çalt, takyk

Üýtgedilen faýl gaçýar

Gaýtalama

Birin-birin göçürýär

Işçi güýji tygşytlamak

Closeakyn göçürmäni geçirip biler

açar söz

Takyk sözler üçin gözleg

Pleönekeý, eşidilýän

Göçme manyda sypdyrýar

Semantiki gözleg (AI)

Iň ýakyn manyny tapýar

Gümürtik mazmuny alýar

Falsealan pozitiw öndürýär

Mazmuny toparlamak (AI)

mowzuklara bölünýär

Gysgaça maglumat berýär

Nädogry mowzuk töwekgelçiligi

Adaty ýalňyşlyklar

  • Inationok etmek üçin ýalňyş üçburçlyk. Pes ähmiýet "gözden geçirilmeli däl"; nusga almak zerurdyr.
  • Haş ýok edilmegine düýbünden ynam. Bitekeje üýtgeşme hasany üýtgedýär; kritiki ýagdaý doly gözden geçirmegi talap edip biler.
  • Diňe açar söze bil baglamak. Gümürtik we kodlanan jümleler gaçýar; Semantiki gözleg bilen tamamlaň.
  • Semantiki gözlegiň ýalňyş polo positiveitelini tassyklamazlyk. AI ähmiýetsiz resminamany “baglanyşykly” hökmünde görkezip biler; Okaň we barlaň.
  • Üçburç esaslandyrmany resminamalaşdyrmazlyk. Kazyýetde "näme üçin ilki seretdiň?" Soraga jogap bolmaly.

Gysgaça

Uly maglumatlar üçlügi, çäkli wagty subutnamanyň iň ýokary ähtimallygyna gönükdirmek - hiç zady pozmazlyk, diňe tertibi kesgitlemek. AI; Semantiki gözlegde, mazmuny toparlamakda, äheňde bellik etmekde we ýok edilenden soň ileri tutmakda uly tizlik berýär. Emma bilermen, hash ýok etmegiň çäklerine, ýalan pozitiw / negatiw töwekgelçilige gözegçilik edýär we "pes ähmiýet berilmeýär" prinsipi. Üç taraplaýyn kararlary delillendirmek bilen resminamalaşdyrmak, netijäni kazyýetde goragly edýär.

Programma meselesi

30-40 setirden bir faýl metadata sanawyny (ady, ululygy, senesi, uzaldylyşy, gysgaça mazmuny) taýýarlaň; oňa birnäçe "ýalňyş" faýl goýuň (nädogry bukjadaky möhüm resminama, üýtgedilen giňeltme faýly). “Inationatyrylandan soňky ileri tutulýan hasabat” şablony bilen ileri tutuň, soňra AI-iň bir zady sypdyrandygyny ýa-da ýokdugyny anyklamak üçin pes ähmiýetli topardan azyndan 15% nusga alyň.

gözegçilik sanawy

  • [] Üçünji orny ileri tutdum; Men hiç bir klasteri ýatyrmadym.
  • [] Çäklerini ýatda saklap, heş ýok etmek we köpeltmek bilen sesi azaltdym.
  • [] Açar sözi semantik gözleg bilen tamamladym.
  • [] Semantiki / toparlaýyn çykyşyň ýalan pozitiwlerini el bilen tassykladym.
  • [] Üçünji kararlary we olaryň esaslaryny dokumentleşdirdim.