Ieguvumi:
- Spēja atšķirt, kur žurnālistikas darbplūsmā (transkripcija, pirmais melnraksts, skenēšana, tulkošana) mākslīgais intelekts ietaupa reālo laiku un kur tādus lēmumus kā precizitātes spriedums un avotu aizsardzība atstāj žurnālista ziņā atkarībā no uzdevuma riska līmeņa.
- Spēja piemērot disciplīnu, kas pārbauda katru AI izvadi, saistot to ar primāro avotu, apstiprinot to ar sekundāro avotu un manuāli pārbaudot numuru.
- Spēja atpazīt halucināciju un neobjektivitātes robežas un apgūt anonimizācijas un metadatu tīrīšanas refleksu pirms sensitīvu dokumentu un resursu piešķiršanas mākslīgajam intelektam
Jaunais žurnālistikas partneris: mākslīgā intelekta lomas, ierobežojumi un pārbaudes reflekss
Ziņu telpā laiks ir retākais resurss. Reportieris atgriežas no lauka, līdzi ņemot divas stundas ilgu audioierakstu, četrdesmit lappušu bilanci un piecpadsmit cilņu pārlūkošanas vēsturi; Redaktors saka: "Man vajag vietu pēc pusstundas." Šis spiediens ir galvenais iemesls, kāpēc mākslīgais intelekts (AI) — datorprogrammas, kas spēj saprast cilvēku valodu un radīt tādus rezultātus kā teksts, kopsavilkumi, tulkojumi un klasifikācijas — strauji iegūst vietu žurnālistikā. AI samazina atkārtotus un laikietilpīgus uzdevumus (transkripcija, pirmais melnraksts, gara dokumenta skenēšana, tulkošana) līdz minūtēm. Taču žurnālistika ir profesija, kur kļūdas robeža ir ļoti maza: viltus vārds, safabricēts citāts, nepamatots apgalvojums, kad tas tiek publicēts, var kaitēt gan cilvēka dzīvībai, gan izdevuma reputācijai. Tāpēc pats pirmais moduļa teikums ir šāds: AI nelemj reportiera vietā; melnraksti, ātrumi, skenēšana, taču žurnālista pienākums vienmēr ir pārbaudīt patiesību, aizsargāt avotu un izlemt, kas notiek ēterā.
Šī pirmā vienība nosaka trīs pamatus: nošķirt, kur AI ietaupa reālo laiku žurnālistikas darbplūsmā un kur tam vajadzētu apstāties; reflekss, lai pārbaudītu katru rezultātu; avota un sensitīvo datu aizsardzība. Šīs trīs ir visu turpmāko vienību drošības pamats.
Kur AI paātrinās, kur lēmums pieder žurnālistam?
Tas palīdz domāt par ziņošanas uzdevumiem uz riska ass. Risks ir tas, cik lielu kaitējumu tas nodarīs sabiedrībai, avotam un publikācijai, ja kaut kas tiks izdarīts nepareizi.
Zema riska uzdevumi, ko mākslīgais intelekts ievērojami paātrina: neapstrādāta audio ieraksta atšifrējuma iegūšana, gara ziņojuma galveno virsrakstu skenēšana, ziņu stāsta pirmā melnraksta rakstīšana, desmit alternatīvu ģenerēšana virsrakstam, teksta pārsaiņošana dažādām platformām, sveša dokumenta aptuvena tulkojuma iegūšana, būtisku modeļu uzskaitīšana lielā datu tabulā. Šeit AI atrisina “tukšas lapas” un “steku sijāšanas” problēmu; Žurnālists labo, atlasa, bagātina.
Augsta riska uzdevumi, kuros lēmums tiek atstāts žurnālista ziņā: apgalvojuma atzīšana par "patiesu", citāta publicēšana, paziņojuma sniegšana, apsūdzot kādu personu, spriests par dokumenta autentiskumu, avota identitāti saturošas informācijas apstrāde, sabiedrības interešu un privātuma līdzsvara noteikšana. Šie lēmumi ietekmē cilvēku reputāciju un drošību; Atbildība un pēdējais vārds vienmēr pieder žurnālistam. Šeit AI ne vairāk kā ierosina hipotēzi vai kontrolsarakstu, tas nevar pieņemt spriedumu.
Uzmanību: "AI apkopots šādi" nav ziņu iemesls. Pretenzijas avotu, citāta patiesumu vai dokumenta autentiskumu nevar publicēt bez kompetenta žurnālista apstiprinājuma. Neapstiprināta AI izvade ir kā viena avota baumas — tā var būt patiesība, taču tai ir nepieciešams otrs avots, lai to varētu sākt tiešsaistē.
Kāpēc ir nepieciešama pārbaude? Halucinācijas un aizspriedumi
AI veido tekstu, nevis "zinot", bet "paredzot iespējamo vārdu". Tāpēc dažreiz tas sniedz ārkārtīgi tekošu, bet faktiski nepareizu informāciju. To sauc par halucinācijām: tiesas lēmums, kas neeksistē, neizrunāts citāts, nepatiess datums, akadēmisks darbs, kas neeksistē, lietas numurs, kas šķiet īsts, bet ir izdomāts. Žurnālistikai tas ir liktenīgi, jo safabricēts "avots" sabrūk ziņas un noved pie noliegšanas.
Otra problēma ir neobjektivitāte: AI var atkārtot sociālos modeļus milzīgajā teksta daļā, uz kuru tas ir apmācīts; var sistemātiski formulēt grupu, reģionu vai viedokli negatīvi vai pozitīvi. Ja reportieris neapzināti ienes šo ietvaru ziņās, tiek sabojāta objektivitāte.
Šo divu ierobežojumu dēļ mēs piedāvājam četrpakāpju verifikācijas disciplīnu, kas jāpiemēro katrai izvadei:
- Dodieties uz leju līdz avotam. Atgriezieties pie sākotnējā dokumenta, ieraksta vai primārā avota, lai uzzinātu katru AI sniegto faktu, vārdu, datumu, numuru un citātu. AI ir iemiesojums; Tas nav pierādījums.
- Meklējiet otru avotu. Ziņošanas noteikums AI nemainās: kritisko apgalvojumu apstiprina vismaz divi neatkarīgi avoti.
- Pārbaudiet numuru manuāli. No neapstrādātajiem datiem pārrēķiniet katru skaitlisko izvadi, piemēram, procentus, kopsummu, attiecību utt.
- Uzņemties atbildību. Brīdī, kad apstiprināsit publikāciju, šis teikums pieder jums; Kļūda ir arī jūsu parakstā.
Resursu aizsardzība: privātums no paša sākuma
Žurnālistikā avotu aizsardzība ir princips, kas nodrošina informācijas sniedzēja identitātes konfidencialitāti un likumīgas tiesības lielākajā daļā valstu; Reportierim tas ir goda lieta profesijā. Publiskā mākslīgā intelekta rīkā ierakstot informatora vārdu, atrašanās vietu, viņa nosūtītā dokumenta identitātes pēdas vai informāciju, kas ļaus viņu sasniegt, šī aizsardzība uzreiz tiek pārkāpta. Daudzi bezmaksas AI rīki var saglabāt ievadīto tekstu vai izmantot to modeļu apmācībā; Tātad jūs izslēdzat datus no jūsu kontroles.
Noteikums ir vienkāršs: vispirms veiciet anonimitāti un izņemiet sensitīvus datus. Avota nosaukums, tālruņa numurs, darba vieta un metadati dokumentā (autors, datums, failā iegulta informācija par atrašanās vietu) tiek notīrīti, neapmeklējot AI. Pirms dokumenta jaukšanas noņemiet identifikācijas rindiņas; vispārināt cilvēkus, piemēram, "avots A", "valsts amatpersona" utt. Sensitīviem failiem, ja iespējams, izvēlieties bezsaistes vai korporatīvos rīkus ar datu apstrādes garantiju. Šo principu padziļināsim 10. nodaļā; Pagaidām padariet to par refleksu.
Padoms. Pirms dokumenta augšupielādes AI, notīriet metadatus un meklējiet tekstā vārdu, tālruni, adresi, iestādi. Jāizlaiž pat mazākā detaļa, kas atdotu avotu (datums, telpas apraksts).
trīs mini futrāļi
1. gadījums — izdomāts lietas ieraksts. Tiesas nama reportieris lūdza YZ sniegt precedenta kopsavilkumu. YZ to sniedza pārliecinošā valodā kopā ar trim "Augstākās tiesas lēmumu" cipariem. Reportieris izmantoja skaitļus, izmantojot oficiālo lēmumu meklēšanas sistēmu: divi no trim vispār nebija pieejami. Ja viņš to būtu izmantojis bez pārbaudes, ziņu stāsts būtu parādījies, pamatojoties uz safabricētu precedentu. Pārbaudes darbība nodrošināja, ka tiek izmantots tikai vienīgais esošais lēmums; Ziņas nāca klajā ar 20 minūšu nokavēšanos, bet pārliecinošas.
2. gadījums — laika ietaupījums transkripcijā. Izmeklēšanas grupa parasti pavada apmēram 40 stundas, manuāli atšifrējot 14 stundas sanāksmes video. Izmantojot uz AI balstītu transkripciju, neapstrādāts teksts tika izvadīts 2 stundu laikā; Komanda pavadīja atlikušo laiku, lai labotu 6 kritiskos fragmentus attiecībā pret ierakstu un noteiktu kontekstu. Kopējais laiks samazinājās no 40 stundām līdz ~ 9 stundām; Precizitāte nemazinājās, jo žurnāliste neapstrādātajā stenogrammā manuāli laboja nosaukuma un skaitļa kļūdas.
3. gadījums — Resursu aizsargājošs reflekss. Žurnālists, mēģinot konsultēties ar AI par valsts darbinieka situāciju, kurš viņam nopludināja dokumentu, grasījās ielīmēt dokumentu tādu, kāds tas bija. Viņš pamanīja, nesūtot; notīrīja dokumenta metadatus, noņēma parakstu un vienības nosaukumu, vispārināja personu kā "iestādes darbinieku". Viņa izdevējdarbības stratēģijas idejas atkal darbojās; bet neatradās nekādas pēdas, kas varētu atklāt avotu.
Kopējamas veidnes
1) Uzdevuma atdalīšana pēc riska līmeņa:
Jūsu loma: žurnālista apakšredakcijas palīgs. Sadaliet šādus ziņošanas uzdevumus divos sarakstos: (A) zema riska darbi, kuros mākslīgais intelekts var droši sagatavot īsu izklāstu/kopsavilkumu, (B) augsta riska darbi, kur galīgais lēmums jāpieņem žurnālistam. Katram uzdevumam uzrakstiet viena teikuma pamatojumu. Uzdevumi: [ielīmējiet savus iknedēļas uzdevumus]
2) Halucināciju medības:
Norādiet katru tālāk tekstā minēto faktu, vārdu, datumu, numuru, citātu un avota vienumu. Katrai no tām atzīmējiet "jāpārbauda no primārā avota" un iesakiet, kurš dokuments/ieraksts būtu jāmeklē. Nesakiet PATIESU, pamatojoties uz savām zināšanām; Tas tikai secina, kas ir jāpārbauda. Teksts: [šeit]
3) Anonimizācijas iepriekšēja pārbaude:
Pirms tālāk esošā teksta publicēšanas atzīmējiet visus elementus, kas varētu norādīt avotu: vārdu, nosaukumu, iestādi, atrašanās vietu, datumu, atpazīstamu informāciju. Iesakiet drošāku vispārinājumu katram karogam (piemēram, "valsts amatpersona"). Nemainiet tekstu, vienkārši ziņojiet par riskiem. Teksts: [šeit]
4) Redakcionālās verifikācijas kontrolsaraksts:
Jūs izvērtēsiet ziņu melnrakstu. Uzskaitiet trūkumus šādos virsrakstos: (1) apgalvojumi par vienu avotu, (2) nepārbaudīti skaitļi, (3) citāti ar neskaidru attiecinājumu, (4) vietas, kur pusēm netika dotas tiesības izteikties, (5) teikumi, kuros ir sajaukti secinājumi un fakti. Vienkārši izveidojiet kontrolsarakstu, nepārrakstiet ziņas. Melnraksts: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne: "Uzrakstiet ziņu stāstu no šī dokumenta."
Rezultāts: AI ievada caurumus, rada neattiecinātas pretenzijas, pievieno kontekstu, kas nav dokumentā. Žurnālists nevar atšķirt, kas ir dokuments un kas ir izdomājums.
Spēcīga uzvedne: "Izveidojiet ziņu stāsta skeletu, pamatojoties TIKAI uz šo dokumentu. Blakus katram teikumam atzīmējiet, uz kuru dokumenta rindkopu tas ir balstīts, piemēram, [P3]. Nepievienojiet nekādu informāciju, kas nav dokumentā; atstājiet trūkstošās daļas tukšas kā "[jāpārbauda]". Dokuments: [šeit]."
Atšķirība: jaudīgā uzvedne saista AI ar dokumentu, padarot katru prasību izsekojamu un padarot halucinācijas redzamas. Žurnālists zina, kuru teikumu apstiprināt.
salīdzināšanas diagramma
Meklējumi
AI loma
Lēmums/atbildība
Obligāta pārbaude
Balss ieraksta transkripcija
Ģenerē neapstrādātu tekstu
Kritiskie fragmenti ir žurnālistā
Salīdziniet vārdu/numuru ar ierakstu
Ilga dokumentu skenēšana
Izveido virsrakstu un kopsavilkumu
Kas par jaunumiem, lai paliek žurnālista ziņā
Atgriezieties pie sākotnējās rindkopas
Pirmais melnraksts
Iesaka skeletu un valodu
Citas un fakti ir pie žurnālista
Saistiet katru pretenziju ar avotu
Citāti izvēle
Nominatīvu teikumu zīmes
Žurnālista publikācija
Burtisks apstiprinājums no protokola
Avotu/dokumentu apstrāde
(ierobežota) palīdzība
Žurnālistu identitātes aizsardzība
Metadatu un nosaukumu tīrīšana
Biežas kļūdas
- AI izvades jaukšana ar avotu. AI ir melnrakstu ģenerators, nevis resurss; Fakta publicēšana, neapstiprinot to no primārā dokumenta, noved pie noliegšanas.
- Sensitīvā dokumenta ielīmēšana, kāda tā ir. Nevienam dokumentam nevajadzētu iekļūt publiskajā rīkā, neizdzēšot metadatus un nosaukumus, kas norāda avotu.
- "Divu resursu" noteikuma apiešana ar AI. AI apkopojums ir viens avots; Kritiskajam apgalvojumam atkal ir nepieciešami divi neatkarīgi apstiprinājumi.
- Uzticoties skaitļiem. AI bieži nepareizi aprēķina procentus un kopsummas; atkārtoti pārbaudiet katru skaitli no neapstrādātajiem datiem.
- Neatzīst neobjektivitāti. AI ietvara pārņemšana bez apšaubīšanas un pārnešana uz ziņu valodu izjauc objektivitāti.
Rezumējot
Šajā nodaļā AI pozicionējam kā reportāžas palīgu: tas paātrina atkārtotus un masveida sijāšanas uzdevumus, taču žurnālista ziņā ir izlemt patiesību, publicēt citātu un aizsargāt avotu. Halucinācijas un aizspriedumi ir divi galvenie ierobežojumi; Pret tiem katrai izvadei tiek piemērota četrpakāpju verifikācijas disciplīna (nokļūstiet avotā, otrajā avotā, pārbaudiet numuru, uzņemieties atbildību) un privātuma refleksu no paša sākuma (anonimizējiet, notīriet metadatus). Uz šīs zemes tiks uzstādītas nākamās vienības.
Lietojumprogrammas uzdevums
Pierakstiet 8 atskaites uzdevumus, ko veicāt pagājušajā nedēļā. Atzīmējiet katru kā “zems risks — AI padara to ātrāku” vai “augsts risks — tas ir atkarīgs no manis” un pievienojiet viena teikuma pamatojumu. Pēc tam izvēlieties vienu un piemērojiet iepriekš minēto uzvedni “Halucināciju medības” faktiskajam tekstam; Ņemiet vērā, cik daudz apgalvojumu AI karodziņi faktiski ir jāpārbauda.
kontrolsaraksts
- [ ] Es varu nodalīt uzdevumu pēc riska līmeņa; Zinu darbus, kur lēmums atstāts žurnālista ziņā.
- [ ] Es attiecinu katru AI izvadi uz primāro avotu; Ar AI es neievēroju "divu resursu" noteikumu.
- [ ] Es zinu halucināciju un neobjektivitātes risku, un skaitļus sasmalcinu ar roku.
- [ ] Es notīru visas metadatu un identitātes pēdas pirms sensitīvā dokumenta/resursa nodošanas AI.
- [ ] Esmu internalizējis, ka pamatojums "AI teica" apraidei nav derīgs.