Nyereség:
- A mesterséges intelligencia hol takarít meg valós időt az újságírás munkafolyamatában (átírás, első vázlat, szkennelés, fordítás), és hol marad az újságíróra a döntés, például a pontosság megítélése és a forrásvédelem, a feladat kockázati szintjétől függően.
- Képes olyan diszciplínát alkalmazni, amely minden mesterséges intelligencia kimenetet az elsődleges forráshoz való kapcsolással, a másodlagos forrással való megerősítésével és a szám manuális ellenőrzésével ellenőrzi.
- Képes felismerni a hallucináció és az elfogultság határait, és elsajátítani az anonimizálási és metaadat-tisztítási reflexet, mielőtt érzékeny dokumentumokat és erőforrásokat adna a mesterséges intelligenciának
Az újságírás új partnere: A mesterséges intelligencia szerepei, korlátai és ellenőrzési reflexe
A híradóban az idő a legszűkebb erőforrás. A riporter visszatér a terepre, két órányi hangfelvétellel, negyvenoldalas mérleggel és tizenöt lapos böngészési előzményekkel; A szerkesztő azt mondja: "Fél óra múlva kell egy hely." Ez a nyomás a fő oka annak, hogy a mesterséges intelligencia (AI) – olyan számítógépes programok, amelyek képesek megérteni az emberi nyelvet, és olyan eredményeket hoznak létre, mint például szövegek, összefoglalók, fordítások és osztályozások – gyorsan teret hódít az újságírásban. Az AI percekre csökkenti az ismétlődő és időigényes feladatokat (átírás, első piszkozat, hosszú dokumentumok beolvasása, fordítás). De az újságírás egy olyan szakma, ahol nagyon kicsi a hibahatár: egy hamis név, egy koholt idézet, egy megalapozatlan állítás, ha közzéteszik, az ember életére és a kiadvány hírnevére is árthat. Éppen ezért a modul legelső mondata: Az AI nem dönt a riporter helyett; vázlatok, sebességek, pásztázások – de mindig az újságíró feladata, hogy ellenőrizze az igazságot, megvédje a forrást, és eldöntse, mi kerüljön adásba.
Ez az első egység három alapot hoz létre: megkülönbözteti, hogy az AI hol takarít meg valós időt az újságírás munkafolyamatában, és hol kell abbahagynia; reflex minden kimenet ellenőrzésére; a forrás és az érzékeny adatok védelme. Ez a három az összes további egység biztonsági alapja.
Hol gyorsul a mesterséges intelligencia, hol az újságíróé a döntés?
Segít a jelentési feladatok kockázati tengelyen való gondolkodásában. A kockázat az, hogy mennyi kárt okoz a nyilvánosságnak, a forrásnak és a kiadványnak, ha valamit rosszul csinálnak.
Alacsony kockázatú feladatok, amelyeket a mesterséges intelligencia jelentősen felgyorsít: hangfelvétel nyers átiratának kinyerése, hosszú jelentés főcímeinek beolvasása, hír első vázlatának megírása, tíz alternatíva generálása a címsorhoz, szöveg átcsomagolása különböző platformokra, idegen dokumentum nyers fordításának beszerzése, szembetűnő minták listázása egy nagy adattáblázatban. Itt az AI megoldja az „üres oldal” és a „veremrostálás” problémát; Az újságíró javít, válogat, gazdagít.
Magas kockázatú feladatok, ahol a döntést az újságíróra bízzák: Állítás „valósnak” nyilvánítása, idézet közzététele, valakit vádoló nyilatkozattétel, dokumentum valódiságának megítélése, forrás kilétét tartalmazó információ feldolgozása, közérdek-magánélet egyensúly megteremtése. Ezek a döntések befolyásolják az emberek hírnevét és biztonságát; A felelősség és a végső szó mindig az újságíróé. Itt az MI legfeljebb hipotézist vagy ellenőrző listát javasol, nem tud ítéletet mondani.
Figyelem: "Így összefoglalva az AI" nem hír indok. Az állítás forrása, az idézet igazságtartalma vagy egy dokumentum hitelessége hozzáértő újságíró megerősítése nélkül nem publikálható. A meg nem erősített mesterségesintelligencia-kimenet olyan, mint egy egyforrású pletyka – lehet, hogy igaz, de szüksége van egy második forrásra, mielőtt élesbe léphet.
Miért szükséges az ellenőrzés? Hallucináció és elfogultság
A mesterséges intelligencia nem úgy állít elő szöveget, hogy „tudja”, hanem „megjósolja a lehetséges szót”. Ezért néha rendkívül gördülékeny, de valójában helytelen információkat ad. Ezt nevezik hallucinációnak: nem létező bírósági határozat, kimondatlan idézet, hamis dátum, nem létező tudományos dolgozat, valódinak tűnő, de kitalált ügyszám. Ez végzetes az újságírás számára, mert egy koholt "forrás" összeomolja a hírt, és tagadáshoz vezet.
A második probléma az elfogultság: a mesterséges intelligencia képes megismételni a társadalmi mintákat abban a hatalmas szövegtömegben, amelyre betanították; szisztematikusan meghatározhat egy csoportot, régiót vagy véleményt negatívan vagy pozitívan. Ha egy riporter tudtán kívül ezt a keretet hozza a hírekbe, az objektivitás sérül.
E két korlát miatt javasoljuk, hogy minden egyes kimenetre egy négylépcsős ellenőrzési szabályt alkalmazzanak:
- Menj le a forráshoz. Térjen vissza az eredeti dokumentumhoz, rekordhoz vagy elsődleges forráshoz minden olyan tényhez, névhez, dátumhoz, számhoz és idézethez, amelyet az AI szolgáltat. Az AI a megtestesítő; Ez nem bizonyíték.
- Keress egy második forrást. A jelentéstétel szabálya nem változik a mesterséges intelligencia esetében: a kritikai állítást legalább két független forrás igazolja.
- Ellenőrizze a számot manuálisan. A nyers adatokból számítson újra minden numerikus kimenetet, például százalékot, összeget, arányt stb.
- Vállalj felelősséget. Abban a pillanatban, amikor jóváhagyja a kiadványt, ez a mondat a tiéd; A hiba az aláírásodban is van.
Erőforrásvédelem: magánélet a kezdetektől fogva
Az újságírásban a forrásvédelem az adatközlő személyazonosságának titokban tartásának elve, és a legtöbb országban törvényes jog; Egy riporternek ez becsületbeli ügy a szakmában. Az informátor nevének, tartózkodási helyének, az általa küldött dokumentum személyazonosságának nyomai vagy olyan adatok beírása, amelyek lehetővé teszik, hogy egy nyilvános mesterségesintelligencia-eszközbe elérjék, azonnal megsérti ezt a védelmet. Számos ingyenes AI-eszköz képes tárolni a beírt szöveget, vagy felhasználni a modellképzésben; Így kikerül az adatok ellenőrzése alól.
A szabály egyszerű: először anonimizálja, és kivonja az érzékeny adatokat. A forrás neve, telefonszáma, munkahelye és a dokumentumban szereplő metaadatok (szerző, dátum, helyinformációk fájlba ágyazva) törlődnek anélkül, hogy az MI-hez fordulnának. Távolítsa el az azonosító sorokat a dokumentum kivonatolása előtt; általánosítson olyan embereket, mint "A forrás", "egy köztisztviselő" stb. Érzékeny fájlokhoz, ha lehetséges, válasszon offline vagy vállalati eszközöket adatfeldolgozási garanciával. Ezt az elvet elmélyítjük a 10. egységben; Legyen ez most reflex.
Tipp: Mielőtt feltöltene egy dokumentumot az AI-ba, törölje a metaadatokat, és keressen a szövegben névre, telefonszámra, címre vagy intézményre. Még a legapróbb részletet is ki kell hagyni, amely megadja a forrást (dátum, szobaleírás).
három mini tok
1. eset – Készített ügyirat. Egy bírósági riporter precedens összefoglalót kért az YZ-től. YZ meggyőző nyelvezeten adta meg három „Legfelsőbb Bírósági határozat” számmal együtt. A riporter átfutotta a számokat a hivatalos határozatkereső rendszeren: a háromból kettő egyáltalán nem volt elérhető. Ha ellenőrzés nélkül használta volna, egy koholt precedens alapján egy hír jelent meg. Az ellenőrzési lépés biztosította, hogy csak az egyetlen létező határozatot használja; A hír 20 perces késéssel jelent meg, de szilárd.
2. eset – Időmegtakarítás az átírás során. Egy nyomozócsoport általában körülbelül 40 órát tölt el 14 órányi találkozó felvételének manuális dekódolásával. AI-alapú átírással a nyers szöveg 2 óra alatt lett kiadva; A csapat a hátralévő időt a 6 kritikus szövegrész kijavításával és a kontextus megállapításával töltötte a felvételhez képest. A teljes idő 40 óráról ~9 órára csökkent; A pontosság nem csökkent, mert az újságíró manuálisan javította ki a név- és számhibákat a nyers átiratban.
3. eset – Erőforrás-védő reflex. Egy riporter, miközben megpróbált konzultálni az AI-val egy közalkalmazott helyzetéről, aki kiszivárogtatott neki egy dokumentumot, a dokumentumot úgy akarta beilleszteni, ahogy volt. Küldés nélkül vette észre; megtisztította a dokumentum metaadatait, eltávolította az aláírást és az egység nevét, általánosította a személyt "egy intézmény alkalmazottjaként". Kiadói-stratégiai ötletei ismét beváltak; de nyoma sem bukkant fel, amely elárulta volna a forrást.
Másolható sablonok
1) A feladat szétválasztása kockázati szint szerint:
Az Ön szerepe: újságíró alszerkesztői asszisztense. Ossza két listára a következő jelentéskészítési feladatokat: (A) alacsony kockázatú munkák, ahol az MI magabiztosan tud vázlatot/összefoglalót készíteni, (B) magas kockázatú munkák, ahol a végső döntést az újságírónak kell meghoznia. Minden feladathoz írjon egy mondatos indoklást! Feladatok: [illessze be saját heti feladatait]
2) Hallucinációvadászat:
Sorolja fel az alábbi szövegben említett tényeket, nevet, dátumot, számot, idézetet és forráselemet. Mindegyiket címkézze fel, hogy "elsődleges forrásból kell ellenőrizni", és javasolja, hogy melyik dokumentumot/rekordot kell keresni. Ne mondj IGAZ-t saját tudásod alapján; Csak arra következtet, amit ellenőrizni kell. Szöveg: [itt]
3) Anonimizálás előzetes ellenőrzése:
Az alábbi szöveg közzététele előtt jelölje meg azokat az elemeket, amelyek megadhatják a forrást: név, cím, intézmény, hely, dátum, felismerhető részlet. Javasoljon biztonságosabb általánosítást minden egyes zászlóhoz (pl. „köztisztviselő”). Ne változtasd meg a szöveget, csak jelentsd a kockázatokat. Szöveg: [itt]
4) Szerkesztői ellenőrző lista:
Értékelni fog egy hírtervezetet. Sorolja fel a hiányosságokat a következő címsorok alatt: (1) egy forrásból származó állítások, (2) ellenőrizetlen számok, (3) idézetek tisztázatlan tulajdonítással, (4) olyan helyek, ahol a felek nem kaptak felszólalási jogot, (5) olyan mondatok, ahol a következtetés és a tény keveredik. Csak készítsen egy ellenőrző listát, ne írja át a híreket. Vázlat: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: "Írjon hírt ebből a dokumentumból."
Eredmény: A mesterséges intelligencia lyukakat szúr be, nem tulajdonított állításokat állít elő, és olyan kontextust ad hozzá, amely nem szerepel a dokumentumban. Az újságíró nem tud különbséget tenni aközött, hogy mi dokumentum és mi kitaláció.
Hatékony felszólítás: "A hír vázát CSAK a következő dokumentum alapján készítse el. Minden mondat mellett jelölje be, hogy a dokumentum melyik bekezdésén alapul, például [P3]. Ne adjon hozzá olyan információt, amely nem szerepel a dokumentumban; hagyja üresen a hiányzó részeket, mint "[ellenőrizni kell]". Dokumentum: [itt]"
A különbség: Az erőteljes prompt összekapcsolja az MI-t a dokumentummal, így minden követelés nyomon követhetővé válik, és láthatóvá teszi a hallucinációt. Az újságíró tudja, melyik mondatot kell megerősítenie.
összehasonlító táblázat
Quest
Az AI szerepe
Döntés/felelősség
Kötelező ellenőrzés
Hangfelvétel átírása
Nyers szöveget generál
Kritikus részek vannak az újságíróban
Hasonlítsa össze a nevet/számot a rekorddal
Hosszú dokumentum szkennelés
Címet és összefoglalót hoz létre
Hogy mi újság, az az újságírón múlik
Menj vissza az eredeti bekezdéshez
Első írástervezet
Csontvázat és nyelvet javasol
Az idézetek és tények az újságírónál vannak
Minden állítást csatoljon a forráshoz
Idézet kiválasztása
A névelő mondatok jelei
Újságírói publikáció
Szó szerinti megerősítés a jegyzőkönyvből
Forrás/dokumentum feldolgozás
(korlátozott) segítségnyújtás
Identitásvédelem újságíróknak
Metaadat- és névtisztítás
Gyakori hibák
- Az AI kimenet összetévesztése egy forrással. Az AI egy huzatgenerátor, nem egy erőforrás; A tény közzététele az elsődleges dokumentumból történő megerősítés nélkül tagadáshoz vezet.
- Az érzékeny dokumentum beillesztése úgy, ahogy van. Egyetlen dokumentum sem kerülhet nyilvános eszközbe a forrást megadó metaadatok és nevek törlése nélkül.
- A „két erőforrás” szabály megkerülése AI-val. Az AI összefoglalója egyetlen forrás; A kritikus állítás ismét két független megerősítést igényel.
- Bízva a számokban. A mesterséges intelligencia gyakran rosszul számítja ki a százalékokat és az összegeket; tesztelje újra az egyes számokat a nyers adatokból.
- Nem ismeri fel az elfogultságot. A mesterséges intelligencia keretrendszerének megkérdőjelezés nélküli átvétele és a hírek nyelvére való átvitele megzavarja az objektivitást.
Összefoglalva
Ebben az egységben a mesterséges intelligenciát asszisztensként pozícionáljuk a riportálásban: felgyorsítja az ismétlődő és tömeges rostálási feladatokat, de az újságírónak kell eldöntenie az igazságot, közzétenni az idézetet és megvédeni a forrást. A hallucináció és az elfogultság a két fő korlát; Ezekkel szemben minden kimenetre érvényes a négylépcsős ellenőrzési fegyelem (forráshoz jutás, második forrás, szám ellenőrzése, felelősségvállalás) és a kezdetektől fogva az adatvédelmi reflex (anonimizálás, metaadatok tisztítása). A következő egységek erre a talajra kerülnek.
Pályázati feladat
Írjon fel 8 jelentéskészítési feladatot, amelyet az elmúlt héten végzett. Jelölje mindegyiket „alacsony kockázatú – a mesterséges intelligencia gyorsabbá teszi” vagy „nagy kockázatú – ez rajtam múlik”, és adjon hozzá egy mondatos indoklást. Ezután válasszon egyet, és alkalmazza a fenti „Hallucinációvadászat” promptot egy tényleges szövegre; Vegye figyelembe, hogy az AI-jelzőket ténylegesen hány állítást kell ellenőrizni.
ellenőrző lista
- [ ] A feladatot kockázati szint szerint tudom elkülöníteni; Ismerek olyan munkákat, ahol a döntés az újságíróra van bízva.
- [ ] Minden AI kimenetet az elsődleges forráshoz rendelek; Az AI-val nem kerülöm meg a „két erőforrás” szabályt.
- [ ] Ismerem a hallucinációk és az elfogultság kockázatát, és kézzel töröm össze a számokat.
- [ ] Megtisztítom a metaadatok és az identitás nyomait, mielőtt az érzékeny dokumentumot/erőforrást az MI-nek adom.
- [ ] Beláttam, hogy az "AI azt mondta" indoklás érvénytelen a sugárzáshoz.