Добици:
- Бити у стању да разликује где у току новинарског посла (транскрипција, први нацрт, скенирање, превод) вештачка интелигенција штеди реално време, а где су одлуке као што су тачност процене и заштита извора препуштене новинару, у зависности од нивоа ризика задатка
- Способност примене дисциплине која верификује сваки излаз АИ тако што га повезује са примарним извором, потврђује га са секундарним извором и ручно проверава број.
- Способност препознавања граница халуцинација и пристрасности и стицања рефлекса анонимизације и чишћења метаподатака пре давања осетљивих докумената и ресурса вештачкој интелигенцији
Нови партнер новинарства: улоге, границе и рефлекс верификације вештачке интелигенције
У редакцији, време је најоскуднији ресурс. Репортер се враћа са терена, носећи два сата аудио записа, биланс стања од четрдесет страница и историју прегледача од петнаест картица; Уредник каже: "Треба ми место за пола сата." Овај притисак је главни разлог зашто вештачка интелигенција (АИ) — компјутерски програми који могу да разумеју људски језик и производе резултате као што су текст, резимеи, преводи и класификације — брзо добија на популарности у новинарству. АИ смањује задатке који се понављају и одузимају време (транскрипција, прва верзија, скенирање дугог документа, превод) на минуте. Али новинарство је професија у којој је граница грешке веома мала: лажно име, измишљени цитат, непоткрепљена тврдња, када се објаве, могу да нашкоде и животу особе и угледу публикације. Зато је прва реченица модула: АИ не одлучује за репортера; нацрти, брзине, скенирање—али посао новинара је увек да провери истину, заштити извор и одлучи шта ће се емитовати.
Ова прва јединица успоставља три основе: разликовање где АИ штеди реално време у току новинарског посла и где треба да се заустави; рефлекс за верификацију сваког излаза; заштита изворних и осетљивих података. Ова три су основна безбедносна основа за све наредне јединице.
Где се АИ убрзава, где одлука припада новинару?
Помаже размишљање о задацима извештавања на оси ризика. Ризик је колику штету ће нанети јавности, извору и публикацији ако се нешто уради погрешно.
Задаци ниског ризика које АИ много убрзава: издвајање сировог транскрипта аудио снимка, скенирање главних наслова дугог извештаја, писање прве верзије вести, генерисање десет алтернатива за наслов, препаковање текста за различите платформе, добијање грубог превода страног документа, навођење истакнутих образаца у великој табели података. Овде АИ решава проблем „празне странице“ и „просијавања стекова“; Новинар коригује, бира, обогаћује.
Задаци високог ризика где је одлука препуштена новинару: Проглашавање тврдње „тачном“, објављивање цитата, изјава којом се некога оптужује, процена аутентичности документа, обрада информација које садрже идентитет извора, успостављање равнотеже јавног интереса и приватности. Ове одлуке утичу на углед и безбедност људи; Одговорност и последња реч увек припада новинару. Овде, АИ највише сугерише хипотезу или контролну листу, не може донети суд.
Пажња: „АИ овако сажето“ није разлог за вест. Извор тврдње, истинитост цитата или аутентичност документа не може се објавити без потврде надлежног новинара. Непотврђени излаз вештачке интелигенције је као гласина о једном извору – можда је истина, али му је потребан други извор пре него што се објави.
Зашто је верификација неопходна? Халуцинације и пристрасност
АИ производи текст не „знајући“ већ „предвиђањем могуће речи“. Зато понекад даје изузетно течне, али заправо нетачне информације. Ово се зове халуцинација: судска одлука која не постоји, неизговорени цитат, лажни датум, академски рад који не постоји, број предмета који изгледа као стваран, али је измишљен. Ово је погубно за новинарство, јер измишљени „извор“ урушава вест и доводи до демантија.
Други проблем је пристрасност: вештачка интелигенција може да понови друштвене обрасце у огромном корпусу текста на коме је обучена; може систематски уобличити групу, регион или мишљење негативно или позитивно. Ако репортер несвесно унесе овај оквир у вести, објективност је нарушена.
Због ова два ограничења, предлажемо дисциплину верификације у четири корака која ће се применити на сваки излаз:
- Иди доле до извора. Вратите се на оригинални документ, запис или примарни извор за сваку чињеницу, име, датум, број и цитат које АИ пружи. АИ је оличење; То није доказ.
- Потражите други извор. Правило извештавања се не мења са АИ: критичку тврдњу потврђују најмање два независна извора.
- Проверите број ручно. Поново израчунајте сваки нумерички излаз као што су проценат, укупан, однос итд. из необрађених података.
- Преузми одговорност. У тренутку када одобрите објављивање, та реченица је ваша; Грешка је такође у вашем потпису.
Заштита ресурса: приватност од самог почетка
У новинарству, заштита извора је принцип чувања поверљивости идентитета доушника и законско право у већини земаља; За репортера је то питање части у професији. Писање имена доушника, локације, трагова идентитета документа који је послао или детаља који ће му омогућити да се допре до јавног АИ алата тренутно крши ову заштиту. Многи бесплатни АИ алати могу да чувају текст који унесете или да га користе у обуци модела; Дакле, стављате податке ван своје контроле.
Правило је једноставно: прво анонимизујте и извуците осетљиве податке. Име извора, број телефона, место запослења и метаподаци у документу (аутор, датум, информације о локацији уграђене у датотеку) се бришу без одласка у АИ. Уклоните идентификационе линије пре хеширања документа; генерализујте људе као што су „Извор А“, „јавни службеник“ итд. За осетљиве датотеке, ако је могуће, изаберите офлајн или корпоративне алате са гаранцијом за обраду података. Овај принцип ћемо продубити у јединици 10; Нека то буде рефлекс за сада.
Савет: Пре него што отпремите документ у АИ, обришите метаподатке и претражите текст за име, телефон, адресу, институцију. Чак и најмањи детаљ који би одавао извор (датум, опис собе) мора бити изостављен.
три мини кофера
Случај 1 — Израђена евиденција случаја. Извештач из суда затражио је од ИЗ преседан резиме. ИЗ га је дао убедљивим језиком заједно са три броја „одлуке Врховног суда“. Новинар је провукао бројеве кроз званични систем за тражење одлука: два од три уопште нису била доступна. Да га је користио без провере, појавила би се вест заснована на измишљеном преседану. Корак верификације је обезбедио да се користи само једину постојећу одлуку; Вест је изашла са 20 минута закашњења, али солидна.
Случај 2 — Уштеда времена у транскрипцији. Истражни тим би обично провео око 40 сати ручно декодирајући 14 сати снимака састанка. Користећи транскрипцију засновану на вештачкој интелигенцији, сирови текст је објављен за 2 сата; Тим је провео преостало време исправљајући 6 критичних пасуса у односу на снимак и успостављајући контекст. Укупно време се смањило са 40 сати на ~9 сати; Тачност се није смањила јер је новинар ручно исправио грешке у имену и броју у сировом транскрипту.
Случај 3 — Рефлекс заштите ресурса. Новинар, док је покушавао да консултује АИ о ситуацији јавног службеника који му је процурио документ, спремао се да залепи документ какав јесте. Приметио је без слања; очистио метаподатке документа, уклонио потпис и назив јединице, генерализовао особу као „запосленог у институцији“. Његове издавачко-стратешке идеје су поново функционисале; али се није појавио никакав траг који би одао извор.
Шаблони који се могу копирати
1) Раздвајање задатка према нивоу ризика:
Ваша улога: помоћник у редакцији новинара. Поделите следеће задатке извештавања на две листе: (А) послови ниског ризика где АИ може са сигурношћу да произведе нацрт/сажетак, (Б) послови високог ризика где коначна одлука мора да буде на новинару. Напишите образложење од једне реченице за сваки задатак. Задаци: [налепите своје недељне задатке]
2) Упозорење за лов на халуцинације:
Наведите сваку чињеницу, име, датум, број, цитат и изворну ставку поменуту у тексту испод. Означите сваки „мора бити верификован из примарног извора“ и предложите који документ/запис треба тражити. Немојте рећи ИСТИНА на основу сопственог знања; То само закључује шта треба проверити. Текст: [овде]
3) Претходна провера анонимности:
Пре него што објавите текст испод, означите све елементе који би могли да одају извор: име, наслов, институцију, локацију, датум, препознатљив детаљ. Предложите сигурнију генерализацију за сваку заставу (нпр. „јавни службеник“). Не мењајте текст, само пријавите ризике. Текст: [овде]
4) Контролна листа уредничке верификације:
Ви ћете проценити нацрт вести. Наведите недостатке под следећим насловима: (1) тврдње из једног извора, (2) непроверени бројеви, (3) цитати са нејасном атрибуцијом, (4) места на којима странкама није дато право да говоре, (5) реченице у којима се мешају закључци и чињенице. Само направите контролну листу, не преправљајте вести. Нацрт: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење: „Напишите вест из овог документа.“
Резултат: АИ убацује рупе, производи неприписане тврдње, додаје контекст који није у документу. Новинар не може да разликује шта је документ, а шта измишљотина.
Снажан упит: „Направите скелет вести засноване САМО на следећем документу. Поред сваке реченице означите на ком пасусу у документу је заснована, на пример [П3]. Немојте додавати никакве информације које нису у документу; оставите делове који недостају као „[морају бити верификовани]“. Документ: [овде]“
Разлика: моћан одзив повезује АИ са документом, чинећи сваку тврдњу следљивом и чинећи халуцинацију видљивом. Новинар зна коју реченицу да потврди.
упоредни графикон
Куест
Улога АИ
Одлука/одговорност
Обавезна верификација
Транскрипција снимка гласа
Генерише необрађени текст
Критички пасуси су у новинару
Упоредите име/број са записом
Дуго скенирање докумената
Креира наслов и резиме
Шта ће бити новост, зависи од новинара
Вратите се на првобитни пасус
Први нацрт писања
Предлаже скелет и језик
Цитати и чињенице су код новинара
Повежите сваку тврдњу са извором
Избор цитата
Знакови номинативних реченица
Објава новинара
Дословна потврда из записника
Обрада извора/документа
(ограничена) помоћ
Заштита идентитета новинара
Чишћење метаподатака и имена
Уобичајене грешке
- Грешка АИ излаз за извор. АИ је генератор нацрта, а не ресурс; Објављивање чињенице без потврђивања из примарног документа доводи до порицања.
- Лепљење осетљивог документа какав јесте. Ниједан документ не би требало да уђе у јавни алат без чишћења метаподатака и имена која одају извор.
- Заобилазећи правило „два ресурса“ са АИ. Збирка АИ је један извор; Критичка тврдња поново захтева две независне потврде.
- Верујући бројевима. АИ често погрешно израчунава проценте и укупне вредности; поново тестирајте сваки број из необрађених података.
- Непрепознавање пристрасности. Узимање оквира АИ без испитивања и преношење на језик вести нарушава објективност.
Укратко
У овој јединици АИ позиционирамо као помоћника у извештавању: она убрзава задатке који се понављају и масовно просејавају, али је на новинару да одлучи истину, објави цитат и заштити извор. Халуцинације и пристрасност су две главне границе; Против њих, дисциплина верификације у четири корака (доћи до извора, други извор, проверити број, преузети одговорност) и рефлекс приватности од почетка (анонимизација, чисти метаподаци) се примењују на сваки излаз. Следеће јединице биће постављене на овом терену.
Задатак апликације
Запишите 8 задатака за извештавање које сте урадили прошле недеље. Означите сваки као „низак ризик – вештачка интелигенција га чини бржим“ или „висок ризик – то зависи од мене“ и додајте оправдање у једној реченици. Затим изаберите један и примените горњу промпт „Лов на халуцинације“ на стварни текст; Имајте на уму колико тврдњи које АИ заставице заправо треба да буду верификоване.
контролна листа
- [ ] Могу да одвојим задатак према нивоу ризика; Знам послове где је одлука препуштена новинару.
- [ ] Сваки излаз АИ приписујем примарном извору; Не заобилазим правило „два ресурса“ са АИ.
- [ ] Знам ризике од халуцинација и пристрасности, и ручно кружим бројеве.
- [ ] Чистим све трагове метаподатака и идентитета пре него што дам осетљиви документ/ресурс АИ.
- [ ] Интернационализовао сам да је оправдање „АИ је рекао“ неважеће за емитовање.