اخلاق، صداقت و شفافیت: سیاست هوش مصنوعی در اتاق خبر

سود:

• توانایی به کارگیری اصول دقت، شفافیت، پاسخگویی، استقلال و عدم سوء استفاده در استفاده از هوش مصنوعی
• امکان افشای معنادار استفاده از هوش مصنوعی به خواننده و اعمال استاندارد استفاده از بصری/صوتی مصنوعی فقط با برچسب‌گذاری واضح
• بدانید که نمی توان مسئولیت را به نماینده محول کرد و یک خط مشی مکتوب هوش مصنوعی اتاق خبر، ثبات و مسئولیت پذیری را تضمین می کند.

استفاده از هوش مصنوعی در روزنامه‌نگاری به همان اندازه که یک موضوع فنی است، یک موضوع قابل اعتماد است. خواننده حق دارد بداند یک خبر چگونه تولید می شود. منابع باید بدانند که اطلاعات مربوط به آنها چگونه پردازش می شود. این حرفه باید اصول یکپارچگی و استقلال را رعایت کند. در این واحد، ما چارچوب اخلاقی استفاده از هوش مصنوعی را ایجاد می‌کنیم: دقت (تأیید کردن)، شفافیت (به‌روشنی اعلام استفاده)، مسئولیت‌پذیری (پذیرفتن مسئولیت)، استقلال و عدم سوء استفاده. اصل اساسی ساده است: هوش مصنوعی یک ابزار است. اصول روزنامه نگاری با تغییر رسانه تغییر نمی کند. چه از هوش مصنوعی استفاده شود چه نشود، روزنامه نگار مسئول صحت و عواقب اخلاقی هر جمله است. این واحد چارچوب اخلاقی است که در بالای همه مهارت های قبلی قرار دارد.

پنج اصل اخلاقی و همتایان آنها در هوش مصنوعی

1) دقت هوش مصنوعی سیال است اما خطاپذیر است. اصل دقت حکم می کند که هر خروجی هوش مصنوعی از منبع اصلی تأیید شود (واحد 1-7). "هوش مصنوعی آن را نوشت" بهانه ای نیست.

2) شفافیت خواننده باید بداند که هوش مصنوعی چگونه در این فرآیند نقش دارد. این پاورقی در هر جمله نیست. بیانیه معناداری است. به عنوان مثال، اینکه آیا یک خبر کاملاً با هوش مصنوعی تهیه شده است، آیا تصویری با هوش مصنوعی تولید شده است یا خیر، آیا ترجمه با ماشین انجام شده است - اینها برای خواننده توضیح داده می شود.

3) مسئولیت پذیری یک انسان پشت هر چیزی که منتشر می شود می ایستد. اگر اشتباهی وجود داشته باشد، نمی توان گفت که «وسیله نقلیه آن را ساخته است». مسئولیت اصلاح و ابطال بر عهده انسان است.

4) استقلال ابزارهای هوش مصنوعی ممکن است دارای چارچوب‌ها، سوگیری‌ها و منافع تجاری خاصی باشند. روزنامه نگار قاب رسانه را قاب خبر نمی کند. استقلال تحریریه را حفظ می کند.

5) آسیب نرسانید. محتوای تولید شده با هوش مصنوعی ممکن است به افراد واقعی آسیب برساند (اسناد نادرست، نقض حریم خصوصی، آسیب رساندن به شهرت با تصاویر مصنوعی). تعادل منافع عمومی و ضرر همیشه با قضاوت انسان برقرار می شود.

احتیاط: شفافیت "بدون مخفی شدن، بدون مشکل" نیست. اگر خواننده نداند که تصویری توسط هوش مصنوعی تولید شده یا متنی توسط هوش مصنوعی ترجمه شده است، گمراه می‌شود. عدم اعلام استفاده، نقض فعال اعتماد است.

تصاویر و صداهای تولید شده توسط هوش مصنوعی: توجه ویژه

استفاده از تصویر/صدای تولید شده توسط هوش مصنوعی در اخبار یک حوزه اخلاقی ویژه است. یک تصویر مصنوعی ارائه شده به عنوان نشان دهنده یک رویداد واقعی به منزله اطلاعات نادرست است. اصل: تصویری/صوتی تولید شده توسط هوش مصنوعی تنها در صورتی استفاده می شود که به وضوح برچسب گذاری شده باشد و از رویداد واقعی تقلید نکند (به عنوان مثال، به وضوح یک نقاشی نماینده). رسانه های مصنوعی که تصور واقعیت را ایجاد می کنند در اخبار گنجانده نشده اند.

سیاست هوش مصنوعی اتاق خبر: چه چیزی را پوشش می دهد؟

داشتن یک سازمان دارای یک خط مشی مکتوب استفاده از هوش مصنوعی، هم ثبات و هم مسئولیت پذیری را تضمین می کند. یک خط مشی خوب روشن می کند: هوش مصنوعی در کدام وظایف مجاز است و در کدام موارد ممنوع است. کدام خودروها مورد تایید هستند قوانین داده های حساس؛ استاندارد شفافیت/برچسب گذاری؛ الزام تأیید؛ زنجیره مسئولیت هوش مصنوعی همچنین می‌تواند به پیش‌نویس چنین خط‌مشی کمک کند - اما تایید توسط مدیریت تحریریه داده می‌شود.

سه کیف کوچک

مورد 1 - تصویر مصنوعی بدون برچسب. یک نشریه در یک مقاله خبری از تصویر «صحنه جنایت» که با هوش مصنوعی تهیه شده بود استفاده کرد. خوانندگان متوجه شدند و واکنش نشان دادند. این نشریه اعتماد خود را از دست داد و عذرخواهی کرد. اگر روی تصویر برچسب «نماینده، تولید شده با هوش مصنوعی» داده می شد، مشکل پیش نمی آمد.

مورد 2 - تکیه بر نمایندگی شفاف. یکی از نشریات در پایان خبر به وضوح نوشت که از هوش مصنوعی در تجزیه و تحلیل داده‌ها و نحوه تأیید آن استفاده کرده است ("تحلیل با پشتیبانی هوش مصنوعی اسکن شده، همه اعداد تایید شده از سوابق رسمی"). اعتماد خواننده افزایش یافت. علاقه به اخبار مشابه افزایش یافت. شفافیت به منبع اعتماد تبدیل شده است نه ضعف.

مورد 3 - دفاع "خودرو این کار را کرد" سقوط کرد. یک گزارش خبری یک اتهام نادرست در مورد هوش مصنوعی مطرح کرد. خبرنگار گفت: «هوش مصنوعی آن را اینگونه خلاصه کرد. اما به دلیل اصل پاسخگویی، مسئولیت روی آنتن بود. تکذیبیه منتشر شد و اتاق خبر خط مشی نوشت که مستلزم مرحله بررسی واقعیت است. درس: مسئولیت قابل تفویض نیست.

قالب های قابل کپی

1) پیش نویس بیانیه شفافیت:

در یک خبر، من از هوش مصنوعی در وظایف زیر استفاده کردم: [به عنوان مثال. رونویسی، پیش نویس اول، غربالگری داده ها، ترجمه]. من تمام حقایق را از منبع اصلی تأیید کرده ام. یک جمله صادقانه و مختصر "بیانیه استفاده از هوش مصنوعی" را با هدف خواننده بنویسید. اغراق نکنید، مبدل نکنید، یا از زبان فنی غیر ضروری استفاده نکنید. موارد استفاده: [اینجا]

2) غربالگری ریسک اخلاقی:

پیش نویس خبر زیر را از نظر اخلاقی اسکن کنید. موارد زیر را علامت گذاری کنید: (1) اسناد غیرمستند، (2) خطر حفظ حریم خصوصی، (3) زبان بالقوه آسیب رسان، (4) استفاده بدون برچسب از محتوای تولید شده توسط هوش مصنوعی، (5) قاب بندی یک طرفه/سوگیرانه. فقط گزارش ریسک صادر می شود. پیش نویس: [اینجا]

3) چارچوب خط مشی استفاده از هوش مصنوعی:

یک پیش نویس خط مشی استفاده از هوش مصنوعی برای اتاق خبر ایجاد کنید. سرفصل ها: وظایف مجاز/ممنوع، ابزارهای تایید شده، قوانین داده های حساس، شفافیت/برچسب گذاری، الزام تایید، زنجیره مسئولیت. 2-3 قانون نمونه را در زیر هر عنوان بنویسید. این یک پیش نویس است. تایید با مدیریت است.

4) تصمیم برچسب زدن بصری/صوتی:

من در نظر دارم از تصویر/صوتی تولید شده توسط هوش مصنوعی زیر در اخبار استفاده کنم: [توضیح]. در نظر بگیرید که آیا این تصور صحت، خطر اطلاعات نادرست و برچسب مناسب را به شما می دهد یا خیر. در صورت وجود، متن برچسب توصیه شده را بنویسید. اگر نه، دلیل آن را توضیح دهید.

اعلان ضعیف / اعلان قوی

اعلان ضعیف: "آیا انتشار این خبر اخلاقی است؟"

نتیجه: هوش مصنوعی پاسخ مبهم «معمولاً خوب» می دهد. نقاط خطر واقعی نامرئی می مانند، تصمیم غیرقابل توجیه می شود.

اعلان قوی: "این پیش نویس خبری را از نظر اخلاقیات اسکن کنید و خطرات مشخص را تحت عناوین زیر علامت گذاری کنید: انتساب تایید نشده، حریم خصوصی، آسیب، محتوای هوش مصنوعی بدون برچسب، چارچوب بندی مغرضانه. تصمیم با من است؛ شما فقط یک گزارش خطر صادر می کنید."

تفاوت: اعلان قدرتمند هوش مصنوعی را به یک اسکنر خطر واقعی تبدیل می‌کند و تصمیم‌گیری را به عهده روزنامه‌نگار می‌گذارد و به جای تأیید مبهم، فهرست قابل بازرسی تولید می‌کند.

نمودار مقایسه

اصل

ریسک در هوش مصنوعی

برنامه

دقت

توهم

تایید از منبع اولیه

شفافیت

استفاده محرمانه

بیانیه/برچسب معنادار

پاسخگویی

بهانه "خودرو این کار را کرد".

مسئولیت با مردم است

استقلال

سوگیری ابزار

چارچوب تحریریه را حفظ کنید

صدمه نزن

انتساب / حریم خصوصی

تعادل منافع عمومی و ضرر

اشتباهات رایج

• انتقال مسئولیت به وسیله نقلیه دفاع "هوش مصنوعی نوشت/خلاصه" نامعتبر است. حساب متعلق به انسان است.
• پنهان کردن استفاده عدم اعلام تصویر/ترجمه/متن تولید شده توسط هوش مصنوعی نقض اعتماد است.
• ارائه تصویر مصنوعی به صورت واقعی. تصاویر هوش مصنوعی بدون برچسب در را به روی اطلاعات نادرست باز می کند.
• اتخاذ چارچوب ابزار. آوردن تعصب هوش مصنوعی به چارچوب خبری بدون زیر سوال بردن آن.
• کار بدون سیاست بدون قوانین مکتوب، هر فردی که به طور متفاوت عمل می کند، ناسازگاری و خطر ایجاد می کند.

چگونه شفافیت را اجرا کنیم؟ بیانیه سنجیده و معنادار

در حالی که اصل شفافیت ساده به نظر می رسد، اجرای آن نیاز به ظرافت دارد: نوشتن "این با هوش مصنوعی نوشته شده است" در پایان هر جمله نه ممکن است و نه معنی دار. خواننده را با سیل اطلاعات غرق می کند و جملات واقعا مهم را نامرئی می کند. شفافیت خوب سنجیده و معنادار است: کاربردهای هوش مصنوعی را توصیف می کند که بر ارزیابی خواننده از اخبار تأثیر می گذارد. تصویری که توسط هوش مصنوعی تولید می‌شود، ترجمه‌ای که توسط ماشین انجام می‌شود و نقل قولی بر اساس ترجمه ماشینی، خبری که عمدتاً توسط هوش مصنوعی تهیه می‌شود – اینها چیزهایی هستند که خواننده باید بداند. در مقابل، صرفاً بررسی املا یا طوفان فکری یک عنوان ممکن است به اندازه‌ای معمول در نظر گرفته شود که نیازی به بیانیه جداگانه نداشته باشد. معیار این است که "آیا این اطلاعات اعتماد خواننده را به اخبار تغییر می دهد؟" با پرسیدن پیدا می شود.

بعد دوم شفافیت نسبت به منابع است. هنگام صحبت با یک منبع، صادق بودن در مورد نحوه پردازش آنچه می گویند (به عنوان مثال رمزگشایی شده توسط یک ابزار هوش مصنوعی) باعث حفظ رابطه اعتماد می شود. منابع مخصوصا حساس حق دارند بدانند داده های آنها از چه ابزاری عبور می کند. بعد سوم داخلی است: یک گزارشگر باید برای سردبیر خود و میز بررسی حقایق روشن کند که در یک مطلب از هوش مصنوعی استفاده می کند تا زنجیره تحریریه بتواند آنچه را که انسان است و ماشین را کنترل کند. شفافیت اعتراف به ضعف نیست. این تعهد حرفه ای به صداقت نسبت به خواننده، منبع و موسسه است.

به طور خلاصه

هوش مصنوعی یک ابزار است. اصول صحت، شفافیت، پاسخگویی، استقلال و عدم بدخواهی روزنامه نگاری با تغییر رسانه تغییر نمی کند. هر خروجی از منبع اصلی تأیید می شود. استفاده از هوش مصنوعی به طور معناداری به خواننده اعلام می شود. بصری/صوتی مصنوعی فقط با برچسب گذاری واضح و بدون تقلید از واقعیت استفاده می شود. مسئولیت همیشه با خود شخص است. یک خط مشی مکتوب هوش مصنوعی اتاق خبر، ثبات و مسئولیت پذیری را تضمین می کند.

وظیفه کاربردی

درخواست "غربالگری ریسک اخلاقی" را در پیش نویس داستان خود اعمال کنید. واقعاً هر خطری را که به وجود می آید ارزیابی کنید و بنویسید که چگونه آن را از بین می برید. سپس، با دستور «پیش‌نویس بیانیه شفافیت»، یک بیانیه صادقانه استفاده از هوش مصنوعی آماده کنید تا در داستان خود بگنجانید و تأثیر آن بر اعتماد خواننده را در یک پاراگراف مورد بحث قرار دهید.

چک لیست

• [ ] هر هوش مصنوعی خروجی خود را از منبع اصلی تأیید می کند. من مسئولیت می پذیرم
• [ ] من به صراحت استفاده از هوش مصنوعی را برای خواننده توضیح می دهم.
• [ ] من از تصویری/صوتی مصنوعی فقط با برچسب گذاری واضح و بدون تقلید از چیز واقعی استفاده می کنم.
• [ ] من تعصب رسانه را زیر سوال می برم و استقلال تحریریه را حفظ می کنم.
• [ ] من از ایجاد یک خط مشی مکتوب استفاده از هوش مصنوعی پیروی می کنم یا از آن حمایت می کنم.