سود:
- توانایی درک شواهد نادرست و تهدید "منفعت دروغگو" رسانه مصنوعی و تأیید چند لایه اصالت رسانه
- توانایی ارزیابی منشأ، فراداده، ناهنجاری فنی، منشأ (C2PA) و لایههای سازگاری متنی با هم و عدم تکیه بر یک امتیاز خودرو
- توانایی بیان نتیجه به زبان سطح اطمینان و نه قطعیت و استفاده از دانش تکنیک تولید فقط برای شناسایی و دفاع.
یک ویدیو به عنوان "شواهد" در تحقیقات ارائه می شود: ضبط صوتی یک مدیر که دستورات نادرست می دهد، عکسی که فردی را در جایی نشان می دهد، ویدئویی از یک اعتراف. اما اکنون این سوال در خط مقدم همه شواهد باقی مانده است: آیا این واقعی است یا توسط هوش مصنوعی تولید شده است؟ دیپفیک (رسانههای جعلی تولید شده توسط یادگیری عمیق که چهره/صدا/حرکت یک شخص واقعی را تقلید میکند) و به طور گستردهتر، رسانههای مصنوعی (رسانههای مصنوعی – تصاویر، صدا، ویدئو تولید شده به طور کامل یا جزئی توسط هوش مصنوعی) جدیدترین و چالشبرانگیزترین مرزهای پزشکی قانونی دیجیتال هستند. در این بخش، ما این نقش دوگانه هوش مصنوعی را به عنوان یک ابزار تهدید و شناسایی و اینکه چرا تأیید باید چند لایه باشد را پوشش خواهیم داد.
چرا اینقدر انتقادی است؟
رسانه مصنوعی یک تهدید دو جانبه است. اول، شواهد جعلی: کسی میتواند یک دیپفیک برای «اثبات» رویدادی که اتفاق نیفتاده است تولید کند. دوم، موذیانه تر، "سود سهام دروغگو" است (سود سهام دروغگو - به لطف گسترش رسانه های جعلی، حتی شواهد واقعی را می توان به عنوان "این یک دروغ عمیق است" رد کرد). بنابراین رسانه های مصنوعی نه تنها شواهد نادرست تولید می کنند. همچنین اعتبار شواهد واقعی را تضعیف می کند. بنابراین، تحلیلگر پزشکی قانونی باید صحت هر یک از شواهد رسانهای را تأیید کند - این که واقعاً از منبع ادعا شده و بدون تغییر آمده است.
توجه: "ابزار تشخیص هوش مصنوعی گفت 98٪ دیپ فیک" به تنهایی در دادگاه کافی نیست. مدلهای تشخیص اشتباه هستند، تکنیکهای نسل جدید از آنها طفره میروند و امتیاز احتمال اثبات قطعی نیست. تشخیص Deepfake همیشه باید با تأیید چند لایه (فنی + متنی + منبع) پشتیبانی شود.
لایه های تشخیص
تشخیص رسانه مصنوعی نمی تواند به یک ابزار جادویی تکیه کند. باید لایه بندی شود:
- تجزیه و تحلیل فنی/پزشکی قانونی: تناقضات فشرده سازی، ناهنجاری های پیکسل/فرکانس، اعوجاج مرزی صورت، عدم وجود سیگنال های بیولوژیکی مانند چشمک زدن و پالس، الگوهای فرکانس غیر طبیعی برای صدا.
- فراداده و تجزیه و تحلیل منبع: فراداده EXIF/کانتینر فایل، ردپای تولید، اثر انگشت دستگاه، مسیرهایی که فایل از آن عبور کرده است (زنجیره نگهداری). ابرداده حذف شده/ناسازگار یک هشدار است.
- منشأ محتوا: تأیید شده توسط استانداردهایی مانند C2PA (استاندارد باز که اطلاعات منشأ امضا شده رمزنگاری شده را به رسانه اضافه میکند و نشان میدهد که از کجا آمده و چگونه ویرایش شده است). آیا امضا وجود دارد، آیا مطابقت دارد؟
- راستیآزمایی متنی: آیا نورها، سایهها، بازتابها در ویدیو از نظر فیزیکی سازگار هستند؟ آیا همگام سازی صدا و لب مطابقت دارند؟ آیا محتوا با حقایق شناخته شده (آب و هوا، مکان، زمان) در تضاد است؟
هوش مصنوعی شتابدهنده بسیاری از این لایهها است: ناهنجاریها را پرچمگذاری میکند، ناسازگاریها را تشخیص میدهد، فهرستهای چک را تولید میکند. اما قضاوت نهایی در مورد اصالت از طریق لایه های متعدد اعتبار سنجی متقاطع و ارزیابی کارشناسان انجام می شود.
هوش مصنوعی: هم تهدید و هم ابزار
تنش کلیدی این واحد: همان فناوری هم دیپ فیک تولید می کند و هم تشخیص می دهد. تحلیلگر پزشکی قانونی باید تکنیک های تولید را بداند (چگونه جعل را بدون اینکه بدانیم چگونه ساخته شده است را تشخیص دهیم؟) اما از آن فقط برای اهداف شناسایی و دفاعی استفاده می کند. استفاده از هوش مصنوعی برای تولید رسانه های جعلی برای فریب دیگران، کلاهبرداری و سوء استفاده از هویت است. دامنه این ماژول کاملاً تشخیص و تأیید است.
نکته: هنگام ارزیابی شواهد رسانهای، ابتدا آزمون «سادهترین توضیح» را انجام دهید: آیا این فایل واقعاً از جایی که ادعا میکند آمده است؟ آیا زنجیره نگهداری امن است؟ بیشتر اوقات، مشکل دیپفیک نیست، بلکه متنزدایی است (ویدئویی از یک رویداد واقعی اما قدیمی/دیگر، ارائه شده در زمینه اشتباه). قبل از تجزیه و تحلیل دیپ فیک پیچیده، مبدا و زمینه را بررسی کنید.
احتمال، نه قطعیت
ابزارهای تشخیص Deepfake یک امتیاز احتمال ایجاد می کنند. نه "قطعا جعلی" یا "قطعا واقعی". این امتیاز دارای حاشیه خطا، فاصله اطمینان است و عملکرد آن در روش های تولید جدید که مدل ندیده است کاهش می یابد. در گزارش پزشکی قانونی به جای گفتن «جعلی بودن» برای یک رسانه باید گفت «این شاخص ها حکایت از دستکاری دارد، این لایه های راستی آزمایی این را نشان داد، میزان قطعیت این است». زبان بیش از حد دقیق باعث اعتراض در دادگاه و از دست دادن شهرت می شود.
سه کیف کوچک
مورد 1 - تجزیه و تحلیل مبدا قبل از دیپ فیک حل شد. ویدئویی که به عنوان "شواهد" به یک هیئت ارسال شده بود، بررسی شد. قبل از اینکه به تجزیه و تحلیل عمیق دروغ بپردازیم، ابرداده بررسی شد: ویدیو 8 ماه قبل از تاریخ ادعا شده ایجاد شد و ابرداده کانتینر به برنامه دیگری اشاره کرد. ویدیو جعلی نبود، اما در زمینه اشتباه ارائه شد. ساده ترین لایه مشکل را حل کرد.
مورد 2 - تشخیص چند لایه جعلی را کشف کرد. در ضبط صدا، ابزار تشخیص هوش مصنوعی 71٪ مصنوعی (مطمئن نیست). این متخصص لایه های اضافی را بررسی کرد: الگوهای منظم غیرطبیعی در تجزیه و تحلیل فرکانس، عدم وجود صداهای تنفسی، و عدم وجود امضای C2PA. ترکیب سه شاخص مستقل نتیجه بسیار قوی تری نسبت به یک نمره واحد به همراه داشت.
مورد 3 - بازگشت از یقین بیش از حد. در یک پیشنویس گزارش با استناد به امتیاز یک وسیله نقلیه آمده است: «این ویدیو قطعاً یک جعلی عمیق است. این کارشناس ارشد تصحیح کرد: یک ابزار کافی نیست، زبان نمی تواند "مطلق" باشد. این گزارش به زبانی ترجمه شده است که چندین لایه و سطوح دقت را بیان می کند. بنابراین در دادگاه قابل دفاع می شود.
چهار قالب قابل کپی
1) چک لیست تأیید رسانه:
نقش شما: کارشناس تأیید رسانه مصنوعی. برای من یک چک لیست لایهبندی برای تأیید شواهد تصویر/صوتی/ویدئو تهیه کنید: (1) منشأ/ زنجیره نگهداری، (2) فراداده، (3) ناهنجاری فنی، (4) منشأ/C2PA، (5) سازگاری زمینهای. مراحل چک بتن را برای هر لایه بنویسید.
2) تجزیه و تحلیل سازگاری فراداده:
من ابرداده (EXIF/container) یک فایل رسانه ای را به شما می دهم. تناقضات پرچم: ایجاد-تغییر متا تضاد، ردیابی دستگاه/نرم افزار، فیلدهای گمشده/حذف شده، اختلاف جغرافیایی-زمانی. اشاره کنید که اینها ممکن است نشانه های دستکاری باشند، اما به خودی خود مدرکی نیستند.
3) بررسی سازگاری متنی:
سازگاری فیزیکی را در این تصویر/فیلم ارزیابی کنید: آیا جهت نور و سایه ها مطابقت دارند، آیا انعکاس ها دقیق هستند، آیا صوتی-لیپسینک مطابقت دارد، آیا پس زمینه با مکان/زمان ادعا شده مطابقت دارد؟ هر مشاهده را به یک مکان مشخص پیوند دهید. قضاوت نهایی نکنید؛ نکاتی را که باعث شک و تردید می شود را فهرست کنید.
4) زبان سطح دقیق:
یافته های اعتبارسنجی زیر (نمرات + نتایج طبقه بندی) را در یک پاراگراف گزارش ترجمه کنید. نگویید "قطعا جعلی/واقعی"؛ به هر یافته منبع آن را بدهید و سطح کلی از اطمینان (اطمینان کم/متوسط/بالا) را بیان کنید. از ادعاهای غیر قابل اعتراض بیش از حد خودداری کنید.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
به من بگویید، آیا این ویدیو یک دیپ فیک است؟
یک لایه، یک قضاوت در انتظار است. هوش مصنوعی یک "بله/نه" بدون زمینه ایجاد می کند، این در دادگاه رد می شود.
اعلان قدرتمند:
نقش شما: کارشناس تأیید رسانه مصنوعی. من ابرداده یک ویدیو، امتیاز یک ابزار تشخیص و چند فریم را برای شما شرح خواهم داد. وظیفه: منشأ، ابرداده، ناهنجاری فنی و لایههای سازگاری متنی را به طور جداگانه ارزیابی کنید. آنچه را در هر لایه می بینید به منبع متصل کنید. نتیجه را به عنوان سطح اطمینان ترکیبی لایه ها بیان کنید، نه به عنوان "دقیق". به یک امتیاز تکیه نکنید. لایه های از دست رفته را نشان می دهد.
ارزیابی لایه ای، پیوند دادن به منبع، و محدودیت "بدون تماس" خروجی را قابل دفاع می کند.
جدول لایه های احراز هویت
لایه
او به چه چیزی نگاه می کند؟
نقطه قوت
محدود کردن
مبدا/CoC
فایل از کجا اومده
ساده، دقیق
تقلب را می توان پنهان کرد
فراداده
EXIF/کانتینر
نکته سریع
قابل پاک کردن/جعلی
ناهنجاری فنی
پیکسل/فرکانس
ردی از دستکاری
تکنیک جدید دور زدن
منشأ/C2PA
منشأ امضا شده
اعتماد رمزنگاری
نه همه جا
متنی
هارمونی فیزیک/واقعیت
تقلب کردن سخت است
نیاز به نظر دارد
اشتباهات رایج
- با تکیه بر یک امتیاز وسیله نقلیه. تشخیص دیپ فیک باید چند لایه باشد. تک نمره اثبات نیست
- به معنای "کاملا جعلی/واقعی" است. از زبان احتمال استفاده کنید؛ دقت بیش از حد باعث اعتراض می شود.
- حذف مبدا و زمینه. اکثر مشکلات دیپفیک نیستند، بلکه زمینه اشتباه/رسانههای قدیمی هستند.
- اعتماد مطلق به ابرداده ابرداده ها را می توان هم حذف کرد و هم جعل کرد.
- سوء استفاده از تکنیک تولید اطلاعات فقط برای شناسایی و دفاع است.
به طور خلاصه
دیپ فیک و رسانه های مصنوعی جدیدترین مرز در پزشکی قانونی دیجیتال هستند. هم شواهد نادرست تولید می کند و هم شواهد واقعی را مشکوک می کند. هوش مصنوعی هم یک ابزار تهدید و هم ابزار تشخیص است. راستیآزمایی نباید بر اساس یک ابزار واحد باشد، بلکه باید بر اساس تأیید متقابل لایههای منشأ، فراداده، ناهنجاری فنی، منشأ و سازگاری زمینهای باشد. نتیجه نه با قطعیت بلکه با سطح قطعیت بیان می شود. و این اطلاعات فقط برای شناسایی و دفاع است - نه برای تولید رسانه های جعلی.
وظیفه کاربردی
یک سناریوی شواهد رسانه ای (مثلاً یک ضبط صوتی) را توصیف کنید. با الگوی "چک لیست تایید رسانه" یک طرح لایه لایه ایجاد کنید. سپس الگوهای «تحلیل سازگاری فراداده» و «زبان سطح دقیق» را با ابرداده ساختگی و امتیاز تشخیص اعمال کنید. سعی کنید نتیجه را با سطح اعتماد چند لایه به جای "قطعا جعلی" بیان کنید.
چک لیست
- [ ] من تأیید را بر اساس چندین لایه استوار کردم، نه یک ابزار واحد.
- [ ] ابتدا منشا و زمینه را بررسی کردم.
- [ ] به خاطر داشتم که ابرداده ها را می توان حذف/جعل کرد.
- [ ] من نتیجه را به زبان سطح اطمینان بیان کردم، نه قطعیت.
- [ ] من از اطلاعات تولید فقط برای شناسایی/دفاع استفاده کردم.