ලාභ:
- කෘතිම මාධ්යවල ව්යාජ සාක්ෂි සහ 'බොරුකාරයාගේ ලාභය' යන දෙකම තේරුම් ගැනීමේ හැකියාව සහ මාධ්ය සත්යතාව පිළිබඳ බහු ස්ථර සත්යාපනය
- ප්රභව, පාර-දත්ත, තාක්ෂණික විෂමතාව, ප්රභව (C2PA) සහ සන්දර්භ අනුකූලතා ස්ථර එකට ඇගයීමට සහ තනි වාහන ලකුණු මත රඳා නොපවතින හැකියාව
- නිශ්චිතභාවයකින් තොරව විශ්වාස මට්ටමේ භාෂාවෙන් ප්රතිඵලය ප්රකාශ කිරීමේ හැකියාව සහ නිශ්පාදන තාක්ෂණ දැනුම භාවිතය හඳුනා ගැනීම සහ ආරක්ෂා කිරීම සඳහා පමණක් භාවිතා කිරීම.
පරීක්ෂණයකදී වීඩියෝවක් "සාක්ෂි" ලෙස පැමිණේ: කළමනාකරුවෙකු නුසුදුසු උපදෙස් ලබා දීමේ හඬ පටයක්, පුද්ගලයෙකු කොහේ හෝ සිටින බව පෙන්වන ඡායාරූපයක්, පාපොච්චාරණයක වීඩියෝවක්. නමුත් දැන් ප්රශ්නය සෑම සාක්ෂියක්ම ඉදිරියෙන්ම පවතී: මෙය සැබෑවක්ද, නැතහොත් එය කෘතිම බුද්ධියෙන් නිපදවන ලද්දක්ද? Deepfake (සැබෑ පුද්ගලයෙකුගේ මුහුණ/හඬ/චලනය අනුකරණය කරන ගැඹුරු ඉගෙනීමෙන් නිපදවන ව්යාජ මාධ්ය) සහ, වඩාත් පුළුල් ලෙස, කෘතිම මාධ්ය (කෘත්රිම මාධ්ය - රූප, ශ්රව්ය, වීඩියෝ සම්පූර්ණයෙන්ම හෝ අර්ධ වශයෙන් කෘතිම බුද්ධිය මගින් නිපදවන ලද) ඩිජිටල් අධිකරණ වෛද්ය විද්යාවේ නවතම සහ වඩාත්ම අභියෝගාත්මක මායිම් වේ. මෙම ඒකකය තුළ, අපි AI හි මෙම ද්විත්ව භූමිකාව තර්ජනයක් සහ හඳුනාගැනීමේ මෙවලමක් ලෙස ආවරණය කරනු ඇත, සහ සත්යාපනය බහු-ස්ථර විය යුත්තේ ඇයි.
එය එතරම් විවේචනාත්මක වන්නේ ඇයි?
කෘත්රිම මාධ්ය යනු දෙපැත්තේ තර්ජනයකි. පළමුව, ව්යාජ සාක්ෂි: සිදු නොවූ සිදුවීමක් "ඔප්පු" කිරීමට යමෙකුට ගැඹුරු ව්යාජයක් ඉදිරිපත් කළ හැකිය. දෙවනුව, වඩාත් ද්රෝහී, "බොරුකාරයාගේ ලාභාංශය" (බොරුකාරයාගේ ලාභාංශය - ව්යාජ මාධ්යවල ව්යාප්තියට ස්තූතිවන්ත වන්නට, සැබෑ සාක්ෂි පවා "එය ගැඹුරු ව්යාජයක්" ලෙස බැහැර කළ හැකිය). එබැවින් කෘත්රිම මාධ්ය ව්යාජ සාක්ෂි නිපදවනවා පමණක් නොවේ; එය සත්ය සාක්ෂිවල විශ්වසනීයත්වය ද පළුදු කරයි. එබැවින්, අධිකරණ වෛද්ය විශ්ලේෂක විසින් එක් එක් මාධ්ය සාක්ෂිවල සත්යතාව තහවුරු කළ යුතුය—එය සත්ය වශයෙන්ම ප්රකාශිත මූලාශ්රයෙන්, වෙනස් නොකළ බව.
අවධානය: "AI හඳුනාගැනීමේ මෙවලම පැවසුවේ 98% ගැඹුරු ව්යාජයක්" පමණක් උසාවියේදී ප්රමාණවත් නොවේ. හඳුනාගැනීමේ ආකෘති වැරදියි, නව පරම්පරාවේ තාක්ෂණික ක්රම ඒවා මගහරියි, සහ සම්භාවිතා ලකුණු නිශ්චිත සාක්ෂියක් නොවේ. ගැඹුරු ව්යාජ හඳුනා ගැනීම සැමවිටම බහු-ස්ථර සත්යාපනය (තාක්ෂණික + සන්දර්භ + මූලාශ්ර) මගින් සහාය විය යුතුය.
හඳුනාගැනීමේ ස්ථර
සින්තටික් මාධ්ය හඳුනාගැනීම එක් මැජික් මෙවලමක් මත විශ්වාසය තැබිය නොහැක; ස්ථර කළ යුතුය:
- තාක්ෂණික/අධිකරණ විශ්ලේෂණ: සම්පීඩන නොගැලපීම්, පික්සල්/සංඛ්යාත විෂමතා, මුහුණේ මායිම් විකෘති කිරීම්, අක්ෂි ඇසිපිය සහ ස්පන්දනය වැනි ජීව විද්යාත්මක සංඥා නොමැති වීම, ශ්රව්ය සඳහා අස්වාභාවික සංඛ්යාත රටා.
- පාරදත්ත සහ මූලාශ්ර විශ්ලේෂණය: ගොනුවේ EXIF/බහාලුම් පාර-දත්ත, නිෂ්පාදන අංශු, උපාංග ඇඟිලි සලකුණ, ගොනුව ගමන් කළ මාර්ග (භාර භාරයේ දාමය). මකා දැමූ/නොගැලපෙන පාරදත්ත අනතුරු ඇඟවීමකි.
- අන්තර්ගත ප්රභවය: C2PA වැනි ප්රමිතීන් මගින් සත්යාපනය කර ඇත (එය පැමිණියේ කොහෙන්ද සහ එය සංස්කරණය කළේ කෙසේද යන්න සඳහන් කරමින් ගුප්ත ලේඛනමය වශයෙන් අත්සන් කරන ලද ප්රභව තොරතුරු මාධ්ය වෙත එක් කරන විවෘත ප්රමිතියකි); අත්සනක් තිබේද, එය අනුකූලද?
- සන්දර්භ සත්යාපනය: වීඩියෝවේ ඇති ආලෝකයන්, සෙවනැලි, පරාවර්තනයන් භෞතිකව අනුකූලද? කටහඬ සහ තොල් සමමුහුර්තකරණය ගැලපේද? අන්තර්ගතය දන්නා කරුණු (කාලගුණය, ස්ථානය, වේලාව) පටහැනිද?
AI මෙම ස්ථර බොහොමයක ත්වරණකාරකය වේ: විෂමතා සලකුණු කරයි, නොගැලපීම් හඳුනා ගනී, පිරික්සුම් ලැයිස්තු ජනනය කරයි. නමුත් සත්යතාව පිළිබඳ අවසාන විනිශ්චය සිදු කරනු ලබන්නේ හරස් වලංගු කිරීම් සහ විශේෂඥ ඇගයීමේ බහු ස්ථර හරහා ය.
AI: තර්ජනය සහ මෙවලම යන දෙකම
මෙම ඒකකයේ ප්රධාන ආතතිය: එකම තාක්ෂණය ගැඹුරු ව්යාජ නිෂ්පාදනය සහ හඳුනාගැනීම යන දෙකම සිදු කරයි. අධිකරණ වෛද්ය විශ්ලේෂකයා නිෂ්පාදන ශිල්පීය ක්රම තේරුම් ගත යුතුය (එය සෑදූ ආකාරය නොදැන ව්යාජ එකක් හඳුනා ගන්නේ කෙසේද?) නමුත් මෙය භාවිතා කරන්නේ අනාවරණය සහ ආරක්ෂක අරමුණු සඳහා පමණි. වෙනත් අයෙකු රවටා ගැනීම සඳහා ව්යාජ මාධ්ය නිෂ්පාදනය කිරීමට AI භාවිතා කිරීම වංචාව සහ අනන්යතා අපයෝජනයකි; මෙම මොඩියුලයේ විෂය පථය දැඩි ලෙස හඳුනා ගැනීම සහ තහවුරු කිරීම වේ.
ඉඟිය: මාධ්ය සාක්ෂි ඇගයීමේදී, ප්රථමයෙන් "සරලම පැහැදිලි කිරීම" පරීක්ෂණය කරන්න: මෙම ගොනුව ඇත්ත වශයෙන්ම පැමිණියේ යැයි කියන තැනින්ද? අත්අඩංගුවේ දාමය ආරක්ෂිතද? බොහෝ විට, ප්රශ්නය ගැඹුරු ව්යාජය නොව, සන්දර්භගතකරණය (සැබෑ නමුත් පැරණි/වෙනත් සිදුවීමක වීඩියෝවකි, වැරදි සන්දර්භය තුළ ඉදිරිපත් කර ඇත). සංකීර්ණ ගැඹුරු විශ්ලේෂණයට පෙර සම්භවය සහ සන්දර්භය තහවුරු කරන්න.
සම්භාවිතාව, නිශ්චිතභාවය නොවේ
Deepfake හඳුනාගැනීමේ මෙවලම් සම්භාවිතා ලකුණු නිපදවයි; "අනිවාර්යෙන්ම ව්යාජ" හෝ "අනිවාර්යෙන්ම සැබෑ" නොවේ. මෙම ලකුණු දෝෂයේ ආන්තිකයක්, විශ්වාසනීය පරතරයක් ඇති අතර, ආකෘතිය නොදුටු නව නිෂ්පාදන ක්රම වලදී එහි ක්රියාකාරිත්වය අඩු වේ. අධිකරණ වෛද්ය වාර්තාවේ, මාධ්යයක් සඳහා "ඒක ව්යාජ එකක්" කියනවා වෙනුවට කිව යුත්තේ "මෙම දර්ශක හසුරුවන ආකාරයයි, මෙම සත්යාපන ස්ථරයන් පෙන්නුම් කළේ මෙයයි, ස්ථිරභාවයේ මට්ටම මෙයයි". ඕනෑවට වඩා නිවැරදි භාෂාව උසාවියේදී විරෝධතා ඇති කරන අතර කීර්තිය නැති කරයි.
කුඩා නඩු තුනක්
නඩුව 1 - සම්භවය විශ්ලේෂණය ගැඹුරු කිරීමට පෙර විසඳා ඇත. මණ්ඩලයකට "සාක්ෂි" ලෙස ඉදිරිපත් කරන ලද වීඩියෝවක් සමාලෝචනය කරන ලදී. ගැඹුරු විශ්ලේෂණ වෙත යාමට පෙර, පාර-දත්ත පරීක්ෂා කරන ලදී: වීඩියෝව හිමිකම් පෑ දිනට මාස 8කට පෙර නිර්මාණය කරන ලද අතර, බහාලුම් පාර-දත්ත වෙනත් යෙදුමකට යොමු විය. වීඩියෝව ව්යාජ එකක් නොවේ, නමුත් එය වැරදි සන්දර්භයක ඉදිරිපත් කර ඇත; සරලම ස්ථරය ගැටළුව විසඳයි.
නඩුව 2 - බහු-ස්ථර හඳුනාගැනීම ව්යාජය අල්ලා ගත්තේය. කටහඬ පටිගත කිරීමේදී AI හඳුනාගැනීමේ මෙවලම 71% සින්තටික් (නිශ්චිත නැත) පැවසීය. විශේෂඥයා අතිරේක ස්ථර දෙස බැලුවේය: සංඛ්යාත විශ්ලේෂණයේ අස්වාභාවික නිත්ය රටා, හුස්ම ශබ්ද නොමැති වීම සහ C2PA අත්සන නොමැති වීම. ස්වාධීන දර්ශක තුනක එකතුව තනි ලකුණු වලට වඩා බෙහෙවින් ශක්තිමත් ප්රතිඵලයක් ලබා දුන්නේය.
නඩුව 3 - අධික නිශ්චිතභාවයෙන් ආපසු පැමිණීම. “වීඩියෝව අනිවාර්යයෙන්ම ගැඹුරු ව්යාජ එකක්,” කෙටුම්පත් වාර්තාවක් තනි වාහන ලකුණු උපුටා දක්වමින් පැවසීය. ජ්යෙෂ්ඨ විශේෂඥයා නිවැරදි කළේය: එක් මෙවලමක් ප්රමාණවත් නොවේ, භාෂාව "නිරපේක්ෂ" විය නොහැක. වාර්තාව බහු ස්ථර සහ නිරවද්යතා මට්ටම් ප්රකාශ කරන භාෂාවට පරිවර්තනය කර ඇත; එබැවින් උසාවියේ දී ආරක්ෂාකාරී වේ.
පිටපත් කළ හැකි සැකිලි හතරක්
1) මාධ්ය සත්යාපන පිරික්සුම් ලැයිස්තුව:
ඔබේ කාර්යභාරය: කෘතිම මාධ්ය සත්යාපන විශේෂඥයා. රූපයක්/ශ්රව්ය/වීඩියෝ සාක්ෂි වලංගු කිරීම සඳහා මට ස්තර පිරික්සුම් ලැයිස්තුවක් ඉදිරිපත් කරන්න: (1) ප්රභවය/ භාරකාරත්වයේ දාමය, (2) පාරදත්ත, (3) තාක්ෂණික විෂමතාව, (4) ප්රභවය/C2PA, (5) සන්දර්භීය අනුකූලතාව. එක් එක් ස්ථරය සඳහා කොන්ක්රීට් චෙක්පත් පියවර ලියන්න.
2) පාරදත්ත අනුකූලතා විශ්ලේෂණය:
මම ඔබට මාධ්ය ගොනුවක පාරදත්ත (EXIF/container) දෙන්නම්. කොඩි නොගැලපීම්: නිර්මාණය-වෙනස් කිරීමේ metaconflict, උපාංගය/මෘදුකාංග හෝඩුවාවක්, නැතිවූ/මකා දැමූ ක්ෂේත්ර, භූ-කාලික විෂමතාව. මේවා හැසිරවීමේ සංඥා විය හැකි නමුත් ඒවා විසින්ම සාක්ෂි නොවන බව පෙන්වා දෙන්න.
3) සන්දර්භ අනුකූලතා පරීක්ෂාව:
මෙම රූපයේ/වීඩියෝවේ භෞතික අනුකූලතාව තක්සේරු කරන්න: ආලෝක දිශාව සහ සෙවනැලි අනුකූලද, පරාවර්තන නිවැරදිද, ශ්රව්ය-ලිප්සින්ක් ගැලපේද, පසුබිම හිමිකම් කියන ස්ථානයට/වේලාවට ගැළපේද? එක් එක් නිරීක්ෂණ කොන්ක්රීට් ස්ථානයකට සම්බන්ධ කරන්න. අවසාන විනිශ්චය නොකරන්න; සැක මතු කරන කරුණු ලැයිස්තුගත කරන්න.
4) නිරවද්යතා මට්ටමේ භාෂාව:
පහත වලංගුකරණ සොයාගැනීම් (ලකුණු + ස්තරීකරණ ප්රතිඵල) වාර්තා ඡේදයකට පරිවර්තනය කරන්න. "අනිවාර්යෙන්ම ව්යාජ/සැබෑ" කියන්න එපා; සෑම සොයා ගැනීමකටම එහි මූලාශ්රය ලබා දී සාමාන්ය මට්ටමේ නිශ්චිතභාවයක් ප්රකාශ කරන්න (අඩු/මධ්යම/ඉහළ විශ්වාසය). අධික ලෙස විරුද්ධ හිමිකම් පෑමෙන් වළකින්න.
දුර්වල ක්ෂණික / ශක්තිමත් විමසුම
දුර්වල ක්ෂණික:
මට කියන්න, මෙම වීඩියෝව ගැඹුරු ව්යාජ එකක්ද?
එක් ස්ථරයක්, එක් විනිශ්චයක් බලා සිටී; AI සන්දර්භය නොමැතිව "ඔව්/නැත" ජනනය කරයි, මෙය උසාවියේදී ප්රතික්ෂේප කරනු ඇත.
බලවත් විමසුම:
ඔබේ කාර්යභාරය: කෘතිම මාධ්ය සත්යාපන විශේෂඥයා. වීඩියෝවක පාර-දත්ත, හඳුනාගැනීමේ මෙවලමක ලකුණු සහ රාමු කිහිපයක් මම ඔබට විස්තර කරමි. කාර්යය: මූලදත්ත, තාක්ෂණික විෂමතා සහ සන්දර්භ අනුකූලතා ස්ථර වෙන වෙනම ඇගයීම; එක් එක් ස්ථරයේ ඔබ දකින දේ මූලාශ්රය වෙත සම්බන්ධ කරන්න. ප්රතිඵලය "නිවැරදි" ලෙස නොව, ස්ථරවල ඒකාබද්ධ විශ්වාසනීය මට්ටම ලෙස ප්රකාශ කරන්න. තනි ලකුණු මත රඳා නොසිටින්න; නැතිවූ ස්ථර දක්වන්න.
ස්ථර ඇගයීම, මූලාශ්රය වෙත සම්බන්ධ කිරීම සහ "ඇමතුමක් නැත" යන සීමාව ප්රතිදානය ආරක්ෂාකාරී කරයි.
සත්යාපන ස්ථර වගුව
ස්ථරය
ඔහු බලන්නේ කුමක් ද?
ශක්තිමත් ලක්ෂ්යය
සීමාව
සම්භවය/CoC
ෆයිල් එක කොහෙන්ද ආවේ
සරල, නිවැරදි
වංචාව සැඟවිය හැක
පාරදත්ත
EXIF / බහාලුම්
ඉක්මන් ඉඟිය
මකා දැමිය හැකි / ව්යාජ
තාක්ෂණික විෂමතාව
පික්සල/සංඛ්යාතය
හැසිරවීමේ හෝඩුවාවක්
නව තාක්ෂණය මඟ හැරේ
Provenance/C2PA
අත්සන් කරන ලද මූලාරම්භය
ගුප්ත ලේඛන විශ්වාසය
හැමතැනම නෑ
සන්දර්භීය
භෞතික විද්යාව / යථාර්ථය සමගිය
වංචා කිරීමට අපහසුය
අදහස් දැක්වීම අවශ්යයි
පොදු වැරදි
- එක් වාහනයක ලකුණු මත විශ්වාසය තැබීම. Deepfake හඳුනාගැනීම බහු ස්ථර විය යුතුය; තනි ලකුණු සාක්ෂියක් නොවේ.
- එහි තේරුම "සම්පූර්ණයෙන්ම ව්යාජ/සැබෑ" යන්නයි. සම්භාවිතාව පිළිබඳ භාෂාව භාවිතා කරන්න; ඕනෑවට වඩා නිරවද්යතාවය විරෝධතා මතු කරයි.
- සම්භවය සහ සන්දර්භය මඟ හැරීම. බොහෝ ගැටලු ගැඹුරු ව්යාජ ඒවා නොව වැරදි සන්දර්භය/පැරණි මාධ්ය වේ.
- පාරදත්ත පිළිබඳ නිරපේක්ෂ විශ්වාසය. පාරදත්ත මකා දැමීම සහ ව්යාජ ලෙස සකස් කිරීම යන දෙකම කළ හැක.
- නිෂ්පාදන තාක්ෂණය අනිසි ලෙස භාවිතා කිරීම. තොරතුරු හඳුනා ගැනීම සහ ආරක්ෂාව සඳහා පමණි.
සාරාංශයක් ලෙස
Deepfake සහ synthetic මාධ්ය ඩිජිටල් අධිකරණ වෛද්ය විද්යාවේ නවතම මායිම වේ; එය බොරු සාක්ෂි ඉදිරිපත් කරන අතර සැබෑ සාක්ෂි සැක සහිත කරයි. AI යනු තර්ජනයක් සහ හඳුනාගැනීමේ මෙවලමකි. සත්යාපනය තනි මෙවලමක් මත පදනම් නොවිය යුතුය, නමුත් ප්රත්යක්ෂ, පාර-දත්ත, තාක්ෂණික විෂමතාව, ප්රත්යක්ෂ සහ සන්දර්භීය අනුකූලතාවයේ ස්ථර වල හරස් සත්යාපනය මත පදනම් විය යුතුය. ප්රතිඵලය ප්රකාශ වන්නේ නිශ්චිතභාවයෙන් නොව නිශ්චිත මට්ටමෙන් ය. තවද මෙම තොරතුරු අනාවරණය කර ගැනීමට සහ ආරක්ෂාව සඳහා පමණි - ව්යාජ මාධ්ය උත්පාදනය සඳහා නොවේ.
යෙදුම් කාර්යය
මාධ්ය සාක්ෂි දර්ශනයක් විස්තර කරන්න (උදා: ශ්රව්ය පටිගත කිරීමක්). "මාධ්ය සත්යාපන පිරික්සුම් ලැයිස්තුව" අච්චුව සමඟ ස්ථර සැලැස්මක් සාදන්න. ඉන්පසු ව්යාජ පාරදත්ත සහ හඳුනාගැනීමේ ලකුණු සහිත “පාරදත්ත අනුකූලතා විශ්ලේෂණය” සහ “නිශ්චිත මට්ටමේ භාෂාව” අච්චු යොදන්න; "අනිවාර්යෙන්ම ව්යාජ" වෙනුවට ස්ථර මට්ටමේ විශ්වාසයකින් ප්රතිඵලය ප්රකාශ කිරීමට උත්සාහ කරන්න.
පිරික්සුම් ලැයිස්තුව
- [ ] මම සත්යාපනය පදනම් කළේ බහු ස්ථර මත මිස තනි මෙවලමක් නොවේ.
- [ ] මම මුලින්ම සම්භවය සහ සන්දර්භය පරීක්ෂා කළෙමි.
- [ ] පාරදත්ත මකා දැමිය හැකි/ව්යාජ ලෙස සකස් කළ හැකි බව මම මතක තබා ගත්තෙමි.
- [ ] මම ප්රතිඵලය ප්රකාශ කළේ විශ්වාස මට්ටමේ භාෂාවෙන් මිස නිශ්චිතභාවයකින් නොවේ.
- [ ] මම නිෂ්පාදන තොරතුරු භාවිතා කළේ හඳුනාගැනීම/ආරක්ෂාව සඳහා පමණි.