ලාභ:
- කෘත්රිම බුද්ධිය භාවිතා කරන විට වෘත්තීය සංශයවාදය යනු කුමක්ද සහ තහවුරු කිරීමේ නැඹුරුව සහ ස්වයංක්රීය නැඹුරුතාවයට වැටීමේ අවදානම තේරුම් ගන්න
- ප්රතික්ෂේප කිරීමට උත්සාහ කරන ප්රශ්න කිරීමේ තාක්ෂණයක් සමඟ කෘතිම බුද්ධි ප්රතිදානය පරීක්ෂා කිරීමේ හැකියාව (ප්රතිවිරුද්ධ දේ සොයන්න)
- කෘතිම බුද්ධියේ චතුරතාව නිරවද්යතාවයෙන් අදහස් නොවන බවත්, සැක සහිත මනස පාලනයේ හරය බවත් එය මාරු කළ නොහැකි බවත් තේරුම් ගැනීමට හැකි වීම.
ස්වාධීන විගණනය වෙනත් බොහෝ වෘත්තීන්ගෙන් වෙන්කර හඳුනා ගන්නා එක් මානසික ආකල්පයක් ඇත: වෘත්තීය සංශයවාදය. ISAs මෙය නිර්වචනය කරන්නේ "විමසීමේ මනසකින්, සාක්ෂි මගින් විභව සාවද්ය ප්රකාශනයන් පෙන්නුම් කරන්නේද යන්න සහ සාක්ෂි විවේචනාත්මකව ඇගයීමට ලක් කරමින්" වැඩ කරන විගණක ලෙසය. එනම්, විගණකවරයා තමා වෙත ඉදිරිපත් කරන ලද කිසිදු තොරතුරක් ස්වයංක්රීයව පිළි නොගනී - කළමනාකරණ ප්රකාශයක්, ලේඛනයක් හෝ "සාධාරණ යැයි පෙනෙන" ගිණුමක් පවා - සත්ය ලෙස පිළි නොගනී. මම නිතරම කල්පනා කරනවා "ඇත්තටම එහෙමද?" ඔහු අසයි. මෙම ආකල්පය පාලනයේ හරය වන අතර එය ඉවත් කළ නොහැක.
කෘතිම බුද්ධියේ යුගයේදී, මෙම හරය නවතම පරීක්ෂණයකට මුහුණ දෙයි. මන්ද යත්, ස්වයංක්රීය නැඹුරුව සහ තහවුරු කිරීමේ නැඹුරුව - මිනිස් මනසෙහි ගැඹුරු දුර්වලතා දෙකක් අවුලුවාලීමට AI දක්ෂ බැවිනි. මෙම ඒකකය තුළ, AI භාවිතා කරන විගණකවරයෙකුට ඔහුගේ සංශයවාදය පවත්වා ගැනීමට හෝ ශක්තිමත් කිරීමට පවා හැකි ආකාරය අපි ආවරණය කරන්නෙමු. ප්රධාන නිබන්ධනය නම් AI හි චතුරතාව නිරවද්යතාවය නොවේ; AI හමුවේ සැක සහිත මනස වඩාත් වැදගත් වේ.
භයානක නැඹුරුවාවන් දෙකක්
ස්වයංක්රීය නැඹුරුව යනු මිනිසුන් තම විනිශ්චයට වඩා යන්ත්රයක/මෘදුකාංගයක ප්රතිදානය විශ්වාස කිරීමට ඇති ප්රවණතාවයයි. "පරිගණකය එය ගණනය කළා, එය නිවැරදියි." AI සම්බන්ධයෙන් ගත් කල මෙම අන්තරාය විශාල වේ, මන්ද AI ගණනය කරන්නේ නිකම්ම නොවේ; චතුර ලෙස, විශ්වාසයෙන්, මිනිසුන්ට සමාන, තර්කානුකූල වාක්ය කථා කරයි. තොරතුරු නිවැරදි නොවූවත් විශ්වාසදායක ස්වරයක් ඒත්තු ගන්වයි.
තහවුරු කිරීමේ පක්ෂග්රාහීත්වය යනු මිනිසුන් තමන් කලින් විශ්වාස කළ හෝ බලාපොරොත්තු වූ නිගමනයට අනුබල දෙන තොරතුරු සෙවීමට සහ පරස්පර තොරතුරු නොසලකා හැරීමට ඇති ප්රවණතාවයයි. මෙය විගණනයේදී මාරාන්තික වේ: "මෙම සේවාලාභියා පිරිසිදු විය යුතුය" යැයි සිතන විගණකවරයෙකුට ඔහු AI ගෙන් විමසා තහවුරු කිරීමක් ලැබුණු විට සහනයක් ලැබෙන අතර ඊට ප්රතිවිරුද්ධ සාක්ෂි සෙවීම නවත්වනු ඇත. AI අසන ප්රශ්නයට නැඹුරු වීමට නැඹුරු වන නිසා (ඔබ “ඒක හරිද, හරිද?” යැයි ඇසුවහොත් එය ඔබ සමඟ එකඟ වන පිළිතුරක් නිපදවීමට වැඩි ඉඩක් ඇත), එය තහවුරු කිරීමේ නැඹුරුව වර්ධනය කළ හැකිය.
තුන්වැන්න ද ඇත: මායාව. අපි එය මොඩියුලයේ බොහෝ වාරයක් දුටුවෙමු - AI හට නොපවතින අංකයක්, අයිතමයක්, සම්පතක් චතුර ලෙස සෑදිය හැකිය. දුර්වලතා තුනක් එකතු වූ විට අන්තරාය සංකීර්ණ වේ: AI දේවල් සාදයි (මායාව), ඔබ එය විශ්වාස කරන්නේ එය තරල (ස්වයංක්රීය නැඹුරුව), ඔබ එය ප්රශ්න නොකරන්නේ එය ඔබ අපේක්ෂා කරන දේ (තහවුරු කිරීමේ නැඹුරුව) ඔබට පවසන බැවිනි.
AI වලට එරෙහි සංශයවාදී මනසේ මෙවලම් තුන
AI ට එරෙහි සංයුක්ත ශිල්පීය ක්රමවලට අපි සංශයවාදය දමමු:
- ප්රතික්ෂේප කිරීමට උත්සාහ කරන්න, තහවුරු නොකරන්න. AI විසින් එහි ප්රතිදානය “එය සත්යද?” යනුවෙන් අසනු ඇත. "මෙය වැරදි නම් මම දන්නේ කෙසේද?" ප්රශ්නය. ඔබෙන්ම මෙසේ අසන්න: “මෙම ප්රකාශය අසත්ය නම්, එය පෙන්වන සාක්ෂි මොනවාද?” ඒ සාක්ෂි හොයන්න. තනි තහවුරු කරන උදාහරණයක් සොයා ගැනීම පහසුය; ප්රතික්ෂේප කිරීමට උත්සාහ කිරීම සහ අසාර්ථක වීම සැබෑ සහතිකයක් ලබා දෙයි.
- මධ්යස්ථව සහ පසුපසට විමසන්න. AI ගෙන් අසන්න "මෙතන ප්රශ්නයක් නෑ නේද?" අහන්න එපා; මෙය අනුමත ප්රතිචාරයකට ආරාධනා කරයි. ඒ වෙනුවට, "මෙම දත්තවල මට මග හැරිය හැකි අවදානම් මොනවාද?" සහ "මෙම ප්රතිඵලය වැරදි විය හැකි බොහෝ දුරට ඉඩ ඇති අවස්ථා තුන කුමක්ද?" අහන්න. ප්රතිවිරුද්ධ පැති දෙකකින් එකම ප්රශ්නය අසන්න, පිළිතුරු සසඳන්න.
- මූලාශ්රයට බාගත කර ප්රතිනිෂ්පාදනය කරන්න. එක් එක් නිකුතුව, ආරෝපණය සහ නිගමනය සඳහා, "මම මෙය ස්වාධීනව සත්යාපනය කරන්නේ කොහේද?" ප්රශ්නය අසන්න සහ ඇත්ත වශයෙන්ම සත්යාපනය කරන්න. ප්රකාශයක් ලෙස AI හි ප්රතිදානය බලන්න; සාක්ෂි හිමිකම් පෑමට බාහිර ය.
ඉඟිය: පුරුද්දක් ඇති කර ගන්න: AI ලබා දෙන සෑම වැදගත් ප්රතිදානයකටම ඊළඟට, අතින් කරුණු දෙකක් ලියන්න - "(1) මම මෙය සත්යාපනය කළේ කුමක් සමඟද, (2) එය අසත්ය නම් මෙය පෙන්වන සාක්ෂි මොනවාද." මෙම සටහන් දෙක ස්වයංක්රීයකරණය සහ තහවුරු කිරීමේ නැඹුරුව යන දෙකම බිඳ දමයි.
විගණකවරයාට පැවරිය නොහැකි විනිශ්චයන්
සමහර රැකියා සහජයෙන්ම සංශයවාදය සහ විනිශ්චය අවශ්ය වේ; මේවා AI වෙත පැවරිය නොහැක, සහය දක්වන්නේ පමණි:
වෙන් කළ නොහැකි අධිකරණ බලය
ඇයි
සාක්ෂි ප්රමාණවත් සහ සුදුසුද යන්න
වෘත්තීය විනිශ්චය; සන්දර්භය රඳා පවතී
පැහැදිලි කිරීමක සාධාරණත්වය
ව්යවසාය සහ අභිප්රාය සලකා බැලීම අවශ්ය වේ
වංචා අවදානම තක්සේරු කිරීම
සංශයවාදය සහ බුද්ධිය; දත්ත රටාවෙන් ඔබ්බට
ද්රව්යමය සහ අදහස් තීරණය
මහජනතාවට වගකියන අධිකරණය
කළමනාකරණයේ අවංකභාවය පිළිබඳ මතය
මිනිස් හැසිරීම් කියවීම; AI ට මෙය කළ නොහැක
සංශයවාදය සහ පාදඩකම අතර වෙනස: මනින ලද ආකල්පයක්
වෘත්තීය සංශයවාදය යනු සියල්ල අවිශ්වාස කිරීම හෝ කලමනාකාරීත්වයට කල්තියා දොස් පැවරීම නොවේ; මෙය ඉක්මවා යාමක් වන අතර පාලනය අකාර්යක්ෂම වනු ඇත. සංශයවාදය යනු පිරිසිදු විශ්වාසය (ඔබට කියනු ලබන සියල්ල පිළිගැනීම) හෝ අන්ධ ප්රතික්ෂේප කිරීම (සියල්ල ප්රතික්ෂේප කිරීම) නොවේ; ඒ අතර, එය සාක්ෂියට සරිලන විමර්ශන ආකල්පයකි. විගණකවරයා කළමනාකරණය අවංක යැයි පිළිගත හැකි නමුත් සාක්ෂි සමඟ මෙම පිළිගැනීම පරීක්ෂා කරයි; පැහැදිලි කිරීමක් පිළිගත හැකි බව සොයා ගත හැකි නමුත්, විශ්වාසනීය බව තහවුරු කරයි. AI හට මෙම සමතුලිතතාවය අවුල් කළ හැක: එක් දිශාවකින්, එය එහි ද්රව ප්රතිදානය සමඟ අධික විශ්වාසයකට ඔබව ඇද දමයි; අනෙක් අතට, ඔබ එයට "සියල්ලෙහිම වැරදි සොයන්න" යැයි පැවසුවහොත්, එය ඔබට නිමක් නැති ව්යාජ ධනාත්මක ප්රහාර එල්ල කරනු ඇත. නිවැරදි ආකල්පය වන්නේ සාක්ෂි ඉදිරිපත් කිරීමට සහ සාක්ෂි නිෂ්ප්රභ කිරීමට AI ක්රියාත්මක කරන අතරම, සෑම විටම ප්රතිඵලය සාක්ෂියේ බරට එරෙහිව කිරා බැලීමයි. සංශයවාදය පෞරුෂ ලක්ෂණයක් නොව, විනයගරුක වැඩ කිරීමේ ක්රමයකි; තවද මෙම විනය ස්ථාපිත කිරීම, නඩත්තු කිරීම සහ සාක්ෂි සපයන්නේ විගණකවරයා මිස AI නොවේ.
කුඩා නඩු තුනක්
නඩුව 1 - ප්රතික්ෂේප කිරීමේ තාක්ෂණය ක්රියා කරයි. විගණකවරයෙක් AI මුද්රණය කළේ “මෙම කොටස් තක්සේරුව සාධාරණ බව පෙනේ” යැයි පවසමිනි. තහවුරු කරනවා වෙනුවට ඔහු පිටුපසින් ඇසුවේය: "මෙම තක්සේරුව වැඩිපුර සඳහන් කර ඇත්නම්, එය පෙන්විය හැකි සාක්ෂි මොනවාද?" "අලෙවියෙන් පසු මිල ගණන් පිරිවැයට වඩා පහත වැටෙන අයිතම," YZ පැවසීය. විගණකවරයා මෙම අයිතම සෙවූ අතර ඇත්ත වශයෙන්ම අඩු අගයක් ඇති කණ්ඩායමක් සොයා ගන්නා ලදී. ප්රතික්ෂේප කිරීමේ ප්රශ්නය තහවුරු කිරීම සඟවා ඇති අවදානම හෙළිදරව් කළේය.
නඩුව 2 - තහවුරු කිරීමේ නැඹුරුවකට වැටීම. "මෙම ගිණුමේ විශාල වරදක් නැත, හරිද?" යනුවෙන් කණ්ඩායමේ සාමාජිකයෙක් AI ගෙන් විමසා සිටියේ දුෂ්කර කාලයකදීය. ඔහු ඇසුවේය. YZ ප්රශ්නයට හේත්තු වී, "ඔබ ලබා දුන් තොරතුරු අනුව, සැලකිය යුතු ගැටලුවක් ඇති බවක් නොපෙනේ" යැයි පැවසීය. කණ්ඩායමේ සාමාජිකයා සැහැල්ලුවෙන් පෑන වසා ගත්තේය. කෙසේ වෙතත්, ඔහු කිසිදු සාක්ෂියක් ඉදිරිපත් කර නොතිබුණි; AI ඔහුගේ වාක්යය පිළිබිඹු කළේය. ප්රශ්නය අපක්ෂපාතීව නොඇසූ බව වගකිව යුතු පුද්ගලයා පෙන්වා දුන්නේය. පාඩම: ඔබ ප්රශ්නය අසන ආකාරය ඔබට ලැබෙන පිළිතුර තීරණය කරයි; තහවුරු කිරීමක් සොයන ප්රශ්නයක් තහවුරු කිරීමක් ඇති කරයි.
නඩුව 3 - චතුර ලෙස වැටීම. YZ ඉතා චතුර සහ තර්කානුකූල ඡේදයකින් පැහැදිලි කරන ලද නීති සම්පාදනය පිළිබඳ අර්ථකථනයක් නිවැරදි යැයි විගණකවරයෙකු සිතූ අතර එය වැඩ කරන පත්රිකාවට ඇතුළත් කළේය. පාඨය කෙතරම් පිළිවෙළකටද යත්, එය ප්රශ්න කිරීමට ඔහුට සිතුණේ නැත. වගකිවයුතු පුද්ගලයා නිල පාඨයේ සඳහනට සමානකමක් නොමැති බව පෙන්නුම් කළේය. පාඩම: චතුරභාවය සහ විශ්වාසය නිරවද්යතාවය පිළිබඳ සාක්ෂි නොවේ; වඩාත්ම විශ්වාසදායක ලෙස පෙනෙන ප්රතිඵලය වඩාත් භයානක විය හැකිය.
දුර්වල ක්ෂණික / ශක්තිමත් විමසුම
දුර්වල ක්ෂණික:
මේ විග්රහය හරි නේද? ඔබ අනුමත කරනවාද?
ගැටලුව: තහවුරු කිරීමක් අපේක්ෂා කරන පක්ෂග්රාහී ප්රශ්නයක්. එය ඔබ හා සම්බන්ධ වීමට AI තල්ලු කරයි; එය තහවුරු කිරීමේ නැඹුරුව පෝෂණය කරන අතර සැබෑ අවදානම සඟවයි.
බලවත් විමසුම:
ඔබගේ කාර්යභාරය: ඔබ ස්වාධීන විගණකවරයෙකුගේ විවේචනාත්මක විමර්ශන හවුල්කරුවෙකි. ඔබේ කාර්යය මා සමඟ එකඟ වීම නොව, මගේ ප්රතිදානය ප්රතික්ෂේප කිරීමට උත්සාහ කිරීමයි. සන්දර්භය: පහත දැක්වෙන්නේ මගේ විශ්ලේෂණාත්මක ක්රියාපටිපාටියක නිගමනය සහ මගේ තාවකාලික නිගමනයයි.[ප්රතිඵල පාඨය]කාර්යය:1) මෙම නිගමනය අසත්ය විය හැකි අවස්ථා 3ක් ලැයිස්තුගත කරන්න.2) එක් එක් සිද්ධිය සඳහා එය සත්ය නම්, කුමක් වේද?" නිශ්චිත, සෙවිය හැකි සාක්ෂි යෝජනා කරන්න. 3) මට මග හැරී ඇති දත්ත හෝ උපකල්පන සලකුණු කරන්න. 4) මා සමඟ එකඟ වන වාක්ය සාදන්න එපා; දුර්වල කරුණු සොයා ගැනීම ඔබට පැවරී ඇත. ඔබට විශ්වාස නැති තැන "නොදනී" ලකුණු කරන්න.
මෙම ප්රේරකය ප්රබල වන්නේ එය AI හි භූමිකාව (ප්රතික්ෂේප කිරීම), ප්රතික්ෂේප කිරීමේ අවස්ථා සහ සෙවිය හැකි සාක්ෂි අවශ්ය වන නිසා සහ තහවුරු කිරීම-සොයන භාෂාව තහනම් කරන බැවිනි. මෙය AI තහවුරු කිරීමේ පක්ෂග්රාහී මෙවලමකට වඩා සංශයවාදයේ සේවයේ යොදවයි.
පොදු වැරදි
- අනුමැතිය ඉල්ලා ප්රශ්න ඇසීම. "කමක් නෑ නේද?" එකඟ වූ පිළිතුර විමසීමෙන් සහ සහතික කිරීමෙන්.
- නිරවද්යතාවය සඳහා චතුර ලෙස වරදවා වටහා ගැනීම. ප්රශ්න කිරීමකින් තොරව හොඳින් ලියා ඇති විශ්වාසදායක ප්රතිදානය පිළිගැනීම.
- තනි තහවුරු කිරීමේ උදාහරණයකින් සෑහීමට පත් වන්න. එය ප්රතික්ෂේප කිරීමට උත්සාහ නොකර, පළමු ආධාරක සොයාගැනීම සමඟ වසා දැමීම.
- අහිමි කළ නොහැකි අධිකරණ බලය පැවරීමට. සාක්ෂි ප්රමාණවත් බව, සාධාරණත්වය, මතය පිළිබඳ තීරණය AI වෙත පැවරීම.
- කාල පීඩනය යටතේ සංශයවාදය අත්හැරීම. ඔබ සිරවී සිටින විට AI හි සැනසිලිදායක පිළිතුරේ රැකවරණය ලබා ගැනීම.
අවවාදයයි: කාල පීඩනය යනු සංශයවාදයේ විශාලතම සතුරා වන අතර, මෙම පීඩනය යටතේ AI වඩාත් භයානක වේ; මන්ද එය ඔබට වේගවත්, චතුර සහ සැනසිලිදායක පිළිතුරක් ලබා දෙන බැවිනි. ඔබ කඩිමුඩියේ සිටින විට ප්රතික්ෂේප කිරීමේ ප්රශ්නය ඇසීම අත්යවශ්ය දෙයක් බවට පත් කරන්න.
සාරාංශයක් ලෙස
වෘත්තීය සංශයවාදය විගණනයේ හරය වන අතර AI යුගයේදී වඩාත් තීරණාත්මක වේ. AI දුර්වලතා තුනක් අවුලුවයි: මායාව (එය සාදයි), ස්වයංක්රීය නැඹුරුව (එය තරල බැවින් අපි එය විශ්වාස කරමු), තහවුරු කිරීමේ නැඹුරුව (එය අප බලාපොරොත්තු වන දේ පවසන බැවින් අපි එය ප්රශ්න නොකරමු). ප්රතිවිරෝධය නම් AI නිෂ්ප්රභා කිරීමට ඉක්මන් වීම මිස එය තහවුරු නොකිරීමයි: "මෙය අසත්ය නම්, එය පෙන්වන සාක්ෂි මොනවාද?" සහ ප්රතිවිරුද්ධ සාක්ෂි සොයමින්, වෛෂයිකව සහ පසුපසට විමසමින්, ප්රභවයෙන් සෑම ප්රතිදානයක්ම ප්රතිනිෂ්පාදනය කරයි. සාක්ෂි ප්රමාණවත් වීම, සාධාරණත්වය, වංචාවේ අවදානම සහ මත විනිශ්චය වැනි විනිශ්චයන් සඳහා සංශයවාදය අවශ්ය වන අතර ඒවා මාරු කළ නොහැක. චතුරතාව නිරවද්යතාවය නොවේ; සැක සහිත සිත ඔබේ ය.
යෙදුම් කාර්යය
ඔබේ විගණන ප්රතිඵලය (හෝ උපකල්පිත ප්රතිඵලයක්) ලබා ගන්න. පළමුව "තහවුරු කිරීම-සොයන" දුර්වල ප්රශ්නයක් සමඟින්, පසුව ඉහත "ප්රතික්ෂේප කරන" ප්රබල කඩිනම් රටාවකින් AI ගෙන් අසන්න. ප්රතිඵල දෙක දෙපැත්තට තබා වෙනස ලියන්න: ප්රතික්ෂේප කිරීමේ ප්රශ්නයෙන් පමණක් හෙළි වූ අවදානම් මොනවාද? ඉන්පසු ඔබේ ප්රතිදානයේ එක් එක් ප්රධාන හිමිකම් පෑම අසල සටහන් දෙකක් එක් කරන්න: "මම සත්යාපනය කළේ කුමක් සමඟද" සහ "එය අසත්ය නම් පෙන්වන සාක්ෂි මොනවාද".
පිරික්සුම් ලැයිස්තුව
- [ ] මම AI ප්රතික්ෂේප කිරීමේ/උදාසීන ප්රශ්න ඇසුවෙමි, තහවුරු කිරීමේ ප්රශ්න නොවේ.
- [ ] සෑම වැදගත් ප්රතිඵලයක් සඳහාම, "මෙය අසත්ය නම්, එය පෙන්විය හැකි සාක්ෂි මොනවාද?" මම ප්රශ්නය අහලා සාක්ෂි හෙව්වා.
- [ ] මම ප්රතිදානය පරීක්ෂා කළෙමි, එය සුමට සහ විශ්වාසදායක බවක් පෙනෙන්නට තිබුණි, අමතර සැකයෙන්.
- [ ] මම එක තහවුරු කිරීමේ උදාහරණයකින් නතර නොවෙමි; මම එය ප්රතික්ෂේප කිරීමට උත්සාහ කළ නමුත් එය අසාර්ථක විය.
- [ ] මම සාක්ෂි ප්රමාණවත් වීම, සාධාරණත්වය සහ මතය වැනි මගේම විනිශ්චයන් සිදු කළෙමි.
- [ ] කාල පීඩනය යටතේ වුවද, මම ප්රතික්ෂේප කිරීමේ ප්රශ්නය මඟ හැරියේ නැත.
- [ ] වැදගත් හිමිකම් පෑම් වලට පසුව, මම "මා විසින් සත්යාපනය කළ දේ / එය වැරදි නම් පෙන්විය යුතු දේ" සටහන් කළෙමි.