ලාභ:
- මානව පාලනයේ ආකෘති තුනක් වෙන්කර හඳුනා ගැනීම (ලූපයේ, ලූපයේ, විධානයේ)
- AI ප්රතිදානයේ පක්ෂග්රාහී සහ වෙනස් කොට සැලකීමේ අවදානම් හඳුනා ගැනීම සහ අවම කිරීම
- විනිවිදභාවය සහ පැහැදිලි කිරීමේ මූලධර්ම සංයුක්ත යෙදුම් බවට පරිවර්තනය කිරීම
AI පද්ධතියක් තාක්ෂණිකව පරිපූර්ණව ක්රියා කළ හැකි නමුත් තවමත් වැරදියි: එය කණ්ඩායමක් ක්රමානුකූලව ඉවත් කිරීම, එහි තීරණයට හේතුව පැහැදිලි කිරීමට අපොහොසත් වීම හෝ ප්රශ්න කිරීමකින් තොරව එය පිළිගැනීමට මිනිසුන් යොමු කළ හැකිය. මෙම ඒකකය තුළ, අපි පාලනයේ "මෘදු" නමුත් වඩාත්ම තීරණාත්මක පැත්ත - මානව පාලනය, පක්ෂග්රාහී කළමනාකරණය, විනිවිදභාවය සහ ආචාර ධර්ම - සංයුක්ත භාවිතයන් බවට පරිවර්තනය කරමු. ඉලක්කය "AI විශ්වාස නොකරන්න" වැනි නොපැහැදිලි සටන් පාඨ නොවේ; ඒවා නිමැවුමක් විගණනය කරන්නේ කෙසේද, පක්ෂග්රාහීත්වය අඩු කරන්නේ කෙසේද සහ විනිවිදභාවය ඇති කරන්නේ කෙසේද යන්න පෙන්වන ක්රියාකාරී යාන්ත්රණ වේ.
මානව පාලනයේ ආකෘති තුනක්
මානව අධීක්ෂණය යන්නෙන් අදහස් කරන්නේ AI විසින් ගන්නා තීරණ මත මිනිසා විසින් පාලනය රඳවා තබා ගැනීමයි. මූලික ආකෘති තුනක් ඇති අතර අවදානම අනුව නිවැරදි ආකෘතිය තෝරා ගැනීම අවශ්ය වේ.
ආකෘතිය
අර්ථය
ගැලපෙන තැන
ලූපයේ මිනිස්
පුද්ගලයෙකු සෑම තීරණයක්ම අනුමත කරයි
අධි අවදානම්, බලපෑම්කාරී තීරණ
ලූප් මත මානව
AI ක්රියා කරයි, මිනිසුන් නිරීක්ෂණය කරයි සහ අවශ්ය නම් මැදිහත් වේ
මධ්යම අවදානම්, ඉහළ පරිමා ගනුදෙනු
අණ දෙන මිනිසා
මිනිසා පද්ධතිය සැලසුම් කරයි, එහි සීමාවන් නියම කරයි, එය වසා දැමිය හැකිය
සමස්ත පාලන මට්ටම
පුද්ගලයාට (රැකියාව, ණය, සෞඛ්ය සේවා) සැලකිය යුතු ලෙස බලපාන තීරණ සඳහා, Human-in-the-loop ආකෘතිය වඩාත් කැමති වේ: AI උපදෙස් ලබා දෙයි, නමුත් දක්ෂ මිනිසෙක් අවසාන තීරණය ගනී. "AI එහෙම කිව්වා" කිසිවිටෙක නිදහසට කරුණක් නොවේ; වගකීම සෑම විටම පුද්ගලයා මත පවතී.
අවධානය: මානව පාලනය "කඩදාසි මත" තිබීම පමණක් ප්රමාණවත් නොවේ. මිනිසා ස්වයංක්රීයව AI හි යෝජනාව අනුමත කරන්නේ නම් (රබර් මුද්දර දැමීම), සැබෑ පාලනයක් නොමැත. විගණනය අර්ථවත් වීමට නම්, යමෙකුට තාර්කිකත්වය දැකීමට, එය ප්රශ්න කිරීමට සහ "නැහැ" යැයි පැවසීමට හැකි විය යුතුය.
අගතිය සහ වෙනස් කොට සැලකීමේ අවදානම
පක්ෂග්රාහීත්වය යනු AI ක්රමානුකූලව යම් යම් කණ්ඩායම්වලට අවාසි හෝ වාසි සැලසීමයි. එහි මූලාශ්රය බොහෝ විට පුහුණු දත්ත වේ: ඓතිහාසික දත්තවල වෙනස්කම් තිබේ නම්, AI එය ඉගෙන ගෙන එය පවත්වාගෙන යයි - එය පරිමාණය පවා කරයි.
පක්ෂග්රාහීත්වය අඩු කිරීම සඳහා ප්රායෝගික පියවර:
- සංවේදී විචල්යයන් සමාලෝචනය කරන්න: තීරණය මත ස්ත්රී පුරුෂ භාවය, වයස, වාර්ගිකත්වය වැනි ක්ෂේත්රවල බලපෑම පරීක්ෂා කරන්න.
- කණ්ඩායම් අනුව පරීක්ෂණ ප්රතිඵල: පද්ධතිය විවිධ කණ්ඩායම් තුළ විවිධ ප්රතික්ෂේප කිරීම්/පිළිගැනීමේ අනුපාත නිපදවන්නේද?
- ප්රොක්සි විචල්යයන්ගෙන් පරෙස්සම් වන්න: “අසල්වැසි” හෝ “පාසල” වැනි ක්ෂේත්ර ජනවාර්ගික/පංති භේදය ව්යංගයෙන් ප්රකාශ කළ හැක.
- නිත්ය නිරීක්ෂණයක් ඇති කරන්න: පක්ෂග්රාහීත්වය එක් වරක් පමණක් නොව අඛණ්ඩව පරීක්ෂා කෙරේ; දත්ත වෙනස් වන විට එය නැවත පැමිණිය හැක.
කුඩා නඩු තුනක්
නඩුව 1 - රබර් මුද්රාව. එක් බැංකුවක, ණය නිලධාරීන් එය සමාලෝචනයකින් තොරව AI ලකුණු අනුමත කරයි; ඔවුන් පවසන්නේ "පද්ධතිය දැනටමත් එය ගණනය කර ඇති" බවයි. විගණනයකින් පෙන්නුම් කරන්නේ ඉදිරිපත් කිරීම් 500 න් 498 කදී, මිනිසා AI ගත් තීරණයට සමාන තීරණයක් ගත් බවයි - එබැවින් සැබෑ සමාලෝචනයක් නොමැත. විසඳුම: මිනිසුන්ට තර්කය දැකීමට අවශ්ය වන අතර, තීරණය යම් ප්රමාණයකට දෙවනුව අනුමාන කිරීමට සහ "ඇයි එකඟ වන්නේ / එකඟ නොවන්නේ" යන සටහනක් අවශ්ය වේ.
නඩුව 2 - ව්යංග පක්ෂග්රාහී. බඳවා ගන්නා AI ස්ත්රී පුරුෂ භාවය කිසිසේත් භාවිතා නොකළත්, කාන්තා අයදුම්කරුවන්ට අඩු ලකුණු ලබා දෙයි. කොහෙන් ද? අතීත දත්තවල බොහෝ විට ලබා දී ඇති ස්ථානයක පිරිමින් ඇතුළත් වූ බැවින්, "අඛණ්ඩ වෘත්තිය" වැනි ප්රොක්සි විචල්යයන් හරහා ආකෘතිය වක්ර වෙනස්කම් කිරීම් ඉගෙන ගත්තේය. කණ්ඩායම් පාදක පරීක්ෂණයෙන් මෙය අනාවරණය වේ; කණ්ඩායම ආදේශක විචල්යයන් උපුටා ගන්නා අතර ප්රතිඵලය නිරීක්ෂණය කරයි.
නඩුව 3 - විනිවිදභාවය සමඟ විශ්වාස කරන්න. එහි AI බලයෙන් ක්රියාත්මක වන හානිය තක්සේරු කිරීමේදී, රක්ෂණ සමාගමක් සෑම පාරිභෝගිකයෙකුටම දැනුම් දෙන්නේ “තීරණය AI බලයෙන් ක්රියාත්මක වන අතර, ඔවුන්ට අභියාචනා කිරීමට සහ මානව සමාලෝචනයක් ඉල්ලා සිටිය හැකි” බවයි. ගනුදෙනුකරුවන් ක්රියාවලිය තේරුම් ගෙන විශ්වාස කරන බැවින් විරෝධතා අනුපාතය බලාපොරොත්තු වූවාට වඩා අඩුය. අවදානම අඩු කරන අතරම විනිවිදභාවය විශ්වාසය වැඩි කරයි.
විනිවිදභාවය සහ පැහැදිලි කිරීමේ හැකියාව
විනිවිදභාවය යනු AI එකක් ක්රියාත්මක වන බවත් එය ක්රියා කරන ආකාරයත් අදාළ පුද්ගලයින්ට පැහැදිලි කිරීමයි. පැහැදිලි කිරීමේ හැකියාව යනු තීරණයක් ගැනීමට හේතුව තේරුම් ගත හැකි ආකාරයෙන් පැහැදිලි කිරීමට හැකි වීමයි. කොන්ක්රීට් යෙදුම්:
- AI පුද්ගලයා සමඟ අන්තර් ක්රියා කිරීම පිළිබඳ "ඔබ AI සමඟ කතා කරයි" දැනුම්දීම.
- "මෙම තීරණය පහත සඳහන් සාධක මත පදනම් විය" ස්වයංක්රීය තීරණවල පැහැදිලි කිරීම.
- අභියාචනා කිරීමට සහ මානව සමාලෝචන ඉල්ලීමට මාර්ගය පැහැදිලිව ඉදිරිපත් කරන්න.
- අභ්යන්තර කණ්ඩායම් සඳහා: ආකෘතිය කරන දේ ලේඛනගත කිරීම සහ පටිගත කිරීම.
ඉඟිය: AI තීරණයක් අසන්න "මෙම තීරණයට බලපෑ ඉහළම සාධක තුන මොනවාද?" ප්රශ්නය සමඟ එය පරීක්ෂා කරන්න. පද්ධතියට මෙය තේරුම් ගත නොහැකි නම් සහ තීරණය පුද්ගලයාට සැලකිය යුතු ලෙස බලපාන්නේ නම්, එම පද්ධතිය තවමත් වගකිවයුතු භාවිතය සඳහා සූදානම් නැත.
ස්වයංක්රීය නැඹුරුව: තමන්ගේම උගුලක්
විනිවිදභාවය සහ මානව අධීක්ෂණය ස්ථාපිත වුවද, මිනිස් පැත්තෙන් ද්රෝහී අවදානමක් ඇත: ස්වයංක්රීය නැඹුරුව. මිනිසුන් තම විනිශ්චයට වඩා යන්ත්රයක ප්රතිදානය විශ්වාස කිරීමට ඇති ප්රවණතාවය මෙයයි. තිරයේ AI යෝජනාව "වෛෂයික සහ ගණනය කළ" ලෙස පෙනෙන නිසා, ප්රශ්න කිරීමකින් තොරව එය පිළිගැනීමට යමෙකු පෙළඹේ - මෙය රබර් මුද්රාවේ මනෝවිද්යාත්මක සම්භවය වේ.
මෙය අඩු කිරීමට නිශ්චිත ක්රම තිබේ. පළමුව ප්රති-මතය දිරිමත් කරන්න: තීරණය අනුමත කරන පුද්ගලයාගෙන් විමසන්න “මම AI සමඟ එකඟ නොවන්නේ ඇයි?” ප්රශ්නය ගැන සිතා බැලීමට ඔහුගෙන් ඉල්ලා සිටින්න. ඉන්පසු විශ්වාස ලකුණු පෙන්වන්න: AI කොතරම් විශ්වාසද යන්න දක්වන්න; අඩු විශ්වාස ප්රතිදාන වෙන වෙනම ලකුණු කරන්න. ඉන්පසු ගැටුම් ඇඟවීමක් සකසන්න: AI නිර්දේශය ආයතනයේ රීතිය හෝ මිනිසාට ලබා ගත හැකි දත්ත උල්ලංඝනය කරන්නේ නම්, පද්ධතිය මෙය ඉස්මතු කරයි. අවසාන වශයෙන්, තීරණාත්මක තීරණ සඳහා මානව මූලධර්ම දෙක අදාළ කරන්න; තනි අනුමත කරන්නෙකු ස්වයංක්රීය පක්ෂග්රාහීත්වයට වඩාත් ගොදුරු වේ.
අවවාදයයි: "මිනිස් අනුමැතිය තිබේ" යැයි පැවසීමෙන් ස්වයංක්රීය නැඹුරුවෙන් නිදහස් වීම අදහස් නොවේ. AI ප්රශ්න කිරීමට මිනිසාට බලය, කාලය සහ නිවැරදි තොරතුරු යන දෙකම තිබිය යුතුය. තත්පර 3 කින් තීරණ 200 ක් ගැනීමට අනුමත කරන්නාට බල කරන පද්ධතියක් ඇත්ත වශයෙන්ම සැබෑ මානව පාලනයක් ලබා නොදේ.
පිටපත් කළ හැකි සැකිලි
සැකිල්ල 1 — මානව පාලන ආකෘති තේරීම: "පහත AI භාවිතය සඳහා සුදුසු මානව පාලන ආකෘතිය [භාවිතය විස්තර කරන්න]: ලූපයේ, ලූපයේ, හෝ විධානය තුළ? පුද්ගලයාට ඇති අවදානම සහ බලපෑම සැලකිල්ලට ගනිමින් යුක්තිසහගත කිරීම සමඟ නිර්දේශ කරන්න. රබර් මුද්දර අවදානම වළක්වා ගැනීමට මා එකතු කළ යුතු පාලනය සඳහන් කරන්න."
සැකිල්ල 2 — පක්ෂග්රාහී පරීක්ෂණ සැලැස්ම: "පහත දැක්වෙන තීරන සහය AI සඳහා [භාවිතය විස්තර කරන්න] පක්ෂග්රාහී පරීක්ෂණ සැලැස්මක් අඳින්න: මා සැසඳිය යුත්තේ කුමන කණ්ඩායම්ද, මා මැනිය යුත්තේ කුමන මෙට්රික් (ප්රතික්ෂේප කිරීම/පිළිගැනීමේ අනුපාතය, ආදිය), මා සෙවිය යුත්තේ කුමන ආදේශක විචල්යයන්ද, කොපමණ වාරයක් පරීක්ෂණය නැවත කළ යුතුද? එය පියවරෙන් පියවර ලියන්න."
සැකිල්ල 3 — තීරණ විස්තර පාඨය: "පුද්ගලීකරණය කළ ස්වයංක්රීය තීරණයක් සඳහා සරල විස්තර පෙළක් ලියන්න: තීරණය AI බලයෙන් ක්රියාත්මක වූයේද, තීරණයට බලපාන ප්රධාන සාධකද, මානව සමාලෝචනයට අභියාචනා කිරීමට සහ ඉල්ලීමට මාර්ගයක්. චෝදනා නොකරන, ගෞරවනීය ස්වරය, වචන 120ක් හෝ ඊට අඩුවෙන්."
සැකිල්ල 4 — සදාචාරාත්මක සමාලෝචන පිරික්සුම් ලැයිස්තුව: "AI භාවිතයක් ප්රකාශයට පත් කිරීමට පෙර ආචාර ධර්ම සමාලෝචන පිරික්සුම් ලැයිස්තුවක් සකස් කරන්න: සාධාරණත්වය/වෙනස්කොට සැලකීම, විනිවිදභාවය, මානව පාලනය, පෞද්ගලිකත්වය, ආරක්ෂාව, වගවීම. එක් එක් මාතෘකාව යටතේ පිළිතුරු සැපයිය යුතු පැහැදිලි ප්රශ්න 1-2ක් ඇතුළත් කරන්න."
දුර්වල ක්ෂණික / ශක්තිමත් විමසුම
දුර්වල: “මෙය AI බඳවා ගැනීම සාධාරණද?”-> ආකෘතිය 'එය සාධාරණ විය යුතුය' වැනි සාමාන්ය පිළිතුරක් ලබා දෙයි; පරීක්ෂා කළ හැකි ක්රමයක් සහ පක්ෂග්රාහී මිනුම් ලබා නොදේ. ශක්තිමත්: "මෙම බඳවා ගැනීමේ සහාය AI සඳහා පක්ෂග්රාහී පරීක්ෂණ සැලැස්මක් සකසන්න: ස්ත්රී පුරුෂ භාවය සහ වයස් කාණ්ඩ හරහා පිළිගැනීමේ අනුපාත සංසන්දනය කිරීමේ ක්රමයක්, සලකා බැලිය යුතු ප්රොක්සි විචල්යයන්, පිළිගත හැකි වෙනස්කම් සීමාව සහ අධීක්ෂණ සංඛ්යාතය. අවසාන තීරණය මිනිසා විසින් ගන්නා බව සහතික කිරීම සඳහා පාලනය එක් කරන්න." -> ආකෘතිය මැනිය හැකි, නැවත නැවතත් කළ හැකි සාධාරණ යාන්ත්රණයක් නිපදවයි.
පොදු වැරදි
- මානව පාලනය "කඩදාසි මත" අත්හැර ස්වයංක්රීයව AI නිර්දේශය (රබර් මුද්දරය) අනුමත කිරීම.
- පුද්ගලයාට සැලකිය යුතු ලෙස බලපාන තීරණ ලූපයේ වෙනුවට අධීක්ෂණයකින් තොරව තැබීම.
- "මම සංවේදී විචල්යය මකා දැමුවා" නිසා පමණක් විසඳා ඇති පක්ෂග්රාහීත්වය සලකා බැලීම; ප්රොක්සි විචල්යයන් මඟ හැරීම.
- පක්ෂග්රාහීත්වය එක් වරක් පරීක්ෂා කිරීම සහ එය නිරන්තරයෙන් නිරීක්ෂණය නොකිරීම.
- "එය තාක්ෂණික විස්තරයක්, පරිශීලකයාට නොතේරෙන" නිසා විනිවිදභාවය මඟ හැරීම.
- තීරණාත්මක තීරණ වලදී තීරණයට හේතුව පැහැදිලි කළ නොහැකි පද්ධතියක් භාවිතා කිරීම.
- "අපි පසුව බලමු" යැයි පවසමින් ප්රකාශනය අවසන් වන තුරු සදාචාරාත්මක ඇගයීම අත්හැරීම.
සාරාංශයක් ලෙස
- මානව පාලනය ආකෘති තුනකින් ක්රියාත්මක වේ; මිනිසුන්ට බලපාන තීරණ වලදී, චක්රය තුළ මිනිසුන් වඩාත් කැමති වේ.
- පාලනය අර්ථවත් විය යුතුය; රබර් මුද්දරය (ස්වයං-අනුමත) සැබෑ විගණනය නොවේ.
- නැඹුරුව බොහෝ විට පුහුණු දත්ත වලින් පැමිණේ; සංවේදී සහ ආදේශක විචල්යයන් පරීක්ෂා කළ යුතු අතර නිරන්තරයෙන් අධීක්ෂණය කළ යුතුය.
- විනිවිදභාවය සහ පැහැදිලි කිරීමේ හැකියාව සඳහා AI ක්රියාත්මක වන බව සහ තීරණයට හේතුව පරිශීලකයාට පැහැදිලිව ඉදිරිපත් කිරීම අවශ්ය වේ.
- ප්රකාශනයට පෙර සදාචාරාත්මක සමාලෝචනයක් සිදු වේ; වගකීම සෑම විටම මිනිසා මත පවතී, "AI එසේ කීවේය" යන්න නිදහසට කරුණක් නොවේ.
යෙදුම් කාර්යය
ඔබේ සංවිධානයේ පුද්ගලයන්ට බලපාන AI තීරණ ක්රියාවලියක් තෝරන්න (උදාහරණයක් ලෙස, යෙදුම් ඇගයීම). සාධාරණීකරණය සමග මෙම ක්රියාවලිය සඳහා සුදුසු මානව පාලන ආකෘතිය නිර්ණය කිරීම සහ රබර් මුද්රා තැබීම වැළැක්වීම සඳහා කොන්ක්රීට් පාලනයක් සැලසුම් කිරීම (උදා: සාධාරණීකරණය බැලීමේ අවශ්යතාවය, නියැදි සමාලෝචනය). ඉන්පසු පක්ෂග්රාහී පරීක්ෂණ සැලැස්මක් ලියන්න: ඔබ සංසන්දනය කරන්නේ කුමන කණ්ඩායම්ද, කුමන මෙට්රික්, කොපමණ වාර ගණනක් සහ ඔබ අවධානය යොමු කරන්නේ කුමන ප්රොක්සි විචල්යයන්ද යන්න සඳහන් කරන්න. අවසාන වශයෙන්, මෙම ක්රියාවලිය අතරතුර පුද්ගලයාට පෙන්වනු ලබන සහ අභියාචනා/මානව සමාලෝචන මාර්ගයක් ඇතුළත් තීරණ පැහැදිලි කිරීමේ පාඨයක් කෙටුම්පත් කරන්න.
පිරික්සුම් ලැයිස්තුව
- [ ] මම ක්රියාවලියට සුදුසු මානව පාලන ආකෘතිය තෝරා ගත්තෙමි.
- [ ] මම රබර් මුද්රාව වළක්වන කොන්ක්රීට් පාලනයක් නිර්මාණය කළෙමි.
- [ ] මම පක්ෂග්රාහී පරීක්ෂණ සැලැස්මක් (කණ්ඩායම්, මෙට්රික්, සංඛ්යාත) සකස් කළෙමි.
- [ ] මම ආදේශක විචල්යයන්ගේ අවදානම ඇගයීමට ලක් කළෙමි.
- [ ] මම පුද්ගලයා සඳහා තීරණ පැහැදිලි කිරීමේ පෙළක් ලිව්වෙමි.
- [ ] මම අභියාචනය සහ මානව සමාලෝචනය සඳහා මාර්ගය පැහැදිලිව ඉදිරිපත් කර ඇත.
- [ ] මම ප්රකාශනයට පෙර ආචාර ධර්ම සමාලෝචනය සිදු කළෙමි.