പ്രൊഫഷണൽ സന്ദേഹവാദവും ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസും: സ്ഥിരീകരണ പക്ഷപാതം, ഭ്രമാത്മകത, വിമർശനാത്മക അന്വേഷണം

നേട്ടങ്ങൾ:

• ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ഉപയോഗിക്കുമ്പോൾ പ്രൊഫഷണൽ സന്ദേഹവാദം എന്താണെന്നും സ്ഥിരീകരണ പക്ഷപാതത്തിലേക്കും ഓട്ടോമേഷൻ ബയസിലേക്കും വീഴുന്നതിൻ്റെ അപകടസാധ്യതകളും മനസ്സിലാക്കുക
• നിരാകരിക്കാൻ ശ്രമിക്കുന്ന ഒരു ചോദ്യം ചെയ്യൽ സാങ്കേതികത ഉപയോഗിച്ച് ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ഔട്ട്പുട്ട് പരിശോധിക്കാനുള്ള കഴിവ് (വിപരീതമായി നോക്കുക)
• ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസിൻ്റെ ഒഴുക്ക് അർത്ഥമാക്കുന്നത് കൃത്യതയല്ലെന്നും സംശയാസ്പദമായ മനസ്സാണ് നിയന്ത്രണത്തിൻ്റെ കാതൽ, അത് കൈമാറാൻ കഴിയില്ലെന്നും മനസ്സിലാക്കാൻ കഴിയും.

മറ്റ് പല തൊഴിലുകളിൽ നിന്നും സ്വതന്ത്രമായ ഓഡിറ്റിംഗിനെ വേർതിരിക്കുന്ന ഒരു മാനസിക മനോഭാവമുണ്ട്: പ്രൊഫഷണൽ സന്ദേഹവാദം. "തെളിവുകൾ സാധ്യതയുള്ള തെറ്റിദ്ധാരണയെ സൂചിപ്പിക്കുന്നുവോ എന്ന് ശ്രദ്ധിക്കുകയും തെളിവുകളെ വിമർശനാത്മകമായി വിലയിരുത്തുകയും ചെയ്യുന്ന, അന്വേഷിക്കുന്ന മനസ്സോടെ" പ്രവർത്തിക്കുന്ന ഓഡിറ്റർ എന്നാണ് ഐഎസ്എകൾ ഇതിനെ നിർവചിക്കുന്നത്. അതായത്, ഓഡിറ്റർ തനിക്ക് നൽകിയ ഒരു വിവരവും യാന്ത്രികമായി സ്വീകരിക്കുന്നില്ല-ഒരു മാനേജ്മെൻ്റ് പ്രസ്താവനയല്ല, ഒരു ഡോക്യുമെൻ്റല്ല, "യുക്തമെന്ന് തോന്നുന്ന" ഒരു അക്കൗണ്ട് പോലും ശരിയല്ല. ഞാൻ നിരന്തരം ആശ്ചര്യപ്പെടുന്നു "ഇത് ശരിക്കും അങ്ങനെയാണോ?" അവൻ ചോദിക്കുന്നു. ഈ മനോഭാവമാണ് നിയന്ത്രണത്തിൻ്റെ കാതൽ, അത് ഒഴിവാക്കാനാവാത്തതാണ്.

ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസിൻ്റെ യുഗത്തിൽ, ഈ കാമ്പ് ഒരു പുതിയ പരീക്ഷണത്തെ അഭിമുഖീകരിക്കുന്നു. കാരണം, മനുഷ്യമനസ്സിൻ്റെ ആഴത്തിലുള്ള രണ്ട് ബലഹീനതകൾ - ഓട്ടോമേഷൻ ബയസ്, കൺഫർമേഷൻ ബയസ് എന്നിവ ട്രിഗർ ചെയ്യുന്നതിൽ AI സമർത്ഥനാണ്. ഈ യൂണിറ്റിൽ, AI ഉപയോഗിക്കുന്ന ഒരു ഓഡിറ്റർ എങ്ങനെ തൻ്റെ സന്ദേഹവാദം നിലനിർത്തുകയോ ശക്തിപ്പെടുത്തുകയോ ചെയ്യാം. AI യുടെ ഒഴുക്ക് കൃത്യതയല്ല എന്നതാണ് പ്രധാന തീസിസ്; സംശയാസ്പദമായ മനസ്സ് AI യുടെ മുന്നിൽ കൂടുതൽ പ്രാധാന്യമർഹിക്കുന്നു.

അപകടകരമായ രണ്ട് പക്ഷപാതങ്ങൾ

ഓട്ടോമേഷൻ ബയസ് എന്നത് ഒരു മെഷീൻ്റെ/സോഫ്റ്റ്‌വെയറിൻ്റെ ഔട്ട്‌പുട്ടിൽ ആളുകൾ അവരുടെ സ്വന്തം വിധിയെക്കാൾ കൂടുതൽ വിശ്വസിക്കുന്ന പ്രവണതയാണ്. "കമ്പ്യൂട്ടർ അത് കണക്കാക്കി, അത് ശരിയാണ്." AI-യുടെ കാര്യം വരുമ്പോൾ ഈ അപകടസാധ്യത വർധിപ്പിക്കുന്നു, കാരണം AI വെറും കണക്കുകൂട്ടലല്ല; ഒഴുക്കോടെ, ആത്മവിശ്വാസത്തോടെ, മനുഷ്യനെപ്പോലെ, യുക്തിസഹമായ വാക്യങ്ങൾ സംസാരിക്കുന്നു. വിവരങ്ങൾ കൃത്യമല്ലെങ്കിൽപ്പോലും ആത്മവിശ്വാസത്തോടെയുള്ള സ്വരം ബോധ്യപ്പെടുത്തുന്നതാണ്.

സ്ഥിരീകരണ പക്ഷപാതം എന്നത് ആളുകൾ മുമ്പ് വിശ്വസിച്ചതോ പ്രതീക്ഷിച്ചതോ ആയ നിഗമനത്തെ പിന്തുണയ്ക്കുന്ന വിവരങ്ങൾ തേടുകയും പരസ്പരവിരുദ്ധമായ വിവരങ്ങൾ അവഗണിക്കുകയും ചെയ്യുന്ന പ്രവണതയാണ്. ഓഡിറ്റിംഗിൽ ഇത് മാരകമാണ്: "ഈ ക്ലയൻ്റ് വൃത്തിയായിരിക്കണം" എന്ന് കരുതുന്ന ഒരു ഓഡിറ്റർ AI-യോട് ചോദിക്കുകയും സ്ഥിരീകരണം ലഭിക്കുകയും ചെയ്യുമ്പോൾ അയാൾക്ക് ആശ്വാസം ലഭിക്കും, കൂടാതെ മറിച്ചുള്ള തെളിവുകൾ തേടുന്നത് നിർത്തുകയും ചെയ്യും. AI ചോദിക്കുന്ന ചോദ്യത്തിലേക്ക് ചായുന്നതിനാൽ (“ഇത് ശരിയാണോ, ശരിയാണോ?” എന്ന് നിങ്ങൾ ചോദിച്ചാൽ, അത് നിങ്ങളോട് യോജിക്കുന്ന ഒരു ഉത്തരം നൽകാനുള്ള സാധ്യത കൂടുതലാണ്), ഇത് സ്ഥിരീകരണ പക്ഷപാതത്തെ വളർത്തിയെടുക്കും.

മൂന്നാമത്തേതും ഉണ്ട്: ഹാലുസിനേഷൻ. മൊഡ്യൂളിൽ ഞങ്ങൾ ഇത് പലതവണ കണ്ടു - നിലവിലില്ലാത്ത ഒരു സംഖ്യ, ഇനം, ഉറവിടം എന്നിവ AI-ക്ക് ഒഴുക്കോടെ നിർമ്മിക്കാൻ കഴിയും. മൂന്ന് ബലഹീനതകൾ സംയോജിപ്പിക്കുമ്പോൾ അപകടസാധ്യത വർദ്ധിക്കുന്നു: AI കാര്യങ്ങൾ ഉണ്ടാക്കുന്നു (ഭ്രമാത്മകത), അത് ദ്രാവകമായതിനാൽ നിങ്ങൾ അത് വിശ്വസിക്കുന്നു (ഓട്ടോമേഷൻ ബയസ്), നിങ്ങൾ അതിനെ ചോദ്യം ചെയ്യുന്നില്ല, കാരണം നിങ്ങൾ പ്രതീക്ഷിക്കുന്നത് അത് നിങ്ങളോട് പറയുന്നു (സ്ഥിരീകരണ പക്ഷപാതം).

സംശയാസ്പദമായ മനസ്സിൻ്റെ മൂന്ന് ഉപകരണങ്ങൾ AIക്കെതിരെ

AI-യ്‌ക്കെതിരായ മൂർത്തമായ സാങ്കേതികതകളിൽ നമുക്ക് സന്ദേഹവാദം ഉൾപ്പെടുത്താം:

1. നിരസിക്കാൻ ശ്രമിക്കുക, സ്ഥിരീകരിക്കരുത്. ഒരു AI അതിൻ്റെ ഔട്ട്‌പുട്ട് “ഇത് ശരിയാണോ?” എന്ന് ചോദിച്ചേക്കാം. അല്ല "ഇത് തെറ്റാണോ എന്ന് എനിക്ക് എങ്ങനെ അറിയാം?" ചോദ്യം. സ്വയം ചോദിക്കുക: "ഈ പ്രസ്താവന തെറ്റാണെങ്കിൽ, എന്ത് തെളിവാണ് അത് കാണിക്കുക?" ആ തെളിവ് അന്വേഷിക്കുക. സ്ഥിരീകരിക്കുന്ന ഒരൊറ്റ ഉദാഹരണം കണ്ടെത്തുന്നത് എളുപ്പമാണ്; നിരാകരിക്കാൻ ശ്രമിക്കുന്നതും പരാജയപ്പെടുന്നതും യഥാർത്ഥ ഉറപ്പ് നൽകുന്നു.
2. നിഷ്പക്ഷമായും പിന്നോട്ടും ചോദിക്കുക. AI-യോട് ചോദിക്കുക "ഇവിടെ പ്രശ്‌നമില്ല, അല്ലേ?" ചോദിക്കരുത്; ഇത് അംഗീകരിക്കുന്ന പ്രതികരണം ക്ഷണിക്കുന്നു. പകരം, "ഈ ഡാറ്റയിൽ എനിക്ക് നഷ്ടമായേക്കാവുന്ന അപകടസാധ്യതകൾ എന്തൊക്കെയാണ്?" കൂടാതെ "ഈ ഫലം തെറ്റാകാൻ സാധ്യതയുള്ള മൂന്ന് സാഹചര്യങ്ങൾ ഏതാണ്?" ചോദിക്കുക. ഒരേ ചോദ്യം രണ്ട് എതിർവശങ്ങളിൽ നിന്ന് ചോദിച്ച് ഉത്തരങ്ങൾ താരതമ്യം ചെയ്യുക.
3. ഉറവിടത്തിലേക്ക് ഡൗൺലോഡ് ചെയ്ത് പുനർനിർമ്മിക്കുക. ഓരോ ലക്കത്തിനും ആട്രിബ്യൂഷനും ഉപസംഹാരത്തിനും, "ഇത് എവിടെയാണ് ഞാൻ സ്വതന്ത്രമായി പരിശോധിക്കേണ്ടത്?" ചോദ്യം ചോദിക്കുകയും യഥാർത്ഥത്തിൽ സ്ഥിരീകരിക്കുകയും ചെയ്യുക. AI-യുടെ ഔട്ട്‌പുട്ട് ഒരു അവകാശവാദമായി കാണുക; തെളിവുകൾ അവകാശവാദത്തിന് പുറത്താണ്.

നുറുങ്ങ്: ഒരു ശീലം ഉണ്ടാക്കുക: AI നൽകുന്ന എല്ലാ പ്രധാനപ്പെട്ട ഔട്ട്‌പുട്ടിന് അടുത്തായി, രണ്ട് കാര്യങ്ങൾ കൈകൊണ്ട് എഴുതുക - "(1) ഞാൻ ഇത് എന്താണ് പരിശോധിച്ചത്, (2) ഇത് തെറ്റാണെങ്കിൽ എന്ത് തെളിവാണ് ഇത് കാണിക്കുക." ഈ രണ്ട് കുറിപ്പുകളും ഓട്ടോമേഷനും സ്ഥിരീകരണ പക്ഷപാതവും തകർക്കുന്നു.

ഓഡിറ്റർ നിയോഗിക്കാൻ കഴിയാത്ത വിധിന്യായങ്ങൾ

ചില ജോലികൾക്ക് അന്തർലീനമായി സംശയവും വിധിയും ആവശ്യമാണ്; ഇവയെ AI-ലേക്ക് നിയോഗിക്കാൻ കഴിയില്ല, പിന്തുണയ്ക്കുന്നു:

ഒഴിവാക്കാനാവാത്ത അധികാരപരിധി

എന്തിന്

തെളിവുകൾ മതിയായതാണോ ഉചിതമാണോ എന്ന്

പ്രൊഫഷണൽ വിധി; സന്ദർഭത്തെ ആശ്രയിച്ചിരിക്കുന്നു

ഒരു വിശദീകരണത്തിൻ്റെ സാധുത

എൻ്റർപ്രൈസിൻ്റെയും ഉദ്ദേശ്യത്തിൻ്റെയും പരിഗണന ആവശ്യമാണ്

വഞ്ചന റിസ്ക് വിലയിരുത്തൽ

സന്ദേഹവാദവും അവബോധവും; ഡാറ്റാ പാറ്റേണിനപ്പുറം

ഭൗതികതയും അഭിപ്രായ തീരുമാനവും

പൊതുജനങ്ങളോട് ഉത്തരവാദിത്തമുള്ള ജുഡീഷ്യറി

മാനേജ്മെൻ്റിൻ്റെ സത്യസന്ധതയെക്കുറിച്ചുള്ള അഭിപ്രായം

മനുഷ്യൻ്റെ പെരുമാറ്റം വായിക്കുന്നു; AI-ക്ക് ഇത് ചെയ്യാൻ കഴിയില്ല

സന്ദേഹവാദവും പെഡൻട്രിയും തമ്മിലുള്ള വ്യത്യാസം: അളന്ന മനോഭാവം

പ്രൊഫഷണൽ സന്ദേഹവാദം എന്നാൽ എല്ലാം അവിശ്വസിക്കുക അല്ലെങ്കിൽ മാനേജ്മെൻ്റിനെ മുൻകൂട്ടി കുറ്റപ്പെടുത്തുക എന്നല്ല; ഇത് അതിരുകടന്നതും നിയന്ത്രണം ഫലപ്രദമല്ലാത്തതുമാക്കും. സന്ദേഹവാദം എന്നത് ശുദ്ധമായ വിശ്വാസമോ (നിങ്ങൾ പറയുന്നതെല്ലാം സ്വീകരിക്കുകയോ) അന്ധമായ നിഷേധമോ അല്ല (എല്ലാം നിരസിക്കുക); അതിനിടയിൽ തെളിവിന് ആനുപാതികമായ അന്വേഷണ മനോഭാവമാണ്. ഓഡിറ്റർ മാനേജുമെൻ്റ് സത്യസന്ധമായി അംഗീകരിച്ചേക്കാം, എന്നാൽ ഈ സ്വീകാര്യത തെളിവുകൾ ഉപയോഗിച്ച് പരിശോധിക്കുന്നു; ഒരു വിശദീകരണം വിശ്വസനീയമാണെന്ന് കണ്ടെത്തിയേക്കാം, പക്ഷേ അത് വിശ്വസനീയത സ്ഥിരീകരിക്കുന്നു. AI-ന് ഈ സന്തുലിതാവസ്ഥയെ തകർക്കാൻ കഴിയും: ഒരു ദിശയിൽ, അതിൻ്റെ ദ്രാവക ഉൽപ്പാദനത്തിൽ അത് നിങ്ങളെ അമിത ആത്മവിശ്വാസത്തിലേക്ക് ആകർഷിക്കുന്നു; മറുവശത്ത്, "എല്ലാറ്റിലും തെറ്റ് കണ്ടെത്തുക" എന്ന് നിങ്ങളോട് പറഞ്ഞാൽ അത് അനന്തമായ തെറ്റായ പോസിറ്റീവുകൾ കൊണ്ട് നിങ്ങളെ ബോംബെക്കും. തെളിവുകൾ നിർമ്മിക്കുന്നതിനും തെളിവുകൾ നിരാകരിക്കുന്നതിനുമായി AI പ്രവർത്തിപ്പിക്കുമ്പോൾ, എല്ലായ്പ്പോഴും തെളിവുകളുടെ ഭാരത്തിനെതിരായ ഫലം തൂക്കിനോക്കുക എന്നതാണ് ശരിയായ മനോഭാവം. സന്ദേഹവാദം ഒരു വ്യക്തിത്വ സ്വഭാവമല്ല, മറിച്ച് അച്ചടക്കത്തോടെയുള്ള പ്രവർത്തനരീതിയാണ്; ഈ അച്ചടക്കം സ്ഥാപിക്കുന്നതും പരിപാലിക്കുന്നതും തെളിവ് നൽകുന്നതും ഓഡിറ്ററാണ്, AI അല്ല.

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - റിബട്ടൽ ടെക്നിക് പ്രവർത്തിക്കുന്നു. "ഈ സ്റ്റോക്ക് മൂല്യനിർണ്ണയം ന്യായമാണെന്ന് തോന്നുന്നു" എന്ന് പറഞ്ഞുകൊണ്ട് ഒരു ഓഡിറ്റർ AI പ്രിൻ്റ് ചെയ്തു. സ്ഥിരീകരിക്കുന്നതിനുപകരം അദ്ദേഹം പിന്തിരിഞ്ഞു ചോദിച്ചു: “ഈ മൂല്യനിർണ്ണയം അമിതമായി പറഞ്ഞാൽ, എന്ത് തെളിവാണ് അത് കാണിക്കുക?” "വിൽപനാനന്തര വിലകൾ വിലയിൽ താഴെ വരുന്ന ഇനങ്ങൾക്ക്," YZ പറഞ്ഞു. ഓഡിറ്റർ ഈ ഇനങ്ങൾക്കായി തിരഞ്ഞു, യഥാർത്ഥത്തിൽ വിലകുറഞ്ഞ ഒരു ഗ്രൂപ്പിനെ കണ്ടെത്തി. സ്ഥിരീകരണം മറച്ചുവെച്ചിരിക്കുന്ന അപകടസാധ്യത മറുചോദ്യം തുറന്നുകാട്ടി.

കേസ് 2 - സ്ഥിരീകരണ പക്ഷപാതത്തിലേക്ക് വീഴുന്നു. പ്രതിസന്ധി ഘട്ടത്തിൽ ഒരു ടീം അംഗം AI യോട് ചോദിച്ചു, “ഈ അക്കൗണ്ടിൽ വലിയ കുഴപ്പമൊന്നുമില്ല, ശരിയല്ലേ?” അവൻ ചോദിച്ചു. YZ ചോദ്യത്തിൽ ചാരി പറഞ്ഞു, "നിങ്ങൾ നൽകിയ വിവരങ്ങൾ അനുസരിച്ച്, കാര്യമായ പ്രശ്‌നമൊന്നും തോന്നുന്നില്ല." ടീമംഗം വിശ്രമിച്ച് പേന തൊപ്പി. എന്നിരുന്നാലും, അദ്ദേഹം ഒരു തെളിവും ഹാജരാക്കിയിരുന്നില്ല; AI അവൻ്റെ വാക്യത്തെ പ്രതിഫലിപ്പിക്കുക മാത്രമാണ് ചെയ്തത്. നിഷ്പക്ഷമായി ചോദ്യം ചോദിച്ചിട്ടില്ലെന്ന് ഉത്തരവാദപ്പെട്ട വ്യക്തി കാണിച്ചു. പാഠം: നിങ്ങൾ എങ്ങനെ ചോദ്യം ചോദിക്കുന്നു എന്നത് നിങ്ങൾക്ക് ലഭിക്കുന്ന ഉത്തരം നിർണ്ണയിക്കുന്നു; സ്ഥിരീകരണം തേടുന്ന ഒരു ചോദ്യം സ്ഥിരീകരണം നൽകുന്നു.

കേസ് 3 - ഒഴുക്കിനുള്ള വീഴ്ച. വളരെ സുഗമവും യുക്തിസഹവുമായ ഒരു ഖണ്ഡികയിൽ YZ വിശദീകരിച്ച നിയമനിർമ്മാണത്തിൻ്റെ ഒരു വ്യാഖ്യാനം ശരിയാണെന്ന് ഒരു ഓഡിറ്റർ കരുതി അത് വർക്കിംഗ് പേപ്പറിൽ ഉൾപ്പെടുത്തി. വാചകം വളരെ വൃത്തിയുള്ളതായിരുന്നു, അതിനെ ചോദ്യം ചെയ്യാൻ അദ്ദേഹത്തിന് തോന്നിയില്ല. ഔദ്യോഗിക വാചകത്തിൽ റഫറന്സിന് തത്തുല്യമായ ഒന്നുമില്ലെന്ന് ഉത്തരവാദിയായ വ്യക്തി കാണിച്ചു. പാഠം: ഒഴുക്കും ആത്മവിശ്വാസവും കൃത്യതയുടെ തെളിവല്ല; ഏറ്റവും ബോധ്യപ്പെടുത്തുന്നതായി തോന്നുന്ന ഫലം ഏറ്റവും അപകടകരമായിരിക്കാം.

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

ദുർബലമായ പ്രോംപ്റ്റ്:

ഈ വിശകലനം ശരിയാണ്, അല്ലേ? നിങ്ങൾ അംഗീകരിക്കുന്നുണ്ടോ?

പ്രശ്നം: സ്ഥിരീകരണം തേടുന്ന ഒരു പക്ഷപാതപരമായ ചോദ്യം. നിങ്ങളോടൊപ്പം ചേരാൻ ഇത് AI-യെ പ്രേരിപ്പിക്കുന്നു; ഇത് സ്ഥിരീകരണ പക്ഷപാതത്തെ വളർത്തുകയും യഥാർത്ഥ അപകടസാധ്യത മറയ്ക്കുകയും ചെയ്യുന്നു.

ശക്തമായ നിർദ്ദേശം:

നിങ്ങളുടെ പങ്ക്: നിങ്ങൾ ഒരു സ്വതന്ത്ര ഓഡിറ്ററുടെ നിർണായക അന്വേഷണ പങ്കാളിയാണ്. നിങ്ങളുടെ ദൗത്യം എന്നോട് യോജിക്കുക എന്നതല്ല, എൻ്റെ ഔട്ട്‌പുട്ട് നിരസിക്കാൻ ശ്രമിക്കുകയാണ്. സന്ദർഭം: ഒരു വിശകലന നടപടിക്രമത്തെക്കുറിച്ചുള്ള എൻ്റെ നിഗമനവും എൻ്റെ താൽക്കാലിക നിഗമനവും ചുവടെയുണ്ട്.[ഫല വാചകം] ടാസ്‌ക്:1) ഈ നിഗമനം തെറ്റാകാൻ സാധ്യതയുള്ള 3 സാഹചര്യങ്ങൾ പട്ടികപ്പെടുത്തുക.2) ഓരോ സാഹചര്യത്തിലും ഇത് ശരിയാണെങ്കിൽ, "എന്താണ് ഇത് കാണിക്കുന്നത്?" വ്യക്തമായ, തിരയാൻ കഴിയുന്ന തെളിവുകൾ നിർദ്ദേശിക്കുക. 3) എനിക്ക് നഷ്‌ടമായേക്കാവുന്ന ഏതെങ്കിലും ഡാറ്റയോ അനുമാനങ്ങളോ അടയാളപ്പെടുത്തുക. 4) എന്നോട് യോജിക്കുന്ന വാക്യങ്ങൾ ഉണ്ടാക്കരുത്; ദുർബലമായ പോയിൻ്റുകൾ കണ്ടെത്തുന്നതിന് നിങ്ങളെ ചുമതലപ്പെടുത്തിയിരിക്കുന്നു. നിങ്ങൾക്ക് ഉറപ്പില്ലാത്തിടത്ത് "അജ്ഞാതം" എന്ന് അടയാളപ്പെടുത്തുക.

ഈ പ്രോംപ്റ്റ് ശക്തമാണ്, കാരണം ഇത് AI യുടെ (പ്രതികരണം) റോളിനെ വിപരീതമാക്കുന്നു, ഖണ്ഡന സാഹചര്യങ്ങളും തിരയാനാകുന്ന തെളിവുകളും ആവശ്യമാണ്, കൂടാതെ സ്ഥിരീകരണം തേടുന്ന ഭാഷയെ നിരോധിക്കുന്നു. ഇത് സ്ഥിരീകരണ പക്ഷപാതത്തിൻ്റെ ഒരു ഉപകരണത്തേക്കാൾ AI-യെ സംശയത്തിൻ്റെ സേവനത്തിൽ എത്തിക്കുന്നു.

സാധാരണ തെറ്റുകൾ

• അംഗീകാരത്തിനായി ചോദ്യങ്ങൾ ചോദിക്കുന്നു. "കുഴപ്പമില്ല, അല്ലേ?" ചോദിച്ച് സമ്മതിച്ച ഉത്തരം ഉറപ്പാക്കിക്കൊണ്ട്.
• ഫ്ലൂൻസി കൃത്യതയ്ക്കായി തെറ്റിദ്ധരിക്കുന്നു. നന്നായി എഴുതിയതും ആത്മവിശ്വാസമുള്ളതുമായ ഔട്ട്‌പുട്ട് ചോദ്യം ചെയ്യാതെ സ്വീകരിക്കുന്നു.
• ഒരു സ്ഥിരീകരണ ഉദാഹരണം കൊണ്ട് തൃപ്തിപ്പെടുക. അതിനെ നിരാകരിക്കാൻ ശ്രമിക്കാതെ, ആദ്യത്തെ പിന്തുണയ്ക്കുന്ന കണ്ടെത്തലോടെ അവസാനിപ്പിക്കുന്നു.
• അനിഷേധ്യമായ അധികാരപരിധി ഏൽപ്പിക്കാൻ. തെളിവുകളുടെ പര്യാപ്തത, ന്യായയുക്തത, അഭിപ്രായം എന്നിവയുടെ തീരുമാനം AI-ക്ക് വിടുന്നു.
• സമയ സമ്മർദത്തിൽ സന്ദേഹവാദം ഉപേക്ഷിക്കുക. നിങ്ങൾ കുടുങ്ങിക്കിടക്കുമ്പോൾ AI-യുടെ ആശ്വാസകരമായ ഉത്തരത്തിൽ അഭയം പ്രാപിക്കുന്നു.

മുന്നറിയിപ്പ്: സമയ സമ്മർദ്ദമാണ് സംശയത്തിൻ്റെ ഏറ്റവും വലിയ ശത്രു, ഈ സമ്മർദ്ദത്തിൽ AI ഏറ്റവും അപകടകരമാകും; കാരണം അത് നിങ്ങൾക്ക് വേഗതയേറിയതും ഒഴുക്കുള്ളതും ആശ്വാസകരവുമായ ഒരു ഉത്തരം നൽകുന്നു. നിങ്ങൾ തിരക്കിലായിരിക്കുമ്പോൾ മറുചോദ്യം ചോദിക്കുന്നത് നിർബന്ധമാക്കുക.

ചുരുക്കത്തിൽ

പ്രൊഫഷണൽ സന്ദേഹവാദമാണ് ഓഡിറ്റിങ്ങിൻ്റെ കാതൽ, AI യുഗത്തിൽ കൂടുതൽ നിർണായകമാകും. AI മൂന്ന് ബലഹീനതകൾ ഉണ്ടാക്കുന്നു: ഭ്രമാത്മകത (അത് ഉണ്ടാക്കുന്നു), ഓട്ടോമേഷൻ ബയസ് (അത് ദ്രാവകമായതിനാൽ ഞങ്ങൾ വിശ്വസിക്കുന്നു), സ്ഥിരീകരണ പക്ഷപാതം (ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നത് അത് പറയുന്നതിനാൽ ഞങ്ങൾ അതിനെ ചോദ്യം ചെയ്യുന്നില്ല). AI-യെ നിരാകരിക്കാൻ തിരക്കുകൂട്ടുക എന്നതാണ് മറുമരുന്ന്, അത് സ്ഥിരീകരിക്കരുത്: "ഇത് തെറ്റാണെങ്കിൽ, എന്ത് തെളിവാണ് അത് കാണിക്കുക?" വിരുദ്ധമായ തെളിവുകൾക്കായി തിരയുന്നു, വസ്തുനിഷ്ഠമായും പിന്നോട്ടും ചോദിക്കുന്നു, ഉറവിടത്തിൽ നിന്നുള്ള ഓരോ ഔട്ട്‌പുട്ടും പുനർനിർമ്മിക്കുന്നു. തെളിവുകളുടെ പര്യാപ്തത, ന്യായയുക്തത, വഞ്ചനയുടെ അപകടസാധ്യത, അഭിപ്രായ വിധി നിർണ്ണയം തുടങ്ങിയ വിധിന്യായങ്ങൾ സന്ദേഹവാദം ആവശ്യപ്പെടുന്നതിനാൽ കൈമാറ്റം ചെയ്യാവുന്നതല്ല. ഒഴുക്ക് കൃത്യതയല്ല; സംശയാസ്പദമായ മനസ്സ് നിങ്ങളുടേതാണ്.

ആപ്ലിക്കേഷൻ ടാസ്ക്

നിങ്ങളുടെ ഓഡിറ്റ് ഫലം (അല്ലെങ്കിൽ ഒരു സാങ്കൽപ്പിക ഫലം) നേടുക. AI-യോട് ആദ്യം "സ്ഥിരീകരണം തേടുന്ന" ദുർബലമായ ചോദ്യം ചോദിക്കുക, തുടർന്ന് മുകളിലുള്ള "പ്രതികരണം" ശക്തമായ പ്രോംപ്റ്റ് പാറ്റേൺ ഉപയോഗിച്ച് ചോദിക്കുക. രണ്ട് ഫലങ്ങളും വശങ്ങളിലായി വയ്ക്കുക, വ്യത്യാസം എഴുതുക: ഖണ്ഡന ചോദ്യത്തിലൂടെ മാത്രം വെളിപ്പെടുത്തിയ അപകടസാധ്യതകൾ ഏതാണ്? തുടർന്ന് നിങ്ങളുടെ ഔട്ട്‌പുട്ടിലെ ഓരോ കീ ക്ലെയിമിനും അടുത്തായി രണ്ട് കുറിപ്പുകൾ ചേർക്കുക: "ഞാൻ എന്താണ് പരിശോധിച്ചത്", "തെറ്റാണെങ്കിൽ എന്ത് തെളിവുകൾ കാണിക്കും".

ചെക്ക്ലിസ്റ്റ്

• [ ] ഞാൻ AI നിരാകരണ/നിഷ്‌പക്ഷമായ ചോദ്യങ്ങളാണ് ചോദിച്ചത്, സ്ഥിരീകരണം തേടുന്ന ചോദ്യങ്ങളല്ല.
• [ ] ഓരോ സുപ്രധാന ഫലത്തിനും, "ഇത് തെറ്റാണെങ്കിൽ, എന്ത് തെളിവാണ് അത് കാണിക്കുക?" ഞാൻ ചോദ്യം ചോദിക്കുകയും തെളിവുകൾ തേടുകയും ചെയ്തു.
• [ ] ഞാൻ ഔട്ട്‌പുട്ട് പരീക്ഷിച്ചു, അത് സുഗമവും ആത്മവിശ്വാസവും തോന്നി, അധിക സംശയത്തോടെ.
• [ ] ഞാൻ ഒരു സ്ഥിരീകരണ ഉദാഹരണം കൊണ്ട് നിർത്തിയില്ല; ഞാൻ അതിനെ ഖണ്ഡിക്കാൻ ശ്രമിച്ചെങ്കിലും പരാജയപ്പെട്ടു.
• [ ] തെളിവുകളുടെ പര്യാപ്തത, ന്യായയുക്തത, അഭിപ്രായം എന്നിങ്ങനെയുള്ള എൻ്റെ സ്വന്തം വിധിന്യായങ്ങൾ ഞാൻ നടത്തി.
• [ ] സമയ സമ്മർദത്തിൻകീഴിലും, ഞാൻ മറുചോദ്യം ഒഴിവാക്കിയില്ല.
• [ ] പ്രധാനപ്പെട്ട ക്ലെയിമുകൾക്ക് അടുത്തായി, "ഞാൻ എന്താണ് പരിശോധിച്ചത് / അത് തെറ്റാണെങ്കിൽ എന്ത് കാണിക്കും" എന്നതിൻ്റെ കുറിപ്പുകൾ ഞാൻ ഉണ്ടാക്കി.