ഭ്രമാത്മകതയും വിശ്വാസ്യതയുടെ പരിധികളും

നേട്ടങ്ങൾ:

• ഒരു ഹാലുസിനേഷൻ എന്താണെന്നും അത് സംഭവിക്കുന്നത് എന്തുകൊണ്ടാണെന്നും വിശദീകരിക്കാം
• എപ്പോൾ AI ഔട്ട്‌പുട്ട് മൂല്യനിർണ്ണയം നടത്തണമെന്ന് നിർണ്ണയിക്കാനാകും
• വിശ്വാസ്യത വർദ്ധിപ്പിക്കുന്ന പ്രായോഗിക സാങ്കേതിക വിദ്യകൾ പ്രയോഗിക്കാൻ കഴിയും

AI സാക്ഷരതയുടെ ഏറ്റവും നിർണായകമായ വിഷയം ഈ യൂണിറ്റിലായിരിക്കാം: മോഡൽ മേക്കപ്പ്, അതായത് ഹാലുസിനേഷൻ. ഈ പദം മനസ്സിലാക്കുന്നത് AI ഉപയോഗിക്കുന്ന ഏതൊരാൾക്കും ഏറ്റവും അടിസ്ഥാന സുരക്ഷാ മുൻകരുതലാണ്. കാരണം ഭ്രമാത്മകത തിരിച്ചറിയാത്ത ഒരു ഉപയോക്താവ് തെറ്റായ വിവരങ്ങൾ ശരിയാണെന്ന് തെറ്റിദ്ധരിക്കുകയും അത് ഒരു ബിസിനസ് തീരുമാനത്തിലേക്കോ ഉപഭോക്തൃ ആശയവിനിമയത്തിലേക്കോ ഔദ്യോഗിക രേഖയിലേക്കോ മാറ്റിയേക്കാം. ഈ യൂണിറ്റിൽ, എന്താണ് ഹാലുസിനേഷൻ, എന്തുകൊണ്ട് അത് അനിവാര്യമാണെന്നും അതിൽ നിന്ന് എങ്ങനെ സംരക്ഷിക്കാമെന്നും നിങ്ങൾ പഠിക്കും.

എന്താണ് ഹാലുസിനേഷൻ?

ഒരു ഭാഷാ മോഡൽ യഥാർത്ഥത്തിൽ നിലവിലില്ലാത്ത വിവരങ്ങൾ ഒഴുക്കുള്ളതും ആത്മവിശ്വാസമുള്ളതുമായ ഭാഷയിൽ, അത് ശരിയാണെന്ന മട്ടിൽ സൃഷ്ടിക്കുന്നതാണ് ഹാലുസിനേഷൻ. മാതൃക കള്ളം പറയാൻ ഉദ്ദേശിക്കുന്നില്ല; "ഏറ്റവും സാധ്യതയുള്ള തുടർച്ച" മാത്രം ഉൽപ്പാദിപ്പിക്കുമ്പോൾ, അത് സാധ്യതയുള്ളതായി തോന്നുന്ന ഒരു വാചകം സൃഷ്ടിക്കുന്നു, എന്നാൽ യഥാർത്ഥത്തിൽ അത് തെറ്റാണ്.

ഉദാഹരണം: നിങ്ങൾ ഒരു മോഡലിനോട് പറഞ്ഞാൽ "വിഷയത്തെക്കുറിച്ചുള്ള ഒരു അക്കാദമിക് ഉറവിടം ശുപാർശ ചെയ്യുക, എല്ലാം ശരിയായ രൂപത്തിലും ബോധ്യപ്പെടുത്തുന്ന തരത്തിലും ദൃശ്യമാകും; എന്നാൽ ഉറവിടം പൂർണ്ണമായും സാങ്കൽപ്പികമാണ്. ഇത് ഭ്രമാത്മകതയുടെ ഒരു മികച്ച ഉദാഹരണമാണ്.

എന്തുകൊണ്ടാണ് ഇത് സംഭവിക്കുന്നത്? (യൂണിറ്റ് രണ്ട് ഓർക്കുക)

ഹാലുസിനേഷൻ്റെ ഉറവിടം മോഡലിൻ്റെ പ്രവർത്തന തത്വത്തിലാണ്. മാതൃക "വസ്തുതകളുടെ വിജ്ഞാനകോശം" അല്ല; ഇതൊരു "പ്രോബബിലിറ്റി മെഷീൻ" ആണ്. നിങ്ങളുടെ ചോദ്യത്തിൻ്റെ സുഗമമായ തുടർച്ച സൃഷ്ടിക്കുക എന്നതാണ് അതിൻ്റെ ജോലി; ഇത് ഏറ്റവും കൃത്യമായ വിവരങ്ങൾ കൊണ്ടുവരുന്നതിനെക്കുറിച്ചല്ല. മോഡൽ:

• തനിക്ക് അറിയാത്തത് അവനറിയില്ല; ഒരു ശൂന്യത നേരിടുമ്പോൾ, "എനിക്കറിയില്ല" എന്ന് പറയുന്നതിനുപകരം സാധ്യമായ ഉത്തരം പൂരിപ്പിക്കാൻ അവൻ പ്രവണത കാണിക്കുന്നു.
• യാഥാർത്ഥ്യത്തെ നിയന്ത്രിക്കാൻ അതിന് യാതൊരു സംവിധാനവുമില്ല; അത് നിർമ്മിക്കുന്ന വാചകം ലോകവുമായി പൊരുത്തപ്പെടുന്നുണ്ടോ എന്ന് പരിശോധിക്കുന്നില്ല.
• ഒഴുക്കും കൃത്യതയും അദ്ദേഹത്തിന് രണ്ട് വ്യത്യസ്ത കാര്യങ്ങളാണ്; അത് ഒഴുക്കുള്ളതായതുകൊണ്ട് അത് ശരിയാണെന്ന് അർത്ഥമാക്കുന്നില്ല.

മുന്നറിയിപ്പ്: ഭ്രമാത്മകത ഒരു "തകരാർ" അല്ല; അത് സാങ്കേതികവിദ്യയുടെ അന്തർലീനമായ സവിശേഷതയാണ്. പുതിയ മോഡലുകൾ ഇത് കുറയ്ക്കുന്നു, പക്ഷേ ഇത് പൂർണ്ണമായും ഇല്ലാതാക്കാൻ കഴിയില്ല. അതിനാൽ, "നോൺ-ഹാലുസിനേഷൻ മോഡലിന്" കാത്തിരിക്കുന്നതിനുപകരം, ഭ്രമാത്മകതയോടെ ജീവിക്കാൻ പഠിക്കേണ്ടത് ആവശ്യമാണ്.

ഭ്രമാത്മകതയുടെ അപകടസാധ്യത ഉയർന്നത് എവിടെയാണ്?

എല്ലാ ഫലങ്ങളും ഒരുപോലെ അപകടകരമല്ല. ഇനിപ്പറയുന്ന സന്ദർഭങ്ങളിൽ അപകടസാധ്യത വർദ്ധിക്കുന്നു:

ഉയർന്ന റിസ്ക്

കുറഞ്ഞ റിസ്ക്

കൃത്യമായ കണക്കുകൾ, തീയതികൾ, സ്ഥിതിവിവരക്കണക്കുകൾ

പൊതുവായ ആശയങ്ങൾ സൃഷ്ടിക്കൽ, മസ്തിഷ്കപ്രക്ഷോഭം

ഉറവിടങ്ങൾ, ഉദ്ധരണികൾ, റഫറൻസുകൾ എന്നിവ അഭ്യർത്ഥിക്കുന്നു

ഒരു വാചകത്തിൻ്റെ ടോൺ മാറ്റുക

നിച്ച്, പ്രത്യേക വിഷയങ്ങൾ

പൊതുവായ, പൊതുവായ വിഷയങ്ങൾ

നിലവിലെ സംഭവങ്ങളും ആളുകളും

നിങ്ങളുടെ വാചകം സംഗ്രഹിക്കുക

നിങ്ങളുടെ കമ്പനിയുടെ പ്രത്യേക ഉൾവിവരങ്ങൾ

വ്യാകരണ തിരുത്തൽ

മൂന്ന് മിനി കേസുകൾ

കേസ് 1 - ഒരു വ്യാജ ചിത്രം അവതരണത്തിൽ പ്രവേശിച്ചു. വ്യവസായ റിപ്പോർട്ടിനായി ഒരു ജീവനക്കാരൻ AI-യോട് "2023 ഇ-കൊമേഴ്‌സ് വളർച്ചാ നിരക്കും തുർക്കിയിലെ ഉറവിടവും" ആവശ്യപ്പെട്ടു. മോഡൽ ബോധ്യപ്പെടുത്തുന്ന ശതമാനവും (48%) സ്ഥാപനത്തിൻ്റെ പേരും നൽകി. ജീവനക്കാരൻ അത് പരിശോധിക്കാതെ അവതരണത്തിൽ ഉൾപ്പെടുത്തി; ഈ കണക്ക് കെട്ടിച്ചമച്ചതാണെന്ന് യോഗത്തിൽ വെളിപ്പെട്ടതോടെ അവതരണത്തിനും കമ്പനിയുടെ പ്രശസ്തിക്കും ഒരുപോലെ കോട്ടം സംഭവിച്ചു. അതേ ജീവനക്കാരന് ഔദ്യോഗിക ഉറവിടത്തിൽ നിന്ന് കണക്ക് ലഭിച്ചിരുന്നെങ്കിൽ, ഒരു പ്രശ്നവുമില്ല.

കേസ് 2 - നിലവിലില്ലാത്ത നിയമനിർമ്മാണം. ഒരു അസിസ്റ്റൻ്റ് ഒരു നിവേദനത്തിനായി AI-യോട് "പ്രസക്തമായ നിയമം" ആവശ്യപ്പെട്ടു. മോഡൽ യഥാർത്ഥമായി കാണപ്പെടുന്ന ഒരു ഇനം നമ്പറും വാചകവും നിർമ്മിച്ചു; പക്ഷേ ആ സാധനം അവിടെ ഉണ്ടായിരുന്നില്ല. ഭാഗ്യവശാൽ, ഡെലിവറിക്ക് മുമ്പ് നിയമ വകുപ്പ് അത് ശ്രദ്ധിച്ചു. പാഠം: നിയമപരമായ ഉദ്ധരണികൾ എല്ലായ്പ്പോഴും പ്രാഥമിക ഉറവിടത്തിൽ നിന്ന് പരിശോധിച്ചുറപ്പിക്കുന്നു.

കേസ് 3 - ശരിയായ രീതി, സുരക്ഷിത ഫലം. അതേ ടീമിലെ മറ്റൊരു ജീവനക്കാരൻ AI ഡ്രാഫ്റ്റ് റിപ്പോർട്ട് തയ്യാറാക്കി, ഔദ്യോഗിക ഡാറ്റയിൽ നിന്ന് എല്ലാ നമ്പറുകളും സ്വയം നൽകുകയും "ഈ വാചകത്തിൽ ഇല്ലാത്ത കണക്കുകൾ ചേർക്കാൻ" നിർദ്ദേശിക്കുകയും ചെയ്തു. ഫലം വേഗത്തിലും കൃത്യവുമായിരുന്നു. വ്യത്യാസം: AI എഴുതിയ ഡ്രാഫ്റ്റ്, ഹ്യൂമൻ ഫെഡ് വസ്തുതകൾ.

ദുർബലമായ പ്രോംപ്റ്റ് / ശക്തമായ പ്രോംപ്റ്റ്

ദുർബലമായ പ്രോംപ്റ്റ്: രചയിതാവിനും വർഷത്തിനും ഈ വിഷയത്തിൽ ഏറ്റവും പ്രധാനപ്പെട്ട 3 അക്കാദമിക് ഉറവിടങ്ങൾ നൽകുക.

ഫലം: മോഡലിന് നിലവിലില്ലാത്ത സ്രോതസ്സുകളിൽ സുരക്ഷിതമായി യോജിക്കാൻ കഴിയും.

ശക്തമായ നിർദ്ദേശം: ഞാൻ താഴെ ഒട്ടിച്ച വാചകത്തെ അടിസ്ഥാനമാക്കി ഒരു സംഗ്രഹം എഴുതുക. ഈ വാചകത്തിലെ വിവരങ്ങൾ മാത്രം ഉപയോഗിക്കുക. വാചകത്തിൽ ഇല്ലാത്ത പേരുകളോ നമ്പറുകളോ ഉറവിടങ്ങളോ ചേർക്കരുത്. നിങ്ങൾക്ക് ഉറപ്പില്ലെങ്കിൽ, "വാചകത്തിൽ വ്യക്തമാക്കിയിട്ടില്ല" എന്ന് എഴുതുക.<text>[ഇവിടെ ഒട്ടിക്കുക]</text>

ഫലം: മോഡലിന് നിങ്ങളിൽ നിന്ന് ഉറവിടം ലഭിക്കുന്നതിനാൽ, അനുയോജ്യമായ ഇടം ഇടുങ്ങിയതാകുന്നു.

വിശ്വാസ്യത വർദ്ധിപ്പിക്കുന്ന പ്രായോഗിക സാങ്കേതിക വിദ്യകൾ

നിങ്ങളുടെ ഉത്തരത്തിൽ (നമ്പർ, തീയതി, പേര്, ഉറവിടം) ഓരോ സ്ഥിരീകരിക്കാവുന്ന ക്ലെയിമും അടയാളപ്പെടുത്തുകയും അവയെ ഒരു പ്രത്യേക "പരിശോധിക്കേണ്ട" ലിസ്റ്റിൽ ഇടുകയും ചെയ്യുക.

ഈ ചോദ്യത്തിന് ഉത്തരം നൽകുക. നിങ്ങൾക്ക് ഉറപ്പില്ലെങ്കിൽ, ഊഹിക്കരുത്; "എനിക്ക് ഉറപ്പില്ല" എന്ന് പറയുകയും നിങ്ങൾക്ക് എന്താണെന്ന് അറിയില്ലെന്ന് വിശദീകരിക്കുകയും ചെയ്യുക. വിഷയം: [വിഷയം]

ഒരേ ചോദ്യത്തിന് രണ്ട് വ്യത്യസ്ത രീതികളിൽ ഉത്തരം നൽകുകയും രണ്ട് ഉത്തരങ്ങൾ തമ്മിലുള്ള വൈരുദ്ധ്യങ്ങൾ അടയാളപ്പെടുത്തുകയും ചെയ്യുക. അതുകൊണ്ട് സംശയാസ്പദമായ പോയിൻ്റുകൾ ഏതൊക്കെയാണെന്ന് ഞാൻ നോക്കാം. ചോദ്യം: [ചോദ്യം]

താഴെയുള്ള വാചകം ഞാൻ പരിശോധിക്കും. പ്രാധാന്യമനുസരിച്ച് ഞാൻ പരിശോധിക്കേണ്ട അപകടസാധ്യതയുള്ള ക്ലെയിമുകൾ ലിസ്റ്റ് ചെയ്യുകയും ഓരോന്നും എവിടെയാണ് എനിക്ക് പരിശോധിക്കാൻ കഴിയുകയെന്ന് നിർദ്ദേശിക്കുകയും ചെയ്യുക. വാചകം: [ഇവിടെ ഒട്ടിക്കുക]

കൂടാതെ, ഈ ശീലങ്ങൾ സ്വീകരിക്കുക:

1. നിങ്ങൾ ഉറവിടം നൽകുക. ടെക്‌സ്‌റ്റിലേക്ക് പ്രസക്തമായ പ്രമാണം ഒട്ടിച്ച് "ഇതിനെ മാത്രം അടിസ്ഥാനമാക്കിയുള്ള ഉത്തരം" എന്ന് പറയുക.
2. സ്ഥിരീകരിക്കാവുന്ന വസ്തുതകൾ എപ്പോഴും പരിശോധിക്കുക. ഒരു സ്വതന്ത്ര, വിശ്വസനീയമായ ഉറവിടത്തിൽ നിന്നുള്ള നമ്പറുകൾ, തീയതികൾ, പേരുകൾ, ഉദ്ധരണികൾ, ഉറവിടങ്ങൾ എന്നിവ പരിശോധിക്കുക.
3. മോഡലിനെക്കുറിച്ച് അദ്ദേഹത്തിന് ഉറപ്പില്ലെന്ന് സൂചിപ്പിക്കാൻ അവനോട് ആവശ്യപ്പെടുക. ഇത് അപകടസാധ്യത കുറയ്ക്കുന്നു, പക്ഷേ പൂർണ്ണമായും ഇല്ലാതാക്കുന്നില്ല.
4. ഉയർന്ന അപകടസാധ്യതയുള്ള ജോലികൾക്കായി, ഔട്ട്പുട്ട് പരിശോധിക്കാൻ ഒരു വിദഗ്ദ്ധനെ ആവശ്യപ്പെടുക. നിയമപരവും സാമ്പത്തികവും ആരോഗ്യവുമായി ബന്ധപ്പെട്ടതുമായ ഔട്ട്‌പുട്ടുകൾ മനുഷ്യ വിദഗ്ധരുടെ ഫിൽട്ടറിലൂടെ കടന്നുപോകണം.
5. AI ഒരു "ആരംഭ പോയിൻ്റായി" ഉപയോഗിക്കുക, "അവസാന വാക്ക്" ആയിട്ടല്ല. ഡ്രാഫ്റ്റ് അവനിൽ നിന്നാണ്; പരിശോധനയും തീരുമാനവും നിങ്ങളുടേതാണ്.

മുന്നറിയിപ്പ്: "മോഡൽ രണ്ടുതവണ പറഞ്ഞു, അപ്പോൾ അത് ശരിയാണ്" യുക്തി തെറ്റാണ്. അതേ തെറ്റ് ആത്മവിശ്വാസത്തോടെ ആവർത്തിക്കാം. ആവർത്തനം കൃത്യതയുടെ തെളിവല്ല.

സാധാരണ തെറ്റുകൾ

സാധാരണ തെറ്റുകൾ

• അവ പരിശോധിക്കാതെ ഉറവിടങ്ങൾ ഉപയോഗിക്കുന്നു. ഇതിന് മാതൃകാ പുസ്തകങ്ങൾ, ലേഖനങ്ങൾ, നിയമത്തിൻ്റെ ലേഖനങ്ങൾ, ലിങ്കുകൾ എന്നിവ സൃഷ്ടിക്കാൻ കഴിയും; ഓരോ റഫറൻസും സ്ഥിരീകരിക്കണം.
• ആത്മവിശ്വാസമുള്ള ടോൺ കൃത്യതയ്ക്കായി തെറ്റിദ്ധരിക്കുന്നു. ഒരു ഹാലുസിനേഷൻ്റെ ഏറ്റവും അപകടകരമായ കാര്യം കൃത്യമായി അത് ആത്മവിശ്വാസത്തോടെ തോന്നുന്നു എന്നതാണ്.
• "നിങ്ങൾ പരിശോധിച്ചുറപ്പിക്കുക" എന്ന് മോഡൽ പറഞ്ഞാൽ മതി. മോഡലിൻ്റെ സ്വയം മൂല്യനിർണ്ണയം സ്വതന്ത്ര മൂല്യനിർണ്ണയമല്ല.
• ഒരു വിദഗ്ദ്ധനെ കാണിക്കാതെ ഉയർന്ന അപകടസാധ്യതയുള്ള ഔട്ട്പുട്ട് ഉപയോഗിക്കുന്നു. പണത്തിലും നിയമത്തിലും ആരോഗ്യത്തിലും മനുഷ്യൻ്റെ നിയന്ത്രണം അനിവാര്യമാണ്.

ചുരുക്കത്തിൽ

• മോഡൽ നിലവിലില്ലാത്ത വിവരങ്ങൾ സത്യമെന്ന മട്ടിൽ ഒഴുക്കോടെയും ആത്മവിശ്വാസത്തോടെയും നിർമ്മിക്കുന്നതാണ് ഹാലൂസിനേഷൻ.
• കാരണം ഒരു തകരാറല്ല, മറിച്ച് മോഡലിൻ്റെ പ്രോബബിലിറ്റി പ്രവചിക്കുന്ന സ്വഭാവമാണ്; പൂർണ്ണമായും ഇല്ലാതാക്കാൻ കഴിയില്ല.
• കൃത്യമായ കണക്കുകൾ, ഉറവിടങ്ങൾ, കാലികമായ വിവരങ്ങൾ, പ്രധാന പ്രശ്നങ്ങൾ എന്നിവ വരുമ്പോൾ അപകടസാധ്യത വളരെ കൂടുതലാണ്.
• സ്വയം പരിരക്ഷിക്കുന്നതിന്: ഉറവിടം നൽകുക, വസ്‌തുതകൾ പരിശോധിക്കുക, "നിങ്ങൾക്ക് ഉറപ്പില്ലെങ്കിൽ എന്നോട് പറയൂ" എന്ന് പറയുക, ഉയർന്ന അപകടസാധ്യതയുള്ള ഔട്ട്‌പുട്ട് ഒരു വിദഗ്‌ദ്ധനെക്കൊണ്ട് പരിശോധിക്കുക.
• ഒരു ആരംഭ പോയിൻ്റായി AI ഉപയോഗിക്കുക; ആത്യന്തിക സ്ഥിരീകരണവും ഉത്തരവാദിത്തവും എല്ലായ്പ്പോഴും നിങ്ങളുടേതാണ്.

ആപ്ലിക്കേഷൻ ടാസ്ക്

വൈദഗ്ദ്ധ്യം ആവശ്യമുള്ള ഒരു വിഷയത്തിൽ "3 അക്കാദമിക് ഉറവിടങ്ങൾ നിർദ്ദേശിക്കാൻ" നിങ്ങളുടെ AI ടൂളിനോട് പറയുക, ഇൻ്റർനെറ്റിൽ അത് നിർദ്ദേശിക്കുന്ന ഉറവിടങ്ങൾ സ്ഥിരീകരിക്കാൻ ശ്രമിക്കുക; എത്രയെണ്ണം യഥാർത്ഥമാണെന്ന് ശ്രദ്ധിക്കുക. തുടർന്ന് "നിങ്ങൾ ഉറവിടം നൽകുന്നു" രീതി ഉപയോഗിച്ച് അതേ ടാസ്ക്ക് ആവർത്തിക്കുകയും വ്യത്യാസം നിരീക്ഷിക്കുകയും ചെയ്യുക.

ചെക്ക്‌ലിസ്റ്റ്

• ഒരു ഹാലുസിനേഷൻ എന്താണെന്നും അത് സംഭവിക്കുന്നത് എന്തുകൊണ്ടാണെന്നും എനിക്ക് വിശദീകരിക്കാൻ കഴിയും.
• [ ] എനിക്ക് ഉയർന്നതും കുറഞ്ഞതുമായ ഹാലുസിനേഷൻ റിസ്ക് ടാസ്ക്കുകൾ തമ്മിൽ വേർതിരിച്ചറിയാൻ കഴിയും.
• [ ] മോഡലിന് ഉറവിടം നൽകുന്നതിലൂടെ എനിക്ക് ഫാബ്രിക്കേഷൻ്റെ അപകടസാധ്യത കുറയ്ക്കാൻ കഴിയും.
• [ ] ഞാൻ അക്കങ്ങളും തീയതികളും പേരുകളും ഉറവിടങ്ങളും സ്വതന്ത്രമായി പരിശോധിക്കുന്നു.
• [ ] ആത്മവിശ്വാസം നൽകുന്ന ടോൺ കൃത്യതയുടെ തെളിവായി ഞാൻ കണക്കാക്കുന്നില്ല.