Hallucination da Iyakar Amincewa — AI Karatun

Riba:

Zai iya bayyana menene hallucination da dalilin da yasa yake faruwa
Zai iya ƙayyade lokacin da ake buƙatar ingantaccen fitarwa AI
Za a iya amfani da dabaru masu amfani waɗanda ke ƙara dogaro

Wataƙila mafi mahimmancin batu na karatun AI yana cikin wannan rukunin: Samfuran ƙira, wato, hallucination. Fahimtar wannan kalmar ita ce mafi mahimmancin kariya ta aminci ga duk wanda ke amfani da AI. Saboda mai amfani da bai gane abin da ake so ba zai iya kuskuren bayanan karya a matsayin gaskiya kuma ya canza shi zuwa shawarar kasuwanci, sadarwar abokin ciniki ko takaddar hukuma. A cikin wannan naúrar, za ku koyi abin da ake nufi da hallucination, dalilin da ya sa ba makawa, da kuma yadda za a kare shi.

Menene hallucination?

Hallucination shine lokacin da samfurin harshe ya samar da bayanan da ba a haƙiƙanin wanzuwa cikin yare mai ƙwazo da ƙarfin gwiwa, kamar dai gaskiya ne. Samfurin ba ya nufin yin ƙarya; A cikin samar da “mafi yuwuwar ci gaba” kawai, yana ƙirƙirar rubutu da alama mai yuwuwa amma a zahiri ƙarya ne.

Misali: Idan ka gaya wa abin ƙira “Ba da shawarar tushen ilimi a kan maudu’i Komai yana bayyana cikin tsari daidai kuma cikin gamsarwa; Amma tushen gaba ɗaya hasashe ne. Wannan babban misali ne na ruɗi.

Me Yasa Yake Faruwa? (Tuna Raka'a Biyu)

Tushen hallucination ya ta'allaka ne a cikin ka'idar aiki na samfurin. Misalin ba “encyclopedia of facts” ba ne; Yana da "na'ura mai yiwuwa". Ayyukanta shine samar da mafi kyawun ci gaba na tambayar ku; Ba batun kawo ingantaccen bayani ba ne. Samfura:

Bai san abin da bai sani ba; Idan ya fuskanci babu komai, sai ya kan cika amsa mai yiwuwa maimakon ya ce "Ban sani ba."
Ba shi da wata hanyar sarrafa gaskiya; Ba ya bincika ko rubutun da yake samarwa yayi daidai da duniya.
Fahimta da daidaito abubuwa biyu ne daban-daban a gare shi; Kawai don yana da kyau ba yana nufin yana da kyau ba.

Tsanaki: Halucin rai ba "rashin lafiya" ba ne; Siffar fasaha ce ta asali. Sabbin samfura sun rage wannan amma ba za su iya kawar da shi gaba ɗaya ba. Sabili da haka, maimakon jiran "samfurin ba-hallucination", wajibi ne a koyi rayuwa tare da hallucination.

Ina Babban Haɗarin Hallucinations?

Ba kowane sakamako ba daidai yake da haɗari ba. Haɗarin yana ƙaruwa lokacin da:

Babban Hatsari

Ƙananan Haɗari

Daidaitattun ƙididdiga, kwanakin, ƙididdiga

Samar da ra'ayoyi na gaba ɗaya, ƙaddamar da tunani

Neman tushe, ambato, nassoshi

Canja sautin rubutu

Niche, batutuwa na musamman

Na gama-gari, batutuwa na gaba ɗaya

Abubuwan da ke faruwa a yanzu da mutane

Takaita rubutunku

Bayanin ciki na musamman ga kamfanin ku

Gyaran nahawu

Mini Cases guda uku

Case 1 - Wani adadi na karya ya shiga gabatarwa. Wani ma'aikaci ya tambayi AI don "2023 haɓakar haɓakar kasuwancin e-commerce da tushe a cikin Turkiye" don rahoton masana'antu. Samfurin ya dawo da kashi mai gamsarwa (48%) da sunan cibiyar. Ma'aikaci ya sanya shi a cikin gabatarwa ba tare da tabbatar da shi ba; Lokacin da aka bayyana a wurin taron cewa an kirkiri wannan adadi, an lalatar da abin da aka gabatar da kuma martabar kamfanin. Idan ma'aikaci ɗaya ya karɓi adadi daga majiyar hukuma, da ba za a sami matsala ba.

Case 2 - Babu wani yanki na doka. Wani mataimaki ya tambayi AI don "kasidar da ta dace" don koke. Samfurin ya samar da lambar abu da rubutu na gaskiya; amma abin ba ya nan. Abin farin ciki, sashen shari'a ya lura da shi kafin bayarwa. Darasi: Koyaushe ana tabbatar da ambaton shari'a daga tushen farko.

Case 3 — Hanyar daidai, sakamako mai lafiya. Wani ma'aikaci a cikin wannan ƙungiyar yana da AI ta rubuta rahoton, yana shigar da duk lambobi da kansa daga bayanan hukuma kuma ya umarce shi da ya "ƙara wani adadi da ba a cikin wannan rubutu ba." Sakamakon ya kasance duka cikin sauri kuma daidai. Bambanci: AI ya rubuta daftarin, abubuwan ciyar da ɗan adam.

Rauni Mai Sauƙi / Ƙarfi Mai ƙarfi

Rarraunawar hanzari: Ba da mahimman tushe na ilimi guda 3 akan wannan batu tare da marubucin da shekara.

Sakamako: Samfurin na iya dacewa da hanyoyin da ba su wanzu ba lafiya.

Ƙarfi mai ƙarfi: Rubuta taƙaitaccen bayani dangane da rubutun da na liƙa a ƙasa. Yi amfani da bayanin da ke cikin wannan rubutun kawai. Kada ka ƙara kowane suna, lambobi ko tushen da ba a cikin rubutu ba. Idan ba ku da tabbas, rubuta "ba a ƙayyade a cikin rubutun ba"<text>[ manna a nan ]</text>

Sakamako: Tun da samfurin ya sami tushen daga gare ku, wurin da ya dace ya zama kunkuntar.

Hanyoyi masu Aiki waɗanda ke ƙara dogaro

Alama kowane da'awar tabbatacce a cikin amsar ku (lambar, kwanan wata, suna, tushen) kuma sanya su a cikin jerin "dole ne a duba" daban.

Amsa wannan tambayar. Idan ba ku da tabbas, kar ku yi tsammani; Tace "Ban tabbata ba" kuma ku bayyana cewa ba ku san menene ba. Maudu'i: [abu]

Amsa wannan tambaya ta hanyoyi biyu daban-daban kuma yi alama da sabani tsakanin amsoshin biyun. Don haka bari in ga wadanne batutuwa ne abin tambaya.Tambaya: [tambaya]

Zan tabbatar da rubutun da ke ƙasa. Yi lissafin da'awar masu haɗari da ya kamata in bincika cikin mahimmanci kuma in ba da shawarar inda zan iya tabbatar da kowannensu. Rubutu: [manna a nan]

Bugu da ƙari, ɗauki waɗannan halaye:

Ka ba da tushen. Manna daftarin aiki mai dacewa a cikin rubutun kuma a ce "amsa bisa wannan kadai."
Koyaushe bincika abubuwan da ake iya tabbatarwa. Tabbatar da lambobi, kwanakin, sunaye, ƙididdiga da tushe daga tushe mai zaman kansa, ingantaccen tushe.
Ka tambaye shi ya nuna cewa bai da tabbas game da samfurin. Wannan yana rage haɗarin amma baya kawar da shi gaba ɗaya.
Don manyan ayyuka masu haɗari, sami ƙwararren ya duba abin da ake fitarwa. Abubuwan da suka shafi shari'a, kuɗi da lafiya dole ne su wuce ta hanyar tace masana'antar ɗan adam.
Yi amfani da AI a matsayin "makon farawa," ba a matsayin "kalmar ƙarshe ba." Daftarin daga gare shi yake; Tabbatarwa da yanke shawara na ku ne.

Tsanaki: "Tsarin ya faɗi sau biyu, sannan gaskiya ne" dabaru ba daidai ba ne. Zai iya maimaita kuskuren daidai. Maimaitawa ba shaida ce ta daidaito ba.

Kuskuren gama gari

Amfani da kafofin ba tare da tabbatar da su ba. Yana iya ƙirƙirar littattafan samfuri, labarai, labaran doka da hanyoyin haɗin gwiwa; Dole ne a tabbatar da kowace magana.
Yin kuskuren sautin ƙarfin hali don daidaito. Abu mafi haɗari game da hallucination shine daidai cewa yana da tabbaci.
Kawai samun samfurin ya ce "ka tabbatar" ya isa. Tabbatar da kansa na ƙirar ba ingantaccen aiki bane.
Yin amfani da fitarwa mai haɗari mai girma ba tare da nuna shi ga gwani ba. Gudanar da ɗan adam yana da mahimmanci a cikin kuɗi, doka da lafiya.

A taqaice

Hallucination shine lokacin da samfurin ya samar da bayanan da ba a wanzu ba a cikin tsari da amincewa kamar dai gaskiya ne.
Dalilin ba rashin aiki ba ne, amma yiwuwar-sanninta yanayin samfurin; ba za a iya kawar da gaba daya ba.
Haɗarin yana da girma musamman idan aka zo ga takamaiman ƙididdiga, tushe, bayanai na yau da kullun da batutuwa masu mahimmanci.
Don kare kanka: ba da tushe, tabbatar da gaskiyar, faɗi "idan ba ku da tabbas, gaya mani", sami babban haɗari da ƙwararru ya bincika.
Yi amfani da AI azaman farawa; Babban tabbaci da alhakin koyaushe yana tare da ku.

Aiki Aiki

Faɗa wa kayan aikin AI ɗin ku don "ba da shawarar tushen ilimi 3" akan batun da ke buƙatar gwaninta kuma kuyi ƙoƙarin tabbatar da tushen da yake nunawa akan intanet; Ka lura da nawa ne na gaske. Sa'an nan kuma maimaita wannan aikin tare da hanyar "ka ba da tushe" kuma ka lura da bambanci.

Jerin abubuwan dubawa

[ ] Zan iya bayyana menene hallucination da dalilin da yasa yake faruwa.
[ ] Zan iya bambance tsakanin ayyuka masu haɗari masu girma da ƙanana.
[ ] Zan iya rage haɗarin ƙirƙira ta hanyar ba da tushe ga samfurin.
[ ] Nakan tabbatar da lambobi, kwanan wata, sunaye da tushe.
[ ] Ba na ɗaukar sautin ƙarfin hali a matsayin shaidar daidaito.