Mga nadagdag:
- Maaaring ipaliwanag kung ano ang guni-guni at kung bakit ito nangyayari
- Maaaring matukoy kung kailan kailangang ma-validate ang output ng AI
- Maaaring maglapat ng mga praktikal na pamamaraan na nagpapataas ng pagiging maaasahan
Marahil ang pinaka-kritikal na paksa ng AI literacy ay nasa unit na ito: Paggawa ng modelo, iyon ay, guni-guni. Ang pag-unawa sa terminong ito ay ang pinakapangunahing pag-iingat sa kaligtasan para sa sinumang gumagamit ng AI. Dahil ang isang user na hindi nakikilala ang guni-guni ay maaaring magkamali ng maling impormasyon bilang totoo at ilipat ito sa isang desisyon sa negosyo, komunikasyon ng customer o isang opisyal na dokumento. Sa yunit na ito, malalaman mo kung ano ang guni-guni, bakit hindi ito maiiwasan, at kung paano protektahan laban dito.
Ano ang guni-guni?
Ang guni-guni ay kapag ang isang modelo ng wika ay gumagawa ng impormasyon na hindi aktwal na umiiral sa isang matatas at may kumpiyansang wika, na para bang ito ay totoo. Ang modelo ay hindi naglalayong magsinungaling; Sa paggawa lamang ng "pinaka-malamang na pagpapatuloy", lumilikha ito ng isang teksto na tila malamang ngunit hindi totoo.
Halimbawa: Kung sasabihin mo sa isang modelo na "Magrekomenda ng isang akademikong mapagkukunan sa paksa Ang lahat ay lumalabas sa tamang format at nakakumbinsi; Ngunit ang pinagmulan ay ganap na haka-haka. Ito ay isang klasikong halimbawa ng guni-guni.
Bakit Ito Nangyayari? (Tandaan ang Ikalawang Yunit)
Ang pinagmulan ng guni-guni ay nakasalalay sa prinsipyo ng pagtatrabaho ng modelo. Ang modelo ay hindi isang "encyclopedia of facts"; Ito ay isang "probability machine". Ang trabaho nito ay upang makagawa ng pinakamadaling posibleng pagpapatuloy ng iyong katanungan; Hindi ito tungkol sa pagdadala ng pinakatumpak na impormasyon. modelo:
- Hindi niya alam ang hindi niya alam; Kapag nahaharap sa isang blangko, siya ay may posibilidad na punan ang isang posibleng sagot sa halip na magsabi ng "Hindi ko alam."
- Wala itong mekanismo para kontrolin ang realidad; Hindi nito sinusuri kung ang tekstong ginawa nito ay tumutugma sa mundo.
- Ang katatasan at katumpakan ay dalawang magkaibang bagay para sa kanya; Dahil lang sa matatas ito ay hindi nangangahulugan na ito ay tama.
Pag-iingat: Ang hallucination ay hindi isang "malfunction"; Ito ay isang likas na katangian ng teknolohiya. Binabawasan ito ng mga bagong modelo ngunit hindi ito ganap na maalis. Samakatuwid, sa halip na maghintay para sa isang "non-hallucination model", ito ay kinakailangan upang matutong mamuhay nang may guni-guni.
Nasaan ang Mataas na Panganib ng Hallucinations?
Hindi lahat ng kinalabasan ay pantay na peligroso. Ang panganib ay tumataas kapag:
Mataas na Panganib
Mababang Panganib
Mga eksaktong numero, petsa, istatistika
Pagbuo ng mga pangkalahatang ideya, brainstorming
Humihiling ng mga mapagkukunan, quote, sanggunian
Baguhin ang tono ng isang text
Niche, mga espesyal na paksa
Mga karaniwang paksa
Kasalukuyang mga kaganapan at mga tao
Ibuod ang iyong teksto
Panloob na impormasyon na partikular sa iyong kumpanya
Pagwawasto ng gramatika
Tatlong Mini Case
Case 1 — Isang pekeng figure ang pumasok sa presentation. Humingi ang isang empleyado sa AI ng "2023 e-commerce growth rate at source sa Türkiye" para sa ulat ng industriya. Nagbalik ang modelo ng isang nakakumbinsi na porsyento (48%) at isang pangalan ng institusyon. Inilagay ito ng empleyado sa pagtatanghal nang hindi ito bini-verify; Nang ihayag sa pulong na gawa-gawa ang figure, parehong nasira ang presentasyon at ang reputasyon ng kumpanya. Kung ang parehong empleyado ay nakatanggap ng numero mula sa opisyal na mapagkukunan, walang magiging problema.
Kaso 2 — Hindi umiiral na piraso ng batas. Hiniling ng isang katulong sa AI ang "kaugnay na artikulo ng batas" para sa isang petisyon. Ang modelo ay gumawa ng isang mukhang makatotohanang numero ng item at teksto; ngunit ang item na iyon ay wala doon. Sa kabutihang palad, napansin ito ng legal department bago ihatid. Aralin: ang mga legal na pagsipi ay palaging nabe-verify mula sa pangunahing pinagmulan.
Kaso 3 — Tamang paraan, ligtas na resulta. Ang isa pang empleyado sa parehong koponan ay nagpa-draft lamang ng ulat ng AI, na inilagay ang lahat ng mga numero sa kanyang sarili mula sa opisyal na data at nagtuturo sa kanya na "walang magdagdag ng mga numero na wala sa tekstong ito." Ang resulta ay parehong mabilis at tumpak. Pagkakaiba: Ang AI ay nagsulat ng draft, mga katotohanan na pinapakain ng tao.
Mahina Prompt / Malakas na Prompt
Mahinang prompt: Ibigay ang 3 pinakamahalagang mapagkukunan ng akademiko sa paksang ito kasama ng may-akda at taon.
Resulta: Ang modelo ay maaaring ligtas na magkasya sa mga hindi umiiral na mapagkukunan.
Napakahusay na prompt: Sumulat ng buod batay sa tekstong na-paste ko sa ibaba. Gamitin lamang ang impormasyon sa tekstong ito. Huwag magdagdag ng anumang mga pangalan, numero o mapagkukunan na wala sa teksto. Kung hindi ka sigurado, isulat ang "not specified in the text".<text>[paste here]</text>
Resulta: Dahil nakuha ng modelo ang pinagmulan mula sa iyo, nagiging mas makitid ang angkop na espasyo.
Mga Praktikal na Teknik na Nagpapataas ng Pagkamaaasahan
Markahan ang bawat nabe-verify na claim sa iyong sagot (numero, petsa, pangalan, pinagmulan) at ilagay ang mga ito sa isang hiwalay na listahan ng "dapat suriin".
Sagutin ang tanong na ito. Kung hindi ka sigurado, huwag hulaan; Sabihin ang "Hindi ako sigurado" at ipaliwanag na hindi mo alam kung ano. Paksa: [paksa]
Sagutin ang parehong tanong sa dalawang magkaibang paraan at markahan ang mga kontradiksyon sa pagitan ng dalawang sagot. Kaya tingnan ko kung aling mga punto ang kaduda-dudang. Tanong: [tanong]
Ive-verify ko ang text sa ibaba. Ilista ang mga mapanganib na claim na dapat kong suriin ayon sa kahalagahan at imungkahi kung saan ko mabe-verify ang bawat isa. Teksto: [i-paste dito]
Bilang karagdagan, gamitin ang mga gawi na ito:
- Ibigay mo ang pinagmulan. I-paste ang may-katuturang dokumento sa text at sabihin ang "sagot batay dito lamang."
- Palaging suriin ang mga napapatunayang katotohanan. I-verify ang mga numero, petsa, pangalan, quote at source mula sa independiyente, mapagkakatiwalaang source.
- Hilingin sa kanya na ipahiwatig na hindi siya sigurado tungkol sa modelo. Binabawasan nito ang panganib ngunit hindi ito ganap na inaalis.
- Para sa mga trabahong may mataas na peligro, magkaroon ng ekspertong suriin ang output. Ang mga legal, pinansiyal at mga output na nauugnay sa kalusugan ay dapat dumaan sa filter ng mga eksperto ng tao.
- Gamitin ang AI bilang isang "simulang punto," hindi bilang isang "panghuling salita." Ang draft ay mula sa kanya; Ang pagpapatunay at pagpapasya ay sa iyo.
Babala: "Ang modelo ay nagsabi na ito ng dalawang beses, pagkatapos ito ay totoo" ang lohika ay mali. Maaaring ulitin ang parehong pagkakamali nang may kumpiyansa. Ang pag-uulit ay hindi katibayan ng katumpakan.
Mga Karaniwang Pagkakamali
Mga karaniwang pagkakamali
- Paggamit ng mga mapagkukunan nang hindi bini-verify ang mga ito. Maaari itong lumikha ng mga modelong aklat, artikulo, artikulo ng batas at mga link; Dapat kumpirmahin ang bawat sanggunian.
- Napagkamalan ang tiwala na tono para sa katumpakan. Ang pinaka-mapanganib na bagay tungkol sa isang guni-guni ay tiyak na tila tiwala.
- Ang pagkakaroon lamang ng modelo na magsabi ng "ikaw ay i-verify" ay sapat na. Ang self-validation ng modelo ay hindi independent validation.
- Paggamit ng high-risk na output nang hindi ito ipinapakita sa isang eksperto. Ang kontrol ng tao ay mahalaga sa pera, batas at kalusugan.
Sa buod
- Ang hallucination ay kapag ang modelo ay gumagawa ng hindi umiiral na impormasyon sa isang matatas at kumpiyansa na paraan na parang ito ay totoo.
- Ang dahilan ay hindi isang madepektong paggawa, ngunit ang posibilidad na hulaan ang kalikasan ng modelo; hindi maaaring ganap na maalis.
- Ang panganib ay lalong mataas pagdating sa mga tumpak na numero, pinagmumulan, napapanahong impormasyon at mga isyu sa angkop na lugar.
- Upang protektahan ang iyong sarili: ibigay ang pinagmulan, i-verify ang mga katotohanan, sabihin ang "kung hindi ka sigurado, sabihin sa akin", ipasuri ng isang eksperto ang output na may mataas na panganib.
- Gamitin ang AI bilang panimulang punto; Ang tunay na pag-verify at responsibilidad ay laging nasa iyo.
Aplikasyon na Gawain
Sabihin sa iyong AI tool na "magmungkahi ng 3 pang-akademikong mapagkukunan" sa isang paksa na nangangailangan ng kadalubhasaan at subukang kumpirmahin ang mga mapagkukunang iminumungkahi nito sa internet; Pansinin kung ilan ang totoo. Pagkatapos ay ulitin ang parehong gawain gamit ang pamamaraang "ikaw ang nagbibigay ng pinagmulan" at obserbahan ang pagkakaiba.
Checklist
- [ ] Maaari kong ipaliwanag kung ano ang guni-guni at kung bakit ito nangyayari.
- [ ] Maari kong makilala ang pagitan ng mataas at mababang gawaing panganib sa hallucination.
- [ ] Maaari kong bawasan ang panganib ng katha sa pamamagitan ng pagbibigay ng pinagmulan sa modelo.
- [ ] Independiyente kong bini-verify ang mga numero, petsa, pangalan at pinagmulan.
- [ ] Hindi ko isinasaalang-alang ang tiwala na tono bilang katibayan ng katumpakan.