Halucinacioni dhe kufijtë e besueshmërisë

Fitimet:

Mund të shpjegojë se çfarë është një halucinacion dhe pse ndodh
Mund të përcaktojë kur prodhimi i AI duhet të vërtetohet
Mund të aplikojë teknika praktike që rrisin besueshmërinë

Ndoshta tema më kritike e shkrim-leximit të AI është në këtë njësi: Krijimi i modeleve, domethënë halucinacionet. Kuptimi i këtij termi është masa paraprake më themelore e sigurisë për këdo që përdor AI. Sepse një përdorues që nuk e njeh halucinacionin mund të gabojë informacionin e rremë si të vërtetë dhe ta transferojë atë në një vendim biznesi, komunikim me klientin ose një dokument zyrtar. Në këtë njësi, do të mësoni se çfarë është halucinacioni, pse është i pashmangshëm dhe si të mbroheni nga ai.

Çfarë është një halucinacion?

Një halucinacion është kur një model gjuhësor prodhon informacion që në të vërtetë nuk ekziston në një gjuhë të rrjedhshme dhe të sigurt, njësoj sikur të ishte e vërtetë. Modelja nuk ka ndërmend të gënjejë; Duke prodhuar vetëm "vazhdimin më të mundshëm", ai krijon një tekst që duket i mundshëm, por në fakt është i rremë.

Shembull: Nëse i thoni një modeli “Rekomandoni një burim akademik për temën Çdo gjë shfaqet në formatin e duhur dhe bindshëm; Por burimi është krejtësisht imagjinar. Ky është një shembull klasik i halucinacioneve.

Pse Ndodh? (Mos harroni njësinë e dytë)

Burimi i halucinacioneve qëndron në parimin e punës së modelit. Modeli nuk është një “enciklopedi faktesh”; Është një "makinë probabiliteti". Detyra e tij është të prodhojë vazhdimin sa më të qetë të pyetjes suaj; Nuk ka të bëjë me sjelljen e informacionit më të saktë. Modeli:

Ai nuk e di atë që nuk e di; Kur përballet me një boshllëk, ai priret të plotësojë një përgjigje të mundshme në vend që të thotë "Nuk e di".
Nuk ka asnjë mekanizëm për të kontrolluar realitetin; Ai nuk kontrollon nëse teksti që prodhon përputhet me botën.
Rrjedhshmëria dhe saktësia janë dy gjëra të ndryshme për të; Vetëm për shkak se është i rrjedhshëm nuk do të thotë se është i saktë.

Kujdes: Halucinacioni nuk është një "mosfunksionim"; Është një tipar i qenësishëm i teknologjisë. Modelet e reja e zvogëlojnë këtë, por nuk mund ta eliminojnë plotësisht. Prandaj, në vend që të presësh për një “model jo-halucinues”, është e nevojshme të mësosh të jetosh me halucinacione.

Ku është i lartë rreziku i halucinacioneve?

Jo çdo rezultat është po aq i rrezikshëm. Rreziku rritet kur:

Rrezik i lartë

Rrezik i ulët

Shifra të sakta, data, statistika

Gjenerimi i ideve të përgjithshme, stuhi mendimesh

Kërkimi i burimeve, citimeve, referencave

Ndryshoni tonin e një teksti

Niche, tema të specializuara

Tema të zakonshme, të përgjithshme

Ngjarjet aktuale dhe njerëzit

Përmblidhni tekstin tuaj

Informacion i brendshëm specifik për kompaninë tuaj

Korrigjimi gramatikor

Tre Mini Rastet

Rasti 1 - Një figurë e rreme hyri në prezantim. Një punonjës i kërkoi AI për "shkallën e rritjes së tregtisë elektronike 2023 dhe burimin në Turqi" për raportin e industrisë. Modeli ktheu një përqindje bindëse (48%) dhe një emër institucioni. Punonjësi e futi atë në prezantim pa e verifikuar; Kur në mbledhje u zbulua se shifra ishte e sajuar, u dëmtua si prezantimi ashtu edhe reputacioni i kompanisë. Nëse i njëjti punonjës do ta kishte marrë shifrën nga burimi zyrtar, nuk do të kishte asnjë problem.

Rasti 2 — Akt legjislacioni inekzistent. Një asistent i kërkoi AI "nenin përkatës të ligjit" për një peticion. Modeli prodhoi një numër artikulli dhe tekst me pamje realiste; por ai artikull nuk ishte aty. Për fat të mirë, departamenti juridik e vuri re atë përpara dorëzimit. Mësimi: citimet ligjore verifikohen gjithmonë nga burimi parësor.

Rasti 3 — Metoda e saktë, rezultat i sigurt. Një punonjës tjetër në të njëjtin ekip thjesht i kërkoi AI-së të hartonte raportin, duke futur vetë të gjithë numrat nga të dhënat zyrtare dhe duke e udhëzuar atë të "shtojë asnjë shifër që nuk është në këtë tekst". Rezultati ishte i shpejtë dhe i saktë. Dallimi: AI shkroi draft, fakte të ushqyera nga njerëzit.

Prompt i dobët / Prompt i fortë

Prompt i dobët: Jepni 3 burimet më të rëndësishme akademike për këtë temë me autorin dhe vitin.

Rezultati: Modeli mund të përshtatet në mënyrë të sigurtë me burime jo-ekzistente.

Prompt i fuqishëm: Shkruani një përmbledhje bazuar në tekstin që ngjita më poshtë. Përdorni vetëm informacionin në këtë tekst. Mos shtoni emra, numra ose burime që nuk janë në tekst. Nëse nuk jeni të sigurt, shkruani "nuk është specifikuar në tekst".<text>[ngjit këtu]</text>

Rezultati: Meqenëse modeli e merr burimin nga ju, hapësira e montimit bëhet më e ngushtë.

Teknika praktike që rrisin besueshmërinë

Shënoni çdo pretendim të verifikueshëm në përgjigjen tuaj (numrin, datën, emrin, burimin) dhe vendosini ato në një listë të veçantë "duhet kontrolluar".

Përgjigju kësaj pyetjeje. Nëse nuk jeni të sigurt, mos e merrni me mend; Thuaj "nuk jam i sigurt" dhe shpjegoni se nuk dini çfarë. Tema: [subjekti]

Përgjigjuni të njëjtës pyetje në dy mënyra të ndryshme dhe shënoni kontradiktat midis dy përgjigjeve. Pra, më lejoni të shoh se cilat pika janë të diskutueshme. Pyetje: [pyetje]

Do ta verifikoj tekstin më poshtë. Rendisni pretendimet e rrezikshme që duhet të kontrolloj sipas rëndësisë dhe sugjeroni se ku mund ta verifikoj secilin. Teksti: [ngjit këtu]

Për më tepër, adoptoni këto zakone:

Ju jepni burimin. Ngjitni dokumentin përkatës në tekst dhe thoni "përgjigjuni bazuar vetëm në këtë".
Gjithmonë kontrolloni faktet e verifikueshme. Verifikoni numrat, datat, emrat, citatet dhe burimet nga një burim i pavarur dhe i besueshëm.
Kërkojini atij të tregojë se nuk është i sigurt për modelin. Kjo zvogëlon rrezikun, por nuk e eliminon plotësisht.
Për punë me rrezik të lartë, kërkoni një ekspert të inspektojë rezultatin. Produktet ligjore, financiare dhe shëndetësore duhet të kalojnë përmes filtrit të ekspertëve njerëzorë.
Përdorni AI si një "pikë fillestare", jo si një "fjalë përfundimtare". Drafti është prej tij; Verifikimi dhe vendimi është i juaji.

Kujdes: "Modelja e tha dy herë, atëherë është e vërtetë" logjika është e gabuar. Mund të përsërisë të njëjtin gabim me besim. Përsëritja nuk është dëshmi e saktësisë.

Gabimet e zakonshme

Përdorimi i burimeve pa i verifikuar ato. Mund të krijojë libra model, artikuj, nene të ligjit dhe lidhje; Çdo referencë duhet të konfirmohet.
Gabimi i tonit të sigurt për saktësinë. Gjëja më e rrezikshme në lidhje me një halucinacion është pikërisht se ai duket i sigurt.
Mjafton që modelja të thotë "ju verifikoni". Vetëvlerësimi i modelit nuk është vërtetim i pavarur.
Përdorimi i rezultateve me rrezik të lartë pa e treguar atë tek një ekspert. Kontrolli njerëzor është thelbësor në para, ligj dhe shëndet.

Në përmbledhje

Halucinacioni është kur modeli prodhon informacion joekzistent në një mënyrë të rrjedhshme dhe të sigurt sikur të ishte e vërtetë.
Shkaku nuk është një mosfunksionim, por natyra parashikuese e probabilitetit të modelit; nuk mund të eliminohet plotësisht.
Rreziku është veçanërisht i lartë kur bëhet fjalë për shifra të sakta, burime, informacione të përditësuara dhe çështje të veçanta.
Për të mbrojtur veten: jepni burimin, verifikoni faktet, thoni "nëse nuk jeni i sigurt, më tregoni", kontrolloni rezultatet me rrezik të lartë nga një ekspert.
Përdorni AI si pikënisje; Verifikimi dhe përgjegjësia përfundimtare mbeten gjithmonë me ju.

Detyra e Aplikimit

Tregojini mjetit tuaj të AI të "sugjerojë 3 burime akademike" për një temë që kërkon ekspertizë dhe përpiquni të konfirmoni burimet që sugjeron në internet; Vini re se sa janë të vërteta. Pastaj përsëritni të njëjtën detyrë me metodën "ju jepni burimin" dhe vëzhgoni ndryshimin.

Lista kontrolluese

[ ] Mund të shpjegoj se çfarë është halucinacioni dhe pse ndodh.
[ ] Unë mund të bëj dallimin midis detyrave me rrezik të lartë dhe të ulët të halucinacioneve.
[ ] Mund të zvogëloj rrezikun e fabrikimit duke i dhënë burimin modelit.
[ ] Unë verifikoj në mënyrë të pavarur numrat, datat, emrat dhe burimet.
[ ] Nuk e konsideroj tonin e sigurt si dëshmi të saktësisë.