Пайдалар:
- Жасалма интеллектти колдонууда профессионалдык скептицизм деген эмне экенин жана ырастоо жана автоматташтыруу жагына түшүп калуу коркунучун түшүнүңүз
- Жасалма интеллекттин натыйжасын төгүнгө чыгарууга аракет кылган суроо ыкмасы менен текшерүү мүмкүнчүлүгү (тескерисин издөө)
- Жасалма интеллекттин тазалыгы тактыкты билдирбейт, скептик акыл башкаруунун өзөгү болуп саналат жана аны өткөрүп берүү мүмкүн эмес экенин түшүнө алуу.
Көз карандысыз аудитти башка көптөгөн кесиптерден айырмалап турган бир психикалык мамиле бар: кесиптик скептицизм. АХС муну “далилдер мүмкүн болгон бурмалоолорду көрсөтүп же жокпу, байкап, далилдерди сын көз менен баалоо менен, сурамжылоо менен иштеген” аудитор катары аныктайт. Башкача айтканда, аудитор өзүнө берилген эч бир маалыматты — жетекчиликтин билдирүүсүн, документти, жада калса «акылга сыярлык» эсепти да автоматтык түрдө кабыл албайт. Мен дайыма "чын эле ушундайбы?" — деп сурайт ал. Бул мамиле контролдун өзөгү болуп саналат жана ажырагыс болуп саналат.
Жасалма интеллект доорунда бул өзөк жаңы сыноого туш болот. Анткени AI адамдын акыл-эсинин эки терең алсыздыгын - автоматташтыруу жана тастыктоо багытын козгоого жөндөмдүү. Бул бөлүмдө биз AI колдонгон аудитор өзүнүн скептицизмин кантип сактап же ал тургай бекемдей аларын карайбыз. Негизги тезис - AIнын эркин сүйлөмдүүлүгү так эмес; Скептик акыл AI алдында дагы маанилүү болуп калат.
Эки коркунучтуу көз караш
Автоматташтыруунун бир жактуулугу - бул адамдардын машинанын/программанын чыгышына өз пикирине караганда көбүрөөк ишенүү тенденциясы. "Компьютер аны эсептеп чыкты, бул туура." Бул коркунуч AI жөнүндө сөз болгондо күчөйт, анткени AI жөн эле эсептеп койбойт; Таза, ишенимдүү, адамдыкындай, жүйөлүү сүйлөмдөрдү сүйлөйт. Ишенимдүү үн маалымат так болбосо да ынандырат.
Ырастоочу бир тараптуулук – адамдардын мурда ишенген же күткөн тыянагын тастыктаган маалыматты издөөгө жана карама-каршы келген маалыматты четке кагууга болгон тенденциясы. Бул аудитте өлүмгө алып келет: "Бул кардар таза болушу керек" деп ойлогон аудитор AIдан сураганда жана ырастоодон кийин жеңилдейт жана тескерисинче далилдерди издөөнү токтотот. AI берилген суроого ыктагандыктан (эгер сиз “жакшыбы, туурабы?” деп сурасаңыз, ал сизге дал келген жоопту бере алат), ал ырастоонун бир жактуулугун күчөтүшү мүмкүн.
Үчүнчүсү дагы бар: галлюцинация. Биз муну модулда көп жолу көрдүк — AI жок санды, нерсени, ресурсту эркин түзө алат. Үч алсыздык бириктирилгенде коркунуч күчөйт: AI нерселерди ойлоп табат (галлюцинация), сиз ага ишенесиз, анткени ал суюктук (автоматташтыруу объектиси), сиз ага шектенбейсиз, анткени ал сиз күткөн нерсени айтып берет (тастыктоо позициясы).
Скептик акылдын AIга каршы үч куралы
Келгиле, АИге каршы конкреттүү ыкмаларга скептицизмди коелу:
- Тастыктоого эмес, жокко чыгарууга аракет кылыңыз. AI анын жыйынтыгын сурашы мүмкүн "бул чынбы?" "Бул туура эмес экенин мен кайдан билем?" суроо. Өзүңө суроо бер: «Эгер бул сөз жалган болсо, аны кандай далилдер көрсөтөт эле?» жана бул далилди изде. Бир эле тастыктоочу мисалды табуу оңой; Токко чыгарууга аракет кылуу жана ийгиликсиз болуу чыныгы кепилдик берет.
- Бейтарап жана артка суроо. AIдан "бул жерде көйгөй жок, туурабы?" сураба; бул жактыруучу жоопту чакырат. Анын ордуна, "бул маалыматтарда мен кандай тобокелдиктерди өткөрүп жиберишим мүмкүн?" жана "бул жыйынтык туура эмес болушу мүмкүн болгон үч сценарий кайсылар?" сура. Бир эле суроону эки карама-каршы тараптан бериңиз жана жоопторду салыштырыңыз.
- Булакка жүктөп алып, кайра чыгарыңыз. Ар бир чыгарылыш, атрибуция жана корутунду үчүн "мен муну кайдан өз алдынча текшерем?" Суроо бериңиз жана чындыгында текшериңиз. AIнын чыгышын ырастоо катары көрүү; Далилдер дооматтан тышкары болуп саналат.
Кеңеш: Адат кылыңыз: AI берген ар бир маанилүү натыйжанын жанына кол менен эки нерсени жазыңыз - "(1) мен муну эмне менен текшердим, (2) эгерде ал жалган болсо, муну кайсы далилдер көрсөтөт." Бул эки эскертүү автоматташтыруу жана тастыктоо жагын сындырат.
Аудитор өткөрүп бере албаган чечимдер
Кээ бир жумуш табиятынан скептицизмди жана ойлонууну талап кылат; буларды AIга өткөрүп берүүгө болбойт, бир гана колдоого алынат:
ажыратылгыс юрисдикция
Эмне үчүн
Далилдер жетиштүү жана ылайыктуубу
Профессионалдык баалоо; контекстке көз каранды
Түшүндүрмөнүн жүйөлүүлүгү
Ишкананы жана ниетти эске алууну талап кылат
Алдамчылык тобокелдигин баалоо
Скептицизм жана интуиция; маалымат үлгүсүнөн тышкары
Материалдык жана пикир чечим
Сот бийлиги коомчулук алдында жооптуу
Башкаруунун чынчылдыгы тууралуу пикир
Адамдын жүрүм-турумун окуу; AI муну кыла албайт
Скептицизм менен педантрия ортосундагы айырма: өлчөнгөн мамиле
Кесиптик скептицизм баарына ишенбөө же алдын ала жетекчиликти күнөөлөөнү билдирбейт; Бул аша чаап, көзөмөлдү натыйжасыз кылып коёт. Скептицизм – бул таза ишенүү (сага айтылгандын баарын кабыл алуу) да, сокур тануу (баарын четке кагуу); Ортодо, бул далилдерге ылайыктуу тергөө мамилеси. Аудитор башкарууну чынчыл деп кабыл алышы мүмкүн, бирок бул кабыл алууну далилдер менен текшерет; түшүндүрмөнү жүйөлүү деп табышы мүмкүн, бирок ишенимдүүлүгүн ырастайт. AI бул тең салмактуулукту бузушу мүмкүн: бир багытта, ал суюктуктун чыгышы менен сизди ашыкча ишеничке салат; Башка жагынан алып караганда, эгер сиз ага "баардык нерседен кемчилик тап" десең, ал сени чексиз жалган позитивдер менен бомбалайт. Туура мамиле - далилдерди чыгаруу жана далилдерди жокко чыгаруу үчүн AI иштетип жатканда, натыйжаны далилдердин салмагына каршы ар дайым таразалоо. Скептицизм инсандык өзгөчөлүк эмес, тартиптүү иштөө; Жана AI эмес, бул тартипти орнотуучу, колдогон жана далилдеген аудитор.
үч мини учурлар
1-жагдай - жокко чыгаруу техникасы иштейт. Аудитор "бул акциянын баасы жөндүү окшойт" деп AI басып чыгарды. Ал ырастоонун ордуна: "Эгер бул баа ашыкча көрсөтүлсө, аны кандай далилдер көрсөтөт?" "сатуудан кийинки баасы өздүк наркынан төмөн түшкөн буюмдар" деди YZ. Аудитор бул нерселерди издеп, чындыгында бааланбаган топту тапты. Токко чыгаруучу суроо тастыктоо жашырылган коркунучту ачыкка чыгарды.
2-жагдай - тастыктоо позициясына түшүү. Команда мүчөсү AIдан кыйынчылык учурунда: "Бул аккаунтта чоң катачылык жок, туурабы?" — деп сурады ал. YZ суроого жөлөнүп: “Сиз берген маалыматка караганда, олуттуу маселе жок окшойт” деди. Команданын мучесу эс алып, калемди каптады. Бирок, ал эч кандай далил келтирген эмес; AI жөн гана анын сүйлөмүн чагылдырды. Жооптуу адам суроо калыс берилбегенин көрсөттү. Сабак: суроону кантип бергениңден алган жообуң аныкталат; Ырастоону издеген суроо тастыктоону жаратат.
3-жагдай - Акылдуулукка умтулуу. Аудитор YZ абдан эркин жана жүйөлүү абзацта түшүндүргөн мыйзамдардын чечмелөөсү туура деп эсептеп, аны жумушчу документке киргизген. Текст ушунчалык тыкан болгондуктан, ага суроо берүү анын оюна да келген жок. Жооптуу адам шилтеменин расмий текстте эквиваленти жок экенин көрсөттү. Сабак: эркин сүйлөмдүүлүк жана ишенимдүүлүк тактыктын далили эмес; Эң ынанымдуу көрүнгөн жыйынтык эң коркунучтуу болушу мүмкүн.
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Бул анализ туура, туурабы? Сиз жактырасызбы?
Көйгөй: ырастоону талап кылган бир жактуу суроо. Бул AI сизге кошулууга түртөт; Бул ырастоонун бир жактуулугун күчөтөт жана чыныгы коркунучту жашырат.
Күчтүү билдирүү:
Сиздин ролуңуз: сиз көз карандысыз аудитордун критикалык изилдөө өнөктөшүсүз. Сиздин милдетиңиз мени менен макул болуу эмес, бирок мен чыгарган жыйынтыктан БАШТАЛУУГА аракет кылуу. Контекст: Төмөндө менин аналитикалык процедуранын корутундусу жана менин болжолдуу корутундум бар.[натыйжа тексти]Тапшырма:1) Бул тыянак ЖАЛГАН болушу мүмкүн болгон 3 сценарийди тизмектеңиз.2) Ар бир сценарий үчүн: "эгер бул чын болсо, эмнени далилдейт?" Конкреттүү, издөөгө боло турган далилдерди сунуштаңыз. 3) Мен өткөрүп жиберген маалыматтарды же божомолдорду белгилеңиз. 4) Мени менен туура келген сүйлөмдөрдү түзбө; Сизге алсыз жерлерди табуу милдети жүктөлгөн. Ишенбеген жериңизди "белгисиз" деп белгилеңиз.
Бул чакырык күчтүү, анткени ал AI ролун өзгөртөт (чектенүү), жокко чыгаруу сценарийлерин жана изделүүчү далилдерди талап кылат жана тастыктоочу тилге тыюу салат. Бул жасалма интеллектти тастыктоо үчүн эмес, скептицизмдин кызматына коёт.
Жалпы каталар
- макулдук издеп суроолорду берүү. – Эч нерсе эмес, туурабы? суроо жана макулдашылган жоопту камсыз кылуу менен.
- Акылдуулукту тактык менен жаңылыштык. Жакшы жазылган, ишенимдүү жыйынтыктарды суроосуз кабыл алуу.
- Бир эле ырастоочу мисалга ыраазы болуңуз. Аны жокко чыгарууга аракет кылбастан, биринчи колдоочу табылга менен жабуу.
- ажыратылгыс юрисдикцияны өткөрүп берүү. Далилдердин жетиштүүлүгү, жүйөлүүлүгү, пикири боюнча чечимди АИге калтыруу.
- Убакыттын басымы астында скептицизмден арылуу. Сиз тыгылып калганда AIнын жубатарлык жообуна баш калкалоо.
Абайлаңыз: Убакыттын басымы скептицизмдин эң чоң душманы жана AI бул басымдын астында эң коркунучтуу болуп калат; анткени ал сизге тез, эркин жана жубатарлык жооп берет. Шашып турганыңызда төгүндөөчү суроону сөзсүз бериңиз.
Кыскача айтканда
Кесиптик скептицизм аудиттин өзөгүн түзөт жана AI доорунда ого бетер критикалык болуп калат. AI үч алсыздыкты жаратат: галлюцинация (аны түзөт), автоматташтыруу (биз ага ишенебиз, анткени ал суюктук), ырастоо тенденциясы (биз ага шек келтирбейбиз, анткени ал биз эмнени үмүт кылабыз). Антидот - бул жасалма интеллектти ырастоого эмес, аны жокко чыгарууга шашуу: "эгер бул жалган болсо, аны кандай далилдер көрсөтөт?" ' жана карама-каршы далилдерди издеп, объективдүү жана артка суроо, булактан ар бир жыйынтыкты кайра чыгаруу. Далилдердин жетиштүүлүгү, акылга сыярлык, алдамчылык коркунучу жана пикирди баалоо сыяктуу өкүмдөр скептицизмди талап кылат жана өткөрүп берилбейт. Акылдуулук тактык эмес; Шектүү акыл сеники.
Колдонмо тапшырмасы
Аудиттин жыйынтыгын (же гипотетикалык натыйжаны) алыңыз. AIга адегенде "тастыктоо үчүн" алсыз суроо менен, андан кийин жогорудагы "төгүндөөчү" күчтүү ыкчам үлгү менен сураңыз. Эки жыйынтыкты жанаша коюп, айырманы жазыңыз: кайсы тобокелдиктер төгүндөөчү суроо менен гана ачылган? Андан кийин, чыгарууңуздагы ар бир негизги дооматтын жанына эки эскертүү кошуңуз: "мен эмне менен текшердим" жана "эгер ал жалган болсо, кандай далилдер көрсөтүлөт".
текшерүү тизмеси
- [ ] Мен AI жокко чыгаруу/нейтралдуу суроолорду бердим, тастыктоочу суроолорду эмес.
- [ ] Ар бир маанилүү жыйынтык үчүн, "эгер бул жалган болсо, аны кандай далилдер көрсөтөт?" Мен суроо берип, далилдерди издедим.
- [ ] Мен кошумча скептицизм менен жылмакай жана ишенимдүү көрүнгөн чыгарууну сынап көрдүм.
- [ ] Мен бир эле ырастоочу мисал менен токтоп калган жокмун; Мен аны жокко чыгарууга аракет кылдым, бирок ишке ашпай калды.
- [ ] Мен далилдердин жетиштүүлүгү, акылга сыярлык жана пикир сыяктуу өзүмдүн чечимдеримди чыгардым.
- [ ] Убакыттын кысымына карабай, мен төгүндөөчү суроону өткөрүп жиберген жокмун.
- [ ] Маанилүү дооматтардын жанында мен "мен эмнени текшердим / туура эмес болсо эмне көрсөтөт" деген жазууларды жаздым.