Добивки:
- Способност за класификација на финансиските податоци според нивната чувствителност и избор на соодветни алатки и трансакции
- Способност за безбедно спроведување на анализа со анонимизирање на лични и доверливи податоци
- Да се биде способен да воспостави рамка на хармонија, транспарентност и етика, знаејќи дека одговорноста останува кај луѓето
Приватност, усогласеност и етика: Ограничувања на финансиските податоци
Досега видовме каков моќен асистент ВИ е во финансиите и сметководството. Во оваа единица ја гледаме другата страна на паричката: границите. Финансиските податоци се еден од најчувствителните типови на податоци. Финансиски извештај залепен во погрешно возило, необјавен резултат, информации за сметката на клиентот; Тоа може да доведе и до правна, етичка и комерцијална катастрофа. Оваа единица учи за заштитни мерки за кои не може да се преговара кога се користи ВИ во финансии. Познавањето на овие правила е предуслов за безбедно користење на вештините во сите други единици.
Зошто финансиските податоци се толку чувствителни?
Три причини: Приватноста (податоците од купувачот, вработен, добавувачот спаѓаат во опсегот на личните податоци и се заштитени со регулативи како што е KVKK), внатрешни информации (неоткриените финансиски резултати се од клучно значење за берзата и конкуренцијата) и доверба (довербата на клиентите и деловните партнери не може да се врати ако вашите финансиски податоци протекуваат). Податоците што ги ставате во јавна алатка за вештачка интелигенција се обработуваат на серверите на таа алатка; Овие податоци може да се користат или да се направат достапни за обука за модели во алатки кои не гарантираат задржување на корпоративните податоци.
KVKK (Закон за заштита на лични податоци) е закон кој ја регулира обработката на личните податоци во Турција; Го ограничува преносот на податоци како лично име, TR ID, сметка и информации за контакт на неовластени трети страни.
Совет: Пред да залепите податоци во вештачката интелигенција, запрашајте се: „Дали би го испратил ова преку е-пошта на странец? Ако одговорот е не, прво анонимизирајте или користете само одобрени алатки на претпријатието.
Чекор по чекор: Пред испраќање податоци
- Класифицирај. Дали податоците се јавни, внатрешна употреба, доверливи или лични?
- Потврдете ја алатката. Дали е корпоративно/одобрено? Која е политиката за задржување податоци и обука?
- Минимизирајте. Дајте ги минималните податоци потребни за вашата работа; отсечете го вишокот.
- Анонимизирај. Маскирајте или отстранете ги идентификаторите како име, матичен број, број на сметка.
- Зачувајте го и излезот. Изготвениот извештај може да биде и чувствителен; Внимавајте каде го чувате.
Слаб пристап / силен пристап
Лош пристап: залепете непријавени квартални резултати заедно со имиња на клиенти и броеви на сметки во бесплатна веб-алатка.
Ова е и прекршување на KVKK, истекување на инсајдерски информации и комерцијален ризик.
Моќен пристап:1) Користете сертифицирана алатка за вештачка интелигенција на претпријатието (загарантирано задржување на податоците).2) Анонимизирајте ги податоците: „Клиент А“, „Клиент Б“; Последните 4 цифри се маскирани или отстранети наместо бројот на сметката.3) Испратете ги само потребните полиња за анализа (изостави ако името/адресата е непотребно).4) Не изложувајте ги неоткриените резултати на надворешни алатки додека не се објават.
Пред/По анонимизација
област
Суров (ризичен)
Анонимизирано (безбедно)
Име на клиентот
Ахмет Јилмаз Иншаат А.Ш.
Клиентот А
Број на сметка
TR12 0006 ... 4501
***4501 или отстранети
ТР лична карта
12345678901
Отстрането
Поле за износ/анализа
1.240.000
1.240.000 (заштитени)
Забелешка: нумеричките податоци потребни за анализа се зачувани; Областите кои го идентификуваат лицето се маскирани. Така, и работата е завршена и доверливоста е заштитена.
Рамка за усогласеност и одговорност
Употребата на ВИ во финансискиот бизнис е прашање на управување. Кој може да користи која алатка, која класа на податоци може да влезе во која алатка, како се потврдува и евидентира излезот? Тие треба да се утврдат во писмена политика.
Направете нацрт „Политика за употреба на вештачка интелигенција во финансиските податоци“ за нашата компанија. Вклучете ги следните наслови: - Класификација на податоци (јавна/внатрешна/доверлива/лична) - Дозволени алатки и процес за секоја класа - Забранети ситуации (неоткриен резултат, лични податоци итн.) - Задолжителна проверка и чекори за ревизорска патека - Процес во случај на прекршување Напишете го ова како преглед на политиката; Имајте предвид дека конечното одобрение мора да се добие од единицата за правни и усогласеност.
Внимание: Одговорноста не може да се пренесе на давателот на алатката AI. Доколку неточна бројка произведена од моделот влезе во извештајот и ја искривува одлуката, одговорноста е на професионалецот што ја користел и одобрил. „Ви го направи тоа“ не е одбрана.
Проверка: Зошто секој отпечаток се смета за сомнителен?
Златното правило за безбедно користење на вештачката интелигенција во финансискиот бизнис е да се земе предвид излезот „осомничен додека не се докаже спротивното“. Ова не е параноја, тоа е професионална дисциплина; исто како што ревизорот не би одобрил ниту еден запис без да го види. Колку течно и самоуверено зборува моделот не е доказ за неговата точност; Напротив, најопасните грешки се оние кои се претставени на најубедлив начин.
Во пракса, поставете верификација со три слоја: (1) Аритметички слој - повторно пресметајте збирови и проценти или нека моделот повторно пресмета и спореди. (2) Изворен слој - поврзете го секој број со табелата од која доаѓа. (3) Логички слој - дали резултатот е разумен во деловен контекст? Ако резултатот како „Маржата се покажа дека е 90%“ е невозможен за индустријата, дури и ако е аритметички точен, тоа укажува на влезна грешка.
Проверете ја оваа финансиска анализа во три слоја: 1) Аритметика: повторно пресметајте ги сите збирови и проценти, означете ги оние што не се совпаѓаат2) Извор: поврзете ја секоја бројка со табелата <извор>, напишете ја онаа што не се совпаѓа како „НЕ ПОВЕРИЕНО“3) Логика: означете ги резултатите што не се разумни во деловен контекст (екстремно висока/ниска, SPICIOUS; само проверете и пријавете го резултатот од три слоја одделно.
Иако оваа дисциплина може да изгледа како губење на моментумот, таа всушност ве штити од многу поскапа грешка: погрешна одлука заснована на погрешен број.
Етика: Транспарентност и пристрасност
Се издвојуваат две етички прашања. Транспарентност: Треба да им биде јасно на засегнатите страни каде што е потребно дека е направена анализа со поддршка за вештачка интелигенција. Пристрасност: Моделот се заснова на историски податоци; На пример, може да ја повтори неправдата од минатото во бодувањето за кредити/ризици. Етички императив е да се филтрира излезот на вештачката интелигенција преку човечко расудување и правичност во финансиските одлуки.
Мини футроли
Случај 1 - Залепено истекување. Еден аналитичар ги залепи кварталните резултати што допрва треба да се објават во бесплатна алатка и побара резиме. Овие податоци излегоа од контрола бидејќи немаше корпоративна политика. Иако резултатите не протекоа рано, инцидентот покрена истрага и принуди политика за возила потврдена од компанијата. Поука: удобноста не може да ја надмине приватноста.
Случај 2 - Работа со анонимизација. Сметководствен тим сакаше да направи анализа на наплатата на клиентите, но имињата беа доверливи. Ги маскирале клиентите како „А, Б, Ц“ и работеле само со податоците за сумата и денот. Анализата беше целосно продуктивна, не протекоа лични податоци. Приватноста и корисноста постигнати заедно.
Случај 3 - Одговорност што не се делегира. Неточна стапка во извештајот дојде од излезот на вештачка интелигенција и беше претставена на раководството без верификација. Кога одлуката била погрешна, не била прифатена одбраната на „возилото така пресметало“; Одговорноста му припаѓаше на финансискиот менаџер кој го одобри извештајот. Поука: верификацијата и одговорноста се кај човекот.
Случај 4 - снимен со трислојна автентикација. Во извештајот на еден аналитичар, вештачката интелигенција пресметала „бруто маржа од 91%“ за една дејност. Аритметичкиот слој беше точен, изворниот слој се совпаѓаше; но кога логичкиот слој влезе во игра, стана јасно дека маржата е невозможна за индустријата. Основна причина: дел од колоната за трошоци е погрешно префрлена на друга деловна линија. Да се земеше предвид само аритметиката, грешката ќе исчезне. Поука: тестот за разумност е третиот и најчесто најкритичен слој на точност.
Вообичаени грешки
- Вметнување чувствителни податоци во неодобрена алатка. Најчестиот начин за нарушување на приватноста и усогласеноста.
- Донесување неоткриени резултати во надворешна алатка. Тоа носи ризик од протекување на инсајдерски информации.
- Заобиколувајќи ја анонимизацијата. Ако областите што го идентификуваат лицето се непотребни, тие треба да бидат маскирани.
- Пренесување на одговорноста на возилото. „Ви го направи тоа“ не е одбрана; Одобрувачот е одговорен.
- Работа без пишана политика. Ако не е јасно кој може да стави кои податоци во која алатка, ризикот не може да се управува.
Сумирано
- Финансиските податоци се чувствителни; Не влегуваат сите податоци во секоја алатка поради приватноста, инсајдерски информации и ризици од доверба.
- Класифицирајте ги податоците, проверете го медиумот, минимизирајте ги и анонимизирајте лични идентификатори пред да ги испратите.
- Нумеричките податоци потребни за анализа се зачувани; областите што го идентификуваат лицето се маскирани; бизнисот и доверливоста одат заедно.
- Употребата на ВИ е прашање на владеење; Потребна е писмена политика, задолжителна верификација и ревизија.
- Одговорноста не може да се пренесе на возилото; Транспарентноста и човечкото расудување против пристрасноста се етички императив.
Задача за апликација
Земете пример за вистински финансиски податоци што ги имате (вклучувајќи клиенти/добавувачи). Прво направете „класификација на податоци“, а потоа маскирајте ги личните полиња користејќи ја логиката во табелата за анонимизација, оставајќи го само она што е потребно за анализа. Потоа, со предлогот за нацрт политика, изгответе кратка политика за употреба на вештачка интелигенција за вашиот тим и прилагодете најмалку три ставки на вашата организација.
листа за проверка
- [ ] Ги класифицирав податоците (јавни / внатрешни / доверливи / лични).
- [ ] Користев само одобрена/институционална алатка и ја проверив нејзината политика.
- [ ] Ги минимизирав податоците што ги испратив; Ги отстранив непотребните полиња.
- [ ] Ги анонимизирав полињата што го идентификуваат лицето.
- [ ] Не ги турнав необјавените резултати во надворешната алатка.
- [ ] Прифаќам и потврдувам дека јас сум одговорен за излезот.