Добивки:
- Способност да се открие скриена дискриминација со разбирање дека пристрасноста доаѓа од податоци (историски, репрезентативни, мерење, агрегација) и евалуација на моделот врз основа на подгрупи
- Способност да се обезбеди објаснување, човечки надзор и одговорност при одлуки со големо влијание и транспарентност на документите со модел картичка
- Способност за управување со финансиските и еколошките трошоци без да се загрози квалитетот со најмал соодветен модел, брзо скратување, кеш и серија
Моделот може технички да работи совршено, но сепак е погрешен - ако е неправеден кон некои луѓе, необјаснив или предизвикува неодржливи трошоци. Во оваа единица, покриваме три „невидливи“ но одлучувачки димензии на инженерството за ML: пристрасност и правичност, етика и транспарентност, цена и одржливост. Ова не се украси додадени подоцна, туку составен дел на инженерскиот квалитет.
Од каде доаѓаат предрасудите?
Пристрасноста на моделот (систематскиот третман на одредени групи на моделот поинаку/неправедно) обично доаѓа од податоците, а не од моделот. Извори:
- Историска пристрасност: Податоците ја одразуваат неправдата од минатото. Доколку на одредена група и се даде помала заслуга во минатото, моделот обучен за тие податоци ќе ја научи и ќе ја продолжи оваа дискриминација.
- Пристрасност на застапеноста: Некои групи се недоволно застапени во податоците; моделот работи лошо за нив (на пр. ниска точност во мал примерок демографски).
- Пристрасност при мерење: самите етикети се пристрасни (на пр., ако дефиницијата за „добар вработен“ се заснова на минатите одлуки за унапредување).
- Пристрасност на агрегација: Бидејќи податоците доаѓаат од одреден канал, тие не се репрезентативни за универзумот.
Моделот не ги учи само овие предрасуди; се зголемува со негово автоматизирање. Пристрасната одлука на едно лице влијае на друго лице; Пресудата на пристрасен модел е милиони.
Внимание: Не паѓајте во грешка да кажете „моделот е неутрален затоа што е само математика“. Моделот учи и автоматизира човечка пристрасност во податоците. Неутралноста не е стандардно, туку исход што мора да се мери и да се обезбеди.
мерење на правдата
За да се управува со правдата, потребно е прво да се измери. За да го направите ова, оценете го моделот на основа на подгрупа: дали метриките како што се точноста, отповикувањето, стапката на лажно позитивна вредност се еднакви кај различни демографски групи? Неколку концепти за правда:
- Групна правичност: Дали моделот ги третира различните групи правилно/неправилно со слични стапки?
- Еднаквост на можности: Дали моделот ги доловува навистина позитивните подеднакво во сите групи (еднакво потсетување)?
Важен факт: различни дефиниции за правдата може да не се задоволуваат во исто време (ова е математичка последица). Која дефиниција за правда има приоритет во овој контекст е етичка и деловна одлука, а не техничка, и се донесува заедно со засегнатите страни.
Слаб пристап / Силен пристап
Лошо: „Вкупната точност на моделот е 88%, што е фер“.
Ѓучлу: „Вкупната точност беше 88%, но кога ја поделивме во подгрупи, отповикувањето беше 91% во една група и 67% во друга група - на моделот систематски му недостасуваше таа група. Ја документиравме причината (недостатокот на застапеност), собравме податоци за таа група и ги реевалуиравме со еднаквото отповикување на целта.
Разликата: силниот пристап не се крие зад општата метрика, тој ги одвојува подгрупите и правичноста ја третира како отворена одлука.
Етика и транспарентност
Основните принципи на одговорната вештачка интелигенција се:
- Објаснување: Може ли да се објасни зошто моделот ја донел оваа одлука? Во одлуките со големо влијание (кредит, вработување, здравствена заштита) има право на објаснување. Необјаснетиот модел не треба да се користи во овие области или треба да биде поддржан со објаснета метода.
- Човечки надзор: Одлуките со големо влијание не треба да се носат автоматски; Моделот сугерира, човекот потврдува.
- Одговорност: Треба да биде јасно кој е одговорен кога моделот ќе направи грешка. „Моделот одлучи“ не е изговор.
- Транспарентност: Корисникот треба да знае дека е во интеракција со вештачка интелигенција и како се користат неговите податоци.
Во многу земји и сектори, овие принципи се вградени и во законодавството (обврски за транспарентност, ревизија и човечки надзор за високоризичните системи за вештачка интелигенција). Инженерот е одговорен за познавање на прописите од својата област.
Совет: Чувајте „картичка за модел“ за секој модел со големо влијание: што прави моделот, за кои податоци е обучен, колку добро/лошо функционира во кои групи, кои се неговите познати граници. Овој документ е и алатка за транспарентност и одговорност.
Трошоци и одржливост
ВИ не е евтина. Трошоците се управуваат во две димензии:
Финансиски трошоци:
- Токен цена (LLM): Секое барање и одговор чини токени; Како што расте обемот, така и сметката расте. Непотребно долгите инструкции, преголемиот избор на модели и неконтролираните јамки на агенти (единица 5) ја зголемуваат цената.
- Обука и хостирање: Дотерувањето и презентацијата на модел носат хардверски трошоци.
- Оптимизација: Не користете голем модел ако е доволен мал модел; кеширате често поставувани прашања; скрати го барањето; Серија што може да се обработи.
Трошоци за животната средина: Обука и заклучоци за големи модели трошат значителна енергија. Одржливоста го прави избегнувањето на непотребните пресметки (модел со правилна големина, ефикасна архитектура) професионална одговорност.
Совет: Првото правило за оптимизација на трошоците: „Кој е најмалиот адекватен модел за оваа работа? Ставањето на најмоќниот модел насекаде е како да зачукуваш шајка со чекан — скапо и непотребно.
три мини футроли
Случај 1 - Скриена дискриминација. Моделот за скрининг за регрутирање изгледаше добро во целина. Анализата на подгрупата покажа дека моделот систематски ги нагласува женските кандидати затоа што историските податоци доминираат од мажи - тој научил историска пристрасност. Моделот беше стопиран, балансираните податоци и следени мерките за праведност. Општата праведност ја прикри скриената дискриминација.
Случај 2 - Необјаснето отфрлање. Кредитниот модел ги одбиваше апликациите, но никој не можеше да објасни зошто. Кога клиентот побара правно појаснување, тимот не можеше да одговори. Моделот беше повлечен од употреба во одлуки со големо влијание додека не се додаде објаснувачки метод и не се произведе оправдување за секое отфрлање. Лекција: објаснувањето е од суштинско значење во донесувањето одлуки со големо влијание.
Случај 3 - Бил шок. Еден тим го користеше најголемиот LLM и многу долги инструкции за секое барање. Месечната сметка неочекувано порасна. Анализа на постови: повеќето барања можеа да се решат со мал модел, половина од барањата беа излишни, а честите прашања можеа да се чуваат во кеш. Овие три оптимизации значително ги намалија трошоците, без да се загрозат квалитетот. Поука: најмоќниот модел не е неопходен насекаде.
Шаблони за копирање
Помогнете ми да го проценам овој модел за пристрасност/праведност. Кои подгрупи (демографски/сегмент) треба да ги поделам и измерам? Кои показатели (точност, отповикување, лажно позитивна стапка по група) треба да ги споредам? Дали различните дефиниции за правичност можат да се спротивстават, на што треба да дадам приоритет во овој контекст и зошто? Контекс на модел/одлука: [објаснување]
Направете нацрт-модел картичка за овој модел со големо влијание. Треба да вклучува: цел, податоци и датум за обука, перформанси во подгрупи, познати граници, соодветна/несоодветна употреба, статус на објаснување, точка на човечки надзор. Модел: [опис]
Помогнете ми да ги намалам трошоците за оваа имплементација на LLM, без да се загрози квалитетот. Достапно: големината на моделот, просечната должина на барањето, волуменот на барањето, има ли кеш? Оценете:1) Дали е доволно помалиот модел (за кои задачи)?2) Дали може да се скрати известувањето?3) Дали честите барања може да се зачуваат во кеш?
Направете листа за проверка на етика/одговорност за овој систем на одлуки со големо влијание.- Објаснување: дали може да се изведе оправдување на одлуката?- Човечки надзор: дали одлуката со големо влијание е предмет на одобрување?- Одговорност: кој е одговорен во случај на грешка?- Транспарентност: дали корисникот знае дека се користи вештачка интелигенција?- Регулатива: кои се вклучени законските обврски за скрипта?
Табела за извор на пристрасност
Извор
симптом
претпазливост
историска пристрасност
Дискриминацијата од минатото продолжува
Ревизија на податоци + метрика на правичност
репрезентативна пристрасност
Ниска точност во мала група примероци
Анализа на подгрупа + балансирање
мерна пристрасност
пристрасни етикети
Преглед на процесот на етикети
Пристрасност на агрегација
Универзумот не е претставен
Диверзификација на ресурсите
Вообичаени грешки
- Потпирајќи се на целокупната метрика. Скриената дискриминација не може да се види без анализа на подгрупата.
- Претпоставувајќи „неутрален модел“. Моделот учи и ја засилува пристрасноста во податоците.
- Препуштање на одлуката со големо влијание на необјаснетиот модел. Правен и етички ризик.
- Заобиколувајќи го човечкиот надзор. „Моделот одлучи“ не е оправдување.
- Ставајќи го најголемиот модел насекаде. Непотребни трошоци и енергија.
- Не се следи цената. Сметката тивко отекува.
Сумирано
Технички исправниот модел сè уште е неуспех ако не е фер, објаснет и одржлив. Пристрасноста најмногу доаѓа од податоците и моделот ги зголемува во скала; Измерете ја правичноста по подгрупи и договорете се со засегнатите страни на која дефиниција за правичност да се даде приоритет. Објаснивоста, човечкиот надзор и отчетноста се од суштинско значење во одлуките со големо влијание; Транспарентност на документот со модел картичка. Управувајте со трошоците и енергијата: изберете го најмалиот соодветен модел, скратете го известувањето, користете кеш и серија. Овие димензии се составен дел на инженерскиот квалитет, а не важните работи додадени подоцна.
Задача за апликација
Поделете го моделот во најмалку две подгрупи и споредете ја стапката на отповикување и лажно позитивната стапка на групна основа; Ако има значителна разлика, напишете ја причината и мерката на претпазливост. Нацртај кратка карта за модел за модел со големо влијание (намена, податоци, перформанси на подгрупата, граници, објаснување). Идентификувајте најмалку две конкретни оптимизации (минимум / брзо скратување / кеш / серија) за да ги намалите трошоците за спроведување на LLM и запишете го нивното проценето влијание.
листа за проверка
- [ ] Го оценив моделот врз основа на подгрупи, не се потпирав на општата метрика.
- [ ] Одлучив со засегнатите страни на која дефиниција за правда ќе и дадам приоритет.
- [ ] Одлуката со големо влијание може да се објасни и да подлежи на човечко одобрување.
- [ ] Ја документирав транспарентноста и границите со шаблонот.
- [ ] Го избрав најмалиот адекватен модел; Јас го оптимизирав промптот/кешот/серијата.
- [ ] Го следам влијанието на трошоците и енергијата.