Пројекат од краја до краја, одговорно коришћење вештачке интелигенције и путоказ у професији

Добици:

• Способност да се развије мобилна функција од краја до краја и која се може проверити у дизајну, коду, интеграцији АИ, приватности, тестирању, отклањању грешака, перформансама и корацима за издавање
• Способност успостављања оквира за одговорно и етичко коришћење вештачке интелигенције са принципима транспарентности, верификације-одговорности и правде-не-злонамерности.
• Бити у стању да створи одрживу професионалну праксу разликовањем области у којима је вештачка интелигенција јака и слаба и задржавањем коначне одлуке у рукама људи.

Током овог модула користили смо АИ у свакој фази развоја мобилних уређаја: генерисање кода, интерфејс, интеграција АИ на уређају и облаку, тестирање, отклањање грешака, перформансе, приватност и испорука у продавници. У овој завршној јединици, ми ћемо комбиновати све ове делове у један ток од краја до краја, разјаснити оквир за одговорну и етичку употребу вештачке интелигенције и разговарати о томе како ове вештине претворити у одрживу професионалну праксу. Основна порука се није променила, али је сада чврсто успостављена: АИ је сила која умножава компетентног мобилног програмера; није замена. То је особа која је одговорна за квалитет, сигурност и обећање производа кориснику.

Функција од краја до краја: комбиновање делова

Развијање стварне функције од почетка до краја уз подршку АИ комбинује сваку јединицу коју смо научили у ланцу. Пример: функција „додај трошак из рачуна“. Ток функционише овако:

1. Дизајн (Целина 3). Нацртајте екран и четири стања (учитавање/празно/грешка/пуна) са АИ, захтевајте приступачност од почетка.
2. Шифра (Целина 2). Генеришите камеру, модел података и ВиевМодел слој по слој помоћу МВВМ-а; проверите сваки слој.
3. АИ на уређају (Јединица 4). Прочитајте износ/датум од пријема са МЛ Кит препознавањем текста; Размотрите претходну обраду и бодовање поверења.
4. Поверљивост (Целина 9). Затражите дозволу за камеру са најмањим привилегијама, напишите сценарио одбијања, чувајте податке на уређају.
5. Испитивање (Целина 6). Генерисање јединичних тестова логике екстракције, УИ тестирање екрана; Укључите пограничне државе.
6. Отклањање грешака (Јединица 7). Нека АИ анализира падове са контекстом и реши основни узрок.
7. Представа (Јединица 8). Измерите цену батерије у процесу обраде камере и подесите је да одговара батерији.
8. Емитовање (Целина 10). Транспарентно пријавите коришћење вештачке интелигенције, истинито попуните образац за приватност и извршите самотестирање.

На сваком кораку, АИ убрзава, човек проверава и одлучује. Ова петља је језгро модула.

Савет: Не покушавајте да натерате АИ да уради сложену функцију са једним огромним захтевом. Поделите га на проверљиве кораке као што је горе. Тестирање резултата сваког корака и прелазак на следећи је и сигурнији и на крају бржи; Зато што велику грешку ухватите не на крају, већ на првом кораку.

Одговорно и етичко коришћење АИ

Сама техничка компетенција није довољна; одговоран оквир га употпуњује. Три принципа:

Транспарентност. Корисник мора знати да је у интеракцији са АИ. Тајна вештачка интелигенција је повреда поверења. Садржај генерисан вештачком интелигенцијом је означен; Савети вештачке интелигенције су представљени као „корисни савети“, а не као „тешка истина“.

Верификација и одговорност. АИ излаз је почетна тачка, а не готов производ. Одговорни сте за сваку објављену линију кода, сваки одговор АИ, сваку трансакцију података. „АИ је то тако написао“ није одбрана.

Правда и незлонамерност. АИ модели могу носити предрасуде из података на којима су обучени. Препознавање лица може лошије радити на неким бојама коже, механизам за препоруке може искључити групу. Ваша је одговорност да тестирате да ли ваш производ ради поштено у различитим групама корисника.

Пажња: Свака техника коју научите у области ИТ и безбедности користи се само у овлашћене и конструктивне сврхе. Коришћење вештачке интелигенције за креирање злонамерног софтвера, разбијање туђе апликације без дозволе, прикупљање корисничких података без сагласности или производњу обмањујућих садржаја је незаконито и противно је етици професије. Мера моћи се открива тамо где је не користите.

Препознавање граница АИ

Зрели програмер зна где вештачка интелигенција блиста и где не успева.

АИ је моћан

АИ је слаб

Шифра калупа, производња шаблона

Производне и архитектонске одлуке

Испитивање и нацрт документације

Разумевање пословног контекста и корисника

Читање дневника пада, скенирање грешака

Дефинитивна дијагноза основног узрока (потребна је верификација)

Учење, објашњење концепта

Актуелне/непроизведене информације о АПИ-ју

Текст, опис, превод

Етика, безбедност и правна коначна одлука

Интернационализација ове разлике кључна је за ефикасно коришћење вештачке интелигенције и избегавање њених замки.

три мини кофера

Случај 1 — Брзина од краја до краја. Један соло програмер је завршио функцију „унплуггед“ за 4 дана са горњим током од 8 корака; Без АИ процена је била 12 дана. Али пошто је проверавао сваки корак, објављивање је одобрено први пут. Брзина је била стварна јер је дисциплина била стварна. Лекција: АИ + верификација је бржа од АИ - верификације.

Случај 2 — Пристрасност ухваћена. Док је тестирао функцију предвиђања рода именица засновану на вештачкој интелигенцији, тим је приметио систематске грешке у неким турским именицама; модел је обучен на углавном енглеским подацима. Функција је промењена тако да тражи од корисника уместо да прави погрешну претпоставку. Лекција: посао програмера је да тестира пристрасност тренинга модела.

Случај 3 — Одбрана „АИ је тако рекла“ је пала. Програмер је објавио код плаћања који је генерисао вештачка интелигенција без верификације; У једном екстремном случају код је радио двоструке колекције. Одговорност се не уклања изговарањем „АИ је то написао“; Као власник налога, био је програмер. Поука: одговорност се не може делегирати.

Слаби промпт / Јаки промпт

Слаб упит: „Напишите ми комплетну апликацију за скенирање рачуна.“

Снажан упит: „Помозите ми да развијем функцију 'додај трошак из рачуна' корак по корак. Хајде да наставимо редом, када верификујем и одобрим сваки корак, пређимо на следећи: 1) Екран + четири стања + приступачност2) МВВМ слојеви (камера, модел, ВиевМодел)3) Читање износа/датума из признанице + оцена поверења у МЛ-у) + ток одбијања5) Тестови јединица и корисничког интерфејса Реците ми ризике и тачке које морам да проверим на сваком кораку."

Шаблони који се могу копирати

Шаблон за планирање од краја до краја: „Развићу следећу функцију: [функција]. Поделити је на проверљиве кораке: дизајн, код, интеграција вештачке интелигенције, приватност/дозвола, тестирање, перформансе, издање. Напишите излаз, ризик и критеријуме верификације за сваки корак. Немојте правити једну огромну производњу.“

Шаблон ревизије етике/пристрасности: „Проверите следећу функцију вештачке интелигенције ради праведности и пристрасности: [функција]. Које групе корисника би могле да раде лоше? Како подаци обуке утичу на пристрасност? Како да их тестирам, како да их учиним инклузивнијим?“

Шаблон за проверу одговорности: „Наведите питања о одговорности која треба да поставим пре објављивања овог кода/функције генерисаног вештачком интелигенцијом: да ли сам га разумео, да ли сам га тестирао, да ли је безбедан, да ли је транспарентан за корисника, да ли је легалан/етички?“

Шаблон за континуирано учење: „Предложи 4-недељни практични план за побољшање моје вештине вештачке интелигенције у мобилном програмеру: једна тема сваке недеље (код, интеграција, тестирање, издање), са циљем малог пројекта и навике верификације.“

Уобичајене грешке

• Производња сложених карактеристика са једним огромним захтевом. Не може се проверити; разбиј га на кораке.
• Избегавање одговорности говорећи „АИ је тако написао“. Ви сте одговорни за објављени код.
• Не тестира се на АИ пристрасност. Модел може лоше функционисати у неким групама; Тестирајте правду.
• Скривање АИ интеракције од корисника. Транспарентност је темељ поверења.
• Заборављајући ограничења АИ. Људи имају последњу реч о архитектури, етици и тренутном АПИ-ју.
• Да престанем да учим. Алати и правила радње се брзо мењају; Будите стално ажурирани.

Укратко

Функција од краја до краја комбинује све делове модула у ланцу: дизајн, код, интеграцију вештачке интелигенције, приватност, тестирање, отклањање грешака, перформансе и издавање. На сваком кораку, АИ убрзава, човек верификује и одлучује; Комплексни рад је подељен на мале проверљиве кораке. Одговорно коришћење се заснива на три принципа: транспарентност, верификација-одговорност и правичност-не шкоди. АИ је моћан мултипликатор, али људи имају последњу реч о архитектури, етици, безбедности и актуелном знању. „АИ је то урадио на тај начин“ није одбрана; Ви сте одговорни за свој производ и обећање које дајете свом кориснику. Са овом дисциплином, АИ вас чини бржим, свеобухватнијим и јачим током ваше каријере.

Задатак апликације

Раздвојите мобилну функцију по свом избору (нпр. „сажимање узимањем гласовних белешки“ или „препознавање производа са фотографије“) на проверљиве кораке помоћу „Шаблона за планирање од краја до краја“. Заправо развијте и потврдите барем један корак помоћу АИ. Затим анализирајте које групе корисника ова функција може да изазове проблеме са „Шаблоном контроле етике/пристрасности“ и одговорите на питања која треба да поставите пре објављивања помоћу „Шаблона контроле одговорности“.

контролна листа

• [ ] Ову функцију сам поделио на проверљиве мале кораке, а не на једну огромну продукцију
• [ ] Проверио сам АИ излаз на сваком кораку и донео одлуку
• [ ] Представио сам интеракцију АИ транспарентно кориснику
• [ ] Проценио сам да ли функција функционише поштено/пристрасно у различитим групама
• [ ] Одговорио сам на питања одговорности пре објављивања (разумевање/тестирање/безбедно/етичко)
• [ ] Користио сам АИ само у компетентне и конструктивне сврхе и планирам да наставим да учим

Модул Екам

1. Шта је од следећег најтачније позиционирање вештачке интелигенције у развоју мобилних уређаја?

• А) АИ замењује програмера; може бити објављен директно без читања кода који генерише
• Б) Вештачка интелигенција функционише само у писању текста, нема никакве везе са генерисањем кода
• В) Вештачка интелигенција је помоћник и акцелератор; Одговорност за одлуке о архитектури, безбедности и емитовању је на људима ✔
• Д) Пошто вештачка интелигенција увек производи исправан код, додатно тестирање и верификација су непотребни

Опис: Вештачка интелигенција је помоћник и акцелератор који генерише код, нацрте и решења. Одговорност и коначно одобрење одлука као што су архитектура, дозвола, безбедност и објављивање је на надлежном програмеру; Људи су одговорни за сваки објављени ред.

2. Када захтевате мобилни код од вештачке интелигенције, шта највише повећава архитектонски квалитет произведеног кода?

• А) Нека упит буде што краћи и реците „напишите ми апликацију“
• Б) Прво, наметните архитектуру као што је МВВМ и затражите код у малим комадима, слој по слој ✔
• Ц) Израда целе функције као једне огромне датотеке у једном промпту
• Д) Уопште не прецизирајте архитектуру и препустите најбољу одлуку вештачкој интелигенцији

Објашњење: Наметање архитектуре као што је МВВМ и захтевање слој по слој пре писања кода директно у АИ производи структуру која се може тестирати и одржавати и која одваја логику од екрана. Захтев без архитектуре враћа код који све трпа на екран.

3. Шта се најчешће занемарује при креирању интерфејса са вештачком интелигенцијом, а шта је најкритичније у стварној употреби?

• А) Дизајнирање стања учитавања, празног и грешке, а не само целог екрана ✔
• Б) Прављење само најбољег изгледа преко целог екрана, прескакање других случајева
• Ц) Додавање што више боја и анимација на сваки екран
• Д) Остављање ознака приступачности последње и само се бави изгледом

Објашњење: Програмери често узимају у обзир само 'пуно' стање; док се у стварности корисник углавном сусреће са стањем учитавања, празног стања и грешке. Генерисање сва четири стања (учитавање/празно/грешка/пуна) је тајна робусног интерфејса.

4. Зашто је АИ на уређају често подразумевани избор за функцију која обрађује осетљиве личне податке (нпр. мерење здравља)?

• А) Модели на уређају су увек тачнији од облака
• Б) Обрада на уређају никада не узрокује трошкове батерије или процесора
• Ц) Обрада на уређају је неограничена у смислу величине модела
• Д) Пошто подаци не напуштају телефон, то пружа снажну предност у погледу приватности и поверења корисника ✔

Објашњење: Обрада на уређају не уклања податке са телефона; Ово је велика предност у погледу поштовања приватности и поверења корисника, плус функционише ван мреже и тренутно. Његово ограничење је снага уређаја и величина модела.

5. Која је најчешћа 'тиха' грешка која узрокује бесмислене резултате и не производи поруку о грешци у интеграцији модела на уређају?

• А) Погрешан правопис имена датотеке модела
• Б) Ниска резолуција иконе апликације
• Ц) Нетачна предобрада улаза (величина/нормализација) ✔
• Д) Тема тамног екрана

Објашњење: Нетачна предобрада уноса ће произвести потпуно погрешне резултате без бацања грешака. Вредности за претходну обраду треба да буду верификоване из документације модела.

6. Које је правило од највеће важности за безбедност при интеграцији Цлоуд ЛЛМ у мобилну апликацију?

• А) АПИ кључ треба чувати само у позадини, а не на клијенту; захтеви морају ићи преко проксија ✔
• Б) АПИ кључ треба да буде уграђен директно у код апликације ради погодности
• Ц) АПИ кључ треба да се дели у опису апликације
• Д) АПИ кључ треба чувати у клијенту и сакрити га само променом имена.

Откривање: АПИ кључ никада није уграђен у код мобилне апликације; јер се апликација може обрнути инжењеринг и извући кључ. Исправна архитектура је да кључ држите само у позадини и да проследите захтеве преко сопственог прокси сервера.

7. Шта највише повећава брзину коју корисник перципира и стопу завршетка функције у дугим одговорима на ЛЛМ?

• А) Чека се док се не произведе цео одговор и приказује се одједном
• Б) Приказивање одговора реч по реч, како је произведен, уз стриминг ✔
• Ц) Слање целокупне историје ћаскања моделу са сваким захтевом
• Д) Повећајте инструкцију модела да бисте проширили одговор што је више могуће

Опис: Стреаминг драматично повећава перципирану брзину и течност тако што приказује одговор како се производи реч по реч. Уместо да чека на празном екрану, корисник гледа текстуални образац; Ово значајно смањује стопу напуштања.

8. Који је најчешћи проблем у тестовима произведеним од стране вештачке интелигенције који тест чини безвредним?

• А) Тестови покривају превише граничних стања
• Б) Тестови користе лажне објекте, а не праве услуге
• Ц) Тестови се одвијају веома брзо
• Д) Надувавање опсега празним/бескорисним тестовима који заправо не потврђују понашање ✔

Објашњење: Вештачка интелигенција понекад производи тестове који заправо не верифицирају никакав излаз (нпр. само позовите функцију и напишите празну тврдњу). Они повећавају број покривености, али не пружају стварну заштиту; Сваки тест мора бити проверен да би се потврдило смислено понашање.

9. Зашто није довољно решење да утишате пад тако што ћете га ставити у покушај хватања са предлогом вештачке интелигенције?

• А) три-цатцх се уопште не може користити у мобилним апликацијама
• Б) Пад престаје, али пошто основни узрок није решен, проблем се враћа у другом облику ✔
• Ц) Коришћење три-цатцх успорава апликацију, па је забрањено
• Д) Продавница аутоматски одбија прешућену грешку

Објашњење: Утишавање симптома не решава основни узрок; Рушење престаје, али се првобитни проблем (нпр. прекинута веза за пренос података) враћа у другом облику (нпр. губитак података). Циљ професионалног отклањања грешака је да се реши основни узрок, а не симптом.

10. Које је основно златно правило које треба следити у оптимизацији перформанси?

• А) Прво узмите профил и измерите право уско грло, а затим оптимизујте ✔
• Б) Погађање где је споро и концентрисање
• Ц) Трагање за малим добицима у свакој функцији
• Д) Мерење перформанси на емулатору и никада не испробавање правог уређаја

Опис: Прво измерите, а касније оптимизујте. Право уско грло је скоро увек на другој локацији од предвиђене; Оптимизација без профилисања је слепо нагађање и често је губитак труда.

11. Шта је најважнија инжењерска брига за константно покренуту АИ функцију (нпр. превођење камере уживо)?

• А) Функција захтева што је могуће више дозвола
• Б) Управљање трошковима батерије и процесора континуиране обраде са фреквенцијом узорковања и групном обрадом ✔
• Ц) Покрените ову функцију само на најскупљим телефонима
• Д) Континуирано приказивање камере при највећој могућој брзини кадрова

Опис: Стално радни модел, камера и мрежа; Може брзо да потроши батерију, да загреје уређај и да га систем ограничи. Смањење учесталости узорковања, серија и рад само када је потребно су начини за управљање трошковима батерије.

12. Шта принцип 'најмање привилегије' у управљању дозволама значи у развоју мобилних уређаја?

• А) Захтевање свих могућих дозвола при покретању, за сваки случај.
• Б) Укидање апликације ако је дозвола одбијена
• Ц) Тражење најшире дозволе и планирање да се касније сузи.
• Д) Захтевање само оне дозволе која је заиста потребна, када је то неопходно иу најужем обиму, уз сценарио одбијања ✔

Објашњење: Најмања привилегија је тражење само оне дозволе која је стварно потребна, када је потребна и у најужем могућем обиму. Превише дозвола подрива поверење корисника, доводи до одбијања продавнице и повећава ризик од цурења података.

13. Који специфични захтеви морају бити испуњени када се у продавници презентује апликација са вештачком интелигенцијом?

• А) Транспарентност садржаја, контрола садржаја и откривање података који иду вештачкој интелигенцији у облику поверљивости ✔
• Б) Скривање употребе вештачке интелигенције од корисника
• Ц) Означавање података који заправо нису прикупљени у обрасцу за приватност
• Д) обећавајуће карактеристике које не постоје у опису

Откривање: Продавнице очекују транспарентност садржаја (изјава да производи вештачку интелигенцију), модерирање садржаја (филтрирање штетних излаза и обавештења корисника) и откривање коришћења података из апликација које садрже вештачку интелигенцију; У осетљивој области је потребно упозорење на тачност. Пријаве које то изоставе биће одбијене.

14. Зашто је одбрана „АИ је тако написала“ неважећа када се у објављеном коду генерисаном од вештачке интелигенције појави грешка ивичног случаја?

• А) Пошто вештачка интелигенција увек производи код без грешака, грешка долази од корисника
• Б) Зато што складишти аутоматски исправан код генерисан АИ
• Ц) Зато што се одговорност не може пренети на вештачку интелигенцију; Програмер је одговоран за објављени код и податке ✔
• Д) Зато што се код генерисан вештачком интелигенцијом никада не приказује уживо

Опис: АИ излаз је почетна тачка, а не готов производ. Програмер је тај који је одговоран за сваку објављену линију, сваки обрађени податак и свако дато обећање; одговорност се не може пренети на АИ, тако да се резултат мора разумети и тестирати пре објављивања.