Eining 8 / 11

Afköst og hagræðing rafhlöðu: Hröð og skilvirk forrit með gervigreind

Hagnaður:

  • Með því að taka fyrst prófíl og mæla raunverulegan flöskuháls, gera hagræðingu byggða á gögnum frekar en getgátum og láta úttak prófílsins túlka með gervigreind
  • Geta til að miða við dýrustu aðgerðina hvað varðar ræsingartíma, flæði, minni og rafhlöðu og fjarlægja þunga vinnuna af aðalþræðinum
  • Geta til að stjórna rafhlöðu- og örgjörvakostnaði við gervigreindargetu eins og líkan í tæki og skýjasímtöl með sýnatöku og lotuvinnslu

Farsímanotendur eru óþolinmóðir. Ef appið opnast hægt, hangir á meðan verið er að fletta eða tæmir rafhlöðuna hratt eyðir notandinn því og gefur því stjörnueinkunn í versluninni. Afköst og rafhlöðunýting eru spurning um að farsímaforrit lifi af; Það hefur bein áhrif á bæði ánægju notenda og röðun verslana. Gervigreind er öflugt hjálpartæki til að greina flöskuhálsa (flöskuhálsa), túlka mæliniðurstöður og mæla með hagræðingu. En gullna reglan er áfram: mæla fyrst, hagræða síðar. Í þessari einingu munum við læra að leysa afköst og rafhlöðuvandamál á gagnagrunninn hátt með gervigreind. Sérstaklega mikilvægt mál er að stjórna áhrifum á rafhlöðu og afköst gervigreindargetu sem við bættum við í fyrri einingum (módel í tæki, skýjasímtöl).

Hagræðing án þess að mæla

Stærstu mistök óreynds þróunaraðila eru forspárhagræðing: að eyða tíma í að segja „þessi verður að vera hægur“. Hinn raunverulegi flöskuháls er nánast alltaf á óvæntum stað. Svo fyrst er sniðið tekið (prófíling - mælir hvaða hluti af forritinu eyðir hversu miklum tíma/minni/rafhlöðu). Android Studio Profiler og Xcode Instruments eru fyrir þetta starf. Að gefa mæligögn til gervigreindar flýtir fyrir túlkun; En án mælinga, að segja gervigreindinni „forritið mitt er hægt, flýta því“ þýðir að spá í blindni.

Fjórir meginásar frammistöðu eru:

ás

einkenni

dæmigerð orsök

Upphafstími

Umsókn opnar seint

Mikil vinna á aðalþræði

Flutningur (Jank)

Scroll festist

Löng vinnsla, óþarfa endurteikning í HÍ þræði

minni

bólga, hrun

Leki, stór mynd, skyndiminni stjórnlaust

rafhlaða/hiti

hröð sáðlát

Stöðug staðsetning, net, skynjari, bakgrunnsvinna

Ábending: Þegar þú spyrð gervigreindina um frammistöðuvandamál, gefðu upp prófílúttakið (hvaða aðgerð tekur hversu langan tíma, minnisgraf). Erfið gögn eins og „Þessi aðgerð tekur 30 ms á ramma“ gerir gervigreindinni kleift að einbeita sér að alvöru flöskuhálsinum; Huglæg setning eins og „hægt“ gefur almennt og gagnslaust svar.

Rafhlöðukostnaður við gervigreindarhæfileika

Gervigreindareiginleikarnir sem við bættum við í þessari einingu eru öflugir, en þeir eru ekki ókeypis. Að draga út líkan í tækinu álagir á örgjörva og rafhlöðu; Stöðug myndgreining (t.d. myndavél sem vinnur hvern ramma) mun hita símann og tæma rafhlöðuna innan nokkurra mínútna. Cloud AI símtöl éta aftur á móti upp rafhlöðuna með því að halda netútvarpinu (loftnetinu sem sendir og tekur á móti gögnum) alltaf á. Lausnir: keyrðu aðeins módelið á tækinu þegar þess er þörf, sýni myndavélina nokkrum sinnum á sekúndu í stað hvers ramma, sendu hópbeiðnir um ský, gerðu þungar lyftingar á meðan tækið er í hleðslu eða aðgerðalaus.

Varúð: Stöðugt starfandi gervigreind eiginleiki (virk þýðing, samfelld hlutgreining) getur tæmt rafhlöðuna mjög fljótt, hitað upp tækið og gæti verið stöðvað af kerfinu. Eiginleiki sem lætur notanda líða að þessum kostnaði sé eytt. Ég spyr alltaf gervigreind "hvernig geri ég þennan eiginleika rafhlöðuvænan?" Spyrðu líka spurningarinnar.

Hagræðingarskref

  1. Mæla. Finndu alvöru flöskuhálsinn með Profiler; ekki giska.
  2. Veldu stærsta vandamálið. Ekki elta 1% framför; Stefnt er að dýrustu viðskiptunum.
  3. Spyrðu gervigreind með gögnum. Biðja um hagræðingartillögu með prófílúttak + viðeigandi kóða.
  4. Berið á og mælið aftur. Er framförin raunveruleg? Hefur talan lækkað?
  5. Aðhvarfsstjórnun. Braut hagræðing eitthvað? Endurtaktu sjónræn og virkniprófun.

þrjú smámál

Tilfelli 1 — Leitað á röngum stað. Eitt teymi hélt að listarnir væru fastir og endurgerði skrunkóðann í margar vikur án árangurs. Þegar þeir tóku prófílinn og færðu gögnin til gervigreindar, kom í ljós að raunverulegi flöskuhálsinn var að myndirnar voru endurhlaðnar yfir netið með hverri röð. Þegar sjónræna skyndiminni var bætt við jókst flæðið úr 42 FPS í 60 FPS. Lærdómur: mælingar forðast vikur af tilgangslausri fyrirhöfn.

Mál 2 - Rafhlöðu skrímsli eiginleiki. Þýðingarforrit bætti við lifandi textaþýðingu með myndavél; Notendur kvörtuðu yfir því að "síminn hitnaði á 15 mínútum og 30% af rafhlöðunni væri horfin." Þegar ráðfært var við gervigreindina kom í ljós að myndavélin vann 30 ramma á sekúndu; Þegar þetta var fækkað niður í 5 ramma og útkoman var uppfærð með nokkra ramma í sundur minnkaði rafhlöðunotkun í þriðjung og gæðin voru ekki áberandi. Lærdómur: Stilltu gervigreindina alltaf með rafhlöðuaugað.

Tilfelli 3 - Hæg byrjun. Forrit var að opnast eftir 4,5 sekúndur; 20% notenda voru að hætta við ræsingu. Prófíllinn sýndi að öll upphafsvinna (greining, hleðsla gagna, undirbúningur líkana) var unnin í röð á aðalþræðinum. Með AI tillögunni hefur þessu verið frestað og sett á bak brennur; Opnunartíminn var styttur í 1,3 sekúndur og brotthvarfshlutfallið lækkað um helming. Lærdómur: gerðu aðeins nauðsynleg verk í upphafi.

Veik kvaðning / Sterk kvaðning

Veik kvaðning: "Appið mitt er hægt, flýttu fyrir því."

Öflug tilvitnun: "Fletting á lista festist (jank) í Android forritinu mínu. Prófílgögn: bindImageView tekur 28 ms á hvern ramma, myndir eru hlaðnar af netinu í hvert skipti, það er ekkert skyndiminni. Tengdur kóði: [RecyclerView millistykkiskóði]. Mæli með 3 áhrifaríkustu hagræðingunum í röð eftir lausn og mögulegum aukaverkunum. Ekki draga úr væntanlegum ávinningi fyrir hverja mynd. gæði."

Afritanleg sniðmát

Sniðmát fyrir flöskuhálsgreiningu: "Túlkaðu eftirfarandi prófílgögn og finndu 3 dýrustu aðgerðirnar: [framleiðsla prófíls]. Leggðu til mögulega orsök og hagræðingu fyrir hverja. Gefðu mestu áhrifin fyrst."

Sniðmát fyrir fínstillingu rafhlöðu:"Þessi eiginleiki tæmir rafhlöðuna fljótt: [eiginleiki, t.d. varanleg staðsetning]. Gerðu hann rafhlöðuvænn:- Dragðu úr sýnatökutíðni- Takmörkun í bakgrunni- Hópvinnsla- Keyra aðeins þegar nauðsyn krefur Raða lausnum án þess að trufla notendaupplifun. [kóði]"

Sniðmát fyrir ræsingu hraða: "Flýttu ræsingu forrita. Hlutir sem nú er verið að gera við ræsingu: [listi]. Hverju er hægt að fresta, setja í bakgrunni eða hlaða í leti? Aðskilja þau nauðsynlegu. [kóði]"

Kostnaðarsniðmát gervigreindareiginleika: "Mettu afköst og rafhlöðukostnað [í tækinu líkan / skýjasímtal] eiginleika sem ég bætti við. Skráðu mæligildi sem ég ætti að mæla og aðferðir til að draga úr kostnaði. [kóði]"

Algeng mistök

  • Hagræðing án þess að mæla. Hinn raunverulegi flöskuháls er oft á öðrum stað en spáð var.
  • Að elta lítinn hagnað. Miðaðu að dýrustu aðgerðinni frekar en 1% framförinni.
  • Hunsa rafhlöðukostnað AI eiginleika. Stöðugt hlaupandi módel/myndavél/net eyðir rafhlöðunni.
  • Er að þreyta aðalþráðinn. Þungar lyftingar við að byrja og fletta ætti ekki að vera á HÍ þráðnum.
  • Ekki endurmælt eftir hagræðingu. Staðfestu að framförin sé raunveruleg og brjóti ekki neitt.
  • Mælir árangur í keppinautnum. Raunverulegur hraði tækis, hitastig og rafhlaða eru allt önnur.

Í stuttu máli

Afköst og rafhlaða eru spurning um að farsímaforrit lifi af. Gullna reglan: mæla fyrst, hagræða síðar. Að gefa prófílgögnum til gervigreindar flýtir fyrir túlkun; Ómæld löngun til að „hraða“ leiðir til blindra getgáta. Miðaðu að dýrustu viðskiptunum, ekki elta lítinn hagnað. Gervigreindargetan sem bætt er við í þessari einingu eru öflug en bera rafhlöðu- og örgjörvakostnað; Stjórnaðu þessum kostnaði með því að draga úr sýnatökutíðni, skammta og keyra aðeins þegar þörf krefur. Mældu aftur á raunverulegu tækinu eftir hverja hagræðingu.

Umsóknarverkefni

Flyttu inn prófíl í forrit (þitt eigið verkefni eða dæmi) eða búðu til sýnishornsprófílúttak og láttu það túlka af gervigreindinni með „flaskahálsgreiningarsniðmátinu“. Notaðu mestu hagræðinguna og mæltu aftur: lækkaði fjöldinn í raun? Einnig, metið gervigreind eiginleika sem þú bættir við í þessari einingu (módel í tækinu eða skýjakall) með tilliti til rafhlöðu með „kostnaðarsniðmát fyrir gervi eiginleika“ og ákvarðaðu að minnsta kosti eina rafhlöðuvæna stillingu.

gátlisti

  • [ ] Ég fékk prófíl fyrir fínstillingu, ég giskaði ekki á það
  • [ ] Ég stefndi á dýrustu viðskiptin, ég dreifði ekki á lítinn hagnað
  • [ ] Ég gaf AI prófílgögnin í áþreifanlegum tölum
  • [ ] Ég lagði mat á rafhlöðu-/örgjörvakostnað gervigreindareiginleika
  • [ ] Ég fjarlægði þungu lyftuna af aðalþræðinum
  • [ ] Eftir hagræðingu mældi ég aftur á alvöru tækinu og athugaði aðhvarfið