Il-mudelli tat-Tagħlim tal-Machine huma madwar il-post bħalissa. Matul il-ġurnata, inti probabilment tutilizza dawn il-mudelli ħafna aktar milli tirrealizza. Mudelli ta’ tagħlim bil-magni huma utilizzati f’ħidmiet komuni bħall-ibbrawżjar tal-midja soċjali, ir-ritratti, u l-iċċekkjar tat-temp.
Algoritmu ta' tagħlim bil-magni jista' jkun irrikmandalek dan il-blog. Ilkoll smajna dwar kemm tieħu ħin biex jitħarrġu dawn il-mudelli. Ilkoll smajna li t-taħriġ ta’ dawn il-mudelli jieħu ħafna ħin.
Madankollu, tagħmel inferenza fuq dawn il-mudelli ta 'spiss tkun għalja komputazzjoni.
Għandna bżonn sistemi tal-kompjuter li huma mgħaġġla biżżejjed biex jimmaniġġjaw ir-rata li biha qed nużaw is-servizzi tat-tagħlim tal-magni. Bħala riżultat, il-maġġoranza ta 'dawn il-mudelli jitmexxew fuq ċentri tad-dejta massivi b'clusters ta' CPU u GPU (anke TPUs f'xi każijiet).
Meta tieħu stampa, trid tagħlim magna biex ittejjeb istantanjament. Ma tridx li jkollok tistenna li l-immaġini tiġi trasferita għal ċentru tad-dejta, ipproċessata, u rritornata lilek. F'dan il-każ, il-mudell tat-tagħlim tal-magni għandu jiġi esegwit lokalment.
Meta tgħid "Ħej Siri" jew "OK, Google," trid li l-aġġeġġi tiegħek jirrispondu immedjatament. Tistenna li l-vuċi tiegħek tiġi trażmessa lill-kompjuters, fejn tiġi evalwata u tinkiseb data.
Dan jieħu ż-żmien u għandu effett detrimentali fuq l-esperjenza tal-utent. F'dan il-każ, trid li l-mudell tat-tagħlim tal-magni jaħdem lokalment ukoll. Dan huwa fejn TinyML jidħol.
F'din il-kariga, se nħarsu lejn TinyML, kif jaħdem, l-użi tiegħu, kif tibda bih, u ħafna aktar.
X'inhu TinyML?
TinyML hija dixxiplina avvanzata li tapplika l-potenzjal rivoluzzjonarju tat-tagħlim tal-magni għall-prestazzjoni u l-limiti tal-qawwa ta 'apparati żgħar u sistemi inkorporati.
L-iskjerament b'suċċess f'din l-industrija jeħtieġ fehim sħiħ tal-applikazzjonijiet, l-algoritmi, il-ħardwer u s-softwer. Huwa sottoġeneru tat-tagħlim tal-magni li juża mudelli ta 'tagħlim fil-fond u tagħlim tal-magni f'sistemi inkorporati li jimpjegaw mikrokontrolluri, proċessuri tas-sinjali diġitali, jew proċessuri speċjalizzati oħra ta' enerġija ultrabaxxa.
L-apparati inkorporati ppermettiet għal TinyML huma maħsuba biex imexxu algoritmu ta' tagħlim tal-magni għal xogħol speċifiku, tipikament bħala parti mill-apparat tal-apparat. kompjuters.
Sabiex jaħdmu għal ġimgħat, xhur, jew saħansitra snin mingħajr rikariku jew sostituzzjoni tal-batterija, dawn is-sistemi inkorporati għandu jkollhom konsum ta 'enerġija ta' inqas minn 1 mW.
Kif taħdem?
L-uniku qafas ta 'tagħlim bil-magni li jista' jiġi utilizzat b'mikrokontrolluri u kompjuters huwa TensorFlow Lite. Huwa sett ta’ għodod li jħallu lill-iżviluppaturi jmexxu l-mudelli tagħhom fuq apparat mobbli, inkorporat u tat-tarf, li jippermetti t-tagħlim tal-magni fuq il-fly.
L-interface tal-mikrokontrollur hija utilizzata biex tiġbor data minn sensuri (bħal mikrofoni, kameras, jew sensuri inkorporati).
Qabel ma tintbagħat lill-mikrokontrollur, id-dejta hija inkorporata f'mudell ta 'tagħlim tal-magni bbażat fuq il-cloud. It-taħriġ tal-lott fil-modalità offline huwa komunement impjegat biex iħarreġ dawn il-mudelli. Id-data tas-sensor li se tintuża għal tagħlim u inferenza diġà ġie determinat għall-applikazzjoni speċifika.
Jekk il-mudell ikun qed jitħarreġ biex jiskopri kelma wake, pereżempju, huwa diġà stabbilit biex jimmaniġġja fluss awdjo kontinwu minn mikrofonu.
Kollox diġà qed isir bl-għajnuna ta 'pjattaforma sħaba bħal Google Colab fil-każ ta' TensorFlow Lite, inkluża l-għażla tas-sett tad-dejta, normalizzazzjoni, underfitting jew overfitting tal-mudell, regolarizzazzjoni, tkabbir tad-dejta, taħriġ, validazzjoni, u ttestjar.
Mudell imħarreġ bis-sħiħ eventwalment jiġi ttrasformat u trasferit għall-mikrokontrollur, mikrokompjuter, jew proċessur tas-sinjali diġitali wara taħriġ tal-lott offline. Il-mudell m'għandux taħriġ addizzjonali wara li jiġi mċaqlaq għal apparat inkorporat. Minflok, juża biss data f'ħin reali minn sensuri jew apparati ta 'input biex japplika l-mudell.
Bħala riżultat, mudell ta’ tagħlim tal-magni TinyML għandu jkun eċċezzjonalment durabbli u kapaċi li jerġa’ jiġi mħarreġ wara snin jew qatt ma jerġa’ jitħarreġ. It-twaħħil u l-iffittjar żejjed tal-mudell potenzjali għandhom jiġu investigati sabiex il-mudell jibqa' rilevanti għal tul ta' żmien estiż, idealment b'mod indefinit.
Imma Għaliex tuża TinyML?
TinyML beda bħala sforz biex jelimina jew inaqqas id-dipendenza tal-IoT fuq is-servizzi tal-cloud għal skala żgħira bażika tagħlim magna operazzjonijiet. Dan kien jeħtieġ l-użu ta 'mudelli ta' tagħlim tal-magni fuq l-apparati tat-tarf infushom. Tipprovdi l-benefiċċji ewlenin li ġejjin:
- B'enerġija baxxa konsum: Applikazzjoni TinyML għandha preferibbilment tutilizza inqas minn 1 milliWatt ta 'enerġija. B'tali konsum ta 'enerġija baxxa, apparat jista' jkompli joħroġ konklużjonijiet mid-dejta tas-sensuri għal xhur jew snin, anki jekk imħaddem minn batterija tal-munita.
- Inqas spejjeż: Huwa ddisinjat biex jaħdem fuq mikrokontrolluri jew DSPs ta '32-bit bi prezz baxx. Dawn il-mikrokontrolluri huma tipikament ftit ċenteżmi kull wieħed, u s-sistema inkorporata totali żviluppata magħhom hija inqas minn $50. Din hija għażla kost-effettiva ħafna għat-tmexxija ta 'programmi żgħar ta' tagħlim tal-magni fuq skala kbira, u hija ta 'benefiċċju speċjalment fl-applikazzjonijiet tal-IoT fejn irid jiġi applikat it-tagħlim tal-magni.
- Latenza aktar baxxa: L-applikazzjonijiet tagħha għandhom latenza baxxa peress li m'għandhomx għalfejn jittrasportaw jew jiskambjaw data fuq in-netwerk. Id-dejta kollha tas-sensuri hija rreġistrata lokalment, u l-konklużjonijiet jittieħdu permezz ta 'mudell li diġà ġie mħarreġ. Ir-riżultati tal-inferenzi jistgħu jintbagħtu lil server jew sħab għall-illoggjar jew ipproċessar addizzjonali, għalkemm dan mhux essenzjali biex l-apparat jaħdem. Dan jimminimizza l-latenza tan-netwerk u jelimina l-ħtieġa li jsiru operazzjonijiet ta’ tagħlim tal-magni fuq cloud jew server.
- privatezza: Hija tħassib kbir fuq l-internet u mal-internet tal-affarijiet. Ix-xogħol tat-tagħlim tal-magni fl-apps TinyML jitwettaq lokalment, mingħajr ma jinħażen jew jibgħat data tas-sensorju/utent lil server/sħaba. Bħala riżultat, anke waqt li jkunu marbuta ma' netwerk, dawn l-applikazzjonijiet huma sikuri biex jintużaw u ma joħolqu l-ebda riskju għall-privatezza.
applikazzjonijiet
- Agrikoltura – Meta bdiewa jieħdu ritratt ta 'pjanta, l-applikazzjoni ta' TensorFlow Lite tiskopri mard fiha. Jaħdem fuq kwalunkwe apparat u ma jeħtieġx konnessjoni tal-internet. Il-proċedura tipproteġi l-interessi agrikoli u hija ħtieġa kritika għall-bdiewa rurali.
- Manutenzjoni tal-Mekkanika – TinyML, meta jintuża fuq apparati b’enerġija baxxa, jista’ kontinwament jidentifika d-difetti f’magna. Dan jinvolvi manutenzjoni bbażata fuq it-tbassir. Ping Services, start-up Awstraljana, introduċiet gadget IoT li jimmonitorja t-turbini tar-riħ billi jeħel mal-barra tat-turbina. Huwa javża lill-awtoritajiet kull meta jiskopri xi problema jew ħsara possibbli.
- Sptarijiet – Il Solar Scare huwa proġett. Mosquito juża TinyML biex iwaqqaf it-tixrid ta 'mard bħal dengue u malarja. Huwa mħaddem bl-enerġija solari u jiskopri l-kundizzjonijiet tat-tgħammir tan-nemus qabel ma jindika l-ilma biex jinibixxi t-tnissil tan-nemus.
- Sorveljanza tat-Traffiku – Permezz billi napplikaw TinyML għal sensuri li jiġbru dejta tat-traffiku f'ħin reali, nistgħu nużawhom biex nidderieġu aħjar it-traffiku u nnaqqsu l-ħinijiet ta 'rispons għal vetturi ta' emerġenza. Swim.AI, pereżempju, juża din it-teknoloġija fuq l-istreaming tad-dejta biex iżid is-sikurezza tal-passiġġieri filwaqt li jnaqqas ukoll il-konġestjoni u l-emissjonijiet permezz ta’ rotot intelliġenti.
- liġi: TinyML jista 'jintuża fl-infurzar tal-liġi biex jidentifika azzjonijiet illegali bħal irvellijiet u serq bl-użu ta' tagħlim tal-magni u rikonoxximent tal-ġesti. Programm simili jista' jintuża wkoll biex jiżgura l-ATMs tal-banek. Billi jara l-imġieba tal-utent, mudell TinyML jista 'jbassar jekk l-utent huwiex konsumatur reali li jlesti tranżazzjoni jew intruż li jipprova jħakkja jew jeqred l-ATM.
Kif tibda b'TinyML?
Biex tibda b'TinyML f'TensorFlow Lite, ikollok bżonn bord tal-mikrokontrollur kompatibbli. TensorFlow Lite għall-Mikrokontrolluri jappoġġja l-mikrokontrolluri elenkati hawn taħt.
- Terminal Wio: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI Development Board
- STM32F746 Kit ta 'skoperta
- Adafruit EdgeBadge
- Pjattaforma għall-Iżvilupp tas-Software Synopsys DesignWare ARC EM
- Sony Express
- Arduino Nano 33 BLE Sens
- SparkFun Xifer
- Kit Adafruit TensorFlow Lite għall-Mikrokontrolluri
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Dawn huma mikrokontrolluri ta '32 bit li għandhom biżżejjed memorja flash, RAM, u frekwenza ta' arloġġ biex tesegwixxi mudell ta 'tagħlim bil-magni. Il-bordijiet għandhom ukoll numru ta 'sensors abbord li kapaċi jmexxu kwalunkwe programm inkorporat u japplikaw mudelli ta' tagħlim tal-magni għall-applikazzjoni mmirata. Biex tibni mudell ta’ tagħlim bil-magni, ser ikollok bżonn laptop jew kompjuter minbarra pjattaforma tal-ħardwer.
Kull pjattaforma tal-ħardwer għandha l-għodod ta 'programmar tagħha stess għall-bini, it-taħriġ u l-porting ta' mudelli ta 'tagħlim tal-magni, li jużaw il-pakkett TensorFlow Lite għall-Mikrokontrolluri. TensorFlow Lite huwa liberu li juża u jimmodifika għaliex huwa sors miftuħ.
Biex tibda b'TinyML u TensorFlow Lite, kulma għandek bżonn hija waħda mill-pjattaformi tal-ħardwer inkorporat imsemmija hawn fuq, kompjuter/laptop, kejbil USB, konvertitur USB-to-Serial - u x-xewqa li tipprattika t-tagħlim tal-magni b'sistemi inkorporati. .
Sfidi
Anke filwaqt li l-progress ta' TinyML ta ħafna riżultati pożittivi, l-industrija tat-tagħlim tal-magni għadha qed tiffaċċja ostakli konsiderevoli.
- Diversità tas-softwer – Kodifikazzjoni bl-idejn, il-ġenerazzjoni tal-kodiċi, u l-interpreti ML huma kollha għażliet għall-iskjerament ta 'mudelli fuq apparati TinyML, u kull wieħed jieħu ammont differenti ta' ħin u sforz. Jistgħu jinqalgħu prestazzjonijiet differenti bħala riżultat ta 'dan.
- Diversità tal-ħardwer - Hemm huma diversi għażliet ta 'hardware disponibbli. Pjattaformi TinyML jistgħu jkunu xi ħaġa minn mikrokontrolluri għal skopijiet ġenerali għal proċessuri newrali avvanzati. Dan jikkawża problemi bl-iskjerament tal-mudelli f'arkitetturi differenti.
- Issolvi l-problemi/debugging – Meta mudell ML jaħdem ħażin fuq is-sħab, huwa sempliċi li wieħed iħares lejn id-dejta u nsib x'inhu għaddej ħażin. Meta mudell jinfirex fuq eluf ta 'apparati TinyML, mingħajr l-ebda fluss tad-dejta li jirritorna fis-sħab, id-debugging isir diffiċli u jista' jeħtieġ metodu differenti.
- Limitazzjonijiet tal-memorja – Tradizzjonali pjattaformi, bħal smartphones u laptops, jeħtieġu gigabytes ta 'RAM, filwaqt li tagħmir TinyML juża kilobytes jew megabytes. Bħala riżultat, id-daqs tal-mudell li jista 'jiġi skjerat huwa limitat.
- Taħriġ mudell – Għalkemm hemm diversi vantaġġi għall-iskjerament ta 'mudelli ML fuq apparati TinyML, il-biċċa l-kbira tal-mudelli ML għadha mħarrġa fuq is-sħab biex itenni u jtejjeb kontinwament l-eżattezza tal-mudell.
Futur
TinyML, bil-footprint żgħir tiegħu, il-konsum baxx tal-batterija, u n-nuqqas ta’ jew id-dipendenza limitata fuq il-konnettività tal-internet, għandu potenzjal enormi fil-futur, peress li l-maġġoranza ta’ dojoq intelliġenza artifiċjali se jiġu implimentati fuq apparati tat-tarf jew aġġeġġi integrati indipendenti.
Se tagħmel l-applikazzjonijiet IoT aktar privati u siguri billi tisfruttahom. Għalkemm TensorFlow Lite bħalissa huwa l-uniku qafas tat-tagħlim tal-magni għal mikrokontrolluri u mikrokompjuters, oqfsa oħra komparabbli bħal sensorju u CMSIS-NN ta 'ARM huma fil-ħidma.
Filwaqt li TensorFlow Lite huwa proġett ta' sors miftuħ li għadu għaddej li beda mill-aqwa mat-Tim ta' Google, għadu jeħtieġ l-appoġġ tal-komunità biex jidħol fil-mainstream.
konklużjoni
TinyML huwa approċċ ġdid li jgħaqqad sistemi inkorporati mat-tagħlim tal-magni. Hekk kif l-AI dejqa tilħaq il-quċċata f'ħafna vertikali u oqsma, it-teknoloġija tista 'titfaċċa bħala subqasam prominenti fit-tagħlim tal-magni u l-intelliġenza artifiċjali.
Jipprovdi soluzzjoni għal bosta sfidi li s-settur tal-IoT u l-professjonisti li japplikaw it-tagħlim tal-magni għal ħafna dixxiplini speċifiċi għad-dominju issa qed jiffaċċjaw.
Il-kunċett tal-użu tat-tagħlim tal-magni fuq tagħmir tat-tarf b'kompjuter żgħir footprint u konsum tal-enerġija għandhom il-potenzjal li jittrasformaw b'mod sinifikanti kif is-sistemi inkorporati u r-robotika huma mibnija.
Ħalli Irrispondi