Machine Learning módel eru út um allt núna. Á daginn notarðu líklega þessar gerðir miklu meira en þú gerir þér grein fyrir. Vélræn líkön eru notuð í algengum verkefnum eins og að vafra á samfélagsmiðlum, mynda og athuga veðrið.
Vélrænt reiknirit gæti hafa mælt með þessu bloggi fyrir þig. Við höfum öll heyrt um hversu tímafrekt það er að þjálfa þessar gerðir. Við höfum öll heyrt að það sé tímafrekt að þjálfa þessar gerðir.
Hins vegar er það oft kostnaðarsamt að álykta um þessi líkön.
Við þurfum tölvukerfi sem eru nógu hröð til að takast á við hraðann sem við nýtum vélanámsþjónustu. Fyrir vikið er meirihluti þessara gerða keyrður á gríðarstórum gagnaverum með örgjörva og GPU þyrpingum (jafnvel TPU í sumum tilfellum).
Þegar þú tekur mynd, vilt þú vél nám að bæta það strax. Þú vilt ekki þurfa að bíða eftir að myndin sé flutt í gagnaver, unnin og skilað til þín. Í þessu tilviki ætti vélanámslíkanið að vera framkvæmt á staðnum.
Þegar þú segir „Hey Siri“ eða „OK, Google,“ viltu að græjurnar þínar svari strax. Bíður eftir að rödd þín verði send í tölvurnar þar sem hún verður metin og gögn aflað.
Þetta tekur tíma og hefur skaðleg áhrif á notendaupplifunina. Í þessu tilviki vilt þú að vélanámslíkanið virki líka á staðnum. Þetta er þar sem TinyML kemur inn.
Í þessari færslu munum við skoða TinyML, hvernig það virkar, notkun þess, hvernig á að byrja með það og margt fleira.
Hvað er TinyML?
TinyML er háþróuð fræðigrein sem beitir byltingarkenndum möguleikum vélanáms á afköst og aflmörk lítilla tækja og innbyggðra kerfa.
Árangursrík dreifing í þessum iðnaði krefst ítarlegs skilnings á forritum, reikniritum, vélbúnaði og hugbúnaði. Það er undirtegund vélanáms sem notar djúpnám og vélanámslíkön í innbyggðum kerfum sem nota örstýringar, stafræna merkja örgjörva eða aðra sérhæfða örgjörva með ofurlítið afl.
TinyML-virkt innbyggð tæki er ætlað að keyra vélrænt reiknirit fyrir tiltekið starf, venjulega sem hluti af tækinu brún computing.
Til þess að geta keyrt í margar vikur, mánuði eða jafnvel ár án endurhleðslu eða rafhlöðuskipta verða þessi innbyggðu kerfi að hafa minni orkunotkun en 1 mW.
Hvernig virkar það?
Eina vélanámsramminn sem hægt er að nota með örstýringum og tölvum er TensorFlow Lite. Þetta er sett af verkfærum sem gera forriturum kleift að keyra módel sín á farsímum, innbyggðum og brúntækjum, sem gerir kleift að læra vélina á flugi.
Viðmót örstýringarinnar er notað til að safna gögnum frá skynjurum (eins og hljóðnemum, myndavélum eða innbyggðum skynjurum).
Áður en þau eru send til örstýringarinnar eru gögnin felld inn í skýjabundið vélnámslíkan. Hópþjálfun í ótengdum ham er almennt notuð til að þjálfa þessar gerðir. Skynjaragögnin sem notuð verða fyrir nám og ályktun hefur þegar verið ákveðið fyrir tiltekna umsókn.
Ef líkanið er þjálfað til að greina vökuorð, til dæmis, er það nú þegar sett upp til að takast á við samfelldan hljóðstraum frá hljóðnema.
Allt er nú þegar gert með hjálp skýjapalls eins og Google Colab þegar um TensorFlow Lite er að ræða, þar á meðal val á gagnasafni, stöðlun, vanhæfingu eða offitun líkansins, reglusetningu, gagnaaukning, þjálfun, staðfestingu og prófun.
Fullþjálfað líkan er að lokum umbreytt og flutt yfir í örstýringuna, örtölvuna eða stafræna merkjagjörvann eftir ónettengda lotuþjálfun. Líkanið hefur enga viðbótarþjálfun eftir að það hefur verið flutt í innbyggt tæki. Þess í stað notar það eingöngu rauntímagögn frá skynjurum eða inntakstækjum til að beita líkaninu.
Þar af leiðandi verður TinyML vélnámslíkan að vera einstaklega endingargott og hægt að endurmennta það eftir mörg ár eða aldrei að vera endurmenntað. Rannsaka verður alla hugsanlega vanhæfingu og ofklæðningu líkansins þannig að líkanið haldist viðeigandi í langan tíma, helst endalaust.
En af hverju að nota TinyML?
TinyML hófst sem viðleitni til að útrýma eða draga úr trausti IoT á skýjaþjónustu fyrir undirstöðu smáskala vél nám aðgerðir. Þetta krafðist þess að nota vélanámslíkön á jaðartækjunum sjálfum. Það veitir eftirfarandi helstu kosti:
- Lítil orka neysla: TinyML forrit ætti helst að nýta minna en 1 milliWatt af afli. Með svo lítilli orkunotkun getur tæki haldið áfram að draga ályktanir af skynjaragögnum í marga mánuði eða ár, jafnvel þó það sé knúið af myntrafhlöðu.
- Lægri kostnaður: Það er hannað til að keyra á ódýrum 32 bita örstýringum eða DSP. Þessir örstýringar eru venjulega nokkur sent hver og heildar innbyggða kerfið sem þróað er með þeim er minna en $50. Þetta er mjög hagkvæmur valkostur til að keyra lítil vélanámsforrit í stórum stíl, og það er sérstaklega gagnlegt í IoT forritum þar sem vélanám verður að beita.
- Lægri bið: Forrit þess hafa litla leynd þar sem þau þurfa ekki að flytja eða skiptast á gögnum yfir netið. Öll skynjaragögn eru skráð á staðnum og ályktanir dregnar með því að nota líkan sem þegar hefur verið þjálfað. Niðurstöður ályktana kunna að vera sendar á netþjón eða ský til skráningar eða viðbótarvinnslu, þó það sé ekki nauðsynlegt til að tækið virki. Þetta lágmarkar netleynd og útilokar þörfina fyrir vélnámsaðgerðir á skýi eða netþjóni.
- Persónuvernd: Það er mikið áhyggjuefni á internetinu og internetinu. Vélnámsvinnan í TinyML öppum fer fram á staðnum, án þess að geyma eða senda skynjara/notendagögn á netþjón/ský. Þess vegna, jafnvel þótt þau séu tengd við net, eru þessi forrit örugg í notkun og engin hætta á persónuvernd.
Umsóknir
- Landbúnaður - Hvenær bændur taka mynd af plöntu, forrit TensorFlow Lite greinir sjúkdóma í henni. Það virkar á hvaða tæki sem er og krefst ekki nettengingar. Málsmeðferðin verndar hagsmuni landbúnaðarins og er brýn nauðsyn fyrir bændur á landsbyggðinni.
- Viðhald vélvirkja - TinyML, þegar það er notað á litlum tækjum, getur stöðugt greint galla í vél. Það felur í sér spámiðað viðhald. Ping Services, ástralskt sprotafyrirtæki, hefur kynnt IoT græju sem fylgist með vindmyllum með því að festa sig utan á hverflinum. Það lætur yfirvöld vita hvenær sem það greinir hugsanleg vandamál eða bilun.
- Sjúkrahús - The Sólarhræðsla er verkefni. Moskítóflugur nota TinyML til að stöðva útbreiðslu sjúkdóma eins og dengue og malaríu. Það er knúið af sólarorku og skynjar ræktunarskilyrði moskítóflugna áður en vatnið gefur til kynna að hamla ræktun moskítóflugna.
- Umferðareftirlit – By Með því að nota TinyML á skynjara sem safna rauntíma umferðargögnum getum við notað þá til að beina umferð betur og stytta viðbragðstíma fyrir neyðarbíla. Swim.AI, til dæmis, notar þessa tækni við að streyma gögnum til að auka öryggi farþega á sama tíma og það dregur úr þrengslum og losun með snjallri leið.
- Law: Hægt er að nota TinyML í löggæslu til að bera kennsl á ólöglegar aðgerðir eins og óeirðir og þjófnað með því að nota vélanám og látbragðsþekkingu. Svipað forrit gæti einnig verið notað til að tryggja banka hraðbanka. Með því að fylgjast með hegðun notenda getur TinyML líkan spáð fyrir um hvort notandinn sé raunverulegur neytandi sem lýkur viðskiptum eða boðflenna sem reynir að hakka inn eða eyðileggja hraðbankann.
Hvernig á að byrja með TinyML?
Til að byrja með TinyML í TensorFlow Lite þarftu samhæft örstýringarborð. TensorFlow Lite fyrir örstýringar styður örstýringarnar sem taldar eru upp hér að neðan.
- Wio Terminal: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI þróunarráð
- STM32F746 Uppgötvunarsett
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM hugbúnaðarþróunarvettvangur
- Sony Express
- Arduino Nano 33 BLE Sense
- SparkFun Edge
- Adafruit TensorFlow Lite fyrir örstýringarsett
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Þetta eru 32 bita örstýringar sem hafa nóg flassminni, vinnsluminni og klukkutíðni til að framkvæma vélanámslíkan. Spjöldin eru einnig með fjölda skynjara um borð sem geta keyrt hvaða innbyggða forrit sem er og beitt vélanámslíkönum á markforritið. Til búa til vélanámslíkan, þú þarft fartölvu eða tölvu til viðbótar við vélbúnaðarvettvang.
Hver vélbúnaðarvettvangur hefur sín eigin forritunarverkfæri til að byggja, þjálfa og flytja vélanámslíkön, sem nota TensorFlow Lite fyrir örstýringarpakkann. TensorFlow Lite er ókeypis að nota og breyta því það er það opinn uppspretta.
Til að byrja með TinyML og TensorFlow Lite þarftu aðeins einn af ofangreindum innbyggðum vélbúnaðarpöllum, tölvu/fartölvu, USB snúru, USB-í-raðbreytir – og löngunin til að æfa vélanám með innbyggðum kerfum .
Áskoranir
Jafnvel þó framfarir TinyML hafi skilað mörgum jákvæðum árangri, stendur vélanámsiðnaðurinn enn frammi fyrir töluverðum hindrunum.
- Fjölbreytileiki hugbúnaðar – Handkóðun, kóðagerð og ML túlkar eru allir möguleikar til að dreifa líkönum á TinyML tækjum, og hver þeirra tekur mismunandi tíma og fyrirhöfn. Mismunandi frammistaða getur skapast vegna þessa.
- Fjölbreytileiki vélbúnaðar - Þar eru nokkrir vélbúnaðarvalkostir í boði. TinyML pallar geta verið allt frá almennum örstýringum til háþróaðra tauga örgjörva. Þetta veldur vandamálum með dreifingu líkana í mismunandi arkitektúrum.
- Úrræðaleit / villuleit – Hvenær ML líkan gengur illa á skýinu, það er einfalt að skoða gögnin og finna út hvað er að fara úrskeiðis. Þegar líkan er dreift yfir þúsundir TinyML tækja, án þess að gagnastraumur fari aftur í skýið, verður villuleit erfið og gæti þurft aðra aðferð.
- Minnistakmarkanir - Hefðbundin pallar, eins og snjallsímar og fartölvur, þurfa gígabæta af vinnsluminni en TinyML tæki nota kílóbæt eða megabæti. Afleiðingin er sú að stærð líkansins sem hægt er að nota er takmörkuð.
- Fyrirmyndarþjálfun - Þó það eru nokkrir kostir við að dreifa ML módelum á TinyML tækjum, meginhluti ML módelanna er enn þjálfaður í skýinu til að endurtaka og bæta stöðugt nákvæmni módelsins.
Framtíð
TinyML, með litlu fótspori sínu, lítilli rafhlöðunotkun og skorti eða takmarkaðri treysta á nettengingu, hefur gríðarlega möguleika í framtíðinni, þar sem meirihluti þröngra gervigreind verður útfært á brún tæki eða sjálfstæðar innbyggðar græjur.
Það mun gera IoT forritin persónulegri og öruggari með því að nýta þau. Þótt TensorFlow Lite er sem stendur eina vélanámsramminn fyrir örstýringar og örtölvur, önnur sambærileg ramma eins og skynjari og CMSIS-NN frá ARM eru í vinnslu.
Þó TensorFlow Lite sé opinn uppspretta verkefni í vinnslu sem fór frábærlega af stað með teymi Google, þarf það samt samfélagsstuðning til að komast inn í almenna strauminn.
Niðurstaða
TinyML er ný nálgun sem sameinar innbyggð kerfi og vélanám. Þar sem þrönga gervigreindin nær hámarki í mörgum lóðréttum og sviðum getur tæknin komið fram sem áberandi undirsvið í vélanámi og gervigreind.
Það veitir lausn á fjölmörgum áskorunum sem IoT-geirinn og sérfræðingar sem beita vélanámi í mörgum lénssértækum greinum standa nú frammi fyrir.
Hugmyndin um að nýta vélanám á brún tæki með lítilli tölvu fótspor og orkunotkun hefur tilhneigingu til að umbreyta verulega hvernig innbyggð kerfi og vélfærafræði eru smíðuð.
Skildu eftir skilaboð