Mae modelau Dysgu Peiriannau ym mhob man ar hyn o bryd. Yn ystod y dydd, mae'n debyg eich bod chi'n defnyddio'r modelau hyn yn llawer mwy nag yr ydych chi'n sylweddoli. Defnyddir modelau dysgu peiriant mewn tasgau cyffredin fel pori cyfryngau cymdeithasol, tynnu lluniau a gwirio'r tywydd.
Efallai bod algorithm dysgu peiriant wedi argymell y blog hwn i chi. Rydym i gyd wedi clywed am ba mor llafurus yw hyfforddi’r modelau hyn. Rydym i gyd wedi clywed bod hyfforddi'r modelau hyn yn cymryd llawer o amser.
Fodd bynnag, mae dod i gasgliad ar y modelau hyn yn aml yn gostus yn gyfrifiadurol.
Mae arnom angen systemau cyfrifiadurol sy'n ddigon cyflym i ymdopi â'r gyfradd yr ydym yn defnyddio gwasanaethau dysgu peirianyddol. O ganlyniad, mae mwyafrif y modelau hyn yn cael eu rhedeg ar ganolfannau data enfawr gyda chlystyrau CPU a GPU (hyd yn oed TPUs mewn rhai achosion).
Pan fyddwch chi'n tynnu llun, rydych chi eisiau dysgu peiriant i'w wella ar unwaith. Nid ydych am orfod aros i'r ddelwedd gael ei throsglwyddo i ganolfan ddata, ei phrosesu, a'i dychwelyd atoch. Yn yr achos hwn, dylid gweithredu'r model dysgu peiriant yn lleol.
Pan fyddwch chi'n dweud "Hey Siri" neu "OK, Google," rydych chi am i'ch teclynnau ymateb ar unwaith. Aros i'ch llais gael ei drosglwyddo i'r cyfrifiaduron, lle bydd yn cael ei werthuso a chael data.
Mae hyn yn cymryd amser ac yn cael effaith andwyol ar brofiad y defnyddiwr. Yn yr achos hwn, rydych chi am i'r model dysgu peiriant weithio'n lleol hefyd. Dyma lle mae TinyML yn dod i mewn.
Yn y swydd hon, byddwn yn ymchwilio i TinyML, sut mae'n gweithio, sut i'w ddefnyddio, sut i ddechrau arni, a llawer mwy.
Beth yw TinyML?
Mae TinyML yn ddisgyblaeth flaengar sy'n cymhwyso potensial chwyldroadol dysgu peirianyddol i derfynau perfformiad a phŵer dyfeisiau bach a systemau gwreiddio.
Mae defnydd llwyddiannus yn y diwydiant hwn yn gofyn am ddealltwriaeth drylwyr o gymwysiadau, algorithmau, caledwedd a meddalwedd. Mae'n isgenre dysgu peiriant sy'n defnyddio modelau dysgu dwfn a dysgu peiriant mewn systemau sydd wedi'u mewnosod sy'n cyflogi microreolwyr, proseswyr signal digidol, neu broseswyr arbenigol pŵer isel iawn eraill.
Bwriad dyfeisiau mewnosodedig TinyML yw rhedeg algorithm dysgu peirianyddol ar gyfer swydd benodol, fel arfer fel rhan o'r ddyfais cyfrifiaduro ymylol.
Er mwyn rhedeg am wythnosau, misoedd, neu hyd yn oed flynyddoedd heb ailwefru neu amnewid batri, rhaid i'r systemau gwreiddio hyn gael defnydd pŵer o lai nag 1 mW.
Sut mae'n gweithio?
Yr unig fframwaith dysgu peirianyddol y gellir ei ddefnyddio gyda microreolwyr a chyfrifiaduron yw TensorFlow Lite. Mae'n set o offer sy'n gadael i ddatblygwyr redeg eu modelau ar ddyfeisiau symudol, wedi'u mewnosod, ac ymyl, gan ganiatáu ar gyfer dysgu peiriannau wrth hedfan.
Defnyddir rhyngwyneb y microreolydd i gasglu data o synwyryddion (fel meicroffonau, camerâu, neu synwyryddion wedi'u mewnosod).
Cyn cael ei anfon at y microreolydd, mae'r data'n cael ei ymgorffori mewn model dysgu peiriant yn y cwmwl. Defnyddir hyfforddiant swp yn y modd all-lein yn gyffredin i hyfforddi'r modelau hyn. Y data synhwyrydd a ddefnyddir ar ei gyfer dysgu a chasgliad eisoes wedi'i benderfynu ar gyfer y cais penodol.
Os yw'r model yn cael ei hyfforddi i ganfod gair deffro, er enghraifft, mae eisoes wedi'i sefydlu i drin llif sain parhaus o feicroffon.
Mae popeth eisoes wedi'i wneud gyda chymorth platfform cwmwl fel Google Colab yn achos TensorFlow Lite, gan gynnwys dewis set ddata, normaleiddio, tan-ffitio neu or-ffitio'r model, rheoleiddio, ychwanegu at ddata, hyfforddi, dilysu a phrofi.
Yn y pen draw, caiff model sydd wedi'i hyfforddi'n llawn ei drawsnewid a'i drosglwyddo i'r microreolydd, microgyfrifiadur, neu brosesydd signal digidol ar ôl hyfforddiant swp all-lein. Nid oes gan y model unrhyw hyfforddiant ychwanegol ar ôl cael ei symud i ddyfais fewnosod. Yn lle hynny, mae'n defnyddio data amser real o synwyryddion neu ddyfeisiau mewnbwn yn unig i gymhwyso'r model.
O ganlyniad, rhaid i fodel dysgu peiriant TinyML fod yn eithriadol o wydn a bod modd ei ailhyfforddi ar ôl blynyddoedd neu byth gael ei ailhyfforddi. Mae'n rhaid ymchwilio i unrhyw dan-ffitio a gorffitio model posibl fel bod y model yn parhau i fod yn berthnasol am gyfnod estynedig o amser, yn ddelfrydol am gyfnod amhenodol.
Ond Pam defnyddio TinyML?
Dechreuodd TinyML fel ymdrech i ddileu neu leihau dibyniaeth yr IoT ar wasanaethau cwmwl ar gyfer graddfa fach sylfaenol dysgu peiriant gweithrediadau. Roedd hyn yn golygu bod angen defnyddio modelau dysgu peirianyddol ar y dyfeisiau ymyl eu hunain. Mae'n darparu'r manteision mawr canlynol:
- Pwer isel defnydd: Yn ddelfrydol, dylai cymhwysiad TinyML ddefnyddio llai nag 1 miliWatt o bŵer. Gyda defnydd pŵer isel o'r fath, gall dyfais barhau i ddod i gasgliadau o ddata synhwyrydd am fisoedd neu flynyddoedd, hyd yn oed os yw'n cael ei bweru gan fatri darn arian.
- Cost is: Fe'i cynlluniwyd i redeg ar ficroreolyddion 32-did cost isel neu DSPs. Mae'r microreolyddion hyn fel arfer ychydig o sent yr un, ac mae cyfanswm y system wreiddio a ddatblygwyd gyda nhw yn llai na $50. Mae hwn yn opsiwn cost-effeithiol iawn ar gyfer rhedeg rhaglenni dysgu peiriannau bach ar raddfa fawr, ac mae'n arbennig o fuddiol mewn cymwysiadau IoT lle mae'n rhaid cymhwyso dysgu peiriant.
- Hwyrach Is: Mae gan ei gymwysiadau hwyrni isel gan nad oes angen iddynt gludo na chyfnewid data dros y rhwydwaith. Cofnodir yr holl ddata synhwyrydd yn lleol, a llunnir casgliadau gan ddefnyddio model sydd eisoes wedi'i hyfforddi. Gellir anfon canlyniadau casgliadau at weinydd neu gwmwl ar gyfer logio neu brosesu ychwanegol, er nad yw hyn yn hanfodol i'r ddyfais weithio. Mae hyn yn lleihau hwyrni rhwydwaith ac yn dileu'r angen i weithrediadau dysgu peiriant gael eu perfformio ar gwmwl neu weinydd.
- Preifatrwydd: Mae'n bryder mawr ar y rhyngrwyd a chyda rhyngrwyd pethau. Mae'r gwaith dysgu peiriant mewn apiau TinyML yn cael ei berfformio'n lleol, heb storio nac anfon data synhwyrydd / defnyddiwr i weinydd / cwmwl. O ganlyniad, hyd yn oed tra'n gysylltiedig â rhwydwaith, mae'r cymwysiadau hyn yn ddiogel i'w defnyddio ac nid ydynt yn peri unrhyw risgiau preifatrwydd.
ceisiadau
- Amaethyddiaeth - Pryd ffermwyr yn tynnu llun o blanhigyn, mae cymhwysiad TensorFlow Lite yn canfod salwch ynddo. Mae'n gweithio ar unrhyw ddyfais ac nid oes angen cysylltiad rhyngrwyd. Mae'r weithdrefn yn diogelu buddiannau amaethyddol ac yn anghenraid hanfodol i ffermwyr gwledig.
- Cynnal a Chadw Mecaneg - Gall TinyML, pan gaiff ei ddefnyddio ar ddyfeisiau pŵer isel, nodi diffygion mewn peiriant yn barhaus. Mae'n golygu cynnal a chadw ar sail rhagfynegiad. Mae Ping Services, cwmni newydd o Awstralia, wedi cyflwyno teclyn IoT sy'n monitro tyrbinau gwynt trwy gysylltu ei hun â thu allan y tyrbin. Mae'n hysbysu'r awdurdodau pryd bynnag y bydd yn canfod unrhyw broblem neu gamweithio posibl.
- Ysbytai - Y Mae Solar Scare yn brosiect. Mae mosgito yn defnyddio TinyML i atal lledaeniad salwch fel dengue a malaria. Mae'n cael ei bweru gan ynni'r haul ac mae'n canfod amodau bridio mosgito cyn rhoi signal i'r dŵr i atal bridio mosgito.
- Gwyliadwriaeth Traffig – Gan cymhwyso TinyML i synwyryddion sy'n casglu data traffig amser real, gallwn eu defnyddio i gyfeirio traffig yn well a lleihau amseroedd ymateb ar gyfer cerbydau brys. Mae Swim.AI, er enghraifft, yn defnyddio'r dechnoleg hon ar ffrydio data i gynyddu diogelwch teithwyr tra hefyd yn lleihau tagfeydd ac allyriadau trwy lwybro smart.
- Gyfraith: Gellir defnyddio TinyML mewn gorfodi'r gyfraith i nodi gweithredoedd anghyfreithlon megis terfysg a lladrad gan ddefnyddio dysgu peirianyddol ac adnabod ystumiau. Gellir defnyddio rhaglen debyg hefyd i sicrhau peiriannau ATM banc. Trwy wylio ymddygiad defnyddwyr, gall model TinyML ragweld a yw'r defnyddiwr yn ddefnyddiwr go iawn yn cwblhau trafodiad neu'n dresmaswr yn ceisio hacio neu ddinistrio'r peiriant ATM.
Sut i ddechrau gyda TinyML?
I ddechrau gyda TinyML yn TensorFlow Lite, bydd angen bwrdd microreolwyr cydnaws arnoch chi. Mae TensorFlow Lite ar gyfer Microreolyddion yn cefnogi'r microreolyddion a restrir isod.
- Terfynell Wio: ATSAMD51
- Bwrdd Datblygu Endpoint AI Himax WE-I Plus EVB
- STM32F746 Pecyn darganfod
- Adafruit EdgeBadge
- Synopsys DesignWare Llwyfan Datblygu Meddalwedd ARC EM
- Sony Spressense
- Arduino Nano 33 BLE Synnwyr
- SparkFun Ymyl
- Adafruit TensorFlow Lite ar gyfer Pecyn Microreolwyr
- Maes Chwarae Cylchdaith Adafruit Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Mae'r rhain yn ficroreolyddion 32-did sydd â digon o gof fflach, RAM, ac amlder cloc i weithredu model dysgu peiriant. Mae gan y byrddau hefyd nifer o synwyryddion ar y bwrdd sy'n gallu rhedeg unrhyw raglen wreiddiedig a chymhwyso modelau dysgu peiriant i'r cymhwysiad wedi'i dargedu. I adeiladu model dysgu peirianyddol, bydd angen gliniadur neu gyfrifiadur arnoch yn ogystal â llwyfan caledwedd.
Mae gan bob platfform caledwedd ei offer rhaglennu ei hun ar gyfer adeiladu, hyfforddi a chludo modelau dysgu peiriannau, sy'n defnyddio'r pecyn TensorFlow Lite for Microcontrollers. Mae TensorFlow Lite yn rhad ac am ddim i'w ddefnyddio a'i addasu oherwydd ei fod ffynhonnell agored.
I ddechrau gyda TinyML a TensorFlow Lite, y cyfan sydd ei angen arnoch chi yw un o'r llwyfannau caledwedd mewnol a grybwyllwyd uchod, cyfrifiadur / gliniadur, cebl USB, trawsnewidydd USB-i-Serial - a'r awydd i ymarfer dysgu peiriant gyda systemau wedi'u mewnosod. .
Heriau
Er bod cynnydd TinyML wedi esgor ar lawer o ganlyniadau cadarnhaol, mae'r diwydiant dysgu peiriannau yn dal i wynebu rhwystrau sylweddol.
- Amrywiaeth meddalwedd – codio â llaw, cynhyrchu cod, a dehonglwyr ML i gyd yn opsiynau ar gyfer defnyddio modelau ar ddyfeisiau TinyML, ac mae pob un yn cymryd swm gwahanol o amser ac ymdrech. Gall perfformiadau gwahanol godi o ganlyniad i hyn.
- Amrywiaeth caledwedd - Yno a oes nifer o opsiynau caledwedd ar gael. Gall llwyfannau TinyML fod yn unrhyw beth o ficroreolyddion pwrpas cyffredinol i broseswyr niwral blaengar. Mae hyn yn achosi problemau gyda defnyddio modelau ar draws gwahanol bensaernïaeth.
- Datrys Problemau/dadfygio – Pryd mae model ML yn perfformio'n wael ar y cwmwl, mae'n syml edrych ar y data a darganfod beth sy'n mynd o'i le. Pan fydd model yn cael ei wasgaru ar draws miloedd o ddyfeisiau TinyML, heb unrhyw lif data yn dychwelyd i'r cwmwl, mae dadfygio yn dod yn anodd ac efallai y bydd angen dull gwahanol.
- Cyfyngiadau cof – Traddodiadol mae angen gigabeit o RAM ar lwyfannau, fel ffonau clyfar a gliniaduron, tra bod dyfeisiau TinyML yn defnyddio kilobeit neu megabeit. O ganlyniad, mae maint y model y gellir ei ddefnyddio yn gyfyngedig.
- Hyfforddiant enghreifftiol – Er mae sawl mantais i ddefnyddio modelau ML ar ddyfeisiau TinyML, mae'r rhan fwyaf o fodelau ML yn dal i gael eu hyfforddi ar y cwmwl i ailadrodd a gwella cywirdeb model yn barhaus.
Dyfodol
Mae gan TinyML, gyda'i ôl troed bach, defnydd isel o fatri, a diffyg neu ddibyniaeth gyfyngedig ar gysylltedd rhyngrwyd, botensial enfawr yn y dyfodol, gan fod y mwyafrif o'r systemau cul. deallusrwydd artiffisial yn cael ei weithredu ar ddyfeisiau ymyl neu declynnau gwreiddio annibynnol.
Bydd yn gwneud cymwysiadau IoT yn fwy preifat a diogel trwy eu trosoledd. Ond TensorFlow Ar hyn o bryd Lite yw'r unig fframwaith dysgu peiriant ar gyfer microreolyddion a microgyfrifiaduron, ac mae fframweithiau tebyg eraill fel synhwyrydd a CMSIS-NN ARM yn y gwaith.
Er bod TensorFlow Lite yn brosiect ffynhonnell agored ar y gweill a gafodd ddechrau gwych gyda Thîm Google, mae angen cefnogaeth gymunedol arno o hyd i fynd i mewn i'r brif ffrwd.
Casgliad
Mae TinyML yn ddull newydd sy'n cyfuno systemau sydd wedi'u mewnosod â dysgu peirianyddol. Wrth i'r AI cul gyrraedd uchafbwynt mewn llawer o fertigol a pharth, gall y dechnoleg ddod i'r amlwg fel is-faes amlwg mewn dysgu peiriannau a deallusrwydd artiffisial.
Mae'n darparu ateb i heriau niferus y mae'r sector IoT a gweithwyr proffesiynol sy'n cymhwyso dysgu peirianyddol i lawer o ddisgyblaethau parth-benodol yn eu hwynebu bellach.
Y cysyniad o ddefnyddio dysgu peirianyddol yn dyfeisiau ymyl gyda chyfrifiadura bach mae gan ôl-troed a defnydd pŵer y potensial i drawsnewid yn sylweddol y ffordd y caiff systemau a roboteg eu hadeiladu.
Gadael ymateb