Maŝinlernado-modeloj estas ĉie nun. Dum la tago, vi verŝajne uzas ĉi tiujn modelojn multe pli ol vi konscias. Maŝinlernado-modeloj estas utiligitaj en oftaj taskoj kiel sociaj amaskomunikiloj foliumado, fotado kaj kontrolado de la vetero.
Maŝinlernada algoritmo eble rekomendis ĉi tiun blogon al vi. Ni ĉiuj aŭdis pri kiom tempopostula estas trejni ĉi tiujn modelojn. Ni ĉiuj aŭdis, ke trejnado de ĉi tiuj modeloj estas tempopostula.
Tamen, fari inferencon en ĉi tiuj modeloj estas ofte komputile multekosta.
Ni bezonas komputilajn sistemojn sufiĉe rapidajn por trakti la rapidecon, je kiu ni uzas maŝinlernajn servojn. Kiel rezulto, la plimulto de ĉi tiuj modeloj funkcias per masivaj datumcentroj kun CPU kaj GPU-aretoj (eĉ TPU-oj en iuj kazoj).
Kiam vi fotas, vi volas maŝinlernado por tuj plibonigi ĝin. Vi ne volas devi atendi, ke la bildo estos translokigita al datumcentro, prilaborita kaj resendita al vi. En ĉi tiu kazo, la maŝinlernada modelo devus esti ekzekutita loke.
Kiam vi diras "Hej Siri" aŭ "Bone, Guglo", vi volas, ke viaj aparatoj respondu tuj. Atendante, ke via voĉo estos transdonita al la komputiloj, kie ĝi estos taksita kaj datumoj akiritaj.
Ĉi tio bezonas tempon kaj malutilas la sperton de la uzanto. En ĉi tiu kazo, vi volas, ke la maŝinlernada modelo ankaŭ funkciu loke. Jen kie TinyML eniras.
En ĉi tiu afiŝo, ni rigardos en TinyML, kiel ĝi funkcias, ĝiaj uzoj, kiel komenci kun ĝi, kaj multe pli.
Kio estas TinyML?
TinyML estas avangarda disciplino, kiu aplikas la revolucian potencialon de maŝinlernado al la rendimento kaj potencaj limoj de malgrandaj aparatoj kaj enkonstruitaj sistemoj.
Sukcesa deplojo en ĉi tiu industrio postulas ĝisfundan komprenon de aplikoj, algoritmoj, aparataro kaj programaro. Ĝi estas maŝinlernada subĝenro kiu uzas profundan lernadon kaj maŝinlernajn modelojn en enkonstruitaj sistemoj kiuj utiligas mikroregilojn, ciferecajn signalprocesorojn aŭ aliajn ultra-malaltpotencajn specialigitajn procesorojn.
TinyML-ebligitaj enkonstruitaj aparatoj estas intencitaj funkcii per maŝinlernado-algoritmo por specifa laboro, tipe kiel parto de la aparato. randa komputado.
Por funkcii dum semajnoj, monatoj aŭ eĉ jaroj sen reŝargado aŭ anstataŭigo de kuirilaro, ĉi tiuj enkonstruitaj sistemoj devas havi elektrokonsumon de malpli ol 1 mW.
Kiel ĝi funkcias?
La nura maŝinlernada kadro kiu povas esti utiligita kun mikroregiloj kaj komputiloj estas TensorFlow Lite. Ĝi estas aro da iloj, kiuj ebligas al programistoj funkciigi siajn modelojn per poŝtelefonaj, enkonstruitaj kaj randaj aparatoj, ebligante maŝinlernadon sur la flugo.
La interfaco de la mikroregilo estas utiligita por kolekti datenojn de sensiloj (kiel mikrofonoj, fotiloj, aŭ enigitaj sensiloj).
Antaŭ ol esti senditaj al la mikroregilo, la datumoj estas integrigitaj en nub-bazita maŝinlernado-modelo. Bata trejnado en senreta reĝimo estas ofte utiligita por trejni tiujn modelojn. La sensildatenoj por kiuj estos uzataj lernado kaj inferenco jam estis determinita por la specifa apliko.
Se la modelo estas trejnita por detekti vekvorton, ekzemple, ĝi jam estas agordita por trakti daŭran sonfluon de mikrofono.
Ĉio jam estas farita kun la helpo de nuba platformo kiel Google Colab en la kazo de TensorFlow Lite, inkluzive de elektado de datumaroj, normaligo, malsufiĉa aŭ troa agordo de la modelo, reguligo, pliigo de datumoj, trejnado, validigo kaj testado.
Plene edukita modelo estas poste transformita kaj transdonita al la mikroregilo, mikrokomputilo aŭ cifereca signalprocesoro post senreta gruptrejnado. La modelo havas neniun kroman trejnadon post estado movita al enigita aparato. Anstataŭe, ĝi nur uzas realtempajn datumojn de sensiloj aŭ enigaj aparatoj por apliki la modelon.
Kiel rezulto, TinyML maŝinlernada modelo devas esti escepte daŭrema kaj kapabla esti retrejnita post jaroj aŭ neniam esti retrejnita. Ĉiu ebla modela malsufiĉa kaj troa ĝustigas devas esti esplorita tiel ke la modelo restas grava por plilongigita tempodaŭro, ideale senfine.
Sed Kial uzi TinyML?
TinyML komenciĝis kiel klopodo forigi aŭ malpliigi la dependecon de IoT je nubaj servoj por bazaj malgrand-skalaj. maŝinlernado operacioj. Tio necesigis la uzon de maŝinlernantaj modeloj sur la randaparatoj mem. Ĝi provizas la sekvajn ĉefajn avantaĝojn:
- Malalta potenco konsumo: TinyML-apliko prefere utiligu malpli ol 1 miliVaton da potenco. Kun tia malalta elektrokonsumo, aparato povas daŭre derivi konkludojn de sensildatenoj dum monatoj aŭ jaroj, eĉ se funkciigita per monerbaterio.
- Pli malalta kosto: Ĝi estas dizajnita por funkcii per malmultekostaj 32-bitaj mikroregiloj aŭ DSP-oj. Ĉi tiuj mikroregiloj estas kutime po kelkaj cendoj, kaj la totala enigita sistemo evoluigita kun ili estas malpli ol $50. Ĉi tio estas tre kostefika opcio por ruli malgrandajn maŝinlernajn programojn grandskale, kaj ĝi estas precipe utila en IoT-aplikoj kie maŝinlernado devas esti aplikata.
- Malsupra Latenteco: Ĝiaj aplikoj havas malaltan latentecon ĉar ili ne bezonas transporti aŭ interŝanĝi datumojn tra la reto. Ĉiuj sensildatenoj estas registritaj loke, kaj konkludoj estas desegnitaj uzante modelon kiu jam estis trejnita. La rezultoj de konkludoj povas esti senditaj al servilo aŭ nubo por registri aŭ plian prilaboradon, kvankam ĉi tio ne estas esenca por ke la aparato funkciu. Ĉi tio minimumigas retan latentecon kaj forigas la bezonon de maŝinlernado operacioj por esti faritaj sur nubo aŭ servilo.
- Privateco: Ĝi estas grava zorgo en la interreto kaj kun la interreto de aferoj. La maŝinlernado laboro en TinyML-aplikoj estas farata loke, sen stokado aŭ sendado de sensiloj/uzantaj datumoj al servilo/nubo. Kiel rezulto, eĉ dum ligite al reto, ĉi tiuj aplikoj estas sekuraj uzeblaj kaj ne prezentas privatecan riskon.
aplikaĵoj
- Agrikulturo – Kiam farmistoj prenas foton de planto, la aplikaĵo de TensorFlow Lite detektas malsanojn en ĝi. Ĝi funkcias en ajna aparato kaj ne postulas interretan konekton. La proceduro protektas agrikulturajn interesojn kaj estas kritika neceso por kamparaj farmistoj.
- Mekanika Prizorgado - TinyML, se uzata sur malfortaj aparatoj, povas kontinue identigi difektojn en maŝino. Ĝi implicas antaŭdiran prizorgadon. Ping Services, aŭstralia noventrepreno, lanĉis IoT-aparaton kiu monitoras ventoturbinojn alkroĉante sin al la ekstero de la turbino. Ĝi sciigas la aŭtoritatojn kiam ajn ĝi detektas ajnan eblan problemon aŭ misfunkcion.
- Hospitaloj – La Suna Timigo estas projekto. Moskito uzas TinyML por haltigi la disvastiĝon de malsanoj kiel dengue kaj malario. Ĝi estas funkciigita per suna energio kaj detektas moskitajn reproduktajn kondiĉojn antaŭ signalado de la akvo por malhelpi moskitajn reproduktadon.
- Trafika Gvatado - De aplikante TinyML al sensiloj, kiuj kolektas realtempajn trafikajn datumojn, ni povas uzi ilin por pli bone direkti trafikon kaj redukti respondajn tempojn por krizaj veturiloj. Swim.AI, ekzemple, uzas ĉi tiun teknologion pri fluado de datumoj por pliigi pasaĝeran sekurecon samtempe reduktante obstrukciĝon kaj emisiojn per inteligenta vojigo.
- leĝo: TinyML povas esti uzita en policoj por identigi kontraŭleĝajn agojn kiel ekzemple tumultado kaj ŝtelo uzante maŝinlernadon kaj gestrekonon. Simila programo ankaŭ povas esti uzata por sekurigi bankajn ATM-ojn. Rigardante uzantkonduton, TinyML-modelo povas antaŭdiri ĉu la uzanto estas vera konsumanto kompletiganta transakcion aŭ entrudiĝinto provanta haki aŭ detrui la ATM.
Kiel komenci kun TinyML?
Por komenci kun TinyML en TensorFlow Lite, vi bezonos kongruan mikroregilan tabulon. TensorFlow Lite por Mikroregiloj subtenas la mikroregilojn listigitajn sube.
- Wio Terminalo: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI Development Board
- STM32F746 Discovery-kompleto
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM Software Development Platform
- Sony Express
- Arduino Nano 33 BLE Senco
- SparkFun Edge
- Adafruit TensorFlow Lite por Mikroregiloj Kit
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Ĉi tiuj estas 32-bitaj mikroregiloj havantaj sufiĉe da fulmmemoro, RAM kaj horloĝfrekvenco por efektivigi maŝinlernmodelon. La tabuloj ankaŭ havas kelkajn surŝipajn sensilojn kapablajn prizorgi ajnan enigitan programon kaj apliki maŝinlernajn modelojn al la celita aplikaĵo. Al konstrui maŝinlerndan modelon, vi bezonos tekkomputilon aŭ komputilon krom aparatara platformo.
Ĉiu aparatara platformo havas siajn proprajn programajn ilojn por konstrui, trejni kaj porti maŝinlernajn modelojn, kiuj uzas la pakaĵon TensorFlow Lite por Mikroregiloj. TensorFlow Lite estas libere uzi kaj modifi ĉar ĝi estas malferma fonto.
Por komenci kun TinyML kaj TensorFlow Lite, ĉio, kion vi bezonas, estas unu el la supre menciitaj enigita aparataro platformoj, komputilo/tekkomputilo, USB-kablo, USB-al-seria konvertilo - kaj la deziro praktiki maŝinlernadon kun enkonstruitaj sistemoj. .
defioj
Eĉ dum la progreso de TinyML donis multajn pozitivajn rezultojn, la maŝinlernada industrio ankoraŭ alfrontas konsiderindajn obstaklojn.
- Diverseco de programaro - Mankodigo, koda generacio kaj ML-interpretistoj estas ĉiuj elektoj por disfaldi modelojn sur TinyML-aparatoj, kaj ĉiu prenas malsaman kvanton da tempo kaj peno. Malsamaj prezentoj povas ekesti kiel rezulto de tio.
- Aparataro diverseco - Tie estas pluraj aparataj opcioj haveblaj. TinyML-platformoj povas esti io ajn de ĝeneraluzeblaj mikroregiloj ĝis avangardaj neŭralaj procesoroj. Ĉi tio kaŭzas problemojn kun modeldeplojo tra malsamaj arkitekturoj.
- Solvado/sencimigado - Kiam ML-modelo funkcias malbone en la nubo, estas simple rigardi la datumojn kaj eltrovi kio okazas malbone. Kiam modelo estas disvastigita tra miloj da TinyML-aparatoj, sen datumfluo revenanta al la nubo, senararigado fariĝas malfacila kaj povas necesigi malsaman metodon.
- Memorlimoj - Tradiciaj platformoj, kiel inteligentaj telefonoj kaj tekkomputiloj, bezonas gigabajtojn da RAM, dum TinyML-aparatoj uzas kilobajtojn aŭ megabajtojn. Kiel rezulto, la grandeco de la modelo kiu povas esti deplojita estas limigita.
- Modela trejnado – Kvankam ekzistas pluraj avantaĝoj por deploji ML-modelojn sur TinyML-aparatoj, la plejparto de ML-modeloj ankoraŭ estas trejnita sur la nubo por ripeti kaj kontinue plibonigi modelan precizecon.
estontaj
TinyML, kun ĝia malgranda piedsigno, malalta bateriokonsumo, kaj manko de aŭ limigita dependeco de interreta konektebleco, havas enorman potencialon en la estonteco, ĉar la plimulto de mallarĝaj. artefarita inteligento estos efektivigita sur randaj aparatoj aŭ sendependaj enigitaj aparatoj.
Ĝi faros IoT-aplikaĵojn pli privataj kaj sekuraj utiligante ilin. Tamen TensoroFluo Lite estas nuntempe la sola maŝinlernada kadro por mikroregiloj kaj mikrokomputiloj, aliaj kompareblaj kadroj kiel sensilo kaj CMSIS-NN de ARM estas en la laboroj.
Dum TensorFlow Lite estas malfermfonta projekto en progreso, kiu ekfaris bonegan komencon kun la Teamo de Google, ĝi ankoraŭ bezonas komunuman subtenon por eniri la ĉeftendencon.
konkludo
TinyML estas nova aliro, kiu kombinas enigitajn sistemojn kun maŝinlernado. Ĉar la mallarĝa AI pintas en multaj vertikaloj kaj domajnoj, la teknologio povas aperi kiel elstara subkampo en maŝinlernado kaj artefarita inteligenteco.
Ĝi provizas solvon al multaj defioj, kiujn la IoT-sektoro kaj profesiuloj aplikantaj maŝinlernadon al multaj domajnaj specifaj disciplinoj nun alfrontas.
La koncepto uzi maŝinlernadon ĉe randaj aparatoj kun malgranda komputado piedsigno kaj elektrokonsumo havas la potencialon signife transformi kiel enkonstruitaj sistemoj kaj robotiko estas konstruitaj.
Lasi Respondon