Maşın Öyrənmə modelləri hazırda hər yerdədir. Gün ərzində siz yəqin ki, bu modellərdən düşündüyünüzdən daha çox istifadə edirsiniz. Maşın öyrənmə modelləri sosial mediaya baxmaq, fotoşəkil çəkmək və havanı yoxlamaq kimi ümumi vəzifələrdə istifadə olunur.
Maşın öyrənmə alqoritmi bu bloqu sizə tövsiyə etmiş ola bilər. Bu modelləri öyrətməyin nə qədər vaxt apardığını hamımız eşitmişik. Hamımız eşitmişik ki, bu modelləri öyrətmək çox vaxt aparır.
Bununla belə, bu modellər üzərində nəticə çıxarmaq çox vaxt hesablama baxımından baha başa gəlir.
Bizə maşın öyrənmə xidmətlərindən istifadə etdiyimiz sürəti idarə etmək üçün kifayət qədər sürətli kompüter sistemlərinə ehtiyacımız var. Nəticədə, bu modellərin əksəriyyəti CPU və GPU klasterləri (bəzi hallarda hətta TPU) olan kütləvi məlumat mərkəzlərində işləyir.
Şəkil çəkəndə istəyirsən maşın təlim onu dərhal təkmilləşdirmək. Şəklin məlumat mərkəzinə köçürülməsini, işlənməsini və sizə qaytarılmasını gözləmək istəmirsiniz. Bu halda, maşın öyrənmə modeli yerli olaraq icra edilməlidir.
“Hey Siri” və ya “OK, Google” dediyiniz zaman qadcetlərinizin dərhal cavab verməsini istəyirsiniz. Səsinizin qiymətləndiriləcəyi və məlumatların alınacağı kompüterlərə ötürülməsini gözləyirik.
Bu, vaxt aparır və istifadəçi təcrübəsinə mənfi təsir göstərir. Bu halda, siz maşın öyrənmə modelinin yerli olaraq da işləməsini istəyirsiniz. TinyML-in girdiyi yer budur.
Bu yazıda biz TinyML-ə, onun necə işlədiyinə, istifadəsinə, onunla necə başlamaq lazım olduğuna və daha çox şeyə baxacağıq.
Nədir TinyML?
TinyML, maşın öyrənməsinin inqilabi potensialını kiçik cihazların və quraşdırılmış sistemlərin performans və güc məhdudiyyətlərinə tətbiq edən qabaqcıl bir intizamdır.
Bu sənayedə uğurlu yerləşdirmə proqramlar, alqoritmlər, aparat və proqram təminatının hərtərəfli başa düşülməsini tələb edir. Mikrokontrollerlər, rəqəmsal siqnal prosessorları və ya digər ultra aşağı güclü ixtisaslaşmış prosessorlardan istifadə edən daxili sistemlərdə dərin öyrənmə və maşın öyrənmə modellərindən istifadə edən maşın öyrənməsi alt janrıdır.
TinyML-i aktivləşdirən daxili qurğular, adətən cihazın bir hissəsi kimi, müəyyən bir iş üçün maşın öyrənmə alqoritmini işlətmək üçün nəzərdə tutulub. kənar hesablama.
Yenidən doldurulmadan və ya batareya dəyişdirilmədən həftələr, aylar və hətta illərlə işləmək üçün bu quraşdırılmış sistemlərin enerji istehlakı 1 mVt-dan az olmalıdır.
Necə işləyir?
Mikrokontrollerlər və kompüterlərlə istifadə edilə bilən yeganə maşın öyrənmə çərçivəsidir TensorFlow Lite. Bu, tərtibatçılara öz modellərini mobil, quraşdırılmış və kənar cihazlarda işlətməyə imkan verən alətlər dəstidir və tez bir zamanda maşın öyrənməsinə imkan verir.
Mikrokontrolörün interfeysi sensorlardan (mikrofonlar, kameralar və ya quraşdırılmış sensorlar kimi) məlumat toplamaq üçün istifadə olunur.
Mikrokontrollerə göndərilməzdən əvvəl məlumatlar bulud əsaslı maşın öyrənmə modelinə daxil edilir. Bu modelləri öyrətmək üçün oflayn rejimdə toplu təlim adətən istifadə olunur. Üçün istifadə olunacaq sensor məlumatları öyrənmək və nəticə çıxarmaq xüsusi tətbiq üçün artıq müəyyən edilmişdir.
Model oyanmış sözü aşkar etmək üçün öyrədilirsə, məsələn, o, mikrofondan davamlı səs axınını idarə etmək üçün artıq qurulub.
TensorFlow Lite vəziyyətində hər şey artıq Google Colab kimi bulud platformasının köməyi ilə həyata keçirilir, o cümlədən verilənlər toplusunun seçilməsi, normallaşdırılması, modelin uyğunsuzluğu və ya həddindən artıq uyğunlaşdırılması, nizamlanması, məlumatların artırılması, təlim, yoxlama və sınaq.
Tam təlim keçmiş model nəhayət çevrilir və oflayn toplu təlimdən sonra mikrokontrollerə, mikrokompüterə və ya rəqəmsal siqnal prosessoruna ötürülür. Quraşdırılmış cihaza köçürüldükdən sonra modelin əlavə təlimi yoxdur. Bunun əvəzinə, modeli tətbiq etmək üçün yalnız sensorlar və ya giriş cihazlarından real vaxt məlumatlarından istifadə edir.
Nəticədə, TinyML maşın öyrənmə modeli müstəsna dərəcədə davamlı olmalıdır və illər sonra yenidən hazırlana və ya heç vaxt yenidən hazırlanmamalıdır. Modelin uzun müddət, ideal olaraq qeyri-müəyyən müddətə uyğun qalması üçün bütün potensial modelin uyğunsuzluğu və həddindən artıq uyğunluğu araşdırılmalıdır.
Bəs niyə TinyML istifadə edirsiniz?
TinyML, IoT-nin əsas kiçik miqyasda bulud xidmətlərinə olan etibarını aradan qaldırmaq və ya azaltmaq üçün bir səy olaraq başladı. maşın təlim əməliyyatlar. Bu, kənar cihazların özlərində maşın öyrənmə modellərinin istifadəsini zəruri etdi. Aşağıdakı əsas üstünlükləri təmin edir:
- Az enerji istehlak: TinyML tətbiqi tercihen 1 milliVattdan az gücdən istifadə etməlidir. Belə aşağı enerji istehlakı ilə cihaz, hətta sikkə batareya ilə təchiz olunsa belə, aylar və ya illər ərzində sensor məlumatlarından nəticə çıxarmağa davam edə bilər.
- Daha aşağı qiymət: O, aşağı qiymətli 32-bit mikrokontrollerlər və ya DSP-lərdə işləmək üçün nəzərdə tutulmuşdur. Bu mikrokontrollerlərin hər biri adətən bir neçə sentdir və onlarla birlikdə hazırlanmış ümumi quraşdırılmış sistem 50 dollardan azdır. Bu, kiçik maşın öyrənmə proqramlarını böyük miqyasda idarə etmək üçün çox sərfəli seçimdir və xüsusilə maşın öyrənməsinin tətbiq edilməli olduğu IoT tətbiqlərində faydalıdır.
- Aşağı Gecikmə: Şəbəkə üzərindən məlumatların daşınmasına və ya mübadiləsinə ehtiyac olmadığı üçün onun tətbiqləri aşağı gecikmə müddətinə malikdir. Bütün sensor məlumatları yerli olaraq qeyd olunur və nəticələr artıq öyrədilmiş bir modeldən istifadə edərək çıxarılır. Nəticələrin nəticələri giriş və ya əlavə emal üçün server və ya buluda göndərilə bilər, baxmayaraq ki, bu, cihazın işləməsi üçün vacib deyil. Bu, şəbəkə gecikməsini minimuma endirir və bulud və ya serverdə maşın öyrənmə əməliyyatlarına ehtiyacı aradan qaldırır.
- Məxfilik: İnternetdə və əşyaların internetində bu, böyük narahatlıq doğurur. TinyML tətbiqlərində maşın öyrənmə işi sensor/istifadəçi məlumatlarını serverə/buludda saxlamadan və ya göndərmədən yerli olaraq həyata keçirilir. Nəticədə, hətta şəbəkəyə qoşulduqda belə, bu proqramların istifadəsi təhlükəsizdir və heç bir məxfilik riski yaratmır.
Applications
- Kənd təsərrüfatı - Nə vaxt fermerlər bitkinin fotosunu çəkirlər, TensorFlow Lite tətbiqi bitkidəki xəstəlikləri aşkar edir. İstənilən cihazda işləyir və internet bağlantısı tələb etmir. Prosedura kənd təsərrüfatının maraqlarını qoruyur və kənd fermerləri üçün kritik zərurətdir.
- Mexanika Baxımı – TinyML, aşağı güclü cihazlarda istifadə edildikdə, maşındakı qüsurları daim müəyyən edə bilər. Bu, proqnoza əsaslanan texniki xidmət tələb edir. Avstraliyanın startapı olan Ping Services külək turbinlərinə özünü turbinin kənarına bağlayaraq monitorinq edən IoT qadcetini təqdim edib. Hər hansı bir problem və ya nasazlıq aşkar etdikdə səlahiyyətlilərə məlumat verir.
- Xəstəxanalar - The Solar Scare bir layihədir. Ağcaqanadlar dang və malyariya kimi xəstəliklərin yayılmasını dayandırmaq üçün TinyML-dən istifadə edirlər. O, günəş enerjisi ilə işləyir və ağcaqanadların çoxalmasına mane olmaq üçün suya siqnal verməzdən əvvəl ağcaqanadların çoxalma şəraitini aşkar edir.
- Trafik Nəzarəti - By TinyML-i real vaxt rejimində trafik məlumatlarını toplayan sensorlara tətbiq etməklə biz onlardan trafiki daha yaxşı yönləndirmək və təcili yardım maşınları üçün cavab vaxtlarını azaltmaq üçün istifadə edə bilərik. Məsələn, Swim.AI, sərnişinlərin təhlükəsizliyini artırmaq, eyni zamanda ağıllı marşrutlaşdırma vasitəsilə tıxac və emissiyaları azaltmaq üçün məlumatların ötürülməsində bu texnologiyadan istifadə edir.
- Hüquq: TinyML hüquq-mühafizə orqanlarında maşın öyrənməsi və jestlərin tanınmasından istifadə edərək iğtişaş və oğurluq kimi qeyri-qanuni hərəkətləri müəyyən etmək üçün istifadə edilə bilər. Oxşar proqram bankomatların təhlükəsizliyini təmin etmək üçün də istifadə edilə bilər. İstifadəçi davranışını izləməklə, TinyML modeli istifadəçinin tranzaksiyanı tamamlayan real istehlakçı və ya ATM-i sındırmağa və ya məhv etməyə cəhd edən təcavüzkar olduğunu təxmin edə bilər.
TinyML ilə necə başlamaq olar?
TensorFlow Lite-də TinyML ilə işə başlamaq üçün sizə uyğun mikrokontroller lövhəsi lazımdır. Mikrokontrollerlər üçün TensorFlow Lite aşağıda sadalanan mikrokontrollerləri dəstəkləyir.
- Wio Terminalı: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI İnkişaf Şurası
- STM32F746 kəşf dəsti
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM Proqram təminatının İnkişafı Platforması
- Sony Express
- Arduino Nano 33 BLE Sense
- SparkFun Edge
- Mikrokontrollerlər dəsti üçün Adafruit TensorFlow Lite
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Bunlar maşın öyrənmə modelini yerinə yetirmək üçün kifayət qədər fləş yaddaşa, operativ yaddaşa və saat tezliyinə malik 32 bitlik mikrokontrollerlərdir. Lövhələrdə hər hansı bir quraşdırılmış proqramı işə salmaq və məqsədli tətbiqə maşın öyrənmə modellərini tətbiq etmək iqtidarında olan bir sıra daxili sensorlar da var. Kimə maşın öyrənmə modelini qurun, sizə hardware platformasına əlavə olaraq noutbuk və ya kompüter lazımdır.
Hər bir aparat platforması Mikronəzarətçilər üçün TensorFlow Lite paketindən istifadə edən maşın öyrənmə modellərinin qurulması, öyrədilməsi və daşınması üçün öz proqramlaşdırma alətlərinə malikdir. TensorFlow Lite istifadə etmək və dəyişdirmək pulsuzdur, çünki odur açıq mənbə.
TinyML və TensorFlow Lite ilə başlamaq üçün sizə lazım olan tək şey yuxarıda qeyd olunan quraşdırılmış aparat platformalarından biri, kompüter/noutbuk, USB kabel, USB-dən seriyaya çevirici – və quraşdırılmış sistemlərlə maşın öyrənməsi təcrübəsi etmək istəyidir. .
Problemlər
TinyML-in tərəqqisi bir çox müsbət nəticələr versə də, maşın öyrənmə sənayesi hələ də xeyli maneələrlə üzləşir.
- Proqram təminatı müxtəlifliyi – Əl ilə kodlaşdırma, kod yaratma və ML tərcüməçiləri TinyML cihazlarında modelləri yerləşdirmək üçün bütün seçimlərdir və hər biri fərqli vaxt və səy tələb edir. Bunun nəticəsində müxtəlif tamaşalar yarana bilər.
- Avadanlıq müxtəlifliyi - Orada bir neçə hardware variantları mövcuddur. TinyML platformaları ümumi təyinatlı mikro nəzarətçilərdən tutmuş ən müasir neyron prosessorlarına qədər hər şey ola bilər. Bu, müxtəlif arxitekturalarda model yerləşdirmə ilə bağlı problemlərə səbəb olur.
- Problemlərin aradan qaldırılması/sazlanması - Nə vaxt ML modeli buludda zəif işləyir, məlumatlara baxmaq və nəyin səhv olduğunu anlamaq asandır. Model minlərlə TinyML cihazı arasında yayıldıqda və buludda heç bir məlumat axını geri qayıtmazsa, sazlama çətinləşir və fərqli üsul tələb oluna bilər.
- Yaddaş məhdudiyyətləri - Ənənəvi smartfonlar və noutbuklar kimi platformalar üçün gigabayt RAM tələb olunur, TinyML cihazları isə kilobayt və ya meqabaytdan istifadə edir. Nəticədə, tətbiq oluna biləcək modelin ölçüsü məhduddur.
- Model təlimi – Baxmayaraq ki TinyML cihazlarında ML modellərini yerləşdirməyin bir sıra üstünlükləri var, ML modellərinin əsas hissəsi model dəqiqliyini təkrarlamaq və davamlı olaraq təkmilləşdirmək üçün hələ də buludda öyrədilir.
Gələcək
Kiçik ərazisi, aşağı batareya istehlakı və internet bağlantısının olmaması və ya məhdud olması ilə TinyML, dar istifadəçilərin əksəriyyəti kimi gələcəkdə böyük potensiala malikdir. süni intellekt kənar cihazlarda və ya müstəqil quraşdırılmış qadcetlərdə həyata keçiriləcək.
O, IoT tətbiqlərini istifadə edərək onları daha özəl və təhlükəsiz edəcək. Baxmayaraq ki TensorFlow Lite hazırda mikrokontrollerlər və mikrokompüterlər üçün yeganə maşın öyrənmə çərçivəsidir, sensor və ARM-in CMSIS-NN kimi digər müqayisəli çərçivələr işlərdədir.
TensorFlow Lite, Google Komandası ilə möhtəşəm bir başlanğıca imza atmış açıq mənbəli layihə olsa da, əsas istiqamətə daxil olmaq üçün hələ də icma dəstəyinə ehtiyac duyur.
Nəticə
TinyML, quraşdırılmış sistemləri maşın öyrənməsi ilə birləşdirən yeni bir yanaşmadır. Dar AI bir çox şaquli və domenlərdə zirvəyə çatdıqda, texnologiya maşın öyrənməsi və süni intellektdə görkəmli bir alt sahə kimi ortaya çıxa bilər.
Bu, IoT sektorunun və maşın öyrənməsini bir çox domenə xas fənlərə tətbiq edən mütəxəssislərin indi üzləşdiyi çoxsaylı problemlərin həllini təmin edir.
Maşın öyrənməsindən istifadə konsepsiyası kiçik hesablama ilə kənar cihazlar iz və enerji istehlakı, quraşdırılmış sistemlərin və robototexnikanın necə qurulduğunu əhəmiyyətli dərəcədə dəyişdirmək potensialına malikdir.
Cavab yaz