Machine Learning modellari hozir hamma joyda. Kun davomida siz ushbu modellardan o'ylaganingizdan ham ko'proq foydalanasiz. Mashinani o'rganish modellari ijtimoiy tarmoqlarni ko'rish, suratga olish va ob-havoni tekshirish kabi umumiy vazifalarda qo'llaniladi.
Mashinani o'rganish algoritmi ushbu blogni sizga tavsiya qilgan bo'lishi mumkin. Ushbu modellarni o'rgatish qanchalik ko'p vaqt talab qilishi haqida hammamiz eshitganmiz. Biz hammamiz eshitganmiz, bu modellarni o'rgatish ko'p vaqt talab etadi.
Biroq, ushbu modellar bo'yicha xulosa chiqarish ko'pincha hisoblash uchun qimmatga tushadi.
Bizga mashinani o'rganish xizmatlaridan foydalanish tezligini boshqarish uchun etarlicha tez bo'lgan kompyuter tizimlari kerak. Natijada, ushbu modellarning aksariyati protsessor va GPU klasterlariga ega (hatto ba'zi hollarda TPU) bo'lgan yirik ma'lumotlar markazlarida ishlaydi.
Rasmga tushganingizda, xohlaysiz kompyuterni o'rganish uni darhol yaxshilash uchun. Rasm ma'lumotlar markaziga o'tkazilishi, qayta ishlanishi va sizga qaytarilishini kutishingiz shart emas. Bunday holda, mashinani o'rganish modeli mahalliy sifatida bajarilishi kerak.
“Hey Siri” yoki “OK, Google” desangiz, gadjetlaringiz darhol javob berishini xohlaysiz. Sizning ovozingiz kompyuterlarga uzatilishini kuting, u erda u baholanadi va ma'lumotlar olinadi.
Bu vaqt talab etadi va foydalanuvchi tajribasiga yomon ta'sir qiladi. Bunday holda, siz mashinani o'rganish modeli mahalliy darajada ishlashini xohlaysiz. Bu erda TinyML kiradi.
Ushbu postda biz TinyML-ni, uning qanday ishlashini, qanday ishlatilishini, uni qanday boshlashni va yana ko'p narsalarni ko'rib chiqamiz.
Nima bu TinyML?
TinyML - bu mashinani o'rganishning inqilobiy salohiyatini kichik qurilmalar va o'rnatilgan tizimlarning ishlashi va quvvat chegaralariga qo'llaydigan eng zamonaviy intizom.
Ushbu sohada muvaffaqiyatli joylashtirish ilovalar, algoritmlar, apparat va dasturiy ta'minotni to'liq tushunishni talab qiladi. Bu mikrokontrollerlar, raqamli signal protsessorlari yoki boshqa o'ta kam quvvatli maxsus protsessorlardan foydalanadigan o'rnatilgan tizimlarda chuqur o'rganish va mashinani o'rganish modellaridan foydalanadigan mashinani o'rganish subjanri.
TinyML-ga o'rnatilgan o'rnatilgan qurilmalar ma'lum bir ish uchun mashinani o'rganish algoritmini ishga tushirish uchun mo'ljallangan, odatda qurilmaning bir qismi sifatida. chekka hisoblash.
Zaryadlash yoki batareyani almashtirmasdan haftalar, oylar va hatto yillar davomida ishlashi uchun ushbu o'rnatilgan tizimlar 1 mVt dan kam quvvat sarfiga ega bo'lishi kerak.
Bu qanday ishlaydi?
Mikrokontrollerlar va kompyuterlar bilan ishlatilishi mumkin bo'lgan yagona mashinani o'rganish tizimi TensorFlow Lite. Bu ishlab chiquvchilarga o‘z modellarini mobil, o‘rnatilgan va chekka qurilmalarda ishlatish imkonini beruvchi vositalar to‘plami bo‘lib, mashinani tezda o‘rganish imkonini beradi.
Mikrokontroller interfeysi sensorlardan (mikrofonlar, kameralar yoki o'rnatilgan sensorlar kabi) ma'lumotlarni yig'ish uchun ishlatiladi.
Mikrokontrollerga yuborishdan oldin ma'lumotlar bulutga asoslangan mashinani o'rganish modeliga kiritilgan. Ushbu modellarni o'rgatish uchun odatda oflayn rejimda ommaviy o'qitish qo'llaniladi. Sensor ma'lumotlari uchun ishlatiladi o'rganish va xulosa chiqarish maxsus dastur uchun allaqachon aniqlangan.
Agar model uyg'ongan so'zni aniqlashga o'rgatilgan bo'lsa, masalan, u mikrofondan uzluksiz audio oqimini boshqarish uchun allaqachon sozlangan.
TensorFlow Lite holatida hamma narsa allaqachon Google Colab kabi bulutli platforma yordamida amalga oshirilgan, jumladan ma'lumotlar to'plamini tanlash, normallashtirish, modelni to'liq moslashtirish yoki haddan tashqari moslashtirish, tartibga solish, ma'lumotlarni ko'paytirish, o'qitish, tekshirish va sinovdan o'tkazish.
To'liq o'qitilgan model oxir-oqibat o'zgartiriladi va oflayn paketli treningdan so'ng mikrokontroller, mikrokompyuter yoki raqamli signal protsessoriga o'tkaziladi. Model o'rnatilgan qurilmaga ko'chirilgandan so'ng qo'shimcha ta'limga ega emas. Buning o'rniga, modelni qo'llash uchun faqat sensorlar yoki kiritish qurilmalaridan real vaqt rejimidagi ma'lumotlardan foydalanadi.
Natijada, TinyML mashinasini o'rganish modeli juda bardoshli bo'lishi va yillar o'tib qayta o'qitilishi yoki hech qachon qayta o'qitilmasligi kerak. Model uzoq vaqt davomida, ideal holda cheksiz vaqt davomida dolzarb bo'lib qolishi uchun barcha potentsial modelning noto'g'ri va ortiqcha mosligi tekshirilishi kerak.
Lekin nima uchun TinyML dan foydalanish kerak?
TinyML IoT ning asosiy kichik miqyosdagi bulut xizmatlariga bo'lgan bog'liqligini yo'q qilish yoki kamaytirishga urinish sifatida boshlangan. kompyuterni o'rganish operatsiyalar. Bu chekka qurilmalarda mashinani o'rganish modellaridan foydalanishni talab qildi. U quyidagi asosiy afzalliklarni beradi:
- Kam quvvat iste'mol: TinyML ilovasi 1 milliVattdan kam quvvat ishlatishi kerak. Bunday kam quvvat iste'moli bilan qurilma, hatto tanga batareyasi bilan quvvatlansa ham, sensor ma'lumotlaridan oylar yoki yillar davomida xulosa chiqarishda davom etishi mumkin.
- Kam xarajat: U arzon 32-bitli mikrokontrollerlar yoki DSP-larda ishlash uchun mo'ljallangan. Ushbu mikrokontrollerlar odatda bir necha tsentni tashkil qiladi va ular bilan ishlab chiqilgan umumiy o'rnatilgan tizim 50 dollardan kam. Bu kichik mashinalarni o'rganish dasturlarini keng miqyosda ishlatish uchun juda tejamkor variant va bu, ayniqsa, mashinani o'rganish qo'llanilishi kerak bo'lgan IoT ilovalarida foydalidir.
- Pastki kechikish: Uning ilovalari past kechikishga ega, chunki ular tarmoq orqali ma'lumotlarni tashish yoki almashishni talab qilmaydi. Barcha sensor ma'lumotlari mahalliy sifatida qayd etiladi va xulosalar allaqachon o'qitilgan model yordamida chiqariladi. Xulosa natijalari jurnalga yozish yoki qo'shimcha ishlov berish uchun server yoki bulutga yuborilishi mumkin, garchi bu qurilma ishlashi uchun muhim emas. Bu tarmoqning kechikishini kamaytiradi va bulut yoki serverda mashinani o'rganish operatsiyalariga ehtiyojni yo'q qiladi.
- Maxfiylik: Bu internetda va narsalar internetida katta tashvish. TinyML ilovalaridagi mashinani o'rganish ishi sensor/foydalanuvchi ma'lumotlarini serverga/bulutga saqlamasdan yoki jo'natmasdan mahalliy ravishda amalga oshiriladi. Natijada, hatto tarmoqqa ulangan bo'lsa ham, ushbu ilovalardan foydalanish xavfsiz va maxfiylik uchun hech qanday xavf tug'dirmaydi.
ilovalar
- Qishloq xo'jaligi - qachon fermerlar o‘simlik suratini olishadi, TensorFlow Lite ilovasi undagi kasalliklarni aniqlaydi. U har qanday qurilmada ishlaydi va internetga ulanishni talab qilmaydi. Ushbu tartib qishloq xo'jaligi manfaatlarini himoya qiladi va qishloq fermerlari uchun muhim zaruratdir.
- Mexanikaga texnik xizmat ko'rsatish – TinyML kam quvvatli qurilmalarda ishlatilsa, doimiy ravishda mashinadagi kamchiliklarni aniqlay oladi. Bu bashoratga asoslangan parvarishlashni o'z ichiga oladi. Avstraliyalik startap Ping Services turbinaning tashqi qismiga ulangan holda shamol turbinalarini kuzatuvchi IoT gadjetini taqdim etdi. U har qanday muammo yoki nosozlik aniqlanganda hokimiyatni xabardor qiladi.
- Kasalxonalar - The Solar Scare - bu loyiha. Chivin TinyML dan dang va bezgak kabi kasalliklarning tarqalishini to'xtatish uchun foydalanadi. U quyosh energiyasidan quvvat oladi va chivin ko'payishiga to'sqinlik qilish uchun suvga signal berishdan oldin chivin ko'payish sharoitlarini aniqlaydi.
- Yo'l harakati nazorati - tomonidan TinyML-ni real vaqtda trafik ma'lumotlarini to'playdigan sensorlarga qo'llash orqali biz ulardan trafikni yaxshiroq yo'naltirish va favqulodda vaziyatlar vositalari uchun javob vaqtini qisqartirish uchun foydalanishimiz mumkin. Masalan, Swim.AI yo‘lovchilar xavfsizligini oshirish hamda aqlli marshrutlash orqali tirbandlik va chiqindilarni kamaytirish uchun ma’lumotlarni uzatishda ushbu texnologiyadan foydalanadi.
- qonun: TinyML huquqni muhofaza qilish organlarida mashina oʻrganish va imo-ishoralarni aniqlashdan foydalangan holda tartibsizlik va oʻgʻirlik kabi noqonuniy harakatlarni aniqlash uchun ishlatilishi mumkin. Shunga o'xshash dastur bankomatlarni himoya qilish uchun ham ishlatilishi mumkin. TinyML modeli foydalanuvchi xatti-harakatlarini kuzatish orqali foydalanuvchi tranzaktsiyani yakunlayotgan haqiqiy iste'molchimi yoki bankomatni buzish yoki yo'q qilishga urinayotgan tajovuzkor ekanligini taxmin qilishi mumkin.
TinyML-ni qanday boshlash kerak?
TensorFlow Lite-da TinyML-dan foydalanishni boshlash uchun sizga mos mikrokontroller platasi kerak bo'ladi. Mikrokontrollerlar uchun TensorFlow Lite quyida sanab o'tilgan mikrokontrollerlarni qo'llab-quvvatlaydi.
- Wio terminali: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI rivojlantirish kengashi
- STM32F746 kashfiyot to'plami
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM dasturiy ta'minotni ishlab chiqish platformasi
- Sony Express
- Arduino Nano 33 BLE Sense
- SparkFun Edge
- Mikrokontrollerlar to'plami uchun Adafruit TensorFlow Lite
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Bular mashinani o'rganish modelini bajarish uchun etarli flesh-xotira, operativ xotira va soat chastotasiga ega bo'lgan 32-bitli mikrokontrollerlardir. Plitalar, shuningdek, har qanday o'rnatilgan dasturni ishga tushirishga va maqsadli dasturga mashina o'rganish modellarini qo'llashga qodir bo'lgan bir qator bort sensorlariga ega. Kimga mashinani o'rganish modelini yaratish, sizga apparat platformasiga qo'shimcha ravishda noutbuk yoki kompyuter kerak bo'ladi.
Har bir apparat platformasi Microcontrollers uchun TensorFlow Lite paketidan foydalanadigan mashinani o'rganish modellarini yaratish, o'qitish va ko'chirish uchun o'z dasturiy vositalariga ega. TensorFlow Lite-dan foydalanish va o'zgartirish bepul, chunki u Ochiq manba.
TinyML va TensorFlow Lite-dan foydalanishni boshlash uchun sizga kerak bo'lgan narsa - yuqorida aytib o'tilgan o'rnatilgan apparat platformalaridan biri, kompyuter/noutbuk, USB kabeli, USB-dan seriyali konvertor - va o'rnatilgan tizimlar bilan mashina o'rganishni mashq qilish istagi. .
muammolari
TinyML taraqqiyoti ko'plab ijobiy natijalar bergan bo'lsa ham, mashinani o'rganish sanoati hali ham katta to'siqlarga duch kelmoqda.
- Dasturiy ta'minot xilma-xilligi - Qo'lda kodlash, kod yaratish va ML tarjimonlari TinyML qurilmalarida modellarni joylashtirishning barcha variantlari bo'lib, ularning har biri har xil vaqt va kuch sarflaydi. Buning natijasida turli xil spektakllar paydo bo'lishi mumkin.
- Uskuna xilma-xilligi - U erda bir nechta apparat variantlari mavjud. TinyML platformalari umumiy maqsadli mikrokontrollerlardan tortib eng zamonaviy neyron protsessorlarigacha bo'lgan har qanday narsa bo'lishi mumkin. Bu turli arxitekturalarda modelni joylashtirish bilan bog'liq muammolarni keltirib chiqaradi.
- Muammolarni bartaraf etish/disk raskadrovka - Qachon ML modeli bulutda yomon ishlaydi, ma'lumotlarga qarash va nima noto'g'ri ekanligini aniqlash oson. Model minglab TinyML qurilmalariga tarqatilganda, bulutga hech qanday ma'lumot oqimi qaytmasa, disk raskadrovka qiyinlashadi va boshqa usulni talab qilishi mumkin.
- Xotira cheklovlari - an'anaviy smartfonlar va noutbuklar kabi platformalar uchun gigabayt operativ xotira kerak, TinyML qurilmalari esa kilobayt yoki megabaytdan foydalanadi. Natijada, joylashtirilishi mumkin bo'lgan modelning o'lchami cheklangan.
- Modelli trening - Garchi TinyML qurilmalarida ML modellarini o'rnatishning bir qancha afzalliklari bor, ML modellarining asosiy qismi hali ham model aniqligini takrorlash va yaxshilash uchun bulutda o'qitiladi.
kelajak
TinyML o'zining kichik maydoni, kam batareya iste'moli va Internetga ulanishning etishmasligi yoki cheklanganligi bilan kelajakda ulkan salohiyatga ega, chunki ko'pchilik tor sun'iy intellekt chekka qurilmalarda yoki mustaqil o'rnatilgan gadjetlarda amalga oshiriladi.
Bu IoT ilovalaridan foydalanish orqali ularni yanada shaxsiy va xavfsiz qiladi. Garchi TensorFlow Lite hozirda mikrokontrollerlar va mikrokompyuterlar uchun yagona mashinani o'rganish tizimi bo'lib, sensor va ARM ning CMSIS-NN kabi boshqa taqqoslanadigan ramkalar ishlamoqda.
TensorFlow Lite ochiq manbali loyiha bo'lib, Google jamoasi bilan ajoyib ish boshlagan bo'lsa-da, asosiy oqimga kirish uchun u hali ham jamoatchilik yordamiga muhtoj.
Xulosa
TinyML - bu o'rnatilgan tizimlarni mashinani o'rganish bilan birlashtirgan yangi yondashuv. Tor AI ko'plab vertikal va domenlarda cho'qqisiga chiqqanligi sababli, texnologiya mashinani o'rganish va sun'iy intellektda taniqli kichik soha sifatida paydo bo'lishi mumkin.
Bu IoT sektori va mashinani o'rganishni ko'plab domenga xos fanlarda qo'llaydigan mutaxassislar duch keladigan ko'plab muammolarni hal qiladi.
Mashinani o'rganishdan foydalanish tushunchasi kichik hisoblash bilan chekka qurilmalar oyoq izi va quvvat iste'moli o'rnatilgan tizimlar va robototexnika qurilishini sezilarli darajada o'zgartirish imkoniyatiga ega.
Leave a Reply