Machine Learning модельдері қазір барлық жерде. Күндізгі уақытта сіз бұл үлгілерді сіз ойлағаннан да көп пайдаланасыз. Машиналық оқыту үлгілері әлеуметтік желілерді шолу, суретке түсіру және ауа райын тексеру сияқты жалпы тапсырмаларда қолданылады.
Машиналық оқыту алгоритмі бұл блогты сізге ұсынған болуы мүмкін. Бұл үлгілерді үйрету қаншалықты көп уақытты қажет ететінін бәріміз естідік. Бұл үлгілерді үйрету көп уақытты қажет ететінін бәріміз естідік.
Дегенмен, бұл модельдер бойынша қорытынды жасау көбінесе есептеу үшін қымбатқа түседі.
Бізге машиналық оқыту қызметтерін пайдалану жылдамдығын өңдеу үшін жеткілікті жылдам компьютерлік жүйелер қажет. Нәтижесінде, бұл модельдердің көпшілігі CPU және GPU кластерлері (кейбір жағдайларда тіпті TPU) бар үлкен деректер орталықтарында жұмыс істейді.
Сіз суретке түсіргенде, сіз қалайсыз машина оқыту оны бірден жақсарту үшін. Кескіннің деректер орталығына тасымалдануын, өңделуін және сізге қайтарылуын күтудің қажеті жоқ. Бұл жағдайда машиналық оқыту үлгісі жергілікті түрде орындалуы керек.
«Hey Siri» немесе «OK, Google» деп айтқан кезде, гаджеттердің дереу жауап беруін қалайсыз. Сіздің дауысыңыз бағаланатын және деректер алынатын компьютерлерге берілуін күту.
Бұл уақытты алады және пайдаланушы тәжірибесіне зиянды әсер етеді. Бұл жағдайда сіз машинаны оқыту моделінің жергілікті жерде де жұмыс істеуін қалайсыз. Бұл жерде TinyML кіреді.
Бұл постта біз TinyML-ді, оның қалай жұмыс істейтінін, оны қолдануын, оны қалай бастау керектігін және т.б. қарастырамыз.
қандай TinyML?
TinyML - машиналық оқытудың революциялық әлеуетін шағын құрылғылар мен ендірілген жүйелердің өнімділігі мен қуат шектеулеріне қолданатын озық пән.
Бұл салада сәтті орналастыру қолданбаларды, алгоритмдерді, аппараттық құралдарды және бағдарламалық қамтамасыз етуді мұқият түсінуді қажет етеді. Бұл микроконтроллерлерді, цифрлық сигнал процессорларын немесе басқа аса төмен қуатты мамандандырылған процессорларды пайдаланатын ендірілген жүйелерде терең оқыту және машиналық оқыту үлгілерін пайдаланатын машиналық оқыту қосалқы жанры.
TinyML қосылған ендірілген құрылғылар, әдетте құрылғының бөлігі ретінде белгілі бір тапсырма үшін машиналық оқыту алгоритмін іске қосуға арналған. шеткі есептеу.
Қайта зарядтаусыз немесе батареяны ауыстырмай апталар, айлар немесе тіпті жылдар бойы жұмыс істеу үшін бұл ендірілген жүйелердің қуат тұтынуы 1 мВт-тан аз болуы керек.
Бұл қалай жұмыс істейді?
Микроконтроллерлер мен компьютерлерде қолдануға болатын жалғыз машиналық оқыту жүйесі TensorFlow Lite. Бұл әзірлеушілерге модельдерін мобильді, ендірілген және шеткі құрылғыларда іске қосуға мүмкіндік беретін құралдар жиынтығы, машинаны жылдам үйренуге мүмкіндік береді.
Микроконтроллердің интерфейсі сенсорлардан (микрофондар, камералар немесе ендірілген сенсорлар сияқты) деректерді жинау үшін пайдаланылады.
Микроконтроллерге жіберілмес бұрын деректер бұлтқа негізделген машиналық оқыту үлгісіне біріктірілген. Офлайн режимде пакеттік оқыту әдетте осы үлгілерді үйрету үшін қолданылады. үшін пайдаланылатын сенсор деректері оқу және қорытынды жасау арнайы қолданба үшін әлдеқашан анықталған.
Егер үлгі оянған сөзді анықтауға үйретілсе, мысалы, ол микрофоннан үздіксіз дыбыс ағынын өңдеуге әлдеқашан орнатылған.
Барлығы TensorFlow Lite жағдайында Google Colab сияқты бұлттық платформаның көмегімен жасалған, соның ішінде деректер жиынтығын таңдау, қалыпқа келтіру, үлгіні жеткіліксіз немесе шамадан тыс орнату, реттеу, деректерді көбейту, оқыту, тексеру және тестілеу.
Толық дайындалған модель, сайып келгенде, офлайн пакеттік оқытудан кейін микроконтроллерге, микрокомпьютерге немесе цифрлық сигнал процессорына ауыстырылады және ауыстырылады. Енгізілген құрылғыға ауыстырылғаннан кейін үлгіде қосымша дайындық жоқ. Оның орнына ол модельді қолдану үшін сенсорлардан немесе енгізу құрылғыларынан алынған нақты уақыттағы деректерді ғана пайдаланады.
Нәтижесінде, TinyML машиналық оқыту моделі өте берік және жылдар өткеннен кейін немесе ешқашан қайта оқытылмағаннан кейін қайта оқуға қабілетті болуы керек. Модель ұзақ уақыт бойы, ең дұрысы шексіз уақыт бойы өзекті болып қалатындай, барлық ықтимал үлгіні жеткіліксіз және артық орнату зерттелуі керек.
Бірақ неге TinyML пайдалану керек?
TinyML IoT-тің негізгі шағын масштабтағы бұлттық қызметтерге тәуелділігін жою немесе азайту әрекеті ретінде басталды. машина оқыту операциялар. Бұл шеткі құрылғыларда машиналық оқыту үлгілерін пайдалануды қажет етті. Ол келесі негізгі артықшылықтарды береді:
- Аз қуатты тұтыну: TinyML қолданбасы 1 милливатттан аз қуатты пайдалануы керек. Осындай төмен қуатты тұтыну кезінде құрылғы, тіпті тиын батареясынан қуат алса да, айлар немесе жылдар бойы сенсор деректерінен қорытынды шығаруды жалғастыра алады.
- Төмен шығындар: Ол арзан 32-биттік микроконтроллерлерде немесе DSP құрылғыларында жұмыс істеуге арналған. Бұл микроконтроллерлердің әрқайсысы әдетте бірнеше центтен тұрады және олармен әзірленген жалпы енгізілген жүйе 50 доллардан аз. Бұл кішігірім машиналық оқыту бағдарламаларын кең ауқымда іске қосудың өте үнемді нұсқасы және ол әсіресе машиналық оқытуды қолдану қажет болатын IoT қолданбаларында тиімді.
- Төменгі кідіріс: Оның қолданбаларының кідіріс уақыты төмен, өйткені оларға желі арқылы деректерді тасымалдау немесе алмасу қажет емес. Барлық сенсор деректері жергілікті түрде жазылады, ал қорытындылар бұрыннан оқытылған үлгі арқылы жасалады. Қорытындылардың нәтижелері журналға жазу немесе қосымша өңдеу үшін серверге немесе бұлтқа жіберілуі мүмкін, бірақ бұл құрылғының жұмыс істеуі үшін маңызды емес. Бұл желінің кешігуін азайтады және бұлтта немесе серверде орындалатын машиналық оқыту әрекеттерінің қажеттілігін жояды.
- Құпиялық: Бұл интернетте және заттардың интернетінде маңызды мәселе. TinyML қолданбаларындағы машиналық оқыту жұмысы сенсор/пайдаланушы деректерін серверге/бұлтқа сақтамай немесе жібермей жергілікті түрде орындалады. Нәтижесінде, желіге қосылған болса да, бұл қолданбаларды пайдалану қауіпсіз және құпиялылыққа қауіп төндірмейді.
Бағдарламалар
- Ауыл шаруашылығы – қашан фермерлер өсімдікті суретке түсіреді, TensorFlow Lite қолданбасы ондағы ауруларды анықтайды. Ол кез келген құрылғыда жұмыс істейді және интернет байланысын қажет етпейді. Процедура ауылшаруашылық мүдделерін қорғайды және ауыл фермерлері үшін маңызды қажеттілік болып табылады.
- Механикаға техникалық қызмет көрсету – TinyML қуаты аз құрылғыларда пайдаланылған кезде құрылғыдағы кемшіліктерді үнемі анықтай алады. Ол болжамға негізделген техникалық қызмет көрсетуді талап етеді. Австралиялық стартап Ping Services турбинаның сыртына бекіту арқылы жел турбиналарын бақылайтын IoT гаджетін ұсынды. Кез келген ықтимал ақаулық немесе ақаулық анықталған кезде ол билік органдарына хабарлайды.
- Ауруханалар – The Solar Scare - бұл жоба. Денге және безгек сияқты аурулардың таралуын тоқтату үшін москит TinyML пайдаланады. Ол күн энергиясымен жұмыс істейді және масалардың көбеюін тежеу үшін суға сигнал бермес бұрын масалардың көбею жағдайларын анықтайды.
- Жол қозғалысын қадағалау – By нақты уақыттағы трафик деректерін жинайтын сенсорларға TinyML қолдану арқылы біз оларды трафикті жақсырақ бағыттау және апаттық көліктерге жауап беру уақытын қысқарту үшін пайдалана аламыз. Мысалы, Swim.AI жолаушылар қауіпсіздігін арттыру, сонымен қатар смарт маршруттау арқылы кептеліс пен шығарындыларды азайту үшін деректерді ағынмен жіберуде осы технологияны пайдаланады.
- заң: TinyML құқық қорғау органдарында машинаны оқыту және қимылдарды тану арқылы тәртіпсіздік және ұрлық сияқты заңсыз әрекеттерді анықтау үшін пайдаланылуы мүмкін. Ұқсас бағдарлама банк банкоматтарын қорғау үшін де пайдаланылуы мүмкін. Пайдаланушы әрекетін бақылай отырып, TinyML моделі пайдаланушы транзакцияны аяқтап жатқан нақты тұтынушы немесе банкоматты бұзуға немесе жоюға әрекеттенетін зиянкес екенін болжауы мүмкін.
TinyML-ді қалай бастау керек?
TensorFlow Lite жүйесінде TinyML қолданбасын бастау үшін сізге үйлесімді микроконтроллер тақтасы қажет. Микроконтроллерлерге арналған TensorFlow Lite төменде тізімделген микроконтроллерлерді қолдайды.
- Wio терминалы: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI әзірлеу тақтасы
- STM32F746 табу жинағы
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM бағдарламалық құралды әзірлеу платформасы
- Sony Express
- Arduino Nano 33 BLE Sense
- SparkFun Edge
- Микроконтроллерлер жинағы үшін Adafruit TensorFlow Lite
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Бұл 32-биттік микроконтроллерлер, машиналық оқыту моделін орындау үшін жеткілікті флэш жады, жедел жады және тактілік жиілігі бар. Тақталарда кез келген ендірілген бағдарламаны іске қосуға және мақсатты қолданбаға машиналық оқыту үлгілерін қолдануға қабілетті бірқатар борттық сенсорлар бар. Кімге машиналық оқыту моделін құру, сізге аппараттық платформаға қосымша ноутбук немесе компьютер қажет болады.
Әрбір аппараттық платформада микроконтроллерлерге арналған TensorFlow Lite пакетін пайдаланатын машиналық оқыту үлгілерін құру, оқыту және тасымалдау үшін жеке бағдарламалау құралдары бар. TensorFlow Lite тегін пайдалануға және өзгертуге болады, себебі ол ашық бастапқы.
TinyML және TensorFlow Lite қолданбаларын бастау үшін жоғарыда аталған ендірілген аппараттық платформалардың бірі, компьютер/ноутбук, USB кабелі, USB-ден серияға түрлендіргіші және ендірілген жүйелермен машиналық оқытуды үйренуге деген ұмтылыс жеткілікті. .
шақырулар
TinyML прогресі көптеген оң нәтижелер бергенімен, машиналық оқыту индустриясы әлі де айтарлықтай кедергілерге тап болады.
- Бағдарламалық қамтамасыз етудің әртүрлілігі – Қолмен кодтау, кодты генерациялау және ML интерпретаторлары үлгілерді TinyML құрылғыларында орналастырудың барлық опциялары болып табылады және әрқайсысы әртүрлі уақыт пен күш жұмсайды. Осының нәтижесінде әртүрлі спектакльдер пайда болуы мүмкін.
- Аппараттық әртүрлілік – Онда бірнеше аппараттық опциялар қолжетімді. TinyML платформалары жалпы мақсаттағы микроконтроллерлерден ең озық нейрондық процессорларға дейін кез келген нәрсе болуы мүмкін. Бұл әртүрлі архитектуралар бойынша үлгіні орналастыру мәселелерін тудырады.
- Ақаулықтарды жою/отладтау – Қашан ML үлгісі бұлтта нашар жұмыс істейді, деректерді қарап шығу және ненің дұрыс емес екенін анықтау оңай. Модель мыңдаған TinyML құрылғыларына таралғанда, деректер ағыны бұлтқа қайтарылмаса, жөндеу қиынға соғады және басқа әдісті қажет етуі мүмкін.
- Жад шектеулері – Дәстүрлі смартфондар мен ноутбуктер сияқты платформалар гигабайт жедел жадты қажет етеді, ал TinyML құрылғылары килобайттарды немесе мегабайттарды пайдаланады. Нәтижесінде, қолдануға болатын үлгі өлшемі шектеулі.
- Үлгілік оқыту – Дегенмен TinyML құрылғыларында ML үлгілерін қолданудың бірнеше артықшылығы бар, ML үлгілерінің негізгі бөлігі үлгі дәлдігін қайталау және үздіксіз жақсарту үшін әлі де бұлтта оқытылады.
Келешек
TinyML өзінің шағын көлемімен, батареяны аз тұтынуымен және интернет қосылымының жоқтығымен немесе шектеулі тәуелділігімен болашақта орасан зор әлеуетке ие. жасанды интеллект шеткі құрылғыларда немесе тәуелсіз кірістірілген гаджеттерде орындалады.
Ол IoT қолданбаларын пайдалану арқылы оларды жеке және қауіпсіз етеді. Дегенмен TensorFlow Қазіргі уақытта Lite микроконтроллерлер мен микрокомпьютерлер үшін машиналық оқытудың жалғыз негізі болып табылады, сенсор және ARM CMSIS-NN сияқты басқа салыстырмалы құрылымдар жұмыс істеуде.
TensorFlow Lite Google командасымен керемет бастау алған ашық бастапқы жоба болып табылады, бірақ ол негізгі ағымға ену үшін әлі де қауымдастықтың қолдауын қажет етеді.
қорытынды
TinyML - енгізілген жүйелерді машиналық оқытумен біріктіретін жаңа тәсіл. Тар AI көптеген вертикалдар мен домендерде шыңына жеткендіктен, технология машиналық оқыту мен жасанды интеллекттің көрнекті қосалқы саласы ретінде пайда болуы мүмкін.
Ол IoT секторы мен көптеген доменге тән пәндерге машиналық оқытуды қолданатын мамандар тап болып отырған көптеген қиындықтардың шешімін ұсынады.
Автоматты оқытуды пайдалану тұжырымдамасы шағын есептеуіштері бар шеткі құрылғылар ізі мен қуат тұтынуы енгізілген жүйелер мен робототехниканың жасалу жолын айтарлықтай өзгерту мүмкіндігіне ие.
пікір қалдыру